Společnosti v Česku, které vyvíjejí nebo zavádějí umělou inteligenci ve firmách, musí pro své zaměstnance zajistit dostatečnou úroveň dovedností a chápání systémů AI. V České republice přitom zatím neexistuje žádný orgán, který by tento článek evropského nařízení o AI vymáhal, uvedl ředitel České asociace umělé inteligence Lukáš Benzl.
Sankční ustanovení AI Actu začnou platit od 2. srpna letošního roku a pokuty za AI negramotnost neobsahují. Přesto může být podle Lukáše Benzla nízká úroveň AI gramotnosti v budoucnu přitěžující okolností při posuzování dodržování dalších povinností. Nové unijní nařízení zavádí od února první souhrnná pravidla pro regulaci umělé inteligence. Je například zakázáno používat programy umělé inteligence, které provádějí hodnocení na základě sociálního chování. To znamená, že lidé by mohli být rozděleni do kategorií podle chování a odměňováni nebo trestáni.
Firmy by podle Benzla ale neměly bezmyšlenkovitě platit za nabídky webinářů a certifikátů, které se v poslední době objevily. „Univerzální kurzy a instantní certifikáty nemají žádnou oficiální platnost a nejsou nutné,“ řekl Lukáš Benzl.
Pochopení fungování AI systémů a souvisejících právních aspektů
AI gramotnost je podle Lukáše Benzla důležitá, ale je třeba ji řešit s rozvahou a podle reálných potřeb. Firmy, které AI využívají, by se měly soustředit na pochopení fungování těchto systémů a souvisejících právních aspektů. Zvláštní pozornost by tomu měly věnovat zejména organizace, které vyvíjejí nebo zavádějí vysoce rizikové AI systémy. Právě pro ně budou platit přísnější požadavky, včetně nutnosti zajištění lidského dohledu nad výstupy těchto technologií.
Asociace ve spolupráci s advokátní kanceláří Legitas připravuje přehled, který firmám pomůže zorientovat se v požadavcích AI Act a zavádět opatření odpovídající jejich konkrétním potřebám. Místo paniky je vhodnější přistoupit k problematice systematicky a s odbornou podporou, radí.
Podle nového unijního nařízení by také nemělo být povoleno rozpoznávání obličeje na veřejných místech, například prostřednictvím kamerového systému. Existují však výjimky: policii a dalším bezpečnostním orgánům může být umožněno používat rozpoznávání obličejů za účelem stíhání některých trestných činů, jako je obchodování s lidmi a terorismus.
Zdroj: ČTK
Foto: pixabay.com
