Na začátku února tohoto roku vstoupila v účinnost první část nového evropského nařízení známého jako AI Act, které začalo platit loni v srpnu.

Účinnosti bude AI Act nabývat ve třech postupných fázích následovně:

1. Od 2. února 2025 začla být účinná obecná ustanovení AI Actu a zákaz využití AI v některých oblastech představujících neakceptovatelné (zákaz manipulace lidí, jejich automatického hodnocení na základě chování (tzv. sociální skórování), plošné snímání a rozpoznávání obličejů apod.).
2. Pravidla týkající se vysoce rizikových AI modelů začnou být účinná od 2. srpna 2025.
3. Zbývající část, včetně pravidel pro řízení rizik, dokumentaci, kontrolu kvality atd., budou účinné od 2. srpna 2026.

Mezi obecnými ustanoveními kapitoly I., která jsou účinná již od 2. února 2025, je však zařazen mimo jiné také čl. 4, který stanoví povinnost všem tzv. zavádějícím subjektům přijímat opatření k zajištění maximální možné míry gramotnosti. Tato opatření se mají týkat všech osob, které se jménem zavádějících subjektů zabývají provozem a používáním systémů AI. Přijímaná opatření pak mají reflektovat technické znalosti, zkušenosti, vzdělání a odbornou přípravu těchto osob. Mají být také přizpůsobena prostředí, v němž mají být systémy AI používány.

Zavádějícími subjekty jsou firmy, jejichž zaměstnanci k práci využívají nástroje typu ChatGPT, Microsoft Copilot, Google Gemini, DeepL nebo DALL·E. Povinnost „přijmout opatření“ tak nemají ti, kdo umělou inteligenci svým zaměstnancům k práci používat výslovně zakazují nebo ti, u nichž to je z povahy věci vyloučeno.

Všichni ostatní budou povinni přijmout přiměřená opatření k tomu, aby v důsledku používání AI nástrojů ze strany jejich zaměstnanců nedocházelo k nesprávné interpretaci výstupů, minimalizaci vzniku chyb, ochraně soukromých a osobních údajů, a třeba i k předcházení diskriminace.

Je důležité uvědomit si, že za incidenty a chyby vzniklé v důsledku nesprávného použití AI nástrojů odpovídá vždy primárně zaměstnavatel. Další závěr, který vyplývá z výše uvedené definice příslušné povinnosti „přijmout opatření“, je ten, že je potřeba důkladně zvažovat, jak by měla konkrétní opatření právě ve Vaší firmě vypadat a co vše by měla obsahovat, aby bylo dosaženo optimálního výsledku. Zcela jistě bude zapotřebí jiný obsah a úroveň školení pro zaměstnance na běžné administrativní pozici, který je běžným uživatelem kancelářského softwaru, a jiný u analytiků kybernetické bezpečnosti. Školení by však vždy mělo obsahovat nejen základní přehled k použití dovolených nástrojů a jejich technické parametry, ale i technické, právní a etické aspekty používání umělé inteligence.

Ačkoliv nyní ještě není zřejmé, kdo přesně bude tuto povinnost v České republice vymáhat, je jisté, že od srpna tohoto roku budou, kromě případné odpovědnosti za způsobenou škodu, hrozit i poměrně vysoké pokuty za její nesplnění – až 35 milionů EUR nebo 7% z celosvětového ročního obratu společnosti.

Ozvěte se nám a společně zajistíme, aby vaše firma splnila nové požadavky AI Actu bez zbytečných komplikací.