Co přináší nově schválený Akt EU o umělé inteligenci

Toto nařízení je přímo zavazujícím unijním předpisem, který stanoví jasné povinnosti členským státům, organizacím i jednotlivcům při uvádění produktů či služeb využívajících AI na unijní trh, resp. využívání těchto systémů v rámci EU bez ohledu na to, kde jsou systémy vyvíjeny nebo nasazovány. Po tomto schválení vstupuje Akt o umělé inteligenci v platnost zveřejněním v Úředním věstníku Evropské unie. Měl by se začít uplatňovat dva roky po vstupu v platnost s výjimkou některých zvláštních ustanovení, která začnou platit dříve.

Jeho hlavní význam spočívá v tom, že vymezuje odpovědnost států, firem i jednotlivců v souvislosti s využíváním AI. Stanoví jim povinnosti, které musí dodržovat, i sankce v případě jejich porušení. Povinnosti organizací budou záviset na míře rizika, které určitý systém využívající AI představuje pro ochranu zdraví, bezpečnosti a základních práv zakotvených v Listině základních práv Evropské unie, a to v celém hodnotovém řetězci na trhu zahrnujícím i dovozce a distributory systémů AI. Pro účely povolování systémů s AI na jednotném trhu EU jsou tyto rozděleny do čtyř kategorií dle míry rizika, které jejich využití představuje či může představovat:

• Minimální nebo žádná rizika – převážná většina systémů AI nepředstavuje rizika, a proto mohou být i nadále používány a nebudou regulovány ani ovlivněny zákonem EU o AI.
• Omezená rizika – na systémy AI, které představují pouze omezená rizika, se budou vztahovat velmi mírné povinnosti týkající se transparentnosti, jako je zveřejnění informace, že jejich obsah byl vytvořen AI, aby uživatelé mohli činit informovaná rozhodnutí ohledně dalšího používání.
• Vysoká rizika – řada systémů využívajících AI s vysokým rizikem bude povolena, avšak budou podléhat souboru požadavků a povinností potřebných pro získání jejich přístupu na trh EU. Sem patří například kritická infrastruktura (řízení dopravy), vzdělávání (bodování zkoušek, které může určovat přístup ke vzdělání či průběh profesního života) nebo bezpečnostní komponenty výrobků (aplikace AI v chirurgii podporované roboty).
• Nepřijatelná rizika – u některých způsobů využití AI považuje Akt o AI rizika za nepřijatelná, takže tyto systémy budou v EU zakázány.

Které systémy AI budou zakázány

Mezi zakázané systémy využívající AI patří využití AI pro kognitivně behaviorální manipulace (s využitím konverzační AI jako podpůrného terapeutického nástroje pro zvládání úzkostných stavů pacientů), prediktivní policejní systémy (prediktivní neuronové sítě k identifikaci potenciálních pachatelů nebezpečných trestných činů policií), programy na rozpoznávání emocí na pracovišti a ve vzdělávacích institucích, tzv. social scoring (biometrická kategorizace jedinců s cílem vyvodit jejich politické názory, rasu, náboženskou víru či sexuální orientaci).

Až na omezené výjimky budou zakázány také systémy pro identifikaci na dálku pomocí biometrických údajů, jako je například rozpoznávání obličeje.

Povinnosti a odpovědnost subjektů podle Aktu o AI

V závislosti na klasifikaci rizikovosti systémů AI budou mít organizace určitou míru povinností a z ní plynoucí rozsah odpovědnosti. Nejrozsáhlejší požadavky se budou týkat poskytovatelů systémů AI klasifikovaných jako „vysoce rizikové“, jakož i systémů AI pro obecné použití, u nichž bylo stanoveno, že mají velký dopad nebo představují „systémové riziko“. Tyto organizace tak budou odpovídat zejména 1. Registraci jakéhokoliv použití nového produktu využívajícího AI ve veřejné databázi EU, kterou spravuje Evropská komise, před jeho uvedením na trh nebo do provozu. 2. Přijetí vhodných a cílených opatření k řízení rizik s cílem zmírnit zjištěná rizika pro případy použití AI. 3. Zajištění přesnosti, spolehlivosti a kybernetické bezpečnosti v průběhu celého životního cyklu systémů AI. 4. Hlášení incidentů – provozovatelé vysoce rizikových systémů AI uváděných na trh Evropské unie musí hlásit každý „závažný incident“ orgánům dozoru nad trhem členského státu EU, kde k němu došlo.

Pokuty za porušení povinností a závazků

O přímé závaznosti a vymahatelnosti závazků, které ukládá Akt o AI, svědčí jeho ustanovení obsahující sankce. Pokuty hrozí organizacím dle nařízení EU za nedodržení zákazu používání nedovolené AI, kdy výše pokuty může dosáhnout až sedmi procent celkového celosvětového ročního obratu za předchozí finanční rok nebo 35 milionů EUR (podle toho, která částka je vyšší). Nerespektování většiny ostatních zákazů uložených pro použití systémů AI v Aktu o AI, kdy výše pokuty může dosáhnout až tří procent celkového celosvětového ročního obratu za předchozí finanční rok nebo 15 milionů EUR (podle toho, která částka je vyšší). Poskytnutí nesprávných, neúplných nebo zavádějících informací v rámci povinných hlášení poskytovaných orgánům EU či příslušným vnitrostátním orgánům, jež si tyto mohou vyžádat, kdy pokuta může dosáhnout až 1,5 procenta celkového celosvětového ročního obratu nebo 7,5 milionu EUR (podle toho, která částka je vyšší).

Ve lhůtě dvou let ode dne nabytí platnosti Aktu o AI musí všechny členské státy zavést tyto sankce do svých národních právních řádů a oznámit pravidla pro jejich ukládání Komisi EU.

doc. JUDr. Martin Janků, CSc., katedra práva Provozně ekonomické fakulty ČZU v Praze