Akt o umělé inteligenci (AI Act) podruhé. Jsou vaše postupy v souladu s novými pravidly?

Nedodržení pravidel stanovených AI Actem může vést k citelným sankcím. Pokud jste tak ještě neučinili, je nejvyšší čas se s těmito požadavky detailně seznámit a zajistit jejich plnění.

Tento článek slouží přehled hlavních změn, které nás čekají v rámci dalšího významného balíčku pravidel, který vstupuje v účinnost 2. srpna 2025. Regulačním podmínkám, které nabyly účinnosti již začátkem února toho roku, jsme se věnovali v článku AI Act: Nezmeškejte klíčové změny v regulaci umělé inteligence.

PŘIPOMEŇME SI - CO JE AI ACT?

AI Act představuje průlomovou legislativní iniciativu Evropské unie, která si klade za cíl komplexně regulovat oblast umělé inteligence. Jedná se o první právní rámec svého druhu na světě, který stanovuje jednotná pravidla pro vývoj, uvádění na trh a používání AI systémů ve všech členských státech EU.

Cílem tohoto nařízení je podpořit rozvoj a využívání AI v Evropě, a současně minimalizovat rizika spojená s jejími potenciálními negativními dopady. AI Act se zaměřuje na zajištění bezpečnosti a ochrany základních práv občanů EU a na podporu inovací a konkurenceschopnosti evropského trhu s AI.

AI Act byl přijat 13. června 2024 a vstoupil v platnost 1. srpna 2024. Účinnost jednotlivých ustanovení tohoto nařízení je zaváděna postupně, přičemž se předpokládá, že většina ustanovení bude plně účinná od roku 2026. 

AI Act dělí AI systémy do několika kategorií podle míry rizika, které představují:

• Nepřijatelné riziko: Systémy AI, které představují jasné ohrožení pro bezpečnost, živobytí a práva lidí, jsou zakázány.
• Vysoké riziko: Systémy AI v oblastech, jako je zdravotnictví, doprava a vzdělávání, podléhají přísným požadavkům.
• Omezené riziko: Systémy AI, jako jsou chatboty, podléhají specifickým požadavkům na transparentnost.

Minimální nebo žádné riziko: Systémy AI s minimálním nebo žádným rizikem nejsou regulovány.

NA KOHO DOPADÁ AI ACT?

AI Act se vztahuje na všechny právnické i fyzické osoby a orgány veřejné moci, které zejména:

• Vyvíjejí, poskytují či provozují AI systémy.
• Dovážejí či distribuují AI systémy.
• Používají AI systémy v rámci své profesionální činnosti.

Regulace se týká subjektů v EU i mimo EU, pokud je výstup jejich AI systému užíván v EU.

CO NÁS ČEKÁ OD 2. SRPNA 2025?

S účinností od 2. srpna 2025, v souladu s článkem 113(b) AI Actu, dojde k dalšímu významnému rozšíření aplikovatelných ustanovení. Mezi nejdůležitější změny patří zejména:

• Plná účinnost pravidel pro vysoce rizikové AI systémy: kromě již platných ustanovení začnou naplno platit komplexní požadavky na systémy AI, které mohou představovat vysoké riziko pro zdraví, bezpečnost nebo základní práva osob. To se týká například oblastí kritické infrastruktury, vzdělávání, zaměstnanosti, zdravotnictví a vymáhání práva. Organizace budou muset zajistit řízení rizik, kvalitu dat, dokumentaci, transparentnost, lidský dohled a kybernetickou bezpečnost.

• Modely AI pro všeobecné účely: začnou se uplatňovat specifické povinnosti pro poskytovatele těchto základních modelů, na kterých mohou být postaveny další AI systémy. Tyto povinnosti se týkají zejména transparentnosti ohledně trénovacích dat, poskytování dokumentace a dodržování politiky autorského práva EU.

• Notifikované osoby: Začnou platit pravidla pro subjekty posuzování shody, které budou oprávněny posuzovat shodu vysoce rizikových systémů AI. Členské státy určí orgány odpovědné za posuzování, jmenování a kontrolu těchto subjektů, které musí být nezávislé a mít kvalifikované pracovníky. Subjekty posuzování shody musí splňovat organizační požadavky a požadavky na řízení kvality, být nezávislé a objektivní a zavést postupy pro zajištění důvěrnosti informací. Oznamující orgány budou oznamovat subjekty Komisi, která má právo způsobilost subjektů přezkoumat a v případě nesplnění požadavků přijmout nápravná opatření.

• Správa a řízení: Plně se uplatní ustanovení týkající se celkového rámce správy a dohledu nad dodržováním AI Actu. To zahrnuje plné fungování Evropského úřadu pro AI, který bude hrát klíčovou roli v koordinaci dohledu a vydávání pokynů, a povinnost členských států určit a zřídit národní dozorové orgány odpovědné za monitorování a prosazování AI Actu.

• Důvěrnost: V účinnost vstupují specifická pravidla pro ochranu důvěrných informací a obchodního tajemství získaných při uplatňování a prosazování tohoto nařízení.

• Uplatňování sankcí: Ačkoliv principy a výše možných sankcí jsou již známy, od tohoto data se plně aktivuje právní základ a procesní rámec pro jejich ukládání národními dozorovými orgány.

SANKCE ZA PORUŠENÍ AI ACTU

Členské státy stanoví pravidla pro sankce a další donucovací opatření, která mohou zahrnovat i varování a nepeněžní opatření za porušení AI Actu. 

Výše správních pokut může dosáhnout následujících částek:

• Až 35 000 000 EUR nebo 7 % celosvětového ročního obratu společnosti za předchozí finanční rok, podle toho, která částka je vyšší, za nedodržení zákazu praktik AI uvedených v článku 5 AI Actu.

• Až 15 000 000 EUR nebo 3 % celosvětového ročního obratu společnosti za předchozí finanční rok, podle toho, která částka je vyšší, za nedodržení povinností poskytovatelů vysoce rizikových systémů AI, povinností zplnomocněných zástupců, dovozců, distributorů, zavádějících subjektů, požadavků a povinností notifikovaných osob a povinností transparentnosti pro poskytovatele a zavádějící subjekty.

• Až 7 500 000 EUR nebo 1 % celosvětového ročního obratu společnosti za předchozí finanční rok, podle toho, která částka je vyšší, za poskytnutí nesprávných, neúplných nebo zavádějících informací notifikovaným osobám nebo příslušným vnitrostátním orgánům v reakci na žádost.

Důležité aspekty ukládání pokut:

• Pro malé a střední podniky a startupy bude každá pokuta činit maximálně nižší z uvedených procentních sazeb nebo absolutních částek.

• Při rozhodování o uložení a výši pokuty se zohlední všechny relevantní okolnosti konkrétního případu, jako je povaha, závažnost a doba trvání porušení, počet dotčených osob, úmysl či nedbalost, přijatá opatření k nápravě, míra spolupráce s orgány, velikost podniku a další.

• Každý členský stát stanoví pravidla, do jaké míry mohou být správní pokuty uloženy orgánům veřejné moci a veřejnoprávním subjektům usazeným v daném členském státě.

• Dozor budou zajišťovat národní orgány členských států, jejichž určení se očekává do 2. srpna 2025, které budou mít pravomoc ukládat sankce. Tyto orgány budou jednat v koordinaci s Evropskou komisí a Evropským úřadem pro AI.

• Uplatňování pravomocí podléhá vhodným procesním zárukám v souladu s unijním a vnitrostátním právem, včetně účinných soudních prostředků nápravy a řádného procesu.

CO UDĚLAT HNED?

• Prověřte využívání AI systémů ve vaší společnosti: Identifikujte, kde a jak AI používáte nebo plánujete používat, a klasifikujte tyto systémy podle míry rizika. Tento krok je zásadní pro určení, které konkrétní povinnosti se na vás vztahují.

• Zaveďte nebo aktualizujte systém řízení rizik spojených s AI: Zaměřte se zejména na vysoce rizikové systémy AI, které vyžadují robustní mechanismy pro minimalizaci potenciálních negativních dopadů.

• Zajistěte školení zaměstnanců: Ujistěte se, že vaši lidé rozumí AI gramotnosti a jsou si vědomi rizik i pravidel relevantních pro jejich práci. Pravidelné vzdělávání je klíčové pro zajištění souladu s AI Actem a etického používání AI.

• Veďte a kontrolujte dokumentaci: Prokazatelně dokumentujte přijatá opatření, klasifikaci systémů, řízení rizik, provedená školení a další požadavky AI Actu. Důkladná dokumentace je nezbytná pro prokázání souladu a minimalizaci právních rizik.

• Průběžně sledujte aktuální informace: Legislativa a její výklad se budou dále vyvíjet. Sledujte publikace dozorových orgánů a Evropského úřadu pro AI. Za zmínku stojí například tzv. “živý repozitář praktik AI gramotnosti”, který vydává Evropský úřad pro AI a ve kterém společnosti z celé EU sdílí své zkušenosti a praktiky na poli AI gramotnosti.

JAK VÁM MŮŽEME POMOCI?

Naše advokátní kancelář vám nabízí komplexní právní podporu, abyste se mohli soustředit na své podnikání s jistotou, že splňujete všechny regulatorní požadavky.

Zajímají vás podrobnosti? Neváhejte nás kontaktovat k prodiskutování Vašich konkrétních potřeb.

* Obrázek v úvodu článku byl vytvořen pomocí AI.