EU AI Act: Co znamená 2. srpen 2026 pro firmy s rizikovou a generativní AI?

Evropský parlament schválil nařízení o umělé inteligenci (EU AI Act) už v březnu 2024, ale plná účinnost většiny jeho klíčových ustanovení nastává až 2. srpna 2026. Toto datum představuje zlomový okamžik pro každou firmu, která v Evropské unii vyvíjí, nasazuje nebo používá systémy umělé inteligence, zejména ty klasifikované jako „vysoce rizikové“ a ty, které generují obsah. Doba na přípravu se krátí a je nezbytné pochopit, co přesně to pro vás znamená.

Co je „vysoce riziková“ AI a proč na ní záleží?

EU AI Act zavádí čtyřstupňový přístup k riziku, od minimálního po nepřijatelné. Nejpřísnější regulaci podléhají systémy klasifikované jako „vysoce rizikové“. Tyto systémy jsou definovány na základě jejich potenciálního dopadu na zdraví, bezpečnost a základní práva jednotlivců. Seznam vysoce rizikových oblastí je široký a zahrnuje například:

• Kritická infrastruktura: AI v řízení dopravy, energetiky nebo vodohospodářství, kde by selhání mohlo ohrozit životy a zdraví.
• Vzdělávání a odborná příprava: Systémy používané pro přijímání studentů, hodnocení výsledků učení nebo určování úrovně vzdělání.
• Zaměstnání: AI pro nábor, hodnocení výkonu nebo rozhodování o povýšení.
• Vymáhání práva: Systémy pro posuzování rizika spáchání trestného činu, spolehlivosti důkazů nebo pro profilování.
• Správa migrace a azylu: AI pro ověřování cestovních dokladů nebo posuzování žádostí.
• Přístup k základním soukromým a veřejným službám: Například systémy pro posuzování úvěruschopnosti.

Pokud vaše firma vyvíjí nebo používá AI v jedné z těchto kategorií, musíte splnit řadu přísných požadavků, včetně robustního systému řízení rizik, technické dokumentace, záznamů o činnosti, lidského dohledu a provedení posouzení shody před uvedením systému na trh. To není jen byrokratické cvičení – je to základ pro zajištění bezpečnosti a spolehlivosti AI.

Transparentnost generativní AI: Článek 50

Jedním z nejdalekosáhlejších ustanovení, které vstupuje v platnost 2. srpna 2026, je článek 50, který se týká transparentnosti. Ten ukládá povinnosti poskytovatelům a uživatelům určitých AI systémů, zejména těch generativních. V praxi to znamená, že:

• Informování uživatelů: Musíte jasně informovat lidi, že interagují se systémem AI (např. chatbotem), pokud to není zřejmé z kontextu.
• Označování obsahu: Výstupy generativních AI systémů (např. text, obrázky, video, audio) musí být strojově čitelně označeny jako uměle vytvořené nebo manipulované. Ačkoliv původní termín pro strojově čitelné označování byl posunut do prosince 2026, ostatní požadavky na transparentnost platí od srpna.
• Deepfakes: Pokud AI vytváří nebo manipuluje obsah, který se podobá skutečným osobám, událostem nebo objektům (deepfakes), musí být toto zřetelně uvedeno.
• Rozpoznávání emocí a biometrická kategorizace: Uživatelé musí být informováni o provozu těchto systémů.

Tyto požadavky se nevztahují pouze na vysoce rizikové systémy, ale na jakýkoli AI systém, který spadá do jedné ze čtyř uvedených transparentních situací. Cílem je snížit riziko klamání, dezinformací a zachovat důvěru v online obsah. Znamená to, že i marketingové agentury a tvůrci obsahu, kteří používají generativní AI, musí zajistit, aby jejich výstupy byly jasně označeny.

Riziko vysokých pokut a sandboxy jako záchranná síť

Nedodržení EU AI Act může mít vážné finanční důsledky. Pokuty jsou odstupňovány podle závažnosti porušení a mohou být podstatně vyšší než ty, na které jsme zvyklí z GDPR.

• Nepřijatelné praktiky AI: Až 35 milionů EUR nebo 7 % celkového ročního celosvětového obratu firmy za předchozí finanční rok, podle toho, co je vyšší.
• Porušení povinností týkajících se vysoce rizikových systémů: Až 15 milionů EUR nebo 3 % celkového ročního celosvětového obratu.
• Poskytnutí nesprávných nebo zavádějících informací: Až 7,5 milionu EUR nebo 1 % celkového ročního celosvětového obratu.

Pro malé a střední podniky (SME) platí nižší prahové hodnoty pokut. Je jasné, že tyto sankce jsou navrženy tak, aby byly odstrašující a zajistily seriózní přístup k regulaci AI. Ztráta přístupu na trh EU navíc může být pro americké firmy s významnými příjmy v Evropě větším rizikem než samotné pokuty.

Naštěstí EU nabízí nástroj, který má firmám s dodržováním předpisů pomoci: regulační sandboxy pro AI. Členské státy EU jsou povinny zřídit alespoň jeden takový sandbox do 2. srpna 2026. Tyto kontrolované prostředí umožňují vývojářům testovat a validovat inovativní AI systémy pod dohledem regulátorů, získávat zpětnou vazbu a řešit problémy s dodržováním předpisů před plným uvedením na trh. Pro startupy a SME je účast v sandboxech často zdarma.

Jak se připravit na 2. srpen 2026?

Termín se blíží a pasivita se nevyplácí. Pokud vaše firma spadá pod EU AI Act, měli byste:

1. Prověřit portfolio AI systémů: Identifikujte všechny AI systémy, které vyvíjíte, nasazujete nebo používáte, a klasifikujte je podle rizikovosti.
2. Zavést systém řízení rizik: Pro vysoce rizikové systémy je nezbytné implementovat robustní procesy pro identifikaci, hodnocení a zmírňování rizik.
3. Zajistit transparentnost: Pro generativní AI a interaktivní systémy implementujte mechanismy pro informování uživatelů a označování obsahu.
4. Dokumentace a auditní záznamy: Udržujte podrobnou technickou dokumentaci a auditní záznamy o provozu AI systémů.
5. Lidský dohled: Zajistěte, aby vysoce rizikové systémy podléhaly smysluplnému lidskému dohledu.
6. Zvážit regulační sandbox: Pokud vyvíjíte inovativní, ale potenciálně rizikovou AI, využijte možnosti testování v regulačním sandboxu.

Regulace AI je globální trend a EU AI Act nastavuje standardy, které ovlivňují celý svět. Proaktivní přístup k dodržování těchto pravidel není jen o vyhnutí se pokutám, ale o budování důvěry, etického přístupu a udržitelného rozvoje AI v praxi. V one-o-one.cz aktivně sledujeme tyto trendy a pomáháme firmám s implementací AI strategií, které jsou v souladu s novými regulacemi, například v rámci našeho projektu one-AI-agent, který se zaměřuje na etické a transparentní nasazení AI agentů.

FAQ

Q: Kdo je ovlivněn EU AI Actem? A: Nařízení se týká poskytovatelů (vývojářů), uživatelů (firem nasazujících AI), dovozců a distributorů AI systémů v EU, a také subjektů mimo EU, jejichž AI systémy mají dopad na unijní trh.

Q: Jaké jsou nejvyšší pokuty za nedodržení EU AI Act? A: Nejvyšší pokuty za porušení zákazu nepřijatelných praktik AI dosahují až 35 milionů EUR nebo 7 % celosvětového ročního obratu firmy, podle toho, co je vyšší.

Q: Co je AI regulační sandbox a k čemu slouží? A: AI regulační sandbox je kontrolované prostředí zřízené orgány členských států, kde mohou firmy testovat a validovat inovativní AI systémy pod dohledem, s cílem zajistit soulad s předpisy před plným uvedením na trh.

Q: Týkají se povinnosti transparentnosti jen vysoce rizikové AI? A: Ne, povinnosti transparentnosti podle článku 50 se vztahují na jakýkoli AI systém, který interaguje s lidmi, generuje syntetický obsah, používá rozpoznávání emocí nebo biometrickou kategorizaci, a to bez ohledu na jeho rizikovou klasifikaci.