EU AI Act: Nové směrnice pro transparentnost mění pravidla pro generativní AI

Evropský parlament schválil zákon o umělé inteligenci (EU AI Act) už v březnu 2024, ale teprve nyní se dostáváme k jeho plné implementaci. Dne 20. července 2026 Evropská komise zveřejnila podrobné směrnice, které mají pomoci firmám a organizacím plnit transparentnostní povinnosti vyplývající z článku 50 AI Actu. Tyto povinnosti vstupují v platnost už 2. srpna 2026 a představují zásadní změnu pro každého, kdo pracuje s generativní nebo interaktivní umělou inteligencí.

Směrnice přicházejí v době, kdy se globální trh s AI modely a platformami má podle Gartneru v roce 2026 rozrůst o 63 % na 64 miliard dolarů, přičemž se klade stále větší důraz na efektivitu využití a kontrolu nákladů. S tímto růstem roste i potřeba jasných pravidel, která zajistí důvěryhodnost a bezpečnost AI systémů.

Co jsou transparentnostní povinnosti podle AI Actu?

Článek 50 AI Actu se zaměřuje na transparentnost a má za cíl zajistit, aby uživatelé věděli, když interagují s AI systémem, nebo když je obsah generován či manipulován umělou inteligencí. Konkrétně se jedná o následující:

1. Označování AI-generovaného obsahu: Poskytovatelé generativních AI systémů musí zajistit, aby veškerý výstup, jako jsou texty, obrázky, audio nebo video, byl jasně označen jako generovaný AI. To zahrnuje strojově čitelné značky (vodoznaky, metadata) a lidsky čitelné indikátory.
2. Informování uživatelů o interakci s AI: Pokud systém AI přímo interaguje s lidmi (například chatboty nebo virtuální asistenti), musí uživatelé být zřetelně informováni o tom, že komunikují s umělou inteligencí, nikoli s člověkem.
3. Zveřejnění informací o tréninkových datech: Pro modely umělé inteligence s obecným účelem (GPAI) existuje povinnost zveřejnit podrobné souhrny dat použitých pro trénování.

Cílem je zamezit klamání, manipulaci a šíření dezinformací, které by mohly vážně poškodit jednotlivce i společnost.

Koho se nové směrnice týkají?

Směrnice se vztahují na poskytovatele i uživatele (deployers) určitých AI systémů. To znamená, že pokud vaše firma vyvíjí a nabízí generativní AI nástroje, nebo je implementuje do svých procesů (například pro tvorbu marketingových materiálů, zákaznickou podporu, nebo interaktivní webové prvky), musíte se těmito pravidly řídit.

Mezi klíčové pojmy definované ve směrnicích patří:

• Interaktivní AI systémy: Systémy, které komunikují s lidmi, jako jsou chatboty, virtuální asistenti, nebo AI v zákaznické podpoře.
• Syntetický obsah: Obsah, který byl generován nebo významně změněn AI, včetně deepfakes.

Existují i výjimky, například standardní úpravy obsahu, které nemění jeho podstatu, nepodléhají povinnému označování.

Jak prokázat soulad s AI Actem?

Firmy mohou prokázat soulad s transparentnostními povinnostmi několika způsoby. Jedním z nich je dodržování Kodexu správné praxe pro transparentnost AI-generovaného obsahu. Pokud se firma rozhodne tento kodex nedodržovat, musí prokázat soulad s povinnostmi označování a štítkování AI-generovaného obsahu jinými, stejně adekvátními prostředky. Pro ostatní transparentnostní povinnosti (např. interakce s AI systémy) si poskytovatelé a uživatelé mohou určit adekvátní opatření sami, s ohledem na vydané směrnice.

Praktické dopady pro české firmy

Pro české firmy, které se chtějí pohybovat v souladu s evropskou legislativou a zároveň efektivně využívat potenciál AI, to znamená několik klíčových kroků:

• Interní audity a procesy: Je nezbytné provést audit stávajících AI systémů a procesů, které generují obsah nebo interagují s uživateli. Je potřeba zavést jasné interní směrnice pro označování AI-generovaného obsahu a pro informování uživatelů.
• Technologická implementace: Firmy musí zajistit, že jejich systémy jsou technicky schopny přidávat strojově čitelné značky (např. digitální vodoznaky nebo metadata) k AI-generovanému obsahu. To může vyžadovat aktualizace softwaru nebo integraci nových nástrojů.
• Školení zaměstnanců: Všichni relevantní zaměstnanci, od marketingových specialistů po vývojáře, musí být seznámeni s novými pravidly a vědět, jak je v praxi aplikovat.
• Příležitost k budování důvěry: Transparentnost není jen povinnost, ale také příležitost. Firmy, které proaktivně a srozumitelně informují o použití AI, mohou posílit důvěru zákazníků a odlišit se od konkurence.

Zatímco 80 % firemních aplikací dnes obsahuje AI agenty, pouze 31 % z nich je skutečně v produkci. Tento 'rozdíl ve výrobě' často pramení z nedostatku robustních procesů a governance, které jsou nyní s AI Actem ještě kritičtější. Platformy pro vývoj AI agentů, jako je one-AI-agent, se zaměřují na řešení těchto problémů tím, že poskytují nástroje pro řízení životního cyklu AI agentů, včetně testování, nasazení a správy, což pomáhá překlenout propast mezi vývojem a bezpečným provozem v produkci.

Budoucnost AI regulace

Transparentnostní povinnosti jsou jen jednou z fází implementace AI Actu. Další části, jako jsou přísnější požadavky na vysoce rizikové systémy, budou následovat v prosinci 2027 a srpnu 2028. Nicméně, už od 2. srpna 2026 se plně uplatňují pravomoci vynucování pro obecné účely AI a režim plných sankcí. To podtrhuje naléhavost pro firmy, aby se na tyto změny připravily již nyní.

Závěr

Nové směrnice Evropské komise k transparentnosti AI Act představují významný krok k zodpovědnému využívání umělé inteligence. Pro firmy v České republice i po celé Evropě je to jasný signál: transparentnost v AI není volitelná, ale povinná. Proaktivní přístup k implementaci těchto pravidel nejen zajistí soulad s legislativou, ale také posílí důvěru zákazníků a pomůže budovat udržitelnou budoucnost pro AI.