EU AI Act: Nové povinnosti pro AI chatboty a generovaný obsah

Evropský parlament schválil 10. července 2026 klíčovou fázi vynucování nařízení o umělé inteligenci (EU AI Act), což představuje zásadní milník v regulaci AI po celém světě. Od tohoto data jsou pro podniky, které v Evropě nasazují AI systémy, závazné nové požadavky na transparentnost, zejména pro chatboty a generovaný obsah. Další důležité změny, týkající se obecných modelů umělé inteligence (GPAI), začnou platit už 2. srpna 2026.

Pro mnoho firem, které dosud s AI experimentovaly, se situace mění. Z 'experimentování' se stává 'produkce' a s ní přicházejí i konkrétní právní a finanční důsledky za nedodržení pravidel.

Co se mění od 10. července 2026: Transparentnost chatbotů a AI obsahu

Nejvýznamnější a okamžitě platná změna se týká systémů s 'omezeným rizikem', kam spadají především AI chatboty a AI-generovaný obsah. Pokud vaše firma používá AI chatbota, virtuálního asistenta nebo jakýkoli automatizovaný konverzační systém, který komunikuje s uživateli v EU, máte nyní zákonnou povinnost jasně sdělit, že uživatel interaguje s umělou inteligencí.

Konkrétní povinnosti zahrnují:

• Informování o interakci s AI: Uživatelé musí být na začátku každé interakce zřetelně a srozumitelně informováni, že komunikují s AI systémem.
• Označování AI-generovaného obsahu: Poskytovatelé AI systémů musí zajistit, aby výstupy jejich generativních AI systémů byly označeny spolehlivými a strojově čitelnými značkami, které umožňují detekci obsahu jako generovaného nebo manipulovaného AI systémem.

Tyto požadavky se nevztahují retroaktivně na obsah vytvořený před 2. srpnem 2026, ale pro označování AI-generovaného obsahu umístěného na trh před tímto datem platí omezená lhůta do 2. prosince 2026.

Co to znamená pro marketéry a firmy v praxi?

Pro marketéry a digitální agentury to není jen byrokratická zátěž, ale příležitost budovat důvěru. V době, kdy je AI-generovaný obsah všudypřítomný a spotřebitelská důvěra v AI klesá (z 57 % v roce 2023 na 46 % v roce 2024), transparentnost může být konkurenční výhodou.

• Chatboti na webech a v podpoře: Je nutné zajistit, aby každý chatbot, který komunikuje se zákazníky, jasně deklaroval svou AI povahu. To by mělo být viditelné hned na začátku konverzace, například úvodní zprávou typu: „Dobrý den, jsem virtuální asistent a rád vám pomohu.“
• AI-generované texty a obrázky: Pokud používáte AI pro tvorbu blogových příspěvků, reklamních textů, popisků produktů nebo vizuálů, musíte zajistit jejich řádné označení. To může být formou meta dat, vodoznaků nebo explicitního textového prohlášení. Týká se to zejména obsahu zveřejňovaného s cílem informovat veřejnost o záležitostech veřejného zájmu.
• Interní procesy a školení: Způsob, jakým se AI integruje do marketingových a obchodních procesů, se rychle mění. Je nezbytné proškolit týmy, aby rozuměly novým pravidlům a věděly, jak je aplikovat v praxi. To zahrnuje i audit stávajících AI nástrojů a systémů, které firma používá.

Další milník: 2. srpen 2026 a modely GPAI

Od 2. srpna 2026 se aktivují pravomoci Evropské komise pro vynucování povinností týkajících se obecných modelů umělé inteligence (General-Purpose AI models – GPAI). Tyto povinnosti platí pro poskytovatele GPAI modelů již od srpna 2025, ale teprve nyní bude mít Komise plné pravomoci k jejich vynucování a ukládání pokut, které mohou dosáhnout až 15 milionů eur nebo 3 % celosvětového ročního obratu.

I když se původně očekávalo odložení některých povinností pro vysoce rizikové systémy AI, klíčové termíny pro GPAI a transparentnost zůstaly v platnosti.

Proč je to důležité a co dělat dál?

EU AI Act má globální dopad a ovlivňuje nejen evropské, ale i americké a další mezinárodní firmy, které působí na evropském trhu.

Vidíme, že se AI přesouvá z laboratoří do produkčního nasazení. V roce 2026 jsou AI nástroje hluboce zakořeněny v kreativních pracovních postupech napříč odvětvími, od marketingu a žurnalistiky po zábavu a design. Ale s touto rychlou adopcí roste i riziko. Podle studie sponzorované společností SAP sice firmy dosahují pozitivních výsledků z investic do AI, ale jejich struktury řízení nedrží krok. To je tiché riziko roku 2026: modely a agenti generují rozhodnutí bez sledovatelnosti, bez vlastnictví procesů a bez auditních kritérií.

Doporučuji zaměřit se na tyto kroky:

1. Audit AI systémů: Zmapujte všechny AI systémy, které vaše firma používá, zejména ty, které komunikují s uživateli nebo generují obsah pro veřejnost. Zhodnoťte jejich rizikovost podle klasifikace EU AI Act (omezené riziko, vysoké riziko atd.).
2. Implementace transparentnosti: Pro chatboty a generativní AI systémy zaveďte jasné mechanismy informování uživatelů a označování obsahu. To může vyžadovat úpravy UI/UX a technické implementace (např. vodoznaky, metadata).
3. Vytvoření interních směrnic: Stanovte jasná pravidla pro používání AI ve firmě, zejména pokud jde o etiku, ověřování faktů v AI-generovaném obsahu a zodpovědnost za výstupy. Týmy musí vědět, kde je lidský dohled nezbytný.
4. Právní konzultace: Vzhledem ke složitosti regulace je vždy vhodné konzultovat konkrétní situaci s právními experty specializujícími se na AI právo.

AI je pro firmy obrovská příležitost, ale pouze ty, které se na ni připraví zodpovědně a s ohledem na regulace, budou moci plně využít její potenciál.

FAQ

Co je to EU AI Act?

Evropský akt o umělé inteligenci (EU AI Act) je první komplexní právní rámec na světě pro regulaci umělé inteligence, který klasifikuje AI systémy podle jejich rizika a stanovuje odpovídající povinnosti pro jejich poskytovatele a uživatele.

Kdy vstoupily v platnost nové povinnosti pro AI chatboty a generovaný obsah?

Povinnosti týkající se transparentnosti pro AI chatboty a označování AI-generovaného obsahu vstoupily v platnost 10. července 2026.

Jaké jsou sankce za nedodržení EU AI Act?

Za nejzávažnější porušení, jako jsou zakázané praktiky, mohou pokuty dosáhnout až 35 milionů eur nebo 7 % celosvětového ročního obratu. Za porušení jiných ustanovení, včetně transparentnosti, mohou pokuty dosáhnout až 15 milionů eur nebo 3 % celosvětového ročního obratu.

Musím označovat veškerý obsah, který vytvořila AI?

Ano, poskytovatelé generativních AI systémů musí zajistit, aby výstupy byly označeny spolehlivými a strojově čitelnými značkami. Provozovatelé těchto systémů musí také jasně označovat AI-generovaný nebo manipulovaný text, který je zveřejňován za účelem informování veřejnosti o záležitostech veřejného zájmu.