Deepfakes a děti: Jak chránit ty nejzranitelnější v éře AI

Když jsem před lety poprvé viděl deepfake video, fascinovala mě technologie. Dnes, s nástupem generativní umělé inteligence, cítím spíše znepokojení. To, co bylo kdysi okrajovou technickou kuriozitou, se stalo mocným nástrojem v rukou kyberzločinců, kteří ohrožují ty nejzranitelnější – naše děti. Rychlý pokrok AI dramaticky usnadňuje tvorbu hyperrealistických deepfake videí a fotografií, včetně materiálů zneužívajících děti (CSAM), a stávající obranné mechanismy s tímto tempem často nedokážou držet krok.

Exponenciální nárůst AI-generovaného zneužívání dětí

Nárůst AI-generovaného CSAM je alarmující. Zprávy z roku 2025 od organizací jako National Center for Missing and Exploited Children (NCMEC) a Internet Watch Foundation (IWF) ukazují, že objem tohoto materiálu exponenciálně roste. Například IWF zaznamenala v roce 2025 nárůst AI-generovaných videí zneužívajících děti o více než 260násobek oproti předchozímu roku, přičemž 65 % těchto videí spadalo do nejextrémnější kategorie A. Studie UNICEF, ECPAT a Interpolu napříč 11 zeměmi zjistila, že nejméně 1,2 milionu dětí v uplynulém roce uvedlo, že jejich snímky byly zmanipulovány do sexuálně explicitních deepfakes. V některých zemích to odpovídá jednomu dítěti z každé pětadvaceti, tedy zhruba jednomu dítěti v každé typické školní třídě.

To, co dříve vyžadovalo specializované dovednosti a výpočetní výkon, je dnes dostupné skrze bezplatné mobilní aplikace. Tyto „nudifikační“ nástroje, které odstraňují oblečení z fotografií, byly do roku 2025 staženy více než 705milionkrát globálně.

Globální legislativní a technologická reakce

Světová společenství se snaží na tuto hrozbu reagovat. Evropská unie v prosinci 2026 zakáže AI systémy, které generují CSAM nebo „nudifikační“ obsah. EU AI Act, který vstoupil v platnost 1. srpna 2024, klade důraz na ochranu nezletilých a vyžaduje transparentnost u AI-generovaného obsahu. Evropský parlament v lednu 2026 vyzval k silnějšímu a rychlejšímu prosazování zákonů EU, konkrétně DSA a AI Act, aby se zabránilo tvorbě sexuálních deepfake videí bez souhlasu.

Ve Spojených státech se v květnu 2025 stal zákon Take It Down Act, který kriminalizuje zveřejňování sexuálních deepfakes bez souhlasu a vyžaduje po platformách odstranění takového obsahu do 48 hodin. Od července 2026 pak newyorská guvernérka Kathy Hochulová oznámila finální pravidla zákona SAFE for Kids Act, který mimo jiné zakazuje AI-generovaný materiál zneužívající děti a ukládá sociálním sítím omezit návykové funkce pro děti do 18 let bez souhlasu rodičů.

Technologické společnosti jako Meta tvrdí, že investují do AI pro proaktivní detekci CSAM a zneužívajícího obsahu. V první polovině roku 2026 odstranily miliony účtů a kusů obsahu. Nicméně, efektivita těchto systémů je předmětem debaty. Například v únoru 2026 američtí vyšetřovatelé internetových zločinů proti dětem (ICAC) uvedli, že AI software společnosti Meta generuje velké množství „odpadních“ zpráv, které odčerpávají zdroje a brzdí vyšetřování. V březnu 2026 byla Meta v Novém Mexiku odsouzena k zaplacení 375 milionů dolarů za klamavá tvrzení o bezpečnosti platformy a za selhání v ochraně dětí.

Co to znamená pro rodiče a školy?

Pro rodiče a školy je klíčové si uvědomit, že hrozba AI-generovaných deepfake videí je reálná a neustále se vyvíjí. To, že obsah není „skutečný“, neznamená, že nezpůsobuje skutečnou újmu. Děti, jejichž snímky jsou zneužity, zažívají strach, stud a ztrátu důvěry, což má dlouhodobé emocionální dopady.

Kontrolní seznam pro rodiče a pedagogy:

1. Vzdělávejte se a komunikujte: Mluvte s dětmi o rizicích deepfake videí a o tom, jak rozpoznat manipulovaný obsah. Vysvětlete, že i generovaný obsah je zneužívání.
2. Nastavte jasná pravidla: Používejte rodičovskou kontrolu a nastavte časové limity pro používání zařízení. Zvažte omezení přístupu k generativním AI nástrojům, které nemají robustní bezpečnostní pojistky.
3. Nahlašujte a reagujte: Pokud narazíte na podezřelý obsah, okamžitě jej nahlaste příslušným platformám a orgánům činným v trestním řízení (např. NCMEC CyberTipline).
4. Podporujte digitální gramotnost: Učte děti kriticky myslet o obsahu, který vidí online, a ověřovat si zdroje. Školy by měly integrovat digitální gramotnost a prevenci deepfake hrozeb do svých osnov.
5. Důvěřujte svému úsudku: Pokud se vám něco zdá „divné“ nebo příliš dobré na to, aby to byla pravda, pravděpodobně to tak je. V digitálním světě je obezřetnost nezbytná.

Vidím, že mnoho rodičů a pedagogů se cítí bezmocných tváří v tvář rychlosti, s jakou se technologie vyvíjí. Ale právě v tom spočívá naše síla – v úsudku a schopnosti rozlišit podstatné od módního. Nelze se spoléhat jen na legislativu, která vždy „dobíhá“ realitu. Musíme být aktivní v prevenci a vzdělávání.

Důsledek nečinnosti a další krok

Pokud se jako společnost, rodiče a školy nebudeme aktivně bránit šíření AI-generovaného zneužívání, riskujeme normalizaci tohoto obsahu a prohloubení traumatu u obětí. Ztrácíme kontrolu nad digitálním prostředím, ve kterém naše děti vyrůstají. Následky mohou být devastující: od psychických problémů a sociální izolace obětí až po erozi důvěry v digitální média jako celek.

Nestačí jen sledovat zprávy. Je čas jednat. Pro školy a organizace, které chtějí systematicky posílit digitální bezpečnost a vzdělávat v oblasti AI rizik, nabízíme v one-o-one.cz komplexní programy a workshopy v rámci projektu onesafety. Pomáháme vytvářet strategie, jak se bránit těmto novým hrozbám a jak efektivně komunikovat s dětmi i rodiči. Prvním krokem může být audit stávajících bezpečnostních opatření a vzdělávacích programů ve vaší instituci. Následovat by měla implementace jasných pravidel a pravidelné vzdělávání pro všechny zúčastněné strany.

FAQ

Q: Jak mohu rozpoznat AI-generovaný deepfake? A: Deepfakes jsou stále sofistikovanější, ale často mají jemné anomálie: nepřirozené pohyby očí, zkreslené okraje, nekonzistentní osvětlení, podivné textury kůže nebo synchronizace rtů. Důvěryhodné zdroje doporučují ověřovat si informace a být skeptický k obsahu, který se zdá příliš dokonalý nebo naopak příliš šokující. Vždy je dobré hledat více zdrojů a kontextu.

Q: Jsou všechny AI nástroje pro generování obrázků nebezpečné? A: Ne, mnoho AI nástrojů je navrženo pro kreativní a produktivní účely. Nebezpečné jsou ty, které nemají dostatečné bezpečnostní pojistky nebo jsou explicitně zneužívány k tvorbě škodlivého obsahu. Klíčové je používat nástroje od renomovaných vývojářů a být si vědom jejich potenciálního zneužití.

Q: Co dělat, když se moje dítě stane obětí deepfake zneužití? A: Okamžitě vyhledejte podporu. Kontaktujte místní policii nebo organizace specializující se na online bezpečnost dětí, jako je NCMEC (National Center for Missing and Exploited Children) nebo IWF (Internet Watch Foundation). Použijte nástroje jako Take It Down, které pomáhají odstranit zneužívající snímky z internetu. Důležité je také zajistit psychologickou podporu pro dítě.