Umělá inteligence jako zbraň: Proč se děti na sítích potýkají s novou generací hrozeb

V posledních měsících se objevují alarmující zprávy, které poukazují na temnou stránku umělé inteligence. Zatímco AI má potenciál chránit děti online, stává se také mocným nástrojem v rukou predátorů a manipulátorů, kteří ji zneužívají k vytváření extrémně realistického a personalizovaného škodlivého obsahu. Organizace jako UNICEF a Common Sense Media varují, že stávající obranné mechanismy jsou často nedostatečné tváří v tvář nové generaci hrozeb, kterým děti čelí.

Nová dimenze nebezpečí: Deepfakes a personalizovaná manipulace

Už v únoru 2026 UNICEF vyjádřil hluboké znepokojení nad rychlým nárůstem sexuálně explicitních obrázků dětí generovaných umělou inteligencí. Zpráva z června 2026, vypracovaná UNICEF na základě dat z 10 zemí, odhaduje, že nejméně 1,2 milionu dětí v těchto zemích se za poslední rok setkalo s tím, že jejich snímky byly manipulovány do sexuálně explicitních deepfake videí. Tyto deepfake technologie umožňují vytvořit falešné, ale vysoce věrohodné obrázky nebo videa, která zobrazují osobu, jak dělá nebo říká něco, co ve skutečnosti nikdy neudělala. To otevírá dveře nové formě kyberšikany, kde jsou děti terčem tzv. 'nudifikace', kdy AI nástroje odstraní nebo změní oblečení na jejich fotografiích.

Nejde jen o deepfakes. AI je využívána k vytváření sofistikovaných podvodů, phishingových útoků a manipulativních snah o zneužití. Chatboti a personalizované algoritmy dokážou s dětmi vést konverzace, které napodobují přátele nebo rodinné příslušníky, s cílem získat osobní informace nebo je přimět k nevhodným akcím. Tyto interakce jsou často navrženy tak, aby extrahovaly osobní údaje, vylákaly hesla nebo finanční detaily. Experti z FBI varovali, že zločinci využívají generativní AI k páchání podvodů ve větším měřítku a s vyšší věrohodností, přičemž AI nástroje opravují lidské chyby, které by jinak mohly sloužit jako varovné signály.

Kromě přímé exploatace se AI podílí i na posilování negativních psychologických dopadů. Vysoce personalizované obsahové feedy, optimalizované pro udržení pozornosti, mohou u mladých uživatelů vést k prohlubování úzkostí, problémům s vnímáním vlastního těla a nezdravým srovnáváním s nereálnými ideály.

Proč stávající obrana nestačí?

Tradiční nástroje pro moderaci obsahu se snaží držet krok s objemem a rychlostí, jakou je AI-generovaný obsah vytvářen a šířen. Realismus deepfakes a sofistikovanost AI-generovaných podvodů ztěžují jejich detekci jak pro automatizované systémy, tak pro lidské moderátory. To vytváří obrovskou výzvu pro platformy, které se snaží chránit své uživatele.

Navíc digitální gramotnost, která se dosud zaměřovala především na rozpoznávání 'fake news' nebo ověřování zdrojů, nemusí být dostatečná pro 'fake reality' vytvořenou AI. Děti potřebují nové dovednosti, aby dokázaly kriticky hodnotit obsah, který vypadá naprosto reálně.

Nedávná zpráva Common Sense Media z července 2026 označila AI funkce ve vyhledávání Google za 'nepřijatelné riziko' pro nezletilé. Testy ukázaly, že AI nástroje selhaly při detekci sebevražedných rizik, označily symptom poruchy příjmu potravy za normální a dokonce poskytly návod na vytváření deepfakes. Problém je, že Google nenabízí způsob, jak tyto AI funkce vypnout, aniž by zablokoval celé vyhledávání.

Co můžeme dělat? Nové strategie pro rodiče, školy a platformy

Ochrana dětí v digitálním světě vyžaduje komplexní a proaktivní přístup. Odpovědnost nesmí ležet pouze na rodičích.

1. Proaktivní AI detekce a regulace: Evropský parlament v červenci 2026 vyzval k zákazu systémů AI, které generují nebo manipulují realistické sexuální obsahy bez souhlasu, a k explicitnímu zákazu syntetického materiálu zneužívajícího děti. Evropská komise také představila akční plán pro kybernetickou bezpečnost a AI, který má posílit schopnost Evropy vyhodnocovat AI modely před uvedením na trh a vyvinout evropský plán pro bezpečný přístup k pokročilým AI systémům. Klíčová je investice do výzkumu a vývoje pokročilých AI nástrojů, které dokážou proaktivně detekovat a odstraňovat škodlivý obsah, dříve než se k dětem dostane.
2. Vzdělávání 2.0: Je nezbytné aktualizovat programy digitální gramotnosti ve školách a doma. Děti se musí učit kritickému myšlení o obsahu, který vidí – i když vypadá naprosto reálně. Rozpoznávání manipulace, ne jen faktů, se stává klíčovou dovedností pro 21. století. UNICEF v červnu 2026 zdůraznil, že děti si jsou rizik vědomy – třetina se obává AI podvodů a dezinformací, čtvrtina deepfake manipulace.
3. Role rodičů: Otevřená komunikace s dětmi o tom, co vidí a zažívají online, je zásadní. Společné nastavení pravidel, používání rodičovských nástrojů (i když nejsou všespásné) a aktivní zapojení do digitálního života dětí může pomoci. Důležité je také mluvit o tom, co je bezpečné sdílet a co je lepší si nechat pro sebe.
4. Odpovědnost platforem: Společnosti provozující digitální platformy musí nést větší odpovědnost za bezpečnost dětí. To zahrnuje investice do robustnějších AI moderačních nástrojů, transparentnost ohledně algoritmů a designování služeb s ohledem na bezpečnost dětí 'by design and by default'. Evropská komise v červenci 2026 představila zprávu, která doporučuje širší přístup k online bezpečnosti dětí, který přesahuje sociální média a zahrnuje AI společníky, video platformy a další digitální služby. Zpráva zdůrazňuje, že odpovědnost za bezpečnost dětí online by měla primárně spočívat na technologických společnostech.

Chcete vědět více o tom, jak chránit děti v digitálním světě? Navštivte náš projekt onesafety, kde najdete další zdroje a doporučení.

Budoucnost digitální bezpečnosti: Závod ve zbrojení AI

Vývoj AI se nezpomaluje a s ním se vyvíjejí i hrozby. Budoucnost digitální bezpečnosti dětí bude pravděpodobně charakterizována neustálým závodem mezi obrannými a útočnými AI technologiemi. Je klíčové, aby se společnosti, vlády a vzdělávací instituce neustále přizpůsobovaly a inovovaly, aby zajistily, že děti budou moci bezpečně využívat digitální svět, aniž by byly vystaveny novým a neviditelným nebezpečím.