V posledních letech straší na internetu stále větší hrozba, jejímiž oběťmi nejsou jen čísla nebo abstraktní obrázky – jsou to skutečné děti, i když se jich to přímo netýká. Jde o vysoce realistické snímky generované umělou inteligencí, které ztvárňují sexuální zneužívání dětí. Tyto snímky nejsou autentickými fotografiemi, ale jsou natolik přesvědčivé, že jsou téměř nerozeznatelné od reality, a to i pro odborníky v této oblasti.
Online exploze skutečných nebo umělou inteligencí vytvořených snímků sexuálního zneužívání dětí IWF Photo
Nedávná zpráva nadace Internet Watch Foundation (IWF – nevládní organizace se sídlem ve Spojeném království, která se zabývá ochranou dětí před sexuálním zneužíváním na internetu) uvádí alarmující 380% nárůst nelegálního materiálu generovaného umělou inteligencí, který zobrazuje sexuální zneužívání dětí, v roce 2024 ve srovnání s předchozím rokem, podle The Guardian.
Jen ve Spojeném království bylo v loňském roce zaregistrováno téměř 250 stížností (v roce 2023 jich bylo 51), které se týkaly více než 7 600 snímků a četných videí se scénami extrémního zneužívání, od sadismu až po penetrační sexuální násilí. Tyto snímky, ačkoli jsou fiktivní, jsou vytvářeny a šířeny za účelem ukojení nebezpečných fantazií jedinců, kteří tento typ obsahu konzumují.
Rumunsko na mapě sexuálního zneužívání dětí online, simulovaného umělou inteligencí nebo skutečného
Celkově však nadace Internet Watch Foundation v roce 2024 identifikovala více než 291 000 online materiálů, které obsahovaly, propagovaly nebo přesměrovávaly na obrázky sexuálního zneužívání dětí, což je historicky nejvyšší počet. Jednalo se jak o obsah se skutečnými oběťmi, tak o uměle generovaný materiál (AI), přičemž oba tyto materiály byly klasifikovány jako nezákonné a hluboce škodlivé. Navíc se 97 % těchto potvrzených případů, u nichž bylo určeno pohlaví obětí, týkalo dívek, což odráží závažnou nerovnováhu v dynamice sexuálního zneužívání nezletilých osob online.
Ještě znepokojivější je, že více než 62 % tohoto materiálu bylo umístěno na serverech v Evropské unii, což ukazuje, jak je tento jev rozšířený i ve vyspělých zemích. Rumunsko (PODÍVEJTE SE NA VIDEO)Podle zprávy IWF je na alarmujícím třetím místě, hned za Nizozemskem a Bulharskem. To poukazuje nejen na problém regulace, ale také na nedostatečně účinnou reakci na nelegální obsah volně kolující na evropských serverech.
V čem je tato technologie tak nebezpečná
I když na těchto snímcích nejsou skutečné děti, jejich psychologický a sociální dopad je zničující. Zaprvé podněcují násilné chování. Lidé, kteří konzumují tento typ materiálů, se mohou stát tolerantnějšími k sexuálnímu násilí a mohou uvěřit, že zneužívání je přijatelné. Kromě toho tyto snímky vytvářejí nebezpečnou kulturu normalizace sexuálního zneužívání nezletilých na internetu.
Tato technologie navíc neohrožuje pouze imaginární oběti, ale přispívá také ke zvýšené zranitelnosti skutečných dětí. Vytváření a šíření zneužívajících obrázků generovaných umělou inteligencí je nepřímým podnětem pro zločince – pedofily -, kteří mohou podniknout konkrétní kroky, zejména ty, které tento obsah přitahuje a kteří se snaží naplnit své zneužívající touhy vůči skutečným dětem.
Jak na děti působí tyto „digitální noční můry“
Ačkoli se děti přímo nepodílejí na vytváření těchto snímků, jsou přesto oběťmi nebezpečného technologického zneužívání. Umělá inteligence může být například použita k vytvoření falešných snímků zobrazujících děti ve scénách zneužívání a tento materiál se může dostat na internet, rychle se šířit a mít ničivý dopad na vnímání bezpečnosti na internetu. Kromě toho existuje riziko, že tyto snímky mohou být použity k vydírání dětí prostřednictvím případů sextortion, kdy jsou děti manipulovány nebo jim je vyhrožováno, aby poslaly intimní snímky.
Co se dělá v boji proti této hrozbě
V rámci boje proti tomuto problému zavedla vláda Spojeného království od února letošního roku nové zákony, které zakazují vytváření, držení a distribuci nelegálního materiálu vytvořeného umělou inteligencí.
Ve snaze chránit děti také nadace Internet Watch Foundation (IWF) oznámila, že bude poskytovat bezplatný nástroj pro menší webové stránky – tzv. Image Intercept (VIDEO výše)který dokáže odhalit a zablokovat nelegální snímky, a to i na platformách, které nemají prostředky na účinnou ochranu.
Úřady a organizace zabývající se bezpečností online bijí na poplach, že online hrozby se neustále vyvíjejí a to, co začíná jako „digitální noční můra“ může mít v reálném světě ničivé následky.
Proto je nezbytné, aby byl online prostor pro děti bezpečnější a aby se technologie používaly jako spojenec při ochraně zranitelných, nikoli jako nástroj zneužívání.
