Umělá inteligence (AI) dokáže v současné době vytvořit natolik kvalitní falešné fotografie, videa, či hlasové záznamy, že rozeznat je od reality je téměř nemožné. I proto jsou tyto výtvory považovány za jednu z hrozeb, které moderní technologie představují. Své o tom ví i žačky školy v New Jersey. Tamní spolužáci totiž za pomoci AI vytvářeli jejich nahé fotografie, přičemž nejméně jedna se dostala i na sociální sítě. Zdaleka přitom nejde o ojedinělý incident – za poslední rok policie po celých Spojených státech vyšetřovala téměř třicet podobných případů.
Chlapci v USA vytvořili pomocí AI nahé snímky spolužaček. Čelí stovkám obvinění
9 minut
Horizont ČT24: Nahé fotky generované AI a komentář dětského psychologa Václava Mertina
Ve chvíli, kdy čtrnáctiletá Francesca Maniová z New Jersey zjistila, že mezi dětmi kolují falešné fotografie některých dívek – včetně jí samotné – netušila, že něco jako svlékací webové stránky vůbec existuje. Její spolužák pomocí nich vytvořil desítky nahých fotografií dívek ze školy.
Podobných stránek je na internetu běžně k použití více než stovka. „Chcete někoho svléknout?“ Ptá se jedna z těch nejvíc navštěvovaných – „nahrajte vlastní fotografii nebo vytvořte ukázku zdarma“. Stačí pár vteřin a oblečení zmizí. Výsledky jsou přitom velmi realistické.
Na sociální sítě se v případu Francesky a jejích spolužaček dostala nejméně jedna fotografie. Vše přitom zhoršila sama škola, když oběti zavolala ze tříd do ředitelny veřejně pomocí rozhlasu. Zatímco viníky oslovila soukromě.
„Když jsem odcházela z ředitelny, musela jsem projít chodbou, kde jsem viděla, jak se skupina chlapců směje dívkám, které plakaly. A tehdy jsem si uvědomila, že bych měla přestat plakat a místo toho se rozzlobit, protože toto bylo nepřijatelné,“ popsala pocity dívka.
„Dva teenageři podle detektivů vytvořili a sdíleli stovky pornografických záběrů dětí a tito dva chlapci nyní čelí stovkám obvinění,“ informovala ve vysílání televize WGAL moderátorka. Fotografií a videí byly v sousední Pensylvánii víc než tři stovky, poškozených dívek šedesát – a až na jednu všechny nezletilé.
Podle dětského psychologa Václava Mertina jsou dospívající vůči podobným incidentům obzvláště zranitelní. „Vezměme si, kolik dětí v tomto věku se odmítá věnovat třeba sportu, protože mají pocit, že vypadají hrozně, a že tam všichni na ně budou koukat. A teď si představte, že někde se ještě objeví nazí,“ upozornil psycholog.
Důležité podle Mertina je seznamovat děti s tím, že podobná možnost v současnosti existuje. „Nedá se nic dělat, musíme přijmout, že něco takového existuje, že to nemůžeme zlikvidovat,“ řekl s tím, že zásadní úlohu hraje také škola.
Registrovaná je jen špička ledovce
Jak moc nebezpečná může umělá inteligence být, ukázal nedávno případ z Británie. Osmnáctiletý trest tam dostal muž, který vytvářel záběry dětské pornografie. Fotografie dětí – včetně jejich znásilňování a bití – produkoval pomocí umělé inteligence asi dva roky, přičemž je sdílel dalším zájemcům. „Úplně mě to pohltilo. Ovládlo to můj život,“ tvrdil odsouzený Hugh Nelson.
Načítání...
Žalobkyně Jeanette Smithová věří, že se jedná jen o špičku ledovce. „S tím, jak se technologie vyvíjejí a vyvíjí se i možnost využití umělé inteligence k vytváření realistických záběrů sexuálního a fyzického zneužívání dětí, očekáváme, že těchto případů bude přibývat,“ je přesvědčena.
A justice se na to připravuje. Letos na jaře vláda představila nový zákon, který umožňuje trestní stíhání za vytváření nahých a sexuálních falešných fotografií. Za jejich sdílení pak viníkům hrozí i měsíce nebo roky ve vězení.
