Do boje proti falešné pornografii generované umělou inteligencí (AI) vyrazila kromě americké demokratické poslankyně Alexandrie Ocasio-Cortezové také dědička hotelového impéria Paris Hiltonová. Společně chtějí větší regulaci a zavést zákon umožňující stíhat tvůrce takzvaných deepfaků, které v současnosti bývají téměř nerozeznatelné od reality. Kvůli stejnému problému se snesla kritika na AI Grok miliardáře a majitele sítě X Elona Muska. A situace se řeší i na plénu Evropského parlamentu.
Dědička části hotelového impéria Hilton Paris byla ikonou večírků americké smetánky na přelomu tisíciletí, skandály z této doby kolem drog a alkoholu provázejí její pověst dodnes. Teď se rozhodla bojovat proti AI pornografii a volá po legislativě, která by poškozeným umožnila domáhat se odškodnění. Sama Paris Hiltonová má z mládí podobnou zkušenost jako oběti současného technologického pokroku – byť v jejím případě šlo o skutečné video.
„Když mi bylo devatenáct, mé soukromé intimní video bylo sdíleno s celým světem bez mého souhlasu. Lidé to nazývali skandálem. Ten to nebyl, bylo to zneužívání. V té době neexistovaly žádné zákony, které by mě chránily. Nebyla ani slova, která by popsala, co se mi stalo. Internet byl tehdy ještě nový, stejně jako krutost, která s ním přicházela,“ vzpomíná Hiltonová.
Jak sama říká – to, co se stalo jí a co bylo z velké části motivované celosvětovou pozorností zaměřenou na její osobu – se teď může kvůli umělé inteligenci stát komukoliv. V praxi mohou pachatelé vzít jakoukoliv fotografii nebo video kohokoliv na světě, zadat, aby se dotyčný svlékl, nebo dělal jiné věci podle přání autora a za krátkou dobu je na světě poměrně věrné vyobrazení něčeho nereálného. A následky jsou často totožné, jako by šlo o skutečné choulostivé snímky zveřejněné bez souhlasu – i kvůli neustálému pokroku v těchto technologiích.
„I když tyto snímky jsou digitální, újma způsobená obětem je velmi reálná. Ženy přicházejí o práci, když se stanou terčem tohoto činu. Teenageři mění školu a děti přicházejí o život,“ uvedla demokratická kongresmanka Alexandria Ocasio-Cortezová.
Zákon na ochranu obětí nazývaný jako „Vzdorovitý“ už prošel Senátem a čeká na schválení Sněmovnou reprezentantů. Sama Ocasio-Cortezová je častým terčem těchto nelegálních úprav – stejně jako další veřejně známé osobnosti včetně například zpěvačky Taylor Swiftové.
Některé portály se na deepfaky specializují
Některé webové portály se přitom na deepfaky známých osobností přímo specializují, takto poškozeny už byly nejméně čtyři tisíce celebrit, nejčastěji žen. Své vlastní zkušenosti má s tímto novodobým druhem obtěžování i italská premiérka Giorgia Meloniová.
Kampaň v USA přichází v době zvýšeného tlaku na provozovatele AI nástrojů a snah o jejich regulaci. Po zpřísnění legislativy v EU s cílem ochránit zejména děti teď volá skupina europoslanců. „Když se objeví nelegální obsah, (provozovatelé) musí jednat rychle. Když úřady nebo uživatelé nahlásí nelegální obsah, musí reagovat neprodleně,“ uvedla kyperská viceministryně pro evropské záležitosti Marilena Raounaová.
Několik muslimských zemí už zakázalo například právě umělou inteligenci Grok Elona Muska kvůli pornografickým úpravám snímků na síti X. Odpovědnost za své nástroje nejen podle evropských politiků nesou právě samotné platformy jako je Facebook, Instagram nebo TikTok – a samy mají proti tomuto nelegálnímu obsahu aktivně zasahovat.
