Deepfake

Umělou inteligenci využívají i „ochránci internetu“. Ty nejlepší rozpoznávací nástroje totiž dokáží ve většině případů odhalit i videa vytvořená nebo upravená pomocí AI, která už lidi přelstí. S nárůstem podvodů a deepfake videí jsou tyto technologie stále důležitější. Většina takových nástrojů je ale placená a ty ve verzích zdarma obvykle tak dobře nefungují. Podobné nástroje proto zatím mají jen ti největší hráči v oblasti kyberbezpečnosti. Podle odborníků ale jejich počet poroste. Důležitý stále zůstává i kontext. I tady nicméně dokáží nástroje pomoci. Třeba rozpoznat, kdo na videu mluví, nebo analyzovat informace ve videu a s pomocí AI je pak srovnat s realitou.

Ve Velké Británii začal platit nejpřísnější zákon proti vytváření falešných sexuálních fotografií skutečných lidí za pomoci umělé inteligence (AI). Pachatelům za to hrozí dva roky, respektive devět let, pokud je obětí dítě. Internetové platformy pak mohou čelit pokutám do výše deseti procent globálních příjmů. Londýnská vláda zároveň vytváří nástroj, který takový obsah snadno odhalí. Problémová je především AI jménem Grok na síti X, která patří miliardáři Elonu Muskovi. „Jednání Groku a X je nechutné a ostudné a upřímně řečeno, rozhodnutí proměnit toto v prémiovou službu je otřesné,“ nešetřil kritikou britský premiér Keir Starmer.

Ochrana před zneužitím podoby v pornografii, snazší rozvody, pevné termíny regionálních voleb, podpora lidem ohroženým bytovou nouzí nebo větší pomoc obětem trestných činů. To jsou některé ze změn v zákonech, které začnou platit od 1. ledna 2026. ČT24 připravila přehled těch nejzásadnějších.

Modely umělé inteligence na generování videí jsou zase o krok dál, a lidé tak mají o něco menší šanci rozlišit realitu od výtvorů AI. Modely tvořící videa jsou již schopné pracovat zároveň s obrazem, zvukem i hudbou. Odborníci proto varují před větším šířením takzvaných deepfaků a dalšího závadného obsahu nebo kyberšikanou. Problém rozeznat některé umělé výtvory od skutečných záběrů už mají i experti.

Opoziční hnutí ANO a SPD trvají na zrušení trestného činu neoprávněné činnosti pro cizí moc. Opoziční Piráti chtějí prosadit do vládního návrhu reformy trestního práva zejména širší legalizaci konopí. Pozměňovací návrhy podali poslanci při úterním druhém sněmovním čtení předlohy. Celkem se sešly tři desítky úprav. K závěrečnému hlasování zřejmě dojde v květnu.

Nástroje na vytváření falešných videí, fotografií i textů jsou stále rozšířenější, snadněji dostupné a hlavně – jejich výstupy jsou stále realističtější. Odhalit, že jde o dílo umělé inteligence, je tedy pořád složitější. Cesty ale existují: vědecká redakce ČT24 otestovala některé nástroje, které to dokáží.

Z pražského gymnázia se Matyáš Boháček dostal na prestižní americkou univerzitu, do OSN i vysílání americké CNN. Boháček je student a vývojář, který se aktuálně na kalifornském Stanfordu zaměřuje na odhalování falešného obsahu na internetu – fotek nebo videí. Obsah by rád opatřoval jakýmsi informačním štítkem, který by ukazoval nejen to, kdy a kde vznikl, ale i jak byl případně upravován.

Prezident Petr Pavel v týdnu varoval před podvodníky, kteří na internetu zneužívají jména a podoby známých osobností k tomu, aby z lidí vylákali peníze. Používají k tomu například i umělou inteligenci. Podle policie takových případů v poslední době přibývá. Doporučuje, aby lidé věřili jenom osvědčeným společnostem. Vodítkem pro odhalení podvodu může být to, že pochybné firmy nabízejí velmi vysoké výdělky během krátké doby a bez práce.

S blížícími se volbami do Evropského parlamentu Moskva zintenzivňuje svou dezinformační kampaň. List The Washington Post (WP) zjistil, že proruská platforma Voice of Europe posílala krajně pravicovým politikům měsíčně až milion eur za účelem šíření ruské propagandy v pěti evropských zemích, a snažila se tak posílit postavení proruských kandidátů. Činitelé z oblasti zpravodajských služeb mluví o jedné z nejambicióznějších ruských operací, jejichž cílem je rozdělit Západ a podkopat podporu Ukrajiny. Řada ruských hoaxů se týká i klimatických opatření či lídrů EU, v šíření lží pomáhá Kremlu umělá inteligence či takzvané deepfakes. Evropský parlament se snaží bránit prostřednictvím nových legislativ.

Pokud by české úřady chtěly více potírat internetové podvody, kdy například falešní politici či celebrity vytvoření či upravení umělou inteligencí lákají na investice slibující zázračné zbohatnutí, vedlo by to podle šéfa Národního úřadu pro kybernetickou a informační bezpečnost Lukáše Kintra ke svazování dynamiky a svobody internetu. Expert na IT a kybernetickou bezpečnost Aleš Špidla v Otázkách Václava Moravce upozornil, že nárůst internetové kriminality je celosvětově v posledních letech obrovský. A je tak dle něj třeba povědomí o těchto hrozbách dostat i do domácností.

Takzvaných deepfake videí přibývá. Každý půlrok se jejich počet zdvojnásobí a jsou čím dál dokonalejší. Jde přitom o nebezpečný nástroj, který zneužívají podvodníci a autoritářské režimy. V Česku jsou doménou kanálů napojených na proruskou propagandu. Účinný nástroj, jak videa vytvořená pomocí umělé inteligence identifikovat, však zatím nemáme. Tématu se pro pořad Reportéři ČT věnovaly Zuzana Černá a Jevhenija Vachničenko.

Na pěti nejnavštěvovanějších webech s deepfake pornografií lze najít videa s téměř čtyřmi tisíci celebritami, především ženami, zjistila britská veřejnoprávní stanice Channel 4. Falešná videa vytvořená pomocí umělé inteligence nabízí herečky, zpěvačky i televizní a internetové osobnosti. Jde o rapidně narůstající trend. K nejviditelnějším obětem patří momentálně jedna z nejvlivnějších žen šoubyznysu Taylor Swiftová.

Člen komise pro hybridní hrozby Poslanecké sněmovny Ondřej Kolář (TOP 09) a člen výboru pro obranu Poslanecké sněmovny Josef Bělica (ANO) mají oba za to, že některé projevy umělé inteligence, například takzvané deep fakes, jsou novou hrozbou moderní doby a je nutné s nimi bojovat, ať už zákony nebo osvětou. Zároveň ale mají nové technologie i řadu pozitivních využití, shodli se v pořadu Události, komentáře.

OSN odhaduje, že domácí násílí někdy v životě zažije každá třetí žena. V mnoha případech končí vztah s násilníkem smrtí. Izraelská technologická společnost D-ID použila k osvětové kampani těžký kalibr: fotografie zavražděných žen. Animovala je a hlasem hereček nyní tyto oběti domácího násilí, na takzvaných deepfake videích, varují ze záhrobí.

Předseda indické vládnoucí strany Bharatiya Janata Party (BJP) Manoj Tiwari v únoru začal šířit na aplikaci WhatsApp video, které využívá technologie deepfake, uvádí odborný web MIT Technology Review. Je to poprvé, co nějaký politik tuto kontroverzní manipulaci s videem využil pro kampaň.

Technologie nazývaná deepfake je schopná vytvářet zcela realistická videa lidí, předmětů i situací, které neexistují, nebo je ukazovat v jiných kontextech. Programátoři nyní ukázali demonstraci se slavnou Monou Lisou.