Deepfake. Falšovaná videa hýbou s ústy a dezinformace posouvají na novou úroveň

9 minut
Horizont ČT24: Nebezpečný fenomén falešných videí deepfake
Zdroj: ČT24

Věrohodně upravit natočené video zvládala až do nedávna jen filmová studia a výkonné superpočítače. Teď už to ale neplatí, takzvaná deepfake videa dnes celebritám i státníkům vkládají do úst slova, která by nikdy neřekli. Vyrobit se přitom dají i doma a téměř zadarmo. Software sám sebe navíc stále zlepšuje – a časem by tak nemuselo být vůbec jasné, kdo k lidem třeba na sociálních sítích skutečně mluví.

Pro umělou inteligenci je výměna hlavního protagonisty ve snímku úkolem na několik hodin – nahraje vhodné video, sežene fotky pomyslné oběti a pak už jen „trénuje“. Takzvaná neuronová síť zpracuje data o tvaru obličeje a o mimice a nasbírané informace promítne přímo do videozáznamu.

„Nasypete tam dostatek obsahu a algoritmus se ho postupně naučí napodobit,“ vysvětluje princip snadno zneužitelného softwaru bezpečnostní expert z univerzity ve Stanfordu Andrew Grotto.

Na přelomu roku se internet bavil na účet Nicolase Cage, kterého uživatelé dosadili snad do každého známějšího filmu. Závažnější problém ale podle BBC představuje falešná pornografie například s tváří Natalie Portmanové nebo Emmy Watsonové.

Trend výměny obličejů postupně dorazil i do politiky, a to nejprve v podobě bizarních koláží například s německou kancléřkou Angelou Merkelovou. Větu: „My, Evropané, musíme vzít svůj osud do vlastních rukou. Samozřejmě v rámci přátelství se Spojenými státy,“ na zfalšovaném videu vyslovuje sice opět kancléřka, ale s obličejem amerického prezidenta Donalda Trumpa.

Vzkaz, který Obama neřekl: Musíme být stále opatrnější

Politolog Miloš Gregor z Masarykovy univerzity deepfake videa považuje zatím spíš za technologickou novinku, kterou se lidé učí. „Je to asi logický krok v technologickém vývoji dezinformací a propagandy. Čekal bych, že se to dřív nebo později objeví, a to právě v politických soubojích nebo snahách někoho ovlivnit,“ uvedl pro ČT24.

Například k rozmluvení falšovaného exprezidenta USA Baracka Obamy stačil notebook a záznamy skutečných projevů; následně mohlo video jeho ústy prohlásit: „Vstupujeme do éry, ve které mohou naši nepřátelé zdánlivě nechat kohokoli říct cokoli a kdykoli. Je to nebezpečná doba. Musíme být čím dál opatrnější v tom, čemu na internetu věříme.“

„Věděl jsem, že je to možné, ale nebyl jsem si jistý, že to bude skutečně fungovat. Když jsem viděl, že ano, říkal jsem si: Tohle je šílené,“ prohlásil tvůrce videa a produkční webu Buzzfeed.

Zfalšované osoby zatím neumí mrkat

Podvod je dnes často možné odhalit díky detailům, protože umělá inteligence ještě neumí například přirozeně mrkat. To by se ovšem podle odborníků mohlo změnit možná už v horizontu dvanácti měsíců. „Autor falešných videí se může snadno naučit, jakou techniku používají ti, kdo se snaží podvod odhalit, a překonat je. Hovoříme tu vlastně o nekonečném závodu ve zbrojení,“ varuje bezpečnostní expert Grotto.

Podvržené fotografie i videa mohou jako nástroj psychologického boje sloužit i bez neuronových sítí. Po dubnovém úderu v Sýrii před nimi ostatně varoval i tehdejší šéf české diplomacie Martin Stropnický (ANO). Tehdy prohlásil: „Nepochybně budeme v nejbližších hodinách – nebo už jsme – a dnech vystaveni mohutné dezinformační kampani, velké internetové masáži. Budou se možná vyvěšovat i falešná videa.“

Umělá inteligence by přesvědčivost a závažnost podvrhů, které pak kolují po sociálních sítích, mohla zvednout na kvalitativně novou a ještě nebezpečnější úroveň. Toho už se obávají i někteří američtí kongresmani. „Víme, že někteří lidé chtějí rozdělit společnost a ovlivnit volby,“ uvedl republikánský senátor Marco Rubio.

Jak deepfake videa detekovat?

Jednou z cest, jak falešná videa poznat, je podle Gregora výkonný software. Obává se ale, že tento způsob rozpoznání bude podobný jako s jinými zločiny, kdy zloděj je o krok napřed před tím, kdo se ho snaží chytit. „Můžeme vidět snahy pomocí pokročilých softwarů deepfake videa rozeznávat. Ovšem před dvěma týdny se objevily zprávy, že tyto pokusy selhaly,“ podotkl.

„V Pentagonu mají agenturu, která se věnuje pokročilým technologickým operacím. Snaží se vyvinout nějaký software, který by dokázal deepfake videa odhalit. Pokud vím, zatím neúspěšně, ale vycházím z veřejných informací. Kdo ví, co mají tajné služby a s čím operují,“ dodal s tím, že z evropských zemí je v rozkrývání dezinformací daleko například Velká Británie. 

Výběr redakce

Aktuálně z rubriky Svět

Kyjev a Washington se podle Reuters dohodly na podobě smlouvy o těžbě ukrajinských nerostů

Washington a Kyjev se shodly na podmínkách dohody o ukrajinských nerostech, která je stěžejní pro udržení americké podpory Ukrajiny, jež se již tři roky brání ruské agresi, napsala agentura Reuters s odkazem na dva informované zdroje. Podle nich se ukrajinský prezident Volodymyr Zelenskyj chystá v pátek odcestovat do USA na setkání se svým americkým protějškem Donaldem Trumpem.
včeraAktualizovánopřed 2 hhodinami

Trump chce prodávat zlaté karty umožňující za pět milionů dolarů pobyt v USA

Americký prezident Donald Trump chce zhruba za dva týdny začít prodávat „zlaté karty“, které by za cenu pěti milionů dolarů (téměř 120 milionů korun) umožnily svému majiteli trvalý pobyt ve Spojených státech. Podle tiskových agentur to v úterý večer středoevropského času sdělil v Bílém domě. Majitelé karet by v zemi vytvářeli pracovní místa a platili daně, prohlásil prezident. Do nového imigračního programu by se podle Trumpa mohli zapojit i ruští oligarchové.
před 3 hhodinami

Z Muskova úřadu pro efektivitu hromadně odcházejí pracovníci

Více než dvacet zaměstnanců skupiny pro efektivitu státní správy (DOGE) vedené miliardářem Elonem Muskem podalo hromadnou výpověď s tím, že nechtějí svoje odborné znalosti využívat k rušení klíčových veřejných služeb a k ohrožení vládních systémů, píší americká média. Americký prezident Donald Trump pověřil Muska a jeho tým zredukováním federální správy, což vede k propouštění zaměstnanců napříč federálními institucemi.
před 5 hhodinami

Musíme dělat všechno pro to, aby Ukrajina neprohrála mír, tvrdí Vondra

Europoslanec Alexandr Vondra (ODS) si myslí, že ruský vůdce Vladimir Putin musí být doveden k jednání o míru na Ukrajině. Jde však o to, aby tato země přežila jako suverénní stát na území, které dnes ovládá, sdělil v Interview ČT24. Vyjádřil se i k účasti na konferenci amerických konzervativců, kde si prý politici chodili pro potlesk, když mohli říct „něco nehezkého“ o Evropě.
před 5 hhodinami

Libanon sčítá škody po izraelských útocích. Opozice vidí v rekonstrukci šanci pro stát

Izraelské bombardování Libanonu trvající rok a čtvrt způsobilo škody za čtrnáct miliard dolarů, což odpovídá téměř osmdesáti procentům předválečného HDP země. Podle zpřesněného odhadu, ze kterého citují libanonská média, to uvádí Světová banka. Pomoc lidem slibuje i teroristické hnutí Hizballáh, které se tak snaží upevnit svou pozici na jihu země. Opozice naopak v rekonstrukci za přispění mezinárodní pomoci vidí příležitost k obnovení důvěry v oslabený stát. Mezinárodní společenství však podporu podmiňuje reformami.
před 6 hhodinami

V USA raketově stoupá cena vajec

V Americe je nedostatek slepičích vajec. Regály jsou teď často prázdné, případně prodejci omezují množství balení pro jednoho zákazníka. Může za to ptačí chřipka, kvůli které farmáři vybíjejí své chovy. Jen od začátku roku cena vyskočila o téměř 39 procent. V zemi roste zájem o chov slepic, vejce samotná se zase stala tématem pro mezinárodní politiku.
před 6 hhodinami

Mír chceme rychle, ale ne slabou dohodou, řekl Macron po jednání s Trumpem

Příměří mezi Ukrajinou a Ruskem by mohlo být uzavřeno už v příštích týdnech, řekl francouzský prezident Emmanuel Macron v pondělí večer washingtonského času po setkání se svým americkým protějškem Donaldem Trumpem. Oba lídři během celodenního jednání demonstrovali svůj dlouholetý přátelský vztah, Macron však dal jasně najevo, že s Trumpem v některých klíčových otázkách nesouhlasí, píše agentura Reuters.
včeraAktualizovánopřed 7 hhodinami

Ptačí chřipka je u amerických krav už endemická, varují virologové

Virus ptačí chřipky je už mezi dobytkem ve Spojených státech amerických tak rozšířený, že se zřejmě nezastaví bez lidského zákroku. Nemoc se šíří v situaci, kdy administrativa Donalda Trumpa a nový ministr zdravotnictví Robert Kennedy omezují počty expertů v organizacích, jež jsou za kontrolu nemocí zodpovědné.
před 10 hhodinami
Načítání...