Věrohodně upravit natočené video zvládala až do nedávna jen filmová studia a výkonné superpočítače. Teď už to ale neplatí, takzvaná deepfake videa dnes celebritám i státníkům vkládají do úst slova, která by nikdy neřekli. Vyrobit se přitom dají i doma a téměř zadarmo. Software sám sebe navíc stále zlepšuje – a časem by tak nemuselo být vůbec jasné, kdo k lidem třeba na sociálních sítích skutečně mluví.
Deepfake. Falšovaná videa hýbou s ústy a dezinformace posouvají na novou úroveň
9 minut
Horizont ČT24: Nebezpečný fenomén falešných videí deepfake
Pro umělou inteligenci je výměna hlavního protagonisty ve snímku úkolem na několik hodin – nahraje vhodné video, sežene fotky pomyslné oběti a pak už jen „trénuje“. Takzvaná neuronová síť zpracuje data o tvaru obličeje a o mimice a nasbírané informace promítne přímo do videozáznamu.
„Nasypete tam dostatek obsahu a algoritmus se ho postupně naučí napodobit,“ vysvětluje princip snadno zneužitelného softwaru bezpečnostní expert z univerzity ve Stanfordu Andrew Grotto.
Na přelomu roku se internet bavil na účet Nicolase Cage, kterého uživatelé dosadili snad do každého známějšího filmu. Závažnější problém ale podle BBC představuje falešná pornografie například s tváří Natalie Portmanové nebo Emmy Watsonové.
Trend výměny obličejů postupně dorazil i do politiky, a to nejprve v podobě bizarních koláží například s německou kancléřkou Angelou Merkelovou. Větu: „My, Evropané, musíme vzít svůj osud do vlastních rukou. Samozřejmě v rámci přátelství se Spojenými státy,“ na zfalšovaném videu vyslovuje sice opět kancléřka, ale s obličejem amerického prezidenta Donalda Trumpa.
Vzkaz, který Obama neřekl: Musíme být stále opatrnější
Politolog Miloš Gregor z Masarykovy univerzity deepfake videa považuje zatím spíš za technologickou novinku, kterou se lidé učí. „Je to asi logický krok v technologickém vývoji dezinformací a propagandy. Čekal bych, že se to dřív nebo později objeví, a to právě v politických soubojích nebo snahách někoho ovlivnit,“ uvedl pro ČT24.
Například k rozmluvení falšovaného exprezidenta USA Baracka Obamy stačil notebook a záznamy skutečných projevů; následně mohlo video jeho ústy prohlásit: „Vstupujeme do éry, ve které mohou naši nepřátelé zdánlivě nechat kohokoli říct cokoli a kdykoli. Je to nebezpečná doba. Musíme být čím dál opatrnější v tom, čemu na internetu věříme.“
„Věděl jsem, že je to možné, ale nebyl jsem si jistý, že to bude skutečně fungovat. Když jsem viděl, že ano, říkal jsem si: Tohle je šílené,“ prohlásil tvůrce videa a produkční webu Buzzfeed.
Zfalšované osoby zatím neumí mrkat
Podvod je dnes často možné odhalit díky detailům, protože umělá inteligence ještě neumí například přirozeně mrkat. To by se ovšem podle odborníků mohlo změnit možná už v horizontu dvanácti měsíců. „Autor falešných videí se může snadno naučit, jakou techniku používají ti, kdo se snaží podvod odhalit, a překonat je. Hovoříme tu vlastně o nekonečném závodu ve zbrojení,“ varuje bezpečnostní expert Grotto.
Podvržené fotografie i videa mohou jako nástroj psychologického boje sloužit i bez neuronových sítí. Po dubnovém úderu v Sýrii před nimi ostatně varoval i tehdejší šéf české diplomacie Martin Stropnický (ANO). Tehdy prohlásil: „Nepochybně budeme v nejbližších hodinách – nebo už jsme – a dnech vystaveni mohutné dezinformační kampani, velké internetové masáži. Budou se možná vyvěšovat i falešná videa.“
Umělá inteligence by přesvědčivost a závažnost podvrhů, které pak kolují po sociálních sítích, mohla zvednout na kvalitativně novou a ještě nebezpečnější úroveň. Toho už se obávají i někteří američtí kongresmani. „Víme, že někteří lidé chtějí rozdělit společnost a ovlivnit volby,“ uvedl republikánský senátor Marco Rubio.
Jak deepfake videa detekovat?
Jednou z cest, jak falešná videa poznat, je podle Gregora výkonný software. Obává se ale, že tento způsob rozpoznání bude podobný jako s jinými zločiny, kdy zloděj je o krok napřed před tím, kdo se ho snaží chytit. „Můžeme vidět snahy pomocí pokročilých softwarů deepfake videa rozeznávat. Ovšem před dvěma týdny se objevily zprávy, že tyto pokusy selhaly,“ podotkl.
„V Pentagonu mají agenturu, která se věnuje pokročilým technologickým operacím. Snaží se vyvinout nějaký software, který by dokázal deepfake videa odhalit. Pokud vím, zatím neúspěšně, ale vycházím z veřejných informací. Kdo ví, co mají tajné služby a s čím operují,“ dodal s tím, že z evropských zemí je v rozkrývání dezinformací daleko například Velká Británie.
