První politik na světě využil v kampani deepfake video. V Indii díky tomu mluvil řečí, kterou neumí

Předseda indické vládnoucí strany Bharatiya Janata Party (BJP) Manoj Tiwari v únoru začal šířit na aplikaci WhatsApp video, které využívá technologie deepfake, uvádí odborný web MIT Technology Review. Je to poprvé, co nějaký politik tuto kontroverzní manipulaci s videem využil pro kampaň.

Manoj Tiwari (uprostřed)
Zdroj: ČTK/imago stock&people Autor: Hindustan Times via www.imago-images.de

V rámci předvolební kampaně jeho štáb vytvořil dvě videa, v nichž Tiwari oslovuje své voliče a kritizuje svého politického konkurenta Arvinda Kejriwala, stala se rychle virálními. V prvním z nich mluví anglicky, druhé je ale upravené tak, aby to vypadalo, že se jeho rty pohybují tak, aby vyslovovala slova v hindském dialektu haryanvi, kterým hovoří klíčová cílová skupina jeho strany.

Originální video:

Upravené video:

Indie je totiž jazykově velmi pestré území, kde se hovoří stovkami jazyků a dialektů – aby jeden politik oslovil jednou řečí všechny voliče, je tedy prakticky nemožné.

Proto se BJP spojila se společností The Ideaz Factory, která se zaměřuje na politický marketing. Společně vytvořili deepfake videa, která měla být schopná oslovit voliče ve více než dvaceti hlavních jazycích, jimiž se v Indii hovoří. Podle vyjádření BJP pro magazín Vice se videu podařilo oslovit více než 15 milionů voličů v asi 5800 watsappových skupinách.

Politik díky němu vypadá, jako by byl schopný tímto jazykem hovořit, což může jeho voliče silněji oslovit.

Co jsou deepfake videa

Deepfake (neboli hluboký podvod) je technologie založená na bázi umělé inteligence. Počítač dostane velký objem algoritmů, tedy vzorových podkladových souborů ve formě obrázků a zvuků se zachycením cílové osoby. S jejich využitím se naučí uměle vytvářet výrazy její tváře, pohyby těla, způsob a intonaci řeči. Má-li stroj dostatek podkladů, může vyrobit video s vyobrazením osoby hovořící prakticky o čemkoli, chovající se jakkoli.

Web Internetem bezpečně zmiňuje, že se jako první začaly deepfakes objevovat na porno stránkách. „Postupně se však začaly rozšiřovat do politiky, hudebního, ale i komerčního prostředí,“ uvádí.

Nejde o první příklad, kdy se deepfake videa objevila v době nějaké politické kampaně. Například na konci loňského roku vědci zveřejnili video vytvořené stejnou technologií, na němž jsou dva britští politici, jak se navzájem politicky podporují – video bylo nepravdivé.
Nemělo ale za úkol přesvědčit voliče, jen ukázat problém deepfake technologie a varovat voliče, že nikoliv všechno, co vidí, je pravdivé.

Indické použití této technologie je ale historicky prvním příkladem jejího využití v politické praxi a v kampani.

Magazín Vice upozorňuje, že se tato technika stále zlepšuje a brzy se dostaneme do stavu, kdy lidé na internetu nebudou moci vědět, čemu věřit mohou, a čemu ne. Na politiku a důvěru občanů v politiku to bude mít podle Vice drastický dopad.

Podobně vidí situaci ale řada expertů. „V autokratických režimech by bylo jednodušší zdiskreditovat disidenty bojující proti režimu. A v totalitních státech by mohli pravidelně ukazovat nová videa svého lídra, který by byl už dávno po smrti,“ varuje projekt Internetem bezpečně.