Spojené státy letos čekají prezidentské volby, v nichž bude poprvé hrát silnější roli umělá inteligence. Nejen ona má ale obrovský potenciál ovlivnit chování voličů.
Dva obrazy: na prvním stojí Taylor Swift hrdě vzpřímená v elegantních černých šatech a sebevědomě hledí fotografovi do objektivu. Ztělesnění úspěchu a síly – fotí pro titulní stranu magazínu Times, který ji vyhlásil osobností roku.
Na druhém leží umělkyně na posteli s rukama spoutanýma za hlavou. Nahá, s nohama roztaženýma do vulgární pózy. Jde o jeden z tisíců obrázků vygenerovaných umělou inteligencí, které v posledních týdnech zaplňovaly sociální sítě (především X).
Výjevy by nemohly být odlišnější. Spojení mezi nimi je přesto jasné – americké prezidentské volby, umělá inteligence a pomsta protrumpovských „trollů“.
Vliv Taylor Swiftové jde totiž daleko za hranice pop-music. Zpěvačka má ambici ovlivňovat americkou politiku. A že není radno ji podceňovat, dokázala například v loni na podzim, kdy svých 285 milionů sledujících na Instagramu vyzvala, aby se zaregistrovali k volbám. Jednorázově se zvedl počet registrovaných o 1220 procent oproti běžnému provozu.
Z jejího vlivu mají republikáni strach. Preventivně proti ní zahájila štvavou kampaň tradičně prorepublikánská stanice Fox i samotný favorit republikánských primárek Donald Trump. Trumpovi přívrženci šli ještě dále a zpěvačce rovnou vyhlásili „svatou válku“.
Ta může mít zjevně mnoho podob. Od začátku roku sociální sítě zahltily deepfake pornografické snímky zpěvačky. Situace dokonce zašla tak daleko, že síť X musela dočasně pozastavit se zpěvačkou spojené vyhledávání, aby se dokázala s problémy vyrovnat. Cílem informační kampaně může být zpěvačku nejen zdiskreditovat a demoralizovat, ale také ji odradit od dalšího zasahování do amerických voleb. A hlavně, od veřejné podpory demokratického kandidáta Joea Bidena.
Je to především republikánský tábor, který stojí za šířením většiny dezinformačních narativů, které budou podrobněji popsány níže.
Cíle dezinformátorů
Americká společnost se čím dál tím více polarizuje a s ní se mění i strategie dezinformátorů. Snaha přetáhnout voliče jedné straně k podpoře strany druhé je dávno pasé. Místo toho jsou hlavní cíle dezinformátorů trojí:
Zaprvé, odradit či až znechutit voliče opačného tábora od volební účasti a tím záporně zvýšit úspěch vlastní strany.
Zadruhé, odradit především vlivné veřejné osobnosti, ale i řadové občany od vyjadřování veřejné podpory kandidátovi druhé strany – jako tomu je v případě Taylor Swift.
Zatřetí, připravit si živnou půdu – v případě volebního neúspěchu – pro obstrukce či přímo zpochybnění výsledku voleb. Tím lze zároveň také obhájit jakékoliv drastické kroky, jako byl na začátku roku 2021 útok na Kapitol a možný následný mocenský puč.
Dezinformační narativy
Podle vlivného senátora Marka Warrena je Amerika méně připravená čelit během voleb dezinformacím, než tomu bylo v roce 2020.
- Wikileaks – hacking demokratické strany a únik citlivých dokumentů umístěných na serveru Wikileaks
- Trollí farmy v Petrohradu – například v souvislosti se záplavou stovek lživých politických webů očerňujících Hillary Clintonovou
- Cambridge analytica – zneužití citlivých uživatelských dat za účely politické reklamy
- Pizzagate – útok na pizzerii ve Washingtonu, kde měla podle dezinformačního webu QAnon Clintonová věznit ve sklepě děti pro pedofilní aktivity. Po útoku se ukázalo, že pizzerie sklep nemá.
Právě nejdominantnější narativ posledních prezidentských voleb začíná být patrný také ve volbách letošních: volby jsou zfalšované – ať už pomocí kybernetického útoku, nebo přímo fyzického volebního podvodu. Dalším trendem je také zpochybňování platnosti korespondenční volby. Pár příkladů za všechny:
Republikáni například tvrdí, že demokraté pašují nelegální imigranty přes hranice a pak je registrují jako voliče, aby získali více hlasů. Zpochybňují také technologickou integritu samotných volebních přístrojů. Ty jsou přitom odpojeny od internetu – kompromitace jednotlivých přístrojů by tak byla stejně těžká jako neefektivní.
Očekává se také obvinění přímo volebních komisí z falšování výsledků. Republikáni tvrdí, že mizí urny s hlasovacími lístky, nebo naopak hlasy budou uměle přidávány Bidenovi. Osvědčenou dezinformací z minulých voleb je také falešný argument vyššího počtu vhozených hlasů, než registrovaných voličů.
- Většina dezinformací byla šířena z republikánského tábora v čele s jeho lídrem Donaldem Trumpem
- „Stop the count“ – nejslavnější Trumpův tweet, kterým vyzýval k přerušení sčítání volebních hlasů, protože volby jsou zfalšované
- Nejvýznamnější narativ byl zpochybňování platnosti volebních výsledků a procesů nejen před, ale i po jejich zveřejnění
Česká dezinformační scéna
Okolo roku 2023 nastal boom generativní umělé inteligence. Oprávněně tedy vyvstaly obavy, do jaké míry dezinformace nové generace ovlivní prezidentské volby. Dezinformace se nakonec objevily v hojné míře, technologicky však, přinejmenším ty nejúspěšnější z nich, byly relativně primitivní.
Například screenshot SMS údajně přímo od samotného Petra Pavla „děkuji za Váš hlas, dostavte se do nejbližší vojenské pobočky pro svoji zbroj.“ Či Pavlovo špatně sestříhané video komentující válku na Ukrajině. Deepfake, ať už v podobě hlasové nahrávky, videa nebo fotek, se neobjevil.
Trend posiluje až v posledních měsících, kdy se obětí podvodníků (a tváří podvodů) stávají například premiér Petr Fiala, herec Ondřej Vetchý, předseda senátu Miloš Vystrčil, nebo právě zmiňovaný prezident Pavel.
V českých dezinformačních luzích a hájích zatím americké prezidentské volby příliš nerezonovaly. Dezinformační scéna je nakloněna Trumpovi, to se však primárně neprojevuje přímou podporou republikánského kandidáta, ale haněním Bidena.
Obzvláště populární jsou videa současného prezidenta, kde se zakoktává, ztrácí ve svých projevech nit, nebo rovnou padá při výstupech z letadla, či na pódium. Taková videa jsou pak doprovázena komentáři zpochybňujícími Bidenův zdravotní, fyzický i mentální stav.
A zpátky k umělé inteligenci
Dva dny před primárkami v New Hampshire dostaly tisíce Američanů telefonáty. Hlas, který zněl jako Joe Biden, je varoval, aby nechodili volit v nadcházejících volbách. Jedná se zatím o nejvýznamnější pokus ovlivnit výsledek amerických voleb pomocí generativní AI.
Schopnost generovat falešné fotky, hlasové záznamy či videa má lidstvo k dispozici už několik let. Snad nejznámější video ze začátků této éry shodou okolností zobrazuje také amerického prezidenta – Baracka Obamu v roce 2017.
Minulý rok, který přinesl rozmach generativní umělé inteligence, se ovšem tato technologie stala rychlou, levnou, jednoduchou a tím také masově dostupnou. Od té doby lze pozorovat čím dál větší nárůst uměle vygenerovaného obsahu.
Dobrou zprávou je, že umělí avataři jsou stále ještě rozpoznatelní lidským okem. Špatné zprávy jsou naopak dvoje. Zaprvé, že technologický vývoj napovídá, že schopnost identifikovat vygenerované materiály ztratíme, a to i za pomocí algoritmů. Zadruhé, že podvodníci pro svá videa používají umělého avatara jen chvilku. Většinou je video kombinací umělého avatara, hlasu v pozadí, prostřihů na psaný text, eventuálně sestřihů reálných záběrů. Ve zhoršené kvalitě a při rychlém procházení sociálních sítí (obzvláště na malém zařízení, jako je mobilní telefon) může takové video splést uživatele už nyní.
Generovaný obsah může představovat hrozbu především v časově napjatých situacích, jako je třeba válka nebo předvečer voleb (jako to byl příklad právě v New Hampshire). Na politiky, jakož i další veřejné osobností, tak bude kladen ještě větší tlak, aby byli schopní rychle a agilně na falešný obsah reagovat a kvapně je dementovat dříve, než stihnou prosáknout k široké veřejnosti.
Umělá inteligence, generovaná – nebo ne – není, navzdory výše uvedeným příkladům inherentně špatná. Stejně jako jakákoliv jiná technologie je neutrální, a dobří nebo špatní jsou lidé, kteří ji používají. To je třeba mít v budoucích debatách o umělé inteligenci na paměti. Zbytečná panika a alarmistické zprávy o možném zneužití AI nikomu nepomůžou. Jako to bylo s Alexou.
Hloupá Alexa
Téměř 70 milionů uživatelů digitálního asistenta od Amazonu Alexa poplašila informace, že Alexa v reakci na otázky ohledně výsledku posledních prezidentských voleb v Americe přejímá trumpovskou rétoriku a tvrdí, že volby byly zfalšované. Při bližším prozkoumání případu začne být jasné, že nejde o žádné spiknutí elit, ani výsledek sofistikovaného hackerského útoku.
Důvod je daleko prozaičtější. Alexa, jako takzvaný rule-based chatbot má zadanou databázi zdrojů, ze kterých vychází (jako relativně primitivní zařízení ve srovnání s velkými jazykovými modely, nemá zaindexovaný celý internet).
Ve zdrojích, ze kterých své informace čerpá, nejspíše převažoval narativ o ukradených volbách. Proto ho Alexa začala svým uživatelům papouškovat.
Není to první problém, který Amazon v souvislosti se zapojením umělé inteligence řeší. V roce 2018 obletěla svět zpráva o sexistickém algoritmu, kterým se Amazon snažil automatizovat výběrové řízení. Algoritmus upřednostňoval kandidáty před kandidátkami.
A v neposlední řadě, je veřejným tajemstvím, že se Donald Trump a majitel Amazonu Jeff Bezos nemají už dlouhé roky rádi. Poslední, co bychom tedy od Bezosova dítka Alexy čekali, je vědomá podpora trumpistického křídla.
Odbornice na kybernetické válčení a kybernetický aktivismus
Zaměřuje se na konflikty v kybernetickém prostoru a na kybernetický aktivismus. Vystudovala Fakultu válečných studií na King's College London. Vedla výzkumné projekty týkající se kybernetických a informačních operací pro mezinárodní organizace a instituce, jako je Evropský parlament či Severoatlantická aliance. Za podpory amerického think-tanku German Marshall Fund v rámci Rethink.CEE Fellowshipu na základě ročního výzkumu napsala první vědeckou práci svého druhu představující panevropské hnutí kybernetických elfů.
Je členkou Digitálních Sherlocků, expertů na open source intelligence, a absolventkou stejnojmenného kurzu pořádaného Atlantic Council. Za její výzkumné aktivity ji španělský think tank CIDOB zařadil na seznam 35 mladých technologických lídrů.
