Žijeme v době informačního přesycení. Je stále těžší rozeznat pravdu od manipulace a lži. Podle zakladatele společnosti Semantic Visions Františka Vrabela za to mohou především sociální sítě v čele s Facebookem. „Pokud se jako společnost nebudeme účinně bránit, budeme zcela vytaženi z našeho reálného světa do světa deepfakes,“ varuje v publicistickém pořadu Bilance Vrabel. Nový díl s podtitulem (Ne)mocná média vysílá ČT1 v pondělí 10. ledna ve 21:55.
Sofistikované fake news mohou v budoucnu zcela ovládnout naše mysli, upozorňuje datový analytik Vrabel
Jak byste z hlediska informačního prostoru charakterizoval dobu, ve které teď žijeme?
Já si myslím, že žijeme v době manipulací. Kdy ten informační prostor už nemá pomalu nic moc společného s pravdivou informovaností. Zcela se změnil model médií. Ty on-line platformy v podobě především sociálních sítí už se v současnosti staly dominantními informačními zdroji. A přitom nejsou brané jako mediální domy. Nemají jakoukoliv odpovědnost za ten obsah, což je neudržitelné. Svět, který nám předkládají, je zcela pokřiven. Předkládají informace podle preferencí těch jednotlivých uživatelů. Donedávna byla média považována za hlídače demokracie. V současnosti média v podobě těch on-line platforem jsou hlavní nástroj ke zničení demokracie.
Pokud žijeme v době manipulací, kde se v on-line prostředí vyskytují pro společnost nebezpečné dezinformace?
Vidíme je ve třech takových prostředích na internetu. Vytváří jeden ekosystém. Tím prvním jsou dezinformační weby, které se tváří jako normální zpravodajské weby. Potom jsou to samozřejmě sociální sítě, které hrají klíčovou roli v rozšiřování a zveličování dezinformací. Tou třetí částí, takovým českým specifikem, jsou řetězové e-maily.
Který ten kanál je nejsilnější?
Největší dopad v českém prostředí mají sociální sítě. Ve velké většině to začíná na dezinformačních webech. A potom se zprávy šíří prostřednictvím zkopírovaných URL adres, případně obrázků z těchto webů na sociálních sítích.
Je produkce dezinformací mimo jiné také dobrý byznys?
Dezinformace vydělávají. Weby jsou nejčastěji takzvaně pay per click. Za každý zhlédnutý článek, kde se zobrazí reklama, tak dostane majitel toho webu nějakou korunu. Přirozeně mají zájem, aby maximalizovali svůj příjem, tak musí předkládat obsah, který co nejvíce zaujme. A proto předkládají ty zprávy velmi emotivní. A naopak se snaží o to, aby měli co nejmenší režii, takže tyto dezinformační weby obecně nemají žádné redakční rady, vidíme tam často takové věci, že používají obsah, který je automaticky přeložen nebo je generován počítačově.
Rusko se snaží rozvrátit vztahy v Evropské unii, upozorňuje
Jak, kde a proč vznikají dezinformace?
Spousta lidí si myslí – a myslí si to i někteří politici, kteří se tím chtějí zabývat –, že to začíná v Rusku, ale tak jednoduché to není. Samozřejmě že některé dezinformace z Ruska se přebírají. Můžeme uvést příklad. Když se zveřejnila role komanda GRU ve Vrběticích, tak ten tón zpráv kolem toho do značné míry udával ruský Sputnik – v tomto případě jako oficiální ruský zdroj. Nebo nedávno, když pan prezident vážně onemocněl a začala debata o možném dočasném zbavení funkce, tak to bylo podobné. Sputnik znovu zavelel k útoku a líčil to jako ústavní puč a mnohé dezinformační weby to papouškovaly.
Jinak ale v drtivé většině ty dezinformace jsou české provenience, není tam žádná přímá linie z Ruska, ale je namístě říct, že ty dezinformace publikují zdroje, které dlouhodobě pracují ve prospěch Ruska. Proč? Rusové si zde za ty dlouhé roky, kdy působí v českém informačním prostoru, vytvořili svoji pátou kolonu, což jsou lidé, kteří byli napadeni tím dezinformačním virem. Oni tomu ve velké většině skutečně věří. A hrají pro Rusy roli takzvaných užitečných idiotů, jak jim sami Rusové říkají.
Jak takový vliv Rusko uplatňuje?
Směrem k nám to dezinformační působení, v té vojenské oblasti označované jako psychologické operace, míří na to, aby mezi lidmi zavládl pocit, že nic jako pravda neexistuje. Odborně tomu říkáme relativizace pravdy.
Takže když se něco důležitého stane, kupříkladu otrava Skripalových novičokem, tak Rusové zahltí informační prostor. V tomto případě to bylo až sedmdesát často i protichůdných narativů nebo příběhů o tom, jak se to skutečně stalo. A vlastně proti tomu stojí jedna verze, která je skutečná, kterou vydá britská vláda. Na normálního člověka to působí tím způsobem, že si řekne: tak kdo ví, jak to vlastně je. V případě Vrbětic byla jedna oficiální zpráva české vlády a k tomu na různých dezinformačních webech asi pět dalších vysvětlení.
A pak jsou dlouhodobá témata. Jedním z nich je rozmělňování našeho vztahu k Evropské unii nebo nyní covid.
Jde o celoevropský, respektive globální problém?
Čím blíž jste k Rusku, tím více jste exponováni ruským dezinformacím. Z těch našich velkých dat vychází, že Němci jsou zhruba tak dvakrát méně exponovaní než Česká republika. Američané pak zase dvakrát méně než Němci. V některých případech je ten rozdíl daleko větší, například u očkování vakcínou od firmy Pfizer jsme exponováni dezinformacemi pětadvacetkrát víc než Američané.
Geografická blízkost je jediný faktor úspěchu?
Další je to, že země, které byly dříve součástí Varšavské smlouvy, méně věří svým vládám. Protože když nám vládli komunisté od roku 1948 do roku 1989 a Rusko nás okupovalo, tak naši lidé prostě v drtivé většině nevěřili vládě. A bohužel toto dědictví si přenášíme i do dnešních dnů. Důvěra ve vládu obecně, hlavně taková ta podprahová, je nesrovnatelně nižší než v zemích, kde demokracie nebyla přetržena, jako například ve Velké Británii.
Jaké jsou motivace Ruska?
Ten důvod, proč to Rusko dělá, je ten, že s námi nejsou schopni soupeřit ekonomicky. Po ruské anexi Krymu se od nich Západ začal odstřihávat. Což oni cítí jako existenční riziko a snaží se ze všech sil toto odstřihávání světové ekonomiky od nich zvrátit.
Rusko je bytostně závislé na vývozu energií, především ropy a plynu. Takže usoudili, že se jim bude lépe vyjednávat s jednotlivými zeměmi než s jednou velkou monolitickou organizací, jako je Evropská unie.
Datový analytik, ředitel a zakladatel společnosti Semantic Visions. Společnost se zabývá analýzou obsahu webů na internetu. Používá pro to zejména takzvanou sémantickou analýzu a nástroje umělé inteligence. Semantic Visions spolupracuje s vládami, korporacemi i neziskovými organizacemi. Vrabel působí jako konzultant pro bezpečnostní otázky při EU a NATO v oblasti propagandy a dezinformací.
František Vrabel
Algoritmy je třeba ztransparentnit
Jakou roli v šíření dezinformací hrají sociální sítě?
Především Facebook v tom hraje naprosto klíčovou roli. A to tak, že takzvaně rozšiřuje a zveličuje ty dezinformace a dělá to zcela záměrně. Tu práci obstarávají algoritmy, které Facebook vytvořil, a ty zjednodušeně řečeno mají ty dezinformace rády. A mají je rády z toho důvodu, že poutají daleko větší pozornost než ty pravdivé informace, už jenom proto, že mají silný emocionální náboj. A jsou postaveny z podstatné části na vyvolávání strachu. A strach je nejsilnější lidská emoce, tak proto přitahují tu pozornost.
Mluví se o duopolu Facebook a Google. Google není tak velký problém jako Facebook?
Ne. Je daleko menší. A nebyl by to ten vyhledávač, ale je to ta část videí, tedy YouTube. YouTube je problém, ale hraje menší roli než Facebook.
Dá se proti dezinformacím bojovat? Jaké jsou cesty?
V demokratické společnosti je velmi těžké s nimi bojovat. Podle mého názoru je třeba primárně bojovat za regulaci on-line platforem, především tedy Facebooku. Když někdo přijde s nějakou hrůzostrašnou zprávou, že očkování zabilo tři sta dětí, tak tato zpráva na českém internetu nějak organicky probublá třeba k deseti tisícům lidí. Algoritmy Facebooku ale tuto zprávu rozšíří třeba na půl milionu nebo na dva miliony lidí. To je to, o čem by ta regulace měla být. Jinými slovy, není to vůbec o cenzorství. Nebo že by někdo chtěl lidi zbavovat práva na vyjádření svého názoru, ale jde o to, aby tyto názory nebyly v informačním prostoru uměle zveličovány.
Jak by měla regulace vypadat?
Tato regulace nemůže být na úrovni České republiky, ale na úrovni Evropské unie. A věřím, že nová česká vláda přispěje k tomu politickému tlaku, aby se tak stalo.
A konkrétně?
Zaprvé by technologické platformy měly být zbaveny imunity, kterou získaly v raných dobách internetu. Imunity ve smyslu, že nezodpovídají za obsah, který je na těch platformách poskytován. Toho se bojí jak čert kříže, protože pokud by byly této imunity zbaveny, tak by byly zavaleny žalobami. A mohlo by je to zruinovat. A musely by v každém případě věnovat daleko větší pozornost nasazování systémů, aby nerozšiřovaly škodlivý obsah, mezi který patří dezinformace.
Za další. Měl by být podle mého názoru zakázán takzvaný microtargeting, což je extrémně cílená reklama. Facebook a další on-line platformy prodávají naše individuální profily inzerentům. Ale především prodávají takzvané human futures, tedy to, jak se vy zachováte. Což jde úplně mimo představivost legislativců. A jde to zcela nad rámec ochrany osobních práv nebo GDPR. S tímto souvisí ta věc, že algoritmy se potom dál snaží co nejvíce získat vaší pozornosti, aby se zvyšovala pravděpodobnost, že tou inzercí nebo tím obsahem, který je vám předkládán, ovlivní vaše jednání. Používají k tomu celou řadu poznatků z neurovědy, v jejichž centru je to, že vytvářejí závislost na používání té příslušné platformy. Takže nakonec ty, které získají naplno, tráví na té platformě třeba i sedm hodin denně a stávají se z nich de facto zvířátka, protože co nás odlišuje od zvířat, je právě schopnost pozornosti.
To vše neřídí lidé, ale algoritmy, které mají charakter umělé inteligence. Ty algoritmy jsou mimořádně složité a je třeba je ztransparentnit. Toho se zástupci těch platforem rovněž velmi bojí. Argumentují obchodním tajemstvím, takže chtějí zveřejnit pouze něco. Aby celá ta pravda, celá ta špína nevyplavala na povrch.
Bilance (zdroj: ČT24)
Bude k něčemu zveřejnění kódů?
Ten kód je mimořádně složitý. Obsahuje miliony řádků. Než by to skutečně velmi schopné týmy rozklíčovaly, tak jim to bude trvat dlouhé měsíce. A mezitím se kód změní třeba tisíckrát. Takže to, co si myslím, že se musí udělat, je, že se poskytne imunita inženýrům uvnitř těch platforem, kteří vysvětlí algoritmy vědecké obci a lidem zvenčí. Musíme se o ně legislativně postarat, třeba tak, že z nich bude sejmuta povinnost platit vysoké pokuty, kterými jsou svými firmami zavázáni.
Mohou něco v tomto ohledu dělat samotní uživatelé, soukromý sektor?
Smysl mají i další dílčí opatření. Inzerenti by se měli chovat zodpovědně. Aby neinzerovali na dezinformačních webech, protože ty žijí z inzerce. A i kvůli tomu jsme založili občanské hnutí Nelež, jehož cílem je právě zamezit, aby tyto dezinformační weby byly financovány prostřednictvím firem.
Metaverse? Šílený plán
Podle průzkumu agentury STEM v Česku dezinformacím věří patnáct procent lidí. Hrozí, že se do pasti dezinformací v budoucnu chytíme všichni?
No, bohužel se to tak stane a stane se to nejspíš docela rychle. Za dva, tři, maximálně pět let, pokud se proti tomu nezačneme jako společnost účinně bránit, tak sofistikované fake news zcela ovládnou naše mysli. A nebude boha, který by to poznal.
Tím máte na mysli například deepfake videa?
V současnosti má spousta lidí problém rozpoznat, co dezinformace je, nebo není. Jde primárně o textovou informaci. Přitom často za bernou minci bereme to, co je natočeno. A ty deepfakes se budou právě zaměřovat především na formát videa. Budeme obklopeni avatary, o kterých nebudeme tušit, že jsou avatary. Budou mít podobu lidí, kterým důvěřujeme, kteří jsou nám nějakým způsobem sympatičtí, ať už svým fyzickým zjevem, nebo způsobem argumentace, barvou hlasu a podobně. A budeme zcela vytaženi z našeho reálného světa do světa deepfakes.
Máte v této souvislosti obavy z projektu Metaverse od Facebooku, respektive přejmenované skupiny firem pod novou značkou Meta?
To považuju za naprosto šílený plán. A mám takový dojem, že zakladatel Facebooku Mark Zuckerberg se zjevně zcela vymkl kontrole. Když je zcela právem kritizován, že ničí demokracie po celém světě, tak přijde s ještě šílenějším plánem vytáhnout lidi do jeho osobního světa, který vytváří, kde jednotlivci budou pouze subjekty, které on bude jako otroky prodávat.
Vy jste v minulosti řekl, že Facebook má ambici ukrást naši identitu. Jak jste to myslel?
Je to nástroj sledování a vpadnutí do soukromí, který jde zcela mimo představivost. Jakmile se člověk připojí na Facebook, tak první, co udělá, že Facebook si přetáhne všechny vaše kontakty, veškerou historii, jak jste se kdy pohyboval na internetu. A propojí to se svým obrovským znalostním grafem, který uvnitř toho systému má. Takže si okamžitě vyhodnotí, rozpozná ty nejtemnější detaily té osoby. Jaké je jeho náboženství, jeho sexuální preference, jak je ukotven ve vztazích. Kdo jsou jeho přátelé, jak často s nimi komunikuje, o jakých tématech, jaké fotografie s nimi sdílí a podobně. A prostřednictvím těchto nástrojů přečte takzvanou sociální DNA každého ze svých uživatelů, kterých má v současnosti ke třem miliardám.
Jeho znalostní síť je tak hustá, že i když se někdo buď z Facebooku snaží zmizet, anebo když v něm nikdy nebyl, tak protože se jiní lidé o té osobě zmiňují ze všech možných různých stran nebo se vyskytuje na fotce a podobně, tak je schopen zrekonstruovat i ty osoby, které nikdy s Facebookem neměly nic společného. I kdybyste byli úplně off-line, on přesto o vás ví, dokáže vytvořit obraz takového člověka. Ve svých komerčních aktivitách pak Facebook zpeněžuje i tuto věc.
Myslíte si, že Facebook změnil společnost?
Já si myslím, že naši společnost dramaticky změnil. Společnost na celém světě se radikalizuje. Politici jsou schopni čím dál tím méně nalézat kompromisy. A nevidím žádný jiný významný faktor než právě faktor těch sociálních sítí. Lidé jsou čím dál tím víc naštvaní. Přitom – až na nějaké výjimky, nechejme teď covid covidem – se máme čím dál tím lépe. A i za toto lze vinit algoritmy těch sítí. Ony se primárně snaží něco prodat, a pokud jste nespokojen, tak se zvyšuje pravděpodobnost, že si něco koupíte. To je dokázáno.