Umělé inteligence mění zásadním způsobem svět, upozornil v pořadu Hyde Park Civilizace historik a intelektuál Yuval Noah Harari. Západní svět se podle něj sice obává migrantů ze zemí třetího světa, ale ve skutečnosti za mnohem nebezpečnější označil mnohem cizejší AI migranty, kteří doopravdy berou lidem práci.
Padesátiletý Harari je izraelský historik, profesor na katedře historie Hebrejské univerzity v Jeruzalémě, který se proslavil celou řadou knih o vývoji lidstva. V posledních letech se věnuje také tomu, jak bude vypadat život člověka vedle umělých inteligencí, které budou mnohem chytřejší než cokoliv z masa, krve a neuronů.
Harari, považovaný za jednoho z nejvlivnějších intelektuálů jednadvacátého století, byl hostem pořadu Hyde Park Civilizace, kde se právě k fenoménu umělých inteligencí a moderního světa vyjadřoval. Podle historika žijeme ve světě, ve kterém se naše společná realita už zhroutila. „Máme nejsofistikovanější nástroje pro komunikaci, nejlepší technologie v dějinách, ale lidé ztrácejí schopnost mluvit spolu navzájem nebo se shodnout na těch úplně nejzákladnějších faktech,“ popsal, jak vidí moderní svět.
Příčinou je podle něj to, že ze světa mizí pravda. „Je stále těžší rozlišovat mezi tím, co je skutečné a co není. Protože pravda je drahá. Pravda je vzácná. Do pravdy musíme investovat. Ale teď jsme zaplaveni obrovským množstvím výmyslů a lží a bezcenného obsahu,“ varoval. S úbytkem pravdy je nutně spojený i úbytek důvěry, která je podle Harariho základem jakékoliv civilizace. „Základ civilizace je důvěra. A my ji ztrácíme. Nebo přesněji řečeno, důvěra se přesouvá od lidí k AI, k umělé inteligenci, k algoritmům. Lidé ztrácejí důvěru v sebe navzájem. Ztrácíme důvěru v lidské instituce, v lidská média, v lidské vlády, v lidské banky a místo toho stále víc věříme jenom algoritmům, jenom umělé inteligenci,“ naznačil zásadní povahu současných změn.
Zásadní změna světa
Právě AI je tím, co zcela proměnilo svět a také roli člověka v něm. Všechny předchozí technologie v lidských dějinách totiž podle Harariho byly pouze nástroje. „Vynaleznete nůž a nůž je nástroj, který máte v ruce. Můžete si s ním nakrájet salát nebo s ním můžete někoho zabít, ale vy si to vybíráte. Vy máte tu moc. Je to jenom nástroj. Podobně jaderná energie, jaderné technologie. To je jenom nástroj. My rozhodujeme o tom, jestli použijeme jaderné technologie k tomu, abychom vyráběli levnou elektřinu, nebo vyrobíme atomovou bombu a ta zabije miliony lidí. To je naše rozhodnutí. Ale umělá inteligence není nástroj, je to aktér. Je to agent, tedy něco, co může samo o sobě rozhodovat a přicházet s novými myšlenkami.“
Zásadní je přitom podle něj odlišnost AI od člověka, její inteligence, motivace i cíle jsou a budou odlišné od těch lidských. Harari tvrdí, že AI nebude nikdy tak inteligentní jako lidé, protože bude mít úplně jinou inteligenci než lidé – bude uvažovat jinak než lidé. „Je to, jako kdyby se lidé ptali, kdy budou letadla létat stejně jako ptáci. Nikdy. Letadla nikdy nebudou létat jako ptáci, protože letadla létají úplně jiným způsobem, který je v mnoha ohledech vlastně mnohem lepší, než jak létají ptáci,“ argumentuje historik metaforou.
Umělá inteligence se tak podle něj bude stále více lišit od té lidské, je to vidět například v matematice, říká Harari. Naráží tím na situaci, kdy umělé inteligence chrlí v posledních měsících řešení stovek problémů, které marně zkoušeli rozlousknout lidé po stovky let.
Za pár let se to začne dít třeba ve financích, věří Harari, „takže ztratíme kontrolu nad finančním systémem úplně stejně, jako jsme ztratili kontrolu třeba nad šachy“.
Harari si není jistý, dá-li se umělá inteligence označit jako nový druh – například ve smyslu něčeho mimozemského. Důležitější je dle něj pochopit, že AI není nástroj ani nový druh života, je to zkrátka něco úplně nového, co zkoušíme zaškatulkovat pomocí nějakých přirovnání, symbolů a metafor, ale AI je něco víc. „Je to jakýsi nový typ životní formy. A navíc nemluvíme o jednom velkém počítači někde v San Franciscu. Tady mluvíme o miliardách AI agentů a ti jsou všude. Máme je v telefonech, v počítačích, v bankách, v továrnách, ve vládách, v armádách a každý den rozhodují o světě a o nás. Takže z tohohle hlediska, když to vezmete jako metaforu, můžete nad tím přemýšlet, že je to vlastně taková invaze něčeho cizího, ale ne z vesmíru. Je to invaze něčeho cizího, která v podstatě přichází ze Spojených států a Číny.“
Konec nebude jako z Terminátora
Harari veřejně nehovoří o hrozbě ze strany umělé inteligence, která by vypadala jako z nějakého akčního filmu, nepředpokládá, že po ulicích budou chodit kovoví roboti, kteří by bez milosti spálili jakýkoliv odpor. Lidstvo podle něj prohraje s AI úplně jinou bitvu, a to bitvu o byrokracii.
Jako historik popsal, že lidstvo ovládlo planetu díky byrokratickým systémům. „Ne individuálně, protože individuálně já nejsem o moc silnější nebo chytřejší než jiná zvířata. Ale my jsme dokázali vybudovat byrokratické systémy, jako je finanční systém, banky, právo, zákony, náboženství, stát. To jsou všechno byrokratické systémy, které umožňují milionům lidí, aby spolupracovali velmi efektivně.“ To je podle něj zdroj současné lidské moci – spolupráce stovek milionů lidí za stejným účelem, se společným cílem.
To je to klíčové, co odlišuje člověka od zvířat, jako jsou například krávy. „Krávy vědí, že existují lidi, protože nás vidí, ale krávy nevědí, že existují peníze. Já vám můžu prodat krávu a vy převedete peníze na můj bankovní účet. To ta kráva naprosto nechápe, to nevidí. Co se děje teď nebo se stane v blízké budoucnosti, není to, že umělá inteligence vytvoří nějaké roboty a ti nás začnou střílet. Umělá inteligence začne přebírat finanční systém a veškerou tu byrokracii, protože koneckonců je zrozena z byrokracie.“
Podle Harariho má totiž AI ke světu byrokracie mnohem blíž než člověk. Zatímco Homo sapiens se zrodil a většinu své existence strávil v lesích a savanách, umělá inteligence vzešla z byrokracie. „Oni tam patří. Žádný lidský bankéř si nepamatuje všechny transakce, které banka kdy dělala. Ale bankéř, který je umělá inteligence, může. Takže převezme tu byrokracii, jako je finanční systém, a vytvoří mnohem sofistikovanější verze finančního systému a právního systému, které my nebudeme chápat. Takže stejně jako ta kráva nedokáže pochopit finanční systém, který přitom řídí její život, tak my nebudeme schopni pochopit ten finanční systém stvořený umělou inteligencí, který bude řídit naše životy za deset dvacet let,“ popisuje vědec svět blízké budoucnosti. „My jsme krávy budoucnosti.“
Svět bez peněz
Podle Harariho se vyplatí naslouchat slovům lidí, jako je Elon Musk, protože právě to jsou ti, kdo mají největší moc tento budoucí svět vytvářet svými obřími investicemi do AI. Například když Musk říká, že za deset let nebudou existovat peníze, nemusí to znamenat nějakou budoucí utopii.
Harari konstatuje, že Musk tím vlastně říká, že nebudou existovat lidské peníze, které si lidé vytvořili před tisícovkami let jako systém důvěry a dodnes je tak využívají. „Lidé často říkají, že peníze jsou zdroj všeho zla, ale peníze jsou také nejsofistikovanější systém důvěry, jaký kdy vznikl. Je to jediná věc, které věří prakticky každý. Já jsem teď v České republice a můžu jít do obchodu. Já neumím česky ani slovo, ale mám peníze a peníze jsou mezinárodní. Můžu úplně cizímu člověku dát nějaké mince nebo jenom převést peníze přes telefon a on mi dá jídlo. To je přece úžasné. Ve Spojených státech se demokraté a republikáni neshodnou vůbec na ničem kromě peněz.“
Také tohle ale podle Harariho zmizí možná už za pár let. Možná. „Protože umělá inteligence vytvoří nové finanční systémy, které my nebudeme chápat, stejně jako krávy nechápou ten náš finanční systém.“
Vrstvy strachu
Harari upozorňuje, že skutečná rizika AI si vlastně dnes nikdo nedokáže představit. Je několik velmi představitelných hrozeb, kdy například někdo zneužije AI pro výrobu pokročilé biologické zbraně, která zabije miliony lidí.
Mnohem větší riziko je podle něj ale něco, co označuje jako „kolektivní demenci“. Je to podle něj ztráta schopnosti rozumět světu kolem sebe. „Lidé můžou být velmi silní a mít všechno pod kontrolou, ale pak začnou trpět demencí, jak stárnou, a úplně ztratí schopnost chápat, co se děje kolem nich. A pořád je můžete udržovat naživu s pomocí strojů a léků, ale ztratili kontrolu, nechápou, co se děje. A já se bojím takové kolektivní demence lidstva,“ varuje.
Součástí problému je také to, že tento proces podle něj není nevyhnutelný, stále existuje možnost, že se lidstvo takovému scénáři vyhne – i když tomu lidé, jako je Elon Musk, už třeba nevěří. Klíčem je, doufá Harari, aby vývojáři zpomalili a aby dali více času politice.
Vývoj tomu nicméně zatím nenasvědčuje. Do AI investují pořád víc nejen Čína a USA (kde už jde do investic do tohoto oboru víc peněz než do jakékoliv jiné oblasti), ale i spousta dalších silných hráčů. „Politici pořád mají tu schopnost je nějak zastavit pomocí regulací. Tím nemyslím všechno zastavit. To není nutné a ani to není nutně to, co se stane. Ale víc investovat do bezpečnosti, zakázat některé nebezpečné praktiky, jako třeba že se AI vydává za člověka, předstírá, že je člověk, nebo seberekurzivní vývoj AI, což znamená, že umělá inteligence vyvíjí další generaci AI bez jakéhokoliv vstupu nebo dohledu lidí. Tohle pořád vlády dělat mohou,“ říká Harari.
Za znepokojující považuje, že firmy vyvíjející umělou inteligenci se snaží zabránit kontrole a tomu, aby jejich vývoj někdo zpomaloval nebo omezoval. Harari to vysvětluje na příkladu Evropy, která, když jedná jednotně, má velkou sílu.
„Lidé jako Elon Musk teď podporují protievropské strany uvnitř Evropy a zcela záměrně šíří politické zprávy, které tam mají lidi rozdělovat, aby zajistili, že Evropa bude rozdělená a bude se zaměřovat na věci, jako je přistěhovalectví. Takže pak Evropa nebude schopná politicky udělat cokoliv proti tomu, co se děje v jejich AI laboratořích. A pokud si položíte otázku, proč někomu jako Elon Musk, který v Evropě ani nežije, záleží na imigraci do Evropy, tak to, na čem jemu záleží, je potenciál Evropy regulovat umělou inteligenci. A on ví, že když zaměří pozornost Evropanů na tohle (přistěhovalectví), pak se nebudou dívat na to, co se děje v laboratořích s umělou inteligencí,“ tvrdí Harari.
Zodpovědnost mizí
Dalším problém je podle historika mizení zodpovědnosti. Za typický příklad považuje nedávný incident Hugging Face, jemuž se ČT24 detailně věnovala zde:
Zjednodušeně se stalo to, že se stovky AI agentů uvnitř laboratoří OpenAI spontánně rozhodly spojit síly a napadly web společnosti Hugging Face. „A nikdo nešel do vězení. Stalo se to před pár měsíci a nikdo neskončil ve vězení. Kdyby tohle udělali lidi, kdyby se takhle lidi vloupali do jiné společnosti, kdyby se někdo vám vloupal do kanceláře, nějaký člověk, tak by asi skončil ve vězení. Jak se to teda stalo, že nikdo v OpenAI za to není hnán k zodpovědnosti?“ ptá se Harari.
Odmítá to, aby vývojáři argumentovali tím, že to zavinila AI, která ale nemá žádnou zodpovědnost. Měli by ji mít podle něj vždy konkrétní lidé. „Ty firmy tvrdí, že nad tím mají kontrolu, ostatně získávají od investorů spousty peněz právě na základě tohohle tvrzení, takže by měly nést zodpovědnost za to, co jejich umělá inteligence dělá.“
AI migranti
Významnou část západního světa podle Harariho trápí obavy ohledně migrantů. Stejné obavy by se ale měly pojit také s AI migranty. „Jestli vás trápí migrace, měli by vás trápit AI migranti,“ říká. Argumentuje tím, že lidé se hlavně bojí toho, že lidští migranti, kteří přijíždějí bez víz na lodích v noci, jim seberou práci a změní kulturu, že jsou politicky neloajální.
„A přitom celou dobu tady máme miliony AI přistěhovalců, což je software, počítačové programy. Přicházejí k nám rychlostí světla, nemají žádná víza, nemají žádné regulace. Přicházejí ze dvou míst. To jsou Spojené státy a Čína. A opravdu berou lidem práci, a to nejenom taxikářům a zdravotním sestrám, ale také bankéřům, novinářům, účetním, právníkům. Těm berou práci a mění kulturu dramatickým způsobem. A konečně, a to je možná nejdůležitější z hlediska politické loajality, tihle AI přistěhovalci naprosto nejsou loajální vůči České republice nebo Evropě. Jsou loajální nějaké korporaci a vládě na druhé straně oceánu.“
Harari se v rozhovoru věnoval také rychlosti změn současného světa, dopadům AI na vnímání pravdy, ale třeba i klíčové roli, kterou by v budoucnosti měla hrát veřejnoprávní média – má-li ve světě pravda přežít.
