Není důvod, proč by umělá inteligence měla chtít člověka poslouchat, varuje expert

„Co stojí v cestě nástupu umělé inteligence? Máme obří výpočetní kapacity, máme čím dál lepší technologie, které se snaží napodobovat lidský mozek,“ uvedl Roman V. Jampolskij, přední světový expert na kybernetickou bezpečnost a umělou inteligenci na pražské akci Future Port. Nechybí podle něj ani peníze, do těchto projektů investují jak státní instituce, jako je americká armáda, tak velcí soukromí hráči, jako je Facebook nebo Google.

Jampolskij považuje za pravděpodobné, že se naplní předpověď futurologa Raye Kurzweila – tedy že pravá umělá inteligence, která svými schopnostmi předčí člověka, se objeví mezi roky 2023 a 2045.

První vlaštovky už tu jsou, můžeme je vidět kolem sebe na každém kroku, podle Jampolského zejména ve hrách. Umělé inteligence překonávají člověka nejen v soubojích, kde záleží na „výpočetní kapacitě“ a paměti (šachy nebo go), ale už i ve hrách, které jsou založené na blafování (poker) nebo spolupráci (DOTA).

Profil

Roman V. Jampolskij

Roman V. Jampolskij je původně lotyšský počítačový expert, který učí na University of Louisville. Je expertem na biometriku, počítačovou bezpečnost a bezpečnost umělých inteligencí. Je autorem více než stovky publikací, včetně několika knih.

Co je umělá inteligence? Máme ji vlastně už kolem sebe, jako primitivní umělé inteligence fungují různé asistenční programy, samořiditelná auta, algoritmy, které ovládají internet. To ale ještě nejsou „pravé umělé inteligence“ – ty přijdou teprve s tím, když se podaří strojům napodobit lidský mozek. Ale pak se svět změní víc, než kdykoliv předtím, podle Jampolského se především promění zatím nepředpověditelným způsobem hodnota lidské práce.

Expert pokládá sugestivní otázky: Proč by nějaká společnost zaměstnávala lidi, když jejich práci zdarma zvládne program napojený na nějaký robotický systém? Co budou lidé se získaným volným časem dělat? Z čeho budou žít? A také, pro koho vlastně budou korporace zaměstnávající umělé inteligence vyrábět, když většina lidí přijde o práci, a tedy i o zdroj příjmů? A neprohloubí to ještě víc rozdíly mezi elitami a obyčejnými lidmi?

Jampolskij nevěří, že existuje nějaké laciné a jednoduché řešení, ale právě proto se musí firmy i státy na takovou budoucnost začít připravovat. Změna, které experti říkají singularita, totiž může přijít nečekaně a její důsledky se mohou projevit mnohem rychleji, než státy dokáží zareagovat.

Svět bez práce

Podle Jampolského je v USA asi šest milionů řidičů kamionů a je prakticky jisté, že do poloviny století všechna tato místa zaniknou; auta budou řídit stroje, jimž zaměstnavatelé nebudou muset platit výplaty a nebudou muset řešit jejich zdravotní ani sociální pojištění.

Jedním z řešení by podle experta mohl být univerzální příjem, který by ve stále nejistějším světě, jenž se mění stále rychleji, sloužit jako jistý sociální polštář. Nejnovější experimenty s tímto ekonomickým systémem, například ve Finsku, sice ukazují, že zavedení jen tak nepřijde, protože přináší množství komplikací, ale je to jedna z cest, které se prý budou muset zkoušet.

Ještě horší scénáře

Všechny tyto úvahy jsou ale podle Jampolského ještě optimistické – doufají totiž, že člověk bude schopný umělé inteligence kontrolovat. Odborník však varuje, že to není vůbec jisté; pokud budou stroje inteligentnější než lidé a jejich inteligence bude vycházet z toho, jak funguje lidský mozek, není důvod, proč by člověka měli chtít poslouchat.

Nedokážeme si prý představit, jak by taková nadřazená inteligence byla schopná ovlivňovat svět kolem sebe: „Může najít nové cesty útoku, útočit sofistikovanými způsoby proti celé společnosti a využívat existující hardware,“ popsal Jampolskij nedávno v rozhovoru pro NBC. „Takový software by nebyl limitovaný – mohl by útočit i na lidskou psychiku, třeba pomocí úplatků, vydírání, nebo vymýváním mozků.“

Existuje řešení?

Jampolskij už řadu let varuje, aby lidstvo takového džina nevypouštělo z láhve. Pokud chce přežít, musí se věnovat tomu, aby umělé inteligence kontrolovalo a používalo je s bezprecedentní opatrností jen v kontrolovaném prostředí – podobně, jako se třeba zkoumají smrtící viry.

Jampolskij navrhuje, aby se veškeré experimenty prováděly ve zcela virtuálním prostředí, tedy vlastně v programu, který bude uzavřený v jiném programu – neboli v jakési obdobě slavného filmového Matrixu. Umělá inteligence by si tak nemusela vůbec uvědomovat, že neexistuje v realitě, respektive by tu naši, lidskou realitu, neměla být schopná ovlivňovat.

Expert si uvědomuje, jak složité by to mohlo být: „Hlava 22 je, že dokud nebudeme mít plně funkční super-chytrou umělou inteligenci, tak nebudeme schopní testovat systémy, které super-chytrou umělou inteligenci pohlídají,“ řekl v rozhovoru pro InnovationNewsDaily.