Vývojáři umělé inteligence (Al) podle Víta Janiše z brněnské Mendelovy univerzity nejsou schopni dohlédnout důsledků, které jejich výtvor pro lidstvo představuje. Janiš je jedním z vědců, kteří v prohlášení volají po nejméně půlročním pozastavení vývoje nových modelů s ohledem na „hluboká rizika pro společnost a lidstvo“. Umělou inteligencí se Janiš zabývá asi dvacet let.
Jsme jako indiáni, kteří zahlédli na obzoru plachty Evropanů. Brněnský expert varuje před umělou inteligencí
Janiš uvedl, že čím více toho ví, tím větší má obavy z toho, co nastane, jakmile umělá inteligence dosáhne takzvané fáze singularity. Jde o bod zlomu, kdy začne nekontrolovatelný a nevratný technologický růst a lidská společnost se začne nenávratně měnit působením technologie. Podle Janiše neexistuje žádný racionální důvod, proč by tohoto milníku nemělo být dosaženo. Otázkou podle něj není jestli, ale kdy.
„Obávám se, že vývojáři AI nejsou schopni dohlédnout důsledků, které jejich výtvor pro lidstvo představuje. Nejde totiž o otázku technickou, nýbrž filozofickou a legislativní,“ uvedl Janiš.
Sloužit lidem? Naivní představa
Podle něj ve chvíli, kdy umělá inteligence dosáhne singularity, ztratí lidstvo nad jejím dalším vývojem jakoukoliv kontrolu. Její schopnosti poté podle něj porostou exponenciálním tempem a nebude v lidských silách tento vývoj ani pochopit, natož jej nějakým způsobem moderovat.
„Vytvoříme si jakéhosi boha. Představa, že tohoto boha dokážeme kontejnerizovat a udržet v bezpečí sandboxu, je v nejlepším případě naivní, stejně jako představa, že nám tento bůh potom bude sloužit. On. Nám,“ uvedl Janiš.
Uvedl, že výzvu podepsal, přestože je podle něj trošku naivní a z dlouhodobého hlediska nic neřeší. „Vnímám ji ale jako způsob, jak toto téma otevřít, protože s ohledem na to, jak dramatickým způsobem AI v nejbližších měsících a letech změní trh práce a celou společnost, je toto téma v médiích diskutované zcela nedostatečně a nemá takovou pozornost politické reprezentace, jakou si zaslouží,“ míní Janiš.
Dodal, že jsme jako původní obyvatelé Nového světa, kteří poprvé spatřili karavely s Evropany. „Dívali se na ně se zaujetím a zvídavostí, ale stěží jim docházelo, co pro ně tato exotická návštěva v dlouhodobém horizontu bude znamenat. My oproti nim máme několik století náskok, známe historii a měli bychom být schopni se z ní poučit,“ uvedl Janiš.
Prohlášení podepsaly stovky akademiků, expertů a podnikatelů zapojených do vývoje umělé inteligence (AI) včetně miliardáře Elona Muska. Navrhují, aby vývojáři tuto pauzu využili ke společné práci na bezpečnostních pravidlech a také k vystupňování spolupráce se zákonodárci na silné regulaci odvětví.
Kritici tvrdí, že signatáři petice potenciál aktuálních technologií hrubě přehánějí, připomíná agentura Reuters. „Takováto prohlášení mají za cíl vytvořit přehnaná očekávání. Má to v lidech vyvolat obavy,“ míní výzkumnice v oboru umělé inteligence Johanna Björklundová z univerzity ve švédském Umeaa. „Nemyslím si, že je potřeba tahat za ruční brzdu,“ dodala.
Zastavte to!
Ještě ostřeji se proti současné podobě umělých inteligenci vymezil na konci března americký expert na umělé inteligence Eliezer Yudkowsky v časopise The Time. Ten výše zmíněnou deklaraci nepodepsal, protože je podle něj příliš slabá a nedostatečná.
Pravděpodobný výsledek střetu lidstva s nadlidskou inteligencí by podle něj nutně musel skončit naprostou prohrou. Přirovnává ho ke střetu desetiletého dítěte, které se snaží hrát šachy proti nejmodernějšímu specializovanému programu, nebo boji Australopitheka proti modernímu Homo sapiens.
- Eliezer Shlomo Yudkowsky (narozen 11. září 1979) je americký výzkumník a spisovatel zabývající se teorií rozhodování a umělou inteligencí, známý především popularizací myšlenky přátelské umělé inteligence. Je spoluzakladatelem a výzkumným pracovníkem Machine Intelligence Research Institute (MIRI), soukromé výzkumné neziskové organizace se sídlem v Berkeley v Kalifornii. Jeho práce o perspektivě exploze inteligence na útěku ovlivnila knihu Nicka Bostroma Superinteligence: Cesty, nebezpečí, strategie.
„Chcete-li si představit nepřátelskou nadlidskou umělou inteligenci, nepředstavujte si neživého myslitele s knižní inteligencí, který bydlí uvnitř internetu a posílá lidem podvodné e-maily. Představte si celou mimozemskou civilizaci, která myslí milionkrát rychleji než člověk, zpočátku omezenou na počítače – ve světě tvorů, kteří jsou z jejího pohledu velmi hloupí a velmi pomalí,“ uvedl.
„Dostatečně inteligentní umělá inteligence nezůstane dlouho omezena na počítače. V dnešním světě můžete poslat řetězce DNA e-mailem do laboratoří, které budou na požádání vyrábět proteiny, což umožní umělé inteligenci původně omezené na internet vytvářet umělé formy života nebo se rovnou pustit do postbiologické molekulární výroby.“
Řešením je podle něj jen absolutní zákaz všech forem umělé inteligence – snad s výjimkou těch na zdravotnický výzkum. „Všechno to vypněte. Nejsme připravení. Nejsme na cestě k tomu, abychom byli v dohledné době výrazně připravení. Pokud v tom budeme pokračovat, zemřou všichni, včetně dětí, které si to nevybraly a neudělaly nic špatného,“ končí svou úvahu.
