Umělé inteligence mohou fungovat jako jakési síto, které brání vzniku vyspělých civilizací schopných komunikovat a cestovat napříč kosmem. Mohlo by to vysvětlovat, proč je vesmír tak prázdné a tiché místo.
Přestože se výzkum umělé inteligence (AI) stále zrychluje, stále se nepodařilo dosáhnout toho, čemu se říká „opravdová umělá inteligence“ anebo také superinteligence. Tedy stroj, který bude nejen mnohem chytřejší než lidské bytosti, ale navíc nebude ani omezený rychlostí učení našeho druhu. Taková inteligence by mohla samu sebe zdokonalovat mnohem rychleji, než může člověk – a je tedy pravděpodobné, že by ho rychle překonala.
Protože taková entita zatím neexistuje, jsou spekulace o ní jen teoretické. Ale její potenciální schopnosti vedou mnoho špičkových vědců k úvahám, co by její vznik znamenal. V odborném žurnálu Acta Astronautica se teď nad touto otázkou zamyslel skotský astronom Michael A. Garrett. Podle něj by AI mohla představovat takovou hrozbu, že by se tak dala vysvětlit slavná záhada Fermiho paradoxu.
Proč všude kolem nejsou inteligentní civilizace?
Statisticky by měl podle této úvahy fyzika Enrica Fermiho totiž vesmír doslova překypovat inteligentními civilizacemi. A lidstvo by mělo být schopné je snadno odhalit. Jenže realita je opačná: I když se o to mnoho vědeckých skupin po celém světě intenzivně snaží, stále se nepovedlo najít jediný důkaz o jakémkoliv životě v kosmu, natožpak inteligentním.
Garrett popsal svoje vysvětlení Fermiho paradoxu ve zmíněném odborném časopise. Podle něj by mohla být právě umělá inteligence tím „velkým filtrem“, který životu po celém vesmíru brání, aby se vyvinul v civilizace schopné cestovat kosmem a setkávat se s dalšími podobnými tvory.
„Rychlý vývoj umělé inteligence, který může vést k opravdové superinteligentní AI, se může protnout s kritickou fází vývoje civilizace – přechodem od jednoplanetárního druhu k druhu multiplanetárnímu,“ popisuje Garrett. Právě v tomto bodě by mohla řada civilizací podle něj selhat, protože AI bude postupovat mnohem rychleji než schopnosti biologického druhu ji ovládat nebo udržitelně zkoumat.
Problém superinteligentní umělé inteligence spočívá podle Garretta v její sebezdokonalující se povaze. Má totiž potenciál zlepšovat své vlastní schopnosti rychlostí, která nekonečně předstihuje schopnosti živých druhů. Může vyvíjet vylepšení, jimiž bude své schopnosti zlepšovat tak, že její „evoluce“ proběhne v horizontu dní, hodin nebo dokonce minut.
„Potenciál, že se něco zvrtne, je obrovský,“ komentuje Garrett svou hypotézu v článku na webu Conversation. „Pokud se například národy, které si budou navzájem konkurovat, budou stále více spoléhat na autonomní systémy AI a přenechávat jim moc, mohly by být vojenské schopnosti využity k zabíjení a ničení v nebývalém měřítku. To by potenciálně mohlo vést ke zničení celé naší civilizace, včetně samotných systémů AI,“ popisuje astronom jeden z možných scénářů.
Právě umělá inteligence podle jeho úvahy zkracuje možnou existenci pokročilé technologické civilizace na pouhých sto let. „To je zhruba doba mezi schopností přijímat a vysílat signály mezi hvězdami (rok 1960) a odhadovaným vznikem superinteligence (rok 2040) na Zemi. Pokud tento odhad dosadíme do optimistické verze Drakeovy rovnice, která se snaží odhadnout počet aktivních, komunikujících mimozemských civilizací v Mléčné dráze, naznačuje to, že v daném okamžiku existuje jen hrstka inteligentních civilizací. Navíc, podobně jako my, by jejich relativně skromné technologické aktivity mohly způsobit, že jejich odhalení bude poměrně náročné,“ míní Garrett.
Varování před budoucím vývojem
Tento výzkum podle jeho autora slouží hlavně jako výzva zodpovědným lidem, aby co nejrychleji vytvořili robustní regulační rámce, které by usměrňovaly vývoj umělé inteligence, a to včetně vojenských systémů.
Nejde jen o to zabránit zneužití AI na Zemi; zásadní podle Garreta je, aby vývoj AI byl v souladu s dlouhodobým přežitím našeho druhu. „Jak poznamenal historik Yuval Noah Harari, nic v dějinách nás nepřipravilo na to, jaký dopad bude mít zavedení nevědomých, superinteligentních entit na naši planetu. Důsledky autonomního rozhodování umělé inteligence nedávno vedly k výzvám významných představitelů v této oblasti k vyhlášení moratoria na vývoj umělé inteligence, dokud nebude zavedena odpovědná forma kontroly a regulace. Ale i kdyby se všechny země dohodly na dodržování přísných pravidel a regulace, nepoctivé organizace bude obtížné zkrotit,“ varuje vědec.
Obzvláště znepokojivou oblastí je podle něj integrace autonomní AI do vojenských obranných systémů. Již nyní existují důkazy o tom, že lidé se dobrovolně vzdají značné části pravomocí ve prospěch stále schopnějších systémů, protože ty mohou provádět užitečné úkoly mnohem rychleji a efektivněji bez lidského zásahu. „Vlády se proto zdráhají tuto oblast regulovat vzhledem ke strategickým výhodám, které umělá inteligence nabízí, jak se nedávno zničujícím způsobem ukázalo v Gaze,“ zakončuje astronom s narážkou na informace, které zveřejnil například deník Guardian.
