Možný vznik umělé inteligence se schopnosti výrazně většími, než mají lidé, už dnes není sci-fi představa. Pokud by se tento scénář naplnil, mělo by to pro lidstvo katastrofální dopady, varují signatáři nového prohlášení.
Stovky světových osobností tento týden podepsaly prohlášení, ve kterém volají po zákazu vývoje takzvané superinteligence, tedy pokročilé fáze umělé inteligence (AI), která předčí lidi ve všech kognitivních úkolech. Podle signatářů by totiž superinteligence mohla vést k obrovské řadě problémů, včetně zániku lidstva.
Právě směrem k umělé inteligenci schopnější než lidé se ale vývoj většiny společností ubírá. Mezi rizika superinteligence podle prohlášení patří například ztráta občanských svobod, ohrožení národní bezpečnosti nebo ekonomická zastaralost. Prohlášení navrhuje zákaz vývoje superinteligence, dokud se nepodaří dosáhnout „široké vědecké shody, že se tak stane bezpečně a kontrolovatelně“ a zároveň za široké podpory veřejnosti.
K prohlášení svá jména připojila celá řada nositelů Nobelovy ceny z řad vědců, ale také umělci, osobnosti ze světa technologií, podepsali ho ale také lidé s tak rozlišnými pohledy na svět jako americký konzervativní komentátor Steve Bannon či britský princ Harry s manželkou Meghan Markleovou.
Mezi signatáři jsou také lidé jako spoluzakladatel společnosti Apple Steve Wozniak, bývalá prezidentka Irska Mary Robinsonová, spisovatel Yuval Noah Harari a zakladatel konglomerátu Virgin Group Richard Branson. Výzvu podepsala například i česká europoslankyně Markéta Gregorová (Piráti) a také celá řada bývalých amerických politiků. Z českých expertů je pod varováním podepsaný například Michal Pěchouček, který se stal tento týden novým rektorem ČVUT.
Jeden z „otců“ AI je ze současného směru vývoje vyděšený
Za návrhem stojí nezisková organizace Future of Life Institute, která už více než deset let upozorňuje na rizika, jež podle ní inteligentní stroje představují pro lidstvo, píše agentura Reuters. Vede ji jeden z „otců“ umělé inteligence, nobelista Geoffrey Hinton, který je ze současného směru vývoje velkých jazykových modelů nejen zklamaný, ale hlavně vyděšený. Organizace založená v roce 2014 se na svém počátku těšila podpoře šéfa automobilky Tesla a vesmírné společnosti SpaceX Elona Muska nebo programátora a investora do technologií Jaana Tallinna.
Podobné výzvy k zákazu vývoje superinteligence čelí odporu řady hlasů z technologického odvětví či z vlády Spojených států. Kritici v minulosti podle Reuters uvedli, že znepokojení je neopodstatněné a že podkopává inovaci a ekonomický růst.
Podpora ze strany osobností, jako je Bannon, přesto reflektuje rostoucí znepokojení v souvislosti s AI mezi populisty, míní Reuters. Děje se tak podle agentury v době, kdy mnozí z nich s vazbami na kalifornské Silicon Valley, tedy centrum vyspělých technologií, zastávají vlivné pozice v republikánské administrativě amerického prezidenta Donalda Trumpa.
Pravidla (téměř) neexistují
Vývoj umělé inteligence v současné době není zpomalený prakticky žádnými pravidly. Omezení se pokoušela v USA zavést administrativa Joea Bidena, nicméně vláda Donalda Trumpa je zrušila a uvolnila možnosti AI využívat i vyvíjet.
Naopak Evropská unie se pokusila s rámcem vlastních pravidel přijít v loňském roce. Tato dnes již platná pravidla jsou podle expertů tím zatím nejlepším, co existuje, ale Evropa je zatím jediná, kdo se o něco takového snaží.
Vlastí rámec má sice také Čína, ten je ale spíše ideologický, než že by řešil konkrétní možné problémy. V novém návrhu pravidel zveřejněném Čínskou správou kyberprostoru se uvádí, že země podporuje inovace a popularizaci této technologie. Nicméně obsah, který takto vzniká, musí dodržovat „základní socialistické hodnoty“ a také všechny zákony o bezpečnosti dat a ochraně osobních údajů, stanovil regulátor.
Součástí právních úprav mají být kontrolní mechanismy, které by v případě přijetí zavázaly čínské společnosti využívající umělou inteligenci k tomu, aby zajistily, že jejich služby nebudou vytvářet obsah, který by mohl narušit společenský řád nebo podvrátit státní moc. Pravidla vstoupila v platnost v září letošního roku.
