Průkopník v oblasti umělé inteligence (AI) Geoffrey Hinton opustil internetovou společnost Google, aby mohl bez omezení hovořit o rizicích spojených s touto technologií. Hinton, který bývá označován za „kmotra umělé inteligence“, působil v Googlu více než deset let.
„Odešel jsem, abych mohl mluvit o hrozbách AI, aniž bych se musel zabývat tím, jak se to dotkne Googlu,“ napsal pětasedmdesátiletý Hinton na svém twitterovém účtu. Zároveň odmítl myšlenku, že hodlá firmu nyní kritizovat. „Google postupuje velmi zodpovědně,“ dodal.
V rozhovoru s The New York Times Hinton prohlásil, že ho znepokojuje schopnost umělé inteligence vytvářet přesvědčivě působící falešné obrázky a texty. Obává se, že takové obrázky a texty zaplaví internet a lidé už nebudou „schopni poznat, co je pravda“. „Je těžké si představit, jak zabránit špatným lidem, aby to používali ke špatným věcem,“ upozornil.
V minulosti podle Hintona jen málokdo věřil, že by se mohla umělá inteligence stát chytřejší než člověk. „Já jsem se domníval, že je to ještě daleko. Myslel jsem, že to bude trvat 30 až 50 let, nebo dokonce ještě déle. Teď už si to nemyslím,“ poznamenal Hinton.
Částečná lítost
Umělá inteligence se v poslední době dostala do centra pozornosti díky chatovacímu systému ChatGPT, který vyvinula společnost OpenAI podporovaná společností Microsoft. Hintonův výzkum v oblasti neurálních sítí a strojového učení podle BBC otevřel cestu současným systémům, jako je právě ChatGPT. V roce 2019 Hinton obdržel Turingovu cenu, která je v oboru informatiky obdobou Nobelovy ceny.
Hinton v rozhovoru s listem The New York Times uvedl, že nyní své celoživotní práce zčásti lituje. „Utěšuji se obvyklou omluvou: kdybych to neudělal já, udělal by to někdo jiný,“ dodal. V rozhovoru s BBC Hinton také připustil, že vliv na jeho rozhodnutí odejít z Googlu měl i jeho věk. „Je mi 75 let, takže je čas jít do důchodu,“ prohlásil.
V březnu stovky akademiků, expertů a podnikatelů zapojených do vývoje AI vyzvaly k nejméně půlročnímu pozastavení vývoje nových modelů umělé inteligence s ohledem na „hluboká rizika pro společnost a lidstvo“.
Vývojáři by podle výzvy měli tuto pauzu využít ke společné práci na bezpečnostních pravidlech a také k vystupňování spolupráce se zákonodárci na silné regulaci odvětví. Hinton tuto výzvu nepodepsal, v rozhovoru s NYT ale vyzval ke spolupráci s cílem zajistit kontrolu nad umělou inteligencí.
