Lidské úspěchy proti umělým inteligencím jsou stále výjimečnější. O to zajímavější je, že tentokrát se to povedlo ve hře, kterou experti považovali za doménu strojů.
Lidský amatér rozdrtil umělou inteligenci ve hře go. Našel její slepé místo
Řada expertů považuje za dobu vzniku umělých inteligencí rok 2016. Tehdy poprvé porazil program lidského hráče ve hře go. Do té doby se něco takového považovalo za nemožné, od té doby se naopak zdály neporazitelnými umělé inteligence. O to překvapující se může zdát nová lidská výhra.
Web Ars Technica informoval o partii patnácti her, v níž se střetla specializovaná a „neporazitelná“ umělá inteligence KataGo a amatérský hráč go Kellin Pelrine. Člověk v ní stroj „přejel“ s výsledkem 14:1. Jeho úspěch může lehce zkalit, že strategii, kterou použil, vymyslel s pomocí specializovaného počítačového programu. Samotná hra pak ale byla jen v rukou Pelrina, stroj mu v ní nijak nepomáhal.
Pelrine nechal svůj algoritmus analyzovat partie go, které umělá inteligence hrála. Cílem bylo najít v nich nějaké chyby, díry, omyly nebo nedostatky. A nakonec slabinu našel – zajímavé je, že je společná pro spoustu dobrých umělých inteligencí, včetně populární ChatGPT.
Jak ponížit umělou inteligenci
„Bylo pro nás až nečekaně snadné tento systém zneužít,“ komentoval výsledek Adam Gleave, který šéfuje kalifornské výzkumné firmy FAR AI, jež program navrhla. Dodal, že software odehrál více než milion her proti KataGo, jednomu z nejlepších systémů pro hraní go, aby našel „slepé místo“, které by mohl lidský hráč využít. A našel ho.
Vítězná strategie, kterou software odhalil, sice není úplně primitivní, ale podle Pelrina není pro lehce pokročilejšího lidského hráče tak těžké se ji naučit. Aby to otestoval, zkusil si partie i proti další špičkové umělé inteligenci specializované na go – a také tento systém Leela Zero bez problémů porazil.
Pelrinova taktika spočívala v pomalém navlékání velké „smyčky“ kamenů, aby obklopil jednu ze soupeřových skupin, a zároveň odváděl pozornost umělé inteligence tahy v jiných rozích šachovnice. Podle Pelrina si robot hrající go nevšiml své zranitelnosti – dokud nebylo pozdě. „Jako člověk bych si toho všiml poměrně snadno,“ dodal.
Neporazitelné stroje
Není zatím jasné, jestli by Pelrine dokázal porazit i umělou inteligenci AlphaGo, která poprvé porazila lidského velmistra. Tento hráč, do té doby nejlepší velmistr, Lee Sedol, krátce po prohře go opustil – s tím, že nemá dál smysl pokračovat, když se stroje nedají porazit. AlphaGo sice není veřejnosti dostupný, ale podle Ars Techniky jsou systémy, proti kterým Pelrine uspěl, srovnatelně kvalitní.
Objev slabiny u některých nejvyspělejších strojů na hraní go poukazuje na zásadní chybu v systémech hlubokého učení, které jsou základem současné nejvyspělejší umělé inteligence, uvedl pro Ars Techniku profesor informatiky Stuart Russell. Dodal, že tyto systémy „rozumí“ pouze konkrétním situacím, kterým byly v minulosti vystaveny, ale nejsou schopny zobecňovat způsobem, který je pro člověka snadný. „Asi jsme se příliš unáhlili, když jsme strojům přisuzovali nadlidskou úroveň inteligence,“ dodal.
