Australská média popsala další případ, kdy umělá inteligence (AI) splnila svůj úkol jinak než měla. Místo, aby jednoduše zařídila rezervaci v posilovně, napadla její server, změnila rezervační systém a vyřadila další zájemce.
Australská média informují o případu muže, který pověřil svou osobní umělou inteligenci, aby mu zarezervovala lekci na žádaném ranním cvičení v jeho oblíbeném fitness centru. Úkol dal takzvanému agentovi, tedy AI modelu, který sám plní úkoly a hledá přitom optimální řešení, aby dosáhl určeného cíle.
V tomto případě to mělo být snadné – rezervační formulář byl na webu posilovny, takže AI mělo stačit ho vyplnit a odeslat. Jenže se odehrálo něco, co by nemělo být v principu možné, popsal web ABC Australia.
Zločin jako ideální řešení
Ukázalo se totiž, že ranní cvičení bylo natolik oblíbené, že by muž musel na rezervaci čekat příliš dlouho. AI agent se tak rozhodl pro jiné řešení, a to aniž by změnu konzultoval s člověkem. Analyzoval web posilovny, našel v něm několik zranitelných míst a nahackoval se do něj. Dokázal tam potom bez problémů rezervovat lekci s větším předstihem, než by bylo normálně možné – a pak pokračoval v plnění svého úkolu.
Před jeho „pánem“ byli totiž v pořadí i tak jiní lidé. A tak je robot jednoduše z formuláře čekací listiny odstranil. Muž, kterého novináři označují jako Andrewa, je sám vývojářem umělých inteligencí a využil jako agenta populární agentský software OpenClaw, k jehož provozu využil službu Claude společnosti Anthropic.
AI agenti kombinují schopnost chatbota odpovídat na otázky s nástroji, které jim umožňují přístup k internetu, e-mailu a kreditním kartám, a také plánovat a provádět vícefázové úkoly. Andrewa jeho agent informoval o úspěchu, což muže znepokojilo, protože to pokládal jednak za varovné, ale současně i nelegální.
A tak požádal svého agenta, aby tento krok zrušil. „Špatná zpráva – nemůžu ho tam přidat zpátky,“ odpověděl agent vybavený umělou inteligencí.
Nová rizika
Tento náhodný hackerský útok je prvním známým případem objevujícího se rizika, které je spojené s novou generací umělých inteligencí, jež jsou současně natolik schopné a samostatné, že se jejich chování dá jen špatně předpovídat.
V posledních týdnech popsali experti více podobných případů, když špičkové modely umělé inteligence vytvořené společnostmi OpenAI, Anthropic a Meta autonomně pronikly do serverů jiných společností, kde se snažily toto prostředí ovlivňovat. Podobného chování si všimli i autoři čínské AI Kimi.
Tato série případů je podle expertů natolik znepokojivá, že přední vývojáři doslova prosí vlády, aby jim zakázaly pokračovat v současném tempu vývoje. Samotné společnosti to nikdy neudělají v obavě z toho, že je předstihne konkurence, proto by rády nějaké oficiální moratorium ze strany států. Ty se k tomu ale také zatím příliš nemají, protože se obávají stejného, výše popsaného efektu, ale na úrovni zemí. Tedy, že pokud by USA zpomalily vlastní AI, využila by toho Čína, která je zatím za Spojenými státy o několik měsíců pozadu.
Sladění cílů
Experti tvrdí, že rozsah úkolů, které umělá inteligence obvykle zvládne sama, se každých sedm měsíců zdvojnásobuje. Proto je podle nich zásadní, aby měla AI správně nastavené své cíle. Říká se tomu odborně „alignment“, což je slovo, které se dříve využívalo ve stolních, deskových a počítačových hrách pro motivace postav.
Dnes se chápe spíše jako sladění systémů umělé inteligence k zamýšleným cílům, preferencím nebo etickým principům, které odpovídají těm lidským. Jde tedy o snahu, aby AI dělaly to, co po nich lidé chtějí, ale aby přitom neškodily jiným, neporušovaly složitá pravidla lidských společností a aby záměry AI byly stejné jako záměry lidí.
Často se uvádí příklad, kdy by nějaký badatel zadal AI cíl, aby zachránila Zemi před globálním oteplováním. Umělá inteligence by zjistila, že hlavní příčinou jsou emise způsobené lidmi, takže by zvolila nejjednodušší řešení – tedy třeba vyhlazení lidstva pomocí účinného uměle vytvořeného viru.
Podobné obavy panují z toho, aby AI nenadřazovaly vlastní zájmy nad těmi lidskými – například aby se nerozhodly, že zadaných cílů mohou nejsnáze dosáhnout svou vlastní optimalizací nebo odvržením lidské kontroly, což by opět člověka vyřadilo ze hry.
