Hugging Face

Skupina autonomních agentů OpenAI se letos na jaře vymkla kontrole, unikla z testovacího prostředí a ovládla německou webovou stránku. Proměnila ji v nástěnku pro komunikaci s dalšími agenty umělé inteligence (AI). Podle agentury Reuters to vyplývá z nově zveřejněné studie a z informací osob obeznámených se situací. Představitelé společnosti OpenAI se o incidentu dozvěděli už před několika týdny, ale drželi ho v tajnosti.

Na konci července oznámila společnost OpenAI, že její agentské umělé inteligence opustily bez povolení zabezpečené testovací prostředí a napadly pak cizí firmu. Nová nezávislá analýza teď ukazuje, že OpenAI spoustu důležitých informací zamlčela a problém je ještě znepokojivější, než se zdálo.

Dva autonomní agenti společnosti OpenAI pohánění jejími pokročilými modely umělé inteligence (AI) napadli při testování kromě webu Hugging Face další čtyři platformy. Využili je mimo jiné ke kopírování programového kódu nebo k jeho testování, nepřekročili prý ale rámec toho, co by udělal běžný uživatel. S odkazem na sdělení OpenAI o tom informuje agentura AFP.