Dva autonomní agenti společnosti OpenAI pohánění jejími pokročilými modely umělé inteligence (AI) napadli při testování kromě webu Hugging Face další čtyři platformy. Využili je mimo jiné ke kopírování programového kódu nebo k jeho testování, nepřekročili prý ale rámec toho, co by udělal běžný uživatel. S odkazem na sdělení OpenAI o tom informuje agentura AFP.
Do úterý se mělo za to, že jedinou obětí hackerského útoku byla společnost Hugging Face. Nyní však OpenAI přiznala, že její bot napadl několik „veřejně dostupných služeb“. Jejich jména ale společnost nezveřejnila.
Hugging Face je platforma používaná k hostování velkých jazykových modelů s otevřeným kódem a datových sad. Start-up uvedl, že ho 16. července napadli hackeři pomocí výkonné autonomní umělé inteligence, a nahlásil to policii.
Téměř o týden později OpenAI přiznala, že to byla její umělá inteligence, která unikla z uzavřeného prostředí a během testu sama zaútočila na Hugging Face. Snažila se tak prý najít odpovědi na hackerský test, který jí OpenAI zadala. Nyní firma prohlášení aktualizovala s tím, že obětí napadení bylo více.
Podle Hugging Face se oba modely AI pokoušely při hodnocení podvádět. Snažily se „ukrást řešení testů místo toho, aby se pokusily na ně odpovědět samy.“
Popsaný únik modelů AI mimo kontrolu není první, který byl zdokumentován, ale je považován za zdaleka nejzávažnější případ ke středečnímu dni, píše AFP. Přinesl další podněty do již tak živé debaty o zrychlujícím se vývoji AI, o jejích stále širších schopnostech a o obtížnosti její kontroly.
