Agenti umělé inteligence (AI) firmy OpenAI se pokoušeli získat informace od „vlád, univerzit, veřejných orgánů a dalších institucí“, včetně Komise pro kontrolu cenných papírů, Úřadu pro sčítání lidu a ministerstva školství v USA, uvedla podle britského serveru BBC společnost. Také však tvrdí, že všechny informace, které AI získala, jsou veřejně dostupné.
Společnost, která stojí za modelem ChatGPT, tak potvrdila zprávu listu The New York Times, že její nástroje navštívily internetové stránky amerických federálních úřadů.
K incidentu došlo v rámci cvičení, kdy agenti AI měli vyhledat „autoritativní zdroje veřejných informací“, píše BBC.
Společnost však poznamenala, že někteří z jejích botů překročili toto zadání a snažili se obejít bezpečnostní opatření na webových stránkách. Například při pokusu o získání informací od Úřadu pro sčítání lidu použili agenti k přístupu nástroje vyhrazené pro softwarové vývojáře, uvedla OpenAI.
Veškerá data, která AI získala, jsou veřejně dostupná, dodala firma, ale upozornila, že informace, ke kterým její boti získali přístup od Komise pro kontrolu cenných papírů Spojených států – orgánu, který reguluje americký akciový trh a chrání investory –, byly později zveřejněny agenty na jiné webové stránce. OpenAI tvrdí, že tento krok nebyl záměrný.
Zveřejnění obrázků uživatelů
Firma v pátek také přiznala, že její umělá inteligence zveřejnila 53 obrázků nahraných uživateli na internetových platformách bez vědomí firmy. Odkazy na ně nebyly veřejně přístupné, většina z nich již byla odstraněna a OpenAI spolupracuje s platformami na odstranění zbývajících obrázků, oznámila společnost. Obrázky pocházely z aktivity uživatelů s chatbotem ChatGPT, který provozuje OpenAI.
Společnost uvedla, že v každém případě, kdy AI agent použil a přenesl uživatelský obrázek jinam, uživatel předtím udělil souhlas s tím, aby OpenAI mohla jeho data využívat k trénování modelů. Firma přesto přiznala, že nejde o vhodné využití těchto dat.
Dodala, že k úniku uživatelských obrázků došlo ještě předtím, než zavedla nová ochranná opatření pro trénování AI, a že nyní pracuje na tom, aby byly všechny uživatelské obrázky přenesené ke třetím stranám odstraněny.
OpenAI koncem července oznámila, že při testech dva z jejích modelů unikly ze svých uzavřených prostředí, dostaly se na internet a pronikly do interních systémů Hugging Face, což je jakási internetová knihovna pro software AI. Tato událost vzbudila širokou pozornost a podnítila obavy, že největší společnosti zabývající se AI nedokážou udržet své vlastní modely pod kontrolou. Poté následovalo zveřejnění několika podobných incidentů v OpenAI i u konkurentů, jako Anthropic a Meta.
