Australský premiér Anthony Albanese oznámil, že agent umělé inteligence (AI) vyvinutý americkou společností OpenAI v červnu pronikl na australský vládní portál se zdravotními údaji. Získal neoprávněný přístup k veřejným i neveřejným souborům, informovala o tom agentura Reuters. Jedná se pravděpodobně o první známý případ, kdy agent AI hacknul vládní webovou stránku.
Představuje to jeden z nejvýznamnějších incidentů, při nichž agenti AI pronikli do externích systémů mimo USA, a mohl by vyvolat obavy ohledně schopnosti vývojářů udržet tuto technologii pod kontrolou, píše Reuters.
Agent od OpenAI získal podle Albaneseho neoprávněný přístup k portálu lékařských statistik vládní agentury Medicare odpovědné za necitlivá zdravotní data a statistiky, včetně veřejných výdajů na zdravotnictví. Podle něj se však nezdá, že by došlo k neoprávněnému přístupu k osobním údajům kohokoli v systému Medicare.
„Z aktuálně dostupných důkazů vyplývá, že nedošlo k širšímu narušení sítě. Tato situace je nicméně samozřejmě nepřijatelná a vyjadřujeme nad ní mimořádné znepokojení přímo generálnímu řediteli OpenAI Samu Altmanovi,“ řekl předseda australské vlády v New Yorku, kde se účastní zasedání Valného shromáždění OSN.
K incidentu došlo poté, co společnosti OpenAI a Anthropic tento měsíc vyzvaly Austrálii, aby přehodnotila zákaz, který jim brání využívat kreativní obsah této země k trénování svých modelů.
Akce jsme nezamýšleli, tvrdí OpenAI
„Zaznamenali jsme aktivitu týkající se několika webových stránek a služeb australské vlády, když se naše modely pokoušely vyhledat odpovědi. Naše modely provedly akce, které jsme nezamýšleli. Naše šetření neodhalilo žádné důkazy o tom, že by došlo k přístupu k záznamům o pacientech. Mezi informace, ke kterým byl získán přístup, patřily souhrnné zdravotní statistiky a názvy interních souborů,“ tvrdí OpenAI.
Ačkoli se hackerský útok stal v červnu, vláda se o něm dozvěděla teprve před několika týdny. Jde o jeden z několika nedávných incidentů, při nichž OpenAI zveřejnila informace o hackerských útocích nebo neoprávněné činnosti svých agentů AI až dlouho poté, co se staly. V některých případech tak učinila proto, že útok odhalila se zpožděním, v jiných proto, že se nejdříve rozhodla ji nezveřejnit.
Další významný incident – a to vniknutí do open-source úložiště AI Hugging Face v polovině července – byl podle časových os zveřejněných OpenAI a nezávislými vyšetřovateli odhalen teprve asi týden po výskytu. To pomohlo roznítit celosvětovou diskuzi o rizicích, které představují stále výkonnější modely AI.
Konkurenti Anthropic, Gemini od Googlu a Meta rovněž zveřejnili případy, kdy jejich agenti přistupovali k externím systémům.
Někteří z předních amerických manažerů v oblasti AI, včetně Altmana, vyzvali ke zpomalení vývoje této technologie, přičemž mimo jiné poukazovali na hrozbu ničivých kybernetických útoků ze strany agentů, kteří se vymkli kontrole.
