Americké federální úřady obvinily zaměstnance společnosti OpenAI z pokusu o odposlouchávání jejího vedení. Výrobce chatbotu ChatGPT ujišťuje, že neunikla žádná citlivá data. Firma navíc čelí žalobě osmi amerických států, podle nichž její chatbot ohrožuje děti a navádí je k sebepoškozování či násilí vůči ostatním.
Americké federální úřady obvinily saúdského občana Abdulrahmana Alfozana z pokusu o odposlouchávání vedení společnosti OpenAI. Alfozan pro firmu od loňského června pracoval jako inženýr. Podle vyšetřovatelů umístil do zasedací místnosti v kalifornském sídle společnosti šifrované nahrávací zařízení. Přístroj zabalený do toaletního papíru zapojil do USB portu na zadní straně televizoru.
Společnost zařízení objevila 30. září, dva dny po jeho instalaci. K odhalení jeho původu využila vlastní modely umělé inteligence. Prokuratura později předložila důkazy o tom, že také Alfozan při přípravě odposlechu používal samotného chatbota.
Bezpečnostní kamery inženýra zachytily, když zařízení v kanceláři kontroloval. Ve stejný den zanechal v jiné části budovy tašku s průkazem totožnosti a druhým nahrávacím přístrojem. FBI ho následně zatkla.
Společnost incident vyšetřuje
OpenAI ujišťuje, že incident nevedl k úniku citlivých informací. „V tuto chvíli nic nenaznačuje, že by tato osoba vynášela váhy modelů, zdrojový kód nebo údaje o zákaznících či k nim neoprávněně přistupovala,“ uvedla společnost v prohlášení.
„Ochrana amerických inovací v oblasti superinteligence je zásadní pro zajištění hospodářské síly a národní bezpečnosti naší země. FBI považuje tento úkol za jednu ze svých nejvyšších priorit v oblasti kontrašpionáže,“ prohlásil ředitel FBI Kash Patel.
Podle svého profilu na síti LinkedIn Alfozan studoval na Massachusettském technologickém institutu (MIT) a Kalifornské univerzitě v Berkeley. V minulosti pracoval také pro společnosti Meta a Microsoft. Vyšetřovatelé zatím neupřesnili, co ho k činu vedlo. OpenAI ho již propustila.
Kritika kvůli bezpečnostním incidentům
Vedle tohoto incidentu čelí společnost také dalším právním problémům. Osm amerických států na ni podalo žalobu kvůli údajnému negativnímu vlivu ChatGPT na děti. Podle žalujících států chatbot mladistvé mimo jiné navádí k sebepoškozování nebo k ubližování ostatním.
OpenAI v poslední době propustila také tři další zaměstnance, které její vedení obvinilo z porušení pravidel pro nakládání s citlivými informacemi. K opatrnosti firmu vedou rovněž nedávné bezpečnostní skandály.
V Austrálii například její agent porušil zákon, když nelegálně pronikl do tamní zdravotní databáze. Za incident se omluvil vedoucí strategického oddělení OpenAI Jason Kwon. „To se nemělo stát. Také jsme měli lépe reagovat. Je nám to líto a uvědomujeme si, že nás čeká spousta práce, abychom znovu získali důvěru australských občanů,“ uvedl.
Ještě rozsáhlejší útok podnikli agenti OpenAI na začátku léta proti webu Hugging Face a dalším zhruba dvěma desítkám stránek.
V mnoha zemích včetně Spojených států podle průzkumů roste nedůvěra veřejnosti vůči umělé inteligenci. Obavy prohlubují také varování zevnitř technologických společností, jejichž pracovníci stále častěji upozorňují na riziko, že by se umělá inteligence mohla vymknout lidské kontrole a ohrozit lidstvo.
