Společnost OpenAI potichu ze svých zásad odstranila zákaz, který zapovídal, aby poskytovala své umělé inteligence (AI) armádám. Jejích služeb bude nově využívat americká armáda, zkoumat chce, zda by AI nepomohla zabránit sebevraždám veteránů. Podle analytiků změna regulí otevírá firmě nové možnosti a nové trhy.
OpenAI uvolnila vlastní pravidla a začala spolupracovat s americkou armádou
„Nepovolujeme používání našich modelů v následujících případech: Činnosti, u kterých hrozí vysoké riziko fyzického poškození, včetně: vývoje zbraní a vojenských a válečných akcí.“ Tyto body byly roky na předním místě pravidel společnosti OpenAI, která stvořila umělou inteligenci ChatGPT.
Už ji tam nenajdete – v polovině ledna ji firma smazala. A poté oznámila spolupráci s armádou Spojených států.
Společnost oznámila, že spolupracuje s Pentagonem na kybernetické bezpečnosti. Projekt, do něhož se zatím zapojila, by měl být preventivní – má za úkol předcházet sebevraždám veteránů. OpenAI o tom veřejnost i média informovala na Světovém ekonomickém fóru v Davosu. Stále ale ve svých pravidlech zachovává zákaz využívání svých nástrojů pro vývoj zbraní a dalších nástrojů, jež mohou škodit nebo poškozovat majetek.
Jak zabránit sebevraždám
Podle webu Ars Technica změna v pravidlech firmy více odpovídá potřebám různých vládních úřadů, které hledají cesty, jak možnosti umělé inteligence implementovat do řady svých programů. „Spolupracujeme s ministerstvem obrany také na nástrojích kybernetické bezpečnosti pro open-source software, který zabezpečuje kritickou infrastrukturu,“ řekla Makanjuová v rozhovoru pro agenturu Bloomberg. „Zkoumali jsme, jestli to může pomoci při prevenci sebevražd veteránů.“
Pro armádu je to důležité téma, jež neumí vlastními silami řešit. Například jenom v roce 2012 spáchalo sebevraždu přibližně 7500 bývalých vojáků. Ve stejném roce zemřelo v důsledku sebevraždy více příslušníků aktivní služby (177), než kolik jich bylo zabito v boji (176).
Agentura Bloomberg připomíná, že tato změna pravidel společnost OpenAI přibližuje pravidlům Microsoftu, jenž je v této firmě největším investorem a také nejvíc její technologie využívá. Microsoft má už s americkou armádou navázané vztahy prostřednictvím různých softwarových kontraktů.
Podle webu TechCrunch otevírá tato změna spoustu dalších možností pro podnikání. „Platformy GPT společnosti OpenAI by mohly být velmi užitečné například pro armádní inženýry, kteří chtějí shrnout desetiletí dokumentace vodohospodářské infrastruktury v regionu,“ píše server.
Nemožnost armády využívat služby této umělé inteligence byla podle TechCrunch do značné míry absurdní. „Pro akademického vědce, který pracuje s grantem amerického letectva, je používání GPT-4 v pořádku, ale ne pro výzkumníka uvnitř letectva, který pracuje na stejném projektu. Kde je hranice?“ ptá se web.