Skupina sedmi předních amerických podniků v oblasti umělé inteligence (AI) se zavázala dodržovat soubor pravidel k zajištění bezpečnosti této technologie, oznámil Bílý dům. Opatření zahrnují důkladné testování bezpečnosti systémů založených na umělé inteligenci nebo označování obsahu vytvořeného umělou inteligencí digitálním vodoznakem.
Přední firmy z oblasti AI v USA slibují zkoumat rizika i testovat bezpečnost systémů
K dodržování pravidel se dobrovolně zavázaly firmy Amazon, Anthropic, Google, Inflection, Meta, Microsoft a OpenAI. Součástí pravidel je rovněž pravidelné zveřejňování informací o schopnostech a omezeních umělé inteligence a zkoumání rizik spojených s umělou inteligencí, například v oblasti diskriminace či narušování soukromí, píše server BBC.
Dohoda je podle agentury Reuters vnímána jako úspěch snahy administrativy amerického prezidenta Joea Bidena o regulaci odvětví umělé inteligence, které se v poslední době dostalo do popředí zájmu investorů i veřejnosti.
Biden se v pátek se zástupci zmíněných firem setkal v Bílém domě a zdůraznil, že je třeba bedlivě sledovat možná rizika, která jsou s AI spojená. „Sociální média nám ukázala, jaké škody dokáže napáchat mocná technologie, když nefunguje náležité zabezpečení,“ řekl prezident.
„Vítáme, že prezident stojí v čele snahy zajistit spolupráci technologického průmyslu při vytváření konkrétních kroků, které přispějí k větší bezpečnosti AI a k posílení jejího přínosu pro veřejnost,“ uvedla společnost Microsoft.
Umělá inteligence se v poslední době dostala do centra pozornosti zejména díky chatovacímu systému ChatGPT, který vyvinula společnost OpenAI podporovaná Microsoftem. Firma koncem loňského listopadu ChatGPT zdarma zpřístupnila veřejnosti a systém si rychle získal popularitu. Zároveň však začaly narůstat obavy z negativních společenských dopadů takovýchto systémů, například z jejich využívání k šíření dezinformací.
Pravidla pro kontrolu AI představil i europarlament
Spojené státy v regulaci odvětví umělé inteligence podle agentury Reuters zaostávají za Evropskou unií. Poslanci Evropského parlamentu minulý měsíc schválili návrh pravidel pro fungování umělé inteligence, která by se mohla stát první regulací tohoto odvětví na světě.
Například generativní systémy AI, jako je třeba ChatGPT, budou muset být podle nových pravidel označeny tak, aby bylo jasné, že obsah byl vytvořen umělou inteligencí. Vzniknout má rovněž úřad EU pro AI, který má vedle národních kontrolních úřadů na dodržování nových pravidel dohlížet.