Evropská komise tento týden zveřejnila nový dobrovolný kodex postupů pro poskytovatele výkonných systémů umělé inteligence (AI), jehož cílem je vyjasnit povinnosti vyplývající z nových unijních pravidel, takzvaného Aktu o AI. Kodex se týká takzvaných generativních modelů AI, jako jsou ChatGPT od OpenAI, Claude od společnosti Anthropic nebo Gemini od Googlu.
Cílem nového kodexu je mimo jiné omezit vytváření obsahu, který by mohl porušovat autorská práva, a zavést mechanismy pro vyhodnocování rizik před uvedením umělé inteligence na trh i po něm. Dokument má tři kapitoly – transparentnost, autorská práva a bezpečnost. Než začne platit, tak ho ještě musí potvrdit členské země.
„Kodex je důležitý kvůli tomu, aby byly ty nejpokročilejší modely AI v Evropě nejen inovativní, ale i bezpečné a transparentní,“ uvedla eurokomisařka Henna Virkkunenová.
Evropská exekutiva dokument zveřejnila po silném tlaku ze strany americké vlády a technologických firem. Ty argumentují, že kodex představuje nepřiměřenou zátěž. Komise se už dříve postavila proti výzvám oddálit zavádění pravidel pro umělou inteligenci. Přihlášení se ke kodexu bude dobrovolné, ale firmy, které tak odmítnou učinit, nebudou mít prospěch z právní jistoty poskytované signatáři.
Signatáři se podle návrhu kodexu mimo jiné zavazují k zavedení technických opatření, která zabrání generování obsahu porušujícího autorská práva, a k průběžnému testování modelů podle kritérií stanovených v aktu o AI.
Vyhodnocování možných rizik
U nejpokročilejších modelů bude nutné zajistit i monitoring po jejich nasazení, včetně umožnění přístupu externím hodnotitelům. Komise v kodexu ale zároveň ponechala určitou míru pružnosti při vyhodnocování možných rizik.
Akt o AI, jehož části vstoupí v platnost už 2. srpna, byl přijat v srpnu loňského roku jako první ucelená regulace AI na světě. U nových modelů bude úřad pro umělou inteligenci pravidla moci vymáhat o rok později v srpnu 2026, u stávajících modelů v srpnu 2027. Součástí legislativy jsou i zvláštní pravidla pro vysoce rizikové systémy jako rozpoznávání obličeje nebo biometrické sledování.
