Evropská unie (EU) v pátek pozdě večer dosáhla předběžné dohody na regulaci umělé inteligence (AI). Podle analytiků ale ještě bude nutné upřesnit detaily. Informuje o tom agentura Reuters, která píše o „přelomových“ pravidlech. EU podle ní má nakročeno k tomu, aby se stala prvním z významných světových hráčů, který bude mít normy pro regulaci systémů, jako je ChatGPT.
„EU se stává vůbec prvním kontinentem, který stanoví jasná pravidla pro používání umělé inteligence,“ uvedl na sociální síti X eurokomisař pro vnitřní trh Thierry Breton. Doplnil, že jednání mezi členskými státy a zástupci Evropského parlamentu trvalo několik dní. Jen v pátek se podle něj debatovalo patnáct hodin.
Šéfka Evropské komise (EK) Ursula von der Leyenová je přesvědčena, že pravidla přinesou „jedinečný právní rámec pro vývoj důvěryhodných technologií,“ které prý neomezí bezpečnost a základní práva občanů ani firem.
„Umělá inteligence již mění náš každodenní život. A to je teprve začátek. Uvážlivé a široké využití umělé inteligence slibuje obrovský přínos pro naši ekonomiku a společnost,“ komentovala noční dohodu v tiskovém prohlášení předsedkyně EK.
Text podpořilo Německo a Francie, uvedla španělská státní tajemnice pro digitalizaci a umělou inteligenci Carme Artigasová.
Pravidla stanoví například omezení při využívání AI pro biometrickou identifikaci ze strany bezpečnostních složek nebo zákaz používání takzvaného sociálního skóre či sociálního kreditu, což je hodnocení lidí na základě jejich chování a aktivit na sociálních sítích. Ohledně konečné podoby dokumentu, který vstoupí v platnost nejdříve v roce 2025, poskytli zástupci unijních institucí ale jen málo informací, upozornil dnes list The Guardian.
EP a členské státy jednaly zdlouhavě mimo jiné o AI řízených systémech dohledu, které by mohla využívat policie, zaměstnavatelé nebo maloobchodníci. Europarlament podle médií prosadil zákaz sledování v reálném čase a používání biometrických technologií včetně rozpoznávání emocí. Komisař Breton ale v tomto ohledu zmínil tři výjimky. Policie bude moci tyto technologie případně používat pouze v případě hrozby teroristického útoku, při pátrání po obětech trestné činnosti a při stíhání skutečně závažné trestné činnosti.
Spotřebitelům mají pravidla umožnit podávat stížnosti, firmám zase hrozí v případě porušení pokutami, a to v maximální výši 35 milionů eur (v přepočtu zhruba 854 milionů Kč) nebo sedmi procent celosvětového obratu dané společnosti. Evropská pravidla by se tak podle Reuters mohla stát vzorem i pro další státy.
Základem dohody je odstupňovaný systém založený na riziku, v němž se nejvyšší úroveň regulace vztahuje na nástroje, které představují nejvyšší riziko pro zdraví, bezpečnost a lidská práva. Původní návrh legislativy předložený Evropskou komisí předpokládal, že do této kategorie budou patřit všechny systémy s více než deseti tisíci firemních uživatelů.
V rámci EU dlouho nepanovala shoda především na regulaci základních modelů, neboli generativní umělé inteligence. Základní modely, jako je ChatGPT vytvořený společností OpenAI, jsou systémy umělé inteligence vyškolené na velkých souborech dat. Mají schopnost učit se z nových dat a provádět různé úkoly.
Kritika od části podnikatelů
Proti předběžné dohodě vystoupila třeba podnikatelská skupina DigitalEurope, podle níž jsou tato pravidla další zátěží pro podniky. „Máme dohodu, ale za jakou cenu? Plně jsme podporovali přístup zohledňující rizika plynoucí z využití umělé inteligence, nikoliv ze samotné technologie. Pokus na poslední chvíli regulovat základní modely to postavil na hlavu,“ uvedla její generální ředitelka Cecilia Bonefeld-Dahlová.
Kritická byla i skupina pro práva na ochranu soukromí European Digital Rights. „Je těžké být nadšený ze zákona, který poprvé v EU podnikl kroky k legalizaci rozpoznávání obličejů na veřejnosti v reálném čase v rámci celého (unijního) bloku,“ uvedla hlavní politická poradkyně společnosti Ella Jakubowska.
