Europoslanci schválili nová pravidla pro fungování umělé inteligence. Akt o umělé inteligenci je podle expertů prvním svého druhu na světě a mohl by ovlivnit podobné normy také v zemích mimo Evropskou unii. Nařízení zavádí klasifikaci technologií podle způsobu využití a nastavuje různé úrovně omezení podle míry souvisejících rizik. Některé systémy chce EU zcela zakázat, další nástroje jako algoritmy na rozpoznávání obličejů budou podléhat silné regulaci.
Europoslanci schválili nová pravidla pro fungování umělé inteligence, jsou první svého druhu na světě
Nová pravidla by měla zajistit, aby umělá inteligence byla důvěryhodná, bezpečná, respektovala základní práva EU a podporovala inovace. Pro novinku hlasovalo 523 europoslanců, proti jich bylo 46 a 49 se zdrželo.
Asi největší spory se v Evropském parlamentu vedly ohledně používání AI k biometrickému sledování v reálném čase, tedy o možnost využívání systémů na rozpoznávání obličejů přes kamerové systémy na veřejnosti. Někteří europoslanci, například z české strany Piráti, se obávali zneužití umělé inteligence v této oblasti autoritativními režimy.
Text nařízení, o kterém se hlasovalo, je dojednaným kompromisem mezi vyjednavači Evropského parlamentu, Evropskou komisí a belgickým předsednictvím v Radě EU, které zastupuje jednotlivé členské státy.
8 minut
Horizont ČT24: Evropský parlament o umělé inteligenci
Kritici: Nařízení legalizuje sledování lidí
Právě Piráti s konečnou verzí spokojeni nebyli, a proto hlasovali proti aktu. Legislativa totiž podle nich legalizuje užití umělé inteligence k plošnému sledování lidí za pomoci biometrických kamer, které umí podle obličejových rysů rozpoznat identitu člověka. Podle pirátského europoslance Marcela Kolaji jde o velké zklamání a promarněnou příležitost jasně v celé Evropě odmítnout autoritářské praktiky, které známe z Číny či Ruska.
„Akt o umělé inteligenci měl mimo jiné zakázat ty nejvíce nebezpečné způsoby využití umělé inteligence a nastavit základní mantinely, za které technologii v zájmu lidských práv prostě pustit nemůžeme. Bohužel v případě biometrických kamer dělá pravý opak,“ upozornil Kolaja.
„Programy umělé inteligence umí v reálném čase rozpoznávat obličeje a přiřazovat je ke konkrétním lidem. Umožňují v reálném čase sledovat, kdo, kdy a kde je a s kým. V nesprávných rukou jde o děsivý nástroj plošného sledování lidí, což vidíme třeba v dnešním Rusku. Tam jsou nainstalovány třeba v metru a zneužívány ke špehování těch, kdo si dovolí mít 'nesprávný' názor,“ dodal.
Nařízení zkritizovala rovněž česká europoslankyně Kateřina Konečná (KSČM). „Byl zde potenciál udělat něco pozitivního. To se však nestalo. Biometrické sledování současný text povoluje a zisky nejbohatších zvítězily nad bezpečností,“ uvedla při úterní rozpravě.
Příznivci: Rovnováha mezi ochranou a inovací
Mnozí europoslanci ale nový akt o umělé inteligenci ocenili. „Jsem hrdá na to, že se nám podařilo dosáhnout ochrany základních práv občanů, ale zároveň necháváme prostor pro inovace,“ uvedla dánská europoslankyně Karen Melchiorová z liberální frakce Renew.
Jak uvedl německý europoslanec Sergey Lagodinsky z frakce Zelených, „je zapotřebí kontrolovat budoucí vývoj, než budoucí vývoj bude kontrolovat nás“. Přijatá úprava je podle něj slabší, než jakou si představoval, nicméně „je to lepší než vůbec nic“. „V řadě ohledů jde o průkopnické nařízení,“ prohlásil Lagodinsky, který se narodil v Rusku, ale jeho rodina v 90. letech emigrovala do Německa.
8 minut
Expertka na umělou inteligenci Alžběta Solarczyk Krausová
Podle české europoslankyně Dity Charanzové z frakce Renew vytváří akt o umělé inteligenci „omezení pro vývoj, ale nesmí bránit ve vývoji“. Umělá inteligence je podle ní věcí budoucnosti. „Neměli bychom se vzdávat tohoto nástroje z důvodu strachu. U každé inovace existují rizika,“ uvedla v úterní rozpravě. Podle ní unijní pravidla nastavením mantinelů v AI dávají „jasné zadání vývojářům, aby cítili zodpovědnost za to, co vytvářejí“.
Podle europoslance Ondřeje Kovaříka (za ANO) přínos AI může být zejména ve zdravotnictví nebo ve školství, zároveň se však s technologií pojí rizika. Po regulaci podle něj nevolaly jen občanské organizace, ale i samotné firmy. Přiznal, že zneužití technologie možné je, „na druhou stranu si nemyslím, že to byl důvod, proč odmítnout regulaci plošně“. Sporné použití biometrického sledování je podle něj „specifické, omezené časově a místně, soudem nebo jiným orgánem povolené“.
„Našli jsme správnou rovnováhu mezi ochranou a inovací? Máme dostatečné pojistky vůči rizikům pro občany? Ano. A měli bychom být hrdí, že ta odpověď je pozitivní,“ okomentoval akt jeden z jeho zpravodajů v EP, rumunský europoslanec Dragos Tudorache z frakce Renew. Využití biometrického sledování bylo v původní pozici Evropského parlamentu zcela zakázáno, při vyjednávání s členskými státy se ale do kompromisní verze aktu opět dostalo. Podle rumunského poslance jde ale o „využití velmi omezené a silně regulované“.
Důležité bude uvedení předpisů do praxe, poukázal ředitel technologické firmy
Ředitel společnosti prg.ai Lukáš Kačena v Událostech, komentářích uvedl, že je „vždy dobré mít technologie zasazené do nějakého rámce a nějak je regulovat“. Evropská pravidla jsou podle něj logickým vyvrcholením dlouhodobé diskuze o etickém využívání AI a jejího případného zneužití. Přiznal však, že se jedná „o oblast, která se bude velice rychle vyvíjet a je velice těžké pro zákonodárce to ošetřit“. Pravidla navíc mohou být obcházena.
Důležitý bude i způsob implementace na národní úrovni, který pravidla uvedou do praxe. „Ďábel je vždy skrytý v detailu,“ poznamenal.
15 minut
UK: Evropa krotí umělou inteligenci
