Evropská unie má nová pravidla pro fungování umělé inteligence. Jejich vymezení přišlo ve správný čas, míní vedoucí Centra pro výzkum inovací a kyberpráva AV ČR Alžběta Solarczyk Krausová. Stanovena jsou podle ní zejména pro firmy a občanům Unie mají zajistit ochranu jejich práv. Programátor AI Tomáš Mikolov optimistický pohled nesdílí. „Budeme bránit uživatele – to jsou taková vzletná hesla,“ myslí si. Regulace podle něj vznikají na základě „fantastických představ politiků a byrokratů“.
Unijní regulace AI má chránit práva občanů, říká expertka na kyberprávo. Jen vzletná hesla, míní programátor
47 minut
90′ ČT24: Státy EU odsouhlasily akt o umělé inteligenci
„Unie na tomto tématu pracuje již od roku 2017, respektive od roku 2016, kdy začaly první studie. (...) Jako EU jsme právě ve správný čas nastavili pravidla a standardy,“ okomentovala Solarczyk Krausová s tím, že do pravidel tak Unie mohla zahrnout i generativní umělou inteligenci.
Pravidla jsou stanovena zejména pro firmy, připomněla. Občanům EU tak podle ní mají zajistit ochranu jejich práv. „Firmy teď budou muset dbát na to, aby umělou inteligenci vyvíjely podle určité nejlepší praxe. (...) Budou se věnovat předcházením rizik, dobré datové praxi. Daný systém by uživatele neměl diskriminovat,“ uvedla jako příklad.
Evropská pravidla pro AI jsou poměrně výraznou komplikací, podotkl Mikolov. „Můj pohled na všemožné regulace není příliš optimistický. To, čemu se dnes říká umělá inteligence, je vlastně soubor počítačových algoritmů. A ty tu používáme už dlouhodobě,“ prohlásil.
Černý: Přínosy AI využijí USA a Čína, Evropa už je nedožene
Mikolov se tak táže, zda Evropská unie skutečně potřebuje regulovat vše. „Proč to chce regulovat Evropa, která tento segment průmyslu nemá? Umělá inteligence se dnes vyvíjí hlavně ve Spojených státech. My jsme jen konzumenti,“ zdůraznil.
„Ono to vypadá hezky. Budeme bránit uživatele – to jsou taková vzletná hesla. Ale když se podíváme do praxe, mohli bychom si říci, že Evropě ujíždí vlak. Ale ten už nám ujel před pěti, deseti lety,“ poznamenal. Regulace podle něj vznikají na základě „fantastických představ politiků a byrokratů“.
Etik a filozof z Ústavu státu a práva a Ústavu informatiky AV ČR David Černý s Mikolovem souhlasí. „Mám obavy, že se chystáme regulovat něco, co v Evropě pořádně není, co budeme jen přebírat ze zahraničí,“ uvedl. Podle něj by bylo dobré, kdyby nová pravidla byla alespoň spojena s masivními investicemi do rozvoje strojového učení a dalších forem AI.
Umělá inteligence má podle něj značný přínos ve zdravotnictví či vzdělávání, čehož využijí Spojené státy a Čína, naopak Evropa zůstane v pozadí. „A zřejmě už je nikdy nedožene,“ upozornil.
Solarczyk Krausová argumentuje absencí právní nejistoty
Solarczyk Krausová podotkla, že nalézt regulaci, která by byla „tak akorát“, je nesmírně složité. „Máme celou řadu zájmových skupin, každý má jiný názor. Účelem práva je vyrovnat tyto požadavky,“ konstatovala.
Akt o umělé inteligenci podle ní sice zavádí nové povinnosti a bude určitým administrativním břemenem, ale zároveň odstraňuje právní nejistotu. „Dává v podstatě firmám návod na nejlepší praxi, jak se chovat. Ukazuje jim, co mají posuzovat, jak se dívat na rizika,“ argumentovala. „O AI Akt si řekly i firmy, které se bály, co se bude dít, pokud nebudou stanovena jasná pravidla,“ upozornila.
I Spojené státy se nyní staví k regulaci pozitivně, mimo jiné i proto, že se potýkají s celou řadou soudních případů s AI spojených, dodala.
Korporace vítají, že si Evropa pod sebou podřezala větev, míní Mikolov
To dle Mikolova ale pro Evropu není nutně dobrá zpráva. Velké korporace podle něj regulace vítají, protože jim pomohou udržet si dominantní pozici na trhu a „zmrazí“ potenciální konkurenci. „Ti, které na těchto algoritmech nyní vydělávají, jsou nadšení, že si Evropa pod sebou podřezala větev,“ tvrdí programátor.
Obává se rovněž toho, jak se budou pravidla vymáhat. „Vypadá to tak, že jedna věc se dá vykládat všemožnými způsoby. A nejspíš – jak to známe z Evropy – bude nějaký úřad, kde bude sedět úředník, který daným algoritmům úplně nerozumí. Bude ale arbitrárně rozhodovat o tom, kdo je správná a kdo je špatná firma,“ myslí si Mikolov.
Černý dále upozornil, že není úplným odpůrcem regulací. „Ale když chceme regulovat, měli bychom umělou inteligenci podpořit finančně, zajistit konkurenceschopnost Evropy a myslet na budoucnost. Nemůžeme si dovolit zůstat pozadu,“ zhodnotil.
Co se týče etiky umělé inteligence, ta se stala extrémně populárním oborem, sdělil Černý s tím, že existuje i základní etický normativní rámec pro AI. „Ale je tu určitý problém. O umělé inteligenci se bavíme obecně, (...) ale ve skutečnosti jde o různé systémy fungující v různých kontextech, v nichž plní nějaké cíle,“ podotkl.
