Člen komise pro hybridní hrozby Poslanecké sněmovny Ondřej Kolář (TOP 09) a člen výboru pro obranu Poslanecké sněmovny Josef Bělica (ANO) mají oba za to, že některé projevy umělé inteligence, například takzvané deep fakes, jsou novou hrozbou moderní doby a je nutné s nimi bojovat, ať už zákony nebo osvětou. Zároveň ale mají nové technologie i řadu pozitivních využití, shodli se v pořadu Události, komentáře.
Boj s deep fakes musí začínat na školách, míní Kolář. Určit hranici nebezpečnosti umělé inteligence je těžké, řekl Bělica
Události, komentáře: Poslanci Ondřej Kolář (TOP 09) a Josef Bělica (ANO) (zdroj: ČT24)
Vytváření deep fake videí, která zpodobňují většinou známé osoby v situacích, ve kterých ve skutečnosti nikdy nebyly, a vkládají jim do úst slova, která nikdy neřekly, je v současnosti díky rozvoji umělé inteligence snadnější než kdy dřív. Podvodníci, kteří chtěli vytáhnout z lidí peníze, tak například zneužili podobu a hlas prezidenta Petra Pavla nebo předsedy ANO Andreje Babiše.
„Je důležité osvětu zintenzivňovat a přestat se tvářit v tom smyslu, že dezinformace, hybridní hrozby a všechno, co s tím souvisí, je něco, co se nás netýká,“ řekl Kolář. Mnozí politici dnes sami prohlašují, že nedokáží identifikovat dezinformace, přitom jim ale v současnosti umělá inteligence může „lusknutím digitálního prstu“ úplně zničit kariéru, podotkl.
„Musíme si uvědomit, že je třeba začít už ve školách: s mediální gramotností, s obsahovou gramotností, s online gramotností, s finanční gramotností,“ vyjmenoval.
Kolář uvedl, že dnešní děti samy mají velice snadný přístup k daným technologiím, proto musí být ideálně už od předškolního věku na zacházení s nimi připraveny. „Potom je samozřejmě potřeba, aby stát dohromady s různými soukromými institucemi, s bankami, s pojišťovnami, ale i třeba s výrobci automobilů (...) opravdu důkladně informovali lidi o tom, co všechno je v tom nekonečném kyberprostoru může čekat,“ dodal.
Podle Bělici je nastavení hranice, kdy už jsou moderní technologie umělé inteligence nebezpečné, velmi obtížné, bude to ale nutné udělat. Identifikace podvodného videa (jako nebezpečí) je asi jednoduchá, řekl, tyto věci můžeme rozpoznat jako škodlivé. „Použití umělé inteligence má i pozitivní dopady,“ prohlásil ale.
„Samozřejmě definovat tu hranici bude velmi složité a příslušná legislativa, ať už půjde primárně z Evropské unie – a samozřejmě potom na ni do budoucna bude navazovat i ta národní – bude poměrně komplikovaná,“ řekl a podotkl, že kromě zábavy může umělá inteligence třeba snadno a rychle překládat filmy nebo audioknihy.
Ošetření v zákoně
Bělica připomněl, že Evropská unie plánuje přijmout první zákony ošetřující používání umělé inteligence v dubnu. „V první fázi mají být nastavena a identifikována pravidla osobní ochrany a zamezení zneužití umělé inteligence.“
Podle Koláře bude mezi nejdůležitější patřit opatření, které nařídí jasně označovat obsah generovaný umělou inteligencí. „Tvoří se evidence poskytovatelů základních modelů a databáze provozovatelů chatbotů.“
Komise pro hybridní hrozby podle Koláře často mluví o tom, jak by se daly upravit školní osnovy, aby se zvyšovala mediální i jiná gramotnost. „Je potřeba lidi informovat kontinuálně. My legislativci máme důležitý úkol: společně s vývojáři umělé inteligence a lidmi, kteří ji tvoří, hledat smysluplná regulatorní opatření, která v co největší míře zamezí zneužívání, nastaví systém sankcí za zneužívání umělé inteligence, ale zároveň neomezí její využití v pozitivním smyslu, například ve vědě a ve výzkumu,“ shrnul.
Bělica také zmínil, že ANO je připravené v oblasti kybernetické bezpečnosti země spolupracovat s vládou na schválení dalších investic. „Pokud zaspíme nebo technologicky zaváháme, tak se nám ten handicap bude do budoucna velmi těžko dobíhat a bude se jenom prohlubovat,“ podotkl. Úroveň kybernetického zabezpečení u bezpečnostních složek považuje za dobrou, ale je podle něj nutné tento trend udržet.
Celá diskuse je ve videu v úvodu článku.