Musíme si dávat pozor, abychom se nedočkali nějakých klasických sci-fi scénářů, já si ale nemyslím, že jsou nyní úplně reálné, prohlásil v Událostech, komentářích v souvislosti s diskuzemi kolem umělé inteligence (AI) náměstek ministra pro digitalizaci Ondřej Profant (Piráti). Dodal, že se na ně musí ale pamatovat. Podle výzkumného pracovníka z Centra teoretických studií Univerzity Karlovy Jana Kulveita jde o velkou příležitost, ale zároveň výzvu. Spoluzakladatel společnosti Russum AI a odborník na umělou inteligenci Petr Baudiš souhlasí, že jde o příležitost, lidé by ale měli být opatrní.
Nástup umělé inteligence je výzva, opatrnost je ale namístě, shodli se Profant, Kulveit i Baudiš
Umělá inteligence: pokrok, nebo hrozba? (zdroj: ČT24)
Záměr regulovat programy umělé inteligence oznámila v týdnu Čína, která uvedla, že vývojáři služeb, které generují texty či obrázky na základě zpracování obrovského množství dat, by měli poskytovat úřadům bezpečnostní hodnocení svých produktů. Peking se tak podobně jako vlády jinde ve světě snaží reagovat na rychlý rozmach programů, jako jsou ChatGPT nebo Midjourney, které na základě jednoduchých pokynů vytvářejí sofistikované textové či obrazové materiály.
„Je to nástroj, který máme šanci zvládnout, ale se kterým musíme pracovat opatrně a musíme nastavit správná pravidla,“ uvedl Profant. Kulveit podotkl, že v případě umělé inteligence jde momentálně asi o největší výzvu, která lidstvo čeká. „Já jsem optimista, myslím, že to zvládneme, ale nestane se to samo,“ řekl. S tím souhlasí i Baudiš, který dodal, že jde o něco, co má potenciál už v blízké budoucnosti změnit náš život. „Ale musíme být opatrní a musíme si uvědomovat ta rizika a kontrolovat je.“
O umělé inteligenci se nyní hojně diskutuje. Někteří významní vědci a podnikatelé, jako například Elon Musk, dokonce podepsali petici na pozastavení vývoje nových silných modelů alespoň o půl roku. Profant v této souvislosti podotkl, že vývoj neumíme zastavit.
„My ho možná můžeme zastavit v západním světě – a stejně bych tomu nevěřil, že nebude probíhat vývoj za zavřenými dveřmi – ale rozhodně jej nelze zastavit ve zbytku světa.“ Dodal, že v případě legislativy jde o širší téma, které se za půl roku vyřešit nedá. Podle něj může být nyní cestou velká otevřenost, „abychom to poznání zkoumali a transparentně informovali o tom, co to je a co to není“.
Samoregulace?
Podle Kulveita se každá snaha cení a výzva je rozumná. Podotkl, že si nelze říct, že vývoj jde dopředu a nijak na to nereagovat. „Snaží se, aby se na regulaci začalo pracovat už teď. Samozřejmě, když se podíváte, jak dlouho trvá regulace čehokoliv – ty legislativní procesy jsou na roky. EU nyní přijímá zákon AI Act, který se zdá, že by byl dobrý tak na regulování otázek, které byly aktuální před pěti lety.“ Podotkl, že výzva je zároveň velmi specifická.
„Všímá si toho, že schopnosti rostou s velikostí modelů a ty největší modely nejsou něco, co si někdo pustí v garáži na počítači.“ Zmínil, že je potřeba extrémní koncentrace výpočetního výkonu a podle toho by se dala regulace nejspíše nastavit. „Lidstvo už reguluje například genetické zbraně nebo určité typy genetického inženýrství a všechny ty argumenty o tom, že se lidstvo nedokáže na ničem dohodnout, by se dokázaly použít i na toto.“
Podle Baudiše je potřeba, aby lidé zažili možnosti, které umělá inteligence přináší, ať už v pozitivním, či negativním slova smyslu, a sami zjistili, co vše je možné. „Nejsem zastáncem státních nebo vládních regulací, myslím, že ten obor to poškodí,“ uvedl s tím, že ale zároveň pokud velcí hráči v oboru nenajdou způsob samoregulace, tak tím spíše vládní regulace přijde a bude přehnaná. Věří, že umělá inteligence má potenciál pro rozvoj lidstva a rozumné je přijít se základní samoregulací.
Podotkl, že významných hráčů v této oblasti není mnoho. „Ten výpočetní výkon, který na to potřebujete, je opravdu obrovský. To si nenatrénuje každý, který má počítač ve sklepě.“ Zároveň odborníků ve světě, kteří jsou toho podle něj nyní schopni, jsou maximálně tisíce, spíše stovky. Dodal, že je ale zároveň potřeba nyní nechat o situaci diskutovat odborníky.
Problematika dezinformací
Významnou otázkou týkající se umělé inteligence jsou také dezinformace. Podle Kulveita může umělá inteligence přinést nové modely týkající se jazyka. „Například jedno sdělení, které může být pravdivé, může personalizovat na míru různým skupinám.“
Profant zmínil, že nebezpečné je právě to přizpůsobení a personalizace. „Vídáme ve spamu různé nigerijské dopisy, známe podvodníky, kteří takto podvádí lidi,“ podotkl s tím, že se ale může stát, že si člověk může psát s umělou inteligencí, aniž by to poznal. „Na dálku může zjišťovat vaše slabiny a v tom je to nebezpečné. To je přesně ta práce s daty.“
Podle Baudiše může mít rozvoj umělé inteligence kromě známého efektu ,klasických‘ podvodníků, kteří budou personalizovat styl textu a vydávat se za ředitele firem a žádat o převody peněz, i druhý efekt, který lze těžko odhadovat. „Možná to paradoxně může posílit demokracii, zvýšit kredit a zajistit renesanci reputabilních médií, na které je spoleh, anebo v druhém extrému to může způsobit rozpad důvěry v digitální média a cokoliv, co čtu na internetu.“