Obrázky obličejů vytvořené umělou inteligencí (AI) lidé vnímají jako důvěryhodnější než fotky skutečných tváří, popsala skupina vědců. Ve studii, na které se podílel i mladý český informatik Matyáš Boháček, varují před rostoucím rizikem on-line podvodů.
Člověk má unikátní dar rozpoznat ve zlomku sekundy individuální lidskou tvář. Automaticky posoudí cizí obličej během pouhých sta milisekund. Ani tato evolucí vycizelovaná schopnost ale nestačí na nejnovější modely AI, které ho snadno ošálí, popsali autoři studie, která vyšla v odborném časopisu Journal of Vision.
„Náš výzkum ukazuje, jak moc lidem hrozí, že se nechají oklamat obrázky generovanými AI,“ uvedla psycholožka Alexis McGuirová, která výzkum vedla. Podle ní problém prohlubuje fakt, že pokročilé modely umělé inteligence jsou přístupné komukoli bez technických dovedností. Každý s přístupem k internetu může vytvářet falešné tváře, snadno zneužitelné k nejrůznějším druhům podvodů. „Je důležité informovat veřejnost o tom, jak snadno se dají takové obrázky vytvářet a jak lehké je jejich zneužití – a také o způsobech, jakými se mohou lidé stát jejich obětí,“ zdůraznila.
Tváře vytvářené umělou inteligencí jsou podle ní vysoce realistické a stávají se stále důvěryhodnějšími. Novější a sofistikovanější technologie vytvářejí falešné portréty, které mohou lidi oklamat tak, že si myslí, že jsou skutečné, přibližně v jedné třetině případů.
Důvěryhodné tváře neexistujících osob
Vědci v tomto experimentu předložili 169 dobrovolníkům soubor 96 velmi různorodých tváří. Měli určit, která z nich je opravdová a která vytvořená AI. Účastníci byli průměrně úspěšní v 58,4 procenta, což je – jak autoři připomínají – jen o málo lepší výsledek, než kdyby si házeli mincí. Co vědce překvapilo, byl fakt, že modernější modely AI byly v klamání lidí méně úspěšné než ty starší.
Na tuto část experti navázali dalším pokusem. Jinou skupinu dobrovolníků požádali, aby tentokrát neurčovali zdroj fotografie, ale důvěryhodnost 96 náhodně prezentovaných tváří na stupnici od 1 (velmi nedůvěryhodné) do 7 (velmi důvěryhodné). Tady byly výsledky jednoznačné: skutečné tváře účastníci pokusu hodnotili jako nejméně důvěryhodné, naopak výtvory AI modelů působily důvěryhodněji. Nejmodernější modely přitom vytvářely nejdůvěryhodnější obličeje.
Vědci zatím nemají odpověď na to, proč byly tváře vytvořené umělou inteligencí pomocí novějšího modelu hodnoceny jako méně realistické než tváře vytvořené starším modelem, přesto je ale hodnotitelé známkovali jako nejdůvěryhodnější. „Je to paradox, který poukazuje na možnost, že posuzování realismu a důvěryhodnosti je řízeno dvěma odlišnými psychologickými mechanismy,“ naznačují autoři.
Spoluautor výzkumu Matyáš Boháček byl hostem pořadu Hyde Park Civilizace:
Konec důvěry
Autoři varují, že tento pokrok sice nabízí skvělé možnosti například ve filmu, ale současně tyto důvěryhodné, ale neexistující osoby mohou přispět k celkovému oslabení důvěry.
„Vzhledem k tomu, že obrázky generované umělou inteligencí jsou stále sofistikovanější a dostupnější, jsme jako společnost stále více vystaveni uměle generovaným tvářím – často v nekalých a vykořisťovatelských scénářích, jako jsou politická dezinformace, finanční podvody a podvody s identitou nebo takzvaný ‚catfishing‘. Je zásadní pochopit hrozbu, kterou tato demokratizace generativní umělé inteligence přináší, a zároveň vyvinout strategie ke zmírnění potenciálních škod pro jednotlivce, organizace i demokracie,“ zakončuje McGuirová.
Tématu AI se ve čtvrtek 9. července od 20:15 věnuje i pořad Na dosah.
