Evropská unie od neděle zavádí povinné označování obsahu vytvořeného umělou inteligencí (AI). Týká se to nejen fotografií nebo videí, ale třeba i chatovacích asistentů v internetových obchodech. Vývojáři a provozovatelé mají na uvedení nařízení do praxe tříměsíční přechodné období.
Zda člověk vídá na obrazovce fotografie a videa zachycující skutečné výjevy, nebo se jedná o umělou konstrukci vytvořenou počítačem – či zda je na druhé straně chatu živý člověk, nebo automatizovaný systém – to jsou otázky, na které dokáže s jistotou odpovědět málokdo.
„Právě stojím na náměstí Schuman v Bruselu, obklopeném institucemi Evropské unie. Díky umělé inteligenci ale můžu stát třeba na mořském dně. AI totiž dokáže vytvořit obsah, který je od reality téměř nerozpoznatelný – takzvaný deepfake,“ dal ve své reportáži konkrétní příklad zahraniční zpravodaj ČT Petr Obrovský.
EU proto přichází s požadavkem na transparentnost. Od srpna platí povinnost označovat obsah vytvořený nebo upravený pomocí umělé inteligence, který působí jako reálný. Brusel připravil i doporučení, jak by takové ikony mohly vypadat.
Formát není povinný
„V současné době není žádný povinný formát. Vodoznaky asi budou v praxi nejvíce přijímané, protože jsou nejsnazší, ale může to být i nějaký malý text někde na tom obrázku,“ sdělila právnička Jana Vorlíček Soukupová z advokátní kanceláře Dentons.
Deepfake představuje riziko zejména u důležitých společenských a politických témat – jako jsou například volby. Pomocí umělé inteligence lze totiž rozšířit manipulativní nebo klamavé materiály.
„Jedna věc je označování viditelné – to znamená, že když čtete nějaký text, koukáte na obrázek, abyste tam viděl, že ten obsah je uměle vytvořený. Druhá věc je, aby software, ty stroje, poznaly, že to je uměle vytvořené,“ přiblížil ambasador pro AI Svazu průmyslu a dopravy ČR Jan Kavalírek.
Požadavky na transparentnost se týkají i služeb mobilních operátorů, bank nebo internetových obchodů, kteří využívají chatovací asistenty poháněné AI. Podle průzkumu používají nástroje umělé inteligence aspoň občas skoro tři čtvrtiny Čechů. Vidí v nich pomoc při rutinních pracích, ale i možnou hrozbu.
„Evropané mají právo vědět, zda to, co vidí, slyší nebo čtou, bylo vytvořeno nebo pozměněno umělou inteligencí, zejména pokud takový obsah může ovlivňovat veřejnou debatu,“ zdůraznila místopředsedkyně Evropské komise Henna Virkkunenová.
