Deep Fake

Transformační nástroje umělé inteligence (AI) nabírají v posledních letech na popularitě. Upravit obrázek nebo video je možné pár kliknutími. Například, aby vypadalo jako japonská animace. Vyměnit se dá i pouhá jedna osoba ve videu – tak, že rozpoznat rozdíl je téměř nemožné. Téměř dokonalá jsou rovněž videa, kde AI simuluje pohyb. Některé aplikace navíc proměnu nabízejí v reálném čase a v přímém přenosu. Pro některé jejich tvůrce jde jen o hračku. Jiní v tom vidí nástroj, jak na internetu vydělávat peníze nebo tvořit deepfake známých celebrit. Podle odborníků je proto třeba si riziko podobných videí uvědomit. Na odhalení někdy zbývá jen selský rozum.

Platformu X zaplavily v posledních dnech fotografie lidí, ze kterých uživatelé odstranili oblečení pomocí modelu umělé inteligence (AI) Grok. I děti a nezletilí patří mezi poškozené touto praktikou. Podmínky sociální sítě X sice formálně zakazují takové jednání, Grok však ale vyhovuje požadavku na vytvoření takového obsahu. Grok už loni umožnil vytvářet fotografie známých osobností s rasistickým podtextem nebo v kompromitujících situacích. Společnost xAI miliardáře Elona Muska, provozující X a Grok, už oznámila, že zakročí.

Vatikán vydal dokument o vztahu umělé a lidské inteligence, v němž zdůraznil, že umělá inteligence (AI) by se měla používat pouze jako doplňkový nástroj té lidské, eticky a zodpovědně, mimo jiné proto, aby se člověk nestal „otrokem svého vlastní díla“. Podle Vatikánu má AI sice pozitivní potenciál, může ale také vést k prohloubení sociálních nerovností či k izolaci v mezilidských vztazích. Dokument, který tento měsíc schválil papež František, také varuje před zneužitím AI mocnými korporacemi.

Čím dál dostupnější jsou metody, jak pomocí umělé inteligence poměrně snadno vyrobit podvržené video. Tedy například záznam, na kterém se jeho autor vydává za někoho úplně jiného. Za politika, za kolegu v práci nebo za televizního moderátora. Takzvaná Deep Fake Videa se tak snadno mohou stát třeba i nástrojem pro šíření dezinformací. Ve videu ukazujeme, jak se dá smyšlená zpráva vyrobit a vložit někomu jinému do úst.