Deep Fake

Platformu X zaplavily v posledních dnech fotografie lidí, ze kterých uživatelé odstranili oblečení pomocí modelu umělé inteligence (AI) Grok. I děti a nezletilí patří mezi poškozené touto praktikou. Podmínky sociální sítě X sice formálně zakazují takové jednání, Grok však ale vyhovuje požadavku na vytvoření takového obsahu. Grok už loni umožnil vytvářet fotografie známých osobností s rasistickým podtextem nebo v kompromitujících situacích. Společnost xAI miliardáře Elona Muska, provozující X a Grok, už oznámila, že zakročí.

Vatikán vydal dokument o vztahu umělé a lidské inteligence, v němž zdůraznil, že umělá inteligence (AI) by se měla používat pouze jako doplňkový nástroj té lidské, eticky a zodpovědně, mimo jiné proto, aby se člověk nestal „otrokem svého vlastní díla“. Podle Vatikánu má AI sice pozitivní potenciál, může ale také vést k prohloubení sociálních nerovností či k izolaci v mezilidských vztazích. Dokument, který tento měsíc schválil papež František, také varuje před zneužitím AI mocnými korporacemi.

Čím dál dostupnější jsou metody, jak pomocí umělé inteligence poměrně snadno vyrobit podvržené video. Tedy například záznam, na kterém se jeho autor vydává za někoho úplně jiného. Za politika, za kolegu v práci nebo za televizního moderátora. Takzvaná Deep Fake Videa se tak snadno mohou stát třeba i nástrojem pro šíření dezinformací. Ve videu ukazujeme, jak se dá smyšlená zpráva vyrobit a vložit někomu jinému do úst.