Vyšetřování americké platformy X miliardáře Elona Muska zahájil britský úřad pro regulaci mediálního trhu Ofcom. Je to v souvislosti se skandálem, kdy chatbot Grok na žádost uživatelů na síti X generuje sexualizované fotografie žen a dětí. Ofcom se zabývá podezřením, že síť nedostatečně chrání uživatele před nezákonným obsahem, uvedl úřad v pondělním sdělení. Malajsie a Indonésie během víkendu jako první země na světě přístup ke Groku zablokovaly.
„Objevily se velmi znepokojivé zprávy o tom, že účet chatbota Grok AI na X byl používán k vytváření a sdílení snímků svlečených lidí – což může představovat zneužívání intimních snímků nebo pornografii – a sexualizovaných snímků dětí, které mohou představovat materiál zobrazující sexuální zneužívání dětí,“ uvedl Ofcom.
Úřad v oficiálním vyšetřování chce posoudit podezření, že společnost X Corp nesplnila zákonem stanovené povinnosti. Jde mimo jiné o provedení včasných opatření, která zabrání lidem ve Spojeném království, aby si prohlíželi nelegální obsah včetně intimních snímků pořízených bez souhlasu. Zkoumá také, zda firma odstranila nelegální obsah dostatečně rychle, jakmile se o něm dozvěděla.
Ofcom oslovil společnost X Corp s žádostí o vyjádření minulý týden v pondělí. Firma odpověděla ve stanoveném termínu do pátku. V pátek úřad obdržel také odpověď od firmy xAI. Ta je mateřskou společností X Corp a zároveň vyvíjí chatbota Grok.
Jen pro platící
Síť X minulý týden vypnula neplatícím uživatelům možnost prostřednictvím chatbota generovat nebo upravovat obrázky. Funkci mají dál k dispozici uživatelé s modrým ověřovacím symbolem u jména, kteří si platí prémiovou verzi platformy.
„Nic to neřeší. Ve skutečnosti je to urážka obětí misogynie a sexuálního násilí. Dokazuje to pouze to, že X dokáže jednat rychle, když chce,“ sdělil serveru The Guardian mluvčí britské vlády s tím, že síť jen změnila funkci z neplacené služby na prémiovou. „Je načase, aby se síť X touto otázkou zabývala,“ dodal. V Česku předplatné prémiové verze stojí 67 korun měsíčně.
Věcí se zabývá také Evropská komise (EK). Ta minulý týden zaslala společnosti X Corp žádost o informace ohledně Groka. Brusel zároveň firmě nařídil, aby nadále uchovávala všechny dokumenty týkající se Groka na své platformě X, a to až do konce letošního roku.
„Nelegální. Nepřijatelné. Nechutné,“ uvedl mluvčí EK Thomas Regnier s tím, že podle unijního nařízení o digitálních službách (DSA) má síť X povinnost situaci řešit. „Protože takový výstup nemůžeme tolerovat. Je to v rozporu s evropskými hodnotami a základními právy. Dodržování evropské legislativy není volba, je to povinnost,“ dodal.
Malajsie a Indonésie Grok zablokovaly
Kvůli schopnosti chatbotu vytvářet sexuálně explicitní deepfakes zablokovaly Grok Malajsie a Indonésie. Jsou prvními zeměmi na světě, které ho zakázaly, napsal server BBC.
Vlády Malajsie a Indonésie oznámily svůj krok proti Groku nezávisle na sobě během víkendu. Jihovýchodní asijské země uvedly, že Grok by mohl být použit k vytváření pornografických a neoprávněných obrázků zahrnujících ženy a děti.
Malajsijská komise pro komunikaci a multimédia v neděli uvedla, že na začátku roku uložila společnosti X, aby přijala přísnější opatření poté, co zjistila „opakované zneužití“ Groku k vytváření škodlivého obsahu.
Ve své odpovědi však společnost X neřešila klíčové problémy platformy a zaměřila se hlavně na proces hlášení uživatelů, uvedl malajsijský regulátor. Dodal, že Grok bude blokován, dokud nebudou zavedena účinná ochranná opatření, a vyzval veřejnost, aby hlásila škodlivý on-line obsah.
Sexualizované fotky na přání a bez souhlasu
Doktorandka dublinské Trinity College Nana Nwachukwuová ve svém výzkumu shromáždila asi pět set interakcí uživatelů sítě X s Grokem, na nichž podle webu The Guardian dokládá, jak často se něco podobného děje. Téměř tři čtvrtiny příspěvků byly žádosti o snímky skutečných žen nebo nezletilých s odstraněnými nebo přidanými částmi oblečení.
Uživatelé si podle Nwachukwuové navzájem radí, jak zadávat příkazy. Navrhují Grokovi zobrazení žen v prádle nebo plavkách, případně s částmi těla pokrytými spermatem a žádají chatbota, aby odstranil svrchní oděv v odpovědích na příspěvky obsahující autoportréty uživatelek. Z kontextu vyplývá, že se tak děje bez souhlasu dotčených žen.
Musk loni oznámil, že kontrolu nad sítí X převzal jeho start-up pro umělou inteligenci xAI, který získal firmu X Corp, tedy provozovatele sítě X. Start-up také vyvíjí chatbota Grok, kterého síť X integrovala do své platformy. Jedním z Muskových projektů bylo integrování chatbota do sítě X, což umožňuje uživatelům použít ho v běžných veřejných konverzacích.
Loni Grok na síti X zveřejnil antisemitské a urážlivé komentáře. Mezi jeho výstupy se objevily například konspirační teorie o židovském vlivu a Grok sám sebe v některých odpovědích označil za MechaHitlera, robotickou postavu Hitlera, která se poprvé objevila v roce 1992 ve videohře Wolfenstein 3D.
