Americká sociální síť X miliardáře Elona Muska oznámila, že znemožní pomocí chatbota Grok generovat a upravovat fotografie skutečných lidí v odhalujícím oblečení v zemích, kde je to nelegální. Reagovala tak na skandál, kdy chatbot na žádost uživatelů na síti X generoval sexualizované fotografie žen a dětí. Britský úřad pro regulaci mediálního trhu Ofcom v reakci uvedl, že jeho vyšetřování v této věci nadále pokračuje.
„Zavedli jsme technologická opatření, abychom zabránili účtu Grok umožnit úpravu snímků skutečných lidí v odhalujícím oblečení,“ stojí v oznámení. „Nyní geograficky blokujeme možnost všech uživatelů generovat obrázky skutečných lidí v bikinách, spodním prádle a podobném oblečení prostřednictvím účtu Grok a v aplikaci Grok na síti X v jurisdikcích, kde je to nezákonné,“ dodala platforma.
Britský Ofcom zahájil vyšetřování platformy X v pondělí. Zabývá se podezřením, že síť nedostatečně chrání uživatele před nezákonným obsahem. Dnes Ofcom krok sítě X uvítal, nicméně zdůraznil, že ve vyšetřování pokračuje, uvedla agentura Reuters.
Ve středu platformě v souvislosti se skandálem pohrozil kalifornský státní návladní Rob Bonta. „Žádáme od společnosti xAI okamžitou odpověď na její plán zastavit vytváření a šíření tohoto obsahu. Využijeme všechny nástroje, které máme k dispozici, abychom zajistili bezpečnost Kaliforňanů,“ napsal na síti X.
Věcí se zabývá také Evropská komise (EK). „Nelegální. Nepřijatelné. Nechutné,“ uvedl minulý týden mluvčí EK Thomas Regnier. Dodal, že podle unijního nařízení o digitálních službách (DSA) má síť X povinnost situaci řešit.
Výzkum
Doktorandka dublinské Trinity College Nana Nwachukwuová ve svém výzkumu shromáždila asi pět set interakcí uživatelů sítě X s Grokem, na nichž podle zprávy webu The Guardian z minulého týdne dokládá, jak často se něco podobného děje. Téměř tři čtvrtiny příspěvků byly žádosti o snímky skutečných žen nebo nezletilých s odstraněnými nebo přidanými částmi oblečení.
Uživatelé si podle Nwachukwuové navzájem radí, jak zadávat příkazy. Navrhují Grokovi zobrazení žen v prádle nebo plavkách, případně s částmi těla pokrytými spermatem a žádají chatbota, aby odstranil svrchní oděv v odpovědích na příspěvky obsahující autoportréty uživatelek. Z kontextu vyplývá, že se tak děje bez souhlasu dotčených žen.
Musk loni oznámil, že kontrolu nad sítí X převzal jeho start-up pro umělou inteligenci xAI, který získal firmu X Corp, tedy provozovatele sítě X. Start-up také vyvíjí chatbota Grok, kterého síť X integrovala do své platformy. Jedním z Muskových projektů bylo integrování chatbota do sítě X, což umožňuje uživatelům povolat jej na pomoc v běžných veřejných konverzacích.
Loni Grok na síti X zveřejnil antisemitské a urážlivé komentáře. Mezi jeho výstupy se objevily například konspirační teorie o židovském vlivu a Grok sám sebe v některých odpovědích označil za MechaHitlera, robotickou postavu Hitlera, která se poprvé objevila v roce 1992 ve videohře Wolfenstein 3D.
