Evropská komise (EK) zahájila nové vyšetřování americké internetové platformy X miliardáře Elona Muska, a to podle unijního nařízení o digitálních službách (DSA), informovala ve svém sdělení. Souvisí to s generováním sexualizovaných fotografií žen a dětí AI chatbotem Grok na žádost uživatelů. Americký podnik je podezřelý, že řádně neposoudil a nezmírnil rizika spojená s jeho zavedením.
„Domníváme se, že platforma mohla porušit nařízení DSA,“ uvedl na pravidelném poledním briefingu mluvčí EK Thomas Regnier. „Materiály zobrazující sexuální zneužívání žen a dětí nemají v Evropě místo,“ dodal.
„Nové šetření má za cíl zjistit, zda společnost řádně posoudila a zmírnila rizika spojená s nasazením funkcí chatbota Grok do platformy X v Evropské unii,“ sdělila komise. To podle ní zahrnuje rizika související s šířením nelegálního obsahu v EU, jako jsou manipulované sexuálně explicitní obrázky, včetně obsahu, který může představovat materiál zobrazující sexuální zneužívání dětí.
„Zdá se, že se tato rizika naplnila a že občané EU byli vystaveni vážné újmě. Vzhledem k tomu bude Komise dál zkoumat, zda společnost X plní své povinnosti vyplývající z nařízení o digitálních službách,“ stojí dále v prohlášení.
„V rozporu s evropskými hodnotami“
Evropská komise zaslala Muskově společnosti X Corp už na začátku ledna žádost o informace ohledně chatbota Grok. „Nelegální. Nepřijatelné. Nechutné,“ komentoval mluvčí Regnier v souvislosti se sexualizovanými fotografiemi žen a dětí. „Takový výstup nemůžeme tolerovat. Je to v rozporu s evropskými hodnotami a základními právy. Dodržování evropské legislativy není volba, je to povinnost,“ doplnil.
Síť X na začátku ledna vypnula neplatícím uživatelům možnost prostřednictvím chatbota generovat nebo upravovat obrázky. Funkci mají dál k dispozici uživatelé s modrým ověřovacím symbolem u jména, kteří si platí prémiovou verzi platformy. V Česku předplatné prémiové verze stojí 67 korun měsíčně. Podle mnohých to ale situaci neřeší.
Komise upozornila, že oficiální zahájení řízení nepředjímá jeho výsledek. Nyní bude Komise nadále shromažďovat důkazy, například zasíláním dalších žádostí o informace, prováděním pohovorů nebo inspekcí, a může uložit předběžná opatření, pokud nedojde ke smysluplným úpravám platformy X.
Musk loni oznámil, že kontrolu nad sítí X převzal jeho start-up pro umělou inteligenci xAI, který získal firmu X Corp, která je provozovatelem sítě X. Start-up vyvíjí i chatbota Grok, kterého síť X integrovala do své platformy.
