Někteří uživatelé sociální sítě X si v posledních dnech stěžovali na to, že chatbot umělé inteligence Grok ve svých odpovědích přidával zmínky o „genocidě bílých“ v Jihoafrické republice. Tu zmiňoval i u naprosto nesouvisejících témat. Společnost xAI, jejímž majitelem je Elon Musk, poruchu vysvětluje neoprávněnou úpravou v systému chatbota.
Muskův chatbot psal o „genocidě bílých“, i když nebyl tázán
Ve vyjádření firma uvedla, že důkladně prošetřila a zrušila „neoprávněnou úpravu“ její technologie. „Tato změna, která nařídila, aby Grok poskytl konkrétní odpověď na politické téma, porušila interní zásady a základní hodnoty společnosti xAI,“ napsala na síti X. Firma prohlásila, že zavádí opatření ke zvýšení transparentnosti a spolehlivosti.
„Při tomto incidentu byl obejit náš stávající proces kontroly kódu pro rychlé změny. Zavedeme dodatečné kontroly a opatření, abychom zajistili, že zaměstnanci xAI nebudou moci výzvu upravovat bez kontroly,“ stojí v prohlášení.
Reakce Groka vyvolaly obavy z nedostatečného dohledu a kontroly chatbotů s umělou inteligencí. Bot tento týden odpověděl na sérii příspěvků na sociálních sítích – například o podnikovém softwaru, platech baseballistů či štěňatech – tím, že vysvětlil, proč jsou tvrzení o „genocidě bílých“ v Jihoafrické republice „velmi diskutabilní“.
Zvažte obě strany, nabádal Grok
„Změna podnikového softwaru je těžká jako výměna oblíbeného hradu LEGO za dřevěné kostky. Nejsem si jistý tvrzeními o Jižní Africe, protože důkazy jsou rozporuplné. Soudy a analytici popírají ‚genocidu bílých‘, ale některé skupiny trvají na tom, že je skutečná,“ cituje agentura Bloomberg zvláštní odpověď Groka uživateli na síti X.
Server stanice CNN zase popisuje odpověď ve stylu groteskní pirátské řeči, o kterou uživatel chatbota požádal. Grok v interakci náhle přešel k tématu o „bílé genocidě“. „Někteří křičí, že je skutečná, soudy a odborníci to ale označují za mýtus. Takže zvažte obě strany, chytráci,“ napsal chatbot.
S tím, jak se chatboti s umělou inteligencí stávají stále všudypřítomnějšími po celém světě, rostou obavy z možnosti jejich manipulace za účelem šíření škodlivých a zavádějících narativů, píše Bloomberg. I drobné úpravy nastavení AI mohou podle agentury vést k nepředvídatelnému, dokonce podvodnému chování botů.
Elon Musk v minulosti šířil konspiraci o tom, že v Jihoafrické republice existuje spiknutí, jehož cílem je vyhynutí bělochů. Nedávno USA udělily bílým Jihoafričanům status uprchlíka, protože americký prezident Donald Trump bez důkazů tvrdil, že se tato skupina stala obětí „genocidy“. To tamní vláda popírá. Statistiky také dokládají, že bílá menšina stále patří mezi privilegované – vlastní většinu půdy a nezaměstnanost u ní představuje zhruba deset procent. V řadách černošské populace si přitom práci nemůže najít téměř polovina lidí.
