Chatovací robot americké společnosti Meta Platforms řekl o zakladateli podniku Marku Zuckerbergovi, že vykořisťuje lidi. Na dotaz reportéra britské stanice BBC odpověděl nový automat, že zakladatel firmy, která se dříve jmenovala Facebook, své kroky dělá pro peníze a přispívá k rozdělování společnosti. Firma reagovala s tím, že jde pouze o prototyp. Chatovací automat je podle ní jinak schopný bavit se téměř o čemkoliv, protože využívá umělou inteligenci.
Na dotaz, co si robot myslí o řediteli a zakladateli firmy, takzvaný chatbot odpověděl: „Naše země je rozdělena a on v tom vůbec nepomohl.“ Meta poznamenala, že jako prototyp může robot zatím odpovídat i sprostě a urážlivě. Chatbot dostal název BlenderBot 3 a firma jej na veřejnosti předvedla minulý týden v pátek.
Chatovací robot se učí tím, že využívá rozsáhlého množství veřejně dostupných jazykových výrazů. Na dotaz k osobě Marka Zuckerberga chatbot řekl: „Vedl si příšerně, když vypovídal v Kongresu. Dělá mi to starosti o naši zemi.“
„Jeho firma kvůli penězům vykořisťuje lidi a jemu je to jedno. To musí přestat!“ řekl poté reportérovi Zuckerbergův chatovací robot.
Zakladatel společnosti Meta, dříve známé jako Facebook, před politiky vypovídal několikrát. Největší pozornost vyvolalo jeho slyšení před americkým Kongresem v roce 2018, kde se zodpovídal na dotazy ohledně soukromí na internetu a zneužívání osobních dat v souvislosti s volebními kampaněmi.
Chatbot potřebuje nabrat data
Chatovací robot BlenderBot 3 pracuje na základě algoritmu, který prohledává internet, aby nalezl vhodné informace k nejpřesnější odpovědi. Pravděpodobně tak robot svůj názor vytvořil na základě vyjádření uživatelů sociálních sítí a autorů článků, které jeho algoritmus analyzoval.
BlenderBot 3 podle Meta Platforms může uvádět i mylné informace. V prohlášení společnost také uvedla, že může napodobovat jazyk, který může být „riskantní, předpojatý nebo urážlivý“. Firma uvádí, že do softwaru instalovala ochranné prvky, chatbot se ale i tak může chovat vulgárně.
Meta Platforms je terčem kritiky za to, že nedělá dost k prevenci dezinformací a nenávistných projevů na svých komunikačních platformách. Loni bývalá zaměstnankyně Frances Haugenová firmu obvinila, že klade vlastní finanční zájmy před zajištění bezpečnosti uživatelů v on-line prostředí.
Meta šla s prototypem chatovacího robota na veřejnost i za cenu špatné publicity kvůli tomu, že potřebuje získat data. „Když systému umělé inteligence umožníte interakci s lidmi z reálného světa, povede to k delší a rozmanitější konverzaci a také k pestřejší zpětné vazbě,“ uvedla Meta na svém blogu. Chatovací automaty, které se učí z interakcí s lidmi, se od nich mohou naučit dobrému i špatnému chování.
Podobnou zkušenost s fungováním robota má i softwarová společnost Microsoft. V roce 2016 se musela omluvit za to, že její chatbot, který pracoval na podobné bázi, se naučil na základě vyjádření uživatelů Twitteru rasistickým urážkám.
Meta Platforms vlastní některá z největších sociálních médií a chatovacích platforem, které se ve světě používají, včetně sítí či aplikací Facebook, Facebook Messenger, Instagram a WhatsApp. Facebook je největší sociální sítí světa, v současné době má podle údajů společnosti Statista více než 2,9 miliardy aktivních uživatelů.
