Sociální sítě by podle šéfů společnosti Meta měly být oživené „neživými uživateli“. Avatary generované umělou inteligencí mají zvýšit míru toho, jak se lidští uživatelé zapojují například do diskuzí. Po bouřlivých reakcích na sociálních sítích se ukázalo, že Facebook i Instagram už s těmito technologiemi experimentovaly.
Meta chce zaplavit Facebook AI uživateli. Těm lidským se to nelíbí
Společnost Meta se v prosinci rozhodla, že v rámci zavádění produktů s umělou inteligencí začne na Facebooku vytvářet postavy generované umělou inteligencí (AI). Ty mají zvýšit míru toho, jak se lidští uživatelé zapojují do diskuzí a dalších aktivit na této platformě.
Jako první o tom informoval deník Financial Times (FT), kterému to potvrdil viceprezident společnosti Meta pro umělé inteligence Connor Hayes. Postavičky s umělou inteligencí mají vytvářet sami uživatelé prostřednictvím studia umělé inteligence společnosti Meta; cílem je, aby byly prakticky nerozeznatelné od živých lidí a aby se s nimi dalo komunikovat podobně jako s opravdovými lidmi.
„Očekáváme, že tyto AI budou časem existovat na našich platformách podobným způsobem jako normální účty,“ uvedl Hayes. „Budou mít životopisy a profilové obrázky a budou moci generovat a sdílet obsah poháněný AI na platformě Facebook. Tam to všechno uvidíte,“ dodal.
Prakticky stejnou vizi předestřel nedávno investorům Mety i šéf společnosti Mark Zuckerberg. „Myslím, že přidáme zcela novou kategorii obsahu, což je obsah generovaný umělou inteligencí nebo shrnutý umělou inteligencí nebo druh existujícího obsahu nějakým způsobem spojeného umělou inteligencí,“ řekl. „A myslím si, že to bude prostě velmi vzrušující, pro Facebook a Instagram a možná i pro Threads nebo jiné druhy feedů v průběhu času.“
Facebook plný botů
Virtuální postavy vytvořené s umělou inteligencí nejsou na Facebooku nic zásadně nového. Posledním rokem Meta do svých produktů množství těchto technologií AI zapojovala; V létě 2024 to vyvrcholilo tím, že vydala své AI studio, které se rychle stalo líhní virtuálních společníků.
Podle Hayese se tato služba může pochlubit už stovkami tisíc uživatelů umělé inteligence. Podle Mety je to ale jenom začátek něčeho mnohem většího. Přístup k AI Studiu, jenž byl až doposud omezený jen pro Spojené státy, by se měl rozšířit i do dalších zemí. A prioritou této společnosti v příštích dvou letech se podle tohoto rozhovoru stane právě interakce s AI, která by měla učinit tuto sociální síť ještě „sociálnější“.
Vedle fiktivních postav umožňuje AI Studio také influencerům na Facebooku a Instagramu vytvářet AI verze sebe sama, se kterými mohou jejich sledující mluvit. Meta v tom není sama, podobné technologie vyvíjí, nebo už dokonce uvolnila i řada dalších sociálních platforem. V posledních měsících uvolnily funkce AI zaměřené na tvůrce obsahu i další platformy, například nástroj SnapChat pro generování videí s umělou inteligencí.
Rizika existují
Podobní avataři se už používají na internetu k nejrůznějším diskuzním aktivitám. Jedna z nejoblíbenějších platforem je Character.Ai, kde je k dispozici virtuální „osobnost“ prakticky jakéhokoliv ražení a libovolné povahy. Právě zde ale docházelo k tomu, že tyto AI porušovaly pravidla slušného chování, a dokonce i bezpečnosti: teenageři se tak dostali k nevhodnému obsahu.
Na podzim například spáchal sebevraždu čtrnáctiletý mladík z Floridy, který se zamiloval do chatbota, jenž simuloval ženskou postavu ze seriálu Hra o trůny. AI Gemini od společnosti Google zase v listopadu vyzvala k sebevraždě devětadvacetiletého studenta z Michiganu.
Další rovina problémů se týká možného zneužití pro šíření dezinformací. Facebook se už nyní zaplňuje nekvalitním obsahem, který je tvořený AI – falešnými obrázky a v posledních měsících i videi. „Bez důkladných ochranných opatření hrozí, že platformy budou prostřednictvím těchto účtů řízených umělou inteligencí posilovat falešné narativy,“ řekla FT šéfka marketingu talentové agentury Billion Dollar Boy a bývalá šéfka týmu Meta pro inovace Becky Owenová.
Pokus o „zalidnění hřbitova“
Reakce na internetu na rozhovor deníku FT s Hayesem byla v podstatě jednoznačná – a to negativní. Společnost Meta v posledních letech změnila svoje metriky, jimiž popisuje počet svých uživatelů. Oficiálně jich má přes tři miliardy. Řada expertů si to vykládá tak, že jí klesá počet uživatelů. Dokonce padají i vyjádření, že Facebook umírá.
Podle uživatelů na jiných sociálních sítích může být snaha o oživení Facebooku boty pokus o „zalidnění hřbitova“. „Překlad: ‚Naši skuteční uživatelé z platformy odcházejí, takže místo nich zaplníme naši komunitu falešnými uživateli‘,“ napsal jeden z diskutujících na platformě Reddit. Web Gizmodo zase přirovnal situaci k zombie apokalypse: „Tak se nyní cítí mnoho našich sociálních médií. Digitální náměstí obydlená nemrtvými plakáty, zombie chrlící věty, které se naučili na umělých inteligencí, materiál posbíraný z desetiletí internetu chrlený zpět na publikum. To je to, co teď prodává Meta.“
Další varují před dopadem na inzerci, který by se mohl Facebooku nevyplatit. Tato platforma totiž právě z reklamy žije, ale pokud inzerenti nebudou vědět, kolik reálných lidí má o jejich produkty zájem, pak to může příjmy z reklamy pro Metu snížit.
Meta reaguje
Po bouřlivých reakcí na sociálních sítích se ukázalo, že Meta už několik takových AI botů, kteří se tváří jako lidé, provozuje. Tyto profily na Instagramu a Facebooku, které byly pod kontrolou Meta a byly generovány umělou inteligencí, fungovaly déle než rok. Všechny ale přestaly zveřejňovat příspěvky asi poté, co je uživatelé téměř úplně ignorovali.
