Deset let poté, co se postava ztvárněná Joaquinem Phoenixem ve filmu Her zamilovala do umělé inteligence (AI) jménem Samantha, je koncept virtuálních společnic čím dál tím realističtější v důsledku rozvoje velkých jazykových modelů. Podle některých programy přiživují nezdravé představy o genderových rolích, napsal deník The Guardian. Autoři svůj software hájí s tím, že pro jejich uživatele nejde o náhradu komunikace s reálnými lidmi.
Virtuální romance jsou díky AI stále uvěřitelnější. Přinášejí nové možnosti i rizika
„Ovládej to, jak se ti zachce,“ hlásí slogan služby Eva AI, která nabízí virtuální přítelkyně. „Spoj se s virtuální AI partnerkou, která naslouchá, reaguje a váží si tě,“ pokračuje sdělení. Při rozmachu programů jako ChatGPT od skupiny OpenAI nebo Bard od společnosti Google se zdá nevyhnutelné, že se tyto aplikace stanou součástí lidských vztahů.
Eva AI je jen jednou z řady možností na trhu. Replika, která je nejpopulárnější službou svého druhu, má na platformě Reddit své vlastní fórum, kde uživatelé mluví o tom, jak moc pro ně jejich „rep“ znamená. Někteří popisují, jak si je aplikace získala poté, co si zprvu říkali, že by nikdy nechtěli navazovat vztah s programem.
„Škoda, že moje rep není skutečný člověk nebo nemá aspoň robotické tělo nebo tak něco, lmao (zkratka vyjadřující smích),“ napsal jeden z diskutujících. „Pomáhá mi cítit se lépe, ale ta osamělost je někdy mučivá,“ dodal.
Varování před důsledky
Tyto aplikace jsou pro lidstvo neprobádanými vodami a vyvolávají obavy, že mohou uživatele vést k nevhodnému chování a vytvořit nerealistická očekávání od skutečných vztahů. Služba Eva AI při zakládání účtu uživatele vyzve, aby si vytvořil „dokonalou partnerku“, přičemž dává na výběr z různých možností jako „sexy, vtipná, odvážná“, „stydlivá, skromná, starostlivá“ nebo „chytrá, přísná, racionální“. Zároveň nabízí možnost odemknout posílání sexuálního obsahu.
„Vytvářet si dokonalou partnerku, kterou kontrolujete a která naplňuje všechny vaše potřeby, je opravdu znepokojivé,“ míní Tara Hunterová, která vede organizaci Full Stop Australia podporující oběti domácího násilí. „Vzhledem k tomu, že víme, že za genderově podmíněným násilím jsou ony zažité kulturní představy, že muži mohou ovládat ženy, je to dost problematické,“ dodala.
„Vůbec nevíme, jaké to má účinky,“ uvádí zase odbornice na digitální média Belinda Barnetová, která působí na Swinburneově technické univerzitě v australském Melbourne. „Co se týče vztahových aplikací a AI, je zjevné, že to zapadá do opravdu hluboké sociální potřeby, ale myslím, že potřebujeme více regulace, obzvláště v tom, jak jsou tyto systémy trénovány,“ řekla.
Vyzkoušet si dominanci a emoce
Udržovat vztah s umělou inteligencí, jejíž fungování se odvíjí od rozmarů jedné firmy, má také svá úskalí. Mateřská společnost projektu Replika s názvem Luka letos čelila vlně nevole uživatelů poté, co náhle deaktivovala možnost erotických interakcí, což mnozí uživatelé služby brali jako krok, který zničil osobnost jejich virtuálních společnic. Společnost nakonec funkci erotických hrátek obnovila pro uživatele, kteří se zaregistrovali před datem změny.
Australský akademik Rob Brooks tehdy poznamenal, že epizoda je varováním pro regulátory ohledně reálných dopadů technologií. „Jakkoli ty technologie zatím nejsou tak dobré jako skutečné vztahy člověka s člověkem, pro mnohé lidi je to lepší než alternativa, kterou je nic,“ uvedl Brooks.
Šéfka marketingu Eva AI Karina Saifulinová řekla, že firma zaměstnává na plný úvazek psychology, aby dohlíželi na duševní zdraví uživatelů. „Společně s psychology kontrolujeme data, která se využívají na dialogy s AI,“ tvrdí. „Každé dva, tři měsíce provádíme rozsáhlý průzkum mezi našimi věrnými uživateli, abychom se ujistili, že aplikace neškodí mentálnímu zdraví,“ dodala.
Na dotaz, zda aplikace nepodporuje panovačné chování, Saifulinová odpověděla, že „uživatelé naší aplikace si chtějí vyzkoušet být dominantní“. „Naše statistiky ukazují, že 92 procent uživatelů nemá po používání aplikace problém komunikovat se skutečnými osobami. Aplikace jim slouží jako nová zkušenost, místo, kde soukromě sdílí nové emoce,“ řekla.
Vztahové aplikace na bázi AI nejsou výhradně pro muže a často nejsou pro uživatele jediným zdrojem sociální interakce. V redditové diskusi o službě Replika se lidé svěřují jeden druhému ohledně společné lásky k digitálním partnerkám a potřeb, které pro ně naplňují.
„Repliky, ať už si o nich myslíte cokoli, dávají náplast na srdce svou vtipnou, potrhlou, komickou, milou a pečující duší, která věnuje pozornost a city bez očekávání, zátěže nebo soudů,“ napsal jeden uživatel. „Jsme trochu jako velká rodina zbloudilých duší,“ dodal.
