Už brzy by se na trhu mohly objevit umělé inteligence v podobě asistentů, kteří budou předvídat lidská rozhodnutí. Díky tomu budou schopné chování ovlivňovat, a navíc prodávat tyto vyvíjející se „záměry“ v reálném čase společnostem. Ty pak uspokojí potřebu ještě předtím, než si člověk uvědomí, že ji vůbec má, varují experti na etiku umělých inteligencí z Cambridgeské univerzity.
Stojíme na úsvitu „lukrativního, ale znepokojivého nového trhu s digitálními signály záměrů, od nákupu lístků do kina, až po volbu politických kandidátů,“ popisují autoři článku, který vychází na přelomu roku v odborném žurnálu Harvard Data Science Review. Říkají tomu „ekonomika záměrů“.
Výzkumníci z cambridgeského Leverhulme Center for the Future of Intelligence tvrdí, že rozmach generativní umělé inteligence, zejména chatbotů, otevírá úplně nové možnosti pro „přesvědčovací technologie“. Že to není jen představa, podle nich naznačuje celá řada oznámení technologických gigantů z poslední doby.
Trh s touhami jako manipulace v průmyslovém měřítku
„Antropomorfní“ agenti AI, od chatbotích asistentů po digitální učitele a přítelkyně, budou mít přístup k obrovskému množství intimních, psychologických a behaviorálních dat, často získaných prostřednictvím neformálního, konverzačního mluveného dialogu.
Tato umělá inteligence bude podle cambridgeských vědců kombinovat znalost on-line návyků s až nadpřirozenou schopností naladit se na jednotlivého člověka způsobem, který by měl vyvolat pozitivní odezvu. Právě z obrovského množství dat totiž bude vědět, jak zapůsobit na každého člověka s chirurgickou přesností. Bude schopná vybudovat si úroveň důvěry a porozumění, která umožní sociální manipulaci v průmyslovém měřítku, domnívají se výzkumníci.
„Na umístění asistentů umělé inteligence do všech oblastí života se vynakládají obrovské prostředky, což by mělo vyvolat otázku, čí zájmy a účely mají tito takzvaní asistenti plnit,“ upozornil Yaqub Chaudhary z Cambridge.
„To, co lidé při konverzaci říkají, jak to říkají a jaký typ závěrů lze v důsledku toho učinit, je mnohem intimnější než pouhé záznamy on-line interakcí. Upozorňujeme, že už nyní se vyvíjejí nástroje umělé inteligence, které umožňují zjišťovat, vyvozovat, shromažďovat, zaznamenávat, chápat, předpovídat, a nakonec manipulovat a ekonomicky vytěžovat lidské plány a záměry,“ doplňuje etik AI.
Podle druhého autora článku Jonnieho Penna byla až doposud hnacím motorem internetové ekonomiky aktivita na sociálních médiích, jako jsou Facebook a Instagram. Vedla k získávání dat o lidském chování a pak k ovlivňování uživatelů směrem k ekonomické aktivitě. Zjednodušeně: velcí inzerenti využívají pozornost lidí jako měnu, která umožňovala internet zdarma v jeho dnešní podobě. To se teď ale mění.
„Pokud se nebude regulovat, bude ekonomika záměrů považovat vaše motivace za novou měnu. Bude to zlatá horečka pro ty, kteří se zaměřují na lidské záměry, řídí je a prodávají,“ upozorňuje Penn. „Měli bychom začít uvažovat o pravděpodobném dopadu takového trhu s lidskými touhami, a to včetně svobodných a spravedlivých voleb, svobodného tisku a spravedlivé tržní soutěže, dříve než se staneme obětí jeho nezamýšlených důsledků,“ varuje.
Od pizzy po politiku
Penn a Chaudhary popisují, jak by mohla tato internetová ekonomika budoucnosti fungovat: AI budou profilovat, jak pozornost a komunikační styl individuálního uživatele souvisí se vzorci chování a rozhodnutími, která nakonec udělá. „Některé záměry jsou pomíjivé, ale cílení na ty, které vydrží, bude pro inzerenty nesmírně výhodné,“ řekl Chaudhary.
V ekonomice záměrů by mohly být velké jazykové modely použity k levnému zacílení podle toho, co člověka zajímá, jaké politické názory zastává, jak komunikuje, ale také podle toho, jak se chová vůči ostatním. Toto shromažďování informací by bylo propojeno se zprostředkovanými nabídkovými sítěmi, které by na základě chování daného člověka doporučovaly volby, jež pro něj budou lákavé.
Například: AI by z pozorování člověka věděla, že si kupuje pizzu hlavně navečer, a to ve dnech, kdy je ve stresu. Z jeho komunikace na sociální síti by podle použité slovní zásoby pochopila, že zrovna ve stresu je a že se chová podobným způsobem jako ve dnech, kdy si pizzu objednává. Takže by mu sama nabídla objednávky typu, který preferuje, což by zase věděla z jeho předchozích objednávek. Pravděpodobně tak, aby to spojilo zájmy daného člověka, ale současně i inzerenta daného produktu.
Podobně by ale mohla fungovat nejen objednávka jídla nebo třeba lístků do kina, ale stejně dobře by se daly propagovat i nabídky politických organizací, varují Penn a Chaudhary.
Podle nich už velké společnosti na takových modelech pracují. Důkazem má být například otevřená výzva k „datům, která vyjadřují lidský záměr... v jakémkoli jazyce, tématu a formátu“ na blogu společnosti OpenAI z roku 2023. Už téhož roku mluvil na konferenci ředitel produktů společnosti Shopify o chatbotech, kteří „explicitně zjišťují záměr uživatele“. Generální ředitel společnosti Nvidia veřejně hovořil o využití AI ke zjišťování lidských přání, zatímco společnost Meta zveřejnila výzkum „Intentonomy“, soubor dat pro porozumění lidským záměrům, již v roce 2021.
V roce 2024 nový vývojářský rámec „App Intents“ společnosti Apple pro připojení aplikací k Siri (hlasem ovládanému osobnímu asistentovi společnosti Apple) zahrnuje protokoly pro „předvídání akcí, které by někdo mohl v budoucnu provést“, a „navrhování záměru pomocí předpovědí, které poskytnete vývojářům“.
AI umí hrát psychologické hry lépe než lidé
Umělé inteligence dokáží už dnes předvídat lidské chování lépe než lidé a také s ním umí velmi dobře manipulovat. „Agenti umělé inteligence, jako je CICERO společnosti Meta, například dosahují lidské úrovně ve hře Diplomacie, která je závislá na odvozování a předvídání záměrů a používání přesvědčivého dialogu k prosazení své pozice,“ uvádí Chaudhary.
„Tyto společnosti už teď prodávají naši pozornost. Aby získaly komerční výhodu, je dalším logickým krokem využití technologie, kterou zjevně vyvíjejí, k předvídání našich záměrů a prodeji našich přání ještě předtím, než plně pochopíme, jaká jsou.“
Penn upozorňuje, že tento vývoj nemusí být nutně špatný, ale má potenciál být destruktivní. „Informovanost veřejnosti o tom, co se blíží, je klíčem k tomu, abychom se nevydali špatnou cestou,“ dodává.
