Asi před rokem se začaly na internetu objevovat první souhrny vyhledávání vytvořené pomocí umělých inteligencí. Podle expertů jsou značně chybové, přesto na ně uživatelé začali spoléhat. Souhrny také narušují současnou podobu médií. Informační servery v USA ztrácejí desítky procent návštěvníků.
Souhrny, které vznikají pomocí umělé inteligence, jsou nástrojem, který má usnadnit vyhledávání na internetu. Nasadila je už většina velkých vyhledávačů. Podle expertů ale často chybují a smyšlené informace vydávají za pravdivé.
Uživatelé se už na tyto souhrny začali spoléhat a informace často dál neověřují. Poukazuje na to studie Pew Research Center, která analyzovala desítky tisíc případů. Na zdroje informací podle ní kliknul jen jeden člověk ze sta.
Nasazení umělých inteligencí do vyhledávačů se už podle Josefa Šlerky z Ústavu informačních studií a knihovnictví Filozofické fakulty Univerzity Karlovy poměrně výrazně projevilo. „Zatím vidíme čísla ze Spojených států. Čísla návštěvnosti serverů, které mají obchodní model založený na informování, podle nich se zavedením těchto souhrnů klesají asi o třicet až sedmdesát procent,“ uvádí vědec.
Pohodlí, halucinace a zahlcený internet
Lidé se podle Šlerky začali na souhrny od AI spoléhat hlavně kvůli pohodlnosti. „Fakt, že se tam sem tam objeví nějaká chyba, Google moc netrápí. Když se podíváme na normální výsledky z běžných vyhledávačů, je tam mnohdy podobné množství nekvalitních informací,“ přibližuje expert.
Umělá inteligence dělá podle Šlerky chyby dvěma hlavními způsoby. Jedním z nich jsou halucinace, tedy to, že si AI zkrátka vymýšlí. V tom se sice jazykové modely zlepšují, ale chyby se zřejmě nikdy nedají úplně vyloučit. Vycházejí z toho, že pravděpodobnostní model nemá dostatek dat, ale nepřizná to a z odpovědi někam uhne nebo se z ní „vylže“.
Druhý problém je složitější a horší: „AI vytváří odpověď podle výsledků, které najde. Ale pokud jsou tyto výsledky nějak znečištěné, tak odpověď sice vypadá velmi věrohodně – i s odkazy, ale už v nich je informace polopravdivá nebo nepravdivá.“
To podle Šlerky souvisí obecně s příliš zahlceným internetem, který je tak přeplněný pravdivými, polopravdivými i nepravdivými informacemi, že je stále složitější, a tedy pomalejší se na něm vyznat a dobrat se k pravdě. „Je stále složitější dobře seřadit výsledky,“ shrnul expert.
Šum a věcné informace
Podle Šlerky se změny vyhledávání dotknou i zdrojů, z nichž jazykové modely vycházejí. „Weby, které mají podnikání založené na tom, že lidem zprostředkovávají informace, ať jsou to novinářská média, nebo různé weby s radami, budou zasaženy,“ upozorňuje.
Výše zmíněný pokles návštěvnosti, pokud se promítne do zisků, je podle vědce extrémní. „Cesta, kterou média budou muset jít, bude zákaz, aby je AI nemohla využít, zpoplatnění obsahu a podobně. Problém je, že potom na webu zůstane mnohem více šumu, který bude znečišťovat výsledky vyhledávání pro ty, kdo nemají peníze na to, aby si zaplatili přístup k informacím.“
„Myslím, že v budoucnu právě proto bude růst role třeba veřejnoprávních médií, která by měla dodávat kvalitní obsah všem,“ uvádí Šlerka.
Pokud člověk vyhledává věcné informace, měl by se soustředit na zdroj, je jedno, odkud na ně přijde, ale samotný zdroj je podle Šlerky klíčový. Žádné prameny sice nejsou zcela bezchybné, ale roky zkušeností ukázaly, že zdroje jako například Wikipedie dělají chyb relativně nejméně.
