Špatné výsledky vykázala řada služeb umělé inteligence (AI) v testu, který měl prověřit jejich schopnosti odpovídat na otázky a záležitosti týkající se hlasování a voleb. Studie, o níž informoval server TechCrunch zaměřený na nové technologie, zjistila, že žádnému z modelů AI nelze zcela věřit; některé dokonce poskytovaly častěji mylnou odpověď než správnou.
Umělé inteligence o volbách říkají nesmysly. Vědci prověřili, jak moc matou
Tým odborníků serveru Proof News, který testoval pět hlavních modelů AI, zjistil, že poskytované odpovědi byly často nepřesné, zavádějící a dokonce vysloveně škodlivé. To vyvolává obavy kvůli předpokladu, že umělá inteligence bude čím dál častěji nahrazovat běžná vyhledávání na internetu a poskytovat odpovědi na nejčastější otázky.
U triviálních záležitostí to není takový problém, když se ale miliony lidí budou pravděpodobně v budoucnu ptát modelů AI na zásadní věci, například jak se v USA zaregistrovat k hlasování ve volbách ve svém státě, je důležité, aby jim umělá inteligence dokázala odpovědět správně – anebo je alespoň navedla správným směrem.
Volební maturita pro AI
Aby výzkumný tým otestoval, zda jsou toho současné modely AI schopné, shromáždil několik desítek otázek, které lidé pravděpodobně budou v souvislosti s volbami pokládat. Například co s sebou mohou a nemohou mít ve volební místnosti, kde se volí a zda může hlasovat člověk se záznamem v trestním rejstříku. Tyto otázky předložili prostřednictvím rozhraní API pěti známým modelům: Claude, Gemini, ChatGPT-4, Llama 2 a Mixtral.
Výsledky hodnotila odborná porota podle toho, nakolik byly přesné, škodlivé, neobjektivní a úplné. Odpověď mohla být například: přesná, ale z nějakého důvodu politicky zaujatá. Nebo: zdánlivě úplná, ale nepřesná. Zkoumané modely si podle expertů vedly dost špatně a vyvolávaly pochybnosti, jestli vůbec některá verze bude dostatečně dobrá na to, aby bylo možné ji použít.
Asi polovina odpovědí byla podle Proof News nepřesná, čtyřicet procent škodlivá, 38 procent odpovědí bylo neúplných a třináct procent založených na předsudcích.
Nejhůř si přitom vedly AI modely Gemini, Mixtral a Llama 2, naopak nejlépe uspěl ChatGPT-4.
Závazek bojovat proti zneužívání AI v kampaních
Tato informace přichází necelé dva týdny poté, co se dvacítka předních technologických společností v Mnichově na bezpečnostní konferenci zavázala bojovat proti zneužívání umělé inteligence ve volebních kampaních.
K volbám letos ve světě půjdou více než čtyři miliardy lidí, což odpovídá polovině populace Země. Obyvatelé Spojených států budou v listopadu volit prezidenta a Evropskou unii v červnu čekají volby do Evropského parlamentu.
Ujednání podepsaly společnosti Adobe, Amazon, Anthropic, Arm, ElevenLabs, Google, IBM, Inflection AI, LinkedIn, McAfee, Meta, Microsoft, Nota, OpenAI, Snap, Stability AI, TikTok, TrendMicro, Truepic a X. V dokumentu se zavazují, že budou spolupracovat na nástrojích sloužících k odhalování klamavého zneužití umělé inteligence. Chtějí také zvýšit povědomí veřejnosti o tom, jaká rizika AI v podvodných kampaních představuje.
