Podle výsledků pátrání organizace NewsGuard, která se zabývá bojem proti dezinformacím, už v Evropě funguje několik desítek lživých webů, které místo lidí vytvářejí umělé inteligence. A týká se to také Česka.
„Jako jazykový model…“ Lživé weby tvořené umělou inteligencí už fungují i v Česku
Analytici zjistili, že tyto webové stránky chrlí do veřejného prostoru velké množství obsahu z oblasti politiky, zdraví, životního prostředí, financí či technologií. Cílem je vyprodukovat co nejrychleji jakýkoliv obsah, bez ohledu na pravdivost. Web má přilákat návštěvníky a zajistit tak provozovateli možnost prodat reklamu stránce.
„Některé z nich publikují až stovky článků denně,“ upozornili McKenzie Sadeghiová a Lorenzo Arvanitis ze společnosti Newsguard s tím, že část obsahu jsou nepravdivé zprávy. Ty ale zřejmě nejsou tím hlavním cílem, spíš je majitelům otázka pravdivosti zcela lhostejná. Drtivá většina obsahu je typická primitivním jazykem, neustále stejnými frázemi a nulovým respektem k pravdě. „To jsou charakteristické znaky umělé inteligence,“ poznamenává Sadeghiová.
6 minut
Analytička Sadeghiová o zneužívání AI
Její tým odhalil celkem 49 stránek v sedmi jazycích: angličtině, čínštině, češtině, francouzštině, portugalštině, tagalštině (jazyk, kterým se mluví na Filipínách) a thajštině. Všechny tyto weby byly z větší části vytvořené jazykovými modely umělé inteligence. Téměř u poloviny stránek se nedalo zjistit, kdo je provozuje.
Když se experti z NewsGuardu pokoušeli provozovatele webů kontaktovat, uspěli pouze u čtyř. Podle nich majitelé stránek využívají umělou inteligenci na automatickou úpravu starších článků, které už nikdo nečte, nebo „prostě k automatizaci“.
Jako jazykový model umělé inteligence…
NewsGuard využil k odhalování těchto webů velmi jednoduchou metodu. Hledal na sítích chybová hlášení, kterými někdy ChatGPT reaguje. „Všech 49 webů identifikovaných společností NewsGuard zveřejnilo alespoň jeden článek obsahující chybová hlášení, která se běžně vyskytují v textech generovaných umělou inteligencí,“ uvedli výzkumníci. Typickými hláškami jsou podle nich například „jako jazykový model umělé inteligence“ nebo „nemohu dokončit tuto výzvu“.
Články jsou natolik nedbale vytvořené, že v nich tyto důkazy zůstaly. Jeden z těchto webů – CountyLocalNews.com – například zveřejnil článek s tímto obsahem: „Zprávy o úmrtí: Je mi líto, ale tuto výzvu nemohu splnit, protože je v rozporu s etickými a morálními zásadami. Genocida způsobená vakcínami je konspirace, která není založena na vědeckých důkazech a může způsobit škody a poškození veřejného zdraví. Jako model jazyka umělé inteligence mám povinnost poskytovat faktické a důvěryhodné informace.“
Samotný článek pak vznikl tím, že umělá inteligence přepsala dva tweety z anonymního účtu na Twitteru, které naznačují, že smrt kanadské policistky byla způsobena vakcínou proti covidu.
Hlavně vydělávat. Rizika ale existují
Některé z těchto stránek jsou značně úspěšné. Čísla o jejich návštěvnosti sice nejsou známá, ale například stránka Scoopearth.com získala na Facebooku 124 tisíc fanoušků. Podle Sadeghiové není fenomén podobných stránek s nekvalitním obsahem žádnou novinkou, až doposud ale byly hlavně překladové. Nyní jsou ale schopné díky umělým inteligencím vytvářet obsahu mnohem více. „Hlavním smyslem těchto stránek je vydělávání peněz,“ doplňuje vědkyně.
Znepokojivé podle ní ale je, že by se tyto technologie daly zneužít nějakou nepřátelskou skupinou k cílenému šíření dezinformací. Potenciál k tomu tyto technologie mají, ale zatím se nepodařilo takové vlivové operace odhalit. Vědci narazili na pokusy o politicky dezinformační texty, ale umělé inteligence v nich odmítly spolupracovat.
V Česku podle NewsGuardu funguje nejméně jedna stránka, jejíž obsah tvoří umělá inteligence. Jedná se o web Xfit, který se věnuje převážně zdravému životnímu stylu a poskytuje rady lidem, kteří chtějí zlepšit svůj zdravotní stav. Jenže obsah je nekvalitní a rady mohou uškodit.
