Společnost Google nasadila a pak rychle zrušila novou funkci, která umožňovala upravovat satelitní snímky. Po stížnostech expertů přiznala, že možností zneužití bylo příliš.
Zřícená Eiffelova věž v Paříži, propadlina pohlcující pyramidu v Gíze, hořící Moskva, nebo ruské tanky v ukrajinském hlavním městě. Pokud by se někdo podíval o víkendu na jinak spolehlivé satelitní fotografie, viděl by neexistující situace a falešné stavby. To všechno kvůli společnosti Google, která spustila a krátce poté stáhla novou AI službu, která umožnila jednoduché a rychlé vytváření takových materiálů.
Snímky se daly vytvářet bez jakýchkoliv technických znalostí: stačilo k jakémukoliv satelitnímu, leteckému nebo 3D snímku z Google Earth zadat textový příkaz pro úpravu, podobně jako se komunikuje s chatboty.
Google slibuje přísnější pravidla
Google nechal kontroverzní službu fungovat necelé dva dny. Jejím stažením reagoval na reportáž a článek britské stanice BBC, která popsala, jak tisíce lidí tuto funkci zneužívají k šíření nebezpečných dezinformací.
„Zaznamenali jsme, že odborníci v oblasti geoprostorových dat tuto funkci využívají k celé řadě užitečných účelů, nicméně jsme také zaznamenali případy, kdy uživatelé sdíleli snímky obrazovky s vygenerovanými obrázky, které zřejmě porušují naše zásady,“ uvedla společnost Google na síti X.
Dodala, že tuto funkci dočasně pozastavuje, zatímco pracuje na zavedení přísnějších ochranných opatření. Společnost nespecifikovala, jaké typy obrázků porušovaly její zásady. Google se současně brání tím, že obsah vytvořený pomocí jeho nástrojů na bázi umělé inteligence obsahuje neviditelné vodoznaky, které signalizují, že se jedná o padělek nebo upravený obrázek, a dodal, že kdokoli, kdo si „není jistý pravostí obrázku“, si jej může ověřit pomocí jiných nástrojů Google: aplikace Gemini či funkce Lens.
Tým BBC Verify ale upozornil, že to není pravda. Tyto kontroly lze obejít a přimět Gemini, aby tyto falešné obrázky z Google Earth označil za skutečné. Tyto falešné snímky byly tak kvalitní, že ani testy s využitím externích nástrojů pro detekci obsahu vytvořeného AI v některých případech nedokázaly upravený obsah z Google Earth identifikovat.
V čem spočívala hrozba
Proč jsou vlastně tyto falešné snímky tak nebezpečné? Pro BBC Verify to vysvětlil expert na detekci umělé inteligence Henry Ajder. Vytváření podobných falešných snímků je obzvlášť problematické u míst, kde probíhají nějaké konflikty.
„Novináři by možná mohli ten snímek ověřit… a informovat o něm. Ale opět, ne každý to udělá,“ uvedl odborník. Podle něj je nejhorší, že právě v těchto oblastech s konflikty je nejméně času na ověřování informací, každá další dezinformace může způsobit velké škody.
Jak si to představit v praxi? Například v zemi napadené nepřítelem by mohly způsobit paniku snímky jeho jednotek blízko města, nebo fotografie, jež by ukazovaly masakr obránců. Při povodních by mohly reálné zpravodajské informace snadno vytlačit virální, ale nepravdivé snímky, které by ukazovaly větší rozliv – což by ohrožovalo práci záchranářů. A v případě voleb v zemi ohrožené migrační krizí by zase mohly voliče ovlivnit falešné kolony nebo davy uprchlíků.
