Zborcená Eiffelovka, jaderná sila. Google stáhl kontroverzní nástroj

Společnost Google nasadila a pak rychle zrušila novou funkci, která umožňovala upravovat satelitní snímky. Po stížnostech expertů přiznala, že možností zneužití bylo příliš.

Zřícená Eiffelova věž v Paříži, propadlina pohlcující pyramidu v Gíze, hořící Moskva, nebo ruské tanky v ukrajinském hlavním městě. Pokud by se někdo podíval o víkendu na jinak spolehlivé satelitní fotografie, viděl by neexistující situace a falešné stavby. To všechno kvůli společnosti Google, která spustila a krátce poté stáhla novou AI službu, která umožnila jednoduché a rychlé vytváření takových materiálů.

Snímky se daly vytvářet bez jakýchkoliv technických znalostí: stačilo k jakémukoliv satelitnímu, leteckému nebo 3D snímku z Google Earth zadat textový příkaz pro úpravu, podobně jako se komunikuje s chatboty.

Google slibuje přísnější pravidla

Google nechal kontroverzní službu fungovat necelé dva dny. Jejím stažením reagoval na reportáž a článek britské stanice BBC, která popsala, jak tisíce lidí tuto funkci zneužívají k šíření nebezpečných dezinformací.

„Zaznamenali jsme, že odborníci v oblasti geoprostorových dat tuto funkci využívají k celé řadě užitečných účelů, nicméně jsme také zaznamenali případy, kdy uživatelé sdíleli snímky obrazovky s vygenerovanými obrázky, které zřejmě porušují naše zásady,“ uvedla společnost Google na síti X.

Dodala, že tuto funkci dočasně pozastavuje, zatímco pracuje na zavedení přísnějších ochranných opatření. Společnost nespecifikovala, jaké typy obrázků porušovaly její zásady. Google se současně brání tím, že obsah vytvořený pomocí jeho nástrojů na bázi umělé inteligence obsahuje neviditelné vodoznaky, které signalizují, že se jedná o padělek nebo upravený obrázek, a dodal, že kdokoli, kdo si „není jistý pravostí obrázku“, si jej může ověřit pomocí jiných nástrojů Google: aplikace Gemini či funkce Lens.

Tým BBC Verify ale upozornil, že to není pravda. Tyto kontroly lze obejít a přimět Gemini, aby tyto falešné obrázky z Google Earth označil za skutečné. Tyto falešné snímky byly tak kvalitní, že ani testy s využitím externích nástrojů pro detekci obsahu vytvořeného AI v některých případech nedokázaly upravený obsah z Google Earth identifikovat.

V čem spočívala hrozba

Proč jsou vlastně tyto falešné snímky tak nebezpečné? Pro BBC Verify to vysvětlil expert na detekci umělé inteligence Henry Ajder. Vytváření podobných falešných snímků je obzvlášť problematické u míst, kde probíhají nějaké konflikty.

„Novináři by možná mohli ten snímek ověřit… a informovat o něm. Ale opět, ne každý to udělá,“ uvedl odborník. Podle něj je nejhorší, že právě v těchto oblastech s konflikty je nejméně času na ověřování informací, každá další dezinformace může způsobit velké škody.

Jak si to představit v praxi? Například v zemi napadené nepřítelem by mohly způsobit paniku snímky jeho jednotek blízko města, nebo fotografie, jež by ukazovaly masakr obránců. Při povodních by mohly reálné zpravodajské informace snadno vytlačit virální, ale nepravdivé snímky, které by ukazovaly větší rozliv – což by ohrožovalo práci záchranářů. A v případě voleb v zemi ohrožené migrační krizí by zase mohly voliče ovlivnit falešné kolony nebo davy uprchlíků.

Výběr redakce

Aktuálně z rubriky Věda

Archeologové našli na Olomoucku hradisko ze starší doby bronzové

Archeologové objevili v Charvátech na Olomoucku dosud neznámé opevněné sídliště ze starší doby bronzové. Pravěké hradisko, které mohlo sloužit jako centrum okolních komunit, chránily tři linie obranných příkopů. Archeologové při záchranném výzkumu odkryli také čtyři hroby a pozůstatky osídlení z několika pravěkých období. Rozsah opevněného areálu pomohl odhalit také geofyzikální průzkum.
před 7 hhodinami

Je tu GTA VI. Očekávají se stamiliardové tržby, unavené palce i kritika

Po třinácti letech vychází další díl videoherní série Grand Theft Auto (GTA). Těší se na něj desítky milionů hráčů po celém světě, ale na výsledky už čekají i ekonomové. Zisk hry by totiž měl překonat všechny filmy v dějinách. Ostatně globálním fenoménem se GTA VI stalo ještě před vydáním.
před 7 hhodinami

Jediná jaderná exploze na orbitě může zničit skoro všechny družice

Moderní civilizace se opírá o satelity. Předpovídají počasí, pomáhají bezpečnosti, přenášejí klíčová data, sledují každý metr zemského povrchu. V současné době je na nízké oběžné dráze asi třináct tisíc družic a každá z nich usnadňuje lidem život. Ale podle nové studie jsou nečekaně zranitelné. Pokud by někdo na nízké oběžné dráze odpálil jadernou zbraň, vyřadilo by to z provozu většinu satelitů, popsali vědci v nové, zatím nerecenzované studii.
před 11 hhodinami

Voyager 1 je nyní světelný den od Země

Americká sonda Voyager 1 dosáhla ve středu v 11:16 jako první lidský výtvor vzdálenosti 25,9 miliardy kilometrů od Země. Dokázala tím překročit hranici jednoho světelného dne od naší planety.
před 12 hhodinami

Spojené státy přišly o status země bez spalniček

Spojené státy po více než čtvrtstoletí ztratily status země bez výskytu spalniček. Rozhodla o tom Panamerická zdravotnická organizace (PAHO) kvůli tomu, že tato vysoce nakažlivá nemoc se po USA nepřerušeně šíří déle než rok.
před 14 hhodinami

Archeologové našli ostatky jednooké holčičky z doby před 1300 lety

Archeologové odhalili první důkaz o historické existenci člověka se vzácnou genetickou poruchou, která způsobuje jednookost.
17. 11. 2026‌‌

Hlubokomořská těžba může vymazat ekosystémy staré miliony let

Pokud by se začalo těžit v hloubkách kolem čtyř až šesti tisíc metrů pod hladinou, zcela by to zničilo křehké ekosystémy, které tam existují ukryté přímo v materiálech, po nichž průmysl touží. Varuje před tím nová studie.
16. 11. 2026‌‌

Datová centra ve vesmíru by mohla znemožnit pozorování hvězd, varují vědci

Rozmístění rozsáhlých sítí datových center do vesmíru by mohlo lidem téměř znemožnit pozorování hvězd. S odkazem na novou studii o tom napsal zpravodajský server Axios. Většina obyvatel Spojených států datová centra v blízkosti svých domovů odmítá a vynesení této technologie do vesmíru vyvolává zase obavy vědců, včetně astronomů. Přesun desetitisíců počítačů pro umělou inteligenci (AI) na oběžnou dráhu totiž s sebou nese řadu nových a neprobádaných rizik.
16. 11. 2026‌‌

Evropský pohled

ČT24 každý den vybírá z obsahu publikovaného evropskými veřejnými médii, členy Eurovize.