Několik případů z poslední doby ukázalo zásadní rizika, která souvisejí s přechodem americké armády na systémy ovládané umělými inteligencemi (AI). Přesto Pentagon do této technologie investuje stále víc kvůli zásadním výhodám, které na bojišti přináší.
Poté, co umělá inteligence poskytla lidem špatné informace, se USA a Čína ocitly na hraně konfliktu. Americký útok na školu v Íránu, který dle OSN připravil o život 168 dětí, armáda opřela o analýzu AI, která vycházela ze zastaralých dat.
Dva příběhy, kde hrály hlavní roli nevhodné informace sdílené umělými inteligencemi. Bližší pohled na oba ukazuje, proč se žádná armáda těchto technologií nevzdá.
Na dotek války
Loď plující pod čínskou vlajkou je naložená od kýlu až po palubu vojenským materiálem, který by se dal využít na výrobu atomových zbraní. Když se tato informace dostala k americkým jednotkám, rozhodli se důstojníci pro zásah. Náklad plující do Íránu mohl tuto zemi posunout k vývoji jaderné zbraně.
K úderu chybělo jen několik minut, když od vyšších důstojníků přišla rychlá zpráva: „Operace se ruší.“ V té době se už mariňáci chystali nalodit na plavidlo, které je mělo dopravit k cíli, a stíhačky, jež jim měly poskytovat podporu, už dokonce byly ve vzduchu.
Podle stanice CNN mezitím analytici detailně prověřili původní zpravodajskou informaci a zjistili, že byla „zcela nepravdivá“. Jeden zdroj popsal situaci pro CNN jako něco, co „téměř vyvolalo válku“, a poznamenal, že jakákoli konfrontace s čínskou lodí by mohla uvrhnout obě země do přímého konfliktu. Skupina demokratických zákonodárců teď požaduje detailní vyšetřování, aby se taková situace už nemohla opakovat.
Co se vlastně stalo? Na základě údajů z nákladního seznamu, které přišly přes Velitelství speciálních operací USA pro Tichomoří na Havaji, zadal analytik dotaz do chatbota. Není jasné, jestli se jednalo o komerční platformu, nebo nějaký vládní systém. V principu je to ale jedno, protože armádní systémy jsou velmi podobné těm civilním.
Tento nástroj čerpal jak z veřejně dostupných informací, tak z utajených zpravodajských údajů. Na jejich základě vydedukoval zprávu o lodi naložené jaderným materiálem. Analytik pak využil další AI, pomocí níž formuloval zprávu ve formátu používaném v armádě. Dokument měl sice správnou formu, jeho obsah byl ale nesmyslný. A putoval na vyšší místa.
Data a zase data
Americká armáda přesto neuvažuje o tom, že by využívání AI omezila. Vlastní strategii pro využití umělých inteligencí vydal letos v lednu ministr obrany Pete Hegseth a jejím cílem je urychlit využívání umělé inteligence v armádě.
„Podpoříme experimentování, odstraníme byrokratické překážky, zacílíme naše investice a předvedeme přístup k realizaci, který je nezbytný k zajištění našeho vedoucího postavení v oblasti vojenské umělé inteligence,“ uvedl Hegseth v projevu, v němž tuto strategii představil.
Cílem rozšířit technologii AI v celé armádě, experimentovat s ní, a hlavně dostat umělou inteligenci do rukou všech tří milionů amerických vojáků. Hegseth v memorandu zdůraznil, že „zásadní je rychle odhalovat a odstraňovat byrokratické překážky bránící hlubší integraci, které jsou pozůstatky zastaralých informačních technologií a způsobů vedení války.“
Podle vyjádření z armády, která získala CNN, je ale tato snaha v současné době poněkud chaotická, respektive decentralizovaná. Různé složky armády využívají různé nástroje, neexistuje ani jednotný přístup k tomu, jak s nimi pracovat.
Klíčové slovo: cílení
Neexistují zatím důkazy o tom, že by USA využívaly AI tak, že by samy umělé inteligence útočily a zabíjely. Podobná podezření existují ohledně Ruska, kde o tom existují i poměrně spolehlivé důkazy. Američané ale používají nelidské inteligence k něčemu jinému, kde paradoxně může špatná práce s AI způsobit ještě větší škody. Tato činnost se označuje jako targeting neboli cílení.
Je to proces, ve kterém armáda rozhoduje, na jaký cíl se zaměřit, ale také proč vlastně, kdy, jakými prostředky a s jakým očekávaným výsledkem. Nejde tedy jenom o pouhé zaměření v technickém smyslu. Cílení zahrnuje například i získání informací o protivníkovi, identifikaci a ověření cíle, posouzení jeho vojenského významu, výběr vhodného prostředku a následné vyhodnocení výsledku útoku. A také samozřejmě ověření, je-li takový útok legální.
Jedná se tedy o propojení několika funkcí: zpravodajství a průzkumu, identifikace cíle, rozhodnutí, přidělení prostředků, samotný útok a nakonec vyhodnocení účinku. Například satelit, dron nebo radar může odhalit aktivitu nepřítele; analytici následně vyhodnotí, jestli se jedná o relevantní vojenský cíl. Velitelství pak může rozhodnout, jestli a jak proti němu zasáhnout – například leteckým úderem, dělostřelectvem, dronem nebo jiným prostředkem. A také co tím získá.
Tento proces je nesmírně složitý už jen proto, kolik expertů a složek se do něj zapojuje. V moderní době zásadně pomohly počítače, ale technologie umělé inteligence do něj vnesla revoluci. V souvislosti s AI je cílení zajímavé především proto, že AI může zasahovat do mnoha částí tohoto řetězce – například automaticky prohledávat obrazová data ze satelitů a dronů, označovat potenciální cíle, spojovat informace z různých senzorů nebo pomáhat předpovídat pohyb protivníka. Umělá inteligence ale sama nerozhoduje o útoku, to stále dělá člověk.
Tlak na bleskové rozhodnutí a důvěra v AI
Další kauza, která vyšla na světlo, ale ukazuje, že i v armádě dochází k podobnému jevu spojenému s AI, který dobře znají například univerzity, které se s ním setkávají u studentů – vojáci příliš věří strojům.
Přesně to se stalo při dalším velkém americkém selhání, jehož příčina vyšla najevo až nyní v září, byť samotný incident se odehrál už 28. února 2026. První den války proti Íránu zasáhli Američané školu Shajareh Tayyebeh v íránském Minábu, přičemž zemřelo asi 180 lidí, většina z nich byli žáci a žačky této školy.
První náznaky ukazovaly na to, že operátor špatně pracoval s umělou inteligencí Claude, nyní se podle informací britského deníku Guardian ale ukazuje, že viníkem byla jiná AI, specializovaný systém Maven od společnosti Palantir. O té se spekuluje také u případu incidentu s čínskou lodí, ale chybí pro to důkazy.
Tento systém, který vzniká už od roku 2017, funguje právě v cílení. Propojuje satelitní snímky, informace ze zpravodajství a další data a pomáhá s identifikací a sledováním cílů. Smyslem původního projektu bylo především to, aby stroj zpracoval obrovské množství dat a člověk se mohl soustředit na jejich interpretaci a rozhodování.
Deník Financial Times v rozsáhlé reportáži informoval o tom, že americká armáda je nyní díky tomuto systému schopná určovat a vyhodnocovat cíle tak rychle, že je nutné schvalovat je každých 3,6 sekundy – a lidé, kteří mají tato rozhodnutí ověřovat, nejsou schopní s tímto tempem držet krok. Údaj pochází ze série cvičení „Scarlet Dragon“, v němž dvacet vojáků z 18. výsadkového sboru pomocí systému Maven zvládlo pracovní zátěž spojenou s určováním cílů, za kterou během invaze do Iráku v roce 2003 zodpovídaly dva tisíce expertů.
V tomto případě ale udělal stroj fatální chybu. Unikla mu informace o tom, že škola se kolem roku 2016 oddělila od nedalekého objektu Íránských revolučních gard, AI ji ale považovala stále za její součást, takže jí útok na vojenskou budovu připadal jako správný.
Experti hovoří o „charismatu AI“. Kolem umělých inteligencí je totiž v poslední době takový rozruch, že lidé mají tendenci jejich schopnostem nadměrně věřit a neověřovat je. Proč by měl člověk ověřovat něco, co je schopnější než on, může znít úvaha. A přesně to v tomto případě pravděpodobně udělal lidský operátor – na satelitních snímcích si neověřil, zda má AI pravdu.
Vyšetřovací komise OSN pro Írán v září konstatovala, že útok představuje válečný zločin.
