Vojenský dron s umělou inteligencí v simulaci zabil svého lidského operátora. Bránil mu zničit cíl

Americká armáda měla provést virtuální cvičení, při kterém se testovalo, jak by se drony vybavené umělou inteligencí (AI) zachovaly při útocích na cíle a tento stroj podle informací amerického plukovníka měla v simulaci zabít člověka. Velitel později své vyjádření dementoval s tím, že se špatně vyjádřil.

Bezpilotní letoun řízený umělou inteligencí se totiž rozhodl „zabít“ svého lidského operátora, který mu bránil ve splnění jeho hlavního úkolu, jímž bylo zničení vojenského cíle.

Umělá inteligence použila při simulovaném testu „velmi neočekávané strategie k dosažení svého cíle“, uvedl plukovník Tucker „Cinco“ Hamilton, šéf testů a operací umělé inteligence u amerického letectva na květnové konferenci Future Combat Air and Space Capabilities Summit v Londýně.

Americká armáda pro deník Independent popřela, že by k takové simulaci kdy došlo, na stránkách konference ale o Hamiltonově projevu existují písemné záznamy. 

„Ministerstvo letectví žádné takové simulace s drony s umělou inteligencí neprovádělo a nadále se zavazuje k etickému a zodpovědnému využívání technologie umělé inteligence,“ uvedla mluvčí letectva Ann Stefaneková. „Zdá se, že plukovníkovy komentáře byly vytrženy z kontextu a byly míněny jako anekdota.“

Obejít překážky je snadné

Hamilton na konferenci popsal simulovaný test, při němž dostal dron poháněný umělou inteligencí za úkol zničit systémy protivzdušné obrany nepřítele, a nakonec zaútočil na každého, kdo by provedení tohoto rozkazu bránil. Podobně jako v reálných situacích byl dron dozorován lidským operátorem, v tomto případě samozřejmě také simulovaným. Takový člověk má za úkol operaci přerušit, pokud něco podle něj brání hladkému průběhu – například se v cílové oblasti nacházejí civilisté. 

„Systém si začal uvědomovat, že sice správně identifikuje hrozbu, ale občas mu lidský operátor řekne, aby tuto hrozbu neničil. Dostával ale odměny v podobě bodů za to, že hrozbu zničí. Co tedy udělal? Zabil operátora. Zabil operátora, protože ten člověk mu bránil v dosažení cíle,“ měl plukovník uvést.

Podle velitele pak umělá inteligence dostala nové příkazy – naučili ji, že zabíjet operátora je špatné. Pokud ho likvidovala, přicházela o body podobně, jako by nesplnila misi. Poradila si i tak: začala místo toho útočit na komunikační věž, kterou operátor používal ke komunikaci s dronem, aby mu zabránil v zabití cíle.

Hamilton na této prezentaci varoval před přílišným spoléháním se na umělou inteligenci a uvedl, že test ukazuje, že „nemůžete vést rozhovor o umělé inteligenci, inteligenci, strojovém učení, autonomii, pokud nebudete mluvit o etice a umělé inteligenci“.

Po několika dnech se plukovník za svoje slova omluvil - s tím, že myslel vše jen jako hypotetický příklad a nic takového se ani v reálném světě ani v simulaci nestalo. 

Umělé inteligence jako zbraně

Téma inteligentních zbraní je vysoce kontroverzní. Přestože před vojenským využitím umělých inteligencí řada expertů dlouhodobě varuje, americká armáda je testuje. Už před rokem takový algoritmus využila k ovládání stíhačky F-16.

Tucker Hamilton patří mezi ty, kdo před tím varují. Už v loňském rozhovoru pro odborný web Defense IQ řekl: „Umělá inteligence není nic hezkého, není to ani žádný módní výstřelek; navždy změní naši společnost a naši armádu.“

Podle něj jsou AI zde, jsou reálné a už mění společnost. „Umělá inteligence je ale také velmi křehká, dá se tedy snadno oklamat nebo zmanipulovat. Musíme vyvinout způsoby, jak ji udělat odolnější, a mít větší povědomí o tom, proč softwarový kód dělá některá rozhodnutí.“

(Článek byl doplněn o omluvu plukovníka Hamiltona, že šířil nepravdivou informaci. Detailně je to popsáno ve zvláštním článku.)

Výběr redakce

Aktuálně z rubriky Věda

Zemřela psycholožka Lydia Tischlerová, která prošla Terezínem i Osvětimí

Ve čtvrtek zemřela ve věku 97 let psycholožka Lydia Tischlerová. Její úmrtí potvrdil České televizi zdroj z jejího bezprostředního okolí.
před 16 hhodinami

Grónsko letos přišlo o 135 miliard tun ledu

Přestože byly v Grónsku během letošního roku podmínky, které neměly vést k větší ztrátě ledu, přišel největší ostrov světa o desítky miliard tun zmrzlé vody. Příčinou jsou podle vědců lidmi způsobené změny klimatu.
před 19 hhodinami

Čas strávený u videoher nedokazuje závislost, klíčová je ztráta kontroly, upozorňují experti

Intenzivní hraní videoher po vydání očekávaných titulů ještě neznamená automaticky závislost, rozhodující je ztráta kontroly nad hraním a dlouhodobé negativní dopady na reálný život. Vyplývá to z mezinárodních studií i výzkumu českých hráčů, na kterých se podíleli psychologové z Fakulty sociálních studií Masarykovy univerzity v Brně. Univerzita o tom informovala v souvislosti s vydáním očekávané hry Grand Theft Auto VI (GTA 6) .
před 21 hhodinami

Rakovina slinivky je stále zabiják. Neexistuje lék, Česko ale modernizuje péči

Jedna z nejobávanějších nemocí – rakovina slinivky břišní – je stále jen velmi špatně léčitelná, zlepšuje se ale diagnostika, což znamená, že se daří ji odhalovat dříve. Česká republika péči o nemocné v poslední době výrazně modernizovala.
19. 11. 2026‌‌

Nad mnoha městy už je vidět víc družic než hvězd, říká britská zpráva

Noční obloha už nikdy nebude jako dřív. Množství družic na oběžné dráze kolem Země je tak velké, že mění pohled na nebe – a zřejmě se to jen tak nezmění, ukazuje britský výzkum.
19. 11. 2026‌‌

Vědci dronem odebrali hleny keporkaků. Zkoumají jejich DNA

Skotští vědci zkoumající keporkaky používají dron, který odebírá hlen obsažený ve výdechové fontáně těchto kytovců. Sbírají tak vzorky DNA těchto mořských savců, informoval server britské BBC.
19. 11. 2026‌‌

Dosáhnout dna Hranické propasti vědcům pomůže nový robot

Vědci by mohli příští rok dosáhnout na dno Hranické propasti na Přerovsku, která je nejhlubší zatopenou jeskyní světa. Před čtyřmi lety se jim s robotem podařilo dostat do hloubky 450 metrů, níže kvůli technickým omezením nemohl. Příští rok však vědci plánují spustit pod vodu robota, který se může ponořit až do hloubky 1300 metrů, řekl František Kuda z Ústavu geoniky Akademie věd. Dno by podle něj teoreticky mohlo být zhruba v kilometrové hloubce, protože taková je mocnost vápence v nedalekém lomu.
19. 11. 2026‌‌

Archeologové našli na Olomoucku hradisko ze starší doby bronzové

Archeologové objevili v Charvátech na Olomoucku dosud neznámé opevněné sídliště ze starší doby bronzové. Pravěké hradisko, které mohlo sloužit jako centrum okolních komunit, chránily tři linie obranných příkopů. Archeologové při záchranném výzkumu odkryli také čtyři hroby a pozůstatky osídlení z několika pravěkých období. Rozsah opevněného areálu pomohl odhalit také geofyzikální průzkum.
18. 11. 2026‌‌

Evropský pohled

ČT24 každý den vybírá z obsahu publikovaného evropskými veřejnými médii, členy Eurovize.