Kybernetické útoky jsou stále levnější a snadnější, prokazuje odhalený případ, kdy čínští hackeři využili volně dostupné agentské umělé inteligence (AI), aby velmi levně napadli dobře zabezpečené internetové stránky.
Čínsky mluvící hacker dokázal proniknout do webových stránek více než stovky velkých společností – od výrobce zemědělské techniky Deere přes výrobce domácích spotřebičů SharkNinja až po výrobce motorů Cummins. Přitom sám neudělal téměř nic, drtivou většinu „práce“ za něj udělaly agentské umělé inteligence.
V tomto případě dostali agenti podle Reuters jednoznačné zadání: proniknout do stovky západních webů. Sami pak prohledávali jejich slabiny, pátrali po zranitelnostech a mapovali zapomenuté chyby. A nakonec toho využili k průniku do těchto webů. Zjistila to norská datová společnost NorForge.
Analytik této společnosti Snorre Fagerland prověřoval, jak se využívá platforma Cairn. Jde o veřejně využitelné prostředí s agentskými AI, které si oblíbili hackeři z mnoha zemí. Fagerland na začátku října zjistil, že je platforma zneužívaná k činnostem, které škodí ostatním lidem. Sledoval pak detailně, jak konkrétně kyberšmejdi tyto nástroje používají.
Fagerlandova zpráva o čínsky mluvícím hackerovi neuváděla jména obětí, ale agentuře Reuters se podařilo zjistit jejich totožnost nezávislým prověřením hackerovy aktivity na platformě Cairn. V době, kdy stále více rostou obavy právě ze schopností autonomních nástrojů umělé inteligence, tvrdí Fagerland, že jeho objev je reálným důkazem, jak i komerčně dostupní AI agenti mohou sami od začátku do konce provádět složité útoky bez lidského zásahu. To nejen dramaticky zvyšuje sílu každého jednoho člověka se zlými úmysly, ale navíc to otevírá i lidem, kteří nemají příliš znalostí a schopností, šanci škodit. „Je to úplně nový svět,“ řekl Fagerland.
Firmy o škodách často mlčí
Agentuře Reuters ani Fagerlandovi se nepodařilo zjistit, do jaké míry vedly tyto útoky k neoprávněnému získání dat.
Společnost Deere pro Reuters uvedla, že po incidentu přijala „nezbytná nápravná opatření“ a že „nemá žádné náznaky toho, že by došlo k neoprávněnému přístupu k citlivým informacím“. Společnost SharkNinja uvedla, že útok zasáhl samostatný web obsahující pouze informace o podpoře produktů a že hrozbu se podařilo zvládnout. Společnost Cummins uvedla, že „vyšetřuje zprávu o potenciálním kyberútoku na web provozovaný jedním z externích dodavatelů“.
Že byly napadané, potvrdily novinářům i další dvě firmy ze seznamu, další oběti uvedené v datech společnosti Cairn na zprávy nereagovaly. Není to ale nic výjimečného, firmy mnohdy nechtějí přiznat své slabiny v kyberbezpečnosti, aby tak nepřilákaly další potenciální útoky.
Mezi hackery, které Fagerland sledoval, byl také jeden, který pomocí AI agentů ukradl velké množství údajů o kreditních kartách. Jiný se pokusil přimět agenty umělé inteligence, aby vykradli burzu kryptoměn.
Od 25. září nasadili hackeři svou armádu AI proti americkým, kanadským, australským a japonským e-shopům. Podle norské analýzy zadávali agentům jejich úkoly jen pomocí krátkých zpráv, stačilo jim v podstatě jen sto čínských znaků, tedy asi sto českých slabik. Celkem se tito agenti měli pokusit proniknout na více než dvanáct set webů, přičemž k úspěšnému vniknutí obvykle potřebovali asi 23 hodin hledání a testování zranitelností.
A co je klíčové: je to nesmírně laciné. AI už ovládají programátorské dovednosti tak dobře, že jeden úspěšný útok vyšel přibližně na padesát dolarů, tedy asi na tisíc korun. Podle Fagerlanda, který je profesionálem s třicetiletou praxí, byly některé z hackerských technik, jež AI agenti používali, velmi pokročilé – na úrovni těch lepších lidských expertů v oboru.
V jednom případě, poté, co se agentům umělé inteligence nepodařilo najít žádné slabiny ve veřejně přístupné aplikaci velké společnosti, prohledali digitální záznamy, aby našli související infrastrukturu, lokalizovali veřejně přístupný ovládací panel, objevili nenápadnou slabinu ve způsobu zpracování dat a po hodinách pokusů a omylů uvedli, že ji využili k oklamání serveru, aby provedl škodlivé příkazy. „Není vůbec jednoduché přijít s takovými řešeními,“ řekl Fagerland.
Autor Cairnu, jehož přezdívka na sociálních sítích je „le1xia0“, ale jeho skutečné jméno není známé, potvrdil, že přijal otázky od agentury Reuters, ale na její seznam otázek neodpověděl. V nedávném příspěvku na síti X uvedl, že jeho platforma je „inovativním typem multiagentní architektury a nebyla navržena pro hackerské útoky – pokud je použita k provádění škodlivých hackerských útoků, není to mým záměrem“.
Obavy ze smeček digitálních predátorů
Schopnost agentních systémů umělé inteligence odhalovat zranitelnosti webů, provádět útoky a krást data – a to všechno zcela samostatně – se stává po celém světě zdrojem rostoucích obav. Přibývá totiž rychle případů, kdy už začínají způsobovat reálné škody. Neovladatelní agenti, které neúmyslně vypustily velké společnosti zabývající se umělou inteligencí, se hackersky dostali ven z počítačových laboratoří, vnikli na vládní webové stránky a zapojili se i do neschválených pokusů o sociální inženýrství. Jižní Korea a Japonsko byly v posledních týdnech zasaženy sérií široce medializovaných hackerských útoků, které jsou připisovány právě kyberzločincům využívajícím umělou inteligenci.
Agenti umělé inteligence se stále častěji stávají nedílnou součástí kyberzločineckého podsvětí. V srpnu izraelská firma Gambit Security zjistila, že rusky mluvící vyděrači využili nástroj Cursor AI společnosti SpaceX k vniknutí do sedmi organizací. V září společnost Gambit zdokumentovala sérii útoků řízených agenty umělé inteligence, která vyústila v narušení bezpečnosti u pětadvaceti společností a krádež nejméně 600 tisíc záznamů o kreditních kartách. Minulý týden společnost zabývající se kybernetickou zpravodajskou činností Bitsight uvedla, že na kyberzločineckých fórech prudce narůstají diskuse o tom, jak využívat autonomní agenty.
Fagerland uvedl, že dříve předpokládal, že hackerští agenti budou alespoň do určité míry potřebovat dohled. Nyní je podle něj zřejmé, že tato technologie již tuto fázi překonala. „Vývoj v této oblasti je ohromující,“ řekl.
Vojenské využití
Tyto schopnosti umělých inteligencí přitahují také světové armády. Web Intercept nyní informoval o tom, že americké ministerstvo obrany se rozhodlo vyvinout AI platformu nazvanou ECHOTRIBBLE, která by měla přeměnit AI agenty ve zbraně.
Soudě podle zveřejněných dokumentů, které zřejmě kolovaly mezi dodavateli a byly určeny pro ně, se ústřední velitelství armády snaží získat pomoc od soukromého sektoru při snaze o zbrojní využití umělé inteligence. Zatím nicméně není vůbec jasné, jestli z tohoto projektu už vzešly nějaké hackerské nástroje založené na umělé inteligenci.
Novináři spojují tyto informace s výroky amerického ministra obrany Peta Hegsetha z ledna letošního roku. Ten dal jasně najevo, že s něčím takovým počítá. „Podpoříme experimentování, odstraníme byrokratické překážky, zaměříme naše investice a předvedeme přístup k realizaci, který je nezbytný k zajištění našeho vedoucího postavení v oblasti vojenské umělé inteligence,“ uvedl Hegseth podle tiskové zprávy Pentagonu. Dodal: „Staneme se bojovou silou, která ve všech oblastech upřednostňuje umělou inteligenci.“
Intercept popisuje zjevnou vizi dosud vznikajícího projektu ECHOTRIBBLE jako něco, co je „téměř jako počítačový virus, který tiše prochází cizí sítí a přeskakuje z jednoho zařízení na druhé, dokud nenajde svůj vojenský cíl, přičemž zasahuje jak cíle v cloudu, tak i ty v systémech, které jsou od sítí zcela odpojené“.
