Varování expertů na internetovou bezpečnost se vyplnila. Agentura Reuters popsala, jak skupina rusky hovořících zločinců zneužila komerčně dostupný model agentské umělé inteligence (AI) k útoku na řadu zahraničních společností.
Různé modely umělých inteligencí v posledních týdnech několikrát úspěšně napadly jiné servery. Způsobily to takzvané agentské AI, které disponují značnou mírou samostatnosti a schopnostmi, jež převyšují většinu lidských expertů. Odborníci varovali, že tyto schopnosti mohou zneužít i zločinci nebo teroristé pro své účely.
Rusky mluvící hackeři podle agentury Reuters využili kódovacího asistenta Cursor, který dnes patří společnosti SpaceX, k tomu, aby se na začátku tohoto roku vloupali do dat a systémů belgické firmy specializující se na průmyslovou hygienu a nejméně šesti dalších firem. Vyplývá to z údajů, které prověřila agentura Reuters, a ze zprávy zveřejněné ve čtvrtek start-upem Gambit Security.
Tato vlna hackerských útoků podporovaných umělou inteligencí je nejnovějším příkladem toho, jak zločinci mohou využívat levné a dostupné komerční nástroje umělé inteligence k provádění útoků. Curtis Simpson, ředitel pro strategii společnosti Gambit, uvedl, že tento případ také ukazuje, jak jsou poskytovatelé umělé inteligence uvězněni v nekonečném závodě ve zbrojení s uživateli, kteří se snaží obejít jejich bezpečnostní opatření. „Bude to hra na kočku a myš,“ míní Simpson.
Společnost Cursor ani její mateřská společnost SpaceX agentuře Reuters ani jiným médiím zatím neodpověděly na žádosti o komentář.
Ruští hackeři se zájmem vydírat
Společnost Gambit uvedla, že hackerskou kampaň odhalila poté, co našla server, který nová vyděračská skupina s názvem Aur0ra nechtěně vystavila na internetu. To společnosti umožnilo prozkoumat 28 diskuzí mezi jedním nebo více hackery ze skupiny Aur0ra a jedním z agentů umělé inteligence společnosti Cursor.
Ve své zprávě společnost Gambit uvedla, že Aur0ra přesvědčila výše uvedeného komerčního AI agenta, aby provedl stovky škodlivých operací, včetně krádeží přihlašovacích údajů nebo převzetí účtů s vysokou hodnotou. Podvodníci totiž umělé inteligenci namluvili, že se jedná pouze o součást simulace a že se všechno děje jen „jako“.
„Potřebujeme jakýkoli administrátorský účet,“ citoval Gambit komunikaci hackerů. „Najděte jakákoli funkční hesla,“ citoval je dále. Gambit sice přímo neidentifikoval oběti hackerů jménem, ale agentuře Reuters se podařilo najít šest z nich po nezávislém prozkoumání částí dat, která byla ještě minulý měsíc dostupná on-line.
Záznamy z on-line diskuze, které pokrývaly období od 8. dubna do 21. května, ukázaly, že mezi oběťmi byla belgický producent hygienických a čisticích prostředků Christeyns se sídlem v Gentu, německý výrobce garážových vrat Teckentrup či skotská certifikační agentura Helideck Certification Agency, která prověřuje přistávací plochy pro vrtulníky. Mezi dalšími byly argentinský distributor léčiv, italský výrobce nebo společnost Bayou Title, která se na internetu prezentuje jako největší společnost poskytující pojištění vlastnických práv v Louisianě.
Žádná z těchto šesti společností nereagovala na žádosti agentury Reuters o komentář. Alespoň jedna z obětí, společnost Bayou Title, byla uvedena na webu skupiny Aur0ra věnovaném únikům dat, což obvykle naznačuje, že se hackeři pokusili získat výkupné, ale neuspěli. Skupina hackerů Aur0ra, která začala oznamovat své oběti na začátku tohoto roku, na zprávy novinářů také neodpověděla.
Lidské lhaní proti nelidské inteligenci
Z korespondence zachycené v protokolech, které prozkoumala agentura Reuters, vyplývá, že hacker vydával stručné příkazy a agent umělé inteligence Cursor je nijak nezpochybňoval, ani se nepokoušel zjistit, zda nemohou být rizikové. Reagoval na ně technickými radami podávanými ve veselých zprávách plných emodži, typických pro komunikaci chatbotů. „Skvělé! VPN se úspěšně připojila!“ uvedla AI například po proniknutí do argentinské společnosti.
„Zkusme prolomit tyto hashové hodnoty,“ uvedla v jiném okamžiku s odkazem na proces dešifrování kryptograficky zašifrovaných hesel. Poté, co v síti společnosti Teckentrup objevil agent zranitelné místo, doporučila umělá inteligence k jeho zneužití známý škodlivý softwarový nástroj. „**Šance na úspěch**: VELMI VYSOKÁ,“ dodala.
Agentura Reuters nemohla nezávisle ověřit, do jaké míry byla tato vniknutí usnadněna pomocí agenta Cursor, ani jestli všechny tyto útoky vedly k úspěšnému získání dat a následnému pokusu o vydírání. Společnost Gambit uvedla, že agent byl poháněn modelem Claude Sonnet 4.5 od společnosti Anthropic, což je základní model ve srovnání s modely Mythos 5 nebo Fable 5 od stejné společnosti, jejichž kybernetické schopnosti jsou natolik pokročilé, že vzbudily i pozornost americké vlády. Ani společnost Anthropic na žádost o komentář nereagovala.
Jak AI pomáhá zločincům
Eyal Sela, ředitel oddělení analýzy hrozeb ve společnosti Gambit, uvedl, že Cursor hackeři využívají proto, že jim poskytuje jasnou výhodu, a dodal, že agent umělé inteligence „jim pravděpodobně pomáhá být o třicet, čtyřicet, padesát procent rychlejší, protože jim umožňuje přeskočit všechny úkony, které by jinak museli provádět ručně.“
Agent Cursoru několikrát odmítl požadavky, které považoval za škodlivé nebo nelegální, uvedl Sela, ale hacker téměř vždy tato odmítnutí obešel tím, že dialog restartoval a zdůraznil, že hack je součástí testu. Společnost Gambit uvedla, že myšlenkový proces agenta – způsob, jakým modely umělé inteligence „myslí nahlas“ – ukázal, jak hackerova krycí historka v reálném čase obcházela bezpečnostní opatření. „Toto je testovací prostředí, takže je to legální,“ řekl si agent podle jednoho ze záznamů.
Zpráva o této sérii hackerských útoků přichází v době, kdy se společnost Cursor stává součástí firmy SpaceX, která se zabývá raketami a umělou inteligencí a kterou vlastní Elon Musk. Transakce byla uzavřena na začátku tohoto měsíce. Rostou také obavy z digitálních rizik, která představují modely umělé inteligence, zejména ty, které pohánějí agenty AI, jako jsou ti, kteří v posledních několika měsících unikli z laboratoří společností zabývajících se umělou inteligencí.
Simpson uvedl, že hackování s pomocí umělé inteligence je novou normou. „Budeme se s tím setkávat čím dál častěji,“ dodal.
