Umělá inteligence (AI) Mythos od firmy Anthropic existuje teprve dva týdny. Ale už vyvolala svými údajnými schopnostmi obavy u bankéřů i odborníků na kybernetickou bezpečnost. Teď je zvýšila informace o tom, že se k uzavřenému modelu dostali i lidé, kteří se k němu dostat neměli.
Dne 7. dubna zveřejnila americká společnost Anthropic informace o svém novém systému umělé inteligence nazvaném Mythos. Podle prvních reakcí těch, kdo ho mohli vyzkoušet, má jedinečné schopnosti zejména v odhalování chyb v programech.
Model je podle Anthropicu tak silný, že ho firma zatím nevydala veřejně, umožnila k němu přístup jen několika soukromým společnostem. Odhaluje totiž nedostatky v softwaru tak rychle a snadno, že by se dal zneužít k prolomení kybernetické bezpečnosti například bank, nemocnic nebo státních databází. Agentura Bloomberg teď informovala o tom, že přístup k této AI získala neoprávněná neznámá skupina.
Společnost Anthropic to potvrdila. „Vyšetřujeme zprávu, která uvádí neoprávněný přístup k verzi Claude Mythos Preview prostřednictvím prostředí jednoho z našich externích dodavatelů,“ uvádí se v prohlášení mluvčího společnosti Anthropic pro agenturu Bloomberg. Agentura informuje o této hrozbě velmi opatrně, ale mají to dokazovat ukázky a snímky obrazovky, které jí poslal člen skupiny odpovědné za neoprávněný přístup.
Bloomberg svůj zdroj nezveřejnil, mělo by se ale jednat o členy nejmenované skupiny, která zneužila svůj přístup pracovníků externího dodavatele společnosti Anthropic. Na získání přístupu k Mythosu využili údajně běžně využívané nástroje, se kterými se pracuje v oblasti kyberbezpečnosti. Skupina tvrdí, že nechce vyvolat chaos tím, že tuto AI zneužije, podle svého vyjádření si „s ní chce jenom pohrát“.
Tímto způsobem s Mythosem údajně pracuje už ode dne, kdy byly informace o něm zveřejněné.
Mythos považují za hrozbu i evropské banky
Oficiální přístup k této AI mají nyní jen velcí vývojáři, jako je Microsoft, a dvě americké banky. Celkem jde asi o čtyři desítky společností, jež spolupracují v projektu Glasswing. Americká asociace cenných papírů (SEC) varovala, že tento model představuje vážnou hrozbu pro bezpečnost finančních dat. Technologie by podle ní mohla být zneužita k prolomení vládní databáze Consolidated Audit Trail, což by mohlo vést k masovým krádežím identit a odhalení obchodních portfolií.
Podobně vidí situaci také německá centrální banka Bundesbank, uvedl tento týden na konferenci v Římě její prezident a člen rady guvernérů Evropské centrální banky (ECB) Joachim Nagel. „Mythos je model umělé inteligence, který podle všeho dokáže rychle identifikovat a využít bezpečnostní chyby v softwaru finančních institucí,“ sdělil. „Tento model AI se však jeví jako dvojsečná zbraň, protože by mohl být vhodný nejen ke zlepšení digitálních bezpečnostních systémů, ale také k využití jejich zranitelností pro zlovolné účely,“ dodal s tím, že všechny relevantní instituce by podle něj měly dostat přístup k technologii, aby se zabránilo narušení hospodářské soutěže.
Na konci minulého týdne oznámil mluvčí Evropské komise Thomas Regnier, že Komise vede s Anthropicem rozhovory ohledně svých modelů, včetně právě rizikového Mythosu.
Mýty o AI Mythos
Jiný pohled nabídli rakouští novináři. Za varováním před nebezpečím umělé inteligence Mythos může být promyšlená marketingová kampaň, zmiňuje ve své analýze na webu deníku Der Standard novinář Andreas Proschofsky.
Podle Proschofského mimo jiné vzniká podezření, že nový model je pro Anthropic příliš náročný na financování. Jeho provoz má totiž stát pětkrát více než jeho dosud nejvýkonnější modely. Mimo jiné si tak má společnost budovat důvěryhodnost u potenciálních zákazníků tím, že se dobrovolně vzdává potenciálního výdělku. Pasuje se tak podle novináře do role etického lídra, kterému na rozdíl od konkurence záleží na budoucnosti lidstva.
Analytik Ben Thompson přístup Anthropicu označil za „katastrofickou pornografii fungující jako marketingový nástroj“. Tvrzení firmy Anthropic zpochybnila také analýza specializované společnosti AISLE. Podle ní některé zranitelnosti, které Anthropic uvádí, bylo možné odhalit i prostřednictvím menších modelů AI speciálně vyškolenými v kybernetické bezpečnosti.
„To však nemá zpochybňovat schopnosti Mythosu, pouze se zdá, že je jejich prezentace přehnaná,“ uvedl Der Standard. „Takové nástroje AI, trénované na bezpečnostní mezery, se tak v budoucnu stanou pevnou součástí všech testů, kterými software během svého vývoje prochází,“ dodal.
