Prodejci chemických látek po celém světě moc dobře vědí, jaká rizika by se mohla ukrývat v látkách, které dodávají. Mají proto desítky let nastavené mechanismy, jež slouží k tomu, aby si nemohli „padouši“ objednat například nějakou smrtící biologicko-chemickou zbraň. Teď ale tyto bariéry kvůli vlivu umělých inteligencí padají, ukázalo cvičení biotechnologických expertů, o kterém informoval časopis Science.
Když se prodávají sekvence DNA, prodejci využívají komerčně dostupné programy, které tyto struktury DNA detailně prohledávají kvůli podezřelým stopám, jež by mohly způsobit nějaké škody. Co na tuto hradbu narazí, neprojde.
Tým vědců vedených Bioinženýrem Brucem Wittmannem, který pracuje pro společnost Microsoft, teď ale zjistil, že těmito hradbami zcela bez problémů projede trojský kůň vytvořený umělou inteligencí (AI). Když totiž vědci vytvořili návrhy nebezpečných sekvencí podobných opravdovým jedům pomocí AI, většinou to prošlo kontrolou stejně snadno jako Odysseův dar hradbami Tróji.
Všechny tyto návrhy přitom popisovaly plány proteinů, které by mohly napodobovat smrtící jedy a toxiny, jako je ricin nebo botulotoxin. Tedy toxiny, které by se daly velmi snadno zneužít bioteroristy.
Jeden z nejpoužívanějších nástrojů například přehlédl více než 75 procent potenciálních toxinů. Vědci, kteří tento experiment provedli, ho samozřejmě nejenže nezneužili, ale výsledky drželi utajené. Vydali je teprve nyní, na podzim 2025, až když výrobci softwaru programy vylepšili a aktualizovali. Ani nyní s odstupem ale vědci z bezpečnostních důvodů nezveřejnili všechny informace o svém pokusu.
„Je to teprve začátek,“ upozorňuje pro Science Jaime Yassifová z Nuclear Thread Initiative. „Schopnosti umělé inteligence se budou vyvíjet a budou schopny navrhovat stále složitější živé systémy. Naše schopnosti screeningu syntézy DNA se budou muset dále vyvíjet, aby s tím držely krok,“ dodala.
