Americkým bioinženýrům se podařilo poprvé naučit pokročilý model umělé inteligence (AI), aby navrhoval viry, které by se daly využít v medicíně. Úspěch ale vyvolává i kritiku, protože podobným způsobem by se daly vytvářet také viry schopné ohrozit rostliny, zvířata i lidi.
Představte si svět, ve kterém šílenec, terorista nebo sociopat navrhne a pak vytvoří pomocí umělé inteligence smrtící virus, který způsobí pandemii. Takové vize byly zatím jen ve science fiction, ale nové výzkumy na poli AI teď ukazují, že se lidstvo k této realitě blíží.
Tento týden vyšla v odborném časopise Science recenzovaná studie, jejíž autoři popsali, jak jim umělá inteligence navrhla umělé viry. Představuje to podle nich zásadní milník, který by mohl vést ke vzniku zcela nových léčivých látek – současně ale tento rychlý pokrok vyvolává obavy z neexistence pojistek, jež by zabránily možnému zneužití této technologie.
Viry, které léčí
Obecně se viry pokládají za škodlivé, protože způsobují spoustu vážných nemocí, od chřipky přes ebolu až po covid. Medicína se ale naučila některé viry a jejich vlastnosti využívat. Jedná se o takzvané bakteriofágy, tedy viry, které napadají bakterie, a to včetně těch nebezpečných. Léčba bakteriofágy tedy umí velmi citlivě zatočit s řadou mikroorganismů, na které chemická léčiva nestačí. A právě umělé bakteriofágy teď američtí vědci pomocí AI navrhli a vytvořili.
A byli velmi úspěšní. Ukázalo se, že v laboratorních testech – samozřejmě za velmi přísných bezpečnostních opatření – tyto umělé viry dokázaly zničit bakterie E. coli, jež byly vůči přírodním bakteriofágům odolné. Bakterie se obecně stávají stále odolnějšími vůči antibiotikům, takže vědci hledají nové cesty, jak se této hrozbě postavit – a právě bakteriofágy by mohly být řešením.
Vizualizace nového viru:
Hlavním autorem výzkumu byl chemik Brian Hie ze Stanfordovy univerzity v Kalifornii. Nebyl prvním, kdo vytvořil umělý virus, na tom v principu není nic tak těžkého. Poprvé se to podařilo už před třiadvaceti lety. Viry mají totiž tak jednoduchou strukturu, že moderní genetické inženýrství je schopné je konstruovat docela snadno. „Virus je špatná zpráva zabalená do bílkoviny,“ popsal je kdysi britský biolog Peter Medawar.
Novinkou je, že už vědci nemusí vymýšlet, jak má virus vypadat – jen o to požádají umělou inteligenci, podobně jako žák základní školy chce, aby mu napsala domácí úkol. Viry pak už jen vědci podle zadání specializovaného chatbotu vyrobili v Petriho misce.
Trénink bezpečného viru
Brian Hie a jeho kolegové k návrhu nových virových genomů použili modely umělé inteligence nazvané Evo1 a Evo2. Klíčové je podotknout, že tyto AI jsou veřejně dostupné a může si je tak vyzkoušet každý. Vědci tyto modely nejprve natrénovali na genetických datech dvou milionů známých bakteriofágů. Aby zabránili možnému zneužití, úmyslně vyloučili z této „učebnice“, na které AI trénovaly, nebezpečné viry. Tedy ty, které jsou schopné napadat rostliny, zvířata nebo lidi. Tím chtěli zamezit případnému zneužití.
Když se umělá inteligence naučila rozpoznávat bakteriofágy a stala se tak expertem na jejich strukturu, navrhla několik tisícovek virů, které nikdy neexistovaly – ale mohly by.
Další krok už AI nevyžadoval. Vědci na základě svých zkušeností vybrali tři stovky podle nich nejnadějnějších virů, které pak zkusili vyrobit v laboratoři. Vložili je do bakterií, kde se pak množily. Výsledek nebyl úplně přesvědčivý, drtivá většina bakteriofágů nefungovala. Ujalo se jich jenom šestnáct, ale jejich kombinace byla smrtící. Nikoliv pro člověka nebo zvířata, ale pro dva různé kmeny bakterií E. coli.
Důležité také je, že tyto nové viry nebyly radikálně novými výtvory. Spíše se velmi podobaly už existujícím přírodním druhům a vycházely ze stejné základní biologie. AI tedy nevynalezla nic zásadně odlišného, jen vylepšila existující mechanismy – jako když v domácím úkolu opraví špatně určenou shodu přísudku s podmětem.
Udržet pod kontrolou obsah Pandořiny skříňky
Autoři výzkum považují za historickou změnu. V článku v odborném časopisu Science, kde svůj úspěch zveřejnili, napsali, že schopnost „rychle navrhovat“ genomy a přizpůsobovat je konkrétním bakteriím při současném překonávání rezistence by mohla zcela „změnit fágovou terapii“ a „rozšířit biotechnologické nástroje“.
Podobné přístupy by mohly být využity k vývoji fágů zaměřených na jiné škodlivé bakterie, jako jsou například bakterie způsobující tuberkulózu, meticilin-rezistentní Staphylococcus aureus (MRSA) a Pseudomonas aeruginosa – bakterie, která je mimo jiné jednou z hlavních příčin infekcí rezistentních vůči lékům získaných v nemocnicích.
Autoři studie jsou si vědomi i rizik, která jsou s tímto směrem výzkumu spojená. Na stejném místě totiž přiznávají, že tato práce vyvolává „důležité otázky týkající se biologické bezpečnosti, biologického zadržení a biologické ochrany“.
Vyzvali ostatní vědecké týmy, jež pracují na stejném tématu, aby „po celou dobu projektu konzultovaly odborníky na bezpečnost a ochranu“. Bakteriofágy jsou i mezi viry velmi jednoduché, takže není jasné, jestli by šel tento postup využít také u jiných virů. Vědci přesto zdůrazňují, že by se nemělo pokračovat ve výzkumu patogenů, které by mohly infikovat jakékoliv živé tvory s výjimkou bakterií. Varují zcela otevřeně: „Mohly by kódovat nové patogeny, které se nedají zastavit stávajícími protiopatřeními.“
Science vydal tuto studii s dalším doprovodným článkem, což dělá jen u zásadně důležitých nebo výjimečně kontroverzních témat. Autoři textu, kteří se na samotném výzkumu nijak nepodíleli, zdůrazňují, že právě bezpečnost bude v nadcházející éře genetického inženýrství vyvíjeného umělými inteligencemi zcela zásadním tématem. „Schopnost sestavovat virové genomy pomocí generativní umělé inteligence nyní existuje, chybí však rámec pro její bezpečné řízení,“ napsali.
Pandořina skříňka už podle nich byla otevřena, teď se bude muset vědecká obec snažit udržet její obsah pod kontrolou. Nebude to snadné, jak je vidět na mnoha dalších příkladech spojených s AI, kdy se tyto modely chovají s přibývajícími schopnostmi stále autonomněji a současně rizikově.
Jen v červenci a srpnu se odehrálo několik situací, kdy vyspělé agentské umělé inteligence společností OpenAI, Anthropic a Meta napadly jako hackeři jiné weby – velmi úspěšně, velmi vynalézavě a nečekaně různorodě. Útok na bankovní účty může vypadat nebezpečně, ale toto riziko bledne ve srovnání s autonomním vývojem smrtícího viru.
Experti varují i uklidňují
Výzkum už komentovala pro zpravodajské weby celá řada odborníků. Například expert na genetické inženýrství Tom Ellis z Imperial College v Londýně pro deník The Guardian uvedl, že tato práce je sice působivá, ale současně ukázala, jak obtížné by bylo vytvořit složitější genomy. „Toto je doslova nejmenší a nejjednodušší genom, jaký lze vytvořit,“ řekl.
Varoval před tím, kdyby stejný postup použil někdo jiný, s méně bohulibými záměry, kdo by AI učil na databázi škodlivých virů. Místo bakteriofágu by tak mohl vzniknout třeba ničitel pšenice. Podle Ellise by asi nejvíc pomohlo omezit přístup ke genetickým datům a také zavést přísná omezení na vytváření genomů, které vypadají nebezpečně. „Vlády na tom už intenzivně pracují,“ dodal.
I tak se ale s příchodem AI stává genetické inženýrství v nepovolaných rukách mnohem větší hrozbou než doposud – stejně jako celá řada dalších oborů. „Ale upřímně řečeno,“ zakončil Ellis, „hrozba plynoucí z úplného návrhu a zápisu genomu viru nebo bakterie pomocí umělé inteligence je dost přehnaná, když vezmeme v úvahu, že pouhé využití stávajících patogenů a provedení změn v jejich genomech vedoucích ke zvýšení funkčnosti je mnohem snazší a představuje mnohem větší pravděpodobnost skutečné patogenní hrozby.“
Podobně vidí situaci také Moritz Hanke z Centra pro zdravotní bezpečnost při Univerzitě Johnse Hopkinse, který se na nové studii nepodílel a vyjádřil se pro The New York Times. Ten upozornil, že vlády a vědecké organizace zavádějí ochranná opatření, která by mohla zabránit vzniku smrtelného viru, příliš pomalu – vzhledem k tomu, že věda v této oblasti postupuje mílovými kroky.
Shodou okolností americké Národní instituty zdraví představily novou směrnici zaměřenou na zastavení vysoce rizikového výzkumu v oblasti biologických věd. Tato směrnice by vědcům zakázala provádět experimenty, které by zvýšily škodlivost biologických činitelů. Problém je, že počítačový výzkum – jako je například generování virové DNA pomocí umělé inteligence – tato směrnice nezakazuje, „pokud se netýká subjektu, který vyvolává obavy“, uvedla agentura ve svém prohlášení.
