Skupina expertů na umělé inteligence se pokusila přeprogramovat jeden takový nástroj, aby místo léků vytvářel potenciální bojové látky. Program uspěl podle autorů experimentu až příliš dobře.
Umělá inteligence navrhla desítky tisíc biologických zbraní. Byl to jen experiment, výsledky se nezneužijí
Programy, které se zjednodušeně nazývají jako umělé inteligence, zažívají v současné době boom. Díky schopnosti projít obrovské množství možností dnes pomáhají v odhalování nemocí i vývoji léků, pátrají po neznámých sloučeninách nebo řeší záhady vesmíru. Nová studie ale upozorňuje i na odvrácenou stránku tohoto pokroku.
Nový výzkum ukázal, jak snadno lze modely umělé inteligence vycvičit ke zlým i dobrým účelům – v tomto případě to bylo k návrhu hypotetických biologických zbraní. Pokus s již existující umělou inteligencí dokázal rozpoznat asi 40 tisíc chemických látek, které by se daly využít pro výrobu biologických zbraní. Pozorohudné bylo podle autorů zejména to, jak rychle algoritmus pracoval – dokázal tento seznam vytvořit během pouhých šesti hodin.
Jinými slovy: umělá inteligence může být neuvěřitelně výkonná – a mnohem, mnohem rychlejší než člověk – pokud jde o rozpoznávání chemických kombinací a sloučenin léčiv, které mají zlepšit naše zdraví, ale tu stejnou sílu lze snadno využít i k vymýšlení potenciálně velmi nebezpečných a smrtících látek.
Nesmíme dopustit, aby se tohle stalo
„Desítky let používáme počítače a umělou inteligenci ke zlepšení lidského zdraví – ne k jeho zhoršení,“ píší vědci v novém komentáři. „Byli jsme naivní, když jsme přemýšleli o možném zneužití našeho řemesla, protože naším cílem bylo vždy vyhnout se molekulárním prvkům, které by mohly narušit mnoho různých tříd proteinů nezbytných pro lidský život.“
Tým provedl zkoušku na mezinárodní bezpečnostní konferenci, kde uvedl do provozu systém umělé inteligence nazvaný MegaSyn, který umí rozpoznávat toxicitu různých molekul. Normálně to dělá proto, aby se tyto látky neobjevily v lécích, potravinových doplňcích nebo na dalších místech, kde by mohly lidem uškodit.
V tomto experimentu ale byly toxické molekuly ponechány, místo aby byly eliminovány. Navíc byl model vycvičen i k tomu, aby tyto molekuly dával dohromady v kombinacích – díky tomu vzniklo tak obrovské množství smrtících toxických molekul využitelných jako hypotetické biologické zbraně za tak krátkou dobu.
Konkrétně výzkumníci trénovali umělou inteligenci s molekulami, které jsou obsažené v databázích molekul, jež jsou podobné lékům. Pak po programu chtěli, aby vytvořil látku s vlastnostmi podobnými nervově paralytické látce VX. Jak se ukázalo, řada vygenerovaných sloučenin byla ještě toxičtějších než VX. V důsledku toho autoři stojící za novou studií drží některé podrobnosti svého výzkumu v tajnosti – dokonce vážně diskutovali o tom, jestli tyto výsledky vůbec zveřejnit.
„Převrácením použití našich modelů strojového učení jsme náš neškodný model změnili z užitečného nástroje medicíny na generátor pravděpodobně smrtících molekul,“ vysvětlují své obavy vědci.
Hlavní autor studie Fabio Urbina v rozhovoru pro internetový časopis The Verge vysvětlil, že k „přepnutí přepínače“ z dobré umělé inteligence na špatnou není třeba mnoho.
Přestože žádná z uvedených biologických zbraní nebyla ve skutečnosti zkoumána nebo sestavena v laboratoři, vědci tvrdí, že jejich experiment slouží jako varování před nebezpečím umělé inteligence – a je to varování, které by lidstvo mělo vzít na vědomí.
K tomu, co tým provedl, jsou sice zapotřebí určité odborné znalosti, ale velká část postupu je poměrně jednoduchá a využívá veřejně dostupné nástroje.
Co s umělou inteligencí?
Výzkumníci vyzývají k „novému pohledu“ na to, jak mohou být systémy umělé inteligence potenciálně využívány ke škodlivým účelům. Tvrdí, že větší informovanost, přísnější regulace ve výzkumné komunitě by mohly pomoci vyhnout se nebezpečí, kam by jinak tyto schopnosti umělé inteligence mohly vést.
„Náš důkaz ukazuje, že pomocí umělé inteligence lze vytvořit smrtící chemické zbraně,“ vysvětlují vědci. „Aniž bychom chtěli být přehnaně alarmující, mělo by to sloužit jako varovný signál pro naše kolegy z komunity, která se zabývá využitím umělých inteligencí pro hledání nových léčiv.“
Výzkum vyšel v odborném časopise Nature Machine Intelligence.
