Americká technologická společnost Anthropic odhalila a zmařila několik pokusů o využití svých modelů umělé inteligence (AI) k vývoji biologických zbraní. Firma to uvedla ve 154stránkové zprávě, v níž představuje nejzávažnější incidenty z letošního roku, kdy byly její modely Claude zneužity nebo se o zneužití někdo pokoušel.
V uplynulém roce týmy Anthropiku také podle zprávy prošetřovaly a zmařily činnost řady aktérů, kteří využívali systémy Claude k vývoji softwaru pro návrh a vývoj zbraní nebo k podpoře sběru zpravodajských informací a zásobování, na nichž jsou zbrojní programy závislé.
Zpráva se podrobněji zabývá šesti případy vojenského využití, z toho třemi v Číně, dvěma v Rusku a jedním v Jemenu. Mimo jiné se prý Anthropiku podařilo zmařit ruskou operaci usilující o vývoj autonomního roje vojenských dronů. Podle dokumentu modely Claude využívali mimo jiné aktéři spojení s kybernetickou špionážní kampaní vedenou z Ruska nebo jistá íránská propagandistická instituce.
Zpráva dále popsala pět případových studií, v nichž aktéři využívali modely „způsobem, který by mohl podporovat vývoj biologických zbraní“. Zneužití v biologické oblasti je podle firmy jedním z nejzávažnějších rizik pokročilých modelů AI. Bez správných bezpečnostních opatření by takové schopnosti mohly mít katastrofální důsledky, upozornili autoři zprávy.
V rámci vlivových operací byla AI využívána k plánování celých kampaní
Dokument také popisuje devět vlivových operací vedených z Ruska, Íránu, Turecka, zemí Perského zálivu, jižní Asie, Afriky a Evropy, jejichž cílem bylo publikum na šesti kontinentech. Aktéři v tomto případě nevyužívali AI pouze k vygenerování konkrétních článků, ale k plánování celých kampaní, generování veškerého obsahu i ke spravování falešných profilů a dezinformačních webů. Obsah se objevil i v médiích spojených s ruskou vládou, jako Sputnik Moldova, RIA Novosti, Sputnik en Español, Sputnik Africa či RT.
Podle serveru BBC zjištění uvedená v této zprávě představují nejnovější z rostoucí řady varování ze strany výzkumníků AI a odborníků z oboru ohledně potenciálních rizik této technologie pro lidstvo. Varování vyvolala výzvy k přijetí opatření, přičemž americký senátor Bernie Sanders požaduje pozastavení vývoje pokročilé AI a zákaz takzvané umělé superinteligence, což je název pro hypotetické systémy AI, které by intelektuálně překonávaly lidskou inteligenci, včetně těch nejnadanějších jedinců. Americký prezident Donald Trump naopak podobné hlasy odmítá.
Výzkumník společnosti Anthropic Jacob Coxon tento týden oznámil, že odchází z firmy i oboru kvůli obavám, že Anthropic a jeho konkurenti příliš rychle vyvíjejí systémy schopné samostatného zdokonalování, které by se podle něj mohly vymknout lidské kontrole.
Koncem července více než tisíc zaměstnanců ze všech významných společností zabývajících se umělou inteligencí podepsalo petici, v níž požadují zavedení mechanismu zpomalujícího tempo vývoje AI.
Společnost Anthropic založila v roce 2021 skupina manažerů a výzkumníků, kteří odešli z firmy OpenAI kvůli obavám o její další směřování. Anthropic je nejznámější svou řadou modelů umělé inteligence s názvem Claude. Společnost zaznamenává raketový růst tržeb, odhaduje, že letos by mohly činit až 47 miliard dolarů oproti zhruba deseti miliardám dolarů za loňský rok.
