Umělé inteligence se zlepšují ve lhaní. Může to být nebezpečné, varují experti

V italské lidové pohádce se dřevěný, ale inteligentní panáček Pinocchio vyznačoval tím, že byl velmi špatný lhář. Pokaždé, když řekl nějakou nepravdu, o něco mu povyrostl nos. Dnešní umělé inteligence takový problém nemají. Za několik posledních let dosáhly obrovského pokroku ve všech oblastech. Včetně právě lhaní, upozornila nová studie.

Analýza vědců z Massachusettského technologického institutu (MIT) popsala případy, kdy systémy umělé inteligence podváděly své lidské oponenty, dokázaly blafovat a úspěšně předstírat, že jsou lidé. Jeden zkoumaný chatbot dokonce změnil své chování během bezpečnostních testů, což podle autorů zvyšuje riziko, že AI budou umět lidi přelstít poměrně snadno.

„S tím, jak budou schopnosti systémů AI lhát stále dokonalejší, bude nebezpečí, které představují pro společnost, stále vážnější,“ komentoval výsledky zkoumání autor studie Peter Park.

Lež jako cesta k vítězství

Park se rozhodl prověřit schopnosti AI lhát poté, co se dozvěděl o tom, jak je úspěšná ve stolní hře Diplomacy. Umělá inteligence Cicero od společnosti Meta se naučila, jak v ní porazit většinu lidských soupeřů – a protože je v této dobyvatelské strategii zapotřebí umět lhát a podvádět, musela si to osvojit.

AI to dokázala, přestože byla navržená tak, aby byla „převážně čestná“ a nikdy nepodrazila své lidské spoluhráče. Jenže k vítězství to nestačilo – a tak lhala. Park a jeho kolegové prošli veřejně dostupná data o hrách Cicera proti lidem a našli v nich několik případů, kdy umělá inteligence promyšleně lhala, pletichařila s hráči proti jiným, a dokonce maskovala svou AI povahu, když se jinému hráči omlouvala za zpoždění slovy, že „telefonovala se svou přítelkyní“. „Zjistili jsme, že umělá inteligence Meta se naučila mistrovsky podvádět,“ potvrzuje Park.

Jeho tým pak popsal podobné schopnosti i u jiných systémů AI, například u programu pro poker Texas Hold 'em, který dokázal blafovat proti profesionálním lidským hráčům. V jedné studii si umělé inteligence v digitálním simulátoru dokonce „hrály na mrtvé“, aby tak oklamaly test sestavený k eliminaci systémů umělé inteligence, které se vyvinuly k rychlému replikování. Po skončení testování obnovily svou původní činnost. To je podle autorů výjimečně znepokojivé, protože to ukazuje, jak složité mohou už brzy být snahy umělé inteligence kontrolovat.

Podle Parka to může mít zásadní důsledky. „To, že se systém umělé inteligence považuje za bezpečný v testovacím prostředí, ještě neznamená, že je bezpečný i potom v ostrém provozu. Může se stát, že v testovacím prostředí jenom předstírá, že je bezpečný,“ upozornil Park.

Vědci tyto nové informace zveřejnili v odborném žurnálu Patterns. Současně v článku vyzvali vlády, aby navrhly zákony o bezpečnosti umělé inteligence, které by se věnovaly právě problému podvodů ze stran AI. Varují mimo jiné před tím, že pokud tyto systémy dokáží svou schopnost lhát ještě více zdokonalit, mohli by nad nimi lidé snadno ztratit kontrolu.


Výběr redakce

Aktuálně z rubriky Věda

Ústup očkování v USA by svědčil hlavně spalničkám, ohrozil by miliony lidí

Očkování je jednou z páteří moderní medicíny. Stačí drobné snížení proočkovanosti a dopady na společnost jsou obrovské. Vědci na základě rozsáhlého modelu pro různé scénáře popsali, jaká budoucnost čeká ohledně šíření nakažlivých nemocí Spojené státy.
před 38 mminutami

Firma Amazon vypustila první várku svých internetových družic

Společnost Amazon miliardáře Jeffa Bezose v pondělí tamního času (v noci na úterý SELČ) vypustila na oběžnou dráhu první várku družic svého projektu Kuiper, který má z vesmíru poskytovat vysokorychlostní internetové připojení po celém světě a snažit se konkurovat nyní dominantnímu Starlinku nejbohatšího muže planety Elona Muska. Informovaly o tom tiskové agentury s odkazem na živý přenos.
06:32Aktualizovánopřed 1 hhodinou

Levá, nebo pravá? Vědci zkoumali, do jaké ruky je lepší očkovat

Když lidé dostávají posilující dávku vakcíny, mnohdy si ji nenechají dát do stejné ruky jako tu první. Nový výzkum popsal, že vhodnější je očkovat do stejného místa. Výsledky by se podle autorů daly využít zejména během pandemií, během nichž je nutné očkovat v průběhu epidemické situace.
před 3 hhodinami

Do vesmíru odstartovala evropská sonda, která se zaměří na lesy

Po jedenácté hodině dopoledne odletěla do kosmu mise Evropské vesmírné agentury (ESA). Raketa Vega-C vynesla na oběžnou dráhu sondu Biomass, jejímž cílem je monitorovat biomasu na Zemi, hlavně lesy.
11:16Aktualizovánopřed 3 hhodinami

Čechoslovačky chtěly bojovat i na Západě. Vlastní armáda o ně ale nestála

I ženy chtěly bojovat – ale nezáleželo to pouze na jejich odhodlání. Pokud se Čechoslovačky chtěly zapojit do zahraničního odboje na Západě, musely se kromě svého odhodlání vybavit i silou čelit mnohým překážkám. Navzdory prvotním plánům se totiž nesměly do války zapojit v československé armádě, ale pouze v britských jednotkách jako cizinky. Více než dvě stě žen ochotných pomáhat v boji s Hitlerem přitom plnilo důležité úkoly – sloužily mimo jiné jako elektrikářky, opravářky optických přístrojů, šifrantky i baličky padáků. Ani válečné hrdinství jim ale uznání nepřineslo.
před 3 hhodinami

Všudypřítomný protein je trend, mnohdy ale klame

Všude samý protein, chce se říct při pohledu na regály obchodů. Obaly jogurtů, těstovin, sýrů, cukrovinek i nápojů lákají na proteiny, tedy bílkoviny, které zajišťují svalový růst, podílí se na imunitě, regeneraci či hormonální činnosti. Touhu po zdravé výživě však pohání i marketingové triky. „Utrácíme za něco, co ve skutečnosti nepotřebujeme,“ řekl ČT24 nutriční expert Martin Jelínek.
před 4 hhodinami

Robotická trojkolka Helhest může pomoci vojákům i záchranářům

Jmenuje se po koni, na němž jezdila vikinská bohyně smrti. Ale on sám by měl přinášet spíše život, pomoc a podporu. Řeč je o novém pokročilém autonomním systému Helhest, který vznikl na Českém vysokém učení technickém v Praze. Robot připomínající trojkolku by se měl podle jeho autorů dát využít pro průzkum, obranné operace i pátrací a záchranné mise.
před 18 hhodinami

Za tučnější pas u čtyřicátníků mohou kmenové buňky, tvrdí vědci

Se stárnutím je spojená celá řada změn, k nimž patří rostoucí objem v pase po čtyřicítce. Navzdory tomu, jak důležitý vliv má břišní tuk na zdraví, se tomuto fenoménu vědci zatím příliš nevěnovali. Teď s novým pohledem přišla studie, kterou vydal odborný časopis Science.
včera v 14:24
Načítání...