Umělé inteligence (AI) představují podle kalifornského experta Stuarta Russella zásadní bezpečnostní riziko v mnoha oblastech. Vědec před nimi varoval na konferenci v Indii, kde tato technologie může velmi rychle zlikvidovat miliony pracovních míst.
Šéfové technologických společností jsou zapojeni do „závodu ve zbrojení“ v oblasti umělé inteligence, který může vést v nejhorším výsledku až k vyhlazení lidstva, řekl agentuře AFP Russell, který vede na Kalifornské univerzitě v Berkeley výzkum AI.
Šéfové největších světových společností zabývajících se AI si podle něj dobře uvědomují nebezpečí, které představují superinteligentní systémy, které by jednoho dne mohly převálcovat lidstvo – ale nic proti tomu nedělají, respektive jejich aktivita je zcela nedostatečná, dodává. Podle Russella leží odpovědnost za záchranu lidstva na světových lídrech, kteří jediní mohou podniknout kolektivní kroky.
„To, že vlády umožňují soukromým subjektům v podstatě hrát ruskou ruletu s každým jedním člověkem na Zemi, je podle mého názoru naprostým zanedbáním jejich povinností,“ řekl Russell.
Svět propadl AI
Země i soukromé společnosti v současné době utrácejí stovky miliard dolarů na budování energeticky náročných datových center, kde se učí a provozují generativní nástroje umělé inteligence. Rychle se rozvíjející technologie AI slibuje výhody, jako je objevování nových léků, ale současně by mohla vést k masové ztrátě pracovních míst, mohla by usnadnit totalitním režimům sledovat své odpůrce a hrozí i další zneužívání on-line prostoru. A to je podle Russella jen začátek.
Existuje totiž riziko, že „AI systémy převezmou kontrolu a lidská civilizace se stane vedlejší obětí tohoto procesu“, uvedl Russell v rozhovoru na konferenci AI Impact Summit v Novém Dillí. „Věřím, že všichni generální ředitelé hlavních AI společností chtějí odzbrojit, ale nemohou to udělat jednostranně, protože by je investoři vyhodili,“ řekl.
„Někteří z nich už to řekli veřejně a jiní mi to řekli soukromě mezi čtyřma očima,“ dodal s tím, že i šéf společnosti OpenAI, která vyvinula ChatGPT, Sam Altman veřejně prohlásil, že AI by mohla vést k vyhynutí lidstva. Problém prý je, že tlak investorů je tak velký, že jakmile kdokoliv tyto hrozby zmíní nahlas, nemá v oboru moc šancí. Společnosti OpenAI i její konkurent, americký start-up Anthropic, už zaznamenaly celou řadu veřejných rezignací zaměstnanců, kteří se otevřeně vyjádřili o svých etických obavách.
A ani to není poslední z mnoha rizik, jež jsou podle Russella s AI spojená. Anthropic totiž například minulý týden varoval, že jeho nejnovější modely chatbotů by mohly být „vědomě využívány – v malém měřítku – k podpoře vývoje chemických zbraní a dalších ohavných zločinů“.
Zaměstnanci, nebo AI
Mezinárodní setkání, jako summit v Indii o umělé inteligenci, podle něj poskytují příležitost k regulaci, i když jeho tři předchozí ročníky vedly jen k dobrovolným dohodám technologických společností. Indie doufá, že pětidenní summit o umělé inteligenci, kterého se tento týden účastní šéfové technologických společností a desítky vysokých národních delegací, jí pomůže v tomto odvětví se posunout vpřed.
Indický ministr pro informační technologie Ashwini Vaishnaw v úterý uvedl, že země očekává v příštích dvou letech investice do umělé inteligence ve výši více než 200 miliard dolarů, z toho zhruba 90 miliard dolarů již bylo přislíbeno.
Obavy, že nástroje umělé inteligence by mohly vést k hromadnému propouštění v největších odvětvích zákaznických služeb a technické podpory v Indii, způsobily v posledních dnech propad akcií outsourcingových firem v zemi.
Tento druh pracovních míst v Indii je zralý na nahrazení umělou inteligencí, potvrdil Russell. „Vytváříme napodobitele člověka. A tak je samozřejmě přirozeným uplatněním tohoto typu systému nahrazování lidí.“ Vloni varoval, že některé státy už analyzují i scénáře, ve kterých se bude nezaměstnanost pohybovat kolem osmdesáti procent.
Russell vnímá, že veřejnost se začíná od AI v mnoha ohledech odvracet nebo na ni hledí s rostoucím odporem, rozšířené je to „zejména mezi mladšími lidmi“. „Ve skutečnosti se brání dehumanizujícím aspektům AI,“ doplnil. To, že umělé inteligence na sebe přebírají tolik lidských vlastností, podle něj může řadě lidí snižovat jejich vlastní hodnotu a lidskost. „Mladí lidé to nechtějí,“ uzavírá.
