Washington - Více než tisíc expertů podepsalo otevřený dopis, v němž varuje před hrozbami v podobě robotů-zabijáků. Mezi odborníky jsou slavná jména – třeba vědec Stephen Hawking, podnikatel Elon Musk nebo spoluzakladatel firmy Apple Steve Wozniak. Výrobu „terminátorů“ jako součást závodů ve zbrojení považují za špatný nápad.
Technologie už existuje, jen se zatím v tomto módu nepoužívá. Kupříkladu automatická střílna SGR-A1 hlídá z jihu demilitarizované pásmo se Severní Koreou. Robo-pohraničník zaměří cíl pomocí kamer nebo termovize.
„Doba 'terminátorů' už je v podstatě tady, v současné době už fungují, i když to jsou třeba nějaké technologické demonstrátory. Existují i systémy, které jsou v operačním nasazení. Naprostá většina lidí zná takzvané drony, což jsou létající poloroboti. Většina z nich je řízena ze země operátory. Málokdo ale ví, že existují podobné pozemní systémy – třeba americký TALOS či ruský Tajfun pro hlídání základen jaderných raket. Dále jde o speciální systémy, které vyvinuli v Izraeli pro střežení okolí takzvané 'zdi'. Největší hrozba je, že by tyto stroje byly nasazeny do systému rozhodování o použití jaderných zbraní,“ konstatoval zbrojní analytik Jaroslav Štefec.
O robotických zabijácích se nedávno diskutovalo na půdě OSN. Organizace v současné době zvažuje zákaz některých druhů autonomních zbraňových systémů. Úmluva o konvenčních zbraních nyní zakazuje třeba pozemní miny a tříštivé munice.
Šéfredaktor časopisu ATM Michal Zdobinský
„Třeba námořní protiraketový systém Phalanx pracuje po spuštění zcela automaticky. Myslím si, že se současnými technologiemi ale nelze zkonstruovat takovou zbraň, která by byla skutečně plně autonomní a která by dokázala rozlišit, kdo je pravým cílem a kdo je nezúčastněnou osobou.“
Také stovky odborníků se v novém prohlášení zasazují o zákaz využívání umělé inteligence (AI) vybavené zbraněmi, kterou by neovládali lidé. „Stejně jako většina chemiků a biologů nemá žádný zájem na výrobě chemických nebo biologických zbraní, většina výzkumníků v oblasti umělé inteligence nemá zájem vybudovat vraždící roboty. Nechceme tuto oblast pošpinit,“ píší experti v dopise.
Text zveřejnil Institut budoucnosti života a má být prezentován delegátům na konferenci umělé inteligence v Buenos Aires. Mezi signatáři jsou mimo jiné i profesor Noam Chomsky nebo šéf AI v Googlu Demis Hassabis. Zákaz smrtících robotických zbraní kromě nich požaduje i Amnesty International nebo Harvardova univerzita.
- „V umělé inteligenci a robotice neexistuje postup, podle kterého by se rozlišil bojovník a civilista. Nejde naprogramovat rozdíl mezi holčičkou, která na robota ukazuje zmrzlinou, a někým, kdo na něj míří zbraní,“ upozorňuje profesor umělé inteligence a robotiky Noel Sharkey.
Hawking v prosincovém rozhovoru pro BBC varoval, že by umělá inteligence mohla znamenat zkázu lidstva. „Lidé, kteří jsou omezeni pomalou biologickou evolucí, nemohou konkurovat umělé inteligenci a mohli by být nahrazeni,“ zdůraznil vědec.
Stephen Hawking
„Myslím si, že vynález umělé inteligence bude pro lidstvo koncem. Jednou si tyto stroje půjdou vlastní cestou. Samy se přetvoří ve vyšší druh. A lidé, kteří se vyvíjejí pomalu, s nimi nebudou moci soutěžit.“
Umělá inteligence přináší i výhody
Pod prohlášení připojil svůj podpis i šéf výzkumu v Microsoftu Eric Horvitz, který ale zveřejnil video, na němž se zastává ostatních oblastí výzkumu AI. „Když se podíváte, co udělaly počítače pro naši společnost, pro sociálně-ekonomickou oblast, pro zdravotnictví – bylo to neuvěřitelné. AI změní tolik věcí,“ konstatoval Horvitz. Podle něj to přináší řadu nadějí a výhod, ale zároveň obavy a spoustu otázek, které je nutné vyřešit.
