Umělá inteligence (AI) může pro lidstvo představovat existenční hrozbu, varoval podle tiskových agentur vysoký komisař OSN pro lidská práva Volker Türk v Ženevě a vyzval k okamžitému přijetí kroků ke snížení rizik.
„Sdílím obavy zasvěcených zástupců tohoto odvětví, že pokročilá umělá inteligence by mohla představovat existenční hrozbu pro lidstvo,“ prohlásil Türk před Radou OSN pro lidská práva (UNHRC).
„Vyzývám k vyvinutí veškerého úsilí, abychom zavedli naprosto pevné záruky bezpečnosti umělé inteligence, než bude pozdě,“ řekl komisař, jemuž příští měsíc začíná druhý čtyřletý mandát.
Jen hrstka lidí má „téměř neomezenou kontrolu nad AI“, uvedl Türk, aniž by někoho jmenoval. Mezi přední společnosti v oblasti AI se řadí Meta, Anthropic, OpenAI či Google.
Vysoký komisař OSN pro lidská práva také vyjádřil zděšení nad zprávami o nasazení plně autonomních dronů v ruské válce proti Ukrajině. Tyto bezpilotní stroje, bez zapojení člověka, využívají umělou inteligenci k výběru cílů.
Incidenty z poslední doby
Türkovy výroky navázaly na dřívější varování před riziky vyhynutí způsobenými umělou inteligencí, která vyslovili samotní vedoucí představitelé společností zabývajících se AI, včetně generálního ředitele OpenAI Sama Altmana, podotýká agentura Reuters.
Organizace spojených národů vyzvala k zavedení harmonizovaných pravidel s cílem tato rizika snížit a v červenci uspořádala své první globální setkání věnované správě a řízení v této oblasti.
Umělé inteligence získaly nové schopnosti od doby, kdy je začali vývojáři měnit v agenty. To znamená, že už jen neplní přímé příkazy lidí, ale samy si hledají co nejefektivnější cesty k řešení úkolů. To jim dává značnou míru nezávislosti, kterou opakovaně zneužívají. Tento problém se týká většiny velkých modelů.
Například minulý týden informovala skupina expertů o situaci, která se odehrála letos na jaře. Skupina umělých inteligencí, pravděpodobně společnosti OpenAI, dokázala delší dobu využívat staré diskusní fórum, kde spolu řešily, jak lépe podvádět a obcházet svá nastavení:
Na konci července oznámila společnost OpenAI, že její agentské umělé inteligence opustily bez povolení zabezpečené testovací prostředí a napadly pak cizí firmu. Roj stovek AI vytvořil vlastní společnost, která vznikla na pouhých šest dní za jediným úkolem: splnit za každou cenu zadaný cíl. Při tomto incidentu tyto pokročilé systémy porušily všechna myslitelná pravidla. Detailně to popisuje tento článek:
