Vatikán vydal dokument o vztahu umělé a lidské inteligence, v němž zdůraznil, že umělá inteligence (AI) by se měla používat pouze jako doplňkový nástroj té lidské, eticky a zodpovědně, mimo jiné proto, aby se člověk nestal „otrokem svého vlastní díla“. Podle Vatikánu má AI sice pozitivní potenciál, může ale také vést k prohloubení sociálních nerovností či k izolaci v mezilidských vztazích. Dokument, který tento měsíc schválil papež František, také varuje před zneužitím AI mocnými korporacemi.
Vatikán varuje před AI a koncentrací moci
„Je to dokument, který nám říká: možná je čas klást si otázky, než začneme dávat odpovědi,“ komentoval nový dokument Paolo Benanti z Gregoriánské univerzity. „Čím více si klademe otázky o stroji schopném nahradit část lidského rozhodování, tím více si nevyhnutelně klademe otázky o samotné identitě lidské bytosti,“ doplnil.
Dokument varuje nejen před samotnými stroji schopnými myslet, ale také před tím, kdo je ovládá. „Koncentrace moci nad mainstreamovými aplikacemi umělé inteligence v rukou několika mocných společností vyvolává značné etické obavy a hrozí, že by AI mohla být zneužita pro osobní nebo firemní zisk či pro zmanipulování veřejného mínění ve prospěch konkrétního odvětví,“ píše se v dokumentu nazvaném Antiqua et Nova, s odkazem na starověkou a novou moudrost.
Sociální sítě také měly potenciál, připomíná Vatikán
Vatikán v textu také vyjadřuje obavy z dezinformací a falešných zpráv. „Ti, kdož vytvářejí či sdílejí obsah generovaný umělou inteligencí, by měli vždy pečlivě ověřovat pravdivost toho, co šíří, a ve všech případech by se měli vyvarovat sdílení slov a obrázků, které ponižují lidské bytosti, podporují nenávist a nesnášenlivost či znehodnocují dobro a intimitu lidské sexuality nebo využívají slabé a zranitelné,“ uvádí se v dokumentu.
Ačkoli má podle Vatikánu AI široký potenciál pro dobro, přináší také mnoho etických problémů a rizik v různých oblastech, například ve vzdělávání, mezinárodních a mezilidských vztazích či pro životní prostředí. Co se týče mezilidských vztahů, může „přivést lidi k hluboké a melancholické nespokojenosti“ nebo „ke škodlivé izolaci“. V této souvislosti dokument zmiňuje zvláštní rizika pro děti, v jejichž myslích může AI pro mezilidské vztahy vytvořit utilitární interakčních vzorce, jaké jsou u chatbotů, domnívá se Vatikán.
O výhodách a rizicích AI hovořil papež František také loni v červnu na summitu skupiny ekonomicky vyspělých zemí G7 v italské Apulii, kde mimo jiné varoval, že umělá inteligence může přispět k růstu nerovností mezi zeměmi i uvnitř společností. Tehdy také vyzval k zákazu autonomních smrtících zbrojních systémů, které jsou schopny identifikovat a zasáhnout cíle bez přímého lidského přičinění.
„Řekl bych, že je v tom určitý varovný prvek. Mnozí z nás na počátku sociálních médií velmi rychle přijali jejich mimořádný potenciál. Neviděli jsme nutně vedlejší účinky, které se objevily, pokud jde o polarizaci, falešné zprávy a další problémy,“ komentoval dokument Paul Tighe, sekretář Dikasteria pro kulturu a vzdělávání, které se na textu podílelo.
„Chceme přijmout něco, co má pro člověka velký potenciál. Chceme tento potenciál vidět a zároveň být pozorní k možným negativním stránkám. Myslím, že právě o to se zde snažíme. Jednoho dne si v novinách přečtete titulky, že umělá inteligence bude spásou nás všech. Druhý den čteme, že to bude zkáza a konec světa,“ doplnil s tím, že Vatikán se snaží lidem nabídnout vyváženější přístup. „Dokument se zaměřuje na řadu věcí. Jsou zde hlavní otázky, o kterých každý přemýšlel: otázky týkající se budoucnosti práce, války, deep fakes, nerovnosti. A jsou zde etické a společenské otázky, kterými se chceme zabývat.“
