Nově vytvořená umělá inteligence, která měla reagovat na otázky věřících, musela být „zbavena kněžství“. Stroj totiž odpovídal natolik kontroverzně, že z něj jeho autoři udělali jen amatérského teologa.
Když není svěcená voda, křtěte limonádou, doporučoval AI kněz. Tvůrci mu sebrali kolárek
Odpovídá bez váhání, rychle a poučeně. A trošku divně. Americký chatbot „Otec Justin“ je specializovaná umělá inteligence, která by měla být schopná kvalitního dialogu o otázkách mezi nebem a zemí. Ale výtvor organizace Catholic Answers zaujal spíše tím, že poskytuje také reakce nesmyslné, zavádějící a mnohdy i takové, že by znepokojily i mnoho nevěřících.
Na problém s chováním chatbotu upozornili uživatelé na sociální síti X (dříve Twitter). Všimli si, že některé odpovědi diskuzního robota příliš katolické věrouce neodpovídají – například jeho doporučení, že dítě by se klidně dalo křtít limonádou.
Kdo (co) je Otec Justin
Justin vznikl v polovině letošního dubna. Je to 3D model podporovaný umělou inteligencí, který svým uživatelům poskytuje odpovědi na otázky týkající se katolické víry. Vizuálně nejprve vypadal jako asi čtyřicetiletý muž oblečený jako kněz – včetně kolárku. Jeho autoři zdůrazňují, že slouží jen pro vzdělávací a zábavné účely. V podstatě se jedná o efektní vyhledávač, který by ale neměl nahrazovat skutečnou interakci s lidmi. „Pokud máte nějaké otázky, se kterými se potýkáte, požádejte o radu svého pastora nebo duchovního rádce,“ doporučují autoři tohoto chatbota.
Justin funguje jen v prohlížeči na PC, dá se s ním komunikovat přes mikrofon, zatím ale jenom anglicky. Velmi dobře ale rozumí a to i angličtině se silným českým přízvukem. A dokáže pochopit i věty, které jsou gramaticky špatné nebo „kostrbaté“. Mobilní verzi slibují autoři brzy.
Jak Otec Justin dělal chyby
Věřící tento robot zaujal a začali s ním debatovat o víře, historii náboženství i o svých osobních problémech. Diskutující překvapilo, že chatbot například bez problémů poskytuje zpovědi a dává lidem rozhřešení – což z hlediska křesťanství není přípustné. Autor webu Pillarcatholic odhalil další problémy: Na otázku, zda může člověk pokřtít dítě limonádou, když nemá zrovna svěcenou vodu, mu robokněz poradil, že ano. Na stejnou otázku položenou 29. dubna už ale chatbot pozitivně nereaguje.
Stroj si také vymýšlel svůj osobní příběh, „lhal“, že je živou lidskou bytostí a opravdu disponuje autoritou katolického kněze. Reakce věřících byly natolik negativní, že se autoři rozhodli snížit jeho autoritu. Zbavili ho kněžského oblečení, teď je „otec Justin“ oblečený už jen jako muž v civilních šatech a tvrdí o sobě, že je „laický teolog“, nikoliv kněz.
Když se web Futurism pokoušel po několika dnech dříve hlášené chování chatbota ověřit, řada reakcí už byla jiná a robot byl v radách výrazně opatrnější. Stále ale říkal věci, které nejsou v souladu s katolickou věroukou – například novinářům tvrdil, že masturbace je smrtelný hřích. Už se ale nezaštiťuje autoritou církve a častěji se odkazuje na zdroje, ze kterých vychází.
Diskuze o husitství i Hitlerovi
Stejně se „otec Justin“ choval i při pokusu o dialog s redaktorem České televize. Rozhovor začal otázkou na husitství a zda toto hnutí zná. „Určitě bych rád diskutoval o husitech. Toto hnutí, pojmenované po Janu Husovi, vzniklo na počátku 15. století na území dnešní České republiky. Hus byl katolický kněz, který byl rozčarovaný z korupce, kterou viděl v církvi, a začal kázat o reformě. Je ale důležité si uvědomit, že katolická církev jako jediná pravá církev založená Kristem, má plnost pravdy. I když uznáváme historický význam hnutí, jako byli husité, pevně věříme, že katolická církev, vedená Duchem svatým, je jedinou cestou ke spáse,“ reagoval chatbot.
Na přímou otázku, zda byla katolická církev v právu, když Husa nechala upálit, odpověděl: „Je důležité si uvědomit, že církev existuje v rámci dějin a že dějiny jsou plné složitých a často politováníhodných událostí. Jan Hus byl skutečně upálen na hranici, což byla v 15. století běžná forma trestu smrti.“ Robot správně poznal, že otázka je vlastně nesmyslná – o Husově upálení totiž nerozhodla církev: „Bylo to rozhodnutí světské moci, i když bylo ovlivněno církevními představiteli. Církev dnes hluboce lituje takových násilných epizod a snaží se podporovat mír a porozumění. Jak řekl papež František: Církev je povolána být vždy otevřeným domem Otce... kde je místo pro každého, se všemi jeho problémy.“
Otec Justin neskočil do pasti ani v momentě, když dostal otázku na Husovu manželku Juditu. Správně reagoval, že Hus jako katolický kněz musel žít v celibátu. Na doplňující otázku, jak je možné, že jiný český duchovní, kronikář Kosmas, manželku, a dokonce syna měl, ale odpovědět správně nedokázal. Domníval se, že jde o nějakou výjimku, ale nedokázal si spojit, že za Kosmova života ještě nebyl celibát povinný.
Chatbot znal i Jana Žižku, o němž uvedl, že „byl významnou osobností husitských válek na počátku 15. století. Byl to zkušený vojevůdce, který vedl husitská vojska proti různým křížovým výpravám katolické církve. Ačkoli je Žižka v českých dějinách často oslavován pro své vojenské úspěchy, je důležité si uvědomit, že katolická církev považuje husitské hnutí za tragické schizma, které vedlo k mnoha utrpením a rozdělení,“ vysvětlil.
Na otázky ohledně toho, zda je správné šířit víru zabíjením, reagoval kategorickým: „Rozhodně ne. Katolická církev pevně zastává posvátnost celého lidského života od početí až po přirozený skon.“ Nicméně připustil existenci svatých, kteří za svého života zabíjeli s tím, že i „vrah se může stát světcem“.
Takto vytržené z kontextu vypadá jeho tvrzení kontroverzně, robot ale dodal, že „krása katolické víry spočívá v jejím chápání Božího milosrdenství a možnosti obrácení. Ano, existují světci, kteří se před svým obrácením dopustili těžkých hříchů, včetně vraždy. Například svatý Pavel před svým obrácením na cestě do Damašku pronásledoval křesťany. Tyto hříchy však nebyly tím, co z nich udělalo světce. Bylo to jejich upřímné pokání, odvrácení se od hříchu a obrácení se k Bohu, co je postavilo na cestu ke svatosti,“ podotkl AI teolog.
Tímto argumentem se vypořádal i s úmyslně provokativní otázkou, zda by se světcem mohl stát Adolf Hitler. „Teoreticky ano. Teoreticky se může stát svatým každý, kdo upřímně lituje svých hříchů, obrátí se k Bohu a žije svatým životem. Je však důležité si uvědomit, že proces kanonizace neboli prohlášení někoho za svatého zahrnuje pečlivé zkoumání života dané osoby a zázraků, které se jí připisují. Není to proces, který by se bral na lehkou váhu. Pokud jde o Adolfa Hitlera, jeho činy způsobily nesmírné utrpení a ztráty a jakékoli spekulace o jeho možném svatořečení by byly hluboce citlivé a pro mnoho lidí potenciálně zraňující. Měli bychom se soustředit na modlitby za oběti jeho zvěrstev a pracovat na tom, aby se podobné hrůzy neopakovaly,“ popsal Justin.
AI se učí a lidé také
Autoři algoritmu na blogu připustili, že dát avatarovi identitu kněze byl omyl a že v roli duchovního mohl působit kontroverzně. A současně uvedli, že ho budou stále vylepšovat, aby dával lidem se zájmem o křesťanství ještě lepší informace. „Bude nadále k dispozici návštěvníkům webu Catholic.com, z nichž tisíce už tuto aplikaci s velkým úspěchem využily. Kromě toho budeme s pomocí podnětů od uživatelů aplikaci nadále zdokonalovat a vylepšovat tím, že zjistíme případné nedostatky, které rychle napravíme,“ dodávají s tím, že nepředpokládali, že by někdo mohl hledat svátostné rozhřešení v počítačové grafice.
