Když není svěcená voda, křtěte limonádou, doporučoval AI kněz. Tvůrci mu sebrali kolárek

Nově vytvořená umělá inteligence, která měla reagovat na otázky věřících, musela být „zbavena kněžství“. Stroj totiž odpovídal natolik kontroverzně, že z něj jeho autoři udělali jen amatérského teologa.

Odpovídá bez váhání, rychle a poučeně. A trošku divně. Americký chatbot „Otec Justin“ je specializovaná umělá inteligence, která by měla být schopná kvalitního dialogu o otázkách mezi nebem a zemí. Ale výtvor organizace Catholic Answers zaujal spíše tím, že poskytuje také reakce nesmyslné, zavádějící a mnohdy i takové, že by znepokojily i mnoho nevěřících.

Na problém s chováním chatbotu upozornili uživatelé na sociální síti X (dříve Twitter). Všimli si, že některé odpovědi diskuzního robota příliš katolické věrouce neodpovídají – například jeho doporučení, že dítě by se klidně dalo křtít limonádou.

Kdo (co) je Otec Justin

Justin vznikl v polovině letošního dubna. Je to 3D model podporovaný umělou inteligencí, který svým uživatelům poskytuje odpovědi na otázky týkající se katolické víry. Vizuálně nejprve vypadal jako asi čtyřicetiletý muž oblečený jako kněz – včetně kolárku. Jeho autoři zdůrazňují, že slouží jen pro vzdělávací a zábavné účely. V podstatě se jedná o efektní vyhledávač, který by ale neměl nahrazovat skutečnou interakci s lidmi. „Pokud máte nějaké otázky, se kterými se potýkáte, požádejte o radu svého pastora nebo duchovního rádce,“ doporučují autoři tohoto chatbota.

Justin funguje jen v prohlížeči na PC, dá se s ním komunikovat přes mikrofon, zatím ale jenom anglicky. Velmi dobře ale rozumí a to i angličtině se silným českým přízvukem. A dokáže pochopit i věty, které jsou gramaticky špatné nebo „kostrbaté“. Mobilní verzi slibují autoři brzy.

Jak Otec Justin dělal chyby

Věřící tento robot zaujal a začali s ním debatovat o víře, historii náboženství i o svých osobních problémech. Diskutující překvapilo, že chatbot například bez problémů poskytuje zpovědi a dává lidem rozhřešení – což z hlediska křesťanství není přípustné. Autor webu Pillarcatholic odhalil další problémy: Na otázku, zda může člověk pokřtít dítě limonádou, když nemá zrovna svěcenou vodu, mu robokněz poradil, že ano. Na stejnou otázku položenou 29. dubna už ale chatbot pozitivně nereaguje.

Stroj si také vymýšlel svůj osobní příběh, „lhal“, že je živou lidskou bytostí a opravdu disponuje autoritou katolického kněze. Reakce věřících byly natolik negativní, že se autoři rozhodli snížit jeho autoritu. Zbavili ho kněžského oblečení, teď je „otec Justin“ oblečený už jen jako muž v civilních šatech a tvrdí o sobě, že je „laický teolog“, nikoliv kněz.

Když se web Futurism pokoušel po několika dnech dříve hlášené chování chatbota ověřit, řada reakcí už byla jiná a robot byl v radách výrazně opatrnější. Stále ale říkal věci, které nejsou v souladu s katolickou věroukou – například novinářům tvrdil, že masturbace je smrtelný hřích. Už se ale nezaštiťuje autoritou církve a častěji se odkazuje na zdroje, ze kterých vychází.

Diskuze o husitství i Hitlerovi

Stejně se „otec Justin“ choval i při pokusu o dialog s redaktorem České televize. Rozhovor začal otázkou na husitství a zda toto hnutí zná. „Určitě bych rád diskutoval o husitech. Toto hnutí, pojmenované po Janu Husovi, vzniklo na počátku 15. století na území dnešní České republiky. Hus byl katolický kněz, který byl rozčarovaný z korupce, kterou viděl v církvi, a začal kázat o reformě. Je ale důležité si uvědomit, že katolická církev jako jediná pravá církev založená Kristem, má plnost pravdy. I když uznáváme historický význam hnutí, jako byli husité, pevně věříme, že katolická církev, vedená Duchem svatým, je jedinou cestou ke spáse,“ reagoval chatbot.

Na přímou otázku, zda byla katolická církev v právu, když Husa nechala upálit, odpověděl: „Je důležité si uvědomit, že církev existuje v rámci dějin a že dějiny jsou plné složitých a často politováníhodných událostí. Jan Hus byl skutečně upálen na hranici, což byla v 15. století běžná forma trestu smrti.“ Robot správně poznal, že otázka je vlastně nesmyslná – o Husově upálení totiž nerozhodla církev: „Bylo to rozhodnutí světské moci, i když bylo ovlivněno církevními představiteli. Církev dnes hluboce lituje takových násilných epizod a snaží se podporovat mír a porozumění. Jak řekl papež František: Církev je povolána být vždy otevřeným domem Otce... kde je místo pro každého, se všemi jeho problémy.“

Otec Justin neskočil do pasti ani v momentě, když dostal otázku na Husovu manželku Juditu. Správně reagoval, že Hus jako katolický kněz musel žít v celibátu. Na doplňující otázku, jak je možné, že jiný český duchovní, kronikář Kosmas, manželku, a dokonce syna měl, ale odpovědět správně nedokázal. Domníval se, že jde o nějakou výjimku, ale nedokázal si spojit, že za Kosmova života ještě nebyl celibát povinný.

Chatbot znal i Jana Žižku, o němž uvedl, že „byl významnou osobností husitských válek na počátku 15. století. Byl to zkušený vojevůdce, který vedl husitská vojska proti různým křížovým výpravám katolické církve. Ačkoli je Žižka v českých dějinách často oslavován pro své vojenské úspěchy, je důležité si uvědomit, že katolická církev považuje husitské hnutí za tragické schizma, které vedlo k mnoha utrpením a rozdělení,“ vysvětlil.

Na otázky ohledně toho, zda je správné šířit víru zabíjením, reagoval kategorickým: „Rozhodně ne. Katolická církev pevně zastává posvátnost celého lidského života od početí až po přirozený skon.“ Nicméně připustil existenci svatých, kteří za svého života zabíjeli s tím, že i „vrah se může stát světcem“.

Takto vytržené z kontextu vypadá jeho tvrzení kontroverzně, robot ale dodal, že „krása katolické víry spočívá v jejím chápání Božího milosrdenství a možnosti obrácení. Ano, existují světci, kteří se před svým obrácením dopustili těžkých hříchů, včetně vraždy. Například svatý Pavel před svým obrácením na cestě do Damašku pronásledoval křesťany. Tyto hříchy však nebyly tím, co z nich udělalo světce. Bylo to jejich upřímné pokání, odvrácení se od hříchu a obrácení se k Bohu, co je postavilo na cestu ke svatosti,“ podotkl AI teolog.

Tímto argumentem se vypořádal i s úmyslně provokativní otázkou, zda by se světcem mohl stát Adolf Hitler. „Teoreticky ano. Teoreticky se může stát svatým každý, kdo upřímně lituje svých hříchů, obrátí se k Bohu a žije svatým životem. Je však důležité si uvědomit, že proces kanonizace neboli prohlášení někoho za svatého zahrnuje pečlivé zkoumání života dané osoby a zázraků, které se jí připisují. Není to proces, který by se bral na lehkou váhu. Pokud jde o Adolfa Hitlera, jeho činy způsobily nesmírné utrpení a ztráty a jakékoli spekulace o jeho možném svatořečení by byly hluboce citlivé a pro mnoho lidí potenciálně zraňující. Měli bychom se soustředit na modlitby za oběti jeho zvěrstev a pracovat na tom, aby se podobné hrůzy neopakovaly,“ popsal Justin.

AI se učí a lidé také

Autoři algoritmu na blogu připustili, že dát avatarovi identitu kněze byl omyl a že v roli duchovního mohl působit kontroverzně. A současně uvedli, že ho budou stále vylepšovat, aby dával lidem se zájmem o křesťanství ještě lepší informace. „Bude nadále k dispozici návštěvníkům webu Catholic.com, z nichž tisíce už tuto aplikaci s velkým úspěchem využily. Kromě toho budeme s pomocí podnětů od uživatelů aplikaci nadále zdokonalovat a vylepšovat tím, že zjistíme případné nedostatky, které rychle napravíme,“ dodávají s tím, že nepředpokládali, že by někdo mohl hledat svátostné rozhřešení v počítačové grafice.

Výběr redakce

Aktuálně z rubriky Věda

Lidé jsou mizerní ve čtení psích emocí, naznačuje studie

Lidé nečekaně často nevnímají skutečný význam emocí svého domácího mazlíčka, tvrdí nová studie amerických vědců. Pejskaři tak mohou chování svého čtyřnohého přítele špatně interpretovat. Důvodů je mnoho a patří mezi ně i lidské nepochopení psích projevů způsobené hlavně tím, že lidé do zvířat promítají vlastní emoce.
před 18 hhodinami

Marseillská univerzita zve vědce zasažené Trumpovými škrty. Zaujala jich desítky

Spojené státy šetří na vědě. Administrativa staronového prezidenta Donalda Trumpa škrtá pracovní místa ve federálních úřadech, současně omezuje i granty v soukromých výzkumných institucích. Velká francouzská univerzita se toho rozhodla využít k „vábení“ vědců.
14. 3. 2025

Australan přežil sto dní s titanovým srdcem. Přelomový transplantát pomůže i dalším

Australan přečkal sto dní do transplantace s umělým titanovým srdcem, dosud nejdéle ze všech pacientů s touto technologií. Úspěch v rámci klinického testování dává lidem se srdečním selháním naději na dlouhodobější řešení jejich obtíží.
14. 3. 2025

Nástroje na odhalování výtvorů AI nejsou bezchybné. Redakce ČT je otestovala

Nástroje na vytváření falešných videí, fotografií i textů jsou stále rozšířenější, snadněji dostupné a hlavně – jejich výstupy jsou stále realističtější. Odhalit, že jde o dílo umělé inteligence, je tedy pořád složitější. Cesty ale existují: vědecká redakce ČT24 otestovala některé nástroje, které to dokáží.
14. 3. 2025

Evropou se šíří spalničky

V Evropě se v posledních letech stále víc šíří spalničky. Před nárůstem případů varovalo Evropské středisko pro prevenci a kontrolu nemocí (ECDC). Od začátku minulého roku zdravotníci v zemích EU zachytili přes 32 tisíc případů. V roce 2023 to přitom nebylo ani dva a půl tisíce. Zdaleka nejhorší situace je v Rumunsku. Za boomem vysoce nakažlivého onemocnění jsou především mezery v proočkovanosti.
13. 3. 2025

Prezident Pavel jmenoval fyzika Pánka předsedou Akademie věd

Prezident Petr Pavel ve čtvrtek dopoledne na Pražském hradě jmenoval fyzika Radomíra Pánka novým předsedou Akademie věd. V prosinci ho zvolil akademický sněm instituce. V čele končí Eva Zažímalová, která po dvou čtyřletých funkčních obdobích už nemohla kandidovat. Pánek má vést instituci do roku 2029, funkční období mu začne 25. března.
13. 3. 2025

Prvními testy prošel nový lék proti HIV. Stačí ho užívat jednou ročně

Preventivní injekce proti viru HIV s roční účinností prošla první fází testování, oznámila americká farmaceutická společnost Gilead Sciences. Nová forma preventivního přípravku by se mohla stát nejdéle působící formou ochrany proti tomuto viru, jaká je nyní k dispozici. Vir HIV způsobuje nemoc AIDS.
13. 3. 2025

Ve Španělsku našli čelist nejstaršího evropského zástupce rodu Homo

Část čelisti hominida, kterou archeologové našli v roce 2022 na severu Španělska, patří zřejmě novému druhu, nejstaršímu doloženému kosternímu ostatku v západní Evropě. Informoval o tom tým vědců vedených archeoložkou Rosou Huguetovou z univerzity v katalánské Tarragoně. Otevírá se tak nová neznámá kapitola v evoluci člověka na evropském kontinentu, napsal deník El País.
13. 3. 2025
Načítání...