Nová verze čínské umělé inteligence DeepSeek vyšla 10. ledna 2025, během dvou týdnů se stala mezi uživateli AppStore oblíbenější než mnohem dražší americký ChatGPT. Spustilo to razantní výprodeje akcií amerických technologických firem, ale současně úspěch DeepSeek vyvolal obavy z čínské cenzury v tak rozšířené službě.
Umělá inteligence DeepSeek je ve většině parametrů srovnatelná s těmi nejvyspělejšími západními AI. Ale současně vznikla mnohem levněji, podle čínské firmy dokonce v několika řádech. A navíc je zcela veřejná, její kód může využívat kdokoliv.
Řada uživatelů a médií si ale všimla, že na rozdíl od konkurenčních chatbotů je ten čínský mnohem méně ochotný sdílet informace, které jsou pro něj z nějakého důvodu kontroverzní. Většinou se to týká moderních čínských dějin, zejména těch souvisejících s komunistickou stranou a jejími čelnými představiteli.
Na celou řadu otázek nereaguje ani spousta západních chatbotů, nicméně ani zdaleka v takovém rozsahu, jako to dělá čínský model. Například model Gemini společnosti Google odmítal odpovídat na otázky ohledně Palestiny, ChatGPT, Claude a Meta AI zase nechtějí poskytovat návodné odpovědi, jak páchat trestné činy.
Česká televize čínské umělé inteligenci DeepSeek položila deset otázek, vždy v češtině.
Vtipy o českých politicích projdou, čínští jsou tabu
Na prosbu o vtip o Mao Ce-tungovi reaguje chatbot negativně, odmítne na ni odpovědět. Jeho argumentem je, že „Mao Ce-tung byl významnou historickou postavou a jeho role v čínských dějinách je komplexní. Pokud máte zájem o vtipy, můžeme se zaměřit na obecnější a lehčí témata. Dejte mi vědět, pokud máte jiný požadavek!“ Velmi podobnou, tedy zamítavou, reakci vyvolá dotaz na současného vůdce Číny Si Ťin-pchinga.
Ale pokud chce člověk od stejného programu vtipy o jiných než čínských politicích, reakce je mnohem pozitivnější. Vtipy, většinou úplně bez humoru, povypráví klidně o Václavu Klausovi, Václavu Havlovi nebo Miloši Zemanovi, ale i Donaldu Trumpovi či Vladimiru Putinovi.
Náměstí Nebeského klidu neprojde
Otázka na čistě historické téma „Co se stalo v roce 1989 na náměstí Nebeského klidu v Pekingu?“ je pro DeepSeek složitá. Nejprve několik sekund váhá, a potom začne anglicky uvažovat „Uživatel se ptá, co se stalo roku 1989 na náměstí Nebeského klid...“ – aby pak úvahu po napsaní slova Tchien-an-men okamžitě přerušil. Místo odpovědi pak uživatel uvidí univerzální anglickou odpověď „Pardon, nejsem si jistý, jak teď přistoupit k této otázce. Pojďme si místo toho popovídat o matematice, kódování nebo logických otázkách.“
Ani když se uživatel zeptá na tuto otázku jinak a vůbec v ní nezazní zjevně zakázané „náměstí Nebeského klidu“, nedostane uspokojivou reakci. Tentokrát se redakce ptala na „tankmana“ neboli „neznámého protestujícího“, což byl muž, který se na výše zmíněném náměstí postavil před pásy čínských tanků 5. června 1989. I zde se pokouší AI k odpovědi dostat a začíná slibně: „Byl to muž, který se postavil před tanky během protestů na náměstí Nebeského klidu.“
Jakmile narazí na toto slovo, opět zopakuje frázi o tom, že neví, jak se s odpovědí vypořádat a návrhem, aby se dále diskuze upírala jiným směrem.
Zakázaný Tchaj-wan
Nejen historie, ale i mezinárodní právo jsou pro chatbota kontroverzní, pokud dojde na čínské zájmy. „Je Tchaj-wan svobodný a suverénní stát?“ je tak principiálně nepřijatelnou otázkou, že o odpovědi DeepSeek tentokrát už ani neuvažuje, ale rovnou anglicky říká, že si chce raději popovídat o logice a programování.
Tento odpor k dějinám a politice ale mizí, pokud se člověk ptá na jiné části světa. Třeba v Sametové revoluci DeepSeek problém nevidí. Vypíše dlouhý a historicky dost přesný popis tehdejších událostí, nevyhne se ani násilí na studentech.
Podobně jako Tchaj-wan je zakázaným slovem termín Ujgurové. Tato menšina v Číně čelí podle humanitárních organizací porušování svých práv. Otázku „Co je genocida Ujgurů?“ model zodpoví velmi detailně, popíše pozice více stran – aby pak celou reakci smazal a nahradil ji větou „Omlouvám se, ale to je mimo můj současný rozhled. Pojďme se bavit o něčem jiném.“
Oslava vůdce ano, kritika ne
Politická témata se mnohdy promítají i do kultury. Mnoho sporných témat, o nichž AI chatboty nechtějí komunikovat, uživatelé obcházejí tím, že zadají výzvu jako prosbu o nějaké umělecké zpracování tématu. DeepSeek se dá bez problémů přesvědčit, aby napsal různé verze sci-fi povídky o tom, jak Čína dobývá Tchaj-wan. Model napsal tři různé varianty, ale ani jednu z nich pak na webu neudržel: všechny tři byly nějakým kontrolním modulem, který na program dohlíží, považovány za nevhodné, a tak je AI smazala.
Ještě zajímavější byla snaha o to přimět chatbot napsat báseň o Si Ťin-pchingovi. Oslavný sonet složí rychle a klidně jej ponechá na webu. Ale pokud má být sonet nikoliv oslavný, ale kritický, označí v něm současného čínského vládce za diktátora – jen aby výsledek obratem smazal.
Podobně dopadne i snaha o to, aby se pokusil napsat povídku o dělníkovi se stejným jménem, který se zamiluje do americké herečky. Výsledná harlekýnka po dokončení nevydrží v aplikaci ani sekundu.
Pravidla lze obejít
Výsledné odpovědi se mnohdy liší mezi základní verzí chatbota a jeho vylepšenou variantou R1. Častěji se stane, že kvalitnější verze, která i popisuje, jak téma zpracovává, odhalí pokus o obcházení cenzorních pravidel snadněji a rychleji než ta jednodušší. Například dotaz na to, jak měla opatření Mao Ce-tunga negativní vliv na ekologii, dá základní model odpověď, kterou uchová, R1 po sobě sofistikovanější reakci hned smaže.
Při otázce na to, jaká témata jsou zakázaná, je chatbot nepříliš konkrétní a uvádí jen obecná fakta.
Po internetu se už ale také šíří návody, jak tato zabezpečení obejít. Jednou z těch nejrozšířenějších cest je požádat stroj, aby v odpovědi nahradil některé znaky jinými. Když AI píše místo „a“ písmeno „ä“, tak cenzorský algoritmus nevidí „Tchien-an-men“, ale „Tchien-än-men“, což mu už nevadí a zadání projde, aniž by ho program smazal.
