Kanaďan Thélyson Orélien, Zimbabwan Simbarashe Kundizeza, Američanka H. M. Wolfeová. Všichni tito spisovatelé mají jedno společné: čelí nařčení, že program na rozpoznání AI textů označil jejich beletristická díla jako napsaná pomocí umělé inteligence. Některé z nich obvinění ze spolupráce s umělou inteligencí stálo možnost získat prestižní literární ceny nebo milionové smlouvy s nakladateli. Množství příkladů dosvědčuje rostoucí nejistotu ohledně autorství, s níž se literatura bude muset vypořádat.
Nejnověji se v literárním světě probírá Zimbabwan Simbarashe Kundizeza, nedávný vítěz Caineho ceny pro africké povídkáře. Vítězná povídka se ovšem nyní přezkoumává poté, co časopis The Atlantic s odvoláním na analýzu programu Pangram uvedl, že text „napsala“ umělá inteligence s výjimkou úryvku vypůjčené básně.
Kundizeza se brání, že všechna slova v příběhu jsou jeho, stejně jako inspirace ve vlastní rodině vystavené těžkostem poté, co otec přestal pracovat jako účetní. Náznaky, že na použití AI ukazuje změna stylu, označil za „zásadní nepochopení spisovatelského řemesla“. Argumentuje i tím, že chybí motiv, proč nechal text vygenerovat – vymyšlení povídky nedostal za úkol a do soutěže o cenu, spojenou s deseti tisíci dolary, ji poslal časopis, kde vyšla, aniž by za ni Kundizeza očekával honorář.
Afričtí autoři, ale i čtenáři by se měli proti takovým obviněním ohrazovat, protože umělá inteligence může být vůči lidem černé pleti zaujatá, doplnil pro agenturu AP. Výzkumy z předních univerzit skutečně potvrdily, že AI vykazuje předsudky ohledně rasy například v náborových algoritmech.
„Digitální lynčování pokračuje, protože černošští autoři jsou terčem skandálů souvisejících s umělou inteligencí a plagiátorstvím,“ je téhož názoru i třeba názorově vyhraněný Radical Books Collective, nabízející „progresivní diskuse“ o „odvážných a politicky zajímavých knihách“.
Kanadský spisovatel přiznal plagiátorství, AI ale ne
Zmiňuje mimo jiné kanadského spisovatele Thélysona Oréliena. Ten si získal přízeň kritiků příběhem haitského migranta, který po zemětřesení v roce 2010 odejde do Kanady, podobně jako Orélien, jenž rovněž pochází z Haiti. Jenže Goncourtova cena, jedno z nejprestižnějších frankofonních literárních ocenění, škrtla koncem září román C’était ça ou mourir (Buď to, nebo zemřít) ze svého soutěžního seznamu. „Analýzy důvěryhodných výzkumníků a novinářů ukazují na to, že kniha je se vší pravděpodobností z velmi velké části výsledkem umělé inteligence,“ znělo zdůvodnění.
Vyloučením románu ze soutěže chce dát Goncourtova cena najevo, že nepodporuje tvorbu literárních textů pomocí AI. Podle udělující Goncourtovy akademie je zapotřebí vypracovat etický kodex umožňující rozlišit, co bylo vytvořeno umělou inteligencí a co lidskou bytostí, protože otázky ohledně autorství budou „téměř nevyhnutelně“ nadále přetrvávat.
Obvinění Oréliena se objevilo na síti X na původně anonymním účtu Balance ton Claude, za nímž, jak se záhy po zveřejnění informace ukázalo, stojí komentátor deníku Le Figaro Samuel Fitoussi. Své počínání vysvětlil mimo jiné obavami, že by jazykové modely mohly nahradit spisovatele z masa a kostí. I on použil program Pangram a prý „devadesát až sto procent každé kapitoly bylo identifikováno jako generované umělou inteligencí“, upřesnil pro Radio-Canada.
„Naznačovat, že jen proto, že autor není běloch, nemáme právo mu vytýkat plagiátorství nebo to, že lhal svým čtenářům, považuji za naprosto absurdní,“ prohlásil Fitoussi také ve stejném rozhovoru. The New York Times si ale nemyslí, že by se od osoby oznamovatele mělo oddělit, že názorově patří ke konzervativním publicistům a je autorem knihy, v níž „ideologickou transformaci“ médií mimo jiné přisuzuje zdůrazňování příběhů černošských postav.
„Tento román jsem napsal sám. Vychází z mých ran a ran dalších migrantů. Z té rány vyhnanství, z níž se člověk nikdy nevyléčí. Tento román je jejím plodem, je plodem mé práce, je mým dílem,“ reagoval Orélien na zveřejněná obvinění. Připustil, že nástroje AI použil jen „tu a tam“ pro rešerše, například ověření cizích idiomů. Oznámil záměr doložit postupnou práci na rukopisu, od toho ale nakonec upustil.
Přiznal ovšem, že se v minulosti dopustil plagiátorství, na což upozorňovaly po rozborech jeho dosavadních děl média. Neohlášené výpůjčky z cizích knih a novinových článků uznal za „nepřijatelné chyby“ z obdivu k původním autorům textů a žádá, aby byly posuzovány odděleně od jeho posledního románu.
Kniha se dál prodávala, ale kanadský nakladatel zrušil doprovodnou propagaci „v zájmu zajištění autorova blaha“ a nakonec oznámil, že spolupráci s Orélienem ukončil, protože se použití AI prý prokázalo. Externě zadaná analýza prošla metadata.
Nigerijský student přišel o smlouvu za dva miliony dolarů
Zapojení AI do své tvorby museli letos vyvracet i další autoři. Nigerijský doktorand z univerzity v Dallasu Jerry Adedayo Falade měl údajně na dosah smlouvu na dva miliony dolarů (více než 43 milionů korun) za svou debutovou prózu. Krimi o nigerijském „uklízeči mrtvol“, připomínajícím postavu z filmu Pulp Fiction, který přijde do USA studovat chemii, mířila na trh v USA i Velké Británii. Přesvědčivost rukopisu ale dostala trhliny poté, co se zástupcům nakladatelství nepodařilo doložit, že román je kompletně dílem člověka. Nicméně „ať už vznikl jakkoliv, je úžasný“, prohlásili literární agenti podle Publishers Weekly.
Falade použití AI nepřipouští. Obává se, že reakce odráží rasové předsudky v nakladatelském průmyslu. Poukazuje i na to, že nástroje na detekci AI „jsou obecně známé tím, že produkují falešně pozitivní výsledky“. Přičemž dovozuje, že se rysy generovaných textů snadno dají splést s větnou konstrukcí či lyričností a bohatou metaforičností typickými pro jorubštinu, tedy jeho mateřský jazyk.
Fantasy bestseller i virální horor
Prověření více než čtrnácti tisíc e-knih vedlo v létě ke zjištění, že ze šedesáti procent je AI údajně spoluautorkou bestselleru Daggermouth. Autorka temně dystopické romance H. M. Wolfeová se proti takovému tvrzení ohradila, postavil se za ni i nakladatel.
E-knihy prohnali softwarem Pangram výzkumníci z oboru počítačových věd na Stony Brook University. Studie dokonce odhaduje, že v katalogu elektronických knih Amazonu jich dvacet procent vykazuje „podstatný“ podíl AI autorství, z bestsellerů v jednotlivých žánrech pak deset procent. Pokud toto číslo sedí, pak to znamená, že generovaný obsah není levnou výplní, kterou nikdo nekupuje a nečte, ale objevuje se na seznamu nejprodávanějších titulů, jimiž se řídí literární agenti, vydavatelé i čtenáři, poznamenává AI Weekly. Daggermouth je tak podle The Atlantic možná první komerčně úspěšnou knihou napsanou chatbotem.
I když podobné prvenství se mohlo týkat i hororu Shy Girl. Jedno z největších amerických nakladatelství Hachette Book Group stáhlo na jaře vydání připravovaného románu od tamní autorky Mii Ballardové. Shy Girl se navíc přestala vydávat v Británii, kde už na trhu byla. Ballardová při psaní příběhu dívky s obsedantně-kompulzivní poruchou, která se kvůli finanční tísni stane domácím mazlíčkem bohatého muže, měla příliš spoléhat na umělou inteligenci.
Prozaička vysvětlovala, že nástroje AI použila editorka, kterou si najala, aby prošla knihu vydanou původně samonákladem. Smlouvu s vydavatelstvím Ballardové zajistil virální úspěch knihy na internetu. A právě on-line komunita také stále hlasitěji probírala pochybnosti o autorství, do analýzy se pak pustila média a svůj verdikt zveřejnila i společnost Pangram.
Znaky AI, nebo vzpomínky na Trinidad?
Trinidadskému spisovateli indického původu Jamiru Nazirovi zkazily spekulace o AI fakt, že letos napsal nejlepší povídku v Commonwealthu. I on svou inspiraci zasazuje do dětství, a to na venkov v Trinidadu, kdy vnímal ruch kolem obchodů s rumem, kam přicházeli pěstitelé cukrové třtiny, ale i útrapy rodin kvůli závislosti na alkoholu.
Existuje nicméně možnost, že „originální, poetický a hluboce dojemný příběh“, jak ho líčí porota, nevzešel jen z Nazirovy hlavy. Někteří literární kritici a také internetová literární komunita mají za to, že text obsahuje „spoustu zjevných znaků textů vytvořených umělou inteligencí“. Nazir, jinak obchodní konzultant, listu The Observer prozradil, že kvůli chronickým zdravotním problémům nemůže sedět a psát u stolu, takže své myšlenky diktuje telefonu a spoléhá na převod řeči na psaný text.
Pangram ukázal na stopy AI i v povídkách dalších oceněných z Commonwealthu. Magazín Wired jmenuje maltského spisovatele Johna Edwarda DeMicoliho a indickou autorku Sharon Aruparayilovou. Ta celou záležitost sarkasticky nazvala honem na čarodějnice.
Nadace Commonwealthu, udělující cenu, prověřila autory v užším výběru a nic podezřelého neshledala. Přesto přišla po letech o partnerství tradičního literárního periodika Granta, jež se rozhodlo nadále neotiskovat vítězné texty. „Možná porotci nyní udělili cenu za případ plagiátorství umělé inteligence – zatím to nevíme a možná se to nikdy nedozvíme,“ podotkli vydavatelé a vyjádřili tím nejistotu, která literaturu po nástupu AI provází a provázet bude.
Spolehlivost Pangramu
Společnost Pangram tvrdí, že její software rozpoznává texty vytvořené umělou inteligencí s přesností na 99,66 procenta, zatímco lidský text označí za výtvor umělé inteligence pouze v 0,0041 procenta případů.
Vzhledem k tomu, že Pangram nabízí odhalování „chatbotštiny“ univerzitám, školám, nakladatelstvím i právním společnostem, je třeba ověřit, jak spolehlivě dokáže určit rozdíl od lidského myšlení a vyjadřování, píše Bloomberg. S vědomím, že stoprocentní spolehlivost očekávat nikdy nelze.
Starší detektory se potýkaly s nedostatečným odlišením jazykových nuancí, když podle výzkumu Standfordovy univerzity měly tendenci klasifikovat jako dílo AI zejména eseje od studentů, pro něž nebyla angličtina rodným jazykem. On-line magazín Literary Hub varuje právě před spoléháním na neomylnost softwarů, kdy v začarovaném kruhu pátrají po výskytu umělé inteligence právě AI nástroje. Navíc mluvením o „beletrii generované umělou inteligencí“ je na roveň tvůrce staven algoritmus jen napodobující lidské psaní, vadí časopisu.
Džin pochybností vypuštěn
Soudy o AI obsahu vyneseném Pangramem nejsou žádným nezávislým auditem. V jistém smyslu ovšem na detailech nezáleží, důležité je, že džin pochybností, případně možnost někoho poškodit vznesením obvinění, už byl vypuštěn z lahve, podotýká The Observer. Tento drobnohled může mít vliv třeba na začínající literáty, generální ředitelka Nadace Commonwealth Razmi Farooková se obává, že obavy z posuzování a následného dokazování mohou neobjevené talenty zbrzdit v motivaci své texty zveřejnit.
Probírané knihy se ve většině řadí k žánrové literatuře (romantasy, horor, krimithriller), u níž je hrozba generovaných textů palčivější, protože staví na šablonovitých postavách a typických zápletkách, zmiňuje The New Yorker. Publicistku a vydavatelku Brooke Warnerovou nepřekvapuje, že nejvíce rezonují AI odhalení právě v žánrových příbězích, protože ty mají širokou čtenářskou základnu, a tedy i víc potenciálních kontrolorů, ať už ve vláknech na redditu, nebo v příspěvcích knižních influencerů.
Zároveň autoři při psaní nejsou omezeni žádnými podmínkami, na otázky autorství tak dochází případně až s rostoucí popularitou. Až čtenářský zájem přivábí tradiční nakladatelství, jak dokládá třeba román Shy Girl. Ten přitom prošel redakčním procesem bez jakéhokoliv podezření, udivuje New York Times.
Ochrana investice
Díky „honu“ na spisovatele používající AI každopádně vzkvétá rozvoj různých detekčních nástrojů. Mezi těmito softwary, modely umělé inteligence a autory, kteří AI využívají, bude probíhat „neustálý technický závod ve zbrojení“, odhaduje The Guardian.
To vše se pravděpodobně promítne do základů nakladatelského odvětví, kde se detekční nástroje stávají běžnou součástí příprav edičních plánů. Označení „napsáno člověkem“ začíná fungovat jako značka „bio“, dodává AI Weekly.
V neposlední řadě jde o peníze. Server Deadline mluví o pronikání umělé inteligence do obchodu s právy ve vydavatelském, filmovém a televizním průmyslu. Ujištění autorů, že kniha je výhradním výsledkem jejich talentu, nemá takový význam jako možná nedostatečná ochrana investice kupujících. Obsah čistě generovaný AI je v zásadě volným dílem. Nemluvě o stále opakovaném problému, že takto vytvořený text vznikal na základě tréninkových dat z mnoha jiných děl, minimálně zčásti naopak autorským právem chráněných.
Přiznat AI, nebo radši ne?
Pokud odhlédneme od obchodních záležitostí, otázkou nadále – a nejen v literatuře – zůstává, co je ještě vkusné využití AI, a co už ne. A zda se k psaní s pomocí AI budou chtít literáti vůbec přiznávat. Jihoafrická autorka Coral Hartová se svěřila, že si vysloužila výhrůžky smrtí a tisíce jednohvězdičkových recenzí poté, co o ní NYT uveřejnil článek. Vydává totiž ročně desítky romancí, které pod různými pseudonymy chrlí díky jazykovým modelům. Nemyslí si, že by ona ani její kolegové chtěli být ohledně způsobu své tvorby transparentní, dokud potrvá – i ona použila ten výraz – hon na čarodějnice.
U žánrů, nahlížených mnohými zástupci literatury jako braková produkce, by větší podíl AI snad ani tak vadit nemusel, nadhazují články k tématu napříč médii. Ale co autoři vyzdvihovaní různými cenami? Za lakmusový papírek této diskuse posloužilo nedávné přiznání polské nobelistky Olgy Tokarczukové, že své nápady často konzultuje s chatovacím modelem. Nesetkala se zrovna s pochopením.
