Na práci s umělou inteligencí (AI) zatím podle místopředsedy Vrchního soudu v Praze Romana Horáčka není tuzemský právní systém připravený. Podle soudce nepočítá například s rizikem případných falešných důkazů vygenerovaných umělou inteligencí. Možné přínosy i rizika AI pro justici od února společně zkoumají pražský vrchní soud, Úřad průmyslového vlastnictví, Česká asociace umělé inteligence a pražská Metropolitní univerzita.
Český soudní systém není připravený na rizika spojená s AI, míní zástupci justice
Horáček upozorňuje, že právní řád nebere v úvahu například už zmíněnou hrozbu falšování důkazů pomocí AI. „Nemáme žádné právní nástroje, které by s tímto rizikem vůbec počítaly,“ varuje.
„Umělá inteligence se přímo v soudním procesu neužívá. Neexistuje totiž rozhraní, které by zaručovalo bezpečnou práci s citlivými údaji,“ vysvětluje soudce Pavel Punčochář z rady Kolegia pro elektronizaci justice Soudcovské unie ČR.
Podle Horáčka může AI vytvořit nebo velmi kvalitně upravovat fotografie, audiovizuální nahrávky, také smlouvy a další dokumenty. „Už teď se nacházíme v situaci, kdy pro umělou inteligenci není téměř nic nemožné. Nejhorší je, že AI cílevědomě vytváří obsah, který by nešel rozeznat od lidské tvorby. Je také skoro nemožné, aby její výtvor odhalila jiná umělá inteligence,“ popisuje.
Dílčí práci AI usnadnit může
Někteří právníci podle Punčocháře umělou inteligenci využívají k urychlení přípravných prací. Například si nechávají zestručnit obsah rozsudků nebo roztřídit obrovské množství dokumentů, což jim pak pomáhá v přípravě na soudní proces. „Jednotlivci využívají umělou inteligenci například pro analýzu judikátů. Stalo se nám ale, že si AI některé detaily domyslela, na což jsme samozřejmě hned přišli. Překvapivě se chatbot také sám přiznal,“ přibližuje soudce.
„I přes existující digitalizaci, tedy podávání elektronických žalob, pracovníci soudů musí všechna data přepisovat a třídit ručně. Například tento proces by mohla umělá inteligence velmi urychlit,“ míní Horáček.
S přípravou konceptů rozhodnutí nebo tříděním hromadných žalob souhlasí také předseda Kolegia pro elektronizaci justice Soudcovské unie ČR Stanislav Findejs, současně ale vyzývá k opatrnosti. „Vždy musíme vynechávat citlivé informace, aby si je umělá inteligence neukládala, a taky výsledek důkladně zkontrolovat, protože se pod něj podepisuji,“ zdůrazňuje.
Findejs dále zdůrazňuje, že užití AI vždy stojí na zodpovědnosti jednotlivých soudců nebo advokátů. Všichni soudci v Česku podle něj přitom mohou od 3. března užívat neomezenou verzi AI nástroje Copilot od Microsoftu.
Příprava justice
Připravit justici v Česku po etické a právní stránce na zapojení umělé inteligence má nyní Centrum pro digitalizaci a umělou inteligenci v justici (CENDAI). „Zároveň se po vyhodnocení rizik zaměřujeme na případnou úpravu právních předpisů,“ vysvětluje předseda Úřadu průmyslového vlastnictví a člen řídícího týmu CENDAI Josef Kratochvíl.
Horáček z pražského vrchního soudu, který je dalším členem řídícího týmu centra, vidí inspiraci pro využití AI i v zahraničí. „Například v Německu umělá inteligence třídí a posílá pokuty za překročení rychlosti. Pomocí jednoduché matice AI najde majitele radarem vyfoceného auta a zašle pokutu podle předem stanovené částky za daný přestupek,“ popisuje.
Falešné důkazy z dílny AI
„Nedávno jsem zaznamenal soudní proces, kdy obžaloba byla zamítnuta. Důvodem byly důkazy, u kterých se potvrdilo, že jsou vygenerovány umělou inteligencí. Podle mých informací je to zatím v Česku ojedinělý případ,“ podotýká Findejs.
Podle Punčocháře budou podvodníci vždy o krok napřed, kvalita vygenerovaného obsahu se rychle zvyšuje a rozpoznat plagiát bude čím dál těžší. „Znalecký posudek už teď nelze považovat za bezchybný, falšování pomocí AI situaci pochopitelně nezlehčuje. Pravděpodobně bude přibývat odborníků pro odhalování důkazů vytvořených AI,“ míní soudce.
„Je vážnou hrozbou, že v budoucnu se kvůli tomu vytratí důvěra občanů v justici,“ obává se Horáček. Dodává, že některé státy striktně důkazy upravené umělou inteligencí odmítají. „Nebo minimálně vyžadují prohlášení, že se o něco takového jedná, a je pak na soudci, jak se k tomu postaví,“ dodává.
Soužití právníků s AI zabere čas
„Mnozí z nás už viděli fotku či dokonce video, u kterých jsme chvíli přemýšleli, jestli jsou skutečné, nebo vygenerované. U některých jsme to dokonce už ani nemuseli poznat,“ říká Michal Urban, pedagog z Právnické fakulty Univerzity Karlovy. Domnívá se také, že nelze spoléhat na to, že se budoucí generace právníků na fakultách už teď naučí pracovat s hrozbou falešných důkazů od AI.
Školy jsou podle Urbana teprve na počátku zapojování AI technologii do svých studijních programů. „Fakulty v současnosti teprve hledají způsoby, jak přenastavit svá kurikula a moderní technologie, včetně nástrojů AI, do nich postupně zapracovat. Navíc se to logicky bude týkat jen právníků, kteří se do justice dostanou až za několik let. Tak dlouho justice čekat nemůže,“ uzavírá pedagog.
