Britská vláda ve spolupráci s vědci vyvíjí systém, jehož cílem je s pomocí umělé inteligence předpovědět, kdo by se mohl dopustit vážných násilných trestných činů včetně vražd, a to za pomoci analýzy dat policie a vězeňské služby. Píše to server deníku The Guardian. Kritici se obávají toho, že systém bude Brity nespravedlivě profilovat na základě citlivých osobních údajů.
Před šedesáti devíti lety napsal americký spisovatel Philip L. Dick povídku jménem Minority report. Popsal v ní práci jednotky Precrime, která řeší porušení zákona ještě dřív, než k němu došlo. Pomocí biotechnologie je totiž schopná předvídat, kdy k jakému zločinu dojde, a zatýká tak nevinné – lidi, kteří se ještě ničeho nedopustili, ale predikce říkají, že to udělají.
Před 23 lety povídku zfilmoval Steven Spielberg a stejně jako v předloze v ní zdůraznil zneužitelnost takové technologie. Letos spustilo britské ministerstvo spravedlnosti pilotní projekt, který má dělat to stejné – jen pomocí jiné technologie.
Program se měl původně podle deníku Guardian jmenovat „Projekt předpovídání vražd“, ale posléze byl přejmenován na méně nápadné „Sdílení údajů ke zlepšení hodnocení rizik.“ Upozornila na něj nezisková organizace Statewatch, která si na základě práva na svobodný přístup k informacím vyžádala všechny neutajené vládní dokumenty, jež se projektu nějak týkají.
Statewatch je britská charitativní organizace založená v roce 1991, která produkuje a propaguje kritický výzkum, analýzu politik a investigativní žurnalistiku s cílem informovat o debatách, hnutích a kampaních o občanských svobodách, lidských právech a demokratických standardech.
Data o podezřelých
Cílem projektu je zvýšit veřejnou bezpečnost. Podle úřadů je zatím ve fázi výzkumu a je založen výhradně na údajích od jednotlivců, kteří byli alespoň jednou usvědčeni z nějakého vážnějšího trestného činu. Začal vznikat ještě v době, kdy byl britským premiérem Rishi Sunak, a využívá data nashromážděná před rokem 2015. Zkoumané osobní údaje zahrnují jména, data narození, etnickou příslušnost, pohlaví a identifikační číslo, které lidem přidělí britská policie, pokud se dostanou do jejích záznamů.
Tento prediktivní nástroj využívá údaje z ministerstva spravedlnosti, databáze police National Computer a manchesterské a londýnské policie. Statewatch zjistila, že pro vývoj tohoto nástroje byly policejními složkami sdíleny údaje o 100 tisíci až 500 tisících lidech. Analýza tohoto velkého množství dat by měla probíhat s pomocí algoritmů umělých inteligencí.
Kritici se bojí kriminalizace nevinných
Kritici projektu podle Guardianu vyjádřili obavy z profilování lidí na základě citlivých osobních informací, včetně dat vztahujících se k duševnímu zdraví, sebepoškozování nebo domácímu násilí. Podle Statewatch navíc projekt analyzuje údaje také o lidech, kteří možná nikdy z žádného zločinu usvědčeni nebyli, a to včetně obětí zločinů. To ministerstvo popřelo, nicméně Statewatch na tom trvá.
„Pokus ministerstva spravedlnosti vybudovat tento systém předvídání vražd je posledním mrazivým a dystopickým příkladem záměru vlády vyvinout takzvané systémy předvídání zločinu,“ uvedla Sofia Lyallová ze Statewatch. „Výzkumy opakovaně ukazují, že algoritmické systémy pro předpovídání trestné činnosti jsou ze své podstaty chybné. Přesto vláda prosazuje systémy umělé inteligence, které budou profilovat lidi jako zločince ještě předtím, než něco provedou,“ varuje na základě zkušeností z minulosti.
„Tento nejnovější model, který využívá data naší institucionálně rasistické policie a ministerstva vnitra, posílí a zvětší strukturální diskriminaci, která je základem trestněprávního systému. Stejně jako jiné systémy tohoto druhu bude kódovat předpojatost vůči rasovým a nízkopříjmovým komunitám. Vytvoření automatizovaného nástroje pro profilování lidí jako násilných zločinců je hluboce špatné a používání tak citlivých údajů o duševním zdraví, závislostech a zdravotním postižení je vysoce invazivní a alarmující,“ popisuje Lyallová některé konkrétní výhrady.
A apeluje na vládu: „Ministerstvo spravedlnosti musí okamžitě zastavit další vývoj tohoto nástroje pro předpovídání vražd. Místo vyhazování peněz na vývoj pochybné a rasistické umělé inteligence a algoritmů musí vláda investovat do skutečně podpůrných sociálních služeb. Škrty v sociálních službách a zároveň investice do techno-řešitelských ‚rychlých řešení‘ jen dále podkopávají bezpečnost a blahobyt lidí.“
Podle ministerstva spravedlnosti jsou ale tyto obavy neoprávněné. Pro Guardian jeho mluvčí uvedl: „Tento projekt se provádí pouze pro výzkumné účely. Byl navržen na základě stávajících údajů o odsouzených pachatelích, které má k dispozici Vězeňská a probační služba a policejní složky, aby nám pomohl lépe porozumět riziku, že se osoby ve zkušební době dopustí závažného násilí. Zpráva bude včas zveřejněna.“
