Britská vláda pracuje na AI systému, který má předvídat vraždy

Britská vláda ve spolupráci s vědci vyvíjí systém, jehož cílem je s pomocí umělé inteligence předpovědět, kdo by se mohl dopustit vážných násilných trestných činů včetně vražd, a to za pomoci analýzy dat policie a vězeňské služby. Píše to server deníku The Guardian. Kritici se obávají toho, že systém bude Brity nespravedlivě profilovat na základě citlivých osobních údajů.

Před šedesáti devíti lety napsal americký spisovatel Philip L. Dick povídku jménem Minority report. Popsal v ní práci jednotky Precrime, která řeší porušení zákona ještě dřív, než k němu došlo. Pomocí biotechnologie je totiž schopná předvídat, kdy k jakému zločinu dojde, a zatýká tak nevinné – lidi, kteří se ještě ničeho nedopustili, ale predikce říkají, že to udělají.

Před 23 lety povídku zfilmoval Steven Spielberg a stejně jako v předloze v ní zdůraznil zneužitelnost takové technologie. Letos spustilo britské ministerstvo spravedlnosti pilotní projekt, který má dělat to stejné – jen pomocí jiné technologie.

Program se měl původně podle deníku Guardian jmenovat „Projekt předpovídání vražd“, ale posléze byl přejmenován na méně nápadné „Sdílení údajů ke zlepšení hodnocení rizik.“ Upozornila na něj nezisková organizace Statewatch, která si na základě práva na svobodný přístup k informacím vyžádala všechny neutajené vládní dokumenty, jež se projektu nějak týkají.

Statewatch je britská charitativní organizace založená v roce 1991, která produkuje a propaguje kritický výzkum, analýzu politik a investigativní žurnalistiku s cílem informovat o debatách, hnutích a kampaních o občanských svobodách, lidských právech a demokratických standardech.

Data o podezřelých

Cílem projektu je zvýšit veřejnou bezpečnost. Podle úřadů je zatím ve fázi výzkumu a je založen výhradně na údajích od jednotlivců, kteří byli alespoň jednou usvědčeni z nějakého vážnějšího trestného činu. Začal vznikat ještě v době, kdy byl britským premiérem Rishi Sunak, a využívá data nashromážděná před rokem 2015. Zkoumané osobní údaje zahrnují jména, data narození, etnickou příslušnost, pohlaví a identifikační číslo, které lidem přidělí britská policie, pokud se dostanou do jejích záznamů.

Tento prediktivní nástroj využívá údaje z ministerstva spravedlnosti, databáze police National Computer a manchesterské a londýnské policie. Statewatch zjistila, že pro vývoj tohoto nástroje byly policejními složkami sdíleny údaje o 100 tisíci až 500 tisících lidech. Analýza tohoto velkého množství dat by měla probíhat s pomocí algoritmů umělých inteligencí.

Kritici se bojí kriminalizace nevinných

Kritici projektu podle Guardianu vyjádřili obavy z profilování lidí na základě citlivých osobních informací, včetně dat vztahujících se k duševnímu zdraví, sebepoškozování nebo domácímu násilí. Podle Statewatch navíc projekt analyzuje údaje také o lidech, kteří možná nikdy z žádného zločinu usvědčeni nebyli, a to včetně obětí zločinů. To ministerstvo popřelo, nicméně Statewatch na tom trvá.

„Pokus ministerstva spravedlnosti vybudovat tento systém předvídání vražd je posledním mrazivým a dystopickým příkladem záměru vlády vyvinout takzvané systémy předvídání zločinu,“ uvedla Sofia Lyallová ze Statewatch. „Výzkumy opakovaně ukazují, že algoritmické systémy pro předpovídání trestné činnosti jsou ze své podstaty chybné. Přesto vláda prosazuje systémy umělé inteligence, které budou profilovat lidi jako zločince ještě předtím, než něco provedou,“ varuje na základě zkušeností z minulosti.

„Tento nejnovější model, který využívá data naší institucionálně rasistické policie a ministerstva vnitra, posílí a zvětší strukturální diskriminaci, která je základem trestněprávního systému. Stejně jako jiné systémy tohoto druhu bude kódovat předpojatost vůči rasovým a nízkopříjmovým komunitám. Vytvoření automatizovaného nástroje pro profilování lidí jako násilných zločinců je hluboce špatné a používání tak citlivých údajů o duševním zdraví, závislostech a zdravotním postižení je vysoce invazivní a alarmující,“ popisuje Lyallová některé konkrétní výhrady.

A apeluje na vládu: „Ministerstvo spravedlnosti musí okamžitě zastavit další vývoj tohoto nástroje pro předpovídání vražd. Místo vyhazování peněz na vývoj pochybné a rasistické umělé inteligence a algoritmů musí vláda investovat do skutečně podpůrných sociálních služeb. Škrty v sociálních službách a zároveň investice do techno-řešitelských ‚rychlých řešení‘ jen dále podkopávají bezpečnost a blahobyt lidí.“

Podle ministerstva spravedlnosti jsou ale tyto obavy neoprávněné. Pro Guardian jeho mluvčí uvedl: „Tento projekt se provádí pouze pro výzkumné účely. Byl navržen na základě stávajících údajů o odsouzených pachatelích, které má k dispozici Vězeňská a probační služba a policejní složky, aby nám pomohl lépe porozumět riziku, že se osoby ve zkušební době dopustí závažného násilí. Zpráva bude včas zveřejněna.“

Výběr redakce

Aktuálně z rubriky Věda

Zemřela psycholožka Lydia Tischlerová, která prošla Terezínem i Osvětimí

Ve čtvrtek zemřela ve věku 97 let psycholožka Lydia Tischlerová. Její úmrtí potvrdil České televizi zdroj z jejího bezprostředního okolí.
před 14 hhodinami

Grónsko letos přišlo o 135 miliard tun ledu

Přestože byly v Grónsku během letošního roku podmínky, které neměly vést k větší ztrátě ledu, přišel největší ostrov světa o desítky miliard tun zmrzlé vody. Příčinou jsou podle vědců lidmi způsobené změny klimatu.
před 17 hhodinami

Čas strávený u videoher nedokazuje závislost, klíčová je ztráta kontroly, upozorňují experti

Intenzivní hraní videoher po vydání očekávaných titulů ještě neznamená automaticky závislost, rozhodující je ztráta kontroly nad hraním a dlouhodobé negativní dopady na reálný život. Vyplývá to z mezinárodních studií i výzkumu českých hráčů, na kterých se podíleli psychologové z Fakulty sociálních studií Masarykovy univerzity v Brně. Univerzita o tom informovala v souvislosti s vydáním očekávané hry Grand Theft Auto VI (GTA 6) .
před 20 hhodinami

Rakovina slinivky je stále zabiják. Neexistuje lék, Česko ale modernizuje péči

Jedna z nejobávanějších nemocí – rakovina slinivky břišní – je stále jen velmi špatně léčitelná, zlepšuje se ale diagnostika, což znamená, že se daří ji odhalovat dříve. Česká republika péči o nemocné v poslední době výrazně modernizovala.
19. 11. 2026‌‌

Nad mnoha městy už je vidět víc družic než hvězd, říká britská zpráva

Noční obloha už nikdy nebude jako dřív. Množství družic na oběžné dráze kolem Země je tak velké, že mění pohled na nebe – a zřejmě se to jen tak nezmění, ukazuje britský výzkum.
19. 11. 2026‌‌

Vědci dronem odebrali hleny keporkaků. Zkoumají jejich DNA

Skotští vědci zkoumající keporkaky používají dron, který odebírá hlen obsažený ve výdechové fontáně těchto kytovců. Sbírají tak vzorky DNA těchto mořských savců, informoval server britské BBC.
19. 11. 2026‌‌

Dosáhnout dna Hranické propasti vědcům pomůže nový robot

Vědci by mohli příští rok dosáhnout na dno Hranické propasti na Přerovsku, která je nejhlubší zatopenou jeskyní světa. Před čtyřmi lety se jim s robotem podařilo dostat do hloubky 450 metrů, níže kvůli technickým omezením nemohl. Příští rok však vědci plánují spustit pod vodu robota, který se může ponořit až do hloubky 1300 metrů, řekl František Kuda z Ústavu geoniky Akademie věd. Dno by podle něj teoreticky mohlo být zhruba v kilometrové hloubce, protože taková je mocnost vápence v nedalekém lomu.
19. 11. 2026‌‌

Archeologové našli na Olomoucku hradisko ze starší doby bronzové

Archeologové objevili v Charvátech na Olomoucku dosud neznámé opevněné sídliště ze starší doby bronzové. Pravěké hradisko, které mohlo sloužit jako centrum okolních komunit, chránily tři linie obranných příkopů. Archeologové při záchranném výzkumu odkryli také čtyři hroby a pozůstatky osídlení z několika pravěkých období. Rozsah opevněného areálu pomohl odhalit také geofyzikální průzkum.
18. 11. 2026‌‌

Evropský pohled

ČT24 každý den vybírá z obsahu publikovaného evropskými veřejnými médii, členy Eurovize.