Web

Il governo britannico sta sviluppando un progetto per la «previsione degli omicidi» basato su algoritmi in grado di identificare le persone con maggiori probabilità di diventare assassini. Lo ha rivelato il Guardian in un’inchiesta realizzata con il contributo di un’associazione, Statewatch, impegnata nella difesa delle libertà civili.

La quantificazione della propensione a commettere reati sarebbe il risultato di una formula che elabora i dati associati ai nomi già presenti nei database della polizia del Regno Unito: non solo data di nascita, genere ed etnia ma, per esempio, motivi del primo contatto con la polizia ed età in cui è avvenuto. Approccio in odore di fantascienza che ricorda la trama del film “Minority Report” e della serie “Person of Interest”. Non a caso, il progetto, lanciato dal governo conservatore di Rishi Sunak ma portato avanti dall'attuale esecutivo laburista, è stato definito dagli attivisti di Statewatch come «inquietante e distopico». Pericoloso perché nutrito da informazioni sensibili che riguardano anche le vittime di reato.

Il Ministero della Giustizia ha assicurato che l'algoritmo messo a punto per l'iniziativa elabora solo dati di persone su cui pende una condanna penale e che in ogni caso si tratta solo di un test a scopo di ricerca concepito per «esplorare tecniche innovative» di data science in materia di sicurezza. Il programma, va però sottolineato, è stato originariamente concepito come strumento di «prevenzione» dei crimini gravi ma ha poi cambiato nome diventando attività di «condivisione dei dati per migliorare la valutazione del rischio».

Le rassicurazioni del governo non hanno convito Sofia Lyall, ricercatrice dell'associazione Statewatch, che ha lanciato l’allarme sui
«difetti» intrinsechi degli algoritmi utilizzati nella prevenzione del crimine: «Questo nuovo modello finirà per rafforzare e amplificare la discriminazione sistemica nel sistema legale penale - ha sottolineato - codificando i pregiudizi già esistenti per esempio contro le minoranze e le comunità a basso reddito». «Costruire uno strumento automatizzato per profilare le persone come criminali violenti è profondamente sbagliato - ha aggiunto - come invasivo e preoccupante è l’uso di dati sensibili come quelli relativi alla salute mentale, alle dipendenze e alla disabilità». La formula, questa è la denuncia, è alimentata anche da indicatori di salute con potere predittivo significativo, come quelli su suicidio, vulnerabilità e autolesionismo, riferiti a cittadini innocenti che si sono rivolti alla polizia per chiedere aiuto.

Un portavoce del ministero britannico della Giustizia ha ribadito: «Questo progetto è condotto solo a fini di ricerca utilizzando dati già esistenti del servizio penitenziario e di libertà vigilata e delle forze di polizia su soggetti già condannati. Un rapporto sugli esiti del progetto sarà pubblicato a tempo debito».