Comfreak/Pixabay

È naturale che l’imprenditoria, dinamica e duttile, tenti di ritagliarsi nuovi tipi di mercato al configurarsi di scenari nuovi e per certi versi inediti come quello pandemico di oggi. I servizi, i presidi di ogni tipo, le nuove regole, sono necessità, e quindi tutti terreni di possibile commercio. La gestione di cosa sia lecito e cosa no dovrebbe essere affidata in primis alle fondamenta etiche della nostra società. Ma questo rischia di rimanere un discorso sulla carta.

Sono colpito da alcune direzioni cosiddette di servizio, che cercano di mettere insieme la virtualità, al momento unica frontiera di relazione secondo il mainstream e complice il distanziamento sociale. Non in senso positivo. Mi riferisco in particolare ad alcune app elaborate in queste settimane e candidate per il contrasto al Covid–19. Quelle che mi lasciano fortemente perplesso si affidano non alla rilevazione dei dati, che comunque deve sempre essere interpretata, ma alla statistica presunta. Una specie di rilevazione induttiva non basata sui fatti ma sulle percentuali di probabilità che si ottengono sommando elementi di contorno.

Già tempo fa si parlava di software che avrebbero potuto determinare la propensione a delinquere delle persone, basandosi su elementi della loro vita, del loro comportamento e sui database che possono servire alla bisogna. La giustizia affidata a uno strumento del genere, raffinato che possa essere, non è più giustizia. Soltanto pochi giorni fa il filosofo Byung–Chul Han ha sottolineato il rischio di derive verso uno stato di polizia nella logica di contrasto al coronavirus.

L’uomo è complesso, ma non è una probabilità. Le variabili dei suoi comportamenti umani hanno un registro che è irrimediabilmente distante dal corrispettivo che si possa immaginare in una macchina. Il concetto stesso fa apparire Lombroso come una fonte di verità, tanto è discriminante, arbitrario e definitivamente ingiusto. Così ci sono aziende italiane che vogliono mostrare di essere più avanti dei coreani, proponendo una soluzione analoga per la supposizione induttiva di contagiosità asintomatica.

Come il corrispettivo riguardante la giustizia, una app di questo tipo mette al primo posto il concetto di identificazione precoce. Talmente precoce da basarsi sui dati statistici e non sulla evidenza. Il problema è che la identificazione precoce diventa talmente precoce da invertire la priorità irrinunciabile tra fatti e supposizioni.

Non dubito dei buoni sentimenti di chi propone queste soluzioni, posto che se ne faccia un problema. Ma il solo pensiero che si possano attuare restrizioni della libertà personale sulla base di una supposizione induttiva basata sul machine learning, mi appare una deriva estremamente pericolosa e sostanzialmente inaccettabile.

Gli ordini di motivi sono molti. Ne analizzo brevemente uno tra gli altri, esempio lampante e verificabile di come la supposizione via algoritmo possa essere fallace nell’analizzare le dinamiche antropocentriche. Tutti frequentiamo ormai i navigatori online. Maps e Waze sono le realtà maggiormente conosciute e caratterizzate dalla costante implementazione delle funzioni. Una delle caratteristiche più controverse e a volte dannose che hanno aggiunto a tutt’oggi, è quella della mitologica previsione del traffico. Araba fenice di ogni automobilista che si rispetti. Prima di tutto la previsione non è mai certa. Il mix di dati su cui si basa viaggia non di rado con qualche ritardo di tempo analizzando soluzioni per situazioni nel frattempo modificate. In conseguenza, credo sia una esperienza generale, le alternative di percorso elaborate risultano quasi sempre più problematiche e lente rispetto alla via originale. La capacita deduttiva di applicazioni cosi evolute è ancora talmente inadeguata al morphing della realtà che ha l’uomo al centro dei suoi meccanismi, da produrre risultati a volte contrari al risultato che si propone. Immaginarsi l’applicazione sulle dinamiche di un virus di cui ancora si sa molto poco, rapportato all’ambiente, rapportato alle abitudini, rapportato alla miriade di eventi possibili in ogni fase della giornata, rapportato alle singole caratteristiche genetiche di ognuno.

Ancora una volta la semplificazione è una tentazione forte che rischia di produrre danni enormi. Sulla via del diritto non si possono fare concessioni. Questioni come la libertà personale e la categorizzazione discriminatoria delle persone, non devono essere affidate in alcun modo alla probabilità. Solo la certezza dei fatti può essere una base per determinazioni in senso restrittivo o di giudizio che evidentemente non sono in alcun modo funzione del discernimento di algoritmi ancora fortemente trovare la strada più veloce per giungere alla meta.