Dalla Cina sta rimbalzando la notizia che sempre più comunità locali stanno sperimentando su larga scala un sistema in grado di classificare i comportamenti dei cittadini rilevandone quelli scorretti, assegnando dei punteggi che comportano delle sanzioni se si rivelano al di sotto di una determinata soglia di buona reputazione. I comportamenti scorretti per ora presi in considerazione vanno dalle infrazioni al codice della strada al fumo nei luoghi vietati, dall’acquisto di troppi videogiochi alla pubblicazione di notizie false online (ma è facile intuire dove si può andare a parare).

Già a nove milioni di persone – riporta 'Channel News Asia' – è stato impedito di acquistare biglietti di voli interni a causa di un punteggio sociale 'basso'. Esattamente come raccontato in una puntata della serie tv 'Black Mirror' del 2016, in cui si stigmatizzavano gli effetti disumani della diffusione di un simile sistema di controllo sociale, reso possibile dalle sempre più avanzate applicazioni dell’Intelligenza Artificiale.

È una coincidenza che dovrebbe far riflettere i troppi entusiasti delle «magnifiche sorti e progressive» dello sviluppo del digitale e degli algoritmi, e che sempre più spesso ci parlano di nuovo «umanesimo digitale», arrivando ad affermare addirittura che occorre cominciare a studiare l’ipotesi di riconoscere dei diritti ai robot in quanto sempre più capaci di agire autonomamente come l’uomo. Per non parlare delle utopie del transumanesimo che aspira a far diventare eterno l’uomo ibridandolo con il computer: non a caso è un movimento che sta crescendo in modo impetuoso nella Silicon Valley.

Una volta chiarito che è impensabile voler frenare lo sviluppo delle tecnologie digitali e dell’I.A., diventa però sempre più necessario ricordare che la scienza e la tecnologia dovrebbero essere al servizio dell’uomo, e non al di sopra o contro l’uomo, anche se affermarlo appare una banalità. Sostiene in merito Stefania Bandini, direttore del Complex Systems & Artificial Intelligence Research Center dell’Università Bicocca di Milano: «Viviamo nell’oscillazione tra una visione utopica dell’I.A. , con le macchine al servizio degli uomini, e la visione distopica di tanta filmografia che ci ha mostrato quanto possono essere minacciose per l’umanità alcune applicazione dell’Intelligenza Artificiale. Occorre vigilare».

Eppure non lo facciamo e – come dimostra il social credit cinese – si sta tranquillamente utilizzando l’Intelligenza Artificiale per controllare e manovrare le persone. Quanto agli algoritmi, sono sotto gli occhi di tutti i danni derivanti dallo sfruttamento commerciale dei dati personali; eppure alla domanda dei ricercatori sociali: «Per tutelare la vostra privacy rinuncereste ai social network?», la risposta è quasi sempre «no».

Lo straordinario successo di Amazon, basato su intuizioni assolutamente geniali, cresce per la soddisfazione dei consumatori, ma distrugge più posti di lavoro di quelli che crea, che oltretutto sono in maggioranza di livello bassissimo, come si rileva dalle puntuali analisi di 'Quartz', il sito di economia e finanza di 'The Atlantic''. In proposito, ecco come ha titolato recentemente il 'Financial Times': «Gli algoritmi garantiscono un grado di controllo che nemmeno il più sfegatato Taylorista avrebbe saputo immaginare, consentendo un rapace sfruttamento dei lavoratori».

Infatti per fare un lavoro assai simile a quello mostrato da Charlie Chaplin in 'Tempi Moderni', lo stipendio è di circa 13 dollari l’ora. Mentre un fattorino della cosiddetta gig economy (letteralmente l’«economia dei piccoli giri») guadagna cifre intorno ai due euro a consegna, e le spese per la bici o il motorino sono a suo carico. Ritorna quindi sempre più impellente la domanda: 'Lo sviluppo della tecnologia e dell’economia sono per l’uomo... o solo per quei quattro uomini sempre più ricchi ai quali non è stato posto alcun vincolo etico e di concorrenza, per cui stanno per diventare i padroni del mondo?'. Davvero curioso che si venga tacciati di conservatorismo oscurantista se si chiede di disegnare dei confini etici per scienza, tecnologia e Intelligenza Artificiale. Ben venga il nuovo «umanesimo digitale», ma solo se l’accento è sull’umano.

E dato che le previsioni distopiche degli autori di fantascienza si stanno puntualmente avverando, sarà il caso di rispolverare e aggiornare anche le famose tre leggi della robotica di Isaac Asimov, pensate a fine anni Quaranta del Novecento, la cui necessaria applicazione sta diventando di una attualità impressionante.