Non più solo esecutori: gli algoritmi decidono al nostro posto, e agiscono come se avessero una coscienza - Archivio
Decide l’erogazione di un mutuo, quanto medicinale percola nelle vene di un ammalato, la direzione di marcia di un mezzo, l’affidabilità di una persona, lo stile di un romanzo, il valore di un curriculum, la traiettoria di un missile. Non è l’essere umano, non più. È la tecnologia, quella emergente, come l’intelligenza artificiale. Non esegue un programma prestabilito, pur non essendo intelligente davvero, pur non avendo una coscienza e non avendo coscienza di quello che fa, e tuttavia la macchina sa muoversi in un dominio anche piuttosto ampio senza che l’essere umano la guidi o l’abbia impostata precisamente a percorrere quei passi.
La macchina impara, dai dati, da quanto acquisisce dalla realtà, dai suoi errori. Anche dagli errori dell’essere umano che gli sta di fronte quando interagisce con lui. Non è un film di fantascienza e non è uno scenario costruito o raccontato per farci avere paura, è l’oggi delle macchine che va compreso e affrontato con competenza: ma non solo quella tecnica, soprattutto quella umana, quella che ogni lettore ha acquisito vivendo giorno per giorno lacrime e gioia della sua esistenza. Abbiamo oggi bisogno di fermarci un momento, di non girare lo sguardo altrove per timore di non capire e fare brutta figura. Abbiamo bisogno di prenderci tutti un po’ di tempo per vedere e scegliere, anche chi non sa usare un computer, anche chi lo usa regolarmente. La questione è di fondamento, è il cambiamento d’epoca, è il tempo che viviamo. Sì, perché la tecnologia non è neutra, perlomeno non lo sono le tecnologie emergenti di punta come l’intelligenza artificiale. Sino a ieri abbiamo sempre detto che non è la macchina responsabile del male e del bene, che dietro c’è sempre un umano con le sue scelte. Abbiamo ripetuto che la morale e l’etica sono un affare di noi sapiens, una vocazione di noi battezzati. La macchina ci ha spaventati perché si è presa dei posti di lavoro, è diventata complessa, protagonista di film che hanno fatto non solo botteghino, ma ampia cultura popolare che ci portiamo dietro e dentro, ma non si tratta più solo di questo: occorre prendere coscienza che la macchina oggi non è neutra e non è più un semplice strumento.
Si è creato uno scenario nel quale diventa decisivo il ruolo dei credenti, che devono leggere quale
Per comprenderlo – seguendo la lezione di Marco Fasoli, nel suo articolo «Contro lo strumentalismo tecnologico», giudicato il migliore articolo scientifico del 2020 – dobbiamo spacchettare la questione e guardarla da vicino. I tasselli decisivi sono: a) la capacità prescrittiva degli artefatti, cioè se e quanto essi incidono nelle nostre decisioni o nella formazione della nostra identità ed opinioni; b) la loro capacità di a- gire in modo autonomo nella realtà; e infine c) il loro valore morale, cioè se siano o meno capaci di incorporare dei valori. Se tali questioni sono soddisfatte allora ci troviamo di fronte a un oggetto che assomiglia sempre di più a un soggetto e, come tale, non è più neutro. Anzi, potremmo affermare che da oggetto diventa un vero e proprio ambiente, un quasi soggetto che definisce un ambiente.
Il primo punto è dimostrato dalla cronaca e dalla prassi. Nessuno di noi è capace di usare tecnologia senza che la tecnologia non lo usi almeno in misura uguale. Dalle fake news all’uso compulsivo dei social, dalla perdita progressiva della memoria al fatto che ci perdiamo nella stessa nostra città senza l’uso di un navigatore, sino al fenomeno degli influencer, è del tutto evidente che oggi decidiamo e ci muoviamo nel surplus informativo non solo assistiti dalle macchine ma molto spesso sostituiti da esse. Del resto, la rivoluzione digitale è una rivoluzione per sostituzione, e ciò che sostituisce non è semplicemente un artefatto con un altro ma una funzione tipicamente umana, come la funzione cognitiva, con una macchina. È accaduto con la ruota, che ha sostituito la schiena dei nostri progenitori nel trasporto dei pesi, accade oggi con il potere computazionale che ci libera da fatiche intellettuali di vario genere. Ma rendendoci forse diversamente dipendenti, se non schiavi.
Nelle attuali tecnologie sono incorporati valori perché sono loro stesse ad assegnarli in ciò che fanno mentre ne siamo dipendenti
La percezione del mondo passa attraverso strumenti, la tecnologia è il medium pressoché unico della realtà, e questo le assegna un ruolo evidentemente decisivo perché non siamo noi a decidere come essa medi la realtà, come gli algoritmi assemblino, filtrino, producano dati. Il secondo punto è quello dell’autonomia, dell’essere agente. Sino a che il dominio di riferimento è stata una scacchiera, pur riconoscendo alla macchina la brillantezza delle sue mosse, non abbiamo pensato che vi fosse vera autonomia. Le cose cambiano quando la macchina si muove, fisicamente o meno, in una realtà più ampia, quando ha una capacità di apprendere, di cercare e trovare connessioni nuove tra i dati che le vengono forniti o i dati che acquisisce in modo autonomo in un mondo sempre più interconnesso. La macchina trova schemi, modifica il mondo in cui li trova, modifica il modo in cui segue percorsi per giungere a risultati. Lo fa da sola, le abbiamo dato il potere di farlo nella nostra realtà. Sino a giungere – è accaduto di recente – a uccidere un essere umano senza che vi sia stato un esplicito comando di un altro essere umano. Un drone militare, in modo autonomo – così segnalano le Nazioni Unite – ha ucciso un soldato in fuga, giudicandolo un pericolo.
In questi scenari diventano necessarie metriche specifiche, chi progetta macchine ha bisogno di avere competenze, o competenti, che permettano in un modo algebrico di definire percorsi, valori, esiti desiderati o indesiderabili. La tecnologia può e deve incorporare dei valori, perché è sempre più autonoma, perché lei per prima assegna valori. Un sistema che eroga dei mutui, che decide di un curriculum, che assiste una corte di giustizia, assegna valori, morali. Che lo faccia in modo statistico predittivo e non coscienziale non sposta la questione nei suoi esiti. Il fatto che agisca come se avesse una coscienza, pur non avendola, ci interroga proprio perché noi, avendo una coscienza, ci si ponga l’interrogativo, e completa così i nostri punti.
In questi scenari diventa decisivo il compito dei credenti, dei teologi, del popolo di Dio e del Magistero. Insieme possiamo e dobbiamo leggere quale sia nel disegno di Dio il posto delle tecnologie emergenti: se non sono un semplice strumento, come abbiamo brevemente tentato di tratteggiare, ma un ambiente, un quasi soggetto, quale ecologia possiamo immaginare per prenderci cura, affinché la tecnologia si prenda cura? La Chiesa ha bisogno di una agenda digitale, ha bisogno di mettere in agenda il digitale tra le grandi questioni da affrontare seriamente. C’è una tecnologia da educare, prima che sia male educata, o perché ineducata o perché educata secondo disvalori. Abbiamo la responsabilità, a partire da un dono che ci è fatto, di portare nella sfera pubblica, nelle questioni che sono di senso comune, quanto ci è rivelato sul vivere, sul morire, sul crescere, sul dovere, sulla libertà, sul potere, sul senso. Sono tutte tessere di un mosaico che il Covid ha mandato in frantumi e che la trasformazione digitale ha impattato e sta mutando. Sono i confini della Terra, confini anche immateriali, in cui il risuonare della Parola di salvezza è atteso.
