Sostituto è colui che opera in assenza di qualcuno. Il rapporto tra il sostituto e il sostituito è gerarchico e fiduciario e, da un punto di vista giuridico, stabilisce la legittimità delle azioni del sostituto. Spesso, la figura del sostituto è nota anche se a volte implicitamente assunta. Ad esempio, non ci chiediamo quali sono le funzioni del “sostituto d’imposta” e, soprattutto, non sappiamo con precisione chi è il sostituito. Per inciso, sostituire significa letteralmente stare sotto, un concetto che coincide con quanto ci dice la nostra intuizione linguistica. Sostituire significa anche scambiare, nel senso che qualcuno prende il posto di qualcun altro per svolgere le sue azioni. In questa accezione, la sostituzione non prevede un rapporto gerarchico ma un vero e proprio scambio. Il sostituito scompare dalla scena e, al suo posto, il suo “scambiato” opera autonomamente. Lo scambio è una figura narrativa che in tante occasioni compare in letteratura e nel cinema. Può avere connotazioni tragiche o, forse ancor meglio, comiche. In tutti i casi suscita emozioni forti, soprattutto quando lo scambio è segreto o conosciuto da pochi. Continuando l’analisi linguistica della sostituzione si scopre che scambiare è un quasi sinonimo di cambiare.

Questa analisi ci permette di rileggere i passaggi epocali della nostra civiltà nell’ottica del cambiamento inteso come sostituzione. L’uomo inventa la ruota e il carro lo sostituisce per trasportare oggetti pesanti, soprattutto se davanti al carro c’è un cavallo o un bue. Poi inventa la macchina a vapore e il treno sostituisce il carro per spostare persone e merci. L’ultima sostituzione è quella più recente e, per tante ragioni, più pervasiva: i calcolatori sostituiscono l’uomo nello svolgimento di azioni che richiedono un calcolo. Si tratta della rivoluzione digitale e della successiva realizzazione di entità artificiali dotate di una loro intelligenza. Riprendendo il ragionamento linguistico possiamo vedere la sostituzione dell’umano da parte dell’artificiale digitale come una efficace delega a svolgere funzioni che richiedono molto tempo e che sono intrinsecamente noiose e ripetitive. Sappiamo moltiplicare, senza l’ausilio di una calcolatrice, due numeri di due cifre ciascuno ma ci rifiutiamo di svolgere la stessa operazione quando i due numeri hanno, ad esempio, venti cifre. La riluttanza a effettuare questo calcolo è motivata dalla quantità di tempo necessaria e dall’alta probabilità di commettere un errore che ci costringerebbe a ripetere il procedimento più volte, con un prevedibile e fastidioso senso di impotenza. La complessità tecnologica della società ha fatto sì che in pochi decenni la delega assegnata all’artificiale digitale si sia estesa senza limiti apparenti. Ma poiché sostituzione significa anche scambio, nel caso delle entità con intelligenza artificiale le conseguenze si rivelano profonde e inattese. Se al posto di un giornalista agisce un’entità capace di comporre autonomamente un articolo di cronaca, come cambierà il risultato? Il contenuto dell’articolo sarà “autentico”?

Se da un punto di vista sintattico non c’è alcuna differenza tra il prodotto di un essere umano e quello di un’entità artificiale, semanticamente tutto è diverso. Ecco che il cambiamento indotto dalla sostituzione assume connotazioni traumatiche o, quanto meno, problematiche. La sostituzione dell’umano con l’artificiale porta con sé anche alcune considerazioni filosofiche. Operando in maniera autonoma, l’entità sarà in grado di conoscere e rispettare quei vincoli che per l’umano costituiscono l’agire etico? Sarà in grado di percepire la distinzione tra il bene e il male? Ad esempio, in un film scritto e diretto da umani, è possibile leggere la trama e ricostruirne le tracce culturali e sociali. Il racconto della guerra del Vietnam, presentato con crudezza da Coppola e Kubrick in Apocalypse Now e Full Metal Jacket, aveva lo scopo di denunciare gli irrimediabili danni provocati da quel conflitto. Un’entità digitale avrebbe saputo cogliere volontariamente questi aspetti o, animata da stimoli arbitrari e guidata da un enorme archivio di immagini, avrebbe agito in maniera inconsapevole? L’inserimento di un sistema etico in un’entità artificiale autonoma richiede un salto tecnologico attualmente ritenuto impossibile. « Per le AI non è pensabile alcuna forma di etica automatica o implicita», così scrive Paolo Benanti in Human in the loop – Decisioni umane e intelligenze artificiali (Mondadori Università).

Diamo per scontato che le entità digitali operino nel rispetto di regole che proteggono gli umani. Chi costruisce tali entità deve rispettare standard stringenti che garantiscono aspetti qualitativi elencati minuziosamente dall’ingegneria del software, tra cui sicurezza, innocuità, rispetto della privacy. Si parla esplicitamente di etica “per” le entità digitali, nel senso che il sistema di valori deve essere presente e rispettato da parte di chi tali entità progetta e realizza. Ma quando diventano “intelligenti” e autonome, allora si parla di etica “delle” entità digitali, un’etica che deve controllarne i comportamenti. Al momento non sappiamo costruire questa forma di etica, perché inevitabilmente ricadiamo nell’altra, quella di chi le entità le realizza. Detta in maniera più semplice, l’etica non si può programmare razionalmente perché scaturisce dall’esperienza e dal libero arbitrio umano. « Le risposte dovremo trovarle noi, dal momento che le tecnologie che stiamo creando non possono fornirci alcuna risposta a riguardo», afferma Simone Natale nell’introduzione a Macchine ingannevoli (Einaudi). Studiare le entità digitali senza pregiudizi e in maniera interdisciplinare sembra, per ora, la buona indicazione.