Da tempo ormai si è capito che se da una parte l’uomo costruisce strumenti per studiare e modificare l’ambiente, dall’altra gli strumenti retroagiscono in maniera più o meno profonda sull’uomo, modificandone le facoltà e la condotta. Questa retroazione, già palese nel caso di strumenti che elaborano materia o energia, assume un’evidenza grandissima nel caso degli strumenti digitali che elaborano informazione. Ormai si riconosce che le reti, i computer, gli smartphone e via dicendo si fondono sempre più intimamente con gli umani, dando luogo a tutta una gamma di entità che, se a un estremo sono puri oggetti (i cari vecchi oggetti di una volta) e all’altro sono puri soggetti (i cari vecchi soggetti di una volta, gli umani), in mezzo sono entità miste. La tecnologia digitale porta a una vera e propria ibridazione, più o meno spinta, tra soggetti e oggetti: da una parte gli oggetti divengono sempre più autonomi nelle decisioni e nelle azioni; dall’altra i soggetti umani delegano sempre più decisioni e azioni agli strumenti. Il trasferimento di prerogative e competenze è evidente nelle applicazioni dell’intelligenza artificiale: già da tempo sugli aerei si installano dispositivi di pilotaggio automatico, e sempre più diffusi sono i progetti di automobili autonome. Questo passaggio di competenze comporta un dislocamento della responsabilità nel caso di incidenti e di guasti. Oggi la responsabilità non può essere attribuita a uno strumento, per quanto raffinato, e quindi si è aperto un vuoto legislativo che si va colmando grazie agli sforzi di ingegneri, politici e giuristi. Inoltre, come fa notare Andreas Spahn, del Politecnico di Eindhoven, in Olanda, l’interazione uomomacchina nella sua forma più avanzata, l’ibridazione, comporta sempre più spesso una modificazione intenzionale della condotta umana: si progettano così tecnologie persuasive, che agiscono sugli umani con delicatezza, e tecnologie più risolute, che limitano di fatto l’autonomia del soggetto.

I dispositivi digitali (per esempio quelli contenenti elementi di intelligenza artificiale) richiedono una riformulazione di principio (ontologica e morale) dei concetti di soggetto e oggetto e mettono in luce l’ambivalenza della tecnologia: come il suo inventore Prometeo, sommo artigiano e abile truffatore, essa si rivela prodiga di doni e vantaggi e allo stesso tempo insidia la nostra autonomia e ci condiziona tramite allettanti dipendenze. Questa natura duplice della tecnica fu notata con grande chiarezza da Platone, il quale nel Fedro ricorse al mito per illustrare i vantaggi e gli svantaggi della scrittura. Secondo la leggenda, fu il dio egizio Theuth a inventare la tecnica della scrittura, e ne illustrò al faraone Thamus i mirabolanti benefici: «La tecnica da me concepita renderà gli egiziani più sapienti e più dotati di memoria». In effetti la scrittura rende più facile la conservazione e la trasmissione dell’informazione, e questo è un vantaggio; ma, obietta il faraone, «Il vero effetto di questa techné sarà la dimenticanza, perché affidandosi a questo strumento [oggi diremmo estroflessione cognitiva] la memoria non sarà più esercitata e quindi si indebolirà. Quanto alla sapienza, chi userà la scrittura avrà a disposizione una grande quantità di informazioni, che non fanno verità, ma solo un’apparenza di sapienza. Sembrerà un erudito pur essendo ignorante». La scrittura è dunque come un farmaco, che in greco significa medicina ma anche veleno. Per avere sapienza, insomma, è necessario che le informazioni siano strutturate secondo criteri che il soggetto via via si dà in base alle circostanze, alle necessità e all’esperienza. A volte immagino una scala discendente che nel corso del tempo ci ha portato dalla sapienza alla saggezza, di qui all’informazione e poi giù giù ai dati... E oggi i dati hanno un’importanza enorme: governati da algidi algoritmi impenetrabili, i “megadati” costituiscono la materia prima (alcuni hanno parlato di nuovo petrolio) che alimenta l’economia e la finanza, condizionando, fuori del controllo umano, le decisioni politiche e gli interventi militari. Oggi, con la tecnologia digitale, l’ibridazione soggetto-oggetto è diventata sempre più intima: gli strumenti sono vere e proprie protesi cognitive e attive, che non si limitano ad aiutarci ma tendono anche a condizionarci, o addirittura a sostituirci, limitando, in modo delicato o perentorio, il nostro libero arbitrio, interferendo quindi con la nostra libertà di scelta e di azione.

In molti casi peraltro non possiamo rinunciare a queste protesi, dalle quali siamo ormai dipendenti, pena una limitazione delle nostre facoltà: chi oggi, nella società occidentale, potrebbe rinunciare al computer, alle reti sociali, al telefono mobile? Chi saprebbe e vorrebbe tornare a scrivere a mano dopo aver delegato la scrittura alle macchine? Tanto che per la comodità offertaci dalla videoscrittura rinunciamo ad esercitare le aree cerebrali preposte alla grafia, che forse, un giorno più o meno lontano, saranno inesplicabili relitti evolutivi. Se si adotta l’impostazione kantiana e si suppone che ciò che ci rende umani sia «la legge morale dentro di noi», si può considerare questa legge come base per la valutazione delle azioni compiute da agenti razionali dotati di libero arbitrio quali noi ci consideriamo. La razionalità ci serve da guida nella scelta delle azioni da compiere per conseguire un certo fine, ma anche, e prima, ci serve da guida nella scelta del fine da conseguire. Come osserva ancora Spahn, si tratta di un’impostazione cognitivista del-l’etica, secondo la quale nelle decisioni ci si lascia condurre soltanto dalla ragione: altri elementi, come le emozioni, le tradizioni e le intuizioni, non hanno nessuna parte nelle valutazioni e nelle decisioni. È evidente che questa impostazione è molto interessante per l’intelligenza artificiale. Infatti i futuri agenti digitali potrebbero non essere dotati di intuizioni ed emozioni, ma potrebbero essere programmati per agire razionalmente.

C’è però da chiedersi come si configuri l’interazione dell’uomo con agenti digitali di questo tipo. Tornando alle tecnologie progettate per condizionare la condotta dei soggetti umani, esse si possono dividere grosso modo in due categorie, quelle materiali e quelle informazionali. Le prime tendono a modificare l’ambiente fisico entro il quale il soggetto prende le sue decisioni: per esempio i dissuasori stradali che invitano, o obbligano, a moderare la velocità di guida. Le seconde, dette anche tecnologie persuasive, sono più raffinate e ricorrono a indicazioni per modificare o condizionare il comportamento del soggetto: per esempio segnali luminosi di diverso colore e intensità che indicano approvazione o invitano a una rettifica della condotta. Altri strumenti possono supplire a dimenticanze o a un indebolimento della volontà in relazione per esempio all’assunzione di un farmaco. Naturalmente in quest’ultimo caso affidarsi alla tecnologia potrebbe implicare un ulteriore indebolimento della volontà, dato che il soggetto rinuncia alla sua autonomia e vive nella beata dipendenza da uno strumento che sicuramente gli dirà che cosa fare. Un’ulteriore contrapposizione si può tracciare fra educazione e manipolazione. Si tratta di due strategie asimmetriche che tendono entrambe a modificare la condotta del soggetto, ma ricorrono a metodi diversi. Nella manipolazione si tende a mantenere asimmetrica la relazione e a rendere dipendente il soggetto. Nell’educazione, viceversa, si tende a superare l’asimmetria iniziale tra educatore ed educando poiché si mira ad accrescere la competenza di quest’ultimo. Semplificando, il fine dell’educazione è la fine dell’educazione: l’educatore e l’educando tendono ad acquisire una posizione paritetica. Con l’avvento delle “macchine della mente” il rapporto uomo-tecnologia si arricchisce dunque di nuovi aspetti e sfumature che nel complesso sembrano indicare una progressiva ibridazione, e conseguente confusione, tra soggetto e oggetto. C’è da chiedersi se le caratteristiche che nei secoli hanno contraddistinto con sempre maggior chiarezza gli esseri umani, cioè la dignità, l’etica e l’autonomia, saranno preservate oppure saranno sottoposte a una tensione dagli esiti imprevedibili.