Cosa insegna la vicenda della foto falsa generata dai supercomputer Una foto che raffigurava una finta esplosione vicino al Pentagono è stata diffusa martedì su Twitter da una serie di account verificati, causando confusione e panico tra gli utenti. La foto si è diffusa ampiamente sui social media nelle ore mattutine di frenesia del mercato azionario provocando un flash crash, facendo cioè scendere brevemente i titoli statunitensi e divenendo forse il primo caso nella storia di un’immagine generata dall’intelligenza artificiale che ha prodotto un calo del mercato azionario.

Non si sa se qualcuno abbia pilotato la cosa per fare una vendita allo scoperto di azioni, un modo predatorio per trarre profitto da un mercato ribassista. Ma quando è circolata la notizia che l’immagine era una bufala, lo Standard & Poor’s 500, il più importante indice azionario statunitense, ha rapidamente recuperato il suo valore.

La foto falsa, apparsa per la prima volta su Facebook, mostrava un grande pennacchio di fumo che, secondo un utente, si trovava vicino al quartier generale dell’esercito americano in Virginia. Ben presto si è diffusa su account Twitter che raggiungono milioni di follower, tra cui la rete di notizie controllata dallo Stato russo RT e il sito di notizie finanziarie ZeroHedge, entrambi riconoscibili per la spunta blu a pagamento legata al nuovo sistema di verifica Twitter Blue della società Elon Musk.

Questo episodio mette in luce la fragilità della società digitale di fronte all’uso spregiudicato dell’intelligenza artificiale e l’inaffidabilità di Twitter dopo i cambiamenti introdotti da Elon Musk. Non è la prima volta che la spunta blu inganna gli utenti. Già l’11 novembre scorso Eli Lilly sembrava aver pubblicato un messaggio insolito su Twitter, ma poi il gigante farmaceutico si è scusato per un tweet fuorviante in cui una persona che si spacciava per l’azienda scriveva: «Siamo entusiasti di annunciare che l’insulina è ora gratuita». La confusione che aveva toccato Eli Lilly (nome twitter reale @LillyPad) è frutto dei cambiamenti introdotti in Twitter dopo l’acquisizione da 44 miliardi di dollari da parte di Musk. Alcuni soggetti sono riusciti a creare facilmente un account Twitter dall’aspetto ufficiale – con un segno di spunta blu per il falso nome utente “Eli-LillyandCo” – pagando gli 8 dollari al mese richiesti per il “Twitter Blue”, che contraddistingueva gli account legittimi o di interesse pubblico.

Prima dell’arrivo di Musk i controlli blu venivano distribuiti liberamente alle fonti che Twitter riteneva degne di nota e affidabili. Il 5 novembre scorso il nuovo servizio “Twitter Blue” a pagamento è stato presentato come una democratizzazione della piattaforma. L’operazione ha aperto la porta a una serie di situazioni inconsuete con scherzi e inganni commerciali o finanziari, che hanno colpito varie aziende, e ora anche il mercato azionario.

Il 26 marzo, una foto di papa Francesco che indossava un vistoso piumino bianco, simile a quelli venduti dal famoso brand di lusso Balenciaga, era diventata virale sui social media, suscitando molta curiosità e dibattito tra utenti che credevano fosse vera. La foto era stata generata utilizzando un’intelligenza artificiale chiamata Midjourney, in grado di creare immagini iper-realistiche a partire da una descrizione testuale fornita dall’utente. Negli stessi giorni si sono diffuse foto false di Donald Trump, Emmanuel Macron e Vladimir Putin.

Le intelligenze artificiali possono farci vedere quello che non esiste, e sono a disposizione di chiunque. Contemporaneamente Twitter, con un modico abbonamento mensile, può darci la stessa visibilità di un capo di Stato. Entrambe queste cose pongono al centro una domanda che una certa contemporaneità voleva aver dissolto del tutto nel paradigma della post-modernità: a cosa dobbiamo credere?

Nel XXI secolo il problema centrale è ancora questo: credere. In un primissimo senso, questo credere va capito come una cifra della nostra condizione umana. Siamo esseri viventi non in grado di sopravvivere solo con gli istinti. Abbiamo bisogno di conoscere il mondo ma non possiamo conoscere tutto direttamente. La maggior parte delle nostre conoscenze è indiretta e mediata attraverso delle fonti come racconti di nostri simili, letture nei libri, immagini alle quali crediamo perché ci convincono. Crediamo perché riteniamo fonti affidabili, perché le speriamo tali.

Questo episodio ci mette di fronte, per parafrasare Adorno e Horkheimer, a una dialettica dell’informazione: se per i due autori nel procedere dell’illuminismo, la ragione era diventata uno strumento per il controllo sociale, portando alla degradazione della cultura e dell’individuo, oggi dobbiamo riconoscere che nel costruire la società digitale l’informazione da conoscenza condivisa, come sognata dalle prime comunità di attivisti online, è divenuta davvero uno strumento di controllo capitalista, come ci ha insegnato Shoshana Zuboff. Per evitare che le intelligenze artificiali siano i nuovi oracoli di questa stagione dove tutte le cose, anche quelle irreali, possono diventare credibili e, quindi, essere credute, abbiamo da cristiani una particolare missione: ricordare che credere non è un atto cieco ma il saper rendere ragione della speranza che è in noi (cf. 1Pt 3,15).