Si chiama Headliner Voice e sembra un gioco. Puoi scegliere un personaggio famoso e fargli dire quello che vuoi, semplicemente digitando un testo. Ce n'è per tutti i gusti: da Mark Zuckerberg a Donald Trump, dall'attore Morgan Freeman alla popstar Beyoncè. Scegli il personaggio, appare la sua faccia, scrivi un testo e lui – come un burattino digitale – ripete quello che hai scritto.
L'abbiamo accennato: sembra un gioco. Però non è soltanto un gioco. Per creare ogni singola voce sono stati campionati minuti e minuti di dialoghi di ognuno dei personaggi. Le voci, volutamente, sono simili ma non uguali alle originali. «Per evitare – spiegano i creatori – usi dannosi del progetto». Il fine dichiarato di questo progetto è quello di vendere fra poco «font vocali personalizzati» per rendere più efficaci i post social delle aziende.
Questo è soltanto uno degli «esperimenti» di questo tipo, presentati nelle ultime settimane. Esiste anche il sito This Person does not exist («questa persona non esiste») che ad ogni ricarica della home page mostra la fotografia di una persona che non esiste, ma il cui volto è stato creato dall'intelligenza artificiale. Lo guardi e ti strofini gli occhi tanto quei volti sembrano veri. Dimostra come oltre ai discorsi finti si possono ormai facilmente creare anche facce finte, inventate di sana pianta ma assolutamente verosimili. E così, per esempio, creare profili social falsi sempre più simili a quelli reali.
Il prossimo passo è poter realizzare video facendo dire a chiunque sia mai stato ripreso anche solo con uno smartphone cose che non ha mai detto, mescolando ad arte frammenti digitali. Già anni fa il Massachusetts Institute of Technology dimostrò che questa frontiera era possibile. Da allora è passato qualche anno e l'abilità dei computer e dell'intelligenza artificiale è talmente cresciuta che manca davvero poco perché questi video diventino praticamente perfetti.
Nel frattempo, l'organizzazione Open AI ha annunciato di avere creato, utilizzando testi presi da 8 milioni di pagine web, un modello di intelligenza artificiale chiamano Gpt-2 «che è in grado di produrre fake news senza l'intervento umano». Viste le sue potenzialità dannose Open AI ha precisato «che per questo motivo non rilascerà la versione completa».
GPT-2 infatti è capace «non solo di produrre testi, ma anche di creare tesi argomentate a sostegno di qualunque affermazione, vera o falsa che sia». Per ora questa tecnologia non sarà divulgata. Ma partendo da questi studi, altre società potrebbero creare «software progettati per simulare alla perfezione una conversazione con un essere umano».
In giro ci sono molti altri progetti digitali che usano il falso per simulare il vero o il vero per creare il falso. Ma basta anche soltanto mettere insieme questi esperimenti annunciati negli ultimi giorni per far apparire un quadro potenzialmente da brividi. Presto, se non governato a dovere, potremo avere un mondo con così tante voci, immagini e testi falsi ma così ben progettati da sembrare talmente reali da generare sempre più caos. Basta vedere ciò che i social ci hanno dimostrato in questi anni con le fake news e non solo con quelle, per capire che c'è poco da stare allegri. Perché già oggi molti finiscono per credere in qualcosa di falso credendolo vero. Perché siamo pigri, perché siamo distratti, perché ciò che conferma i nostri preconcetti lo accettiamo e lo rilanciamo senza pensarci troppo (colpa del cosiddetto confirmation bias). Per questo servono sin da ora politici e uomini di scienza lungimiranti. Perché quella tra vero e falso sarà anche una battaglia che vedrà contrapposte macchine e intelligenze artificiali, ma per guidarla serviranno uomini di qualità. Occorre fare in fretta. Prima che il falso possa dilagare ovunque con effetti ancor più disastrosi di quelli attuali.