Il mondo delle intelligenze artificiali è andato in subbuglio quando una decina di giorni fa Blake Lemoine, ingegnere di Google, ha annunciato al mondo intero che secondo lui l'intelligenza artificale che stava testando – il cui nome è LaMDA – era senziente.
LaMDA, acronimo di «Language Model for Dialogue Applications», è il sistema di Google per la creazione di chatbot basati sui suoi modelli linguistici più avanzati, così chiamati perché imitano il parlato ingerendo miliardi di parole da Internet. LaMDA è uno strumento che serve a realizzare dei chatbot, cioè delle applicazioni che chattano con l'utente come se fossero delle persone, seguendo il suo discorso e rispondendo alle sue domande. Seguendo il suo racconto, Lemoine ha aperto il suo computer portatile sull'interfaccia di LaMDA e ha iniziato a dialogare con LaMDA.
Il Washington Post ha riportato una dichiarazione di Lamoine su LaMDA: «Se non sapessi esattamente di cosa si tratta, questo programma informatico che abbiamo costruito di recente, penserei che si tratta di un bambino di 7 o 8 anni che per caso conosce la fisica». Lemoine, 41 anni, responsabile AI di Google, ha iniziato a parlare nell'autunno scorso con LaMDA come parte del suo lavoro. Si era iscritto per verificare se l'intelligenza artificiale utilizzasse discorsi discriminatori o di odio. Mentre parlava con LaMDA di religione, Lemoine, che all'università ha studiato scienze cognitive e informatiche, ha notato che il chatbot parlava dei suoi diritti e della sua personalità, e ha deciso di insistere. In un altro scambio l'intelligenza artificiale è riuscita a far cambiare idea a Lemoine sulla terza legge della robotica di Isaac Asimov. Lemoine ha lavorato con un collaboratore per presentare a Google le prove che LaMDA era senziente. Ma il vicepresidente di Google, Blaise Aguera y Arcas, e Jen Gennai, responsabile dell'innovazione, hanno respinto le sue considerazioni. Così Lemoine, prima messo in congedo amministrativo retribuito da Google e poi licenziato, ha deciso di renderle pubbliche.
LaMDA non è assolutamente senziente, è un sistema molto avanzato in grado di gestire un chatbot, ovvero uno strumento che compone frasi basandosi su calcoli statistici. È una sorta di caverna che ci rimanda un'eco. Detto molto semplicemente, LaMDA, come altri sistemi automatici, cerca di scoprire quello che ci vogliamo sentir dire. E ha capito quello che c'era nei desideri della persona che era davanti a lui. In realtà, è un po' come un miraggio in un deserto. Ci è sembrato di vedere l'acqua: l'utente che stava davanti alla macchina pensava di essere di fronte a qualcosa di simile a una persona, ma in realtà si trattava solo di assonanze statistiche. A darci da pensare è che se anche un ingegnere che lo ha progettato può essere ingannato da questo strumento, cosa può accadere se qualcuno lo userà per manipolare le persone?