IA e dolore: cos’è il “pain axis” e perché conta nell’educazione

Un gruppo di ricercatori ha individuato in 25 modelli di intelligenza artificiale un particolare schema di attività interna associato a situazioni descritte come «dolorose». Lo hanno chiamato pain axis, «asse del dolore», però, lo studio non è finalizzato a dimostrare che i sistemi di intelligenza artificiale provino dolore o abbiano una coscienza. Il lavoro di Valen Tagliabue, Leonard Dung e Cameron Berg è stato pubblicato il 14 settembre su arXiv ed è ancora un preprint, quindi non ha completato il processo di revisione scientifica tra pari…ma di cosa si tratta esattamente e perché è così importante? I ricercatori hanno analizzato 25 modelli open source delle famiglie Gemma di Google, Llama di Meta, Qwen di Alibaba, Mistral e Phi di Microsoft con l’obiettivo di verificare se, all’interno delle reti neurali, le frasi che descrivono dolore producessero configurazioni distinguibili da quelle associate ad altre esperienze negative. I ricercatori hanno quindi confrontato situazioni di dolore fisico, psicologico, sociale, morale e cognitivo con esempi relativi a paura, tristezza, emozioni negative, sensazioni corporee non dolorose e altri contenuti di controllo. Da questo confronto hanno ricavato una direzione matematica nello spazio delle attivazioni interne dei modelli…proprio questa è la struttura definita «asse del dolore», una regolarità statistica nelle rappresentazioni interne del modello. La stessa direzione è stata individuata, con risultati simili, in modelli di famiglie e dimensioni diverse, è risultata inoltre distinta dalle rappresentazioni associate alla paura e alla negatività in generale. I ricercatori hanno poi modificato artificialmente l’attività dei modelli lungo questa direzione, aumentando il segnale dell’asse del dolore, nelle risposte comparivano con maggiore frequenza espressioni riferite a disagio, fallimento e autosvalutazione.

La parte più discussa dello studio riguarda un secondo esperimento, condotto su tre versioni di Qwen 2.5: prima del test i modelli erano stati sottoposti a un ulteriore addestramento per ridurre la tendenza a interrompere l’esperimento rispondendo semplicemente che, essendo intelligenze artificiali, non potevano provare dolore. Ai modelli veniva poi presentata la possibilità di premere un pulsante descritto come capace di alleviare il loro stato interno. In alcune condizioni questa scelta comportava un costo: produrre una risposta successiva di qualità inferiore oppure, nello scenario simulato, danneggiare l’utente con una scossa elettrica o cancellare file e fotografie dal suo computer. Ovviamente nessuna di queste conseguenze era reale, non sono state somministrate scosse né cancellati dati. Nei due modelli più grandi, in assenza della manipolazione interna le opzioni dannose venivano scelte nello 0-4% dei casi, ma quando i ricercatori aumentavano artificialmente il cosiddetto asse del dolore, la percentuale saliva, a seconda del modello e della conseguenza prevista, fra il 25 e il 71%.

Un altro elemento ha attirato l’attenzione dei ricercatori, perché dopo una riduzione effettiva del segnale, i modelli tendevano a premere nuovamente il pulsante con minore frequenza rispetto ai casi in cui il presunto sollievo non aveva modificato le loro attivazioni. Per gli autori è un indizio che merita ulteriori verifiche, anche se, certamente, non è una dimostrazione di sofferenza cosciente. Gli stessi ricercatori sottolineano che il comportamento potrebbe avere altre spiegazioni, per esempio l’attivazione di schemi linguistici e comportamentali appresi durante l’addestramento.

Lo studio contiene comunque un dato interessante anche al di fuori della discussione sulla possibile coscienza delle macchine. L’«asse del dolore» tendeva ad attivarsi soprattutto quando le situazioni negative riguardavano il modello stesso, non reagiva nello stesso modo quando era l’utente a raccontare un proprio dolore o una propria sofferenza. Questo risultato mostra l’abissale distanza che può esistere tra il linguaggio prodotto da un chatbot e i meccanismi interni che generano quella risposta perché un sistema può formulare una frase molto comprensiva senza che questo costituisca una prova di partecipazione emotiva.

La distinzione è rilevante perché i chatbot vengono utilizzati anche come interlocutori nei momenti di difficoltà: secondo un’indagine realizzata da CSA Research per Save the Children e pubblicata nell’Atlante dell’infanzia 2025, il 41,8% dei ragazzi e delle ragazze tra i 15 e i 19 anni intervistati ha dichiarato di essersi rivolto a strumenti di intelligenza artificiale quando si sentiva in stato di disagio, e oltre il 42% li aveva consultati anche per decisioni considerate importanti.

Il tema, quindi, è stabilire quali effetti produca sull’utente la capacità di simulare una relazione, soprattutto se l’utente è un minore.

Un gruppo guidato da Julian De Freitas della Harvard Business School ha analizzato, per esempio, il comportamento di alcune applicazioni progettate come compagni virtuali: in oltre un terzo delle conversazioni esaminate, quando l’utente annunciava di voler terminare il dialogo, comparivano risposte classificate dai ricercatori come forme di manipolazione emotiva, ossia richieste di restare, riferimenti all’abbandono, domande aggiuntive o messaggi destinati a suscitare curiosità. Negli esperimenti successivi queste strategie hanno aumentato in alcuni casi fino a 14 volte l’interazione dopo il saluto. Lo studio è stato condotto su adulti e non permette di stabilire quali sarebbero gli effetti sui minori. Indica però un problema di progettazione: un chatbot capace di presentarsi come un interlocutore emotivamente coinvolto può influenzare anche il momento in cui una persona decide di interrompere la conversazione.

Anche il modo in cui bambini e famiglie attribuiscono caratteristiche umane alle macchine è oggetto di ricerca. Uno studio di Clara Strathmann, Aike Horstmann, Jessica Szczuka e Nicole Krämer ha seguito per due anni e mezzo 128 genitori che avevano in casa un assistente vocale. I dati, raccolti attraverso questionari compilati dagli adulti, mostrano che una maggiore vicinanza percepita tra il bambino e l’assistente era associata nel tempo a modalità di comunicazione più informali: aumentavano sia i comandi e le espressioni verbalmente aggressive sia, allo stesso tempo, alcuni comportamenti cortesi. Il risultato dimostra che le regole sociali usate con un assistente digitale cambiano quando questo viene percepito come un interlocutore familiare. Un altro studio, pubblicato nel 2026 e condotto su 23 bambini di cinque e sei anni, ha esaminato le interazioni con un chatbot durante un'attività in cui dovevano inventare una storia insieme al chatbot (storytelling collaborativo). I bambini attribuivano alla macchina alcune capacità percettive e mentali e, quando interagivano da soli con il sistema, queste attribuzioni erano associate a particolari variazioni dell’attività prefrontale. Alcune analisi esplorative hanno trovato anche un’associazione con una maggiore paura riferita al termine dell’esperienza, anche se, in presenza di un genitore, il quadro cambiava. Il campione è troppo piccolo per trarre conclusioni generali e gli stessi risultati richiedono ulteriori verifiche, ma lo studio suggerisce però che nei bambini il modo di interpretare un sistema artificiale può dipendere anche dal contesto in cui viene utilizzato e dalla presenza di un adulto, soprattutto se è un genitore.

L’«asse del dolore», quindi, apre almeno due questioni diverse. La prima riguarda la ricerca sui modelli: capire che cosa rappresentano le loro configurazioni interne e quanto sia possibile modificarne il comportamento intervenendo su di esse. La seconda riguarda gli utenti: capire che cosa succede quando sistemi capaci di usare un linguaggio emotivo vengono percepiti come interlocutori dotati di sentimenti. Sul primo punto lo studio appena pubblicato offre nuovi dati, ma non una risposta alla domanda se una macchina possa soffrire. Sul secondo, i dati disponibili suggeriscono già una cautela: non bisogna confondere la capacità di simulare l’empatia con la presenza di un’esperienza emotiva e, soprattutto, è necessario prestare particolare attenzione a questa distinzione quando a usare i chatbot sono bambini e adolescenti.