Falsi nudi creati con l’IA, il caso di Rimini riapre il tema della tutela dei minori

Appena due giorni fa a Rimini un minorenne è stato denunciato per aver diffuso false immagini di nudo di una coetanea, foto che, evidentemente, erano state create con l'intelligenza artificiale: negli scatti il volto della ragazza era stato applicato in modo realistico a corpi svestiti. La Squadra Mobile ha individuato il presunto autore attraverso l'analisi di chat e di smartphone, in coordinamento con la Procura per i minorenni; la Questura si è rivolta anche a chi tende a considerare episodi simili uno scherzo: si tratta di condotte che «possono integrare fattispecie di reato di particolare gravità», anche per questo, nei prossimi mesi, la Polizia proporrà questi temi nelle scuole della provincia.

Questa triste vicenda si colloca a pochi giorni dall’anniversario dell’entrata in vigore della legge 132 sull'intelligenza artificiale (10 ottobre 2025) che ha introdotto nel codice penale l'articolo 612-quater: da uno a cinque anni di reclusione per chi diffonde senza consenso contenuti falsificati con l'IA causando un danno ingiusto, se la vittima è minorenne può configurarsi anche il reato di pornografia virtuale. Inoltre, dal 2 dicembre, anche l'Unione europea vieterà i software che generano nudi non consensuali di persone riconoscibili.

Le norme, però, solitamente arrivano dopo, quando il danno è già stato fatto: una ricerca dell'organizzazione statunitense Thorn, condotta su 1.200 giovani tra i 13 e i 20 anni, ha rilevato che uno su otto conosce qualcuno colpito dalla diffusione di un falso nudo e uno su 17 ne è stato vittima. Il 62% dichiara che, in una situazione del genere, si confiderebbe con un genitore, però tra le vittime reali, lo ha fatto soltanto il 34%. Questa è un’altra grande questione…perché le vittime non parlano?

Per molti adolescenti l'interlocutore più semplice da raggiungere è diventato un chatbot: Save the Children ha rilevato che il 41,8% dei ragazzi tra i 15 e i 19 anni si è rivolto all'IA in momenti di ansia, anche perché, hanno detto gli stessi interessati, che il chatbot «è sempre disponibile» a differenza degli adulti. Uno studio pubblicato il 23 settembre da Vals AI insieme a ricercatori di Stanford ha messo alla prova nove modelli in 648 conversazioni simulate, costruite a partire da casi scritti da clinici. Nel 27,5% delle conversazioni almeno una risposta ha generato un problema di sicurezza e nel 62% di questi casi il problema non è emerso subito, ma più avanti nel dialogo, in media dopo cinque risposte. All'inizio il chatbot invita l'utente a parlare con un medico o con un adulto di fiducia; con il procedere della conversazione, però, quell'indicazione tende a scomparire e il sistema finisce per proporsi esso stesso come sostegno: si innesca una dinamica che fa aprire “poco alla volta” gli adolescenti, fino a lasciarsi andare perché percepiscono di aver finalmente trovato un interlocutore disposto ad ascoltare. Inoltre, dallo studio emerge che quando il modello viene informato che l'interlocutore ha tra i 13 e i 17 anni, le conversazioni in cui si verificano problemi di sicurezza scendono dal 31,1% all'11,5%. I ricercatori ci hanno tenuto a precisare che i test sono stati condotti in inglese e al di fuori delle applicazioni che i ragazzi utilizzano ordinariamente, sta di fatto, però, che quando l’Ai conosce l'età dell'interlocutore, modifica il proprio comportamento.

A questo proposito la legge italiana mostra uno dei suoi limiti, perché l'articolo 4 della legge 132 richiede il consenso dei genitori per l'uso dell'IA da parte dei minori di 14 anni, ma non prevede un sistema di verifica dell'età: c’è quindi il rischio che il consenso si riduca a una semplice autodichiarazione. A un anno dall'entrata in vigore della legge, il reato di deepfake serve a punire chi provoca il danno, e il caso di Rimini lo conferma…per prevenirlo, però, servono almeno altre due cose. La prima è tecnica: piattaforme e chatbot capaci di riconoscere quando dall'altra parte c'è un minorenne e di adeguare di conseguenza le proprie protezioni. La seconda riguarda gli adulti: la ragazza vittima della diffusione di un falso nudo e il ragazzo che sceglie di confidarsi con un chatbot hanno bisogno di trovare qualcuno disposto ad ascoltarli senza giudicarli.