Il 1° gennaio 2024 si celebra la 57esima Giornata Mondiale della Pace, che avrà come tema “Intelligenza Artificiale e Pace”. Il 14 dicembre, presso la Sala Stampa della Santa Sede, è stato presentato il messaggio che Papa Francesco ha preparato per questo evento, dal titolo “L’intelligenza artificiale sia etica e per la pace” (“Avvenire” l’ha pubblicato con cronache e commenti il 15 dicembre). Il dibattito sull’intelligenza artificiale, sull’impatto che sta avendo e che potrà avere sulla società, è molto intenso e fortemente sentito anche dai non addetti ai lavori. Capita spesso, durante una cena o in una riunione familiare, che qualcuno chieda chiarimenti, notizie, su ChatGPT o su uno dei tanti sistemi artificiali facilmente accessibili dal web.

Il desiderio di capire una tecnologia nuova e misteriosa è stato intercettato dai mezzi di comunicazione che, nel tentativo di spiegare ai più, semplificano e a volte banalizzano concetti tecnici complessi e profonde implicazioni sociali. Anche il tema della pace o, meglio, della guerra è di drammatica attualità con due conflitti a noi vicini che lacerano le coscienze e separano i popoli. Nel suo messaggio, Francesco combina intelligenza artificiale e pace, aggiungendo a questa miscela un ulteriore ingrediente, l’etica. È un contributo che deve essere attentamente studiato, sia per l’autorevolezza di chi l’ha proposto sia per la ricchezza e la forza del suo contenuto. Sperando di averlo correttamente interpretato, da informatico impertinente ne azzardo una lettura sintetica e parziale, in cui individuo fili che provo a riannodare con cura e attenzione.

L'intelligenza artificiale è una tecnologia che, recentemente, ha mostrato grandi progressi e che, si teme, potrebbe non essere a beneficio dell’umanità. Francesco afferma che «il progresso della scienza e della tecnica (...) porta, dunque, al miglioramento dell’uomo e alla trasformazione del mondo» anche se ritiene che «i progressi tecnico-scientifici (…) stanno mettendo nelle mani dell’uomo una vasta gamma di possibilità, alcune delle quali possono rappresentare un rischio per la sopravvivenza e un pericolo per la casa comune». Una posizione positiva che, però, tra le varie possibilità ne mette in conto alcune che potrebbero rivelarsi estremamente dannose. Si pone quindi questa domanda «Quali saranno le conseguenze, a medio e a lungo termine, delle nuove tecnologie digitali? E quale impatto avranno sulla vita degli individui e della società, sulla stabilità internazionale e sulla pace?».

Francesco dimostra una particolare attenzione per il digitale, non solo per l’impatto sui singoli ma anche sulla società. Per quanto riguarda la ricerca scientifica e, per molti, la sua presunta neutralità, Francesco afferma con chiarezza che «la ricerca scientifica e le innovazioni tecnologiche non sono disincarnate dalla realtà e “neutrali”, ma soggette alle influenze culturali (...) i risultati che conseguono (...) hanno sempre una dimensione etica». Entrano in gioco la realtà e la cultura, che inevitabilmente influenzano la ricerca e la tecnologia, introducendo il tema dell’etica. Continuando su questa linea di ragionamento, Francesco ha un atteggiamento cauto e dubbioso ritenendo che « non possiamo presumere a priori che (...) [lo] sviluppo [dell’intelligenza artificiale] apporti un contributo benefico al futuro dell’umanità e alla pace tra i popoli». Come non dargli ragione, dopo aver visto i droni agire su diversi campi di battaglia, sapendo quanto il loro contributo li renda drammaticamente determinanti non solo come strumenti di difesa.

​

L'etica assurge a un livello universale, quando Francesco afferma che «la dignità intrinseca di ogni persona e la fraternità che ci lega come membri dell’unica famiglia umana devono stare alla base dello sviluppo di nuove tecnologie e servire come criteri indiscutibili per valutarle prima del loro impiego, in modo che il progresso digitale possa avvenire nel rispetto della giustizia e contribuire alla causa della pace». Non è quindi accettabile, secondo Francesco, un progresso cieco ed esclusivamente guidato dal profitto o dalla ragione di stato. Si rende necessario un approccio secondo il quale «l’intelligenza artificiale dovrebbe essere al servizio del migliore potenziale umano e delle nostre più alte aspirazioni, non in competizione con essi». Per quanto riguarda la futura realizzazione di un’intelligenza artificiale generale, Francesco ritiene che «le macchine “intelligenti” possono svolgere i compiti loro assegnati con sempre maggiore efficienza, ma lo scopo e il significato delle loro operazioni continueranno a essere determinati o abilitati da esseri umani in possesso di un proprio universo di valori».

Il tema della realizzazione di sistemi intelligenti si lega strettamente a quello del suo controllo, o della sua abilitazione. Qui Francesco affronta l’argomento della capacità degli algoritmi di possedere giudizio morale e decisione etica affermando che «tale capacità non può essere ridotta alla programmazione di una macchina che, per quanto “intelligente”, rimane pur sempre una macchina». Si legge, sotto traccia, un monito ma anche una previsione: gli algoritmi hanno dimostrato di essere sovrumani, imbattibili nel gioco degli scacchi e del Go, i calcolatori hanno raggiunto potenze computazionali che gli umani non potranno mai esibire neanche in un millennio di calcolo manuale, l’intelligenza artificiale sta superando limiti ritenuti inviolabili fino a pochi mesi fa. Eppure, Francesco non si fa ammaliare da questa progressione tecnologica, mantenendo netta la distinzione ontologica tra le macchine e l’essere umano. Per quanto intelligente, una macchina non potrà provare emozioni, sentimenti, e non potrà prendere decisioni morali, perché le manca quella qualità che gli umani hanno e che si chiama vita.

Riprendendo il “problema delle molte mani”, Francesco stabilisce uno stretto legame tra chi realizza e chi usa l’intelligenza artificiale, ponendo su entrambi gli attori la necessità di essere guidati da un’etica che le macchine non possiedono. In quest’ottica, Francesco allarga il campo, auspicando che «se l’intelligenza artificiale fosse utilizzata per promuovere lo sviluppo umano integrale, potrebbe introdurre importanti innovazioni nell’agricoltura, nell’istruzione e nella cultura, un miglioramento del livello di vita di intere nazioni e popoli, la crescita della fraternità umana e dell’amicizia sociale». Si tratta di un drastico capovolgimento di prospettiva, in netta contrapposizione rispetto a chi vede nell’intelligenza artificiale un potenziale nemico e non una grande opportunità di crescita e di sviluppo. I n questo senso è necessario riflettere sulle sue conclusioni: «la mia preghiera all’inizio del nuovo anno è che il rapido sviluppo di forme di intelligenza artificiale non accresca le troppe disuguaglianze e ingiustizie già presenti nel mondo, ma contribuisca a porre fine a guerre e conflitti». Torna in primo piano il tema della guerra e della pace, riprendendo il titolo della lettera che auspica un’intelligenza artificiale “etica” e “per la pace”, un aggettivo e una finalità che suonano in noi come un’esortazione carica di grande energia.