Questo articolo è un estratto di un saggio più ampio pubblicato sul numero 4070 di «La Civiltà Cattolica» (18 gennaio - 1 febbraio 2020)

I poveri in un mondo dominato dai 'big data'. Nell’era dell’intelligenza artificiale (IA) l’esperienza umana sta cambiando profondamente, ben più di quanto la stragrande maggioranza della popolazione mondiale riesca a vedere e a comprendere. La vera e propria esplosione del-l’IA ha un forte impatto sui nostri diritti nel presente e sulle nostre opportunità future, determinando processi decisionali che, in una società moderna, riguardano tutti. L’intelligenza artificiale rappresenta una sfida e un’opportunità anche per la Chiesa: è una questione di giustizia sociale. Infatti, la ricerca pressante, avida e non trasparente dei big data, cioè dei dati necessari ad alimentare i motori di apprendimento automatico può portare alla manipolazione e allo sfruttamento dei poveri. Inoltre, gli stessi scopi per i quali vengono addestrati i sistemi di IA possono portarli a interagire in forme imprevedibili per garantire che i poveri vengano controllati, sorvegliati e manipolati.

Attualmente i creatori di sistemi di IA sono sempre più gli arbitri della verità per i consumatori. Nel contesto dei progressi del XXI secolo, l’esperienza e la formazione della Chiesa dovrebbero essere un dono essenziale offerto ai popoli per aiutarli a formulare un criterio che renda capaci di controllare l’IA, piuttosto che esserne controllati. La Chiesa è chiamata anche alla riflessione e all’impegno. Nelle arene politiche ed economiche in cui viene promossa l’IA devono trovare spazio le considerazioni spirituali ed etiche. La Chiesa deve impegnarsi a informare e ispirare i cuori di molte migliaia di persone coinvolte nella creazione e nell’elaborazione dei sistemi di intelligenza artificiale. In ultima analisi, sono le decisioni etiche a determinare e a inquadrare quali problemi affronterà un sistema di IA, come esso vada programmato e come debbano essere raccolti i dati per alimentare l’apprendimento automatico. Possiamo leggere la sfida di quella che potremmo definire l’'evangelizzazione dell’IA' come una combinazione tra la raccomandazione di papa Francesco a guardare il mondo dalla periferia e l’esperienza dei gesuiti del XVI secolo, il cui metodo pragmatico di influenzare chi è influente oggi si potrebbe riformulare come condividere il discernimento con gli scienziati dei dati.

Benefìci. Silenziosamente ma rapidamente, l’IA sta rimodellando per intero l’economia e la società: il modo in cui votiamo e quello in cui viene esercitato il governo, la polizia predittiva, la maniera in cui i giudici emettono le sentenze, il modo in cui accediamo ai servizi finanziari e la nostra affidabilità creditizia, i prodotti e i servizi che acquistiamo, le abitazioni, i mezzi di comunicazione che utilizziamo, le notizie che leggiamo, la traduzione auto- matica di voce e di testo. L’IA progetta le nostre auto, aiuta a guidarle e a orientarle sul territorio, stabilisce come ottenere un prestito per comprarle, decide quali strade vadano riparate, accerta se abbiamo violato il codice stradale e ci fa sapere pure se, avendolo fatto, dovremmo finire in prigione. Questi sono soltanto alcuni dei numerosi apporti dell’IA già in atto.

Gli studiosi Mark Purdy e Paul Daugherty scrivono: «Prevediamo che l’impatto delle tecnologie di intelligenza artificiale sulle imprese indurrà un aumento della produttività del lavoro fino al 40%, consentendo alle persone di fare un uso più efficiente del loro tempo». La Banca mondiale sta esplorando i benefici che l’IA può apportare allo sviluppo. Altri osservatori identificano nell’agricoltura, nell’approvvigionamento delle risorse e nell’assistenza sanitaria i settori delle economie in via di sviluppo che trarranno un grande beneficio dall’applicazione dell’IA. L’intelligenza artificiale contribuirà notevolmente anche a ridurre l’inquinamento e lo spreco di risorse.

L’intelligenza artificiale per la giustizia sociale. L’IA può senz’altro apportare benefìci alla società, ma d’altra parte pone anche questioni importanti di giustizia sociale. In questo campo la Chiesa ha l’opportunità e l’obbligo di impegnare il suo insegnamento, la sua voce e la sua autorevolezza riguardo ad alcune questioni che si profilano fondamentali per il futuro. Tra queste va senz’altro compreso l’enorme impatto sociale della ricaduta che l’evoluzione tecnologica avrà sull’occupazione di miliardi di persone nel corso dei prossimi decenni, creando problematiche conflittuali e un’ulteriore emarginazione dei più poveri e vulnerabili.

Impatto sull’occupazione. Molto è già stato fatto per misurare l’impatto dell’IA e della robotica sull’occupazione, soprattutto dopo l’importante articolo del 2013 in cui Osborne e Frey stimavano che il 47% dei posti di lavoro negli Stati Uniti rischiavano di venire automatizzati entro i successivi vent’anni. Gli studi e il dibattito scientifico hanno precisato la natura e i contorni del fenomeno: la cessazione totale o parziale di attività di lavoro esistenti, la sua ricaduta in tutti i settori e nelle economie sviluppate, emergenti e in via di sviluppo. Certo, fare previsioni esatte in proposito è difficile; ma un recente Rapporto del McKinsey Global Institute riporta un’analisi a medio termine. Il 60% delle occupazioni possiede almeno un 30% di attività lavorative passibili di automatizzazione. D’altra parte, quest’ultima aprirà le porte a nuove occupazioni che oggi non esistono, proprio com’è accaduto, in conseguenza delle nuove tecnologie, anche in passato. Le previsioni indicano che entro il 2030 un numero compreso fra i 75 e i 375 milioni di lavoratori (cioè fra il 3 e il 14% della forza lavoro globale) dovrà cambiare le proprie categorie occupazionali.

Codici e pregiudizi. Il codice di programmazione viene scritto da esseri umani. La sua complessità può quindi accentuare i difetti che inevitabilmente accompagnano qualsiasi compito svolgiamo. I preconcetti e le parzialità nella scrittura degli algoritmi sono inevitabili. E possono avere effetti molto negativi sui diritti individuali, sulle scelte, sulla collocazione dei lavoratori e sulla protezione dei consumatori. In effetti, i ricercatori hanno rilevato pregiudizi di vario tipo presenti negli algoritmi, in software adottati per le ammissioni universitarie, le risorse umane, i rating del credito, le banche, i sistemi di sostegno dell’infanzia, i dispositivi di sicurezza sociale e altro ancora. Gli algoritmi non sono neutri. La crescente dipendenza della socio-economia dall’IA conferisce un enorme potere a coloro che ne programmano gli algoritmi.

Rischio di un’ulteriore emarginazione dei vulnerabili. Un’analisi dell’impatto dei big data e dell’IA a livello sociale dimostra che la loro tendenza a prendere decisioni sulla base di una profilazione insufficiente e di riscontri limitati comporta l’ulteriore emarginazione dei poveri, degli indigenti e delle persone vulnerabili.

Coinvolgimento delle società e dei governi. Gli ultimi anni hanno visto una crescente richiesta di intervenire per garantire un controllo e la presenza dei valori umani nello sviluppo dell’IA. Un significativo progresso è stato compiuto nel maggio 2019, quando i 35 Paesi membri dell’Organizzazione per la cooperazione e lo sviluppo economico (Ocse) hanno concordato un documento che riporta i 'Princìpi Ocse sull’intelligenza artificiale'. Questi integrano le 'Linee guida etiche per una IA affidabile', adottate nell’aprile dello stesso anno dal gruppo di esperti sull’IA istituito dalla Commissione europea. L’obiettivo del documento Ocse è di promuovere un’IA innovativa e affidabile, rispettosa dei diritti umani e dei valori democratici. A questo fine, esso identifica cinque princìpi fra loro complementari e cinque raccomandazioni relative alle politiche nazionali e alla cooperazione internazionale. I princìpi sono: favorire la crescita inclusiva, lo sviluppo sostenibile e il benessere; rispettare i diritti umani, lo stato di diritto, i princìpi democratici; assicurare sistemi trasparenti e comprensibili; garantire sicurezza, protezione e valutazione dei rischi; affermare la responsabilità di chi li sviluppa, li distribuisce e li gestisce. Le raccomandazioni sono: investire nella ricerca e nello sviluppo dell’IA; promuovere ecosistemi digitali di IA; creare un ambiente politico favorevole all’IA; fornire alle persone le opportune competenze in vista della trasformazione del mercato del lavoro; sviluppare la cooperazione internazionale per un’IA responsabile e affidabile.

Nel giugno 2019, il G20 ha ripreso i 'Princìpi Ocse' nell’adottare i propri 'Princìpi del G20 sull’IA' non vincolanti. La sfida per i prossimi anni è duplice: l’ulteriore diffusione di questi o analoghi princìpi in tutta la comunità internazionale, e lo sviluppo di iniziative concrete per mettere in pratica tali princìpi all’interno del G20 e tramite l’'Osservatorio delle politiche in materia di IA' dell’Ocse, creato recentemente. Per la Chiesa adesso si apre l’opportunità di riflettere su questi obiettivi politici e di intervenire nelle sedi locali, nazionali e internazionali per promuovere una prospettiva coerente con la sua dottrina sociale.

'Evangelizzazare l’IA'? Per quanto importanti siano i suddetti suggerimenti a livello politico e di impegno sociale, resta il fatto che l’IA è sostanzialmente composta da singoli sistemi di progettazione, programmazione, raccolta ed elaborazione dei dati. Tutti processi fortemente condizionati dagli individui. Saranno la mentalità e le decisioni di costoro a determinare in quale misura, nel futuro, l’IA adotterà criteri etici adeguati e incentrati sull’uomo. Attualmente questi individui costituiscono una élite tecnica di programmatori e di esperti di dati, probabilmente composta da un numero di persone che si avvicina più alle centinaia di migliaia che ai milioni. Ora ai cristiani e alla Chiesa si apre una possibilità per la cultura dell’incontro, per mezzo della quale vivere e offrire un’autentica realizzazione personale a questa particolare comunità. Portare agli esperti di dati e agli ingegneri del software i valori del Vangelo e della profonda esperienza della Chiesa nell’etica e nella giustizia sociale è una benedizione per tutti, ed è anche il modo più plausibile per cambiare in meglio la cultura e la pratica dell’IA. L’evoluzione dell’IA contribuirà in grande misura a plasmare il XXI secolo. La Chiesa è chiamata ad ascoltare, a riflettere e a impegnarsi proponendo una cornice etica e spirituale alla comunità dell’IA, e in questo modo a servire la comunità universale. Seguendo la tradizione della Rerum novarum, si può dire che qui c’è una chiamata alla giustizia sociale. C’è l’esigenza di un discernimento. La voce della Chiesa è necessaria nei dibattiti politici in corso, destinati a definire e ad attuare i princìpi etici per l’IA.