Negli scorsi giorni il presidente americano Biden e il primo ministro inglese Sunak hanno fatto importanti passi nella regolazione delle intelligenze artificiali (IA): il primo emanando un ordine esecutivo destinato ad avere una grande influenza su come questi sistemi saranno sviluppati; il secondo radunando i leader del mondo in un incontro che ha visto la storica firma su un documento di intesa internazionale in un incontro sulla sicurezza delle IA. Tuttavia, se queste sono le intenzioni politiche, la prassi che oggi abbiamo nell’uso di queste tecnologie è piuttosto diversa. In particolare nella cura della salute.

Ad investigare la distanza tra la frontiera internazionale e la vita in corsia è stato un articolo del New York Times in cui emerge come i medici si scontrino con l'IA nell'assistenza ai pazienti, a loro dire per una scarsa supervisione sull’uso e gli effetti di questi strumenti. La Food and Drug Administration, l’agenzia Usa sui farmaci, ha dato il via libera a molti nuovi programmi che utilizzano l'IA, ma i medici sono scettici sul fatto che gli strumenti migliorino l'assistenza o siano supportati da una solida ricerca. Ci sono stati numerosi incidenti di percorso: il programma destinato a prevedere quando i pazienti avrebbero sviluppato la sepsi ha innescato una valanga di falsi allarmi, un altro, destinato a migliorare le cure di follow-up per i casi più seri, che sembra aver aggravato le già preoccupanti disparità sanitarie. Tutto questo sembra si sia tradotto in una tendenza del personale medico a mantenere l'IA in disparte: come assistente, scriba, secondo parere casuale, organizzatore di back-office. Tuttavia l'AI è un argomento caldo: sta aiutando a scoprire nuovi farmaci, potrebbe individuarne effetti collaterali inattesi, può aiutare il personale oberato da compiti routinari.

Nell’inchiesta del New York Times il ruolo della Fda è però stato oggetto di aspre critiche sul modo in cui esamina e descrive i programmi che approva per aiutare i medici a individuare qualsiasi cosa, dai tumori ai coaguli di sangue, ai polmoni collassati. Jesse Ehrenfeld, presidente dell'American Medical Association, ha dichiarato che la condizione per cui i medici incorporino queste cose nel loro flusso di lavoro è avere la certezza che gli strumenti funzionino. Questo elemento è lo stesso che compare nell’ordine esecutivo di Biden: «È importante supervisionare lo sviluppo e la sicurezza dell'IA e costruire sistemi di cui le persone possano fidarsi». Il problema più grande al momento è che nessuna agenzia statunitense governa l'intero panorama delle IA. Emerge che i medici stanno sollevando altre domande mentre cercano di utilizzare i circa 350 strumenti software che la Fda, trovando poche risposte alle domande di base: come è stato costruito il programma? Su quante persone è stato testato? È probabile che identifichi qualcosa che sfugge a un normale medico?E così i medici si tirano indietro, diffidando di una tecnologia che sembra così promettente. L’algoretica ci chiede di superare questo impasse.