Rubriche

Dottor IA in corsia Il consenso si crea anche con le serie tv

Paolo Benanti giovedì 10 ottobre 2024
Il 5 ottobre Humanities and Social Sciences Communications, una delle riviste del portfolio di Nature, una delle riviste scientifiche più prestigiose e antiche al mondo pubblicata dal 1869 e nota per la sua multidisciplinarità, ha pubblicato uno studio sulla rappresentazione dell’intelligenza artificiale nella serie televisiva Chicago Med. Ci sembra particolarmente significativo che una rivista scientifica guardi al tema della rappresentazione dell'intelligenza artificiale (IA) nelle serie televisive mediche, con particolare attenzione al dramma medico americano Chicago Med: gli autori affermano che Chicago Med offre una rappresentazione unica ed estesa dell'IA medica, rendendola degna di esame. Le serie televisive mediche non solo sono molto popolari e seguite ma hanno il potenziale per modellare l'opinione pubblica sull'IA nella sanità. In particolare Chicago Med come parte del franchise “One Chicago” è un successo di ascolti, ambientata presso il Gaffney Medical Center nei reparti di emergenza e chirurgia dove a partire dalla stagione 8 sono immaginati due sistemi di IA OR 2.0, una suite chirurgica high-tech, e una suite diagnostica nel pronto soccorso. L’articolo propone una revisione dei problemi etici sollevati dalla narrazione sull'IA in medicina in Chicago Med. Le storie raccontate mostrano diverse istanze in cui la mancanza di trasparenza nell'IA crea problemi etici. Ad esempio, nel caso di OR 2.0, il sistema inizialmente mette in discussione la tecnica di sutura di alcuni medici o il sistema che contrassegna i pazienti sospettati di abuso di droghe. In tutti i casi i medici si trovano a dover lottare contro sistemi di cui non si conoscono i dati di addestramento. Nei diversi episodi, inoltre, di assiste a una adesione selettiva ai consigli dell'IA, in particolare quando si allineano con pregiudizi preesistenti: si accetta il fatto che l'atteggiamento generale di un medico nei confronti dell'IA possa influenzare la sua volontà di seguire i suoi consigli. Più volte nella serie si assiste al bias di automazione, in cui gli operatori sanitari diventano eccessivamente dipendenti dall'IA, erodendo le proprie capacità. Nel complesso, lo studio presenta una visione sfaccettata dell'IA in medicina, evidenziando sia i suoi potenziali benefici che i suoi svantaggi. Mentre l'IA offre opportunità per progressi rivoluzionari nell'assistenza ai pazienti, solleva anche complesse sfide etiche che richiedono un'attenta considerazione. Lo studio pubblicato sulla rivista del gruppo Nature ci sembra particolarmente importante perché ci fa vedere come la discussione su queste tecnologie di fatto sia già diffusa nella cultura pop e stia plasmando le aspettative, le speranze e i timori delle persone. La serie offre una rappresentazione sfaccettata dell'IA nella sanità ma mostra soprattutto il potenziale educativo delle serie televisive nel sensibilizzare e favorire discussioni pubbliche sugli aspetti etici e sociali dell'IA nella sanità. Forse l’adozione dell’IA in medicina deve passare anche da un patto globale che veda anche i protagonisti della cultura pop cooperare a preparare la società a questi cambiamenti. © riproduzione riservata