Che l’intelligenza artificiale stia modificando la medicina è ormai difficile da negare. In una prova condotta da Microsoft AI, un modello di diagnosi sequenziale è stato applicato a 304 scenari clinici assai intricati, selezionati dal New England Journal of Medicine. Il sistema ha individuato la diagnosi corretta nell’80% dei casi; i medici generalisti, nelle condizioni previste dall’esperimento, si sono fermati a una media del 20%, cioè circa un quinto. Sempre in ambito sanitario, il Nobel per la Chimica 2024 è stato assegnato anche a Demis Hassabis, al vertice di Google DeepMind, per il suo contributo decisivo alla previsione delle strutture proteiche: un risultato che apre piste molto promettenti per la ricerca biomedica e farmacologica. A ciò si aggiungono i passi avanti nelle immagini diagnostiche, nella chirurgia a distanza, nella medicina su misura, nelle neurotecnologie e nelle protesi. Per ampiezza, la trasformazione ricorda quella avviata tra Sei e Settecento dalla iatromeccanica, quando William Harvey e Marcello Malpighi posero le basi della fisiologia moderna.
L’impatto dell’IA, però, non si esaurisce negli ospedali. I suoi effetti si vedono nei trasporti, nell’automazione domestica, nella semplificazione della macchina pubblica (anche se la classe dirigente sembra non averlo colto) e nella ricerca scientifica nel suo insieme. Naturalmente, il rovescio della medaglia esiste. Accanto ai benefici, l’IA solleva problemi e, per molti, pericoli concreti. Lo testimonia, per esempio, la recente enciclica di papa Leone, centrata sugli squilibri economici, sociali e antropologici che l’IA può accentuare. Ma il segnale più forte arriva da un appello inviato all’ONU da 300 esperti, tra cui i Nobel per la fisica Giorgio Parisi e Geoffrey Hinton, spesso chiamato “padrino dell’IA”. I firmatari mettono in guardia da epidemie costruite artificialmente, perdita massiccia di posti di lavoro, false informazioni diffuse su larga scala, manipolazione delle opinioni, rischi per la sicurezza e violazioni ripetute dei diritti umani. In parte tutto ciò dipende da come noi usiamo l’IA; in parte, però, dipende dall’autonomia che i sistemi acquisiscono. È su questo secondo aspetto che vale la pena soffermarsi.

Le IA più recenti, basate su reti neurali e deep learning, non seguono un ragionamento deduttivo come i vecchi sistemi: lavorano su probabilità. Per questo non possiamo sapere in anticipo come risponderanno a un prompt, né (nel caso della cosiddetta “IA agentica”) quali decisioni prenderanno e quali azioni compiranno. C’è un problema in più: spesso non sappiamo spiegare perché un sistema abbia risposto, deciso o agito in un certo modo. È la questione dell’explainability. Non serve nemmeno chiedere al sistema di ricostruire il proprio ragionamento: le sue spiegazioni sarebbero probabilmente confabulazioni, cioè racconti plausibili ma senza base reale. E non è un dettaglio: un esito corretto può nascere da un percorso sbagliato, e nulla assicura che quel percorso produca ancora un buon risultato. In medicina, per esempio, è un rischio tutt’altro che teorico.
A complicare il quadro c’è la potenza di calcolo. Un cellulare comune è un milione di volte più veloce del computer dell’Apollo 11; i sistemi avanzati sono su un altro piano. Con velocità simili, capire cosa faccia l’IA diventa ancora più difficile. E il progresso corre: i large language models di oggi sono molto più capaci di quelli di cinque anni fa. Che cosa saremo in grado di fare tra cinque o dieci anni?
Infine, non mancano segnali di creatività sorprendente già nei sistemi attuali. Se si mettono insieme questi elementi, la preoccupazione per una crescente autonomizzazione dell’IA non è infondata. Siamo però davanti all’apocalisse? Probabilmente no. Il punto, piuttosto, è che non si può più rinviare una riflessione seria su come controllare sviluppo e utilizzo dell’IA.

Una strada è l’ethics by design: incorporare i vincoli etici fin dentro i sistemi, invece di aggiungerli dopo o di limitarsi a sanzionare i comportamenti scorretti, è molto probabilmente una strada che dovremmo sbrigarci a percorrere.

Prof. Mario De Caro