L’intelligenza artificiale sta entrando nella pratica medica con applicazioni che possono sostenere la prevenzione e la diagnosi delle malattie. Accanto alle opportunità, però, emergono rischi legati alla possibilità che gli algoritmi producano risposte errate o condizionino il ragionamento dei professionisti. Su questi aspetti si concentrano due studi scientifici firmati da Daniele Angioni, medico di medicina generale dell’Asl Novara, insieme ad altri colleghi.
Quando l’errore sembra credibile
Le ricerche analizzano l’impatto concreto dell’IA sull’attività clinica quotidiana e, in particolare, il modo in cui le risposte generate dai sistemi possono influenzare le decisioni diagnostiche. Il primo lavoro descrive il fenomeno definito evidence-like error, cioè un errore presentato con un linguaggio ordinato, sicuro e apparentemente autorevole, tanto da poter essere scambiato per una conclusione corretta.
Un algoritmo può, per esempio, richiamare una fonte scientifica autentica ma estrapolare una frase dal suo contesto. Può inoltre utilizzare una citazione reale per sostenere un’interpretazione opposta a quella contenuta nell’articolo originale. In medicina, dove la verifica di controindicazioni, interazioni e dosaggi ha un ruolo decisivo, una formulazione convincente ma imprecisa può indurre in errore il professionista se il riferimento non viene controllato con attenzione. Per questo, gli autori sottolineano la necessità di mantenere una verifica puntuale delle informazioni e di non considerare l’apparente chiarezza della risposta come prova della sua attendibilità.
Il rischio di affidarsi troppo alla tecnologia
Il secondo studio prende in esame le conseguenze psicologiche e cognitive dell’impiego continuativo dell’intelligenza artificiale. Anche una risposta corretta, se proposta con grande sicurezza, può ridurre la propensione del medico a mettere in discussione la prima ipotesi e a valutare scenari alternativi. Il rischio riguarda quindi non solo l’errore prodotto dal sistema, ma anche il possibile effetto dell’uso abituale dell’algoritmo sul ragionamento clinico.
Per limitare l’eccessivo affidamento agli strumenti informatici, gli autori propongono l’introduzione dell’algovigilanza cognitiva. Il concetto riprende il modello della farmacovigilanza, che monitora nel tempo gli effetti dei farmaci immessi sul mercato, e lo applica all’impiego degli algoritmi in ambito sanitario. L’obiettivo sarebbe osservare come la tecnologia incida sulla capacità critica e sull’autonomia decisionale dei professionisti, verificando che il giudizio umano resti centrale nel processo di cura. Gli studi richiamano così l’esigenza di regole di sicurezza e strumenti di controllo proporzionati alla crescente presenza dell’IA nelle attività mediche.
