Riportiamo di seguito il testo aggiornato della relazione tenuta dal dott. Paolo Piras al convegno Digitalizzazione e intelligenza artificiale organizzato dall'Ordine dei Medici di Sassari, 16 maggio 2026. 

 

1. Come può il medico evitare una responsabilità per l’uso dell’intelligenza artificiale?

Quali consigli gli si possono dare per autoproteggersi da questa responsabilità?

Parliamo di uso dell’IA[1] non riguardo ad attività di carattere routinario o burocratico, ma riguardo a decisioni diagnostiche e terapeutiche.

Il modo più efficace per evitare la responsabilità per l’uso dell’IA è quello di non farne uso. L’ipotesi non è di scuola, perché la cultura medica è talvolta bipolare: o rifiuto totale della tecnologia o accettazione passiva. Nel rifiuto totale potrebbe incappare facilmente il medico che teme la responsabilità fino a essere affetto dalla sindrome di Frankenstein. Questa sindrome si manifesta con la paura che le creazioni dell'essere umano si rivoltino contro di lui. Frankenstein è un personaggio letterario del romanzo di Mary Shelley[2], è un mostro che ha ereditato solo il cognome dal suo creatore. Creato da frammenti di corpi umani, è nato contro la sua volontà, senza un utero che lo ha generato e ha cercato di vivere in un mondo a lui ostile. Prima della vendetta finale esclama al suo creatore: Tu sei il mio creatore, ma io sono il tuo signore!

La paura che l’IA sfugga di mano al medico è alimentata anche dalla impossibilità di ricostruire i percorsi seguiti per giungere agli output, la c.d. black box.[3] E sappiamo quanto sia importante nella pratica clinica il razionale di scelta. Si teme il passaggio dalla medicina delle evidenze alla medicina delle oscurità.

È però indiscutibile che l’IA può arrivare dove il medico non può: ad es., nella semeiotica strumentale radiologica le immagini diagnostiche del paziente possono essere confrontate dall’IA con una miriade di altre immagini e questo per una maggiore accuratezza della diagnosi radiologica. Geoffrey Hinton, uno dei padri dell'intelligenza artificiale e vincitore del Premio Nobel per la Fisica nel 2024, ha paragonato il radiologo che non ne fa uso a Wile Coyote nei cartoni animati della Warner Bros: quando si trova al di là del precipizio cade appena guarda sotto e si accorge di trovarsi nel vuoto[4].

Se si pensa alla beneficialità del paziente non si può quindi fare a meno di usare l’IA[5].

Inoltre ci sono casi nei quali c’è già l’obbligo di usare l’IA, perché raccomandata dalle linee guida, ad es., per il triage nello screening mammografico[6]. L’obbligo di farne uso deriva dall’art. 5 co. 1 della legge Gelli, che prevede che il medico si attiene a linee guida e buone pratiche. E non farne uso significa quindi esporsi a una responsabilità.

 

2. Che cosa fare quindi per evitare una responsabilità?

Primo consiglio: human in the loop.

Usare i sistemi di IA come supporto alla decisione clinica.

La legge 132 del 2025 all’art. 7 co. 5 prevede infatti che I sistemi di intelligenza artificiale in ambito sanitario costituiscono un supporto, lasciando impregiudicata la decisione, che è sempre rimessa al medico. È quindi vietata la cieca obbedienza (blind reliance), l’uso acritico, la delega all’IA della decisione clinica. L’umano nel ciclo, human in the loop è formula dell’informatica che si presta molto bene a riassumere il contenuto dell’art. 7 co. 5 cit. In the loop quindi, beninteso non out the loop.

Legge alla mano, il medico dà un giudizio superiore a quello dell’intelligenza artificiale[7]. Ironicamente, è la stessa intelligenza artificiale a riconoscerlo. Le ho chiesto infatti (Gemini) se il giudizio del medico fosse superiore al suo. La risposta è stata sì.

Le ho chiesto di farmi un esempio. Mi ha fatto l’esempio di un paziente anziano con parametri nella norma, ma con una lieve desaturazione. L'IA gli assegna una priorità bassa per la stabilità ricavata da dati simili. Osservando il paziente, il medico nota un’espressione del volto, una facies sofferente e un lieve disorientamento cognitivo. Il medico decide di ignorare l'output dell'IA, sottopone il paziente a un'angio-TC e intercetta un'embolia polmonare massiva all’esordio.

Perché il giudizio del medico è stato superiore?

L’IA risponde che i suoi sistemi elaborano solo dati strutturati, quali parametri vitali, valori di laboratorio, segnali ECG, detti anche soft data, mentre il medico elabora anche dati non strutturati, quali la cromìa della cute, il tono della voce e ha a disposizione l'intuito clinico derivante dall'esperienza. Il lieve disorientamento cognitivo o l'espressione del volto sofferente usati nell’esempio sono dati non strutturati. L'IA si definisce un eccellente calcolatore, ma un pessimo clinico e attribuisce al giudizio del medico il ruolo di filtro di sicurezza delle cure. In effetti il giudizio computazionale nasce già mutilato di una parte essenziale della realtà clinica.

C’è quindi un insanabile punto di rottura tra la logica computazionale e la semiotica medica.

Le ho chiesto poi di farmi un altro esempio, a ulteriore conferma. Mi ha fatto l’esempio di un paziente di 70 anni, che accede in Pronto Soccorso con dispnea e tosse. L'IA di supporto alla radiologia del torace analizza le immagini della radiografia e segnala con un alto grado di confidenza (95%) un addensamento parenchimale al lobo inferiore destro, rilevando una polmonite. Il medico, visitando il paziente, evidenzia edemi pretibiali mediante il segno della fovea e acquisisce dal paziente un dato anamnestico prossimo: il paziente ha iniziato da due giorni una terapia con un farmaco che può causare ritenzione idrica. Il medico sospetta quindi che l'addensamento visto dall'IA non abbia origine infettiva, ma sia un accumulo di liquido, un edema localizzato da scompenso cardiaco congestizio. E non prescrive l'antibiotico, ma un diuretico, risolvendo la dispnea in poche ore. E anche la tosse, che non aveva neanch’essa origine infettiva, ma era una tosse cardiaca, stizzosa, dovuta all’accumulo di liquido, che stimolava meccanicamente i recettori della tosse.

Perché il giudizio del medico è superiore anche in questo caso?

L'IA risponde che il sistema ha analizzato solo i pixel dell’immagine diagnostica, mentre il medico ha integrato l'indagine con l'esame obiettivo e l'anamnesi farmacologica. Non solo: l’IA può essere vittima di mimetismo clinico: succede che confonda l'edema con l'infezione perché radiologicamente si somigliano. L’IA indovina, il medico spiega.

Ho chiesto: che cosa sarebbe successo se il medico avesse segnalato all'IA gli edemi pretibiali e il recente inizio di terapia? La risposta è stata: anche se il medico avesse segnalato gli edemi, il software non avrebbe saputo che farsene. Non ha un campo per l’inserimento di dati anamnestici e clinici, il suo algoritmo è addestrato solo per riconoscere pattern visivi.

Infine le ho chiesto: è frequente che l'IA non contenga un campo per l’inserimento di questi dati? La risposta: sì, purtroppo è molto frequente, quasi la norma per i dispositivi di prima generazione o per quelli altamente specialistici. Sono necessari sistemi avanzati di elaborazione del linguaggio naturale, ancora rari.

Messo a fuoco quanto precede, si prospetta chiaramente un’insidia sul versante della responsabilità. Il silenzio del sistema dell’IA sui dati anamenstici o clinici può indurre nel medico l'errata convinzione che questi dati non siano significativi, portandolo così a cadere in un riduzionismo diagnostico che costituisce colpa medica. Non si potrebbe fondatamente sostenere in giudizio che il software non ha chiesto questo tipo di dati, perché il medico sa o dovrebbe sapere che fa uso di uno strumento parziale.

La diffidenza del medico nei confronti dell’IA è un vero e proprio obbligo, posto dall’art. 7 co. 5 della legge 132 del 2025, che impone chiaramente la sfiducia costruttiva. Nasce la diffidenza come nuova semiotica. L'output algoritmico è parte integrante della semiotica medica moderna. Come il medico impara a diffidare di un valore di laboratorio non coerente con il quadro clinico, allo stesso modo dovrebbe imparare a diffidare dell'IA, che è addestrata su popolazioni e non sul singolo paziente. L’art. 7 co. 5 è quindi in linea con la legge Gelli, che all’art. 5 co. 1 impone al medico di considerare le specificità del caso concreto, alle quali va data sempre l’ultima parola.

Indirettamente la legge segnala anche quando fare uso dell’IA nel percorso diagnostico. Questo è paragonabile a un fiume rifornito da più affluenti. Con l’IA il fiume viene arricchito con un ulteriore affluente. Ma in quale tratto del fiume avviene l’imbocco dell’affluente: al sorgere, nel successivo scorrere del fiume o alla foce? Continuando nella metafora, l’uso dell’IA dovrebbe avvenire alla foce, dopo che ci si è fatti la propria opinione sul caso e non prima, proprio come si fa o si dovrebbe fare quando su un caso si chiede l’opinione a un collega.

Secondo consiglio: validazione del sistema.

Il medico non dovrebbe sentirsi solo a gestire il rischio tecnologico, ma dovrebbe esigere alla Direzione della struttura sanitaria dove lavora che il sistema sia validato. Come si suol dire, coinvolgimento della governance.

Infatti l’art. 7 comma 6 della legge 132 del 2025 prevede che i sistemi d’intelligenza artificiale in ambito sanitario siano affidabili, periodicamente verificati e aggiornati al fine di minimizzare il rischio di errori e migliorare la sicurezza dei pazienti.

Su chi grava quest’obbligo?

Appunto sulla struttura sanitaria, pubblica o privata, in quanto deployer come definito dall’art. 3 del Regolamento dell’Unione Europea del 13 giugno 2024 sull’IA e cioè una persona fisica o giuridica, un’autorità pubblica, un’agenzia o un altro organismo che utilizza un sistema di IA sotto la propria autorità[8].

L’obbligo, sempre a carico del deployer, è posto anche dall’art. 27 del detto Regolamento, che prevede la valutazione d'impatto del sistema d’intelligenza artificiale sui diritti fondamentali. E non solo: l’art. 26 co. 1 del Regolamento pone a carico del deployer l’obbligo di adottare idonee misure tecniche e organizzative per garantire di utilizzare tali sistemi conformemente alle istruzioni per l'uso.

A livello di fonti secondarie, la Raccomandazione n. 2/2008 del Ministero della Salute, impone alle strutture sanitarie obblighi per prevenire il malfunzionamento dei dispositivi medici derivanti da una scarsa e/o non corretta manutenzione.

Quali conseguenze se il deployer non adempie agli obblighi?

Dopo l’introduzione dell’art. 437 bis c.p., avvenuta con l’art. 12 del d. lgs. 160 del 30 set. 26, l’omissione di adottare misure di sorveglianza umana sul sistema è penalmente sanzionata, se dall’omissione deriva pericolo per la vita o l’incolumità pubblica o individuale. Inoltre il reato di cui all’art. 437 bis c.p. può portare all’affermazione di responsabilità amministrativa dell’ente, essendo stato incluso fra i reati presupposto con il nuovo art. 25-vicies del d. lgs. 231/2001, anche questo introdotto dal d. lgs. 160/2026 all’art. 15.

Infine, sul piano della responsabilità civile, l’art. 18 dello stesso d.lgs. ult. cit., in ipotesi di danno derivato dalla violazione di uno o più obblighi posti dal regolamento UE, prevede che il danno è presunto, salvo prova contraria.

Terzo consiglio: informare il paziente.

L’art. 7 co. 3 della legge 132/2025 prevede espressamente che L’interessato ha diritto di essere informato sull’impiego di tecnologie di intelligenza artificiale. La legge prevede quindi l’obbligo d’informare il paziente, ma non prevede esattamente che cosa si ha l’obbligo di dire, discostandosi così dalla versione originaria del disegno di legge, che ricomprendeva nell’oggetto dell’informazione elementi ulteriori, quale il funzionamento del sistema usato. Invero un’informazione dettagliata rischierebbe il fenomeno dell’information overload e la predisposizione di modelli informativi bulimici, contenenti tante e tali informazioni tecniche che finirebbero per burocratizzare la prestazione del consenso, frustrandone la funzione. Anche qui la bussola che deve guidare il medico che informa è che il paziente sia a conoscenza di quanto gli è sufficiente per esprimere il consenso alle cure. Come diceva Einstein: Informazione non è conoscenza. In questa prospettiva parrebbe sufficiente informare il paziente di questi dati: a) quale sistema viene usato; b) a quale scopo viene usato; c) quali sono i vantaggi e i limiti; d) il ruolo decisionale del medico. Ad es., in un esame radiografico della spalla, andrebbe comunicato al paziente che si fa uso del sistema Ray-AI Fracture Detect v.2.0 allo scopo di rilevare fratture. Il vantaggio: il sistema è addestrato su milioni di radiografie e aiuta il medico a individuare anche fratture millimetriche. Il limite: il sistema può talvolta segnalare come fratture delle normali varianti anatomiche o sovrapposizioni di ombre (falsi positivi). Il ruolo del radiologo: analizzerà l’immagine prima e dopo la segnalazione del sistema e la diagnosi del referto sarà di esclusiva competenza del radiologo, frutto di un'integrazione uomo-macchina. In questo modo il medico cristallizza anche nella relazione con il paziente il ruolo human in the loop che l’art. 7 co. 5 l. cit. gli assegna.

Quarto consiglio: documentare la decisione.

Occorrerebbe scrivere nella documentazione sanitaria il perché della decisione clinica basata sull’IA.

E questo sia in ipotesi di scelta conforme agli output dell’IA che in ipotesi di scelta difforme. La motivazione della decisione clinica è imprescindibile, perché poi su di essa avverrebbe la valutazione giudiziaria. Motivazione anche sintetica, ma imprescindibile. In mancanza sarebbe facile sostenere la responsabilità, soprattutto in caso di decisione errata difforme dall’IA: l’output del sistema sarebbe una facile prova della responsabilità.

È da dimenticare quindi quel vecchio e disastroso consiglio di medicina difensiva meno scrivi e meglio è.

In ipotesi di decisione difforme dall’output del sistema, si potrebbe annotare secondo questa semplice struttura:

• rilevazione dell'output: il sistema d’intelligenza artificiale denominato K suggerisce la diagnosi X, basandosi sui parametri Y.
• giudizio critico del medico: si ritiene l'output del sistema non coerente con altri dati, anamnestici, clinici, laboratoristici, specificandoli.
• decisione finale: ad es., si decide di eseguire l’esame strumentale A o di prescrivere il farmaco B, seguendo la buona pratica C.

E si potrebbe fare anche di più in una prospettiva di collaborazione virtuosa con il deployer della struttura. Si potrebbe cioè segnalare il caso di decisione difforme, così da mettere il deployer nella migliore condizione di adempiere al suo obbligo di verifica periodica del sistema.

In presenza di questi presupposti, risulterebbe davvero difficile sostenere in sede giudiziaria la responsabilità del medico.

Siamo di fronte a un medico che ha usato l’IA non per smettere di pensare, ma per pensare meglio e lo ha giustificato per iscritto e senza timore, rivendicando la sua indipendenza clinica.

 

3. Quali conseguenze sul piano emotivo dell’uso dell’IA?

Nella pratica clinica è facile attualmente cadere nella trappola della ricerca della perfezione. L’IA rappresenta un’insidia in più. La ricerca di perfezione è infatti alimentata dalla sempre maggiore disponibilità di strumenti di cura, ora anche tecnologici, ed è alimentata soprattutto dalla fortissima pressione sociale che vorrebbe medici infallibili. Suona strano, eppure si chiede umanità nel rapporto con i pazienti e allo stesso tempo si chiede infallibilità, dimenticando che umanità e infallibilità non possono coesistere. Non c’è umanità senza fallibilità. Le imperfezioni sono una parte essenziale di ciò che siamo. Non conta la perfezione ma l’autenticità. Siamo al mondo per essere veri, non per essere perfetti (Linder).

E la ricerca di perfezione ha un grave effetto collaterale e cioè l’insicurezza che genera nel medico. Sembra paradossale, ma accettando l’imperfezione ci si sente più sicuri. Liberandosi dalla ricerca della perfezione ci si libera di un carico emotivo enorme.

Meglio evitare di lasciarsi travolgere da aspettative irrealistiche d’infallibilità. Un medico è un bravo medico non perché non sbaglia mai, non perché è infallibile, ma perché è affidabile, perché dà garanzia del suo massimo impegno. Non è l’infallibilità, ma è l’affidabilità ciò che può essere umanamente preteso.

E allora e infine: io medico non posso garantire la perfezione, ma posso garantire il mio massimo impegno, come medico e come essere umano. E questo riempie la mia vita e quella di chi viene a contatto con me.