Per il penalista c’è qualcosa di irriducibilmente paradossale nell’idea di imbarcarsi in uno studio che abbia a oggetto la possibile regolamentazione di una tecnologia che, oltre ad essere in costante evoluzione, vede nella imprevedibilità la ragione del suo successo. Il diritto penale, lo si sa, vive di costrutti preventivamente enunciabili: la rappresentazione che deve precedere la volizione, la regola cautelare che deve pre-esistere alla condotta, il nesso di causalità che, sebbene ricostruito ex post, pretende comunque di misurarsi su una spiegazione basata su regolarità e invarianze fra accadimenti. Saltando di scala, la conoscibilità e la prevedibilità costituiscono le portanti del principio di legalità: una matrice convenzionale ormai penetrata nel lessico della penalistica domestica. E non solo: in funzione di orientamento dei consociati esse assicurano succo e sostanza al giudizio di colpevolezza. Come messo ben in luce da taluni ‘giganti’ del pensiero giuridico – per tutti, Natalino Irti - la ‘calcolabilità’ è consustanziale all’intera teoria generale del diritto. Di contro, il machine learning sembra collocarsi programmaticamente al di là di dell’orizzonte appena tracciato: questa tecnologia non è difettosa quando sorprende, lo è (semmai) quando smette di farlo. Essa è "unpredictable by design", per riprendere la formula che l’A. pone - non a caso - in apertura della prima Parte dell’opera: un ossimoro che ambisce a sciogliere - o quantomeno a governare - senza cedere alla tentazione di rifugiarsi in comode vie di fuga.

Quello di Beatrice Fragasso è un lavoro imponente per mole — oltre settecento pagine, XII capitoli distribuiti in quattro Parti, un apparato bibliografico completo — che accompagna il lettore lungo un viatico che si potrebbe definire progressivo per cerchi concentrici. Si muove dal fenomeno tecnologico in sé (Parte I), si passa alla cornice normativa europea (l’AI Act) e alla possibile disciplina civilistica (Parte II), si entra poi nel cuore della riflessione penalistica, geometricamente distinta lungo i poli tematici del “dolo e della colpa” e del “produttore e dell’utilizzatore” (Parte III), per approdare infine a un bilancio critico impreziosito da proposte de iure condendo (Parte IV). L’ambizione è dichiarata dall’A. sin dalle prime pagine: costruire una sistematica per principi e categorie ossia una parte generale della responsabilità penale “da intelligenza artificiale”. Un disegno, questo, che si affida in buona parte a coordinate concettuali e prasseologiche sufficientemente arate in letteratura e giurisprudenza: quel che vi è di nuovo risiede nella problematica attrazione – esercitata dalle caratteristiche costitutive del machine learning – verso approdi tutti da esplorare, ma che già a prima vista promettono di porre una pietra tombale sul baricentro personalistico della responsabilità penale.

Per ‘regolare’ occorre anzitutto comprendere e dunque conoscere. Il capitolo di apertura assolve a tale esigenza: la genealogia dell’intelligenza artificiale, da quella simbolica agli expert systems, sino a giungere al trionfo del machine learning basato su reti neurali profonde (cd. deep learning). La ricognizione ha uno scopo preciso: fare chiarezza per delimitare l’indagine ai soli sistemi di apprendimento automatico, escludendo dal perimetro l’intelligenza artificiale “simbolica” propriamente detta, giacché è solo nel deep learning che si annida il vero problema (che dà il titolo al capitolo successivo): ossia quello del “controllo”. Se sin qui si descrive, col secondo e terzo capitolo si gettano le fondamenta per la successiva teorizzazione. Si distingue con cura l’opacità del modello di intelligenza artificiale (la c.d. black box, l’inesplicabilità del processo di decision making) dall’opacità del più ampio “sistema socio-tecnologico” in cui esso si inserisce. È una distinzione che tornerà carsicamente in tutta la trattazione e, in particolare, in tema di causalità (cap. VII), colpa (capp. VII-VIII) e dolo (capp. IX-X). Essa consente all’A. di prendere man mano le misure per poter sbozzare gli strumenti che le torneranno utili in prosieguo: perché l’imprevedibilità del singolo output non implica tout court l’incontrollabilità delle performances complessive del sistema (come risulterà evidente in tema di responsabilità colposa). Volgendo poi lo sguardo al mondo dei fatti, nel terzo capitolo si offre una tassonomia – ovviamente non esaustiva – degli eventi avversi e della loro possibile evoluzione in danni da “intelligenza artificiale”: dagli embodied systems (veicoli e aeromobili a guida autonoma, sistemi d’arma autonomi, healthcare robots) ai bots (social e trading algoritmico) sino ai decision support systems e all’intelligenza artificiale generativa (chatbot, deepfake). Con lenti retrospettive può dirsi che queste pagine fungono da banco di prova per l’avvio di una riflessione su legittimazione e limiti d’intervento del diritto penale: dimostrare, attingendo a casi concreti e alla cronaca anche d’oltr’alpe, che il “danno da IA” non costituisce una mera ipotesi – tantomeno di scuola – ma innerva già una realtà che, per quanto problematica, reclama la sua responsabilità.

Con il quarto capitolo si apre la seconda Parte dell’indagine, dedicata alla disciplina dettata dal reg. UE 2024/1689 (cd. AI Act). L’analisi è di dettaglio: dalla classificazione dei sistemi basata sul rischio, ai requisiti stabiliti per quelli ad alto rischio (trasparenza, sorveglianza umana, robustezza), sino alla governance multilivello e al ruolo delle autorità di vigilanza. Un paragrafo è dedicato, con lodevole tempestività, al d.d.l. S. 1146/2024 di iniziativa governativa (da cui ha preso vita, dopo la pubblicazione del libro, la legge 132/2025), di cui vengono già anticipati i profili, anche critici, di più immediato interesse penalistico. L’impegno esegetico nasconde un obiettivo di più ampio respiro: innestare un distinguo — quello tra product safety (cui s’apparenta l’AI Act) e product liability — la cui utilità emergerà con chiarezza nel capitolo VII, là dove si tratterà di stabilire se il rispetto della normativa europea possa schermare il produttore anche sul piano della responsabilità per danno. Sono temi che il penalista non può eludere: nel quinto capitolo e con approccio comparatistico l’A. analizza il regime di responsabilità civile per danno da prodotto, nella prospettiva della nuova direttiva (UE) 2024/2853, di cui pone in chiaro le novità sostanziali (l’estensione delle nozioni di “prodotto” e “produttore” ai sistemi di intelligenza artificiale, la ridefinizione del design defect), e soprattutto quelle processuali (le presunzioni di difettosità e di nesso causale, autentico “cuore pulsante” della nuova disciplina). E sempre in queste pagine, quale naturale corollario, si affronta un tema che ha molto impegnato la letteratura civilistica: la personalità elettronica, un possibile nuovo concetto giuridico cui ancorare una responsabilità autonoma dei sistemi di intelligenza artificiale. Con taglio efficace la proposta (pur inizialmente coltivata in ambito UE) è liquidata con argomenti che in parte anticipano e preparano la più ampia trattazione critica riservata, nel capitolo XI, alle tesi analoghe formulate da taluni penalisti. La verità è che lungi dall’essere neutrali i modelli di responsabilità diretta (penale ma anche civile) dei sistemi intelligenti, nella misura in cui si risolvono nel costruire un centro di imputazione autonomo e assorbente, costituiscono un formidabile incentivo all’azzardo morale delle imprese produttrici.

Tutte le tessiture complesse abbisognano di punti di cerniera: il lettore li troverà nel sesto capitolo, ove l’A. esplicita e dà forma al criterio tassonomico che governa l’intera Parte III — la separazione tra reati colposi e reati dolosi come principale (ancorché non esclusivo) criterio ordinatore della materia, cui s’accompagna la partizione subiettiva tra produttore e utilizzatore-supervisore. Ne scaturisce una quadripartizione — colpa del produttore, colpa dell’utilizzatore-supervisore, dolo dell’utilizzatore, dolo del produttore — che fornisce linfa ai capitoli successivi. È una scelta metodologica che ha il pregio dell’ordine e che si rivela funzionale ad esigenze dommatiche, ma che va maneggiata con cura quando ci si confronta con organizzazioni complesse, quali sono le imprese produttrici e utilizzatrici dei più potenti sistemi di intelligenza artificiale. Di ciò l’A. è consapevole: la realtà - come essa stessa avverte - è “intrinsecamente plurisoggettiva”.

Comprensibilmente, è il versante della colpa a rivelarsi il più denso di problemi concettuali e incognite prasseologiche: non foss’altro perché si ha a che fare con una tecnologia – convergente, pervasiva e adattiva – che incarna una nuova e assorbente infrastruttura sociale la quale ben presto segnerà ogni aspetto della vita quotidiana. Ciascun produttore sa che, nonostante la conformità ai requisiti di sicurezza e affidabilità richiesti preventivamente, i dispositivi immessi in commercio non sono controllabili appieno e i comportamenti emergenti e imprevisti possono essere frutto – oltre che dell’addestramento di base – dell’apprendimento costante e successivo, e persino della specifica interazione con l’utilizzatore. Eppure è questo l’approccio prescelto dall’AI Act che, espressamente, accetta margini residuali di rischio a fronte degli indiscutibili vantaggi e benefici che l’intelligenza artificiale già assicura. Ciò nondimeno, non disponiamo ancora di un adeguato set di conoscenze scientifiche e prasseologiche che possa render chiaro come intercettare e neutralizzare i pericoli immanenti in questa tecnologia: e ciò rende difficoltoso governare e perimetrare la (di per sé problematica) categoria del “rischio consentito”. Non serve insistere oltre per rendere l’idea della ampiezza e problematicità delle ricadute sulla dommatica del reato colposo. E in particolare dei rischi di ulteriori e intollerabili ‘flessibilizzazioni’, per mano pretorile, delle categorie portanti della colpa: dalla fungibilità fra azione ed omissione alla sclerotizzazione degli obblighi contenitivi di eventi lesivi evocati dal regolamento AI Act in capo al supervisore. È in queste pagine che l’A. affronta i temi cruciali: la struttura del fatto tipico colposo (come conciliare l’imprevedibilità algoritmica con la prevedibilità dell’evento richiesto dalla colpa? e ancor prima: come costruire il contenuto delle regole cautelari?); lo scollamento fra il dovere di sorveglianza e il potere di sorveglianza (al di là della sua collocazione dommatica, se all’interno del dovere obiettivo di diligenza – come propende l’A. – ovvero in seno alla pretesa di attivazione di cui all’art. 40, cpv, c.p.); il nesso di causalità (l’opacità e l’inesplicabilità dei processi neurali artificiali rendono ardua la spiegazione dell’output; può l’imprevedibilità assurgere a fattore interruttivo?); e soprattutto l’incrocio con la plurisoggettività (il cd. many - technical and decision - hands problem). L’obiettivo, ricercato dall’A., è quello di sterilizzare le ‘prevedibili’ derive giurisprudenziali, alimentate dalla sempre viva tentazione di assicurare - precauzionalmente e a ogni costo - un “capro espiatorio”.

Meno densa, ma non per questo meno significativa, è la riflessione dedicata all’imputazione dolosa (cap. IX e X). L’abbrivio muove dalla constatazione che l’intelligenza artificiale può porsi come mero strumento nelle mani dell’agente umano oppure come esecutore materiale della condotta tipica (il sistema artificiale che, una volta attivato, agisce autonomamente realizzando il fatto). È in questa seconda variante che albergano le ricadute più ostiche: la divergenza, sempre possibile per via dell’autonomia e dell’imprevedibilità algoritmica, tra quel che l’agente umano ha voluto e quel che il sistema ha effettivamente realizzato. Il confronto è qui con le categorie tradizionali — aberratio causae, aberratio ictus, aberratio delicti — tenendo ferma l’esclusione – apparentemente scontata – del dolus generalis. Certo, la programmazione “generica” dell’algoritmo non può fondare, da sola, un rimprovero doloso per un fatto che l’agente non era in condizione di rappresentarsi con la necessaria specificità. Il che è di immediata evidenza sul terreno dei reati con modalità di condotta vincolata; molto meno lo è su quello dei reati causali puri: complice la plasticità del dolo eventuale, il rischio è che la divergenza rispetto all’input (o, se si preferisce, al prompt) e comunque l’autonomia sulla scelta concreta delle specifiche modalità esecutive – di luogo, tempo, mezzo, etc. – si rivelino fattori estranei al dolo, ovvero e più in generale si ritengano sempre e comunque “messi in conto” dall’agente umano (e come tali coperti dal dolo eventuale).

Nell’ultimo e denso capitolo giunge a maturazione la pars construens dell’opera. Qui la voce di Beatrice Fragasso muta registro per intonare quello, decisamente più impegnativo anche sul piano politico-criminale, dell’elaborazione di un articolato normativo. All’esito di un percorso critico sempre ben sostenuto, si scolpiscono le direttrici di un sistema di tutela integrato — penale, civile, amministrativo — ove alla sanzione penale si riserva un ruolo del tutto residuale (extrema ratio) nel più ampio quadro di una regolazione multilivello imperniata sul risk-based approach. Fra le tante, due proposte meritevoli di attenzione: la formulazione di una fattispecie di pericolo astratto-concreto per la messa in commercio (o il mancato ritiro) di sistemi pericolosi per la vita e l’incolumità individuale; e — sul versante doloso — la costruzione, di raffinata ascendenza, di un reato di “pericolo di pericolo” per l’utilizzo di sistemi programmati per la manipolazione dei mercati finanziari, in cui il dolo dell’agente si arresta sulla soglia dell’attivazione dell’algoritmo (senza dover comprendere le specifiche modalità esecutive dell’offesa). La prima si pone quale pietra angolare di un programma di tutela che intende garantire la sicurezza dei dispositivi intelligenti. La seconda ha il merito di costituire un modello potenzialmente risolutivo delle problematiche aperte sul fronte dell’imputazione dolosa. Chiude il volume una riflessione sulla responsabilità da reato degli enti ex d.lgs. 231/2001, di cui vengono segnalate potenzialità (la naturale sinergia tra “compliance 231” e “risk management dell’AI Act”) e limiti applicativi de iure condito.

Molte, in conclusione, sono le questioni affrontate nel libro: al lettore il compito di scoprirle da vicino, andando oltre la sintesi – inevitabilmente parziale – qui offerta. Ciò detto e a corredo di queste note mi preme aggiungere due rapide considerazioni.

Il volume appartiene a buon diritto a quella biblioteca di studi ispirati a un garantismo consapevole dei limiti che segnano la cassetta degli attrezzi del ‘penale’. Non si cede mai a una duplice fascinazione: da un lato, quella espansionistica – molto in voga, oggi più che mai - che vorrebbe piegare principi e categorie alla bisogna, sul (malfermo) assunto che attribuisce al diritto penale chissà quali capacità taumaturgiche, persino innanzi ai rischi che il tempo presente annuncia; dall’altro lato, quella rinunciataria che vorrebbe consegnare ogni aspirazione regolatoria a strumenti meno invasivi – di natura risarcitoria e assicurativa – di agevole metabolizzazione da parte dei grandi players economici dell’intelligenza artificiale. La via che l’A. sottopone alla riflessione collettiva – tecniche di anticipazione penale mirata e settoriale – non è immune da problemi ma di sicuro è intellettualmente onesta. Perché non nasconde, dietro l’eleganza dell’esposizione sistematica, la difficoltà - se non a volte l’impossibilità tout court - di imputare, nel rispetto della metrica costituzionale e convenzionale, un evento lesivo generato da un sistema strutturalmente concepito o che comunque si è evoluto (e ancor di più farà nei prossimi anni) in termini di autonomia decisionale e operativa.

Un’ultima battuta. Il poco tempo che separa la pubblicazione del volume da questa recensione ha fatto emergere nuove capacità e nuovi rischi, e ha consentito ai ricercatori di porre sotto una diversa e stupefacente luce come le macchine decidono. Accanto a una potenza computazionale senza precedenti (e in inarrestabile aumento) affiorano scorci di architetture neurali che procedono più per ‘idee’ e ‘concetti’ (o qualcosa di simile ad essi) che per crude associazioni statistiche. Non basta: studiando le interazioni macchina-utente sembrano delinearsi sorprendenti capacità evolutivo-adattive attraverso la manifestazione (o l’emulazione?) di plurimi profili e tratti psicologici (o qualcosa di simile ad essi). Sia chiaro: come avvertono gli scienziati, non vi è nulla di umano in tutto ciò e queste nuove ricerche puntano a squarciare il velo di Maya della black-box al solo scopo di elevare gli standard di affidabilità e sicurezza. La lezione che ne deve trarre il penalista mi pare chiara e soprattutto trova conferma nel lavoro qui recensito. I problemi del “controllo” e dei “limiti” del diritto penale stanno diventando sempre più urgenti e complessi. La soluzione allora non può prescindere dall’intervenire sia sul versante ex ante (sviluppo e addestramento, analisi dei processi di rete neurale) sia su quello post-market (monitoraggio continuo delle performance). In questo contesto, la proposta di riforma contenuta nel libro di Beatrice Fragasso contiene preziose indicazioni su cui riflettere, per una regolamentazione equilibrata che sappia essere all’altezza della sfida – apparentemente tecnologica ma in realtà ‘antropologica’ – lanciata dal deep learning.