Quando l’AI sbaglia la domanda è immediata: chi paga? La risposta non è semplice, perché l’AI si è inserita nei processi aziendali con una rapidità che ha preceduto la consapevolezza giuridica delle implicazioni. Ma una cosa è certa: l’automazione non esonera dalla responsabilità. Anzi, in molti casi la aggrava.
Indice
L’AI Act pone obblighi, non regola la responsabilità civile
Il punto di partenza è il Regolamento UE 2024/1689 (AI Act), entrato in vigore nell’estate 2024 e destinato a dispiegarsi gradualmente fino al 2026. Il Regolamento distingue i sistemi di AI in base al rischio:
- sistemi vietati (manipolazione subliminale, social scoring pubblico);
- sistemi ad alto rischio (identificazione biometrica, selezione del personale, valutazione creditizia, gestione infrastrutture critiche);
- sistemi a rischio limitato;
- sistemi a rischio minimo.
Partiamo dai sistemi ad alto rischio
Partendo dai sistemi ad alto rischio, l’AI Act impone stringenti obblighi per primo al fornitore del prodotto che si trova a dover valutare la conformità dello stesso, la gestione della qualità, la gestione dei rischi, produrre la documentazione tecnica, sollecitare la sorveglianza umana e infine garantire la sicurezza. Segue poi l’utilizzatore finale (il deployer) che ha l’obbligo di garantire la supervisione umana effettiva, di monitorare il funzionamento del prodotto, di conservare i log, di segnalare gli incidenti gravi.
Ma c’è un aspetto che sfugge a molti: l’AI Act impone obblighi e prevede sanzioni amministrative pesantissime per chi non li rispetta, ma non dice chi risponde civilmente nei confronti del danneggiato. Non disciplina la responsabilità civile. Lascia al diritto nazionale il compito di stabilire chi e su quali basi debba risarcire la vittima di un errore algoritmico.
L’Italia ha avviato il percorso di adeguamento con la legge 23 settembre 2025, n. 132, che contiene deleghe al Governo per intervenire sulla responsabilità civile, prevedendo “strumenti di tutela del danneggiato, anche attraverso una specifica regolamentazione dei criteri di ripartizione dell’onere della prova”.
Fino all’attuazione di quelle deleghe, si applica il diritto comune: le norme sulla responsabilità contrattuale ed extracontrattuale, la disciplina sui prodotti difettosi, il GDPR.
(Si veda anche: Sistemi di Intelligenza artificiale sui luoghi di lavoro: prime riflessioni )
“L’ha deciso l’algoritmo” non è una scusa
Responsabilità contrattuale o extracontrattuale: perché la distinzione conta
Il primo nodo da sciogliere è capire quando si applica la responsabilità contrattuale e quando quella extracontrattuale, perché la distinzione non è solo teorica: cambia radicalmente chi deve provare cosa, e questo può fare la differenza tra vincere e perdere una causa. Partiamo dal caso più frequente: l’impresa che utilizza un sistema di AI nell’ambito di un rapporto contrattuale con un cliente. Pensiamo a una banca che valuta domande di mutuo attraverso algoritmi di scoring, a un’assicurazione che decide su sinistri con l’aiuto di software automatizzati, a una piattaforma e-commerce che fornisce assistenza clienti tramite chatbot.
Quando l’errore dell’AI danneggia il cliente
Se il sistema genera un errore che danneggia il cliente — un diniego ingiustificato, un’informazione sbagliata che induce il cliente a compiere scelte dannose, un ritardo nell’evasione di un ordine causato da un malfunzionamento — si applica la responsabilità contrattuale disciplinata dagli artt. 1218 e 1176 c.c. In questo schema, è il cliente danneggiato che deve provare l’inadempimento, il danno subito e il nesso causale tra i due.
Ma attenzione: una volta dimostrato che l’impresa non ha eseguito correttamente la prestazione, l’onere si sposta.
È l’impresa che, per liberarsi, deve dimostrare di aver adempiuto esattamente oppure che l’inadempimento deriva da una causa a lei non imputabile, come un caso fortuito o una forza maggiore.
L’algoritmo è uno strumento dell’organizzazione aziendale
Ed è proprio qui che si gioca la partita quando si parla di AI, perché molte imprese pensano erroneamente di poter invocare il fatto che “la decisione l’ha presa l’algoritmo” come se questo costituisse una causa esterna, imprevedibile e inevitabile.
La giurisprudenza è cristallina su questo punto: l’impresa risponde dell’organizzazione della propria attività e dei mezzi che sceglie di utilizzare per adempiere alle proprie obbligazioni.
L’algoritmo non è un terzo estraneo che interviene dall’esterno a compromettere l’esecuzione del contratto, è uno strumento dell’organizzazione aziendale, esattamente come lo sono un dipendente, un macchinario, un sistema informatico tradizionale.
Se l’impresa ha scelto di avvalersi di un sistema automatizzato per prendere decisioni che incidono sui diritti dei clienti, risponde delle conseguenze di quella scelta. Non può scaricare la responsabilità sull’algoritmo, proprio come non potrebbe scaricarla su un dipendente che ha commesso un errore nell’esecuzione di un’istruzione.
La situazione cambia quando il danno colpisce un terzo estraneo al rapporto contrattuale.
Se un pedone viene investito da un veicolo a guida autonoma, se un utente di una piattaforma digitale subisce danni patrimoniali o morali a causa di un errore nell’algoritmo di moderazione dei contenuti, se un cittadino viene discriminato da un sistema di scoring pubblico utilizzato da un ente, siamo nell’ambito della responsabilità extracontrattuale, quella disciplinata dall’art. 2043 c.c.
In questo caso, l’onere probatorio è più gravoso per il danneggiato: deve provare non solo il danno e il nesso causale con il comportamento del convenuto, ma anche l’elemento soggettivo, cioè il dolo o la colpa.
Questa colpa può manifestarsi in molti modi quando si tratta di AI.
Può consistere nella scelta di un sistema manifestamente inadeguato rispetto all’uso previsto, nella mancata formazione degli operatori che devono supervisionare il funzionamento del sistema, nell’assenza di quella sorveglianza umana che l’AI Act impone per i sistemi ad alto rischio, nella violazione degli obblighi di gestione dei rischi che il Regolamento pone a carico dell’utilizzatore.
In altre parole, anche in ambito extracontrattuale, l’impresa non può limitarsi a dire “non è colpa mia, è stato l’algoritmo”: deve dimostrare di aver adottato tutte le cautele che la diligenza ordinaria o quella qualificata, se si tratta di attività professionale imponeva.
Il software è un prodotto, e può essere difettoso.
C’è poi la responsabilità del fornitore, cioè di chi ha sviluppato e immesso sul mercato il sistema di AI.
Qui entra in gioco la disciplina sui prodotti difettosi, contenuta negli artt. 114 e seguenti del Codice del Consumo.
Il produttore è responsabile del danno causato da difetti del suo prodotto. Il prodotto è difettoso quando non offre la sicurezza che ci si può legittimamente attendere.
E un software, un algoritmo, un sistema automatizzato sono “prodotti” a tutti gli effetti. La giurisprudenza lo ha già riconosciuto in casi di malfunzionamento di software integrati in dispositivi elettronici (Cass. n. 8139/2024). Un sistema di AI che presenta vulnerabilità, errori di programmazione, bias discriminatori non corretti, è un prodotto difettoso. Il danneggiato deve provare il difetto, il danno e il nesso causale. Il produttore può liberarsi dimostrando che il difetto non esisteva quando il prodotto è stato immesso sul mercato, o che lo stato delle conoscenze scientifiche al momento dell’immissione non permetteva di scoprirlo (rischio da sviluppo, art. 118, lett. e), Codice del Consumo).
Ma questa eccezione diventa sempre più difficile da invocare, perché l’AI Act impone obblighi di test e validazione così rigorosi che sarà arduo sostenere di non aver potuto scoprire il difetto. I
l quadro europeo si sta evolvendo.
La direttiva UE 2024/2853, da recepire entro il 9 dicembre 2026, chiarisce che il software è un prodotto, che gli aggiornamenti possono essere fonte di difetto, e che la mancanza di aggiornamenti necessari costituisce essa stessa un difetto. Introduce inoltre facilitazioni probatorie: il giudice potrà ordinare al produttore di fornire prove rilevanti quando il danneggiato dimostri che è ragionevolmente probabile che il difetto abbia causato il danno.
Il GDPR e le decisioni automatizzate: un obbligo spesso ignorato
AI e dati personali: il rischio che molte imprese sottovalutano
C’è un aspetto che molte imprese tendono a sottovalutare, o peggio a ignorare del tutto, quando implementano sistemi di intelligenza artificiale nei propri processi: la protezione dei dati personali.
La ragione di questa sottovalutazione è spesso legata a una visione frammentata del problema.
Le imprese si concentrano sugli aspetti tecnici dell’AI, sulla sua efficienza, sui costi di implementazione, ma dimenticano che la maggior parte dei sistemi di AI utilizzati in ambito commerciale e produttivo tratta dati personali. E quando si trattano dati personali, entra in gioco il Regolamento UE 2016/679, meglio noto come GDPR, con i suoi vincoli stringenti e le sue sanzioni che possono arrivare a cifre astronomiche.
Pensiamo agli algoritmi di selezione del personale che analizzano curricula e assegnano punteggi ai candidati, ai sistemi di scoring creditizio che decidono se concedere o meno un finanziamento, agli strumenti di profilazione commerciale che segmentano i clienti e determinano quali offerte proporre a ciascuno, ai sistemi di targeting pubblicitario che decidono quali annunci mostrare a quale utente. Tutti questi sistemi, largamente diffusi, trattano dati personali e prendono decisioni automatizzate che incidono sui diritti delle persone.
Decisioni automatizzate: cosa prevede l’art. 22 GDPR
E qui il GDPR pone un principio molto chiaro, contenuto nell’art. 22: l’interessato ha il diritto di non essere sottoposto a una decisione basata unicamente sul trattamento automatizzato, compresa la profilazione, che produca effetti giuridici che lo riguardano o che incida in modo analogo significativamente sulla sua persona.
Questo significa, in parole semplici, che se un algoritmo decide da solo, senza alcun intervento umano effettivo, di respingere una domanda di lavoro, di negare un prestito, di escludere un utente da un servizio, quella decisione viola il diritto fondamentale dell’interessato.
Certo, esistono deroghe a questo principio: la decisione automatizzata è consentita se è necessaria per l’esecuzione di un contratto, se l’interessato ha prestato il proprio consenso esplicito, oppure se è autorizzata da una norma di legge che preveda garanzie adeguate.
Ma anche quando ricorre una di queste deroghe, il titolare del trattamento non può limitarsi ad attivare l’algoritmo e dimenticarsene. Deve garantire il diritto dell’interessato all’intervento umano, cioè la possibilità di ottenere che un essere umano riveda la decisione. Deve fornire informazioni significative sulla logica utilizzata dal sistema, in modo che l’interessato possa comprendere, almeno nelle linee essenziali, su quali criteri si è basata la decisione. E deve consentire all’interessato di esprimere la propria opinione e di contestare la decisione, attivando procedure chiare e accessibili.
Sanzioni, risarcimento e DPIA
Le conseguenze della violazione di questi obblighi sono pesanti.
Le sanzioni amministrative GDPR
Sul piano amministrativo, il GDPR prevede sanzioni che possono arrivare fino a 20 milioni di euro oppure, se superiore, al 4% del fatturato mondiale annuo dell’impresa.
Queste non sono cifre teoriche: negli ultimi anni, le autorità di protezione dati di tutta Europa hanno comminato sanzioni milionarie proprio per violazioni legate a decisioni automatizzate e profilazione.
Ma c’è anche un profilo di responsabilità civile che molte imprese sottovalutano.
Il risarcimento del danno per decisioni automatizzate illecite
L’art. 82 GDPR prevede espressamente che chiunque subisca un danno materiale o immateriale causato da una violazione del Regolamento ha diritto di ottenere il risarcimento dal titolare del trattamento o dal responsabile del trattamento.
La Cassazione ha avuto modo di precisare che non si tratta di una responsabilità oggettiva, cioè automatica per il solo fatto della violazione: occorre che sussista l’elemento soggettivo della colpa o del dolo. Ma ha anche affermato, in una sentenza del 2023, che quando la violazione offende concretamente la portata effettiva del diritto alla riservatezza, il risarcimento è dovuto.
In altre parole, non basta dimostrare la mera violazione formale di una norma del GDPR per ottenere il risarcimento, ma quando quella violazione produce un danno reale — economico, professionale, reputazionale, anche solo morale, il risarcimento scatta.
E una decisione automatizzata che nega un lavoro, un finanziamento, l’accesso a un servizio, senza che sia stata garantita la possibilità di un intervento umano e senza che siano state fornite spiegazioni adeguate, produce certamente un danno.
DPIA: la valutazione di impatto prima di usare l’AI
C’è poi un altro obbligo che molte imprese ignorano completamente: la valutazione di impatto sulla protezione dei dati, la cosiddetta DPIA (Data Protection Impact Assessment). Il GDPR impone questa valutazione quando un tipo di trattamento, in particolare se prevede l’uso di nuove tecnologie, può presentare un rischio elevato per i diritti e le libertà delle persone fisiche.
E il Regolamento specifica espressamente che questo obbligo si applica alle valutazioni sistematiche e globali di aspetti personali basate su un trattamento automatizzato, compresa la profilazione, e alle decisioni che producono effetti giuridici o incidono significativamente sulla persona. Tradotto: se un’impresa utilizza algoritmi di scoring, di selezione del personale, di concessione di credito, di determinazione dei premi assicurativi, deve preventivamente svolgere una DPIA.
Questa valutazione non è un adempimento burocratico formale. È un’analisi rigorosa che deve individuare i rischi specifici del trattamento per i diritti degli interessati, descrivere le misure tecniche e organizzative adottate per mitigare quei rischi, valutare se le misure sono adeguate. Se dalla DPIA emerge che il rischio residuo è elevato e le misure non sono sufficienti a mitigarlo, l’impresa deve consultare preventivamente l’autorità di protezione dati prima di avviare il trattamento.
Un’impresa che utilizza algoritmi di AI per prendere decisioni rilevanti senza aver mai svolto la DPIA, senza aver informato gli interessati del funzionamento del sistema, senza aver predisposto meccanismi di intervento umano effettivo, non solo rischia sanzioni amministrative pesantissime, ma si espone a richieste risarcitorie che saranno molto difficili da contrastare.
Perché in quel caso non potrà dimostrare di aver adottato le misure di diligenza che la normativa europea impone, e il suo inadempimento sarà palese.
Responsabilità penale e amministrativa per l’utilizzo di AI: cosa rischiano le imprese
L’utilizzo della AI da parte dell’Impresa può generare non solo danni risarcibili civilmente, ma anche responsabilità penali e amministrative molto concrete. E qui il quadro cambia radicalmente, perché non si tratta più solo di pagare un risarcimento: si tratta di sanzioni penali e di sanzioni amministrative che possono arrivare a interdire l’attività dell’impresa.
Non si tratta di teoria.
Pensiamo a un’impresa che utilizza sistemi di AI generativa per campagne pubblicitarie e, per errore o negligenza nella gestione del sistema, diffonde contenuti che alterano l’immagine di una persona.
Oppure a un’agenzia di comunicazione che utilizza deepfake senza consenso per creare video promozionali.
Oppure ancora a un dipendente che, utilizzando strumenti di AI messi a disposizione dall’azienda, genera contenuti diffamatori o fraudolenti.
In tutti questi casi, la responsabilità penale ricade sulla persona fisica che ha compiuto materialmente l’atto, ma può estendersi anche all’impresa attraverso il meccanismo della responsabilità amministrativa degli enti ex D.Lgs. 231/2001.
Come evitare la responsabilità amministrativa: il modello organizzativo 231.
La legge prevede una via di esonero dalla responsabilità: l’adozione e l’efficace attuazione di un modello di organizzazione, gestione e controllo ai sensi degli artt. 6 e 7 del D.Lgs. 231/2001. Ma attenzione: non basta adottare formalmente un modello, nominare un organismo di vigilanza, redigere un codice etico.
Occorre che il modello sia effettivamente reso operativo e per le imprese che utilizzano AI, questo significa:
- mappare tutti i sistemi di AI utilizzati e le attività in cui sono impiegati;
- definire protocolli chiari su chi può utilizzare l’AI, per quali finalità, con quali limiti;
- prevedere verifiche preventive sulla conformità dei sistemi AI alle norme (GDPR, AI Act, normativa settoriale);
- garantire sorveglianza umana effettiva sulle decisioni automatizzate;
- formare il personale sui rischi legali dell’uso di AI;
- monitorare costantemente il funzionamento dei sistemi e gli output generati;
- documentare tutto: scelte, verifiche, incidenti, azioni correttive.
L’organismo di vigilanza deve essere dotato di autonomi poteri di iniziativa e controllo, e deve effettivamente vigilare.
Non basta nominarlo sulla carta: deve avere risorse, competenze, accesso ai dati, capacità di intervento.
In conclusione: l’AI non cambia le regole del gioco
L’evoluzione tecnologica non modifica i principi fondamentali della responsabilità civile o penale.
Chi sceglie di utilizzare un sistema di AI risponde delle conseguenze di quella scelta. L’automazione non è un alibi, è una responsabilità.
Per le imprese, questo significa che la gestione dei sistemi di AI deve essere accompagnata da governance rigorosa, documentazione puntuale, formazione continua, trasparenza verso clienti e utenti. La chiave, come sempre, sta nella chiarezza delle pattuizioni contrattuali, nella trasparenza della gestione del rapporto, nella documentazione delle scelte organizzative e tecniche.
Solo così si possono evitare contenziosi e costruire un uso responsabile dell’intelligenza artificiale.
Perché quando un algoritmo sbaglia, a rispondere è sempre un essere umano e la sua impresa.
