A livello europeo si è progressivamente superata la concezione del consumatore come mero acquirente di beni e servizi, riconoscendolo invece quale soggetto strutturalmente non posto sullo stesso piano del prestatore, in una posizione di debolezza e, dunque, maggiormente esposto a potenziali rischi di compressione della propria libertà di movimento nel mercato.
Tale posizione di disparità si è ulteriormente accentuata con l’avvento del mercato digitale e con la diffusione di sistemi di Intelligenza Artificiale.
L’utilizzo di tali tecnologie ha contribuito ad ampliare l’asimmetria informativa a favore del professionista, il quale dispone di un patrimonio informativo e tecnico sensibilmente superiore rispetto al consumatore. Ne deriva uno squilibrio che, se non regolato, può incidere sulla capacità di quest’ultimo di assumere decisioni pienamente consapevoli in relazione al prodotto, al servizio o al contratto che intente acquistare.
La crescente esigenza di informazione e trasparenza nel rapporto tra prestatore e consumatore impone, dunque, un adeguamento degli obblighi informativi più consolidati e una rinnovata attenzione al contrasto delle pratiche commerciali scorrette.
In tale contesto si colloca l’intervento dell’Autorità Garante della Concorrenza e del Mercato (di seguito solo AGCM o Autorità) nei confronti di DeepSeek, oggetto del presente commento. Con esso, sebbene sia centrale l’applicazione del Codice del Consumo, è possibile fare una lettura coordinata tra la regolamentazione delle pratiche commerciali scorrette, applicata anche ai servizi basati su IA, e gli obblighi di trasparenza posti in capo ai fornitori di tali sistemi ai sensi dell’art. 50 dell’AI Act.
Dal un lato, invero, il comportamento diligente del prestatore di servizio verso il consumatore impone completezza e chiarezza delle informazioni essenziali per un acquisto consapevole, dall’altro la “trasparenza” richiesta in ambito di IA stabilisce che tali sistemi siano sviluppati in modo da rendere gli esseri umani consapevoli del fatto di che stanno interagendo con un sistema di IA e informandoli sulle capacità e i limiti del sistema (tra cui le allucinazioni).
L’AGCM, tramite il procedimento verso DeepSeek, a parere di chi scrive, traccia una possibile linea di congiunzione tra i due concetti evidenziando che l’omissione di una corretta informativa sui rischi potenziali dell’uso di sistemi di IA generativa è idonea a incidere sulla capacità degli utenti di assumere decisioni consapevoli, integrando così una pratica commerciale scorretta.
Indice
Il procedimento AGCM: contestazioni e sviluppo istruttorio
L’Autorità ha avviato un procedimento nei confronti di Hangzhou DeepSeek Artificial Intelligence Co., Ltd. e Beijing DeepSeek Artificial Intelligence Co., Ltd. (da ora in poi solo DeepSeek o Società), società che offrono servizi di IA a un’utenza non professionale, dal momento che non considerava idonee le informazioni fornite all’utenza sulla possibile presenza di allucinazioni negli output del sistema.
In origine, DeepSeek aveva predisposto alcuni avvisi, collocati nel box dedicato all’inserimento dei prompt e all’interno degli output relativi ad ambiti particolarmente delicati (medico, legale, finanziario), con diciture quali: “Generated by AI, for reference only” e “This response is AI generated, for reference only”.
Sul punto, nella propria istruttoria l’Autorità contestava principalmente:
- l’insufficienza dell’informativa sul rischio di allucinazioni nei risultati generati dall’IA.
L’avviso di DeepSeek informava solamente che l’output dell’IA era da considerarsi meramente indicativo (“for reference only”). L’Autorità riteneva un simile avviso inadatto a informare il consumatore circa la possibilità che le risposte dell’IA potessero contenere informazioni errate o fuorvianti generate dal sistema stesso.
Una simile impostazione, più esattamente, è stata rilevata potenzialmente lesiva degli artt. 20 e 22 del Codice del Consumo i quali, in estrema sintesi, prescrivono il divieto di mettere in atto pratiche commerciali idonee “a falsare in misura apprezzabile il comportamento economico, in relazione al prodotto, del consumatore medio che essa raggiunge o al quale è diretta[…]” anche per il tramite dell’omissione di informazioni rilevanti come l’esistenza di possibili allucinazioni;
- l’utilizzo di disclaimer in lingua inglese
L’art. 9 del Codice del Consumo impone la lingua italiana per le comunicazioni rivolte ai consumatori per garantire la comprensione e l’efficacia verso utenti delle comunicazioni del prestatore di servizi.
Pur non condividendo integralmente le osservazioni formulate dall’AGCM, DeepSeek ha presentato una serie di impegni volontari finalizzati ad adeguare il proprio servizio alle richieste dell’Autorità.
Gli impegni di DeepSeek
L’AGCM ha valutato in modo particolarmente positivo l’insieme di misure proposto da DeepSeek, articolato lungo quattro principali direttrici.
1. Banner informativi completi, permanenti e in lingua italiana
DeepSeek si è impegnata a introdurre:
- un banner permanente in lingua italiana, posizionato sotto il box di input della chat, recante la dicitura: “Contenuto generato da IA. Verifica sempre l’accuratezza delle risposte, che possono contenere inesattezze”;
- un analogo banner nella pagina di registrazione, visibile già prima del pulsante “Registrati”.
Entrambi i banner includono link ai Termini di Utilizzo e all’Informativa Privacy, e sono integralmente tradotti in italiano.
2. Avvisi aggiuntivi per contenuti sensibili
Per le risposte relative ad ambiti delicati, quali quelli medico, legale o finanziario, DeepSeek inserirà un ulteriore avviso direttamente nella finestra di dialogo della chat:
“Questa risposta è generata da IA. Controllarne l’accuratezza.”
Tale avviso si aggiungerà al disclaimer già presente sotto il box di input.
3. Traduzione integrale dei Termini di Utilizzo
I Termini e Condizioni del servizio, precedentemente disponibili esclusivamente in lingua inglese, saranno tradotti integralmente in italiano e visualizzati automaticamente in tale lingua ogni qualvolta il programma si interfacci con un indirizzo IP nazionale.
La traduzione dei T&C, unitamente alla possibilità di accedervi direttamente dai banner presenti nella chat, costituisce un intervento di particolare rilievo, in quanto consente al consumatore di informarsi in modo più completo e immediato sui rischi di allucinazione, senza dover affrontare percorsi di navigazione complessi o poco intuitivi.
4. Miglioramento tecnico dei modelli per ridurre le allucinazioni
Le allucinazioni rappresentano, allo stato attuale, un fenomeno strutturalmente connesso all’utilizzo dei sistemi di IA generativa.
Ciononostante, DeepSeek ha assunto un impegno sostanziale a intervenire anche sul piano tecnico, attraverso un piano articolato nelle seguenti fasi:
- fase di pre-training, volta al filtraggio dei dati e all’eliminazione di dataset di bassa qualità;
- fase di post-training, basata sull’utilizzo di coppie domanda-risposta e tecniche di reinforcement learning per ridurre la probabilità di allucinazioni negli output;
- fase di implementazione, che prevede l’accesso del modello a fonti esterne autorevoli e aggiornate.
L’obiettivo dichiarato è ridurre fenomeni delle allucinazioni, limitando per quanto possibile il rischio di alterazioni sistematiche della consapevolezza del consumatore.
La decisione finale dell’AGCM e alcune considerazioni conclusive
In considerazione delle iniziative assunte dalla Società, l’Autorità ha disposto la chiusura del procedimento senza accertare l’infrazione inizialmente contestata.
L’AGCM ha, infatti, ritenuto che gli impegni presentati da DeepSeek fossero adeguati a garantire il rispetto delle disposizioni del Codice del Consumo, in particolare degli artt. 9, 20 e 22.
La pronuncia si colloca tra i primi interventi dell’AGCM nel rapporto tra consumatore e sistemi di IA generativa e fa emergere con particolare evidenza tre profili fondamentali:
- la centralità dell’informazione, quale presupposto per una corretta comprensione della natura probabilistica e fallibile dell’IA. Con il caso di DeepSeek l’Autorità si è trovata a ribadire quanto espresso in un suo recente procedimento, ossia che “l’informativa sulla possibilità di incorrere in informazioni inesatte, fuorvianti o inventate appare essenziale per consentire all’utenza una scelta consapevole di utilizzo dei modelli di IA” tra diversi operatori concorrenti. Tale scelta costituisce una vera e propria “decisione commerciale” ai sensi del Codice del Consumo, anche quando non comporta il pagamento di un corrispettivo monetario. L’Autorità prosegue sancendo che in assenza di un’adeguata informativa, il consumatore opererebbe nella erronea convinzione di poter fare pieno affidamento sull’attendibilità e correttezza dei risultati forniti dal Sistema, con possibili conseguenze anche su decisioni prese a valle;
- la responsabilità del professionista, chiamato non solo a garantire una comunicazione chiara, visibile e in lingua locale, ma anche a mitigare tecnicamente lo sviluppo di allucinazioni;
- il valore del caso DeepSeek quale precedente significativo, soprattutto in relazione alle misure virtuose di adeguamento alla normativa di settore che possono rappresentare un esempio di standard condivisi.
