Provvedimento AGCM PS12942 del 16/12/2025

DeepSeek – informativa sul rischio di “allucinazioni” dei modelli IA

Il provvedimento riguarda le società Hangzhou DeepSeek Artificial Intelligence Co., Ltd. e Beijing DeepSeek Artificial Intelligence Co., Ltd., operanti nel settore dell’intelligenza artificiale generativa. L’AGCM ha avviato il procedimento PS12942 per verificare se l’informativa resa agli utenti sul rischio di “allucinazioni” dei modelli fosse sufficiente e non decettiva.

Professionisti coinvolti e servizi interessati

Hangzhou DeepSeek Artificial Intelligence Co., Ltd. è la società indicata come sviluppatrice di servizi basati su IA; Beijing DeepSeek Artificial Intelligence Co., Ltd. è controllata dalla prima e svolge il ruolo di fornitore tecnico dell’app, con gli algoritmi di base del large language model e il supporto architetturale complessivo. I servizi esaminati sono:

• la pagina web DeepSeek Chat, accessibile dall’Italia dal 2 novembre 2023;
• l’App DeepSeek, resa disponibile globalmente dal 15 gennaio 2025 e successivamente rimossa volontariamente dagli store italiani dopo il 29 gennaio 2025.

L’offerta risultava gratuita e open-source, senza campagne promozionali in Italia diverse dalla pubblicazione di notizie sui canali ufficiali del professionista.

Pratica contestata: informativa insufficiente sulle “allucinazioni”

La condotta oggetto di istruttoria consisteva nell’insufficiente informativa agli utenti circa la possibilità che i modelli di IA incorrano in “allucinazioni”, cioè producano risposte inesatte, fuorvianti o inventate a fronte di un input dell’utente. L’Autorità ha contestato che i disclaimer originari fossero generici e non adeguatamente trasparenti, anche perché formulati in inglese e non sempre calibrati sull’utenza italiana.

DeepSeek ha sostenuto che il fenomeno sia intrinseco ai modelli di IA e possa essere soltanto mitigato, richiamando misure tecniche già adottate, come l’uso di più dataset e della tecnologia Retrieval-Augmented Generation (RAG). Ha inoltre evidenziato avvisi già presenti nell’interfaccia, tra cui formule come “Generated by AI, for reference only” e “This response is AI generated, for reference only”.

Impegni presentati e contenuto delle misure

DeepSeek ha presentato impegni il 15 settembre 2025, poi integrati il 22 settembre 2025 e il 21 novembre 2025. Il pacchetto di misure si articolava in quattro direttrici principali:

• inserimento di un banner informativo permanente in lingua italiana sotto il box di input della chat, con il messaggio: “Contenuto generato da IA. Verifica sempre l’accuratezza delle risposte, che possono contenere inesattezze”;
• inserimento di un banner analogo nella pagina di sign-up, prima del pulsante di registrazione, con richiamo cliccabile a termini di utilizzo e informativa privacy;
• ulteriore banner nelle risposte generate su argomenti particolarmente sensibili, come medicina, diritto e finanza, con il messaggio: “Questa risposta è generata da IA. Controllarne l’accuratezza”;
• traduzione integrale in italiano dei termini e condizioni del servizio, compresa la parte sui rischi di allucinazione, con visibilità di default per utenti con IP italiano e collegamenti ipertestuali dalla pagina di registrazione e dal banner in chat.

Sul piano sostanziale, DeepSeek si è anche impegnata a migliorare i propri modelli di IA attraverso tre fasi:

• pre-training, con filtraggio più accurato dei dati e rimozione di quelli di bassa qualità;
• post-training, mediante coppie domanda-risposta specializzate e reinforcement learning;
• implementazione, con accesso a informazioni esterne in tempo reale e priorità alle fonti autorevoli.

Gli impegni avrebbero dovuto essere realizzati entro 90 giorni dall’accettazione e avrebbero avuto durata illimitata.

Intervento dell’AGCom e rapporto con il DSA

Poiché la pratica era diffusa via internet, l’AGCM ha richiesto il parere dell’AGCom. Quest’ultima ha risposto di non poter esprimere il parere richiesto, ritenendo che il caso ricadesse nella propria competenza quale Coordinatore dei servizi digitali per l’Italia, in quanto potenzialmente rilevante ai fini del Digital Services Act.

L’AGCM ha tuttavia osservato che la qualificazione di DeepSeek come motore di ricerca o servizio intermediario non risultava dimostrata in modo sufficiente, e ha richiamato il principio per cui la disciplina consumeristica continua a trovare applicazione anche in settori regolati, salvo incompatibilità specifiche. Il provvedimento sottolinea che l’oggetto dell’istruttoria rimaneva nell’alveo della tutela dei consumatori.

Valutazione finale dell’Autorità

L’Autorità ha ritenuto che gli impegni proposti migliorassero in modo significativo la trasparenza, l’intellegibilità e l’immediatezza dell’informativa sul rischio di allucinazioni. In particolare, ha valorizzato:

• la chiarezza del nuovo messaggio in lingua italiana;
• la sua collocazione costante nella chat e nella registrazione;
• la riproposizione nelle risposte su temi sensibili;
• il rinvio ai termini di utilizzo in italiano;
• l’intervento tecnico per ridurre il fenomeno alla radice.

Secondo l’AGCM, il complesso delle misure era idoneo a consentire ai consumatori di decidere in modo informato e consapevole se, quando e come utilizzare i servizi IA di DeepSeek.

Esito del procedimento e conseguenze

L’AGCM ha deliberato di rendere obbligatori gli impegni ai sensi dell’art. 27, comma 7, del Codice del consumo e dell’art. 10 del Regolamento. Il procedimento è stato chiuso senza accertare l’infrazione.

Le società devono informare l’Autorità dell’avvenuta attuazione degli impegni entro 120 giorni dalla notifica della delibera. In caso di inottemperanza, il procedimento può essere riaperto e l’Autorità può applicare una sanzione amministrativa pecuniaria da 10.000 a 10.000.000 euro; nei casi di reiterata inottemperanza è possibile anche la sospensione dell’attività d’impresa per un massimo di trenta giorni.