Provvedimento AGCM PS12942 del 16/06/2025

DeepSeek – informativa insufficiente sul rischio di “allucinazioni” nei modelli di IA

L’AGCM ha avviato il procedimento PS12942 nei confronti di Hangzhou DeepSeek Artificial Intelligence Co., Ltd. e Beijing DeepSeek Artificial Intelligence Co., Ltd., società che gestiscono il sistema di intelligenza artificiale DeepSeek accessibile tramite il sito web dedicato. L’istruttoria nasce dal sospetto che il professionista non informi adeguatamente gli utenti circa la possibilità che i modelli generino output inesatti, fuorvianti o inventati, fenomeno noto come “allucinazioni”.

Soggetti coinvolti e origine del procedimento

Le due società sono considerate professionisti ai sensi dell’articolo 18, lettera b), del Codice del consumo. L’Autorità procede ai sensi dell’articolo 27, comma 3, del Codice del consumo e dell’articolo 6 del Regolamento sulle procedure istruttorie nelle materie di tutela del consumatore e pubblicità ingannevole e comparativa, con contestuale richiesta di informazioni ai sensi dell’articolo 13 del Regolamento.

Condotta contestata

Secondo l’AGCM, gli utenti di DeepSeek non riceverebbero un’informativa sufficientemente chiara, immediata e intellegibile sul rischio di incorrere in “allucinazioni” durante l’uso dei modelli di IA. Tale rischio consiste nella generazione di risposte contenenti informazioni inesatte, fuorvianti o inventate a fronte dell’input dell’utente.

L’Autorità rileva in particolare che:

• nelle finestre di dialogo non compare un disclaimer specifico sul fenomeno delle allucinazioni;
• l’unica avvertenza visibile è la formula generica “AI-generated, for reference only”;
• tale avvertenza è in inglese anche quando l’utente interagisce in italiano;
• l’informazione non è presente nelle pagine di primo contatto del servizio, ossia homepage, pagina di registrazione/sign up e pagina di accesso/log in.

Valutazione di insufficienza informativa

L’AGCM osserva che i “Terms of Use” contengono alcune avvertenze generali, tra cui il fatto che gli output possano contenere errori o omissioni e che il servizio non sia garantito come privo di errori. Tuttavia, tali condizioni d’uso sono consultabili solo in via eventuale, scorrendo la homepage e cliccando sul link “Terms of Use” nella sezione “Legal & Safety”, e risultano anch’esse disponibili solo in lingua inglese.

Per l’Autorità, questa modalità di presentazione non è sufficiente a colmare la carenza informativa, perché l’utente incontra il servizio senza un’informazione immediata sul rischio specifico di allucinazioni e potrebbe quindi confidare, in modo errato, nell’attendibilità e correttezza dei risultati.

Profili giuridici contestati

La condotta è prospettata come pratica commerciale scorretta, in possibile violazione degli articoli 20, 21 e 22 del Codice del consumo. L’informazione sul rischio di allucinazioni è ritenuta essenziale per una decisione commerciale consapevole sull’utilizzo del sistema di IA, decisione che può incidere non solo sulla scelta del servizio, ma anche su successive determinazioni dell’utente in ambiti sensibili come salute, finanza e diritto.

Istruttoria e richieste di informazioni

Con la comunicazione di avvio, l’AGCM ha aperto formalmente il procedimento e richiesto a DeepSeek di fornire, entro 30 giorni, informazioni e documenti relativi a:

• elenco dei servizi di IA offerti in Italia, distinti se del caso tra gratuiti e a pagamento;
• date di prima disponibilità al pubblico italiano;
• date di primo caricamento sulle app store e indicazione dell’eventuale abilitazione del mercato italiano;
• ulteriori modalità di fruizione da parte degli utenti italiani;
• modalità di promozione e diffusione in Italia;
• numero complessivo di utenti italiani dal lancio al 1° marzo 2025;
• criteri di qualificazione di un utente come “italiano”;
• struttura del gruppo societario e soggetto cui fa capo la gestione stabile dei sistemi di IA;
• ogni altro elemento utile alla valutazione del caso.

Termini procedurali e possibili conseguenze

Il procedimento dovrà concludersi entro 270 giorni dalla data di protocollo della comunicazione. Le parti possono presentare memorie e documenti entro 30 giorni dal ricevimento.

La comunicazione richiama anche l’articolo 27, comma 4, del Codice del consumo, secondo cui il rifiuto o l’omissione ingiustificata di fornire informazioni o esibire documenti comporta una sanzione amministrativa pecuniaria da 2.000 a 20.000 euro, mentre la fornitura di informazioni o documenti non veritieri è punita con una sanzione da 4.000 a 40.000 euro. Ai fini dell’eventuale sanzione finale ai sensi dell’articolo 27, comma 9, viene inoltre richiesta documentazione economico-finanziaria utile alla quantificazione.