Provvedimento AGCM PS12968 del 17/02/2026

Informativa sul rischio di "allucinazioni" nei servizi di IA di Mistral

Il provvedimento riguarda Mistral AI SAS, società francese attiva nello sviluppo di servizi di intelligenza artificiale, in particolare il servizio "Le Chat" accessibile via web e app. L’AGCM ha avviato il procedimento PS12968 per verificare se l’informativa resa agli utenti fosse sufficiente rispetto al rischio che il modello generasse "allucinazioni", cioè risposte inesatte, fuorvianti o inventate.

Origine del procedimento e contestazione

L’istruttoria è stata aperta ai sensi degli artt. 20, 21 e 22 del Codice del consumo. La contestazione riguardava l’insufficiente informativa all’utenza sulla possibilità che i modelli di IA producessero output non affidabili. La questione è stata trattata come possibile pratica commerciale scorretta, sotto il profilo dell’omissione o inadeguatezza informativa.

Il servizio e il pubblico interessato

Mistral offre quattro servizi di IA; tra questi, Le Chat è stabilmente accessibile tramite web e app, con disponibilità anche per l’Italia. L’app consente l’uso della versione gratuita Le Chat Free, mentre i piani a pagamento, come Le Chat Pro, richiedono sottoscrizione tramite sito. Il servizio è stato attivamente promosso in Italia dal 29 maggio 2025.

Posizione difensiva del professionista

Mistral ha contestato l’applicabilità della disciplina consumeristica italiana prima dell’offerta attiva al pubblico italiano, sostenendo che la semplice accessibilità del servizio non fosse sufficiente a dimostrare la volontà di contrarre con consumatori italiani. Ha inoltre sostenuto che il rischio di allucinazioni fosse già noto, che il centro assistenza contenesse una pagina dedicata, che i termini di servizio fossero accessibili al primo accesso e che il sistema invitasse comunque l’utente a verificare le risposte.

Impegni proposti per migliorare l’informativa

La società ha presentato impegni poi integrati, articolati in quattro direttrici principali:

• inserimento di un disclaimer permanente in lingua italiana nelle finestre di dialogo di Le Chat, sia prima sia dopo il log-in, su web e app, con avviso che il sistema può commettere errori e invito a controllare le risposte;
• traduzione in italiano e integrazione delle condizioni di servizio, con un testo più completo sui rischi di imprecisione degli output e sull’uso prudente del servizio;
• miglioramento dell’accessibilità alle condizioni di servizio tramite link nella chat, nelle pagine di sign up e log in e nelle schede dell’app sugli store;
• traduzione integrale in italiano del sito e del centro assistenza.

Valutazione dell’AGCM sugli impegni

L’Autorità ha ritenuto che gli impegni rendessero l’informativa più trasparente, intellegibile e immediata per gli utenti. In particolare, ha valorizzato il disclaimer in italiano, la sua evidenza grafica, il collegamento alle condizioni di servizio e la presenza di un testo più dettagliato sulle allucinazioni. Ha inoltre considerato utile la traduzione integrale del sito, compreso il centro assistenza, per permettere ai consumatori di compiere scelte più informate e consapevoli.

Esito finale e obblighi conseguenti

L’AGCM ha deliberato di rendere obbligatori gli impegni ai sensi dell’art. 27, comma 7, del Codice del consumo e dell’art. 10 del Regolamento. Il procedimento è stato chiuso senza accertare l’infrazione. Mistral deve informare l’Autorità dell’avvenuta attuazione degli impegni entro 120 giorni dalla notifica della delibera; la mancata attuazione può comportare riapertura del procedimento e, in caso di inottemperanza, l’applicazione delle sanzioni previste dall’art. 27, comma 12, del Codice del consumo.