Il quadro normativo di riferimento

L’Autorità Garante della Concorrenza e del Mercato (AGCM) esercita le proprie funzioni di tutela del consumatore principalmente in forza del D.Lgs. 206/2005 (Codice del Consumo), che recepisce la Direttiva 2005/29/CE sulle c.d. pratiche commerciali scorrette. Il profilo sanzionatorio segue l’accertamento delle condotte descritte dalla normativa (in particolare, dagli artt. 20, 21 e 22 Codice del Consumo): una pratica è scorretta quando è contraria alla diligenza professionale e idonea a falsare in misura apprezzabile il comportamento economico del consumatore medio.

Le omissioni ingannevoli (art. 22) integrano tale fattispecie quando il professionista non fornisce informazioni rilevanti di cui il consumatore avrebbe bisogno per assumere una decisione commerciale consapevole. Tale norma può quindi qualificare una base particolarmente rilevante per valutare l’eventuale insufficiente o mancata trasparenza delle funzionalità dei sistemi di IA aperti all’uso diretto dell’utenza.

L’Autorità dispone di uno strumento procedurale particolarmente flessibile: l’accoglimento degli impegni ai sensi dell’art. 27, comma 7, del Codice del Consumo, che consente di chiudere il procedimento senza accertamento formale dell’illecito, una volta che il professionista si sia vincolato a misure correttive ritenute idonee dall’Autorità stessa.

Le tre istruttorie: la condotta contestata

Negli ultimi mesi l’AGCM ha esteso l’azione di vigilanza sulle pratiche commerciali scorrette ai sistemi di intelligenza artificiale generativa, occupandosi in particolare – in tre diverse istruttorie – del rischio delle cosiddette “allucinazioni”, ossia la produzione di contenuti inesatti o fuorvianti.

Il nucleo della contestazione era sostanzialmente uniforme e coerente con i principi di trasparenza imposti dalla normativa di settore (es. AI Act) a provider e deployer di sistemi di IA: le società non avevano informato gli utenti in modo chiaro, immediato e intelligibile che i propri sistemi potevano generare contenuti inaccurati, fuorvianti o del tutto inventati. Tale omissione, secondo l’AGCM, costituiva una potenziale pratica commerciale scorretta ai sensi degli artt. 20, 21 e 22 del Codice del Consumo, poiché impediva agli utenti di assumere decisioni consapevoli circa l’utilizzo dei servizi, specialmente in ambiti ad alto rischio quali salute, finanza e diritto.

Il caso NOVA AI presentava un profilo di opacità ulteriore: la società non forniva informazioni di dettaglio sulle versioni dei sistemi di IA cui si aveva accesso, non consentendo di valutare quale fosse il valore aggiunto dell’abbonamento a pagamento rispetto alla versione gratuita dei medesimi modelli sottostanti.

Gli esiti: impegni vincolanti senza accertamento di infrazione

Le tre istruttorie si sono concluse con accoglimento degli impegni, senza accertamento di infrazione ai sensi dell’art. 27, comma 7, del Codice del Consumo. Il perimetro degli impegni assunti dalle società, pur variando negli elementi di dettaglio, ha una matrice comune.

• DeepSeek ha assunto il pacchetto di obblighi più articolato. Sono stati introdotti banner permanenti in lingua italiana – posizionati sotto il box di input della chat -, con la dicitura “Contenuto generato da IA. Verifica sempre l’accuratezza delle risposte, che possono contenere inesattezze“. È stato incluso analogo avviso nella pagina di registrazione, visibile prima ancora del pulsante “Registrati”, e nel contesto delle chat aventi ad oggetto temi particolarmente sensibili (es. materia sanitaria, finanziaria etc.). A ciò si aggiunge un impegno di natura tecnica: DeepSeek si è obbligata ad investire nel miglioramento della tecnologia per ridurre il rischio di allucinazioni, con esplicito riconoscimento che la tecnologia attuale non consente di eliminarle del tutto.
• Mistral ha assunto impegni articolati lungo quattro direttrici: (i) inserimento di disclaimer in-chat; (ii) rafforzamento dei disclaimer nei, e localizzazione in italiano dei, termini di servizio con riferimento esplicito alla potenziale inaffidabilità degli output; (iii) miglioramento dell’accessibilità di tali termini lungo tutto il percorso utente (homepage, registrazione, pagine degli store); nonché (iv) traduzione integrale del sito e del centro assistenza in italiano.
• NOVA AI, oltre all’inclusione di disclaimer e di miglioramenti tecnici per l’accessibilità delle proprie T&C, ha assunto impegni specificamente orientati alla trasparenza strutturale del servizio: la società si è impegnata a rendere esplicita la propria natura di aggregatore, chiarendo che il servizio fornisce un’unica interfaccia per accedere a diversi chatbot.

Il valore sistematico dell’azione dell’Autorità

Dal punto di vista della tutela del consumatore-utente, i tre procedimenti segnano un orientamento di rilievo.

L’AGCM ha sottolineato che la mancanza di informazioni sul rischio di allucinazioni è particolarmente rilevante perché questi strumenti possono essere impiegati in una vasta gamma di ambiti, inclusi quelli di particolare rilievo per il consumatore come salute, finanza e diritto.

Sotto il profilo della trasparenza contestuale, l’Autorità ha chiarito che non è sufficiente “seppellire” le avvertenze nelle condizioni generali: le informazioni devono raggiungere l’utente nel momento e nel contesto in cui il rischio si materializza, ossia nell’interfaccia di utilizzo.

Sul piano europeo, si tratta della prima occasione in cui un’Autorità di regolazione ha ottenuto impegni vincolanti e specifici da provider di IA in materia di disclosure sulle allucinazioni come obbligo di tutela del consumatore; l’AGCM ha inoltre definito gli impegni contestualmente, sulla base dei medesimi criteri, nei confronti di operatori appartenenti a tre diverse giurisdizioni (Cina, Francia, Turchia).

L’approccio dell’Autorità conferma che, almeno nell’immediato, la tutela del consumatore-utente di IA è attuabile principalmente rispetto alla trasparenza informativa e alla qualità del consenso, piuttosto che in relazione alla responsabilità diretta per l’output (ambito ancora largamente da costruire sul piano normativo)[1].

——-
Note:

[1] La decisione dell’Autorità non richiede la prova di un danno effettivo ma la mera idoneità della condotta a falsare la decisione commerciale.