Avviata istruttoria su DeepSeek per pratica commerciale scorretta
L’Autorità Garante della Concorrenza e del Mercato (AGCM) ha annunciato l’apertura di un’istruttoria nei confronti delle società cinesi Hangzhou DeepSeek Artificial Intelligence e Beijing DeepSeek Artificial Intelligence. Le due società sono al centro dell’indagine in quanto detengono e gestiscono il sistema di intelligenza artificiale DeepSeek. L’accusa principale è di pratica commerciale scorretta, come si evince dal Bollettino settimanale dell’Autorità.
Mancanza di chiare informazioni sui rischi di ‘allucinazioni’ dell’IA
Secondo quanto riportato dall’Antitrust, l’indagine è scaturita da informazioni acquisite nell’ambito dell’applicazione del Codice del Consumo. DeepSeek è sospettata di non aver informato in modo sufficientemente chiaro, immediato e comprensibile gli utenti dei propri modelli di IA riguardo al rischio di incorrere in ‘allucinazioni’. Questo termine tecnico si riferisce a situazioni in cui, a fronte di un input fornito dall’utente, il modello di IA genera output contenenti informazioni inesatte, fuorvianti o addirittura inventate.
Assenza di avvisi durante l’utilizzo dei modelli di IA di DeepSeek
Il Bollettino dell’Antitrust specifica che “nessun disclaimer o warning sull’eventualità che si verifichino ‘allucinazioni’ appare nelle finestre di dialogo che si aprono durante l’utilizzo dei modelli di IA di Deepseek”. Questa mancanza di avvisi preventivi potrebbe indurre i consumatori a utilizzare i sistemi di IA senza essere pienamente consapevoli dei potenziali rischi e delle limitazioni dei risultati generati.
Implicazioni e possibili conseguenze dell’indagine
L’indagine dell’Antitrust solleva importanti questioni riguardo alla trasparenza e alla responsabilità nell’ambito dello sviluppo e della commercializzazione di sistemi di intelligenza artificiale. Se confermata, la pratica commerciale scorretta potrebbe portare a sanzioni pecuniarie per le società coinvolte, oltre all’obbligo di adottare misure correttive per informare adeguatamente gli utenti sui rischi associati all’utilizzo dei modelli di IA DeepSeek.
Il contesto normativo e la tutela dei consumatori
Questa istruttoria si inserisce in un contesto di crescente attenzione da parte delle autorità di regolamentazione a livello globale verso le implicazioni etiche e legali dell’intelligenza artificiale. La tutela dei consumatori, in particolare, è un aspetto cruciale, soprattutto in un settore in rapida evoluzione come quello dell’IA, dove la comprensione dei meccanismi e dei potenziali rischi può essere complessa per il grande pubblico.
Riflessioni sulla trasparenza nell’era dell’Intelligenza Artificiale
L’indagine su DeepSeek evidenzia una questione fondamentale: la necessità di trasparenza e responsabilità nell’utilizzo dell’intelligenza artificiale. Informare adeguatamente gli utenti sui limiti e sui rischi dei sistemi di IA è essenziale per garantire un utilizzo consapevole e per evitare potenziali danni derivanti da informazioni errate o fuorvianti. Questo caso sottolinea l’importanza di un approccio regolamentare proattivo per proteggere i consumatori nell’era digitale.