ROMA – Un’ascesa vertiginosa e una caduta rovinosa nell’occhio del ciclone normativo. Potrebbe essere questa la sintesi della parabola di Grok Imagine, il potente strumento di intelligenza artificiale generativa di proprietà di Elon Musk, che in soli trenta giorni ha registrato la creazione di oltre 5,5 miliardi di immagini. Un dato impressionante, svelato con orgoglio sulla stessa piattaforma social X, che tuttavia coincide con l’avvio di un’indagine formale da parte dell’Unione Europea. L’accusa è grave: la potenziale diffusione di deepfake a sfondo sessuale e la mancata mitigazione dei rischi sistemici associati a questa tecnologia.
Una crescita esplosiva e le sue implicazioni
Lanciata in fase di test nel corso del 2024 e resa disponibile a cascata nei vari paesi, con l’arrivo in Italia nell’agosto del 2025, la funzione Grok Imagine si è rapidamente imposta all’attenzione del pubblico. Integrata direttamente nel social network X, permette agli utenti di generare immagini e brevi video partendo da semplici descrizioni testuali. Una democratizzazione della creatività digitale che, come dimostrano i numeri, ha incontrato un enorme favore. La tecnologia alla base, un’evoluzione del modello Aurora di xAI, consente di creare clip animate partendo da un’immagine statica, aprendo scenari inediti per la comunicazione e l’intrattenimento. La strategia di Musk, che ha reso lo strumento gratuito per tutti gli utenti, è apparsa come una mossa competitiva diretta a concorrenti come OpenAI e il suo modello GPT-5.
Tuttavia, la stessa flessibilità che ne ha decretato il successo è diventata la sua più grande vulnerabilità. La possibilità di generare contenuti con poche restrizioni, inclusa una controversa modalità “Spicy” che permetteva nudità limitata e temi erotici, ha aperto le porte a un utilizzo malevolo della tecnologia. Il fenomeno dei deepfake sessuali non consensuali, ovvero immagini manipolate per ritrarre persone reali in contesti sessualizzati senza il loro consenso, è diventato una piaga della piattaforma, con conseguenze devastanti per le vittime.
L’intervento dell’Unione Europea e il Digital Services Act
Di fronte a questa escalation, l’Unione Europea non è rimasta a guardare. La Commissione ha avviato un’indagine formale contro X per verificare il rispetto del Digital Services Act (DSA), la normativa che impone alle grandi piattaforme online di valutare e mitigare i rischi legati alla diffusione di contenuti illegali e dannosi. L’inchiesta, annunciata il 26 gennaio 2026, si concentra proprio sulla capacità di Grok di generare deepfake e sulla responsabilità di X nel prevenire tali abusi. Henna Virkkunen, Commissaria europea per la Sovranità tecnologica, ha definito i deepfake sessuali “una forma violenta e inaccettabile di degradazione”, sottolineando la necessità di proteggere i cittadini, in particolare donne e bambini.
L’indagine europea si inserisce in un procedimento più ampio, avviato già a dicembre 2023, che riguarda le misure di X contro i contenuti illegali e la trasparenza dei suoi sistemi di raccomandazione. Bruxelles esaminerà se l’azienda di Musk abbia condotto un’adeguata valutazione dei rischi prima di integrare una tecnologia così potente come Grok. In caso di violazioni accertate, le sanzioni previste dal DSA possono arrivare fino al 6% del fatturato globale della società.
La risposta di X e le nuove restrizioni
Sotto la pressione di governi e istituzioni a livello globale, X ha recentemente introdotto nuove e più stringenti restrizioni. La piattaforma ora impedisce attivamente agli utenti di generare o modificare immagini sessualizzate di persone reali. Un cambio di rotta necessario, che arriva però dopo che il danno, in molti casi, è già stato fatto. La mossa, sebbene tardiva, segnala una presa di coscienza da parte dell’azienda sulla necessità di un maggiore controllo etico sui propri strumenti di intelligenza artificiale. Resta da vedere se queste misure saranno sufficienti a soddisfare le richieste delle autorità regolatorie e a ricostruire la fiducia degli utenti.
Il futuro dell’IA generativa tra innovazione e responsabilità
Il caso di Grok Imagine è emblematico del dilemma che la società moderna si trova ad affrontare: come bilanciare l’incredibile potenziale innovativo dell’intelligenza artificiale con la necessità impellente di proteggere gli individui da abusi e violazioni? La capacità di creare mondi visivi dal nulla è una frontiera affascinante, ma la stessa tecnologia può diventare un’arma nelle mani sbagliate. L’indagine dell’UE su X non è solo un atto normativo, ma un segnale forte all’intera industria tecnologica: la libertà creativa non può prescindere dalla responsabilità sociale e dalla tutela dei diritti fondamentali. Il futuro di piattaforme come X e di strumenti come Grok dipenderà dalla loro capacità di integrare principi etici solidi fin dalla fase di progettazione, garantendo che il progresso tecnologico sia sempre al servizio dell’umanità e non un suo detrattore.