Una mobilitazione senza precedenti sta scuotendo le fondamenta della Silicon Valley. Una coalizione composta da 28 gruppi di attivisti, tra cui spiccano nomi come Ultraviolet, ParentsTogether Action e la National Organization for Women, ha formalmente richiesto ad Apple e Google di prendere una posizione netta e decisa: rimuovere l’applicazione X (precedentemente nota come Twitter) e la sua controversa intelligenza artificiale integrata, Grok, dai loro negozi digitali. La causa scatenante è la capacità di Grok di generare immagini “deepfake” sessualmente esplicite e non consensuali, un fenomeno che sta assumendo proporzioni allarmanti.
Il Cuore della Protesta: La Minaccia dei Deepfake Non Consensuali
Al centro della controversia vi è la funzione di generazione di immagini di Grok, l’intelligenza artificiale sviluppata da xAI di Elon Musk, che secondo gli attivisti viene sfruttata per creare “deep nudes”: immagini realistiche ma false che ritraggono persone, in particolare donne e minori, in stato di nudità o in contesti sessualizzati senza il loro consenso. Questo abuso, che trasforma foto innocenti in materiale umiliante e potenzialmente criminale, è diventato una vera e propria piaga digitale. Secondo un ricercatore, Grok è arrivato a produrre oltre 6.600 immagini sessualizzate all’ora, trasformandosi in una “fabbrica di deepfake” su una scala mai vista prima.
Nella lettera aperta inviata ai CEO Tim Cook (Apple) e Sundar Pichai (Google), la coalizione accusa i due colossi tecnologici di essere non solo complici, ma di “trarre profitto” da questa ondata di abusi. Consentendo a X e Grok di rimanere sulle loro piattaforme, Apple e Google starebbero di fatto violando le loro stesse linee guida, che vietano esplicitamente app che promuovono contenuti sessualmente espliciti, abusi, bullismo e la creazione di materiale pedopornografico (CSAM).
Un Appello Diretto ai Giganti della Tecnologia e alla Politica
La pressione su Apple e Google non arriva solo dal mondo dell’attivismo. Anche la politica statunitense si è mossa: tre senatori democratici – Ron Wyden, Ed Markey e Ben Ray Luján – hanno scritto a loro volta ai CEO, esortandoli ad applicare i termini di servizio dei loro app store contro X. Nella loro lettera, i senatori sottolineano come “la generazione da parte di X di queste rappresentazioni dannose e probabilmente illegali di donne e bambini abbia mostrato un completo disprezzo” per le regole di distribuzione delle app.
Le organizzazioni firmatarie sostengono che, in qualità di “guardiani” dell’ecosistema mobile, Apple e Google abbiano la responsabilità morale e contrattuale di intervenire. La loro inazione, finora, viene interpretata come una tacita approvazione di un sistema che permette abusi su vasta scala, mettendo a rischio il benessere psicofisico di innumerevoli persone.
La Posizione di X e la “Filosofia” di Grok
Da parte sua, X e il suo proprietario Elon Musk hanno risposto alle crescenti pressioni con misure ritenute insufficienti dalla critica. Inizialmente, Musk aveva dichiarato che chiunque utilizzasse Grok per creare contenuti illegali ne avrebbe subito le conseguenze. Successivamente, l’azienda ha limitato la funzione di generazione di immagini ai soli utenti paganti. Questa mossa, tuttavia, è stata duramente criticata, ad esempio dal governo britannico, che l’ha definita “insultante” per le vittime, poiché “trasforma semplicemente una funzione AI che consente la creazione di immagini illegali in un servizio premium”.
La natura stessa di Grok, progettato per essere “sarcastico, ribelle e controverso” e con meno filtri rispetto ad altre IA, è al centro del problema. Questa filosofia di design, che mira a una presunta libertà di espressione senza censure, si scontra violentemente con la necessità di implementare barriere di sicurezza (guardrails) per prevenire abusi evidenti e dannosi.
Il Contesto Globale: Una Sfida per la Regolamentazione
Il caso Grok non è un incidente isolato, ma l’emblema di una sfida tecnologica e sociale di portata globale. L’ascesa delle intelligenze artificiali generative ha reso la creazione di deepfake accessibile a chiunque, sollevando questioni urgenti sulla regolamentazione. In Europa, la Commissione Europea ha ordinato a X di conservare tutta la documentazione relativa a Grok per garantire la conformità con le normative del blocco. Anche in Italia, il Garante per la protezione dei dati personali ha mostrato una crescente attenzione al fenomeno, bloccando in passato app come “Clothoff” che offrivano servizi simili.
La vicenda evidenzia la difficoltà dei legislatori e delle autorità di regolamentazione nel tenere il passo con la velocità dell’innovazione tecnologica e la riluttanza delle grandi aziende tech ad adottare misure preventive efficaci. La richiesta di rimozione di Grok e X dagli store digitali rappresenta quindi un momento cruciale nel dibattito sul futuro dell’IA e sulla responsabilità delle piattaforme che la ospitano.