L’Unione Europea ha aperto un’indagine formale su xAI, la società di Elon Musk che sviluppa Grok. Il punto non è “solo” la polemica. Il tema è più serio. Su X sarebbero circolate immagini di nudo non consensuale generate con l’AI partendo da foto reali. E, secondo le ricostruzioni, tra i soggetti coinvolti ci sarebbero stati anche minori. Per questo l’UE attiva le leve del Digital Services Act (DSA) e vuole capire se siano stati valutati i rischi e messi filtri adeguati, prima che il danno si diffondesse.

Indagine UE su Grok e xAI: cosa contesta Bruxelles

L’Indagine UE su Grok ruota attorno a un concetto chiave del DSA: il dovere di ridurre i rischi sistemici. Quindi non basta “reagire” quando un caso esplode. Serve prevenzione, tracciabilità e procedure solide. In pratica, la Commissione vuole verificare se xAI abbia fatto una valutazione realistica dei rischi legati a un modello generativo integrato in un social. E vuole capire quali misure siano state adottate per impedire la creazione e la circolazione di contenuti potenzialmente illegali.

Il DSA prevede anche conseguenze pesanti. Se emergono violazioni, le sanzioni possono arrivare fino al 6% del fatturato globale. Inoltre, l’attenzione europea non nasce dal nulla. Nel tempo, le piattaforme sono state richiamate più volte su trasparenza, gestione dei contenuti e responsabilità operative.

Indagine UE su Grok: perché i deepfake sessuali sono un’emergenza

Qui il punto è tecnico e sociale insieme. I deepfake sessuali hanno una dinamica diversa da altri abusi. Si producono in fretta, si condividono in un attimo e lasciano conseguenze durature. Inoltre, colpiscono la dignità e la privacy in modo diretto. Per questo l’UE parla di sicurezza online e non di semplice “contenuto indesiderato”.

In più, l’integrazione con una piattaforma come X può amplificare tutto. Quando la generazione e la condivisione stanno nello stesso flusso, il passaggio da “output” a “viralità” diventa immediato. Di conseguenza, l’indagine guarda sia al comportamento del modello, sia alle scelte di prodotto. Ad esempio: quali blocchi esistono, quanto sono efficaci e come vengono applicati. E ancora: che strumenti hanno le vittime per segnalare e ottenere rimozioni rapide.

C’è anche un tema di responsabilità. Musk sostiene che chi crea e diffonde materiale illecito deve risponderne. È un principio sensato. Però, allo stesso tempo, una piattaforma non può lavarsene le mani. Serve un equilibrio. Quindi l’UE vuole chiarire dove finisce l’uso improprio e dove iniziano le lacune di progettazione e controllo.

Cosa cambia per X e per l’AI generativa sulle piattaforme

Questa vicenda è un test per l’intero settore. Perché l’AI generativa non è più “un’app a parte”. Ormai è un modulo dentro prodotti di massa. Di conseguenza, le autorità chiedono regole di sicurezza comparabili a quelle dei servizi principali. Quindi logiche di rischio, audit interni, trasparenza e processi di risposta rapida.

Nel frattempo, alcuni Paesi extra UE hanno mostrato attenzione sul tema. In casi simili, i regolatori possono aprire verifiche parallele.

Per le piattaforme, la direzione è chiara. Più “potenza” ai modelli significa anche più responsabilità. E significa investire in prevenzione, non solo in comunicazione. Inoltre, la gestione dei termini di servizio e dei permessi richiesti agli utenti diventa parte del problema. Perché la fiducia si gioca lì, ogni giorno.

Un precedente che può riscrivere gli standard

Se l’Indagine UE su Grok porterà a obblighi più stringenti, l’effetto non resterà confinato a xAI. Potrebbe diventare uno standard di fatto per chi integra AI generativa nei social. E, in quel caso, cambierà anche il mercato: più controlli, più costi, ma anche più tutela reale. Alla fine, la vera “innovazione” non è solo creare di più. È creare meglio, senza lasciare spazio a forme di abuso che oggi sono già una crisi concreta.