Il modello Gemma AI di Google è stato rimosso dal portale pubblico AI Studio dopo che la senatrice Marsha Blackburn ha denunciato un output falsificato.
Il sistema aveva affermato che la senatrice fosse stata accusata di reati gravi e aveva persino generato link a articoli di cronaca che non esistevano.
In risposta, Google ha chiarito che quel modello era destinato solo agli sviluppatori e non era progettato per rispondere a domande fattuali del pubblico.

La vicenda mette in evidenza come anche un errore isolato possa sconvolgere la fiducia in strumenti di intelligenza artificiale diffusi e potenzialmente accessibili a molti utenti.

Che tipo di errore è stato?

Gemma AI ha generato una storia falsa secondo cui Marsha Blackburn avrebbe avuto relazioni non consensuali e richieste di farmaci da un agente durante una campagna politica.
La senatrice ha smentito categoricamente ogni affermazione e ha definito l’episodio “defamazione”, non semplice “hallucination”.
Google ha spiegato che qualcuno aveva usato l’interfaccia pubblica del modello chiedendo fatti reali, pur essendo questo in teoria limitato agli sviluppatori.

Questo incidente evidenzia la difficoltà nell’assicurare che un modello di IA generativa usi solo fonti affidabili e controllate quando risponde a input inattesi.

Gemma AI: implicazioni per Google e per il settore IA

L’errore di Gemma AI solleva questioni importanti: chi controlla i punti in cui l’IA può causare danno reale?
Google ha temporaneamente bloccato l’accesso pubblico a Gemma AI, lasciandola disponibile solo via API agli sviluppatori.
Questo cambio strategico riflette un nuovo livello di cautela: il passaggio da “modello aperto” a “strumento controllato”.

Per il settore delle IA generative quel che conta non è solo il progresso tecnico, ma anche la credibilità. Un modello che produce false accuse su una figura pubblica mina alla radice la fiducia nella tecnologia.

Cosa devono tenere a mente utenti e aziende

Se sei utente o sviluppatore, questo episodio sottolinea due cose:

• un modello IA non è infallibile e può generare contenuti dannosi,
• le piattaforme devono prevedere e gestire la responsabilità dei propri strumenti.

Le aziende ora devono rafforzare i controlli, definire chiaramente i limiti d’uso e offrire trasparenza.
Gli utenti devono trattare risposte AI con spirito critico e verificare sempre le fonti.
In futuro, la fiducia nelle IA generative dipenderà dalla capacità di evitare errori gravi e di mantenere standard etici elevati.