DiffusionGemma NVIDIA apre una strada diversa per l’AI locale: invece di generare testo una parola alla volta, lavora su blocchi in parallelo. Il modello open di Google DeepMind arriva ottimizzato per GPU GeForce RTX, piattaforme RTX PRO e sistemi DGX Spark. Inoltre, il supporto a strumenti come Hugging Face, vLLM e Unsloth rende più semplice iniziare a provarlo. Per sviluppatori e appassionati, il tema è chiaro: risposte più rapide, meno attesa e più controllo in locale.

NVIDIA accelera DiffusionGemma, il nuovo modello open di Google DeepMind pensato per generare testo in modo diverso dai classici LLM. La novità non riguarda solo la velocità, ma il modo stesso in cui il testo prende forma.

I modelli autoregressivi generano una parola, o meglio un token, alla volta. Ogni nuovo token dipende da quello precedente. Per questo spesso sembrano “scrivere” davanti ai nostri occhi, con un flusso sequenziale.

DiffusionGemma, invece, usa un approccio ispirato ai modelli diffusion già noti nel mondo delle immagini. Parte da una struttura rumorosa e la raffina, lavorando su interi blocchi di testo. Inoltre, può denoizzare fino a 256 token per step, quindi sfrutta meglio il calcolo parallelo delle GPU.

DiffusionGemma NVIDIA cambia il modo di generare testo

La differenza principale sta nella generazione parallela. Invece di produrre una risposta token dopo token, DiffusionGemma NVIDIA elabora più parti della frase nello stesso momento.

Questo approccio può ridurre la latenza nelle attività a singolo utente. Infatti, chat interattive, agenti AI, assistenti locali e cicli di ragionamento possono beneficiare di tempi di risposta più rapidi.

Inoltre, il modello si basa su Gemma 4, architettura mixture-of-experts da 26 miliardi di parametri. Durante ogni passaggio attiva però solo 3,8 miliardi di parametri, un dettaglio importante per contenere il carico operativo.

Il risultato è una soluzione pensata per chi vuole provare AI avanzata senza dipendere sempre dal cloud. Non solo per curiosità, quindi, ma anche per sviluppo, ricerca e prototipazione.

AI locale su RTX, perché le GPU fanno la differenza

La generazione token per token dei classici LLM tende a essere limitata dalla memoria. In pratica, il modello passa molto tempo ad attendere banda memoria, mentre parte della potenza di calcolo resta meno sfruttata.

Con l’approccio diffusion, invece, il carico diventa più adatto al calcolo parallelo. Di conseguenza, le GPU NVIDIA RTX possono usare meglio Tensor Core e stack CUDA.

Secondo NVIDIA, DiffusionGemma può raggiungere 1.000 token al secondo su una singola GPU NVIDIA H100, 150 token al secondo su DGX Spark e fino a 2.000 token al secondo su DGX Station.

Inoltre, l’azienda parla di prestazioni fino a 4 volte superiori rispetto a un modello autoregressivo equivalente nello stesso scenario single-user. È un dato interessante, soprattutto per chi lavora con assistenti locali o loop agentici.

DiffusionGemma NVIDIA tra RTX PRO, DGX Spark e GeForce RTX

La piattaforma di riferimento è ampia. DiffusionGemma NVIDIA può girare su DGX Spark, pensato come supercomputer personale AI da scrivania con GB10 Grace Blackwell Superchip e 128 GB di memoria unificata.

In più, il modello arriva sulle workstation NVIDIA RTX PRO 6000, dove può servire a sviluppatori, ricercatori e professionisti AI che vogliono generazione locale a bassa latenza.

Per i carichi più spinti, DGX Station offre fino a 748 GB di memoria coerente e prestazioni dichiarate fino a 2.000 token al secondo. Allo stesso tempo, NVIDIA indica anche il supporto alle GPU GeForce RTX, con integrazione llama.cpp in arrivo.

Questo passaggio è rilevante per il pubblico consumer evoluto. Infatti, l’AI locale su PC RTX può diventare più accessibile a creator, sviluppatori indipendenti e utenti che vogliono sperimentare senza costi cloud continui.

Supporto a Hugging Face, vLLM e Unsloth

La parte software conta quasi quanto l’hardware. NVIDIA segnala il supporto day-one a Hugging Face Transformers, vLLM e Unsloth.

Con Hugging Face Transformers, il modo più rapido per partire è testare DiffusionGemma su una GeForce RTX 5090 o su DGX Spark. Inoltre, per chi cerca inferenza con throughput più alto, vLLM offre supporto immediato.

Per l’adattamento a task o domini specifici, invece, entrano in gioco Unsloth e NVIDIA NeMo. In questo modo, il modello può essere provato, servito e affinato con strumenti già noti alla community AI.

Questa disponibilità riduce una delle barriere principali dell’AI locale. Non basta avere un modello promettente; serve anche un ecosistema semplice da usare.

Perché DiffusionGemma interessa sviluppatori e appassionati

Il vantaggio non è solo tecnico. Un modello capace di generare testo più rapidamente in locale può cambiare il modo in cui si costruiscono strumenti AI personali.

Infatti, agenti che pianificano azioni, assistenti desktop, automazioni locali e ambienti di coding possono diventare più reattivi. Inoltre, l’elaborazione sul dispositivo riduce la dipendenza da server remoti e costi per token.

C’è anche un tema di controllo. Lavorare in locale permette di prototipare con più libertà, mantenere dati e workflow sulla propria macchina e testare modelli senza aspettare risorse cloud esterne.

Per questo, DiffusionGemma NVIDIA può essere interessante non solo per grandi aziende. Può parlare anche a sviluppatori indipendenti, ricercatori, creator tecnici e utenti RTX avanzati.

Un passo diverso per l’AI sui PC

DiffusionGemma NVIDIA non sostituisce automaticamente tutti gli LLM tradizionali. Però introduce una strada diversa, più adatta a carichi locali, interattivi e sensibili alla latenza.

Inoltre, l’approccio a blocchi può aprire nuove possibilità per assistenti personali e agenti AI. Mentre i modelli autoregressivi restano forti e diffusi, i modelli diffusion testuali provano a spostare il lavoro verso un uso più intenso del calcolo parallelo.

La novità va letta in questa direzione. NVIDIA vuole portare l’AI locale oltre la semplice dimostrazione tecnica, sfruttando GPU RTX, strumenti software maturi e modelli open.

Se il supporto GeForce continuerà a crescere, il PC potrà diventare una piattaforma AI ancora più autonoma. E DiffusionGemma potrebbe essere uno dei primi segnali di questa nuova fase.