Nvidia Vera Rubin NVL72: fino a 30 volte più throughput agentico per megawatt

Nvidia ha pubblicato nuovi numeri sulla piattaforma Vera Rubin NVL72 e il messaggio è chiaro: il rack di nuova generazione è pensato per gli agenti AI, non per la semplice chat. Secondo l’azienda, rispetto al GB300 NVL72 offre fino a 30 volte più throughput di inferenza agentica per megawatt e fino a 35 volte meno costo per milione di token.

Sono cifre da leggere con attenzione, perché sono dichiarate dal produttore e riportate come valori massimi. Vediamo cosa è stato misurato, come e quali sono i limiti.

Cosa ha dichiarato Nvidia su Vera Rubin NVL72

Nel post sul blog ufficiale di Nvidia dedicato all’efficienza con gli agenti, la società sostiene che Vera Rubin NVL72 ottenga fino a 30 volte più throughput di inferenza agentica per megawatt rispetto a GB300 NVL72. La seconda cifra riguarda l’economia dell’inferenza: fino a 35 volte meno costo per milione di token sulla stessa piattaforma di confronto.

Il termine chiave è “fino a”. Non si tratta di una media su tutti i carichi di lavoro, ma del miglior risultato osservato nel test, e il dato di punta riguarda il modello DeepSeek V4 Pro.

Nvidia afferma inoltre che Vera Rubin è ormai in piena produzione e in fase di diffusione presso i partner hardware e infrastrutturali. Non sono però forniti prezzi, volumi o clienti specifici, quindi per ora il dato resta una promessa sulle prestazioni più che una misura del mercato.

Il benchmark: sessioni reali di coding agentico

Il test usa SemiAnalysis AgentX, un benchmark costruito a partire da sessioni registrate di agenti che scrivono codice. Queste sessioni conservano la crescita del contesto, le chiamate agli strumenti e la creazione di sotto-agenti, cioè esattamente ciò che rende un agente diverso da una singola richiesta di chat.

Nvidia contrappone le richieste di chat o di riassunto, che di solito si fermano tra mille e ottomila token, alle sessioni agentiche, che possono arrivare a centinaia di migliaia di token in ingresso. Cita anche dati di OpenRouter secondo cui un carico agentico consuma circa 15 volte i token di una semplice conversazione.

Oltre a DeepSeek V4 Pro, i risultati più ampi citano modelli come Kimi K3, MiniMax M3, GLM5.3 e Qwen3.5. La scelta di modelli open weight con architettura mixture of experts non è casuale, perché sono proprio quelli che traggono più vantaggio dal parallelismo tra molte GPU.

Da dove arrivano i guadagni: hardware e software insieme

Un salto di 30 volte non nasce da un solo componente. Nvidia lo attribuisce a una combinazione di scelte di architettura e di software, e questo è il punto più interessante per chi segue l’evoluzione dei data center.

Sul lato software, l’azienda indica il serving disaggregato, che separa la fase di prefill (l’elaborazione del contesto) da quella di decode (la generazione della risposta), con un bilanciamento tra le due per sfruttare meglio le risorse. A questo si aggiungono il parallelismo degli esperti su larga scala, la cache KV distribuita, lo spostamento della cache su memoria host o storage e un instradamento che sa dove si trova già il contesto, per evitare di ricalcolarlo.

Tutto questo gira su uno stack che comprende kernel CUDA fusi, TensorRT-LLM e il framework Dynamo.

Sul lato hardware entrano in gioco le GPU Rubin con Tensor Core di quinta generazione e Transformer Engine di terza generazione, la quantizzazione a 4 bit NVFP4 e la sesta generazione di NVLink con relativo switch. Per quest’ultimo Nvidia dichiara pacchetti al secondo dieci volte superiori e latenza tre volte inferiore rispetto all’Ethernet standard.

Una piattaforma da sette chip

Vera Rubin non è un singolo processore ma un’architettura da sette chip: CPU Vera, LPU Groq 3, GPU Rubin, switch NVLink 6, DPU BlueField-4, Spectrum-6 SPX e SuperNIC ConnectX-9. Il ruolo dell’LPU Groq è coerente con quanto avevamo raccontato nell’articolo su Groq 3 LPX in piena produzione, il chip che accelera l’inferenza per gli agenti.

La logica è quella di una vera fabbrica di token, in cui ogni componente ha un compito preciso.

Perché il dato “per megawatt” conta più dei FLOPS

Oggi il limite di un data center AI non è soltanto quante GPU si possono comprare, ma quanta energia si riesce a portare in sito. Per questo Nvidia misura il throughput per megawatt: un rack che produce più token con la stessa potenza permette di ricavare più servizio dallo stesso allacciamento.

Nell’annuncio compare anche DSX MaxLPS, una funzione di gestione dell’energia che, secondo l’azienda, può far entrare fino al 40% di GPU in più nello stesso budget di potenza. È un tassello della strategia che abbiamo analizzato parlando di Nvidia DSX POD, il data center AI modulare, dove energia e raffreddamento sono trattati come parte del prodotto.

Nvidia ricorda anche che GB300 NVL72 offre, sempre secondo i suoi test su DeepSeek V4 Pro, fino a 15 volte il throughput per megawatt di Hopper. La generazione successiva, quindi, viene presentata come un secondo grande salto in pochi anni.

I limiti da tenere a mente

Qui serve prudenza. I risultati sono di Nvidia, misurati da Nvidia, e al momento sono in attesa della revisione di SemiAnalysis. Il test non include inoltre le prestazioni della CPU Vera nelle chiamate agli strumenti, che nei flussi agentici hanno un peso reale.

Le fonti consultate non riportano il numero di traiettorie testate, il throughput assoluto, le latenze, i tassi di errore o test di qualità. Nvidia sostiene che NVFP4 mantenga la qualità delle risposte, ma senza prove pubbliche allegate questo resta un’affermazione da verificare.

In breve: il segnale è forte, la verifica indipendente non c’è ancora.

Cosa cambia per costi e prezzi

Se i numeri reggessero in produzione, il costo per milione di token scenderebbe in modo sensibile per chi gestisce agenti di coding o di ricerca, che oggi consumano moltissimi token. Va però ricordato che l’hardware di punta resta costoso: abbiamo già commentato il contesto dei rincari dei server AI di Nvidia legati alla memoria, un fattore che può ridurre il vantaggio per chi compra.

Per i provider cloud il calcolo è diverso rispetto a quello di una singola azienda. Chi vende inferenza su larga scala guadagna dal costo per token, e un miglioramento di questo tipo può tradursi in prezzi API più bassi o in margini più alti, a seconda della concorrenza.

Cosa significa per chi lavora con l’AI

Per un professionista o una piccola azienda l’effetto non è immediato. Vera Rubin NVL72 è un’infrastruttura da data center, e i benefici arriveranno solo quando i grandi provider la metteranno in produzione e ne trasferiranno parte del risparmio sui prezzi dei modelli e degli agenti.

Il significato più ampio riguarda la direzione del mercato. L’attenzione si sposta dalla potenza di calcolo grezza all’efficienza nell’eseguire agenti che ragionano, chiamano strumenti e mantengono un contesto lungo. È lì che si concentrerà la domanda di token nei prossimi anni.

Per chi sviluppa o usa agenti, tre cose meritano attenzione nei prossimi mesi: l’eventuale conferma dei dati da parte di SemiAnalysis, l’arrivo dei primi cloud con Vera Rubin disponibile e l’evoluzione dei prezzi per token dei modelli open weight. Sono questi gli indicatori che trasformeranno un dato di laboratorio in un cambiamento reale.

Conclusioni

Vera Rubin NVL72 mostra dove Nvidia vuole portare l’inferenza: meno token sprecati, più agenti per megawatt e un costo per token che, nelle intenzioni, crolla. Le cifre dichiarate sono impressionanti, ma restano un massimo teorico finché non arriveranno verifiche indipendenti e dati di produzione.

Se ti occupi di AI, SEO o automazione, segui con attenzione gli aggiornamenti su prezzi e disponibilità: sono quelli che decideranno quanto costerà davvero far lavorare un agente. Continua a seguire intelligenzaartificiale.net per i prossimi sviluppi e dicci nei commenti se pensi che i numeri di Nvidia reggeranno alla prova dei fatti.