SambaNova e Supermicro: 10.000 chip SN50 per l’inferenza AI accanto alle GPU NVIDIA

Per anni la corsa all’AI è stata raccontata come una corsa alle GPU. Il 3 novembre 2026 SambaNova e Supermicro hanno annunciato un accordo che prova a cambiare un pezzo di quella storia: sistemi di inferenza che usano insieme le GPU NVIDIA e i nuovi chip SN50 di SambaNova, ciascuno per il compito in cui rende meglio. L’obiettivo iniziale è di 10.000 chip SN50, un numero che dice molto sulle ambizioni del progetto.

Se ti occupi di AI per lavoro, anche solo come utente avanzato di ChatGPT e degli altri assistenti, questa notizia ti riguarda più di quanto sembri. Dietro ogni risposta che ricevi c’è un costo di calcolo, e da quel costo dipendono prezzi, velocità e disponibilità dei servizi.

Che cosa hanno annunciato SambaNova e Supermicro

Secondo quanto riportato dalla stampa di settore sul comunicato congiunto, Supermicro costruirà, venderà e supporterà sistemi di inferenza che dividono il lavoro tra GPU NVIDIA e le unità RDU SN50 di SambaNova. Le GPU si occupano della lettura del prompt, mentre gli SN50 generano i token della risposta. La collaborazione parte con un piano da 10.000 chip SN50.

I primi clienti a cui si guarda sono i neocloud e i cloud sovrani, cioè i fornitori di capacità di calcolo che oggi faticano a procurarsi nuovi megawatt. Solo dopo arriveranno le aziende che vogliono far girare l’AI nei propri data center. Le due società dicono di aspettarsi una quantità sostanzialmente maggiore di capacità di inferenza ad alte prestazioni nel 2027.

Tutte queste cifre sono dichiarazioni delle aziende, non misure indipendenti. Vale la pena tenerlo a mente mentre leggi il resto.

Prefill e decode: perché dividere il lavoro ha senso

Quando invii un prompt a un modello linguistico, il sistema svolge due fasi molto diverse. La prima si chiama prefill: il modello legge l’intero testo di ingresso e costruisce la memoria di contesto. È una fase ad alta intensità di calcolo, ed è il terreno naturale delle GPU, nate per eseguire moltissime operazioni in parallelo.

La seconda fase si chiama decode: il modello genera la risposta un token alla volta. Qui il collo di bottiglia non è più la potenza di calcolo pura, ma la banda di memoria e la velocità con cui i dati si spostano. SambaNova sostiene che una macchina progettata attorno alla memoria, come l’SN50, sia più adatta a questo secondo compito.

L’idea dell’architettura ibrida

L’idea è semplice da enunciare: invece di far fare tutto alla stessa macchina, si assegna a ciascuna il lavoro che le riesce meglio. Secondo SambaNova, questa divisione batte sia le sole GPU sia i soli RDU. Come ogni promessa di prestazioni, andrà verificata sul campo, con carichi di lavoro reali e non solo con dimostrazioni.

Per chi gestisce un parco di GPU già acquistate, c’è anche un messaggio economico. Aggiungere acceleratori dedicati alla generazione dei token potrebbe estendere la vita utile delle GPU installate, invece di costringere a sostituirle.

Che cos’è l’SN50 e da dove arriva

L’SN50 non è una novità dell’ultima settimana. SambaNova lo ha presentato a febbraio 2026, insieme a una collaborazione pluriennale con Intel per sistemi di inferenza basati su CPU Xeon. In quell’occasione l’azienda dichiarava una velocità di picco fino a cinque volte superiore a quella dei chip concorrenti e un costo totale di proprietà tre volte inferiore. SoftBank Corp. è stata indicata come primo cliente, con installazioni nei suoi data center in Giappone.

Dalla scheda tecnica diffusa da SambaNova emergono un processo produttivo a 5 nanometri di TSMC, 432 MB di memoria SRAM sul chip, 64 GB di memoria HBM2E e una terza fascia di memoria DDR5. Il sistema può scalare fino a 256 RDU distribuiti su più rack.

A luglio 2026, durante il RAISE Summit, SambaNova aveva già mostrato una configurazione simile a quella che ora arriva con Supermicro. Un rack con quattro GPU NVIDIA H200 gestiva il prefill, mentre un SambaRack SN50 con 16 RDU gestiva il decode.

I numeri della dimostrazione

Secondo la misura riportata di Artificial Analysis, quel sistema ha raggiunto circa 850 token al secondo su carichi a contesto breve con il modello MiniMax M2.7, e oltre 450 token al secondo su contesti lunghi. Sono dati interessanti, ma si riferiscono a una singola configurazione e a un singolo modello.

I rack SN50 sono inoltre raffreddati ad aria e pensati per entrare nei data center esistenti. È un dettaglio tutt’altro che marginale, come vedremo tra poco.

Il vero vincolo: energia e raffreddamento

La parte più interessante dell’annuncio non riguarda la velocità, ma l’energia. Le due società affermano che l’SN50 può servire modelli di grandi dimensioni ad alta velocità senza richiedere una densità di potenza estrema per rack. In altre parole, si potrebbe aggiungere capacità di inferenza senza aspettare nuove costruzioni limitate da potenza e raffreddamento.

Il tema è centrale per tutto il settore. I data center per l’AI sono sempre più condizionati dalla disponibilità di elettricità e dalla rete, come abbiamo visto raccontando il programma Grid Protectors di OpenAI sul rapporto tra data center e rete elettrica. Chi riesce a fare più token con meno potenza per rack ha un vantaggio concreto.

Resta una domanda aperta, che la stessa stampa di settore sottolinea: gli RDU previsti riusciranno davvero ad aggiungere capacità su quella scala dentro le strutture già esistenti? Per ora è una promessa, non un risultato.

Perché conta anche per chi usa l’AI ogni giorno

L’inferenza è il momento in cui un modello lavora per te: ogni domanda, ogni agente, ogni risposta generata. Con l’arrivo di agenti che restano attivi per ore e di sistemi che verificano le risposte, come il progetto di inferenza verificabile di Anthropic, la domanda di token cresce molto più in fretta dell’offerta di calcolo.

In un mercato così, ogni architettura che promette più token per watt merita attenzione. Se funziona, si traduce in costi più bassi per i fornitori e, nel tempo, in prezzi più accessibili e tempi di risposta più rapidi per gli utenti. Se non funziona, resta comunque un segnale: il dominio incontrastato delle GPU non è più dato per scontato.

Cosa non sappiamo ancora

Non sono stati resi noti prezzi dei sistemi, tempi di consegna precisi né clienti finali dell’accordo con Supermicro. Non sappiamo nemmeno quanto il vantaggio dichiarato regga con modelli e carichi diversi da quelli usati nelle dimostrazioni. Per questo conviene leggere l’annuncio come una direzione di marcia, non come una svolta già compiuta.

Un altro punto da osservare è il ruolo di NVIDIA. Nell’architettura descritta le sue GPU restano indispensabili, perché si occupano della fase di prefill. L’accordo, quindi, non è una sfida frontale al suo dominio, ma un tentativo di ritagliarsi la parte della catena in cui un’alternativa può dimostrare un vantaggio.

Che cosa osservare nei prossimi mesi

Ci sono tre segnali da seguire. Il primo è la comparsa di benchmark indipendenti su sistemi reali venduti da Supermicro, e non solo su dimostrazioni di laboratorio. Il secondo è l’identità dei primi clienti tra neocloud e cloud sovrani, che dirà se la proposta convince chi ha davvero un problema di potenza e di costi. Il terzo è la capacità di SambaNova di consegnare i volumi promessi nel 2027.

Il mercato dell’inferenza sta diventando più vario di quanto fosse un anno fa, e questo è un bene per chi sviluppa e per chi acquista servizi AI. Più alternative significano più concorrenza, e la concorrenza tende a far scendere i costi.

Conclusioni

L’accordo tra SambaNova e Supermicro è un tassello significativo nella ricerca di inferenza più efficiente: prefill alle GPU NVIDIA, decode agli SN50, con un primo ordine da 10.000 chip e la promessa di entrare nei data center esistenti. I numeri sono ancora dichiarazioni delle aziende, ma la direzione è chiara e merita di essere monitorata.

Se lavori con l’AI, tieni d’occhio non solo i nuovi modelli ma anche l’hardware che li fa girare, perché è lì che si decidono costi e prestazioni dei servizi che userai. Seguici su intelligenzaartificiale.net per i prossimi aggiornamenti e dicci nei commenti quale parte della catena dell’inferenza ti incuriosisce di più. Fonti consultate: la copertura di Unite.AI dell’annuncio del 3 novembre 2026 e l’analisi di Jon Peddie Research sulla dimostrazione di luglio.