SGLang Consortium: NVIDIA, AMD, Intel, Google e Meta uniscono le forze sull’inferenza open source

Il 12 novembre 2026, durante la keynote di apertura del primo SGLang Summit a San Francisco, LMSYS Org ha annunciato la nascita dello SGLang Consortium. Tra i membri fondatori ci sono NVIDIA, AMD, Intel, Google, Meta, Cloudflare, Modal e RadixArk. È raro vedere sullo stesso tavolo aziende che sui chip si fanno concorrenza diretta, ed è proprio questo il punto: il software che fa girare i modelli conta ormai quanto l’hardware.

Non si tratta del lancio di un nuovo modello né di una nuova versione del software. È un accordo di governance e di coordinamento attorno a un progetto open source che oggi sta sotto molte infrastrutture AI di produzione. Vediamo che cosa è stato annunciato, che cos’è SGLang e perché la notizia interessa anche chi non gestisce un cluster di GPU.

Che cos’è SGLang e perché serve un consorzio

SGLang è un motore di inferenza open source, parte dell’ecosistema PyTorch, pensato per far girare modelli avanzati da un capo all’altro della pipeline. Un motore di inferenza è il livello di software che sta tra il modello addestrato e l’utente: gestisce la memoria, organizza le richieste, distribuisce il calcolo sulle GPU e decide quanto velocemente arriva ogni token di risposta. Quando un modello sembra lento o costoso, molto spesso la differenza la fa questo strato, non il modello in sé.

Secondo LMSYS Org, il progetto gira su centinaia di migliaia di GPU e alimenta grandi distribuzioni in produzione presso aziende come Meta, Microsoft, Google, Amazon, Cloudflare e Modal. A sostenerlo c’è anche RadixArk, la società nata attorno a SGLang, che a maggio 2026 ha annunciato un round seed da 100 milioni di dollari con il sostegno, tra gli altri, di NVIDIA e AMD.

Quando un componente diventa così diffuso, la sua roadmap smette di essere una questione interna. Ogni produttore di chip vuole che il proprio hardware sia supportato bene e subito, e ogni grande utilizzatore vuole poter chiedere funzioni e correzioni. Il consorzio nasce per dare un luogo ordinato a queste richieste.

Che cosa prevede l’accordo

L’obiettivo dichiarato è orientare la roadmap di SGLang e far avanzare l’inferenza open source. Il lavoro congiunto si concentrerà su quattro aree: il supporto ai modelli di frontiera, i carichi di lavoro di ragionamento e multimodali, l’inferenza distribuita e l’ottimizzazione sull’hardware.

Come funziona la governance

I membri ottengono un forum stabile in cui discutere le tendenze dell’inferenza insieme ai maintainer del progetto. Ogni membro fondatore indica un rappresentante tecnico e partecipa a due incontri sulla roadmap all’anno. Tra un incontro e l’altro possono operare gruppi di lavoro, che pubblicheranno aggiornamenti sulla direzione e sull’avanzamento.

Il dettaglio più importante è un altro. Secondo l’annuncio, i maintainer di SGLang mantengono l’autorità finale sulle decisioni tecniche e sull’accettazione del codice, e il progetto resta aperto alla comunità. Pagare per sedersi al tavolo, quindi, non significa comprare il diritto di decidere.

Che cosa portano i membri

I contributi previsti vanno dalla competenza ingegneristica al feedback sulle distribuzioni reali, dalle risorse di test allo sviluppo congiunto. Per i produttori di hardware è un modo per far arrivare presto le ottimizzazioni sulle proprie piattaforme, per esempio sulle GPU AMD Instinct. Per chi usa il software in produzione è un canale diretto per segnalare ciò che serve davvero.

Ying Sheng, co-autrice del paper originale su SGLang e co-fondatrice e CEO di RadixArk, ha spiegato nell’annuncio che i team che usano SGLang su scala più grande vedono prima di tutti ciò di cui l’inferenza avrà bisogno. Ian Buck di NVIDIA ha sottolineato che costi di inferenza più bassi rendono l’AI più accessibile alle organizzazioni di ogni tipo.

Perché è importante

Negli ultimi anni l’attenzione pubblica si è concentrata sui modelli: chi ha il più potente, chi ha il più economico. Ma una volta addestrato un modello, il costo si sposta quasi tutto sull’inferenza, cioè sul servirlo a milioni di richieste. Chi controlla il software che la esegue controlla in buona parte il costo per token e la velocità percepita dall’utente.

Un consorzio con NVIDIA, AMD e Intel allo stesso tavolo manda un segnale chiaro: nessuno dei tre vuole che l’ottimizzazione dell’inferenza diventi un vantaggio esclusivo di un solo fornitore di chip. Se lo stesso motore gira bene su hardware diverso, i clienti possono scegliere in base a prezzo e disponibilità, e questo cambia i rapporti di forza del mercato.

Per Google e Meta il discorso è simile. Entrambe usano SGLang in produzione e hanno interesse a un progetto neutrale, che non dipenda dalle decisioni di una singola azienda. Cloudflare e Modal, che offrono inferenza come servizio, hanno un interesse ancora più diretto, perché ogni punto di efficienza guadagnato si traduce in margine o in prezzi più bassi.

Il legame con le altre notizie sull’inferenza

La mossa si inserisce in un periodo molto intenso per questo settore. Pochi giorni fa abbiamo raccontato l’attacco a NEAR AI che ha sfruttato una falla di SGLang, un episodio che ha ricordato quanto questo software sia ormai infrastruttura critica e quanto la sua sicurezza riguardi molti più soggetti di prima. Una governance condivisa e più strutturata può aiutare anche su questo fronte, anche se l’annuncio non parla di sicurezza in modo specifico.

C’è poi il fronte dell’hardware alternativo. Con TorchTPU Google ha reso più semplice usare le sue TPU con PyTorch, e il lavoro fatto per portare SGLang sulle TPU va nella stessa direzione: ridurre il costo di passare da un tipo di chip a un altro. E anche i motori nati altrove, come DeepInfer di DeepSeek, mostrano che la corsa all’inferenza efficiente è aperta e molto affollata.

Che cosa cambia per te

Se sviluppi applicazioni basate su modelli linguistici, non dovrai cambiare nulla domani mattina. Nessuna nuova versione è stata rilasciata con questo annuncio. Gli effetti si vedranno nel medio periodo, e saranno soprattutto indiretti.

Il primo è la portabilità: più è curato il supporto di SGLang sui diversi chip, meno sei legato a un solo fornitore di GPU. Il secondo è il costo: ottimizzazioni condivise tra produttori e grandi utenti tendono a ridurre il prezzo per token anche sulle piattaforme che usi tramite API. Il terzo è la velocità con cui i nuovi modelli vengono supportati, perché avere i produttori di chip nel processo accorcia i tempi tra l’uscita di un modello e la sua esecuzione ottimizzata.

Se invece lavori in SEO, marketing o consulenza, il consiglio pratico è seguire questa notizia come un indicatore. Quando i costi di inferenza scendono, strumenti e agenti AI diventano sostenibili per casi d’uso che oggi non lo sono, e le tariffe dei servizi che usi ogni giorno ne risentono.

Che cosa osservare nelle prossime settimane

Restano alcune domande aperte. Non sono stati indicati tempi precisi per le prime pubblicazioni dei gruppi di lavoro, e non è chiaro quante funzioni nuove arriveranno e in quale ordine. Bisognerà capire anche come il consorzio si rapporterà ad altri progetti di inferenza open source, con cui SGLang condivide parte degli utenti e degli obiettivi.

Un altro punto da monitorare è l’equilibrio tra interessi diversi. Quando molti grandi nomi finanziano o sostengono un progetto aperto, il rischio è che la roadmap si sposti verso le esigenze dei più grandi. La garanzia dichiarata, cioè l’autorità finale dei maintainer e l’apertura alla comunità, sarà messa alla prova dai fatti, non dai comunicati.

Per ora il quadro è chiaro: l’inferenza è diventata il terreno su cui si gioca una parte decisiva della competizione sull’AI, e i principali attori hanno scelto di cooperare sul software mentre competono sui chip e sui servizi.

Conclusioni

Lo SGLang Consortium non farà notizia come il lancio di un modello, ma racconta bene dove si sta spostando la partita. Il valore, sempre di più, sta in come si serve l’intelligenza artificiale a costi sostenibili, su hardware diverso e con software aperto.

Se vuoi restare aggiornato su queste evoluzioni, continua a seguire le nostre notizie sull’infrastruttura AI e dicci nei commenti come stai gestendo l’inferenza nei tuoi progetti. La fonte primaria dell’annuncio è il post ufficiale di LMSYS Org.