ERNIE 5.5 Flash Base: Baidu rilascia un modello aperto da 280 miliardi di parametri

Baidu ha pubblicato ERNIE 5.5 Flash Base, un modello linguistico a pesi aperti con 280 miliardi di parametri totali, di cui solo 14 miliardi attivi per ogni token. La scheda ufficiale è datata 5 novembre 2026 e il punto più interessante non sono i numeri, ma la scelta di rilasciare un modello base, cioè il checkpoint di fine pre-addestramento, senza le fasi successive che di solito lo rendono un assistente conversazionale.

Se lavori con modelli aperti, con fine-tuning o con sistemi di agenti, è una notizia da leggere con attenzione.

Che cosa ha rilasciato Baidu con ERNIE 5.5 Flash Base

Secondo la pagina di rilascio ufficiale di Baidu, il modello è un Mixture-of-Experts sparso: significa che per ogni parola elaborata si accende solo una piccola frazione dei parametri complessivi. Qui sono 14 miliardi su 280, circa un ventesimo, ed è proprio questo rapporto a rendere il modello economico da servire rispetto a un denso della stessa capacità.

Il modello è stato addestrato da zero su 33,5 trilioni di token, con l’ottimizzatore Muon e una precisione mista FP8. Baidu lo presenta come un punto di partenza efficiente per ciò che verrà dopo, e precisa che una versione con post-addestramento è prevista in seguito.

Un modello base, non un assistente

La distinzione è importante. I pesi pubblicati sono quelli di fine pre-addestramento, senza fase intermedia e senza post-addestramento. Non troverai quindi un modello che segue istruzioni, che rifiuta richieste o che conversa in modo educato: troverai un modello che prosegue il testo che gli dai, con tutta la conoscenza accumulata ma senza la rifinitura finale.

Per molti team è esattamente ciò che serve. Chi vuole costruire un proprio assistente specializzato, adattare il comportamento a un dominio verticale o sperimentare con tecniche di allineamento preferisce partire da una base pulita, senza ereditare le scelte di un altro laboratorio.

Contesto e disponibilità

Il modello è stato addestrato con un contesto esteso fino a 128.000 token, mentre il fine-tuning e l’inferenza supportano fino a un milione di token. Questa differenza va tenuta presente: la lunghezza oltre i 128.000 token non è stata vista in pre-addestramento allo stesso modo, quindi conviene verificarla sui tuoi casi d’uso prima di fidarti.

I pesi sono su Hugging Face in formato FP8 e BF16 con safetensors, e il modello può essere servito con SGLang e vLLM tramite l’API di completamento. Esiste anche un esempio di fine-tuning nel repository Megatron-Bridge di NVIDIA. Un dettaglio pratico: serve un token BOS all’inizio di ogni input. La licenza è la ERNIE 5.5 Flash Base Model License Agreement v1.0, un accordo specifico di Baidu che è bene leggere con attenzione prima di un uso commerciale.

Come è fatto dentro: le scelte architetturali

La scheda tecnica è insolitamente ricca, e permette di capire dove Baidu ha cercato efficienza. Il modello ha 43 layer Transformer, dimensione nascosta di 4096 e 64 teste di attenzione. Fin qui nulla di sorprendente. Le novità stanno nel modo in cui sono organizzati attenzione ed esperti.

L’attenzione è ibrida: un layer ogni sette usa la Multi-head Latent Attention con selezione sparsa dei primi k elementi, mentre tutti gli altri usano una Heavily Compressed Attention, che comprime di 128 volte le voci conservate in cache. Chi ha messo in produzione modelli con contesti lunghi sa che il collo di bottiglia è spesso la memoria della cache chiave-valore, non il calcolo. Comprimere quella cache in modo così aggressivo è il modo con cui si prova a rendere sostenibile il milione di token.

Sul fronte degli esperti, Baidu parla di Multi-Router Latent MoE: 512 esperti instradati con selezione dei primi 10, più un esperto condiviso, con gli esperti che lavorano in uno spazio latente di 2048 dimensioni. Ci sono poi le Manifold-Constrained Hyper-Connections con quattro flussi residui e una testa di output chiamata MultiMax con temperatura lineare a tratti apprendibile.

ECHO al posto del modulo di predizione multi-token

Un altro elemento da notare è ECHO. Invece di aggiungere un modulo separato per la predizione di più token, il modello riutilizza l’ultimo layer per prevedere i token futuri, e lo stesso meccanismo funge da modello bozza per la decodifica speculativa. In pratica, la stessa componente serve sia in addestramento sia per accelerare l’inferenza, senza dover mantenere un secondo modello.

Completa il quadro un tokenizer BPE da circa 200.000 voci che raggruppa le cifre da destra a sinistra in gruppi di tre, una scelta che aiuta il modello a trattare i numeri in modo più coerente.

I benchmark: cosa dicono e cosa no

Baidu confronta il modello con DeepSeek-V4-Flash-Base, Hy3-preview-Base e MiMo-V2.5-Base, usando un harness comune. ERNIE 5.5 Flash Base ottiene il punteggio migliore nella maggior parte delle righe. Su MMLU-Pro arriva a 78,4 contro 69,2 del secondo migliore, su GPQA a 60,2 contro 55,9, su HumanEval+ a 82,3 contro 78,0 e su RepoQA a 91,7 contro 91,3.

Non vince ovunque, ed è un buon segno di trasparenza. Su ChineseSimpleQA ottiene 73,0 contro 75,3, e su InfiniteBench 46,5 contro 48,0.

Va però ricordato che sono risultati dichiarati dal produttore. Finché non arrivano valutazioni indipendenti, conviene trattarli come un’indicazione e non come una classifica definitiva. Il confronto, inoltre, riguarda solo modelli base: non dice nulla su come ERNIE 5.5 Flash Base si comporterà dopo un eventuale post-addestramento, né su come si confronterà con modelli già rifiniti.

Perché conta per chi usa e costruisce modelli aperti

Il rilascio si inserisce in un autunno molto movimentato per i pesi aperti. Meta ha aperto Muse Spark con 816 miliardi di parametri, NVIDIA ha pubblicato Nemotron 3.5 Super VL per gli agenti multimodali e Tencent ha presentato Hy4 con visione e computer use. Baidu aveva già mostrato la sua anima open source con PaddleOCR-VL 1.6, un modello per i documenti.

ERNIE 5.5 Flash Base aggiunge un tassello diverso: non un prodotto finito, ma materia prima di qualità per chi vuole costruire.

Che cosa cambia nella pratica

Per un team tecnico i vantaggi potenziali sono tre. Il primo è il costo di servizio, perché solo 14 miliardi di parametri sono attivi per token. Il secondo è la libertà di personalizzazione, perché con un modello base puoi decidere tu come allinearlo. Il terzo è l’ecosistema: il supporto a vLLM e SGLang significa che l’infrastruttura di servizio più diffusa è già pronta.

I limiti, però, sono altrettanto concreti. Servono comunque risorse importanti per ospitare un modello da 280 miliardi di parametri totali, anche se ne usa pochi per token, perché tutti gli esperti devono stare in memoria. E senza post-addestramento il modello non è utilizzabile come assistente pronto all’uso. Se hai bisogno di qualcosa che risponda subito alle domande dei clienti, per ora dovrai attendere la versione rifinita oppure fare il lavoro da solo.

C’è poi la questione della licenza. Un accordo proprietario, anche quando i pesi sono scaricabili, non equivale a una licenza permissiva standard, e le condizioni per l’uso commerciale e la redistribuzione dei derivati vanno verificate sul testo ufficiale.

Cosa osservare nelle prossime settimane

Ci sono tre segnali da seguire. Il primo è l’arrivo di valutazioni indipendenti, che confermeranno o ridimensioneranno i numeri di Baidu, soprattutto sul contesto lungo. Il secondo è la comparsa dei primi fine-tuning della comunità, che mostreranno quanto la base sia davvero malleabile. Il terzo è la data della versione post-addestrata, che trasformerà il checkpoint in un concorrente diretto dei modelli già rifiniti.

Per chi si occupa di contenuti e SEO, il tema è meno astratto di quanto sembri: i modelli aperti e a basso costo di servizio alimentano strumenti, agenti e sistemi di ricerca sempre più diffusi, e capire come funzionano aiuta a prevedere come cambierà il modo in cui le informazioni vengono trovate e riassunte.

Conclusioni

ERNIE 5.5 Flash Base è un rilascio tecnicamente curato, con una scheda dettagliata, numeri dichiarati competitivi e distribuzione sui canali che i team già usano. Non è un assistente pronto, e proprio per questo è interessante per chi vuole costruire il proprio.

Se hai un progetto in cui un modello aperto da adattare farebbe la differenza, scarica i pesi da Hugging Face, provali con vLLM o SGLang sui tuoi dati e confronta i risultati con le alternative aperte che abbiamo raccontato qui sul sito. Le prove sul campo valgono più di qualsiasi tabella di benchmark.