Flint di Recursive: il modello open source da 40 miliardi che programma in locale

Il 21 ottobre 2026 Recursive, la società di Richard Socher che lavora sulla superintelligenza, ha presentato Flint, il suo primo modello. Si tratta di un modello di linguaggio open source pensato per gli agenti di coding, con 39,8 miliardi di parametri totali ma soltanto 2,5 miliardi attivi per ogni token. I pesi sono pubblicati su Hugging Face con licenza Apache 2.0, quindi puoi scaricarli, usarli e adattarli anche in progetti commerciali.

La novità non è soltanto il modello in sé, ma l’idea che sta dietro: un sistema di coding abbastanza leggero da girare sul tuo portatile, senza mandare il codice a un servizio esterno.

Che cos’è Flint e come è fatto

Flint è un modello solo testo, basato su un’architettura Transformer di tipo mixture-of-experts. In pratica, invece di far lavorare tutti i parametri a ogni passaggio, un router sceglie pochi esperti specializzati per ciascun token. Nel caso di Flint ci sono 256 esperti instradati per ogni strato, ne vengono selezionati 6 a ogni token e a questi si aggiunge un esperto condiviso sempre attivo. È questo meccanismo a spiegare perché un modello da quasi 40 miliardi di parametri si comporti, in termini di costo di calcolo, come uno da circa 2,5 miliardi.

Il risultato è un modello veloce, che è proprio ciò che serve quando un agente deve leggere un repository, lanciare comandi e correggere errori in cicli ripetuti.

I dettagli tecnici principali

Secondo la scheda del modello, Flint ha 49 strati: i primi due sono densi, i restanti 47 sono di tipo mixture-of-experts. L’attenzione è ibrida: 35 strati usano una finestra scorrevole di 513 token, mentre 14 usano l’attenzione completa senza codifica posizionale. Questa scelta riduce la memoria necessaria per la cache quando il contesto diventa lungo. La finestra di contesto documentata è di 262.144 token tra prompt e risposta, anche se la stessa scheda precisa che si tratta di un limite di capacità e non di una garanzia di precisione uniforme su tutta la lunghezza.

Il modello supporta il ragionamento e le chiamate a strumenti compatibili con le API di OpenAI, quindi si inserisce senza troppi sforzi negli agenti e negli editor che già usi.

Le prestazioni dichiarate da Recursive

I numeri vanno letti con prudenza, perché sono tutti misurati da Recursive e non da un ente indipendente. Con le impostazioni di campionamento indicate (temperatura 1,0, top-p 0,95, top-k 20), la versione in precisione BF16 ottiene il 54,9% su Terminal-Bench 2.1, il 74,2% su SWE-bench Verified e l’89,7% su SWE-bench Pro v2. Nelle prove agentiche il punteggio è la media del pass@1 su almeno cinque tentativi.

Attenzione al dato più appariscente: lo SWE-bench Pro v2 è stato misurato internamente da Recursive e, come dichiara la stessa azienda, non è confrontabile con lo SWE-bench Pro pubblico, dove modelli concorrenti open source si fermano attorno al 48-50%.

Sugli altri test i valori sono più sobri e quindi più utili per farti un’idea: LiveCodeBench v6 si attesta all’80,3%, IFEval al 95,1% e IFBench all’89,2%. Recursive ammette inoltre che Flint resta indietro rispetto ai migliori modelli densi di dimensioni maggiori, per esempio Qwen 3.8, che nella tabella dell’azienda raggiunge il 73,0% su Terminal-Bench 2.1 e il 75,6% su SWE-bench Verified. Il punto di forza è dunque il rapporto tra qualità e velocità, non il primato assoluto.

Come lo ha costruito la Eureka Machine

La parte più curiosa è il metodo. Socher ha raccontato che Flint è stato costruito con la Eureka Machine, un sistema di ricerca automatizzato che propone idee, le implementa, le mette alla prova e decide da solo cosa provare dopo. Recursive sostiene che questo sistema abbia contribuito a quasi ogni parte dello stack, in meno di quattro mesi di lavoro.

Alcuni esempi citati dall’azienda aiutano a capire il tipo di contributo. Sull’architettura, la ricerca è partita da una base da 35 miliardi di parametri totali e 3 attivi, ha esplorato configurazioni e larghezze degli esperti ed è arrivata alla soluzione da circa 40 miliardi totali e 2,5 attivi. Sulla quantizzazione, il sistema ha scelto di portare a 4 bit anche la testa di output, contro la prassi comune, e una fase di distillazione con il modello a 16 bit come maestro ha recuperato la precisione, quasi dimezzando i passi di addestramento rispetto a un approccio di quantization-aware training. La versione NVFP4 resta entro 0,7 punti da quella a 16 bit.

In altre parole, un’intelligenza artificiale ha ottimizzato un’altra intelligenza artificiale. È un tema che ritorna spesso nel dibattito sul miglioramento ricorsivo, ma qui è stato applicato a compiti molto concreti come kernel, formati numerici e architettura.

Hardware, velocità e come provarlo

Il vero vantaggio pratico riguarda l’hardware. Per usarlo in locale servono circa 48 GB tra memoria unificata o scheda grafica: un Mac con M4 Pro, M5 Pro o M5 Max, oppure una GPU NVIDIA da 48 GB. I pesi MLX in INT4 pesano circa 22,6 GB e il file GGUF in NVFP4 circa 22,9 GB. Per il checkpoint BF16 da circa 80 GB serve invece una GPU come B300 o H200 per ogni replica.

Sulle velocità, Recursive dichiara oltre 125 token al secondo su un MacBook Pro con M4 Pro e oltre 150 token al secondo su una macchina NVIDIA RTX Spark da 64 GB, con contesti brevi. Sono dati dell’azienda, quindi conviene verificarli sul tuo sistema, ma l’ordine di grandezza spiega perché il modello sia stato pensato per gli agenti.

Strumenti compatibili

Flint funziona con llama.cpp, Ollama, Unsloth, LM Studio, vLLM e SGLang. Esiste anche un endpoint gratuito su OpenRouter con 262 mila token di contesto, utile se vuoi fare una prova rapida senza scaricare 22 GB. Il modello è disponibile nella pagina ufficiale su Hugging Face, dove trovi anche la scheda con le istruzioni di utilizzo.

Perché Flint conta per il panorama dell’AI

Negli ultimi mesi la corsa si è giocata soprattutto sui modelli proprietari, accessibili solo tramite API. Anche i grandi laboratori stanno spingendo gli agenti di programmazione dentro il cloud: ne è un esempio l’arrivo di Codex e dei modelli OpenAI nel Model Garden di Google Cloud. Flint segue la direzione opposta: porta le capacità di coding sul tuo computer, con pesi aperti e licenza permissiva.

Per un libero professionista o una piccola agenzia questo ha conseguenze concrete. Il codice dei clienti non lascia la tua macchina, i costi non crescono a ogni richiesta e puoi personalizzare il modello senza chiedere permessi. Resta il limite dell’hardware: 48 GB non sono pochi, e i benchmark autodichiarati non sostituiscono una prova sui tuoi progetti.

La mossa si inserisce anche in un trend più ampio dell’open source, già visibile quando DeepSeek ha rilasciato il motore di inferenza DeepInfer con licenza Apache 2.0. Quando pesi, motori e strumenti sono aperti, la differenza la fanno la velocità di sperimentazione e la qualità dell’integrazione.

Cosa aspettarsi adesso

Alcuni punti restano da chiarire. I risultati devono essere riprodotti da terzi, il codice di modellazione per Transformers non è ancora incluso nel repository e le condizioni dell’API ospitata sono separate dalla licenza dei pesi. Il modello è inoltre addestrato con una data limite di conoscenza a giugno 2026, quindi non conosce le librerie più recenti senza l’aiuto di strumenti di ricerca o documentazione.

Se sei curioso di capire come si posiziona rispetto agli assistenti commerciali, ti conviene confrontarlo con quello che già conosci, per esempio gli strumenti di programmazione di Claude, usando lo stesso progetto e le stesse richieste.

Conclusioni

Flint è un esperimento interessante su due fronti: dimostra che un modello di coding competitivo può stare su un portatile e mostra fin dove si può spingere la ricerca automatizzata dell’AI sull’AI. Non ha bisogno di battere i modelli più grandi per essere utile.

Il consiglio è semplice: scarica una versione quantizzata, collegala al tuo agente preferito, misura tempi e qualità su un tuo repository reale e decidi con i tuoi dati. Se i risultati reggono, avrai un assistente di programmazione locale, aperto e senza costi per richiesta.