Modelli open source abbastanza buoni: perché le aziende frenano la spesa su OpenAI e Anthropic

La domanda che gira negli uffici delle grandi aziende è sempre la stessa: ogni compito ha davvero bisogno del modello di intelligenza artificiale più potente e costoso, oppure un’alternativa open source abbastanza buona può bastare? Sempre più responsabili tecnologici stanno rispondendo che, per una fetta crescente del lavoro quotidiano, la seconda opzione è più che sufficiente. Ed è una risposta che comincia a pesare sui conti di OpenAI e Anthropic.

Non è una rivoluzione improvvisa, ma uno spostamento graduale e molto concreto, guidato da una logica semplice: pagare il prezzo di frontiera solo quando serve davvero.

Il caso AT&T, quando abbastanza buono fa risparmiare

L’esempio più chiaro arriva da AT&T, uno dei più grandi utilizzatori aziendali di AI generativa negli Stati Uniti. Mark Austin, il vicepresidente che guida l’intelligenza artificiale per i circa 100.000 dipendenti del gruppo, ha raccontato che oggi il 40% delle richieste AI dei dipendenti viene gestito da modelli open source, con l’obiettivo di arrivare al 60-70% nei prossimi anni. Il tutto per tenere piatta la spesa verso OpenAI e Anthropic mentre l’uso interno continua a crescere.

La piattaforma interna Ask AT&T, lanciata nel 2023 interamente su modelli OpenAI tramite il cloud di Microsoft, elabora oggi 45 miliardi di token al giorno. Far girare quel volume solo su modelli proprietari costerebbe, secondo le stime basate sui listini pubblici, almeno diverse centinaia di milioni di dollari all’anno.

Il trucco si chiama routing.

AT&T ha integrato Lite LLM, un servizio che smista automaticamente ogni richiesta al modello più economico in grado di svolgere quel compito. Sui carichi di lavoro più impegnativi, come la generazione di codice, l’azienda dice di aver tagliato i costi fino al 56% con un calo di qualità di appena il 2%. Per i modelli aperti AT&T usa Nemotron di Nvidia, Llama di Meta e Gemma di Google, e fa girare parte dell’inferenza nei propri data center su chip Nvidia e AMD, spesso più conveniente che affittare capacità nel cloud. Come riportato dalla stampa economica, il gruppo sta invece valutando ma non ha ancora adottato i modelli aperti cinesi come DeepSeek e Moonshot, per ragioni di sicurezza e conformità.

L’uso, del resto, va ben oltre la scrittura di codice. I dipendenti interrogano Ask AT&T sulle politiche delle risorse umane, gli addetti alle vendite lo sfruttano per trascrivere le riunioni e riassumere in tempo reale le chiamate con i clienti, mentre gli operatori dell’assistenza recuperano materiale di riferimento durante le conversazioni. Agli sviluppatori, inoltre, l’azienda lascia libertà di scegliere strumenti e agenti specifici, da GitHub Copilot a Devin, da Claude Code a Codex, ma sempre entro tetti di spesa ben definiti.

Austin ammette che l’open source resta indietro rispetto ai modelli di frontiera di un intervallo che va dai sei ai dieci mesi, ma il divario si sta restringendo.

Perché le aziende scelgono l’open source

Le ragioni sono soprattutto tre, e vanno oltre il semplice risparmio. La prima è il costo: un modello open weight che gira su infrastruttura propria, o noleggiata a poco, può essere molto più economico di un’API premium, soprattutto sui grandi volumi. La seconda è il controllo, perché puoi mettere a punto il modello sui tuoi dati, ospitarlo dove preferisci e non dipendere dalle scelte di un singolo fornitore. La terza è la privacy, cioè la garanzia che i tuoi dati non finiscano ad addestrare un prodotto potenzialmente concorrente. Per i settori regolamentati, come la sanità, la finanza o la pubblica amministrazione, poter tenere le informazioni dentro i propri confini è spesso il fattore decisivo, ancor più del prezzo.

Conta anche il modo in cui l’AI entra in azienda. Spesso un caso d’uso viene prima validato con un modello di frontiera, potente ma caro, e poi, una volta rodato, viene spostato su un’alternativa aperta più economica man mano che questa matura. È la stessa logica che spinge molti a eseguire un modello linguistico in locale per i compiti più semplici.

Va fatta una distinzione utile. Non tutto ciò che viene chiamato open source lo è davvero: molti modelli sono open weight, cioè rilasciano i pesi da scaricare e mettere a punto ma non tutto il necessario per ricostruirli da zero. Per un’azienda, però, la differenza pratica conta spesso meno della libertà di usarli e adattarli, e l’offerta si allarga di continuo, come mostra l’arrivo di famiglie completamente aperte come K2 Horizon.

La pressione dei modelli cinesi a basso costo

C’è poi un fronte che preoccupa in modo particolare i laboratori americani: i modelli aperti cinesi. Sistemi come DeepSeek, Qwen di Alibaba e Moonshot sono entrati sul mercato a una frazione del prezzo dei modelli di frontiera, e la loro qualità è cresciuta in fretta.

La corsa di DeepSeek, che punta a una valutazione miliardaria, è il segnale più evidente di quanto questa concorrenza sia diventata seria. Molte aziende occidentali, però, restano caute: come AT&T, valutano i modelli cinesi ma esitano ad adottarli per timori legati a sicurezza, conformità e provenienza dei dati. Il risultato è un mercato a due velocità, dove l’open source cinese preme sui prezzi mentre l’adozione reale nelle grandi imprese procede con prudenza.

Non è un addio ai modelli di frontiera

Attenzione però a leggere il fenomeno come la fine dei laboratori di punta. I numeri raccontano una storia più sfumata.

Secondo il rapporto State of Generative AI in the Enterprise di Menlo Ventures, la quota dei modelli open source sui carichi di lavoro aziendali è addirittura scesa all’11% nel 2025, dal 19% dell’anno precedente. Il calo, spiegano gli analisti, non dipende dalla qualità dei modelli ma da vincoli di licenza e da preoccupazioni di governance. In altre parole, AT&T con il suo obiettivo del 60-70% è più un’eccezione che la regola, resa possibile dalla sua scala enorme, dove il conto dei token fa pendere la bilancia dalla parte del risparmio.

C’è anche un paradosso dei costi. Man mano che i casi d’uso maturi passano ai modelli più leggeri, ne nascono di nuovi che tornano a girare sui modelli di frontiera, così la spesa complessiva sui modelli premium cala molto meno del previsto. I modelli di punta restano lo standard di riferimento per il ragionamento complesso e per il codice più difficile.

Lo confermano i conti dei protagonisti. Anthropic ha dichiarato ricavi per 11,5 miliardi di dollari nell’ultimo trimestre, quattordici volte l’anno prima, e si prepara alla quotazione in borsa, come raccontiamo nell’articolo sull’IPO rinviata a metà ottobre. La domanda di intelligenza artificiale, insomma, cresce così in fretta che c’è spazio sia per i giganti chiusi sia per gli sfidanti aperti.

Cosa significa per la tua azienda

Se stai valutando come usare l’AI senza far esplodere il budget, la lezione di questi mesi è chiara: la leva più potente non è scegliere un modello e basta, ma abbinare il modello giusto a ogni compito. Un sistema di routing che manda le richieste semplici a un modello economico e tiene quelli di frontiera per i problemi difficili può ridurre la spesa in modo drastico senza sacrificare la qualità dove conta.

Il consiglio pratico è partire da una mappa dei tuoi casi d’uso: quali richiedono davvero il massimo della potenza e quali no. Per i compiti ripetitivi e ad alto volume, un modello open weight può essere la scelta migliore, anche per motivi di privacy e controllo. Per il ragionamento più spinto, i modelli di frontiera restano insostituibili, almeno per ora.

La vera competenza che le aziende dovranno costruire non è tanto tecnologica quanto strategica: capire, caso per caso, quando abbastanza buono è davvero abbastanza. Vuoi orientarti tra modelli aperti e chiusi e scegliere quello giusto per te? Continua a seguire i nostri approfondimenti sull’AI applicata al lavoro.