OpenAI svela Habitat, l’archiviazione dietro oltre 1 miliardo di utenti ChatGPT

Ogni settimana più di un miliardo di persone aprono ChatGPT, digitano una domanda e si aspettano una risposta in pochi istanti. Dietro quella semplicità si nasconde un problema di ingegneria enorme, di cui quasi nessuno parla: dove finiscono tutti quei dati, e come fanno a tornare indietro abbastanza in fretta da non far sembrare lento il prodotto.

L’11 settembre 2026 OpenAI ha pubblicato un raro sguardo dietro le quinte proprio su questo tema. In un articolo tecnico firmato da tre suoi ingegneri, l’azienda ha raccontato come funziona Habitat, la piattaforma di archiviazione che regge l’intera crescita di ChatGPT e degli altri prodotti. È la prima parte di una serie in due puntate, e i numeri che contiene aiutano a capire cosa significhi davvero scalare un servizio di intelligenza artificiale usato da mezzo mondo.

Che cos’è Habitat, la piattaforma di archiviazione di OpenAI

Habitat è il sistema che permette a ogni prodotto OpenAI di leggere e scrivere dati in modo veloce e affidabile. Quando accedi al tuo account, quando controlli le impostazioni di Codex o quando avvii una nuova conversazione, dietro le quinte partono decine o centinaia di richieste ai database. Se anche una sola di queste è lenta, tu percepisci lentezza. Se fallisce, il prodotto smette di funzionare.

Il compito di Habitat è nascondere tutta questa complessità agli sviluppatori. Chi costruisce le funzioni di ChatGPT non deve preoccuparsi di dove sono i dati, se una richiesta è autorizzata, come vanno cifrati o instradati: a tutto questo pensa la piattaforma.

Oggi Habitat gestisce più di 70 milioni di richieste al secondo, serve prodotti usati da oltre un miliardo di persone ogni settimana e si estende su quasi 40 regioni geografiche. Il volume di dati custoditi supera i 500 petabyte, una quantità che fino a pochi anni fa sarebbe stata impensabile per un’azienda nata nel 2015.

I numeri di una crescita fuori scala

Il dato più impressionante non è la dimensione assoluta, ma la velocità con cui è arrivata. OpenAI spiega di essere cresciuta più di dieci volte all’anno per tre anni consecutivi. Di solito un ingegnere progetta un sistema per reggere dieci volte il carico attuale e spera che basti per qualche anno. Qui quel margine si è bruciato in dodici mesi, ogni volta.

Habitat, però, è nato in modo molto più modesto. Ha debuttato al DevDay del 2023 per supportare i GPT personalizzati, ed era poco più di una libreria in Python collegata a un singolo database. Da lì è diventato un sistema distribuito complesso, senza che nessuno pianificasse davvero un salto di queste proporzioni.

Dalla libreria al servizio: perché OpenAI ha cambiato architettura

Fino a metà del 2025 Habitat viveva dentro le applicazioni come libreria condivisa. Funzionava, ma aveva un limite strutturale: ogni modifica alla logica di archiviazione andava distribuita e coordinata su decine di servizi diversi, uno per uno.

OpenAI racconta un episodio che rende bene l’idea. Il team voleva ridurre il rischio legato al guasto di una singola regione, spostando i dati più critici su account distribuiti in aree geografiche diverse. Per farlo serviva aggiungere nuova logica ai client, attivarla con un interruttore software, verificarla e correggere i bug. Ogni passaggio richiedeva giorni. Alla fine, proprio mentre stavano per completare l’operazione, un team ha riportato indietro il proprio servizio a una versione difettosa e ha causato esattamente il guasto che si voleva evitare.

La lezione era chiara. Tenere la logica dentro ogni client rendeva ogni cambiamento fragile e lento.

Così OpenAI ha trasformato Habitat in un servizio autonomo, con un unico punto di controllo per aggiornamenti, osservabilità e sicurezza. La centralizzazione ha portato un vantaggio non solo pratico ma anche di protezione dei dati: un solo luogo in cui applicare i controlli di accesso, registrare gli audit e impedire che attori esterni, interni o agenti software raggiungano informazioni che non dovrebbero vedere.

La sfida di far girare Python a questa scala

C’è un dettaglio che sorprende. OpenAI ha scelto di lanciare questo servizio critico in Python, un linguaggio raramente usato per sistemi ad altissimo traffico. La motivazione è pragmatica: Python permetteva di muoversi in fretta e di sbloccare gli sviluppatori, anche a costo di prestazioni peggiori. L’azienda lo definisce un debito tecnico contratto in modo consapevole.

Il problema principale, spiegano gli ingegneri, è gestire le cosiddette latenze di coda. Quando una richiesta media genera centinaia di chiamate al database, quella che conta è sempre la più lenta, perché è proprio quella che tu percepisci.

Buona parte dell’articolo è un catalogo di trappole nascoste e di come sono state disinnescate. Un esempio quasi paradossale: ogni minuto ciascun processo si bloccava per un istante a leggere un enorme file di configurazione delle funzionalità, e questo bastava a far salire le latenze. La soluzione è stata ridurre quel file e distribuire nel tempo questi controlli invece di eseguirli tutti insieme.

Un altro caso riguarda il modo in cui i processi riutilizzano le connessioni di rete. Un’impostazione predefinita, in apparenza innocua, concentrava sempre più traffico sui processi già sovraccarichi, in una spirale che gli ingegneri chiamano guasto metastabile. È bastato cambiare l’ordine con cui le connessioni venivano riutilizzate per spezzare il circolo vizioso.

Sono dettagli molto tecnici, ma raccontano una verità più ampia: a questa scala, anche una scelta minuscola può propagarsi fino a mettere in ginocchio un servizio globale.

Una regola controintuitiva: fare meno per scalare di più

Uno dei motivi per cui OpenAI è riuscita a spingere Python così lontano è una scelta di progettazione radicale: Habitat fa apposta poche cose. Invece di lasciare che gli sviluppatori scrivano interrogazioni libere e potenzialmente pesantissime sul database, espone un’interfaccia semplice e prevedibile, ispirata a un sistema reso celebre da Facebook e chiamato TAO.

Il ragionamento è che le richieste dal costo imprevedibile sono pericolose: complicano il bilanciamento del carico e possono far crollare un database con una singola query scritta male. Limitando ciò che si può chiedere, il sistema resta più facile da governare. Chi ha bisogno di analisi complesse lavora su una copia separata dei dati, aggiornata quasi in tempo reale, così da non appesantire la parte critica.

È una filosofia che vale ben oltre l’archiviazione: a volte, per crescere, conviene rinunciare a qualche funzione in cambio di prevedibilità.

La riscrittura in Rust, fatta con Codex e GPT-5.5

Arriviamo alla parte più interessante per chi segue l’intelligenza artificiale. Con la piattaforma ormai matura e la crescita ancora in accelerazione, Python non bastava più. Nel secondo trimestre del 2026 OpenAI ha riscritto l’intero servizio in Rust, un linguaggio molto più efficiente per questo tipo di lavoro.

La cosa notevole è come lo ha fatto. L’operazione è stata portata a termine da soli due ingegneri, affiancati da Codex e dal modello GPT-5.5. In pratica, l’intelligenza artificiale di OpenAI ha contribuito a ricostruire l’infrastruttura su cui gira l’intelligenza artificiale di OpenAI.

I risultati parlano da soli. Il nuovo servizio in Rust gestisce già il 95% delle richieste di produzione, e Python è destinato a sparire del tutto nel giro di poche settimane. Rispetto alla versione precedente, il codice in Rust è sei volte più efficiente sulla CPU e quindici volte più efficiente sulla memoria, con latenze medie e di coda molto più basse.

Non è un dettaglio da poco. È la dimostrazione concreta che i modelli di coding, gli stessi che aziende come Cognition stanno spingendo con modelli come SWE-2, possono già affrontare migrazioni complesse su sistemi reali, e non solo esercizi da manuale.

Perché tutto questo conta per il settore

La storia di Habitat si inserisce in un quadro più grande. La corsa all’intelligenza artificiale non si gioca solo sui modelli, come GPT-6 Astra, o sulle nuove funzioni per gli sviluppatori, come l’API vocale GPT-Live-1. Si gioca anche, e forse soprattutto, sulla capacità di reggere il carico.

Non a caso le grandi aziende stanno investendo cifre enormi in server e capacità di calcolo, con progetti come i data center da decine di gigawatt annunciati da Microsoft. L’archiviazione efficiente è l’altra faccia della stessa medaglia: costruire fabbriche di calcolo gigantesche serve a poco se poi il software che le sfrutta spreca risorse a ogni richiesta.

C’è infine un messaggio implicito che vale la pena cogliere. OpenAI sta usando i propri strumenti per costruire sé stessa, e lo racconta apertamente. Quando un’azienda riscrive con l’aiuto dell’AI un pezzo di infrastruttura da decine di milioni di richieste al secondo, il confine tra chi produce la tecnologia e chi la usa comincia a sfumare.

Cosa aspettarsi ora

L’articolo di OpenAI è solo la prima puntata. La seconda parte promette di scendere nel dettaglio del livello di archiviazione vero e proprio, di come viene garantita l’affidabilità quando più prodotti condividono lo stesso sistema e di come è stato scalato il rapporto con il database Azure Cosmos DB.

Nel frattempo, la lezione per chi lavora con la tecnologia è già chiara: dietro ogni risposta istantanea di ChatGPT c’è un lavoro invisibile e continuo, fatto di scelte difficili e compromessi calcolati. Se ti occupi di sviluppo, di infrastrutture o semplicemente vuoi capire dove sta andando l’intelligenza artificiale, vale la pena osservare da vicino come questi sistemi evolvono. Puoi leggere l’annuncio originale sul blog di OpenAI e poi tornare qui: continueremo a seguire la corsa all’infrastruttura dell’intelligenza artificiale, quella che non si vede ma che decide chi resta in piedi.