Google TPU 8i Max e TPU 8tx: nuovi chip per contesti lunghi e inferenza confidenziale

Google ha ampliato la sua ottava generazione di chip per l’intelligenza artificiale con due nuovi sistemi: TPU 8i Max e TPU 8tx. Il primo punta su contesti enormi e massima densità di calcolo per rack, il secondo su inferenza confidenziale e addestramento su piccola scala. Con questi due annunci, arrivati il 9 novembre 2026, l’azienda sale a quattro sistemi TPU presentati in un solo anno, un ritmo mai visto prima.

Se lavori con modelli linguistici, agenti o servizi cloud, la notizia ti riguarda più di quanto sembri: l’hardware su cui girano i modelli decide costi, latenza e perfino quali dati puoi permetterti di fargli elaborare.

Che cosa ha annunciato Google

Secondo il post ufficiale di Google, la famiglia TPU di ottava generazione era nata ad aprile 2026, durante Google Cloud Next, con due chip: TPU 8t, pensato per l’addestramento su larga scala, e TPU 8i, dedicato al ragionamento in tempo reale. Google dichiarava allora fino a 2,7 volte di prestazioni in più nell’addestramento e un miglioramento dell’80% nel rapporto prezzo e prestazioni dell’inferenza, rispetto alla generazione precedente.

Ora la linea si allarga. Il terzo sistema è TPU 8tx, il quarto è TPU 8i Max. Due prodotti diversi, con due clienti ideali molto diversi.

TPU 8i Max: due chip in un unico package

TPU 8i Max è costruito combinando due chip TPU 8i su un singolo package. Il risultato dichiarato è il doppio di calcolo, di SRAM e di banda della memoria HBM rispetto a TPU 8i. Google sottolinea anche un secondo vantaggio, più pratico: nello stesso ingombro di un rack esistente entra il doppio del silicio, quindi un data center può installare più potenza di calcolo per metro quadro e per watt consumato.

Il bersaglio sono i carichi in cui il collo di bottiglia è la banda della memoria. Gli esempi citati sono molti agenti che lavorano contemporaneamente su un’intera base di codice, oppure ore di video analizzate in un colpo solo. In entrambi i casi il modello deve tenere in memoria una quantità enorme di contesto, e la velocità con cui legge quei dati pesa quanto la potenza di calcolo pura.

TPU 8tx: la TPU pensata per i dati sensibili

TPU 8tx usa lo stesso silicio di TPU 8t, ma lo abbina a host con processori AMD EPYC di quinta generazione, in modo da offrire calcolo confidenziale a livello hardware. L’idea è che dati e pesi del modello restino isolati e protetti anche mentre vengono usati, non solo quando sono archiviati o trasmessi.

Google dichiara una latenza fino a due volte inferiore rispetto a TPU 8t, con una penalizzazione prestazionale vicina allo zero, grazie alla rete Boardfly già impiegata da TPU 8i. Il sistema è proposto anche per l’addestramento su piccola scala, così un’organizzazione può fare fine-tuning, distillazione e apprendimento per rinforzo su un’unica macchina, senza spostare i dati tra cluster diversi.

Perché l’inferenza confidenziale conta così tanto

Banche, ospedali, pubbliche amministrazioni e aziende regolamentate hanno spesso lo stesso problema: vorrebbero usare modelli di frontiera o proprietari su dati riservati, ma non possono permettere che quei dati, o i pesi del modello, siano esposti a chi gestisce l’infrastruttura. Il calcolo confidenziale prova a rispondere proprio a questo.

Non è un tema astratto. Nelle ultime settimane diversi incidenti hanno ricordato quanto sia fragile la protezione di dataset e modelli ospitati in servizi esterni, e il mercato dell’inferenza protetta sta diventando una voce di competizione a sé.

Google indica come destinatari le aziende regolamentate e i governi che vogliono eseguire modelli e agenti autonomi su informazioni sensibili. Resta però un punto da tenere presente: nel post non compaiono né prezzi né una data di disponibilità generale per i due sistemi, quindi per ora si tratta di un annuncio di direzione più che di un prodotto acquistabile domani mattina.

Il software che accompagna i nuovi chip

L’annuncio dell’hardware è stato accompagnato da una serie di novità software, che raccontano bene la strategia. Google ha ricordato TorchTPU in versione open source, che permette di eseguire codice PyTorch e modelli di Hugging Face sulle TPU, ed è un passaggio chiave per abbassare la barriera d’ingresso: ne avevamo parlato nell’articolo dedicato a TorchTPU e PyTorch nativo sulle TPU. Anche vLLM e SGLang dispongono ora di backend per queste macchine.

Tra le altre novità ci sono una suite di agenti per le TPU, in anteprima, che si integra con strumenti di programmazione come Claude Code, Cursor e Google Antigravity, e l’XLA Serving Engine, un runtime di serving in C++ a bassa latenza e open source. Compare poi Agent Compute Engine, che sospende e riprende le sessioni degli agenti inattivi per non sprecare risorse.

C’è inoltre TPU Sync, anch’esso open source, che gestisce la suddivisione della memoria in livelli e la sincronizzazione dei pesi. Google afferma che riduce di oltre il 90% la latenza di trasferimento della KV cache e il tempo al primo token. Sul fronte dell’infrastruttura, Cloud Pathways diventa disponibile in modo generale su GKE, e lo stesso vale per il dynamic slicing di GKE, che secondo Google accorcia fino a cinque volte l’avvio dei job e fino a 4,5 volte il recupero dai guasti.

Il messaggio è chiaro: non basta più vendere chip, serve un’intera pila che renda semplice usarli.

Il contesto: la corsa ai chip alternativi a Nvidia

Google dichiara che le TPU hanno ormai quasi cento clienti, tra cui laboratori di frontiera, società di trading, rivenditori e università. Per un mercato dominato dalle GPU di Nvidia, avere una seconda fonte credibile di calcolo è un vantaggio strategico per chi addestra e serve modelli.

Non è l’unica mossa del settore. Microsoft ha presentato il chip Maia 300 per l’inferenza su Azure, e Google stessa aveva già mostrato la sua visione più radicale con Project Suncatcher, le prime TPU in orbita. La tendenza è evidente: i grandi del cloud disegnano silicio su misura per i carichi dei propri modelli e per i propri clienti.

Anche i numeri finanziari spiegano la fretta. Gli investimenti in infrastruttura AI continuano a crescere, come emerge dall’analisi dei conti del terzo trimestre di Alphabet con Google Cloud e Search, e ogni miglioramento di densità o di efficienza per watt si traduce in margini più alti.

Cosa cambia concretamente per chi sviluppa e per chi decide

Per uno sviluppatore, il cambiamento immediato è limitato: non puoi ancora prenotare questi sistemi. Il valore è nel segnale. Se il tuo carico lavora con contesti molto lunghi, agenti paralleli su codice o video estesi, la direzione di Google dice che la banda di memoria sarà la risorsa da ottimizzare, e conviene progettare le applicazioni di conseguenza.

Per un responsabile IT o un chief data officer, TPU 8tx è la voce più interessante. Poter eseguire inferenza e piccoli cicli di addestramento su dati riservati, con isolamento garantito dall’hardware, riduce uno dei freni più comuni all’adozione dell’AI generativa nei settori regolamentati. Prima di fidarti, però, dovrai aspettare benchmark indipendenti e specifiche complete: Google non ha pubblicato valori assoluti di prestazioni.

Per chi segue il mercato, infine, quattro sistemi in dodici mesi mostrano un’accelerazione del ciclo di prodotto che mette pressione a tutti i concorrenti.

Conclusioni: tieni d’occhio disponibilità e prezzi

TPU 8i Max e TPU 8tx non rivoluzionano da soli il mercato, ma segnano due priorità precise dell’AI di fine 2026: contesti sempre più lunghi e dati sempre più sensibili. La parte da verificare nelle prossime settimane riguarda i prezzi, le date di disponibilità e i primi test indipendenti.

Se vuoi restare aggiornato su chip, modelli e infrastruttura, continua a seguire intelligenzaartificiale.net: raccontiamo ogni novità con fonti primarie e contesto, e ti consigliamo di salvare la pagina del post ufficiale di Google per confrontare le specifiche quando saranno pubblicate.