MAISI, l’istituto che vuole portare i matematici nella sicurezza dell’AI

La sicurezza dell’intelligenza artificiale ha un nuovo protagonista, e arriva da un mondo che di solito resta lontano dai riflettori delle grandi aziende tecnologiche: la matematica pura. Jacob Tsimerman, vincitore della Medaglia Fields 2026, ha annunciato la nascita del Mathematical AI Safety Institute (MAISI), un istituto no profit indipendente che vuole costruire le fondamenta matematiche della sicurezza dei sistemi di AI più potenti. L’idea di fondo è semplice da enunciare e vertiginosa da realizzare: portare il rigore della dimostrazione matematica dentro una delle domande più difficili del nostro tempo, cioè capire quando e perché un’intelligenza artificiale può considerarsi davvero sicura.

L’annuncio, arrivato in questi giorni tramite un post dello stesso Tsimerman su X, sposta il baricentro del dibattito. Fino a ieri la sicurezza dell’AI era terreno soprattutto di informatici, ingegneri e policy maker. Ora entra in campo la comunità dei matematici, con un obiettivo dichiarato: trasformare paure e stime soggettive in qualcosa che si possa misurare.

Chi è Jacob Tsimerman e perché il suo nome pesa

Per capire la portata della notizia conviene partire dalla persona. Tsimerman non è un divulgatore né un imprenditore del settore: è un professore dell’Università di Toronto e uno dei matematici più premiati della sua generazione. Oltre alla Medaglia Fields 2026, il riconoscimento più prestigioso della disciplina, ha ricevuto il Premio Ostrowski nel 2023, il New Horizons in Mathematics Prize nel 2022, il Coxeter-James Prize nel 2019 e il SASTRA Ramanujan Prize nel 2015.

Quando una figura di questo livello decide di dedicare tempo ed energie alla sicurezza dell’AI, il segnale è forte. Non si tratta di un passatempo intellettuale, ma di una scelta di campo che porta con sé una rete di relazioni, credibilità accademica e capacità di attrarre talenti.

C’è anche un dettaglio che aiuta a leggere il momento. Secondo quanto riferito da più testate, in parallelo alla fondazione del MAISI Tsimerman avrebbe iniziato a collaborare con il team che si occupa di sicurezza in OpenAI. Un piede nella ricerca indipendente e uno dentro un grande laboratorio: una combinazione che racconta bene quanto il confine tra accademia e industria dell’AI si stia facendo sottile.

Che cosa vuole fare davvero il MAISI

Il MAISI si presenta come un’organizzazione no profit indipendente che sviluppa fondamenta matematiche per la sicurezza dei sistemi di AI potenti. Dietro questa formula c’è una tesi precisa: uno dei motivi per cui la sicurezza dell’AI resta un problema aperto è che manca una comprensione rigorosa di che cosa significhi, anche solo in teoria, essere sicuri.

La domanda chiave che l’istituto si pone è tanto asciutta quanto ambiziosa: quali premesse ci permetterebbero di dedurre, con un alto grado di fiducia, che una nuova tecnologia di AI non causerà una catastrofe? È il tipo di interrogativo a cui i matematici sono abituati, perché richiede definizioni precise, ipotesi esplicite e catene di deduzioni verificabili.

Tsimerman e il suo gruppo usano un paragone efficace. Così come la fisica offre gli strumenti per calcolare la sicurezza di un reattore nucleare, e la statistica quelli per tracciare la diffusione di una pandemia, allo stesso modo servirebbe una matematica capace di misurare e ridurre i rischi dell’AI. Non per sostituire gli altri approcci alla sicurezza, ma per affiancarli con definizioni, misurazioni e concetti di soluzione più solidi.

Su questo punto l’istituto è esplicito: gli strumenti matematici non saranno una panacea. Restano necessari i quadri normativi, il rafforzamento delle infrastrutture sociali e tecnologiche e le tecniche di addestramento che rendono i modelli stessi più orientati alla sicurezza. Il rischio nasce da molte direzioni, e la risposta non può che essere multiforme.

Sul piano organizzativo, il modello di riferimento è quello dei grandi istituti di ricerca matematica, come l’Institute for Advanced Study di Princeton o il Fields Institute di Toronto. I matematici diventeranno membri per uno o due semestri, con la possibilità di rinnovo, e lavoreranno in spazi condivisi pensati per far circolare le idee tra uffici, seminari e ospiti invitati.

Il MAISI punta a due tipi di dialogo. Da un lato matematici che discutono tra loro i problemi di sicurezza, per prendere confidenza con la letteratura esistente; dall’altro esperti di AI safety che presentano soluzioni e questioni aperte a una platea di matematici. L’obiettivo dichiarato è accelerare: invece di attendere anni per pubblicare risultati rifiniti, l’istituto vuole condividere documenti di lavoro in evoluzione appena possono essere utili alla comunità.

I numeri danno la misura dell’ambizione. Il piano prevede da 10 a 30 ricercatori per il semestre di gennaio 2027 e da 30 a 100 per lo Special Year di settembre 2027, con l’invito a trasferirsi nella Bay Area per iniziare a lavorare il prima possibile.

Perché la sicurezza dell’AI ha bisogno dei matematici

Il cuore del progetto è una convinzione netta: sul rischio esistenziale legato all’AI abbondano le stime soggettive, ma manca una misura di principio. Alcuni dei massimi esperti considerano già oggi l’AI avanzata un potenziale rischio di estinzione per l’umanità, eppure non disponiamo di un modo rigoroso per quantificare quanto quel rischio sia reale.

È qui che, secondo Tsimerman, la matematica può fare la differenza. Le fondamenta della statistica, della fisica e della stessa informatica sono matematiche: offrono metodi precisi, robusti e riutilizzabili per trarre conclusioni valide da premesse valide. Applicare lo stesso approccio alla sicurezza dell’AI significherebbe passare, almeno in parte, dall’opinione alla dimostrazione.

Il MAISI, però, non promette miracoli. Anzi, mette in conto che le risposte possano rivelarsi negative. L’istituto individua almeno tre possibili scoperte scomode:

• l’attuale paradigma di sviluppo dell’AI potrebbe non essere rendibile sicuro sul piano esistenziale, e richiedere quindi un cambio di paradigma profondo;
• un’AI sicura potrebbe essere possibile in teoria, ma la configurazione giusta potrebbe rivelarsi caotica e ipersensibile al rumore, quindi di fatto irraggiungibile con gli strumenti attuali;
• verificare che un sistema sia effettivamente sicuro potrebbe avere una complessità computazionale proibitiva.

Sono ipotesi dure. Ma il punto è proprio questo: la matematica è una delle poche discipline capaci di dimostrare che un proprio problema è, a partire da certe premesse, irrisolvibile. Se una tecnologia non potesse mai essere resa sicura, sarebbe meglio saperlo per tempo, con una dimostrazione alla mano, piuttosto che scoprirlo troppo tardi.

Un momento in cui matematica e AI si intrecciano sempre di più

La nascita del MAISI non capita per caso. Arriva in una fase in cui il rapporto tra intelligenza artificiale e matematica sta vivendo una accelerazione senza precedenti, e sono diversi gli episodi che lo raccontano nelle ultime settimane.

Si è discusso molto della dimostrazione con cui, secondo OpenAI, un sistema di AI avrebbe affrontato le equazioni di Navier-Stokes, uno dei problemi da un milione di dollari, così come del lavoro sulle equazioni di Eulero e sul blow-up in tempo finito commentato anche da Terence Tao. Sul fronte della verifica formale, ha fatto scalpore il caso in cui Claude ha formalizzato l’ultimo teorema di Fermat dentro un assistente di dimostrazione.

Queste storie mostrano un’AI che entra nella matematica. Il MAISI ribalta la prospettiva: è la matematica che entra nell’AI, e in particolare nel suo problema più delicato, quello della sicurezza. Due direzioni opposte dello stesso avvicinamento.

Il parterre di consulenti conferma la serietà dell’operazione. Nel comitato scientifico figurano nomi come Timothy Gowers, Medaglia Fields 1998, e Ravi Vakil, professore a Stanford e presidente dell’American Mathematical Society, accanto a veterani della AI safety come Geoffrey Irving e Paul Christiano. La direzione esecutiva è affidata ad Andrew Critch, matematico con un dottorato a Berkeley e una lunga esperienza nella ricerca sull’allineamento.

Che cosa cambia adesso

Nell’immediato, poco e molto allo stesso tempo. Poco, perché l’istituto entrerà nel vivo solo a gennaio 2027 e le sue eventuali scoperte richiederanno tempo. Molto, perché la sola esistenza del MAISI segnala che la sicurezza dell’AI sta diventando un tema abbastanza serio da attrarre alcuni dei migliori matematici del pianeta.

Per te che segui l’evoluzione dell’intelligenza artificiale è un tassello da tenere d’occhio. Se le fondamenta matematiche di cui parla Tsimerman prenderanno forma, potrebbero cambiare il modo in cui misuriamo i rischi dei modelli che usiamo ogni giorno, dalle chat agli agenti autonomi.

Nel frattempo vale la pena continuare a seguire come AI e matematica si stanno intrecciando, perché è lì, all’incrocio tra dimostrazione e apprendimento automatico, che si gioca una parte importante del futuro prossimo. Resta con noi per gli aggiornamenti: se l’argomento ti appassiona, il tema tornerà presto, e più spesso di quanto immagini.