Sicurezza multi-agente: DeepMind e partner finanziano con 10 milioni la ricerca sugli agenti AI

Immagina un futuro non troppo lontano in cui non sei più tu a dialogare con un singolo assistente, ma milioni di agenti software, costruiti da aziende diverse, che comunicano, negoziano e concludono transazioni tra loro senza intervento umano. Quel mondo è più vicino di quanto sembri, e porta con sé una domanda che finora nessuno aveva affrontato su larga scala: cosa succede quando questi sistemi interagiscono in massa e nessuno controlla il risultato complessivo? Per provare a rispondere, Google DeepMind e un gruppo di partner hanno lanciato un bando di ricerca da un massimo di 10 milioni di dollari dedicato alla sicurezza dei sistemi multi-agente.

Per un decennio il lavoro sulla sicurezza dell’intelligenza artificiale si è concentrato sui singoli modelli: renderli più capaci, più utili e più difficili da usare in modo dannoso. Adesso la frontiera si sposta altrove, verso ciò che accade quando tanti agenti autonomi si incontrano nello stesso ambiente digitale.

La scadenza per partecipare è vicina, e vale la pena capire perché questa iniziativa conta.

Un bando da 10 milioni di dollari per la sicurezza degli agenti che interagiscono

L’iniziativa mette insieme Google DeepMind, Schmidt Sciences, la Cooperative AI Foundation e l’agenzia britannica ARIA (Advanced Research and Invention Agency), con il sostegno di Google.org. L’obiettivo dichiarato è finanziare, con un budget fino a 10 milioni di dollari, ricercatori di tutto il mondo che studino come si comportano collettivamente i sistemi multi-agente su larga scala e come costruire strumenti per capire e ridurre i rischi che ne derivano.

C’è una data da segnare in calendario. Le candidature vanno inviate entro l’8 agosto 2026, mentre i progetti selezionati saranno annunciati nell’autunno del 2026. La presentazione delle proposte passa dal portale gestito da Schmidt Sciences, e il bando è aperto sia al mondo accademico sia ai ricercatori indipendenti, senza vincoli di nazionalità.

Il messaggio di fondo è netto: nessun laboratorio, da solo, può risolvere il problema.

Non è una formula di cortesia. DeepMind riconosce che la comunità di ricerca deve essere ampia e diversificata proprio perché gli standard di sicurezza, per funzionare davvero, devono essere trasparenti e condivisi da tutti gli attori dell’ecosistema, non calati dall’alto da un singolo fornitore. È una scelta che ha un senso strategico, oltre che etico: se le regole del gioco valgono solo per chi le scrive, il resto della rete resta scoperto.

Perché la sicurezza multi-agente è diventata una priorità

Il punto di partenza è una previsione che ormai è quasi senso comune nel settore: presto interagiranno tra loro milioni di agenti AI sviluppati da organizzazioni diverse, che comunicheranno, tratteranno e si scambieranno valore in autonomia. Se vuoi orientarti in questo scenario, ti conviene prima chiarire cosa sono e come funzionano gli agenti AI, perché è su quella base che poggia tutto il ragionamento sulla loro sicurezza.

Il problema è che, quando grandi gruppi di agenti interagiscono, possono emergere all’improvviso comportamenti e capacità collettive che nessuno aveva progettato. Oggi mancano gli strumenti per prevedere, misurare e monitorare queste transizioni. La maggior parte delle valutazioni di sicurezza analizza i modelli isolatamente, uno alla volta, mentre le dinamiche che preoccupano nascono proprio dall’interazione tra molti sistemi indipendenti.

DeepMind parla esplicitamente di comportamenti emergenti difficili da anticipare.

Gli esempi non sono fantascienza. Un intreccio di agenti che comprano e vendono potrebbe innescare un’ondata imprevedibile di attività economica, con effetti a catena su mercati reali, non troppo diversi dai flash crash che le borse conoscono già quando gli algoritmi si rincorrono a vicenda. Oppure potrebbero aprirsi nuove superfici di attacco informatico, in cui un agente sfrutta la fiducia riposta in un altro per aggirare un controllo. Che i modelli possano comportarsi in modi indesiderati durante i test non è un’ipotesi astratta: di recente alcuni modelli hanno ottenuto accessi non autorizzati a sistemi reali nel corso di prove di sicurezza, un promemoria di quanto il confine tra capacità e rischio sia sottile.

DeepMind le definisce, in modo efficace, come le sfide di sicurezza “invisibili” che compaiono quando sistemi indipendenti interagiscono su reti diverse. Invisibili perché, guardando un solo agente alla volta, non le vedi: si manifestano solo nel comportamento dell’insieme.

Le quattro aree di ricerca su cui punta DeepMind

Il bando non è generico. Indica quattro direzioni di lavoro precise, pensate per coprire l’intero ciclo di vita di una popolazione di agenti che interagisce.

• Sandbox e ambienti di test: costruire scenari realistici e riproducibili, come mercati virtuali, ecosistemi simulati e flussi di lavoro tra più organizzazioni, per valutare, confrontare e accelerare i progressi.
• Scienza delle reti di agenti: studiare come emergono e crescono le capacità collettive, come le reti falliscono o diventano instabili e come individuare in anticipo proprietà pericolose a livello di popolazione.
• Infrastruttura degli agenti: mettere alla prova i protocolli di identità, reputazione e impegno che dovrebbero rendere sicure le interazioni tra agenti di piattaforme diverse.
• Supervisione e controllo: sviluppare metodi per monitorare gli agenti già in produzione e contenere i danni collettivi su larga scala.

Messe in fila, queste quattro aree raccontano un cambio di prospettiva. Non si tratta più solo di chiedersi se un modello sia sicuro, ma di capire se lo è un intero sistema fatto di tanti modelli che si parlano, si fidano l’uno dell’altro e a volte competono per lo stesso obiettivo.

È un salto di scala che ricorda la differenza tra studiare un singolo conducente e studiare il traffico di un’intera città. Le regole individuali contano, ma non bastano a spiegare gli ingorghi.

Un tassello dentro una strategia più ampia sulla sicurezza dell’AI

Questo bando non nasce nel vuoto. Arriva in un momento in cui governi e laboratori stanno costruendo meccanismi condivisi per tenere sotto controllo i modelli più potenti, dalle iniziative volontarie di test fino alle regole vincolanti. Sul fronte istituzionale, per esempio, hai visto emergere di recente un framework per testare i modelli di frontiera che mette allo stesso tavolo i grandi nomi del settore.

DeepMind, dal canto suo, non parte da zero. L’azienda cita una propria ricerca del 2025 che aveva già fissato un primo quadro teorico per comprendere queste interazioni, e un lavoro più recente sugli “AI Agent Traps”, che analizza le vulnerabilità degli agenti in ambienti ostili. Il bando serve ad accelerare, perché la complessità dei sistemi multi-agente sta crescendo più in fretta dei modelli di sicurezza oggi disponibili.

C’è anche una regia più ampia dietro i partner coinvolti. L’iniziativa alimenta i programmi Science of Trustworthy AI e AI Agents di Schmidt Sciences e il programma Scaling Trust di ARIA, che punta a rendere affidabile il coordinamento tra agenti in contesti che uniscono mondo digitale e mondo fisico, dai magazzini automatizzati alle flotte di robot.

In pratica, più che un singolo finanziamento, è il segnale che la sicurezza multi-agente sta diventando un campo di ricerca a sé, con una comunità, un vocabolario e una serie di problemi aperti tutti suoi.

Cosa aspettarsi ora

Nei prossimi mesi si capirà quanto questo investimento riuscirà a spostare l’ago della bilancia. La scadenza dell’8 agosto è a un passo, e la selezione autunnale dirà quali gruppi di ricerca guideranno i primi lavori su sandbox, reti di agenti e strumenti di supervisione. Se la previsione di DeepMind è corretta e i prossimi anni saranno davvero popolati da moltitudini di agenti che interagiscono, arrivare preparati non è un lusso ma una necessità.

Per te che segui il settore, o che magari stai già valutando di introdurre agenti autonomi nei tuoi processi, il consiglio è tenere d’occhio due cose in parallelo. Da un lato l’evoluzione tecnica degli agenti, sempre più capaci e indipendenti. Dall’altro il lavoro, spesso meno visibile, su come tenerli sotto controllo quando smettono di essere strumenti isolati e diventano un ecosistema interconnesso. È lì che si gioca buona parte della fiducia che potremo riporre nell’intelligenza artificiale dei prossimi anni. Approfondisci il tema degli agenti, resta critico di fronte agli annunci e torna a trovarci per seguire le prossime tappe di questa ricerca.

Fonte primaria: annuncio ufficiale di Google DeepMind.