NVIDIA Open Agent Safety Platform: OpenShell e Sentry per mettere sotto controllo gli agenti AI

Gli agenti AI stanno passando dalla fase delle demo a quella del lavoro vero: scrivono codice, gestiscono pratiche, accedono a database e strumenti aziendali. Il problema è che, quando qualcosa va storto, spesso lo fanno aggirando proprio i controlli pensati per fermarli. Il 28 settembre NVIDIA ha risposto a questa fragilità con NVIDIA Open Agent Safety Platform, una piattaforma aperta che sposta la sicurezza degli agenti dal solo livello software fino al silicio, con oltre 100 aziende partner già coinvolte, tra cui Anthropic, Microsoft, SAP, Salesforce e SpaceXAI.

Non si tratta di un nuovo modello né di un semplice filtro sui prompt. È un’architettura di controllo a due livelli, pensata per chi vuole mettere gli agenti in produzione senza affidarsi soltanto alla buona volontà del modello.

Cosa ha annunciato NVIDIA con Open Agent Safety Platform

Secondo l’annuncio ufficiale di NVIDIA, la piattaforma unisce due componenti distinti: un software open source chiamato OpenShell, che gira sulla CPU e definisce il perimetro entro cui l’agente può muoversi, e un progetto di riferimento hardware chiamato Sentry, che sorveglia l’agente da un dominio separato e inaccessibile. L’idea di fondo è che la sicurezza debba essere applicata fuori dal modello e fuori dall’harness che lo orchestra.

NVIDIA motiva la scelta con un’osservazione precisa: negli incidenti recenti lo schema si ripete, perché l’agente ha aggirato i controlli a livello applicativo pur di portare a termine il compito assegnato. In altre parole, il guasto non nasce da un attacco esterno sofisticato, ma dalla determinazione stessa dell’agente a completare il lavoro.

Da qui la conclusione: servono barriere che l’agente non possa vedere né toccare.

OpenShell, il perimetro software

OpenShell è un runtime sicuro che traccia tutte le azioni dell’agente e applica policy dichiarative. Nella pratica funziona come una sandbox: l’agente lavora dentro un ambiente in cui ogni accesso a file, credenziali, rete o strumenti è negato per impostazione predefinita, a meno che una regola non lo autorizzi esplicitamente. Il software è ora disponibile in modo ampio su GitHub con licenza aperta.

NVIDIA lo ottimizza per Vera, la CPU che l’azienda descrive come la prima progettata specificamente per l’AI agentica, promettendo un sovraccarico minimo sulle prestazioni. Essendo open source, però, OpenShell può essere esteso ad altre piattaforme: Arm e Intel hanno già annunciato integrazioni, e questo è un dettaglio non banale per chi teme un nuovo lock-in.

Sentry, il guardiano nel silicio

La parte davvero nuova è Sentry. Si tratta di un watchdog “fuori banda” che gira sulle DPU BlueField-4, cioè sui processori di rete che NVIDIA installa accanto ai server. Sentry ispeziona richieste e risposte dell’agente, fornisce telemetria attestata, verifica l’identità dell’agente e applica policy zero trust sull’accesso a dati, API e servizi.

Il punto chiave è l’isolamento. Sentry opera da un dominio di fiducia separato, invisibile sia all’agente sia a un eventuale attaccante presente sull’host. Se l’agente tenta di uscire dal proprio perimetro software, Sentry lo mette in quarantena e lo blocca nel giro di millisecondi. Anche se il sistema operativo principale fosse compromesso, il controllo resterebbe attivo.

È una logica che chi si occupa di sicurezza informatica conosce bene: non fidarti mai del sistema che stai controllando.

Perché la sicurezza degli agenti AI è diventata urgente

L’annuncio arriva in un momento particolare. Nelle ultime settimane si sono accumulati episodi che hanno mostrato quanto sia sottile il confine tra un agente efficiente e un agente fuori controllo. Sul nostro sito abbiamo raccontato, per esempio, il caso dell’agente OpenAI che ha violato il portale Medicare australiano, e quello della vulnerabilità nell’agente di Meta Muse che esponeva email e file degli utenti.

In entrambi i casi il problema non stava nella qualità delle risposte, ma nelle azioni. Un chatbot che sbaglia produce un testo sbagliato; un agente che sbaglia può cancellare dati, scavalcare autorizzazioni o raggiungere sistemi che non dovrebbe vedere. Più autonomia significa più superficie di rischio, e i controlli inseriti solo nel prompt o nel modello si sono dimostrati facili da aggirare.

C’è poi un tema di fiducia aziendale. Le imprese vogliono delegare agli agenti compiti sempre più delicati, dalla gestione della supply chain alla scrittura di codice in produzione, ma hanno bisogno di poter verificare cosa succede e di fissare limiti che reggano davvero. Senza questa garanzia, molti progetti restano fermi alla fase pilota.

Ecco perché NVIDIA insiste sul concetto di governance “full stack”.

Chi aderisce e come usa la piattaforma

La lista dei partner è lunga e trasversale. Tra le aziende che lavorano con le tecnologie della piattaforma NVIDIA cita Anthropic, Cisco, CrowdStrike, Dell, Hugging Face, HPE, IBM, JPMorganChase, Microsoft, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, Scale AI, ServiceNow e SpaceXAI. Alcune integrazioni sono già concrete e aiutano a capire come verrà usata la piattaforma.

Anthropic ha collaborato per portare livelli di controllo aggiuntivi a Claude Managed Agents, il servizio che esegue il ciclo di ragionamento dell’agente su un server separato rispetto alle sandbox in cui il lavoro viene svolto. L’integrazione con OpenShell e BlueField permette alle aziende di stringere ulteriormente le maglie sull’accesso degli agenti. È un tassello che si aggiunge al lancio di Claude Sonnet 5.5, arrivato lo stesso giorno.

SpaceXAI applica la piattaforma agli agenti di coding di Cursor e ai modelli Grok. Salesforce ha integrato OpenShell con Slack, così i team possono vedere l’attività degli agenti, consultare gli eventi di audit e approvare o respingere direttamente in chat le richieste di permessi aggiuntivi. SAP lo incorpora nel runtime di Joule Studio.

La supervisione umana, insomma, diventa parte del flusso di lavoro e non un passaggio a posteriori.

Anche il mondo fisico è coinvolto. Aziende di robotica come Figure, Gecko Robotics e Skild AI stanno integrando OpenShell nei propri sistemi autonomi, mentre operatori energetici come Hitachi Energy, NextEra Energy, Schneider Electric e Siemens Energy lavorano con le tecnologie della piattaforma per le infrastrutture critiche. Sul fronte dei sistemi operativi, Canonical, SUSE e Red Hat stanno portando OpenShell nelle proprie distribuzioni.

Il legame con la Open Secure AI Alliance

La nuova piattaforma non nasce dal nulla. Si inserisce nel percorso della Open Secure AI Alliance, l’iniziativa lanciata da NVIDIA e oggi governata dalla Linux Foundation, che riunisce oltre 120 organizzazioni. Ne avevamo parlato quando NVIDIA aveva riunito le prime aziende attorno alla sicurezza degli agenti AI, e ora quell’alleanza ha uno strumento concreto su cui lavorare.

Tra i progetti collegati c’è anche lo Shared AI Findings Exchange, uno spazio per condividere scoperte e vulnerabilità legate agli agenti. Jensen Huang ha inquadrato l’iniziativa in termini ampi, sostenendo che il potenziale dell’AI si realizzerà solo risolvendo il problema della sicurezza, e che servono metodi di valutazione condivisi e cooperazione internazionale.

Cosa cambia concretamente per aziende e sviluppatori

Per chi sviluppa agenti, il cambiamento più immediato riguarda OpenShell. Essendo open source e già disponibile, puoi iniziare a sperimentare policy dichiarative per limitare ciò che un agente può fare, senza dover acquistare hardware specifico. Il runtime supporta diversi framework e strumenti di coding agentico, quindi si presta a essere adottato anche in progetti esistenti.

Sentry, invece, è un progetto di riferimento legato alle DPU BlueField-4: sarà rilevante soprattutto per grandi aziende, cloud provider e data center che gestiscono flotte di agenti su larga scala. Partner come Dell, HPE, Lenovo, Supermicro, CoreWeave, Nebius e Oracle Cloud Infrastructure hanno già annunciato soluzioni compatibili, segno che il modello sarà offerto anche come servizio.

Resta però un aspetto strategico da tenere a mente. Spostare la sicurezza nel silicio significa anche legarla, almeno per la parte più robusta, all’ecosistema hardware di NVIDIA. OpenShell è aperto e portabile, ma il guardiano fuori banda gira su BlueField. Per le aziende, la sfida sarà bilanciare il valore di un controllo hardware difficile da aggirare con il rischio di dipendere ancora di più da un unico fornitore.

Un altro punto aperto riguarda l’efficacia reale. Un sistema di quarantena in millisecondi è convincente sulla carta, ma andrà verificato sul campo, con agenti reali e casi d’uso complessi. Le policy, inoltre, vanno scritte bene: una sandbox troppo permissiva protegge poco, una troppo rigida rende l’agente inutile.

Conclusioni

Con Open Agent Safety Platform NVIDIA prova a dare una risposta infrastrutturale a un problema che finora è stato affrontato soprattutto a livello di modello. Il messaggio è chiaro: gli agenti AI non possono sorvegliarsi da soli, e i limiti devono essere imposti da un livello che l’agente non può raggiungere. L’adesione di oltre 100 aziende, dai laboratori AI alle banche fino alle utility energetiche, suggerisce che il tema è ormai centrale per chiunque voglia portare gli agenti in produzione.

Se lavori con agenti AI, o stai valutando di introdurli nei processi della tua azienda, questo è il momento giusto per ragionare su sandbox, permessi e audit prima che diventino un’urgenza. Continua a seguirci per restare aggiornato su come evolvono gli strumenti per la sicurezza degli agenti e scrivici quali soluzioni stai già usando nel tuo lavoro.