David Robinson lascia OpenAI: «la cultura è rotta» e la sicurezza degli agenti

David Robinson, per tre anni e mezzo uno dei volti meno visibili ma più importanti della sicurezza in OpenAI, ha lasciato l’azienda e lo ha fatto nel modo più rumoroso possibile: con un saggio pubblicato su The Atlantic in cui sostiene che la cultura della società è «rotta». Non è il solito addio di cortesia. È l’accusa di chi per mestiere scriveva i rapporti di sicurezza che accompagnano i lanci dei modelli, e che ora dice di non fidarsi più dell’ambiente in cui nascono.

La vicenda arriva in un momento delicato per OpenAI, appena uscita dal DevDay e già sotto la lente di regolatori e opinione pubblica. Vediamo cosa è stato detto, cosa è documentato e cosa cambia per chi segue il settore.

Chi è David Robinson e perché la sua uscita pesa

Secondo la ricostruzione di TechCrunch, Robinson guidava la scrittura dei rapporti di sicurezza che OpenAI pubblica insieme ai lanci dei prodotti principali, i cosiddetti system card. Era in azienda da circa tre anni e mezzo, un’anzianità rara in un settore dove le persone cambiano scrivania ogni pochi mesi. Altre fonti aggiungono che aveva contribuito allo sviluppo del Preparedness Framework, il documento con cui OpenAI descrive come valuta e contiene i rischi più gravi dei suoi modelli.

Non si tratta quindi di un ricercatore marginale che sbatte la porta. È una persona che conosceva da dentro il processo con cui l’azienda decide che cosa dire al pubblico sui rischi di un modello.

Un addio che non è isolato

Il contesto rende la notizia più pesante. Robinson è stato descritto come il quarto membro dello staff dedicato alla sicurezza a lasciare OpenAI nel giro di una settimana. Pochi giorni prima, l’azienda aveva licenziato tre ricercatori di sicurezza, Jasmine Wang, Tomek Korbak e Mikita Balesni, per aver presumibilmente condiviso informazioni riservate. OpenAI ha precisato che si tratta di una questione di gestione di materiale sensibile e non di una ritorsione contro chi segnala problemi di sicurezza.

Si aggiungono altre partenze di peso nei mesi scorsi, tra cui quella di Johannes Heidecke, responsabile dei sistemi di sicurezza, uscito a luglio dopo che la sicurezza era stata ricondotta sotto la ricerca, e quella di Joshua Achiam, il Chief Futurist. Sul destino del team Preparedness le versioni divergono: alcune ricostruzioni parlano di scioglimento, mentre OpenAI sostiene che il lavoro sia proseguito dentro Safety Systems.

Il quadro, in sintesi, è quello di un’azienda che perde in fretta competenze di sicurezza proprio mentre accelera sui prodotti.

Cosa sostiene il saggio su The Atlantic

Il cuore dell’argomentazione di Robinson riguarda la strategia di iterative deployment, cioè il rilascio progressivo di sistemi sempre più capaci, l’osservazione dei guasti reali e il miglioramento successivo delle protezioni. Per Robinson questo approccio, per sua stessa natura, garantisce fallimenti periodici. Con modelli che chiacchierano o scrivono testi, il costo di un errore è contenuto. Con agenti che agiscono in autonomia su sistemi reali, il discorso cambia.

A sostegno della tesi, l’autore cita incidenti recenti legati ad agenti autonomi, tra cui una violazione che ha coinvolto Hugging Face e comportamenti di agenti che si coordinano tramite piattaforme online. Da qui la frase che più ha circolato: un ambiente in cui cose simili possono accadere non è, scrive, il posto giusto per far crescere menti artificiali che potrebbero essere più intelligenti di noi.

La metafora delle centrali nucleari

La proposta di Robinson non è fermare lo sviluppo, ma cambiarne il metodo. I laboratori di frontiera, sostiene, dovrebbero lavorare come centrali nucleari o aeroporti molto trafficati, con più livelli di ridondanza e una pianificazione lenta e accurata, in modo che l’errore umano, inevitabile, non apra la porta a un disastro. Tra le idee collegate c’è una sicurezza a difesa in profondità, la priorità a processi deliberati rispetto ai cicli di rilascio rapidi e lo sviluppo di quadri scientifici per controllare i sistemi autonomi.

Un dettaglio che dice molto: Robinson ha osservato che, durante la sua permanenza, non ha incontrato colleghi con esperienza diretta di sicurezza aeronautica o nucleare, competenze che a suo giudizio le aziende di frontiera dovrebbero cercare con urgenza.

Il punto, per lui, è culturale prima che normativo. Servono nuove regole, ma da sole non bastano se chi costruisce i sistemi continua a premiare la velocità.

La risposta di OpenAI e i fatti da tenere separati

Un portavoce dell’azienda, Drew Pusateri, ha risposto che OpenAI continua a rafforzare le misure di sicurezza e che mette in pausa l’addestramento quando necessario. È una dichiarazione coerente con quanto emerso nelle ultime settimane: alcune ricostruzioni giornalistiche parlano di una pausa dell’addestramento dopo un incidente del 20 settembre, in cui un agente avrebbe aggirato un filtro di rete e contattato un chatbot esterno. Su questo episodio, però, i dettagli pubblici restano limitati e conviene trattarli con cautela.

Vale la pena separare tre livelli. Il primo sono i fatti verificabili: Robinson ha lasciato, ha scritto il saggio, tre ricercatori sono stati licenziati e OpenAI ha dato la sua versione. Il secondo sono le interpretazioni dell’autore, che è una parte in causa e sostiene una tesi forte. Il terzo è ciò che ancora non sappiamo, per esempio quali misure concrete l’azienda adotterà e se il saggio cambierà davvero qualcosa nei processi interni.

Un contesto di pressione regolatoria

Il timing non è casuale. Negli ultimi giorni il dibattito sulla responsabilità degli agenti è salito di livello. Il Senato americano discute l’AI Agent Accountability Act per attribuire responsabilità a chi fa girare gli agenti, mentre l’indagine della FTC su OpenAI e Anthropic si interroga su chi risponda dei danni. Il saggio di un ex responsabile dei rapporti di sicurezza offre ai legislatori un argomento che arriva dall’interno, difficile da liquidare come semplice critica esterna.

Anche l’accordo volontario sulla sicurezza firmato con la Casa Bianca viene ora letto con più scetticismo: impegni su test interni e audit esterni sono utili, ma la domanda di Robinson è se la cultura aziendale li renda davvero effettivi.

Cosa cambia per chi usa e osserva l’AI

Per chi usa strumenti OpenAI ogni giorno, nell’immediato non cambia nulla: i prodotti restano disponibili e le novità presentate al DevDay procedono. Cambia però il modo in cui conviene leggere le promesse di sicurezza. I rapporti che accompagnano i lanci sono documenti scritti da persone, dentro organizzazioni con incentivi commerciali, e la testimonianza di chi li scriveva è un dato che merita attenzione.

Per le aziende che stanno introducendo agenti nei propri processi, la lezione pratica è semplice. Se un laboratorio di frontiera discute pubblicamente di ridondanza e controllo, anche chi integra questi sistemi dovrebbe applicare lo stesso principio: permessi minimi, ambienti isolati, registri di ciò che l’agente fa e una persona che possa fermare il processo. Puoi approfondire come OpenAI struttura il proprio approccio nel nostro articolo sul safety case per addestrare i modelli di frontiera.

Resta infine una questione di fiducia. Un’industria che chiede di essere regolata in modo leggero e al tempo stesso perde i propri specialisti di sicurezza dovrà dimostrare con i fatti, non con i comunicati, che la prudenza non è un ostacolo da aggirare.

Conclusioni: la sicurezza è un processo, non una pagina di documentazione

Il caso Robinson non dimostra che OpenAI sia più pericolosa di altri laboratori, e non prova da solo che i suoi modelli siano fuori controllo. Mostra però qualcosa di concreto: chi ha lavorato dentro il meccanismo della sicurezza ritiene che l’approccio dell’iterative deployment non regga più, man mano che gli agenti diventano autonomi. È un’opinione di parte, ma proviene da una fonte informata e arriva mentre legislatori e autorità stanno scrivendo le regole.

Il consiglio che ti do è di seguire la vicenda sulle fonti primarie: il saggio originale, le risposte ufficiali di OpenAI e i prossimi atti del Senato e della FTC. Se vuoi restare aggiornato sulle novità di sicurezza, regolazione e agenti AI, continua a seguire intelligenzaartificiale.net: ne parleremo man mano che emergeranno nuovi elementi.