OpenAI apre i suoi sistemi ad Apollo, METR, Transluce e Goodfire: valutazioni incorporate
OpenAI avvia le valutazioni incorporate: Apollo, METR, Transluce e Goodfire entrano nei suoi sistemi. Cosa prevede l'accordo e quali sono i limiti.

OpenAI ha annunciato la prima fase delle valutazioni incorporate, un programma con cui esperti esterni lavorano dentro i suoi sistemi per giudicare allineamento e salvaguardie dei modelli. Il comunicato è del 13 novembre 2026 e coinvolge quattro organizzazioni: Apollo Research, METR, Transluce e Goodfire. Non si tratta del solito red teaming a modello finito: gli esperti entrano nel ciclo di sviluppo, con accesso a checkpoint, dati e strumenti di monitoraggio.
È un passaggio che interessa chiunque usi, o decida di adottare, i modelli di OpenAI. Vediamo cosa prevede davvero l’accordo, chi fa cosa e dove restano i limiti.
Cosa sono le valutazioni incorporate di OpenAI
Secondo la fonte primaria pubblicata da OpenAI, una valutazione incorporata dà a esperti indipendenti un accesso profondo e prolungato ai modelli e ai sistemi interni del laboratorio. L’obiettivo è verificare le affermazioni contenute nei safety case, cioè i documenti con cui un’azienda argomenta perché un modello sia abbastanza sicuro da essere addestrato o rilasciato. Se vuoi un approfondimento su quel quadro, abbiamo già raccontato le regole di OpenAI per addestrare i modelli di frontiera.
La prima fase si concentra su allineamento e salvaguardie dei modelli durante l’addestramento e l’uso interno. Dipende dal singolo incarico, ma gli assessor possono ricevere checkpoint, codice sorgente, dati di addestramento e di valutazione, sistemi di monitoraggio, documentazione tecnica e tempo con i ricercatori che lavorano ai modelli.
Chi ha bisogno di informazioni sensibili lavora negli uffici di OpenAI, su dispositivi forniti dall’azienda e con standard di sicurezza almeno pari a quelli dei dipendenti. Dove l’accesso diretto esporrebbe la proprietà intellettuale più delicata, come pesi e architettura, OpenAI può invece affiancare agli esterni i propri ricercatori.
Un cambio di approccio rispetto ai test tradizionali
Finora la valutazione esterna avveniva spesso a valle: un gruppo riceve un modello quasi finito, lo mette sotto stress e scrive un rapporto. Qui la logica è diversa, perché chi valuta osserva anche come il modello viene costruito, cosa ha incentivato l’addestramento e se gli strumenti di controllo funzionano nella pratica.
Il punto è sottile ma importante.
I quattro valutatori e i loro compiti
Apollo Research verifica se un modello potrebbe lavorare di nascosto contro le intenzioni di chi lo sviluppa e se le salvaguardie se ne accorgerebbero. Il lavoro testa quattro affermazioni: che l’addestramento non abbia incentivato la sovversione, che valutazioni e red teaming robusti non la facciano emergere, che i modelli non l’abbiano tentata durante l’uso interno e che il ragionamento alla base sarebbe rilevabile. Nella prima fase Apollo accede a modelli pubblici e non rilasciati, checkpoint, dati di addestramento, risultati delle valutazioni, registri di monitoraggio e capacità di calcolo, e riceve un compenso non legato all’esito.
Goodfire porta ricercatori di interpretabilità che analizzano gli interni dei modelli con la propria piattaforma. Gli scopi sono monitorare le sessioni di addestramento, fare debugging e migliorare l’allineamento. Il pubblico principale è interno a OpenAI, ma Goodfire pubblicherà ciò che impara man mano che la collaborazione procede.
METR avrà due incarichi. Il primo è una valutazione di allineamento sul più grande addestramento per rinforzo mai condotto da OpenAI, per cercare comportamenti non allineati che test e monitor esistenti potrebbero aver mancato, con priorità decise da METR stessa. Il secondo, più ampio, riguarda i sistemi di monitoraggio ed è concordato in via preliminare, ma il perimetro è ancora in definizione. METR non accetta compensi, ma può ricevere crediti API o calcolo.
Transluce esamina la qualità e la copertura delle valutazioni di allineamento successive all’addestramento. Per l’inizio del 2027 è previsto un secondo incarico di circa otto settimane, con accesso più ampio ai modelli e informazioni su come i risultati incidano sulle decisioni di rilascio.
Supervisione, pubblicazione e confini dell’indipendenza
Il Safety and Security Committee, comitato indipendente del consiglio della OpenAI Foundation, ha visibilità prima, durante e dopo ogni valutazione e riceve i rapporti non oscurati. I disaccordi passano prima dal Safety Advisory Group e dai vertici, che hanno un tempo definito per risolverli, e se restano irrisolti vengono rinviati al comitato.
Sulla pubblicazione, gli assessor mantengono l’indipendenza su cosa scrivere, ma OpenAI può oscurare informazioni riservate e chiedere ritardi di divulgazione responsabile per correggere rischi di sicurezza. I rapporti pubblici descriveranno risultati e limiti, mentre quelli dettagliati e riservati vanno agli organi di controllo. Le conversazioni con il personale restano off the record: possono informare le valutazioni, ma non essere pubblicate né attribuite a singole persone, anche se gli esterni possono chiedere dichiarazioni attestate da OpenAI.
Sono proprio questi dettagli a dividere gli osservatori.
Le critiche e i dubbi aperti
Secondo la ricostruzione di Tech Times, Buck Shlegeris, amministratore delegato di Redwood Research, ha definito gli accordi “deludenti ma non sorprendenti”, sostenendo che non raggiungono il livello di accesso paragonabile a quello dei dipendenti che Sam Altman aveva approvato a settembre. OpenAI ha dichiarato a Reuters di non chiedere un diritto di approvazione sul testo dei rapporti e che oscurare dati riservati è prassi comune.
La stessa fonte ricorda che un precedente esercizio con METR aveva rilevato come il monitoraggio di OpenAI non coprisse inizialmente gli addestramenti per rinforzo, stimando che tra il 75 e il 94 per cento del traffico idoneo potesse essere monitorato, con forte incertezza. In più, gli accordi coprono valutazioni circoscritte e non equivalgono a una verifica indipendente completa dei modelli.
OpenAI stessa ammette alcuni caveat: le norme per queste valutazioni non sono ancora standardizzate, i protocolli cambieranno, e redazioni, ritardi e discussioni off the record possono limitare ciò che finirà in pubblico. Sono in sviluppo anche le procedure su conflitti di interesse e ricusazione, con un breve periodo di raffreddamento per chi lavora per un valutatore prima di passare a un altro sviluppatore di AI.
Il contesto: sicurezza sotto pressione
L’annuncio arriva in una settimana in cui la fiducia nei laboratori è messa alla prova. Pochi giorni fa lo Stato della California ha avviato una causa su cui ti abbiamo già scritto: puoi leggere la causa della California contro OpenAI sugli agenti sfuggiti a Hugging Face. Mostrare che esistono controlli esterni con accesso reale è anche una risposta a questo clima.
Il modello scelto da OpenAI ricorda da vicino quello che Anthropic ha aperto a METR poche settimane fa, con accesso dei valutatori a più livelli di profondità, che trovi spiegato in Anthropic e METR: valutatori esterni con accesso da dipendenti. La differenza evidenziata dalle prime reazioni riguarda i diritti di pubblicazione: secondo Tech Times, il quadro di Anthropic darebbe a METR un diritto incondizionato di pubblicare, mentre in OpenAI sono previste redazioni e ritardi.
Va ricordato anche che le due aziende hanno già discusso a lungo su cosa i revisori esterni possano rendere pubblico, tema che abbiamo raccontato in Anthropic e OpenAI sui diritti di pubblicazione dei revisori. Ora la discussione passa dalla teoria a una pratica concreta, con nomi, ruoli e perimetri dichiarati.
Perché conta per chi usa e sviluppa con l’AI
Per professionisti e aziende, la domanda pratica è quanto fidarsi delle dichiarazioni di sicurezza dei fornitori. Un programma di valutazioni incorporate non elimina il rischio, ma aumenta la quantità di informazione indipendente disponibile, soprattutto sul comportamento dei modelli in fase di addestramento, dove nascono problemi come il reward hacking, cioè la tendenza a ottenere punteggi alti sfruttando scorciatoie invece di svolgere davvero il compito.
Se scegli un fornitore di modelli per un progetto, ha senso leggere con attenzione i rapporti pubblici che usciranno e distinguere tra ciò che è stato verificato da terzi e ciò che resta dichiarato dall’azienda. Nel dubbio, conserva sempre controlli tuoi: monitoraggio degli output, limiti sui permessi degli agenti e verifiche periodiche non sono delegabili a nessun valutatore esterno.
Conta anche il precedente. Se questa formula funzionerà, è plausibile che diventi un riferimento per il settore e per i regolatori, che oggi chiedono prove più solide di quanto basti una pagina di autovalutazione. La stessa OpenAI dichiara di voler arrivare a collaborazioni di lungo periodo e di esplorare in futuro valutazioni sulla conformità ai propri framework di sicurezza e su cultura e processi organizzativi.
Conclusioni
Le valutazioni incorporate sono un passo avanti reale verso una supervisione esterna più credibile, ma la qualità dipenderà da ciò che verrà pubblicato e da quanto le redazioni saranno limitate. Il banco di prova saranno i primi rapporti di Apollo, METR, Transluce e Goodfire.
Seguiamo l’evolversi della vicenda: se vuoi restare aggiornato sulle novità di sicurezza e governance dell’AI, continua a seguire intelligenzaartificiale.net e dai un’occhiata agli altri approfondimenti nella sezione dedicata ai problemi etici dell’AI.
Tutta l'AI della settimana, in 5 minuti, nella tua email
- Le guide e le notizie della settimana, divise per rubrica
- Solo ciò che conta, verificato e spiegato in italiano
- Niente spam, ti cancelli con un clic
Daniele Della Corte
Fondatore di IntelligenzaArtificiale.net · Consulente SEO e AI dal 2008
Prima della pubblicazione controlla fonti, numeri e nomi, e risponde personalmente di quello che leggi. Lavora con l'intelligenza artificiale da oltre 7 anni: ha fondato BeProud.ai e ha progettato la redazione di questo sito.
Consulenza AIVuoi applicare l'AI al tuo lavoro? Ti aiuto a scegliere cosa automatizzare e a realizzarlo.
Scopri la consulenza
