Anthropic apre a METR: valutatori esterni con accesso da dipendenti

Il 15 ottobre 2026 Anthropic ha fatto un passo che fino a pochi mesi fa sarebbe sembrato improbabile: ha aperto le porte dei propri uffici e dei propri sistemi interni a un valutatore esterno. Sei ricercatori di METR, organizzazione senza scopo di lucro specializzata nella valutazione dei modelli di frontiera, lavorano ora dentro l’azienda con un accesso paragonabile a quello di un dipendente. Se ti occupi di AI, la notizia conta perché prova a rispondere a una domanda scomoda: chi controlla davvero chi costruisce i modelli più potenti?

Che cosa ha annunciato Anthropic

Nel post An update on independent evaluators, Anthropic spiega di aver iniziato a dare a un piccolo gruppo di METR un accesso simile a quello dei propri team di valutazione del rischio. I sei ricercatori dispongono di computer aziendali, di spazi fisici negli uffici e di strumenti interni, e i dipendenti sono incoraggiati a condividere informazioni con loro come farebbero con un collega, con poche eccezioni.

METR potrà poi pubblicare le proprie analisi su livelli di rischio, incidenti e pratiche dell’azienda.

Il paragone con i controlli bancari

Per spiegare la logica, Anthropic usa un parallelo con la vigilanza sulle banche, dove i regolatori mandano ispettori residenti dentro i grandi istituti anziché limitarsi a leggere i bilanci. L’idea è che un controllo fatto soltanto dall’esterno, su un modello già finito, vede poco. Un valutatore che lavora a fianco dei team vede i processi, le decisioni e le scorciatoie. Secondo l’azienda, un valutatore serio ha bisogno di quattro cose: competenza sui modelli di frontiera, indipendenza (nessuna quota societaria e nessuna dipendenza finanziaria o operativa), accesso sufficiente e libertà di pubblicare.

Le regole del gioco: accesso, esclusioni e redazioni

L’accesso non è totale, e Anthropic lo dichiara apertamente. Restano fuori tre categorie di informazioni: i dati dei clienti, le informazioni coperte da segreto professionale tra avvocato e cliente e i dettagli sull’architettura dei modelli. Su quest’ultimo punto la motivazione è duplice: il rischio di fughe involontarie è alto e la rilevanza per la valutazione del rischio è di solito bassa. Se un dettaglio architetturale diventa davvero rilevante, l’azienda dice che in genere lo condividerà, ma serve un’approvazione interna esplicita.

Sul fronte della pubblicazione, il punto chiave è che Anthropic non può porre il veto su ciò che METR scrive. Può però chiedere la redazione di informazioni che rientrano in categorie definite in anticipo, e decide da sola che cosa vi appartenga. METR, a sua volta, può commentare il livello di accesso che ha ricevuto. Compute e informazioni sull’addestramento sono considerati commercialmente sensibili e restano fuori dalla divulgazione pubblica.

Un dettaglio organizzativo non secondario: gli altri membri dello staff di METR sono separati da questo gruppo con un muro informativo. L’intesa, precisa Anthropic, non è un modo per altre organizzazioni di ottenere dati dell’azienda o dei suoi clienti.

Il quadro a tre livelli

L’annuncio non riguarda solo METR. Anthropic descrive uno schema a tre livelli per le collaborazioni con i valutatori esterni, pensato per crescere nel tempo man mano che la fiducia aumenta.

Livello 1: indagini mirate

Nel primo livello l’accesso è limitato a indagini su un rischio specifico, lo decide Anthropic e i risultati si pubblicano solo con la sua approvazione. È il caso di SecureBio, che sta rivedendo il capitolo su armi chimiche e biologiche del Risk Report di agosto 2026, dopo un primo esame sul rapporto precedente che l’organizzazione aveva già reso pubblico. L’azienda dice che valuterà un accesso maggiore dopo questa revisione.

Livello 2 e livello 3: più accesso e più libertà

Nel secondo livello i valutatori possono pubblicare senza approvazione e ricevono più informazioni. Anthropic può comunque imporre redazioni su categorie specifiche, ma chi valuta può dire pubblicamente se le ritiene giustificate. Il terzo livello è quello di METR: accesso con modalità da dipendente e diritti di pubblicazione simili a quelli del livello 2. L’azienda dichiara di sperare di avere nel tempo più valutatori al livello 3.

Tra gli altri nomi citati ci sono Accenture e Faculty, che lavorano a una collaborazione più ampia su valutazione dei modelli, red teaming, test delle misure di protezione e sviluppo di competenze, e Hugging Face, indicata come organizzazione coinvolta in discussioni iniziali senza ulteriori dettagli.

Perché arriva adesso

Il tempismo non è casuale. Pochi giorni prima, un’inchiesta di Reuters aveva raccontato che Anthropic e OpenAI avrebbero cercato un controllo editoriale sui rapporti dei valutatori, una ricostruzione che Anthropic ha contestato in alcuni punti. Ne abbiamo parlato nell’articolo su cosa possono pubblicare i revisori esterni di sicurezza AI, dove il nodo era proprio chi decide che cosa arrivi al pubblico. L’annuncio del 15 ottobre è la risposta concreta di Anthropic a quel dibattito, con regole scritte e un perimetro dichiarato.

C’è poi il contesto politico. Dopo la firma dell’intesa sulla sicurezza alla Casa Bianca, di cui trovi i dettagli nell’analisi sull’accordo sulla super intelligence, molti osservatori hanno criticato la mancanza di meccanismi di verifica indipendenti. A metà mese anche la lettera dei 400 scienziati chiedeva organismi di controllo e standard condivisi. In questo scenario, un modello di valutazione esterna volontario fa da banco di prova prima di eventuali obblighi di legge.

I limiti e le critiche

Il sistema ha dei confini evidenti. METR può indagare e pubblicare, ma non può costringere Anthropic a fermare un addestramento, a ritardare un rilascio o a correggere un problema. Anthropic stessa ribadisce che resta responsabile dei propri modelli e che i valutatori verificano gli impegni di sicurezza senza acquisire potere decisionale. Inoltre è l’azienda a stabilire che cosa rientra nelle categorie da oscurare, e questo lascia un margine di discrezionalità che i critici osserveranno con attenzione.

La questione dell’indipendenza resta quindi aperta.

Alcuni commentatori mettono in dubbio la neutralità dell’ecosistema dei valutatori, citando legami con certi ambienti del settore, mentre altri sostengono che il metro giusto sia la solidità del lavoro pubblicato. METR afferma di non accettare compensi dalle aziende che valuta, e questo è un punto importante in un settore in cui chi paga può influenzare chi giudica. Sul piano legislativo, inoltre, le proposte in discussione negli Stati Uniti risultano ancora in commissione, quindi per ora tutto poggia su impegni volontari.

Cosa cambia per chi usa l’AI ogni giorno

Per te, che usi assistenti come Claude nel lavoro o nei progetti, l’effetto è indiretto ma concreto. Rapporti di rischio scritti da chi ha visto i processi interni, e non soltanto i risultati finali, offrono un’immagine più affidabile di incidenti, limiti e rischi di quanto faccia un comunicato aziendale. Se METR pubblicherà davvero analisi dettagliate, avrai strumenti migliori per capire quanto fidarti di un modello e in quali contesti usarlo con cautela.

Per chi lavora in azienda, e in particolare per chi si occupa di compliance, procurement o governance dell’AI, il modello a livelli è anche uno schema di riferimento. Chiedere a un fornitore quale livello di valutazione esterna ha ricevuto, e con quali diritti di pubblicazione, diventa una domanda legittima da inserire nei questionari di due diligence.

Cosa osservare nelle prossime settimane

Il primo banco di prova saranno le pubblicazioni. Conterà vedere quanto saranno dettagliate le analisi di METR, quante redazioni verranno richieste e se METR le riterrà giustificate. Contano anche le mosse degli altri laboratori: Anthropic sostiene che ogni azienda di frontiera dovrebbe fare lo stesso e, stando alle ricostruzioni di stampa, OpenAI avrebbe dichiarato l’intenzione di seguire una strada simile senza averlo ancora fatto. Se altri valutatori arriveranno al livello 3, si creerà un vero standard di settore.

Conclusioni

L’ingresso di METR dentro Anthropic non risolve il problema della supervisione sull’AI di frontiera, ma sposta il confronto da promesse generiche a regole verificabili: chi entra, che cosa vede, che cosa può pubblicare e che cosa resta escluso. Il valore dipenderà dai rapporti che usciranno e dalla trasparenza sulle redazioni. Segui le prossime pubblicazioni e, se lavori con modelli di frontiera, inizia a chiedere ai tuoi fornitori che tipo di valutazione indipendente hanno ricevuto: è un criterio di scelta che nei prossimi mesi peserà sempre di più.