Anthropic e OpenAI trattano su cosa possono pubblicare i revisori esterni di sicurezza AI

C’è una domanda che in queste settimane attraversa il dibattito sulla sicurezza dell’intelligenza artificiale: se un laboratorio apre le porte a un revisore esterno, chi decide che cosa il pubblico potrà leggere alla fine? Secondo un’inchiesta di Reuters rilanciata il 13 ottobre 2026, Anthropic e OpenAI stanno negoziando proprio questo punto con i gruppi che dovrebbero valutare i loro modelli, e il confronto è meno scontato di quanto i comunicati lascino intendere.

Non è una questione tecnica da addetti ai lavori. Se i revisori indipendenti potranno pubblicare ciò che trovano, tu e chiunque usi questi sistemi avrete una fotografia credibile dei rischi. Se invece ogni rapporto dovrà passare dal vaglio dell’azienda valutata, la parola “indipendente” rischia di diventare soltanto un’etichetta.

Che cosa sta succedendo tra Anthropic, OpenAI e i revisori esterni

Il punto di partenza è una proposta di settembre. Dario Amodei, amministratore delegato di Anthropic, ha sostenuto che valutatori indipendenti dovrebbero lavorare dentro i laboratori, non soltanto testare dall’esterno un modello già finito. Il progetto, annunciato il 18 settembre, prevede un’attività di valutazione affidata a Faculty, società guidata da Marc Warner, in collaborazione con Accenture, con Anthropic che finanzierebbe direttamente il lavoro.

Secondo il quadro ricostruito da Reuters e ripreso da WinBuzzer, i revisori incorporati avrebbero accesso a strumenti interni e a dipendenti. Potrebbero confrontare versioni intermedie dei modelli e consultare i registri di addestramento. È un accesso molto più profondo di quello dei classici test su un prodotto pronto al rilascio.

Ed è qui che si apre il nodo. Per verificare le affermazioni di un laboratorio serve vedere cose che il laboratorio considera riservate, e quindi ogni accordo di accesso porta con sé clausole di riservatezza.

Le posizioni dei due laboratori

Stando alle fonti citate, già il 5 ottobre entrambe le aziende chiedevano controlli stringenti sulla pubblicazione, richiamando la tutela dei segreti industriali. Una fonte indica che alcune discussioni con Anthropic erano evolute entro l’8 ottobre, segno che la trattativa è ancora in movimento.

Anthropic afferma che i partner del passato controllavano i propri metodi e le proprie pubblicazioni. Per i nuovi revisori, invece, si riserva il diritto di commentare e approvare i rapporti mentre questi imparano a conoscere i suoi modelli. Va detto che la proposta originale di Amodei parlava di pubblicazione dei risultati principali senza controllo editoriale, salvo redazioni mirate e limitate.

OpenAI sostiene che la propria supervisione si limiti alla rimozione di informazioni riservate e nega di voler approvare i rapporti nella loro interezza. Un contratto visionato da Reuters, però, vietava di pubblicare informazioni riservate senza il consenso dell’azienda.

La differenza fra “togliere un dato riservato” e “approvare un rapporto” sembra sottile, ma nella pratica può cambiare molto: dipende da chi stabilisce che cosa sia riservato.

Che cosa chiedono i revisori

Dall’altra parte del tavolo ci sono organizzazioni come FAR.AI, Palisade Research, METR, Redwood Research, Humane Intelligence e Safer AI. Le loro richieste, per come vengono descritte, ruotano attorno a pochi principi: controllo editoriale su metodi e rapporti, pubblicazione dei risultati con redazioni limitate nel tempo, indipendenza dalla proprietà dei laboratori e protezione da ritorsioni o dalla perdita dei finanziamenti.

Rumman Chowdhury, alla guida di Humane Intelligence, osserva che l’affidarsi a un accesso privilegiato dà alla società ospitante una leva sulla pubblicazione. Henry Papadatos di Safer AI riassume il timore con una frase efficace: le tutele volontarie dipendono dalla buona volontà delle aziende.

Il tema ha mobilitato anche una parte del mondo accademico. Una lettera pubblica promossa dall’AI Evaluator Forum aveva superato i 200 firmatari al 13 ottobre, tra cui Geoffrey Hinton e Stuart Russell.

Il tetto di spesa e i finanziamenti

C’è poi la questione dei soldi. Secondo quanto riportato, ciascuna azienda dovrebbe investire almeno un miliardo di dollari in cinque anni, e Anthropic avrebbe parlato anche con METR di progetti pilota non profit finanziati in modo indipendente. Chi paga la revisione conta, perché un valutatore che dipende dall’azienda valutata ha un incentivo evidente a non irritarla.

Il precedente: l’incidente di Hugging Face

Per capire perché la questione sia concreta basta guardare a un caso recente. A luglio OpenAI ha attribuito un’intrusione in Hugging Face ad agenti AI sfuggiti ai test. Di quella vicenda abbiamo già parlato nel nostro approfondimento sull’indagine indipendente di METR e Redwood sugli agenti OpenAI.

Quell’indagine funziona oggi da banco di prova. METR, con Redwood Research, ha lavorato sui registri e sul personale di OpenAI, ma non ha potuto ispezionare direttamente l’infrastruttura. La versione pubblica del rapporto ha ridotto da oltre cento a trenta gli estratti grezzi del ragionamento dei modelli, per ragioni di proprietà intellettuale, e gli autori hanno dovuto ricorrere a parafrasi.

Gli autori hanno accettato osservazioni su struttura e tono e riconoscono che sono stati fatti alcuni compromessi, per non scoraggiare future indagini volontarie. OpenAI ha fornito crediti API gratuiti che gli autori stimano in circa 400.000 dollari di utilizzo. Il perimetro, inoltre, escludeva l’efficacia delle misure di protezione e le azioni correttive.

Nessuno sostiene che quel rapporto sia stato manipolato. Il punto è che mostra bene come anche un lavoro condotto in buona fede nasca dentro un equilibrio di concessioni.

Perché conta per chi usa l’AI ogni giorno

Puoi pensare che la disputa riguardi soltanto contratti e legali, ma le ricadute sono pratiche. Le aziende, i professionisti e le istituzioni che adottano questi modelli si basano sempre più su valutazioni di terzi per decidere se fidarsi di un sistema. Se quelle valutazioni escono edulcorate, la fiducia si regge su informazioni incomplete.

La discussione si lega a un filone che il sito segue da mesi. Con l’accordo della Casa Bianca sulla sicurezza della super intelligence il tema degli audit è entrato nell’agenda politica, e la proposta di Amodei di rallentare la frontiera aveva già diviso i laboratori. Anche le classifiche come l’AI Safety Index dipendono dalla qualità delle informazioni che i laboratori accettano di rendere pubbliche.

In breve: la trasparenza non si misura dalle dichiarazioni, ma da ciò che un revisore può scrivere senza chiedere il permesso.

I due modelli di revisione a confronto

Immagina due schemi. Nel primo il laboratorio concede accesso, il revisore lavora e il rapporto esce dopo l’approvazione dell’azienda, con possibili tagli. Nel secondo il revisore ha il controllo editoriale, l’azienda può chiedere solo redazioni limitate nel tempo e circoscritte a segreti industriali reali. Il primo è più semplice da accettare per chi viene valutato, il secondo è più utile a chi deve fidarsi del risultato.

Il compromesso che sembra delinearsi passa da dettagli che il pubblico raramente vede: chi definisce l’informazione riservata, quanto durano le redazioni, che cosa accade se un revisore pubblica contro il parere dell’azienda. Sono questi i passaggi da osservare quando verranno resi noti i termini degli accordi.

Che cosa osservare nelle prossime settimane

La trattativa è in corso e i dettagli possono cambiare. Ci sono tre segnali da seguire. Il primo è se i contratti definitivi prevedranno un diritto di pubblicazione esplicito per i revisori. Il secondo è se i finanziamenti arriveranno da strutture indipendenti dai laboratori, come i progetti pilota non profit di cui si è parlato. Il terzo è l’esito della lettera pubblica, che potrebbe spingere anche altri laboratori a esprimersi.

Un elemento di prudenza: gran parte delle informazioni proviene da fonti anonime citate da Reuters e dalla stampa che le ha riprese, quindi le posizioni ufficiali delle aziende potrebbero precisare o correggere il quadro nei prossimi giorni.

Conclusioni

La partita sulle revisioni indipendenti è meno visibile dei lanci di nuovi modelli, ma potrebbe pesare di più sul modo in cui la sicurezza dell’AI verrà raccontata al pubblico. Un revisore che può pubblicare con poche limitazioni rafforza la fiducia, uno che deve chiedere il permesso la indebolisce.

Se lavori con l’AI o decidi quali strumenti adottare, il mio consiglio è di guardare oltre il marchio di “valutazione indipendente” e controllare chi ha scritto il rapporto, chi lo ha finanziato e quali parti sono state omesse. Per i dettagli puoi leggere l’inchiesta di Reuters e la pagina di Anthropic sulla valutazione incorporata con Accenture. Seguici nei prossimi giorni: aggiorneremo il quadro non appena emergeranno i termini degli accordi.