OpenAI, Google e Anthropic al lavoro su un organismo di standard per l’AI

Il tema della sicurezza dell’AI è passato in poche settimane dalle dichiarazioni di principio ai tavoli operativi. Secondo un’indiscrezione pubblicata domenica 14 settembre dal sito specializzato The Information, i rappresentanti di OpenAI, Google e Anthropic si incontrano con regolarità almeno da luglio per discutere la nascita di un organismo di standard sull’AI, un ente creato dall’industria stessa per testare e verificare i modelli prima che arrivino nelle mani del pubblico.

Non si tratta di un annuncio ufficiale né di un accordo già firmato. È però la prima volta che emerge quanto le tre aziende più importanti del settore stiano davvero collaborando dietro le quinte su un progetto che, se andasse in porto, potrebbe ridisegnare il modo in cui l’intera industria si autoregola.

Per te che segui da vicino l’evoluzione dell’intelligenza artificiale, è un passaggio da tenere d’occhio: qui non si parla più solo di quale modello sia più potente, ma di chi decide le regole del gioco.

Un organismo di standard voluto dalle aziende, non dai governi

L’idea al centro delle discussioni è semplice da enunciare e complicatissima da realizzare. Le grandi aziende dell’AI vorrebbero costruire un ente indipendente incaricato di definire i criteri con cui si testano e si verificano i modelli di frontiera, quelli più avanzati e potenzialmente più rischiosi, prima che vengano rilasciati sul mercato.

La logica è quella dell’autoregolamentazione. Invece di aspettare che i governi scrivano leggi, spesso lente e destinate a invecchiare in fretta rispetto alla velocità del settore, i laboratori proverebbero a darsi da soli un insieme di regole comuni, un linguaggio condiviso per misurare i rischi e certificare che un sistema sia stato controllato secondo procedure riconosciute.

Secondo The Information, i rappresentanti di Google, Anthropic e OpenAI si incontrano su base periodica dallo scorso luglio proprio per mettere a fuoco questa proposta. Fino a oggi si sapeva che il tema era nell’aria, ma non che la collaborazione fosse arrivata a incontri regolari tra i tre principali concorrenti del mercato.

È un dettaglio che pesa. Queste aziende competono ferocemente su modelli, prezzi e talenti, e vederle sedute allo stesso tavolo su un tema così delicato racconta quanto la posta in gioco sulla sicurezza sia percepita come alta.

Il punto più controverso resta il ruolo dello Stato. Le tre società non hanno la stessa visione su quanto i governi debbano essere coinvolti. Anthropic tende a preferire una collaborazione più stretta con le istituzioni pubbliche, mentre OpenAI insiste sull’idea di standard volontari guidati dall’industria.

A dare voce a questa seconda linea è stato lo stesso amministratore delegato di OpenAI, Sam Altman. In un incontro interno con i dipendenti, riferisce The Information, Altman si è detto favorevole a un’organizzazione di settore dedicata a testare e verificare i modelli, ma ha aggiunto di ritenere che i grandi laboratori dovranno crearla da soli, senza il sostegno del governo statunitense.

Il ragionamento di Altman è pragmatico: le aziende possono muoversi subito con standard di sicurezza volontari, mentre lo Stato lavora con i suoi tempi alla regolamentazione vera e propria. In altre parole, non aspettare Washington per iniziare a controllarsi.

Dalla proposta di Hassabis alla svolta di Amodei

Questa accelerazione non nasce dal nulla. L’idea di un ente di autoregolamentazione circola nel dibattito pubblico da mesi ed è stata rilanciata con forza in estate.

A luglio Demis Hassabis, alla guida di Google DeepMind, aveva pubblicato un saggio in cui proponeva un organismo indipendente per testare i modelli di AI di frontiera, immaginandolo sul modello della FINRA, l’autorità che negli Stati Uniti vigila sul settore finanziario attraverso un meccanismo di autoregolamentazione supervisionato. Ne avevamo parlato quando Hassabis ha proposto un organismo USA per testare l’AI di frontiera, ed è proprio quella suggestione a fare da sfondo alle discussioni odierne.

Il secondo tassello è arrivato nel fine settimana. Sabato 12 settembre Dario Amodei, amministratore delegato di Anthropic, ha pubblicato sul suo blog un intervento intitolato in inglese We Must Pace the Frontier, un invito a rallentare la corsa allo sviluppo dell’AI e a coordinarsi sulla sicurezza. Abbiamo analizzato quel testo e le reazioni che ha suscitato nell’articolo su come la proposta di Amodei divide i laboratori e scuote i mercati.

La cronologia però è importante, perché ribalta l’impressione che tutto sia partito dal post di Amodei. Secondo le fonti citate da The Information, gli incontri tra le aziende erano già in corso da prima di quell’appello pubblico. Il documento di Amodei ha quindi dato una spinta e una cornice mediatica a un lavoro che procedeva silenziosamente da settimane.

Nei giorni successivi la proposta di rallentare la frontiera e coordinarsi sugli standard ha raccolto adesioni pesanti. Oltre allo stesso Altman, si sono espressi a favore anche Hassabis ed Elon Musk, segno che, almeno sul piano dei principi, l’idea di darsi regole condivise trova un consenso trasversale tra i protagonisti del settore.

Non è la prima volta che il settore ci prova

Vale la pena ricordare che tentativi di coordinamento sulla sicurezza dell’AI ne sono già stati fatti, con risultati alterni. Consorzi, alleanze e framework volontari si sono moltiplicati negli ultimi mesi, spesso però con perimetri diversi o con assenze pesanti tra i grandi laboratori.

La novità di questa fase è che, per la prima volta, a discutere in modo continuativo sono proprio i tre nomi che dominano il mercato dei modelli di frontiera. Se dovessero trovare un accordo operativo, l’impatto sarebbe ben più concreto di quello di iniziative a cui mancavano i protagonisti principali. Sul tema della regolamentazione condivisa avevamo già raccontato la nascita di un consorzio dedicato agli standard di sicurezza dell’AI aziendale, un esempio di come il settore stia cercando la propria strada.

Perché conta e cosa cambia concretamente

La domanda che conta, alla fine, è una: a chi serve un organismo del genere e cosa cambierebbe davvero?

Un ente di standard riconosciuto avrebbe almeno due effetti immediati. Il primo è dare ai clienti, alle imprese e alle istituzioni un punto di riferimento affidabile per capire se un modello è stato testato con criteri seri. Oggi ogni azienda pubblica le proprie schede di sicurezza e i propri benchmark, ma mancano metri di giudizio davvero comparabili e verificati da un terzo indipendente.

Il secondo effetto riguarda i rapporti con la politica. Costruendo da soli un sistema di regole, i laboratori sperano di dimostrare ai governi di essere in grado di gestire i rischi senza attendere leggi calate dall’alto, e di orientare così, almeno in parte, la futura regolamentazione.

Qui però si apre anche il fianco alle critiche. Un organismo scritto dalle stesse aziende che dovrebbe controllare rischia di somigliare a un giudice che valuta se stesso. La differenza tra un’autoregolamentazione seria e una operazione di facciata dipenderà dai dettagli: quanto sarà indipendente l’ente, chi lo finanzierà, se avrà il potere di bloccare davvero un modello ritenuto pericoloso o se si limiterà a raccomandazioni.

C’è poi il nodo della concorrenza. Regole comuni tra i tre maggiori attori del mercato possono alzare l’asticella della sicurezza, ma potrebbero anche finire per creare barriere all’ingresso per i laboratori più piccoli e per i progetti open source, meno attrezzati a sostenere i costi di certificazioni e audit. È una tensione che il dibattito sull’AI conosce bene e che tornerà con forza se il progetto dovesse concretizzarsi.

Il contesto in cui matura tutto questo, del resto, è quello di un settore che sta rimettendo la sicurezza al centro anche nelle scelte di business, come mostra la decisione di OpenAI di rinviare la quotazione in borsa proprio in nome della sicurezza dell’AI.

Per ora restiamo nel campo delle intenzioni e delle discussioni riservate. Non ci sono documenti pubblici, statuti o date ufficiali, e nessuna delle tre aziende ha confermato apertamente i contenuti degli incontri. La sostanza, però, è chiara: i big dell’AI stanno provando a scrivere le proprie regole prima che qualcun altro lo faccia al posto loro.

Ti conviene seguire da vicino i prossimi passi, perché è su tavoli come questo che si deciderà quanto potremo fidarci dei modelli che useremo ogni giorno. Continua a leggerci per non perdere gli aggiornamenti su come l’industria dell’AI sta cercando di darsi delle regole.