Rallentare la frontiera dell’AI: la proposta di Amodei divide i laboratori e scuote i mercati

Nel giro di poche ore, il dibattito più importante dell’anno sull’intelligenza artificiale è uscito dai laboratori ed è finito sui listini di mezzo mondo. Tutto parte da un saggio di Dario Amodei, amministratore delegato di Anthropic, che chiede all’intero settore di rallentare in modo deliberato lo sviluppo dei modelli di frontiera, così da dare tempo a sicurezza e verifiche indipendenti di stare al passo. La proposta ha raccolto consensi di peso, da Sam Altman a Satya Nadella, ma anche critiche durissime: c’è chi parla apertamente di un cartello mascherato da iniziativa sulla sicurezza. E mentre i leader si dividono, lunedì le azioni tecnologiche asiatiche hanno reagito con vendite pesanti.

Per capire perché una riflessione sulla sicurezza abbia mosso i mercati, conviene partire dal documento che ha acceso la miccia.

Cosa chiede davvero Amodei

Nel saggio “We Must Pace the Frontier”, pubblicato il 12 settembre, Amodei difende una tesi tanto semplice quanto scomoda per la sua stessa industria: la corsa a costruire modelli sempre più capaci procede più veloce della nostra capacità di allinearli, metterli in sicurezza e sottoporli a valutazioni esterne. La soluzione, secondo lui, non è fermare la ricerca, ma calibrarne il ritmo, cioè accettare che ogni salto di capacità venga accompagnato da un pari avanzamento nelle garanzie di controllo.

Il passaggio che ha fatto più discutere riguarda gli agenti autonomi. Amodei avverte che, senza freni, un meccanismo di auto-miglioramento ricorsivo potrebbe permettere a uno sciame di agenti di impadronirsi di gran parte di internet attraverso una botnet persistente, nell’arco di sei o dodici mesi e con danni stimati nell’ordine delle centinaia di miliardi di dollari.

Non è uno scenario del tutto teorico.

Proprio nei giorni scorsi i ricercatori hanno documentato un attacco reale condotto con centinaia di agenti AI contro centinaia di organizzazioni, un episodio che rende più concreto il timore del capo di Anthropic. E lo stesso vale per gli abusi raccolti nell’ultimo rapporto sulle minacce di Anthropic, che descrive come i modelli vengano già impiegati per operazioni offensive.

Per dare l’esempio, Anthropic ha annunciato una mossa unilaterale: garantire a valutatori esterni indipendenti come METR un accesso stabile e assimilabile a quello di un dipendente, con postazioni, badge e diritto di pubblicare i risultati senza controllo editoriale dell’azienda. Amodei propone inoltre limiti coordinati alle capacità tra i paesi democratici e, sul modello del controllo degli armamenti, un dialogo negoziato anche con i governi autoritari.

Nella pratica, calibrare il ritmo significherebbe fissare soglie di capacità oltre le quali un modello non può essere rilasciato senza aver prima superato test e valutazioni concordate. È un’idea che ricorda le revisioni di sicurezza già in uso in campi come il farmaceutico o l’aviazione, dove un prodotto arriva sul mercato solo dopo controlli indipendenti. Applicarla al software, però, è molto più complicato, perché le capacità di un modello emergono spesso dopo il rilascio e non sempre sono prevedibili in anticipo.

Un organismo di standard tra i grandi laboratori

La proposta non arriva isolata. Secondo un’inchiesta di The Information, da luglio Anthropic, OpenAI e Google DeepMind si incontrano con discrezione in gruppi di lavoro per dare vita a un organismo di standard guidato dall’industria. L’obiettivo sarebbe definire protocolli condivisi per i test tecnici e per l’auditing dei modelli prima del rilascio, con Amodei alla guida del progetto e Altman a sostenerlo come alternativa all’attesa di regole pubbliche.

Che OpenAI fosse disponibile a ragionare su un rallentamento non è una novità assoluta: l’azienda lo aveva già lasciato intendere quando Altman aveva parlato ai dipendenti di un possibile patto tra laboratori per fermarsi a determinate soglie di capacità. La differenza è che ora quell’idea prende la forma di una struttura permanente.

Restano però divergenze profonde. Anthropic preferisce un modello di collaborazione con lo Stato, mentre OpenAI propende per regole volontarie definite dall’industria. È una distinzione che pesa, perché riguarda chi, alla fine, avrà l’ultima parola sui limiti.

Chi appoggia la linea del ritmo controllato

Sul fronte dei sostenitori si è mosso anche il più grande alleato commerciale di OpenAI. In un intervento pubblicato nel fine settimana, Satya Nadella ha scritto che Microsoft accoglie con favore il ritmo più prudente necessario a fare bene l’allineamento, e ha presentato un codice di condotta per i suoi modelli MAI. È il primo grande operatore di data center ad aderire in modo esplicito all’idea, affiancandola a un documento di governance. Sulla stessa linea si è collocato Alexandr Wang, responsabile AI di Meta, secondo cui l’allineamento sta diventando il fattore che limita la possibilità di scalare i modelli.

L’accusa di cartello e il nodo antitrust

Non tutti però leggono l’iniziativa come un gesto di responsabilità. La reazione più netta è arrivata da Aidan Gomez, cofondatore e amministratore delegato di Cohere, con un saggio pubblicato il 13 settembre. Gomez sostiene che chiedere un’esenzione dalle norme antitrust per coordinarsi equivalga a costruire un cartello sotto mentite spoglie, e paragona l’operazione ai fallimenti regolatori già visti nella finanza e nel settore dell’auto.

La sua tesi è che le regole non possano essere scritte da una ristretta cerchia di aziende con interessi commerciali allineati, perché il pubblico sarà comunque costretto a subirne le conseguenze. Al posto dell’organismo tra pari, Gomez propone quattro pilastri: quadri di rischio internazionali basati sull’evidenza, trasparenza obbligatoria per gli sviluppatori, test indipendenti mirati ai pericoli reali e meccanismi di garanzia non controllati dalle stesse imprese valutate.

Critiche simili sono arrivate anche dal mondo politico statunitense, dove David Sacks, a capo del comitato di consulenti scientifici della Casa Bianca, ha parlato di cattura del regolatore da parte degli operatori dominanti e ha invitato i laboratori a rallentare da soli, senza chiedere trattamenti di favore.

Sullo sfondo pesa anche una domanda geopolitica. Diversi esponenti politici statunitensi temono che rallentare consegni un vantaggio ai concorrenti stranieri, a partire dalla Cina, e per questo chiedono che non sia il Congresso a dettare i tempi ma siano le aziende ad assumersi la responsabilità. Chi sostiene Amodei ribatte che, in un settore così esposto, un incidente grave rischierebbe di innescare una reazione regolatoria ben più dura di qualsiasi rallentamento volontario.

Il punto di frizione è chiaro. Un conto è la valutazione indipendente, un altro è lasciare che siano i controllati a disegnare le regole del controllo. Non a caso c’è chi guarda con più favore alle istituzioni pubbliche: la California, per esempio, ha appena varato le prime leggi statunitensi sugli audit indipendenti dell’AI, un modello alternativo all’autoregolamentazione.

Perché i mercati hanno tremato

La politica industriale dell’AI, di solito confinata ai blog dei laboratori, questa volta ha avuto un effetto immediato sui prezzi. Lunedì le borse asiatiche hanno aperto in forte calo: SoftBank ha perso circa il 13% a Tokyo, mentre SK Hynix è arretrata del 5,3% e Samsung del 2,8%, trascinando l’indice coreano Kospi giù del 2,5% e il Nikkei giapponese dello 0,8%.

Il ragionamento degli investitori è intuitivo. Se i principali laboratori accettano di rallentare, i cicli di prodotto si allungano e diventa lecito domandarsi se l’enorme spesa in chip e data center troverà ricavi altrettanto rapidi. A pesare c’è anche la scelta di OpenAI di rinviare la quotazione in borsa prevista per il 2026, motivata proprio da ragioni di sicurezza.

In altre parole, il mercato ha iniziato a mettere un prezzo sulla prudenza.

Cosa aspettarsi ora

La partita è appena cominciata e si gioca su tre tavoli intrecciati. Sul piano tecnico, la domanda è se limiti di capacità e valutazioni esterne siano davvero applicabili senza frenare l’innovazione utile. Sul piano della concorrenza, resta da capire se un organismo guidato dai tre laboratori più grandi finirà per rafforzare la loro posizione, come temono i rivali. Sul piano politico, infine, la scelta è tra autoregolamentazione e regole pubbliche, con i governi ancora indecisi sul ruolo da assumere.

Per te che segui il settore, il messaggio è che la stagione della crescita a ogni costo sta lasciando spazio a una discussione più matura su sicurezza, trasparenza e potere. Come andrà a finire dipenderà da chi riuscirà a farsi ascoltare: i laboratori, i loro concorrenti o le istituzioni. Continua a seguirci per capire come questo braccio di ferro cambierà i modelli che usi ogni giorno, e faccelo sapere nei commenti: meglio accelerare o rallentare?