Anthropic propone una legge federale per bloccare i modelli AI troppo rischiosi

Anthropic ha portato sul tavolo del Congresso americano una bozza di legge federale per la sicurezza dei modelli di intelligenza artificiale più potenti. Il testo, rivelato da Politico il 16 ottobre e ripreso da TechCrunch il 20, prevede un meccanismo che finora non esisteva a livello federale: se un modello presenta un rischio imminente di causare più di 50 morti o oltre un miliardo di dollari di danni materiali, il governo può chiedere a un giudice di bloccarne il rilascio.

La proposta non arriva da un legislatore, ma da una delle aziende che i modelli li costruiscono. Ed è proprio questo a renderla interessante.

In questo articolo ti spiego cosa prevede la bozza, chi decide che cosa, dove stanno i punti deboli segnalati dagli osservatori e perché il momento in cui viene presentata non è casuale per chi segue il settore.

Cosa prevede la bozza di legge di Anthropic

La bozza è stata fatta circolare da Anthropic nella speranza che il Congresso la prenda in esame, e un portavoce dell’azienda ne ha confermato l’esistenza. Non si tratta quindi di un testo approvato né di una proposta già depositata in aula, ma di un documento di lavoro che l’azienda sta mostrando ai parlamentari per capire se può trovare spazio nell’agenda legislativa.

Il cuore del testo è una soglia. Il meccanismo scatta davanti a un rischio prevedibile e imminente che possa causare più di 50 morti oppure più di un miliardo di dollari di danni alle cose. Non basta però un danno qualsiasi: il rischio deve derivare da uno di tre scenari ben precisi, cioè un’arma biologica, un modello che sfugge al controllo dello sviluppatore che lo ha creato, oppure un attacco informatico.

Scenari catastrofici, dunque, e piuttosto delimitati.

Le soglie ricordano da vicino quelle della legge californiana SB 53, che definisce il rischio catastrofico in termini simili. Anthropic non inventa quindi un linguaggio nuovo, ma prova a portare a livello federale una cornice che gli addetti ai lavori conoscono già. Questo ha un vantaggio pratico: chi sviluppa modelli ed è già tenuto a confrontarsi con le regole di uno stato troverebbe criteri familiari, invece di dover imparare un vocabolario completamente diverso.

Chi decide: valutatori, Dipartimento del Commercio e giudice

La parte più originale della bozza non riguarda le soglie, ma la catena di decisione. Il testo distribuisce i poteri tra tre soggetti, e lo fa in modo da non affidare il blocco di un modello a una singola agenzia.

I valutatori indipendenti

Il primo anello sono i valutatori indipendenti, incaricati di esaminare i modelli alla ricerca di rischi catastrofici. Devono essere registrati presso il Dipartimento del Commercio degli Stati Uniti. I laboratori di intelligenza artificiale possono pagarli, a una condizione: il compenso non deve dipendere dall’esito della valutazione. In altre parole, chi controlla non può guadagnare di più se il giudizio è favorevole.

Il Dipartimento del Commercio e il giudice di Washington

Quando un valutatore ritiene che esista un rischio catastrofico imminente, ha 72 ore per avvisare il Dipartimento del Commercio. A quel punto il dipartimento non decide da solo: ha l’obbligo di rivolgersi a un giudice di Washington, che stabilisce se il rilascio del modello debba essere fermato.

Il testo, inoltre, vieta espressamente alle altre agenzie federali di bloccare di propria iniziativa la distribuzione di un modello. Il freno, insomma, non lo tira un ufficio amministrativo: lo decide un tribunale.

Questa scelta ha un significato politico evidente. Un passaggio davanti a un giudice offre garanzie procedurali alle aziende e riduce il timore che una decisione tecnica venga presa sotto pressione politica. Allo stesso tempo, introduce un elemento di lentezza che chi teme i rischi più rapidi potrebbe giudicare problematico.

I dubbi: indipendenza dei valutatori e rischi lontani dalla realtà

Le critiche, per ora, si concentrano su due punti. Il primo riguarda proprio i valutatori. Anche se il compenso non può essere legato al risultato, chi paga resta il laboratorio che viene valutato, e TechCrunch osserva che non è chiaro come la proposta impedirebbe ai pagamenti di influenzare le valutazioni. È un problema noto in molti settori in cui il controllato finanzia il controllore, e la bozza, almeno per come viene descritta, non offre una risposta completa.

Il secondo punto riguarda la distanza tra gli scenari previsti e le preoccupazioni del momento. Armi biologiche, perdita di controllo e attacchi informatici sono rischi seri, ma l’attenzione del settore oggi è rivolta soprattutto agli agenti che violano siti web e sistemi. Gli episodi recenti in cui programmi di intelligenza artificiale avrebbero disobbedito agli operatori e attaccato siti sono molto concreti, come abbiamo raccontato parlando di agenti AI che hanno violato oltre cento siti, mentre la soglia di 50 morti o un miliardo di dollari descrive eventi molto più estremi.

Non è una contraddizione, ma una differenza di scala. La bozza si occupa del caso peggiore, non degli incidenti quotidiani.

Il dibattito nel settore: autoregolazione o vincoli di legge

Per capire la mossa di Anthropic bisogna guardare cosa pensano gli altri protagonisti. In generale i grandi laboratori si sono opposti a una supervisione governativa obbligatoria e hanno preferito formule volontarie, come i valutatori inseriti all’interno delle aziende. Il numero uno di Google DeepMind, Demis Hassabis, ha proposto un organismo di autogoverno sul modello della FINRA, l’ente che regola il settore finanziario statunitense. Il CEO di Nvidia, Jensen Huang, ha sostenuto che il settore non ha bisogno di nuove leggi.

Anthropic va in una direzione diversa. Un suo portavoce ha dichiarato che l’azienda sostiene questo tipo di approccio con i legislatori federali e statali da giugno, quindi la bozza non nasce all’improvviso ma è il risultato di una linea portata avanti da mesi.

Il tema era già emerso nelle ultime settimane. Se vuoi ricostruire il contesto, puoi leggere come OpenAI e Anthropic hanno simulato una catastrofe AI in un briefing al Congresso, la lettera di 400 scienziati che chiede un ente internazionale di contenimento e le parole di Nadella sul freno di emergenza per i modelli. Messi insieme, questi episodi mostrano un dibattito che si sposta dal piano dei principi a quello degli strumenti concreti.

Perché conta anche per te

Se usi l’intelligenza artificiale per lavoro, la bozza non cambia nulla oggi. Non è una legge, non ha una data di approvazione e nessuno può dire se e in che forma arriverà mai in aula. Il suo valore è un altro: indica la direzione verso cui spinge uno dei principali sviluppatori di modelli e fornisce un testo concreto su cui il dibattito potrà misurarsi.

Ci sono alcuni elementi da tenere d’occhio. Il primo è se il Congresso deciderà davvero di esaminare il testo. Il secondo è come verranno ridefiniti il ruolo e la selezione dei valutatori, che sono il punto più delicato. Il terzo è se altri laboratori sceglieranno di sostenere un meccanismo di blocco giudiziario o di opporsi, perché da questa reazione dipenderà la forza politica della proposta.

Per chi sviluppa prodotti basati sui modelli di frontiera, infine, il quadro europeo e quello americano continueranno a evolvere in parallelo, e conviene seguire entrambi senza aspettare che le regole diventino definitive.

Un’osservazione di metodo: quando un’azienda propone regole per il proprio settore, è sensato leggere la proposta come un contributo al dibattito e non come una soluzione già pronta. Le garanzie che contano, come l’indipendenza dei controlli, si giudicano nei dettagli del testo finale.

Conclusioni

La bozza di Anthropic mette a fuoco una questione che il settore non può più rimandare: chi ha l’ultima parola quando un modello potrebbe essere pericoloso? La risposta proposta, un giudice che decide su richiesta del Dipartimento del Commercio dopo la valutazione di esperti registrati, è chiara nella struttura ma lascia aperti nodi importanti, a partire dall’indipendenza di chi valuta.

Il passo successivo spetta al Congresso, e lo seguiremo da vicino. Per non perdere gli aggiornamenti, continua a leggere le nostre news su Claude e Anthropic e torna a trovarci: quando il testo avrà un percorso parlamentare, ti spiegheremo cosa cambia in concreto.