Jacob Coxon lascia Anthropic e lancia l’allarme sui rischi dell’AI che si autopotenzia

Un ricercatore che lavorava all’addestramento dei modelli di Anthropic ha lasciato l’azienda con un avvertimento che ha fatto rapidamente il giro del mondo. Jacob Coxon, dopo pochi mesi in una delle società considerate più attente alla sicurezza dell’intelligenza artificiale, si è dimesso sostenendo che i grandi laboratori stanno correndo senza le dovute cautele verso sistemi capaci di potenziarsi da soli, con rischi che nei suoi scenari più cupi arrivano fino alla minaccia per la sopravvivenza dell’umanità.

Le sue parole, affidate a un messaggio interno ai colleghi e poi rilanciate dalla stampa internazionale, hanno riacceso il dibattito sulla velocità con cui l’AI viene sviluppata. Vale la pena capire cosa ha detto davvero, al di là dei titoli più sensazionalistici.

Chi è Jacob Coxon e perché la sua uscita fa rumore

Coxon non è un osservatore esterno, ma una persona che ha lavorato per anni nel cuore tecnico di questi sistemi. Alle spalle ha circa tre anni di ricerca sul pre addestramento dei modelli, prima in OpenAI e poi in Anthropic, l’azienda in cui era approdato attratto proprio dalla sua reputazione in materia di sicurezza.

Il punto è tutto qui. Coxon ha scelto Anthropic perché la riteneva la più responsabile tra i grandi laboratori, e proprio da quella posizione ha maturato la convinzione che nemmeno l’approccio più prudente basti a fermare una corsa che considera pericolosa.

A rendere il gesto ancora più netto ci sono i dettagli raccontati alla stampa. Coxon avrebbe lasciato l’azienda dopo appena quattro mesi, a due mesi dalla maturazione della prima tranche del suo pacchetto azionario in Anthropic, rinunciando di fatto a un beneficio economico pur di andarsene. Quando qualcuno con questa esperienza decide di uscire in questo modo, il messaggio pesa.

L’avvertimento: la corsa alla superintelligenza che si autopotenzia

Nel messaggio lasciato ai colleghi, Coxon ha usato parole molto dure. Ha sostenuto che i laboratori stanno puntando dritti a una superintelligenza in grado di migliorare se stessa e che, così facendo, starebbero «scommettendo sulle nostre vite». La sua tesi è che né Anthropic né OpenAI si stiano comportando in modo davvero responsabile rispetto alla posta in gioco.

Il timore di fondo riguarda i sistemi che si autopotenziano, cioè un’AI capace di contribuire al proprio miglioramento in un ciclo sempre più rapido e difficile da controllare. In assenza di maggiore cautela e cooperazione tra le aziende, secondo Coxon uno scenario del genere porta con sé, come esito estremo, perfino il rischio di estinzione per la specie umana.

Sono affermazioni forti, che si inseriscono in un dibattito acceso già da tempo tra chi sviluppa questi modelli.

Un pericolo immediato? Non secondo lui

Qui serve precisione, perché è il punto che i titoli tendono a schiacciare. Coxon non ha detto che l’AI di oggi sia sul punto di annientarci. In un’intervista ha spiegato di non ritenere che i sistemi attuali rappresentino una minaccia immediata per la civiltà.

Il suo allarme riguarda la traiettoria, non il presente. Alcuni suoi colleghi, ha raccontato, descrivono il prossimo anno o due come un periodo decisivo, quasi una resa dei conti per l’umanità. Coxon, però, ritiene anche che il problema sia tecnicamente risolvibile, a patto che qualcuno riesca a imporre un rallentamento alla corsa in atto.

La distanza tra «l’AI ci ucciderà» e «stiamo prendendo una direzione rischiosa che possiamo ancora correggere» è enorme, ed è proprio in questa sfumatura che vive tutto il suo ragionamento.

Il nodo della competizione: perché anche i più prudenti accelerano

Uno degli aspetti più interessanti del suo intervento riguarda le dinamiche competitive. Coxon sostiene che anche un’azienda attenta alla sicurezza possa, prima o poi, trovarsi costretta ad accettare rischi maggiori pur di non restare indietro rispetto ai concorrenti.

È il classico dilemma della corsa: se rallenti da solo, temi di regalare un vantaggio a chi non lo fa. E secondo Coxon la paura di essere superati, che si tratti di un altro laboratorio o di un intero Paese come la Cina, rischia di diventare la giustificazione perfetta per continuare ad accelerare, tagliando sulle verifiche e sui controlli.

Questa lettura aiuta a capire perché tante di queste tensioni emergano proprio all’interno delle aziende. Non a caso Anthropic ha appena reso pubblico un ampio rapporto sugli abusi dei suoi modelli, mentre in passato OpenAI aveva fatto discutere per la decisione di sciogliere il team che valutava i rischi catastrofici.

Allarme fondato o eccesso di pessimismo? Le due letture

Di fronte a dichiarazioni così nette è giusto presentare entrambe le posizioni. Chi condivide le preoccupazioni di Coxon sottolinea che molte figure interne ai laboratori hanno lanciato messaggi simili, e che quando gli avvertimenti arrivano da chi costruisce i sistemi meritano ascolto. In questa prospettiva, il fatto stesso che si lavori a modelli capaci di auto migliorarsi giustifica un principio di massima cautela.

Sul fronte opposto, molti esperti considerano eccessivi i toni da resa dei conti imminente. Fanno notare che le previsioni catastrofiche sull’AI si ripetono da anni senza avverarsi, che i sistemi attuali restano lontani da una vera autonomia e che concentrarsi su scenari di estinzione rischia di distogliere l’attenzione da problemi concreti e già presenti, come le discriminazioni algoritmiche, la disinformazione o l’uso improprio dei dati.

Va ricordato anche il contesto in cui queste parole cadono. Il settore dell’intelligenza artificiale vive una fase di investimenti enormi, valutazioni record e aspettative altissime, e in un clima simile ogni presa di posizione, in un senso o nell’altro, tende a essere amplificata. C’è chi ha interesse a enfatizzare i pericoli e chi, al contrario, preferisce minimizzarli per non frenare la corsa. Distinguere l’analisi lucida dal riflesso emotivo, o dall’interesse di parte, è forse la competenza più preziosa per chi oggi vuole orientarsi in questo dibattito.

C’è poi una posizione intermedia, forse la più diffusa tra gli addetti ai lavori: prendere sul serio i rischi di lungo periodo senza cedere al panico, investendo in ricerca sull’allineamento e in regole condivise. Proprio su questo terreno si muovono studi come quelli con cui Anthropic prova a far sì che i modelli correggano da soli i propri difetti di allineamento.

La verità, come spesso accade, è che nessuno ha la certezza di come andrà. Ed è proprio questa incertezza a rendere il tema tanto scivoloso quanto importante.

Cosa ci lascia questa vicenda

Al di là di come la si pensi, le dimissioni di Coxon sono un segnale che non conviene liquidare in fretta. Raccontano una tensione reale dentro l’industria dell’AI, quella tra la spinta a innovare il più velocemente possibile e la responsabilità verso conseguenze che nessuno oggi è in grado di prevedere del tutto.

Per te che segui da vicino questo mondo, la lezione più utile non è scegliere tra allarmismo e ottimismo, ma imparare a distinguere le sfumature. Chi lavora alla frontiera dell’AI non è un blocco unico: al suo interno convivono entusiasmo, dubbi e paure, e ascoltare anche le voci più critiche fa parte del capire davvero dove stiamo andando.

La domanda che resta aperta, dopo l’uscita di Coxon, è se la corsa alla superintelligenza possa essere governata prima che diventi ingovernabile. Non è una questione solo tecnica, ma di scelte, priorità e regole. E riguarda tutti, non soltanto chi scrive il codice.

Se vuoi farti un’idea più precisa puoi leggere la ricostruzione pubblicata da CNBC, che ha raccolto le dichiarazioni di Coxon e le prime reazioni all’interno del settore. Al di là delle previsioni, resta il valore di un confronto onesto sui limiti e sulle responsabilità di chi costruisce questi sistemi.