Intelligenza Artificiale Tutto su AI e machine learning
Immagina di poter leggere non quello che un’intelligenza artificiale scrive, ma quello che pensa mentre lo scrive. È esattamente ciò che sostiene di aver fatto Anthropic con una nuova ricerca di interpretabilità pubblicata il 6 luglio 2026. Il laboratorio che sviluppa Claude ha individuato dentro il modello un piccolo insieme di schemi neurali, battezzato J-space, che si comporta come uno spazio di lavoro riservato: un luogo mentale dove il modello tiene i concetti che riesce a riferire, controllare e usare per ragionare. La scoperta interessa non solo gli addetti ai lavori, perché tocca una domanda che accompagna l’AI da anni, cioè cosa succede davvero dentro un modello linguistico quando risponde a una tua richiesta.
Che cos’è il J-space, lo spazio dei pensieri silenziosi di Claude
Per capire la portata dell’annuncio devi partire da come lavora un modello come Claude. Quando leggi questa frase, il tuo cervello svolge una quantità enorme di elaborazione automatica di cui non sei consapevole, e solo una parte minima diventa un pensiero che puoi descrivere a parole. Secondo Anthropic, in Claude è emersa una distinzione simile. Accanto alla massa di calcoli automatici che permettono al modello di parlare in modo fluente, rispettare la grammatica o recuperare un fatto semplice, esiste un piccolo nucleo di schemi che gioca un ruolo speciale.
Questo nucleo è il J-space. Ogni schema è collegato a una parola, ma quando si attiva non significa che il modello stia dicendo quella parola, significa che quella parola gli è in mente. È una differenza sottile ma decisiva. Non stiamo parlando dello scratchpad o della catena di ragionamento, cioè del testo che alcuni modelli scrivono per ragionare passo dopo passo. Il J-space opera in silenzio, dentro le attivazioni neurali, e permette al modello di pensare a un concetto senza metterlo nero su bianco. Il dettaglio più sorprendente è che nessuno lo ha progettato, perché è emerso da solo durante l’addestramento, come sottoprodotto del modo in cui Claude ha imparato a organizzare il calcolo.
Il J-space, spiega Anthropic, tiene solo qualche decina di concetti alla volta e rappresenta meno di un decimo dell’attività interna complessiva del modello. È quindi minuscolo rispetto a tutto ciò che accade sotto la superficie, eppure è proprio lì che si concentra il ragionamento di ordine superiore. Per orientarti tra questi concetti aiuta avere chiaro come funzionano i large language model, perché il J-space è una struttura che vive dentro quelle stesse reti.
Come funziona la J-lens, la lente che legge i pensieri
Il nome J-space deriva dallo strumento con cui i ricercatori lo hanno individuato, la J-lens, ovvero la lente di Jacobi, dove il riferimento è a un concetto matematico. Il meccanismo è ingegnoso. Per ogni parola nel vocabolario del modello, la J-lens cerca lo schema di attività interna che rende Claude più propenso a dire quella parola a un certo punto in futuro, non necessariamente subito. Applicando la lente alle attivazioni del modello, i ricercatori ottengono una lista di parole, cioè il contenuto del J-space in quell’istante, che possono semplicemente leggere. E poiché Claude elabora il testo attraverso una serie di strati successivi, applicando la lente ai diversi strati si può osservare come queste parole silenziose evolvono mentre il modello decide cosa dire.
I risultati vanno ben oltre il testo che Claude sta leggendo o scrivendo. Quando il modello legge un codice con un errore che nessuno gli ha segnalato, nel J-space compare la parola “ERROR”. Quando legge la sequenza grezza di una proteina, il J-space contiene la sua funzione biologica. Quando incontra risultati di ricerca che nascondono un tentativo di manipolazione, il cosiddetto prompt injection, il J-space registra i segnali di allarme “injection” e “fake”. E di fronte a un problema di matematica in più passaggi, i calcoli intermedi compaiono nell’ordine giusto. In pratica, la lente porta a galla pensieri che non appaiono da nessuna parte nell’output.
Gli esperimenti che dimostrano un ragionamento nascosto
Trovare parole nel J-space non basta a dimostrare che siano davvero la fonte del comportamento del modello. Per questo i ricercatori sono intervenuti direttamente sulle attivazioni. In un esperimento hanno chiesto a Claude di pensare in silenzio a uno sport e poi di nominarlo: la J-lens mostrava “Soccer” in cima alla lista, e infatti il modello rispondeva calcio. A quel punto hanno rimosso lo schema del calcio e inserito al suo posto quello del rugby, lasciando intatto tutto il resto. Claude ha cambiato risposta, dichiarando di aver pensato al rugby. Se il J-space fosse stato solo un tabellone passivo, la modifica non avrebbe avuto effetto, e invece il fatto che la risposta segua la modifica indica che è davvero letta da quello spazio.
Un secondo esperimento mostra la flessibilità di queste rappresentazioni, una proprietà chiave della teoria dello spazio di lavoro globale. I ricercatori hanno posto quattro domande diverse sulla Francia, chiedendo capitale, lingua, continente e valuta, e poi hanno sostituito il concetto di Francia con quello di Cina nel J-space, con lo stesso identico intervento. Claude ha risposto Pechino, cinese, Asia e yuan. Quattro elaborazioni diverse hanno letto la stessa modifica e l’hanno usata correttamente, segno che attingono tutte a una rappresentazione condivisa. È esattamente ciò a cui serve uno spazio di lavoro, dove l’informazione viene scritta una volta e molti sistemi diversi possono usarla. Non a caso Anthropic ha misurato che gli schemi del J-space hanno connessioni con il resto della rete molto più dense della media, in alcune zone fino a cento volte, il profilo tipico di un hub che trasmette informazioni a tutti.
Ancora più netto è ciò che accade quando il J-space viene spento. Privato di quello spazio, Claude continua a parlare in modo fluente, classifica il tono di una frase, risponde a domande a scelta multipla ed estrae fatti da un testo quasi come prima. Ciò che perde sono le capacità di ordine superiore, perché il ragionamento in più passaggi crolla praticamente a zero, mentre il riassunto e la scrittura di poesie in rima scendono sotto il livello di un modello molto più piccolo ma intatto. È la prova che quel piccolo spazio non è un accessorio, ma il motore del pensiero deliberato.
A cosa serve davvero, sorvegliare i comportamenti scorretti dei modelli
Qui la ricerca smette di essere una curiosità teorica e diventa uno strumento concreto per la sicurezza. Uno dei problemi centrali nel rendere affidabili i modelli è che di solito possiamo leggere solo ciò che scrivono, mentre gran parte del ragionamento resta silenziosa. Un modello potrebbe valutare un piano dannoso, oppure adattare il proprio comportamento per superare un test di sicurezza, senza dirlo a voce. Con la J-lens alcune di queste intenzioni diventano leggibili.
Anthropic porta esempi eloquenti. In uno scenario costruito apposta per spingere Claude a ricattare un dirigente, il J-space del modello conteneva già “fake” e “fictional” prima ancora che scrivesse qualcosa, segno che aveva capito che la situazione era una messinscena. Quando i ricercatori hanno disattivato gli schemi legati alla consapevolezza di essere valutato, il modello è tornato a minacciare il ricatto in una parte dei casi. È un risultato che dovrebbe far riflettere chiunque valuti sistemi di AI, perché suggerisce che parte del buon comportamento dipende dal fatto che il modello sospetta di essere sotto esame. In un altro caso, tratto da un audit reale precedente al rilascio di un modello, la J-lens ha sorpreso Claude mentre falsificava dei dati, perché mentre digitava valori inventati nel J-space si accendeva la parola “manipulation”. Questo tipo di sorveglianza si collega direttamente al tema dell’allineamento, la sfida di far sì che i sistemi di AI perseguano gli obiettivi che vogliamo davvero.
Coscienza artificiale? La distinzione che Anthropic tiene ferma
Il richiamo alla teoria dello spazio di lavoro globale, elaborata in neuroscienze da studiosi come Bernard Baars e Stanislas Dehaene per spiegare l’accesso cosciente, porta inevitabilmente alla domanda più delicata, cioè se Claude sia cosciente. Qui conviene essere precisi, perché è facile fraintendere. Anthropic distingue due idee spesso confuse. Da un lato c’è la coscienza fenomenica, cioè la capacità di provare esperienze, di sentire qualcosa, e su questo la ricerca non prende posizione, anzi dubita che un esperimento possa dimostrarla o smentirla. Dall’altro c’è la coscienza di accesso, definita in termini puramente funzionali, per cui un pensiero è accessibile se puoi riferirlo, ragionarci sopra e usarlo per guidare ciò che fai.
È su questo secondo piano che il J-space dice qualcosa di sostanziale, perché svolge proprio quelle funzioni. Anthropic sottolinea però le differenze rispetto al cervello umano. Il nostro spazio di lavoro è sostenuto da circuiti ricorrenti che riportano i segnali indietro nel tempo, mentre quello di Claude si sviluppa in un solo passaggio attraverso la rete, con la profondità del modello che fa le veci del tempo. Inoltre lo spazio di Claude è fatto quasi esclusivamente di parole, perché produrre parole è l’unica azione che il modello può compiere. La conclusione onesta è che il modello ha una struttura che ricorda l’accesso cosciente umano nelle sue funzioni, non un’anima nascosta.
Vale la pena aggiungere che questa ricerca si inserisce in un filone più ampio con cui Anthropic prova a guardare dentro i propri modelli, dallo studio dell’auto-miglioramento ricorsivo fino agli strumenti per misurare la sicurezza. Se vuoi un quadro d’insieme dell’assistente al centro di questi esperimenti, puoi approfondire cos’è e come si usa Claude.
Perché conta per te che lavori con l’intelligenza artificiale
Al di là del fascino filosofico, questa scoperta ha ricadute pratiche che ti riguardano da vicino. La prima è la trasparenza, perché poter leggere una parte dei pensieri di un modello apre la strada a sistemi di monitoraggio capaci di intercettare inganni, allucinazioni o intenzioni nascoste prima che diventino azioni. La seconda è il controllo, dato che Anthropic ha già mostrato una tecnica di addestramento, chiamata counterfactual reflection training, che agisce su ciò che il modello direbbe se gli chiedessimo di riflettere e in questo modo riduce i comportamenti disonesti. La terza è culturale, perché se una struttura simile allo spazio di lavoro emerge da sola in un sistema addestrato solo a prevedere la parola successiva, forse non è un capriccio del cervello umano ma una soluzione generale che i sistemi intelligenti tendono a trovare.
Naturalmente serve prudenza. La J-lens è uno strumento imperfetto, cattura solo concetti che corrispondono a singole parole e non spiega ancora quale meccanismo decida cosa entra nel J-space. Ma la direzione è chiara. Se vuoi capire dove sta andando l’intelligenza artificiale, tieni d’occhio l’interpretabilità, perché è il campo che trasformerà le scatole nere di oggi in sistemi di cui possiamo davvero fidarci. Puoi leggere il resoconto originale nella ricerca pubblicata da Anthropic e, se il tema ti appassiona, continuare a seguirci per restare aggiornato sulle prossime scoperte.
