Forse ci siamo. Claude, il modello linguistico di Anthropic, sarebbe in grado di pensare come una persona qualunque. A dirlo è la sua stessa casa madre: “Analogamente a come gli esseri umani possono pensare a una cosa mentre ne fanno un’altra, Claude può attivare concetti e calcoli nel suo spazio J che non sono correlati ai suoi risultati”. Lo si è dedotto osservando la macchina mentre era all’opera. Il J-Space – abbreviativo di jacobiano, il metodo matematico utilizzato dalla startup per capire cosa stesse accadendo – è diverso dalla catena di ragionamento del modello. In quest’area è possibile controllare e comprendere cosa sta pensando la macchina, toccare con mano i suoi pensieri che non vengono tramutati in un output. Un lato nascosto che non viene mai alla luce. “In neuroscienze, la teoria del global workspace sostiene che i pensieri diventano accessibili alla coscienza quando entrano in un workspace privilegiato che viene diffuso in tutto il cervello. Utilizzando una tecnica di interpretabilità, abbiamo trovato qualcosa di simile in Claude”, scrive l’azienda in un thread pubblicato su X che parte con un video di 5 minuti in cui viene sintetizzata la scoperta.

La rivelazione fa sicuramente scalpore. Per anni ci si è chiesti se prima o poi le macchine sarebbero in grado di pensare come noi e, per la prima volta, abbiamo una risposta parziale che ci permette di affermarlo. “Possiamo vedere Claude eseguire silenziosamente dei passaggi di ragionamento nella sua testa: individuare bug nel codice, identificare immagini e altro ancora”, aggiunge Anthropic.  Tuttavia, precisa l’azienda di Dario Amodei, “per la maggior parte dei casi, Claude non ha in realtà bisogno del suo J-space. Se lo eliminiamo, Claude parla ancora in modo fluido, ricorda fatti e classifica testi”. Senza J-space, però, “diventa scarso in alcuni compiti, come il ragionamento multi-step. È simile alla differenza tra elaborazione deliberata e quella automatica nelal cognizione umana”.

Per capire meglio di cosa stiamo parlando, i ricercatori di Anthropic fanno un esempio pratico. La domanda posta a Claude è di dire quante zampe ha l’animale che tesse le ragnatele. “Il modello deve prima dedurre che l’animale in questione sia un ragno e poi indicare il numero di zampe che un ragno possiede. La lente jacobiana a livello degli strati intermedi conferma che il ragno è rappresentato nelle posizioni dei token pertinenti, anche se la parola non compare mai né nel prompt né nell’output. Quando sostituiamo il vettore della lente “ragno” con quello “formica”, l’output principale del modello cambia da ‘8’ a “6”, ovvero il numero di zampe di una formica”. La ricerca mette anche in guardia sugli aspetti negativi, o preoccupanti, derivanti dalla scoperta.

Cosa significhi tutto questo è ancora presto per dirlo. Sicuramente, siamo di fronte a un fatto, ovvero che la macchina possiede un suo cervello con cui ragionare prima di partorire una risposta. Lo potevamo già immaginare, ma adesso è un dato empirico. La macchina è cosciente rispetto a quello che le viene chiesto. Un altro esempio spiega meglio questo aspetto: “In una situazione studiata per indurre Claude a ricattare qualcuno, il suo spazio J contiene elementi “falsi” e “immaginari”: si è reso conto in privato che lo scenario è una messinscena”. Detto ciò, precisano i ricercatori, essere cosciente non equivale ad avere una coscienza. “Questo non dimostra che Claude sia in grado di vivere esperienze o provare sensazioni come facciamo noi” e “non è chiaro se un esperimento possa mai dimostrarlo”. Almeno per ora.