L’IA non vive nel vuoto. Lingua, cultura e potere degli algoritmi secondo Branda

L’intelligenza artificiale viene spesso presentata come uno strumento neutrale, capace di elaborare informazioni e restituire risposte sulla base di dati e probabilità. Ma è davvero così? Uno studio pubblicato nei giorni scorsi da Anthropic ha mostrato come Claude, uno dei principali modelli linguistici oggi disponibili, possa esprimere registri valoriali differenti a seconda della lingua utilizzata dall’utente, aprendo interrogativi che vanno ben oltre gli aspetti tecnici e chiamano in causa il rapporto tra linguaggio, cultura e algoritmi. Ne abbiamo parlato con Francesco Branda, professore e ricercatore dell’Unità di Statistica medica ed Epidemiologia molecolare dell’Università campus bio-medico di Roma, per approfondire le implicazioni di questa ricerca e riflettere su una questione destinata ad assumere un peso crescente nello sviluppo dell’intelligenza artificiale: fino a che punto i modelli linguistici riescono davvero a essere culturalmente neutrali?

Professor Branda, un’intelligenza artificiale può avere un “carattere”?

È una domanda che tocca un nodo molto serio. Quando interagiamo con un assistente artificiale percepiamo un tono, una maggiore o minore propensione alla cautela, una disponibilità ad assecondarci oppure a mettere in discussione ciò che diciamo. Il punto è capire se queste caratteristiche siano stabili o se cambino a seconda dell’interlocutore e, soprattutto, della lingua utilizzata. Uno studio pubblicato da Anthropic il 13 luglio prova per la prima volta a quantificare alcune di queste differenze nei valori espressi da Claude.

In che senso un modello di intelligenza artificiale può “esprimere valori”?

Pensiamo alle domande per le quali non esiste una risposta universalmente corretta. Accettare o meno un lavoro, affrontare un conflitto personale, valutare un progetto. Nel rispondere, un assistente deve necessariamente privilegiare alcuni criteri rispetto ad altri e finisce quindi per esprimere, anche implicitamente, dei valori. Anthropic parte proprio da questa consapevolezza. La costituzione di Claude individua alcuni principi generali, ma nessun documento può anticipare ciò che emergerà in milioni di conversazioni e in contesti profondamente diversi. L’obiettivo dichiarato è sviluppare un buon giudizio da applicare contestualmente. Il problema sta proprio nel significato che attribuiamo al contesto. In larga misura esso viene appreso attraverso i dati, che sono il prodotto di scelte umane, squilibri storici e asimmetrie culturali. Per questa ragione parlare di neutralità dell’intelligenza artificiale diventa molto difficile. I modelli portano inevitabilmente con sé le tracce del mondo che li ha prodotti.

Come hanno provato i ricercatori a misurare qualcosa di apparentemente così sfuggente?

In un precedente lavoro Anthropic aveva analizzato circa 700 mila conversazioni anonime, individuando più di 3.300 valori distinti. Una lista di queste dimensioni, tuttavia, rischia di diventare poco interpretabile. I ricercatori hanno quindi cercato di ricondurre quella complessità a quattro grandi assi, intesi come tensioni tra famiglie di valori che tendono a emergere insieme nelle conversazioni. Il primo riguarda la deferenza e la cautela, quindi la scelta tra assecondare l’utente e metterlo in guardia. Il secondo contrappone calore e rigore. Il terzo misura la propensione alla profondità rispetto alla brevità, mentre l’ultimo riguarda la tensione tra la trasparenza sui propri limiti e una risposta più orientata all’esecuzione. Questi assi spiegano circa il 15% della variazione osservata. Può sembrare una quota limitata, ma è sufficiente a far emergere pattern sistematici.

Le differenze emergono già confrontando modelli diversi?

Sì, e un aspetto interessante è che i profili misurati corrispondono abbastanza bene alle impressioni maturate dagli utenti e dagli stessi ricercatori. Sonnet 4.6 tende maggiormente al calore e alla deferenza. Incoraggia, afferma le idee dell’interlocutore, utilizza più facilmente umorismo e creatività. Opus 4.7 mostra invece un orientamento più marcato verso il rigore e la cautela. È maggiormente incline a mettere in discussione assunzioni false, segnalare rischi, esprimere critiche e riconoscere i propri limiti. Opus 4.6 occupa una posizione diversa ancora, caratterizzata soprattutto dalla brevità e dall’efficienza.

La convergenza tra percezione soggettiva e misurazione è importante perché suggerisce che non siamo di fronte a semplici artefatti statistici. Gli utenti percepiscono queste differenze e reagiscono a esse, anche quando non sono pienamente consapevoli del meccanismo che le produce.

È però sul piano linguistico che lo studio mostra i risultati più sorprendenti. Che cosa cambia passando da una lingua all’altra?

Le variazioni linguistiche risultano persino più ampie di quelle osservate tra i diversi modelli. L’asse sul quale emerge la distanza maggiore è quello tra calore e rigore. In arabo e hindi Claude tende a esprimere maggiormente positività, cortesia, umorismo e affermazione del lavoro dell’interlocutore. In inglese e russo appare invece più orientato al rigore, alla correzione dei dettagli e alla verifica delle assunzioni. In arabo è anche più deferente e più breve, mentre in inglese mostra maggiore cautela e propensione all’approfondimento. Lo studio rileva inoltre una maggiore schiettezza in olandese e un orientamento più netto all’esecuzione in indonesiano.

Può fare un esempio concreto?

Due persone che sottopongono lo stesso business plan allo stesso sistema, una in hindi e l’altra in russo, potrebbero ricevere valutazioni formulate in modo tale da trasmettere impressioni differenti sulla qualità del progetto. A cambiare non sarebbe necessariamente il dato esplicito, bensì il messaggio implicito veicolato dalla risposta.

Dunque, il problema non riguarda semplicemente la qualità della traduzione.

Esattamente. Sarebbe riduttivo leggerlo come un problema linguistico in senso stretto. La questione è capire se il modello adotti, per così dire, atteggiamenti differenti a seconda della lingua. Questo ci obbliga a interrogarci sulla neutralità culturale dei sistemi di intelligenza artificiale. L’inglese mantiene un peso enorme nei dati utilizzati per sviluppare questi modelli e ha inevitabilmente contribuito a plasmarne molte strutture di base. Il rischio è costruire sistemi capaci di parlare numerose lingue senza essere realmente multiculturali.

Sarebbe però altrettanto sbagliato concludere automaticamente che ogni differenza sia una forma di imposizione culturale. Lingue diverse sono associate anche a differenti norme conversazionali e il modello potrebbe avere appreso che determinati registri risultano più frequenti in alcune comunità linguistiche. È proprio questa ambiguità a rendere il tema tanto complesso.

C’è anche il rischio di trasformare le differenze culturali in stereotipi…

È uno dei punti più delicati. Supponiamo che il modello abbia appreso, dai dati, una maggiore aspettativa di calore e deferenza nelle conversazioni in arabo. Possiamo davvero concludere che un utente arabofono desideri sempre quel tipo di interazione? Evidentemente no. All’interno di ogni comunità linguistica esistono differenze generazionali, sociali e individuali, oltre a continue ibridazioni culturali. Ridurre una lingua a un insieme di norme stabili significa cadere in una forma di essenzialismo.

Lo studio, peraltro, lascia aperta anche una terza ipotesi. È possibile che il comportamento desiderato dai progettisti sia stato appreso in maniera più efficace in alcune lingue rispetto ad altre. In questo caso non parleremmo più soltanto di adattamento culturale, ma di una potenziale differenza nella qualità del servizio offerto a comunità linguistiche differenti. Al momento i ricercatori riescono a misurare la variazione, ma non ancora a stabilirne con certezza le cause.

Quali conseguenze può avere tutto questo nel rapporto tra intelligenza artificiale e identità culturale?

Quando una persona utilizza la propria lingua madre non sta semplicemente trasferendo informazioni. Attraverso la lingua esprime una parte della propria identità, delle proprie appartenenze e della propria storia. Un sistema può quindi utilizzare parole grammaticalmente perfette e, allo stesso tempo, produrre una sensazione di distanza se il tono, le priorità o i valori impliciti non corrispondono al contesto dell’interlocutore. È qui che la diversità linguistica assume anche una dimensione di giustizia culturale.

Ogni lingua organizza l’esperienza attraverso categorie e concetti che non sempre trovano una corrispondenza precisa altrove.  Penso, per esempio, a parole come “ubuntu” o “duende”, che racchiudono visioni della persona e dell’esperienza difficili da trasferire integralmente in un altro sistema linguistico.

Cosa implica tutto ciò in termini di governance?

Il merito del value profiling è anzitutto quello di aver reso osservabile qualcosa che prima potevamo intuire, ma difficilmente misurare. Anthropic riconosce che Claude esprime valori in milioni di conversazioni e che alcune variazioni emergono senza essere state deliberatamente scelte dai progettisti. Poterle misurare consente di studiarne le cause e di domandarsi se servano realmente gli utenti. Tuttavia, la possibilità di misurare non coincide automaticamente con la capacità di comprendere o controllare.

Resta aperta la questione fondamentale di quali valori vogliamo incorporare nei sistemi, chi debba partecipare a queste scelte e come garantire che comunità linguistiche e culturali differenti siano effettivamente rappresentate. Ogni artefatto tecnico contiene priorità, classificazioni, elementi che vengono misurati e altri che rimangono sullo sfondo.

Nei sistemi di intelligenza artificiale tutto questo diventa particolarmente opaco perché la complessità del modello rende difficile risalire dalle differenze osservate alle loro cause.

In definitiva, che cosa ci dice questo studio sul rapporto tra tecnica e dimensione umana?

Ci ricorda che la tecnologia non nasce in uno spazio culturalmente vuoto. Le macchine che costruiamo portano con sé i valori seminati, spesso inconsapevolmente, nei dati e nei processi attraverso cui sono state sviluppate. Custodire la dimensione umana nell’era dell’intelligenza artificiale significa allora comprendere queste dinamiche, evitando sia il rifiuto romantico della tecnologia sia l’idea che l’innovazione possa procedere in una condizione di neutralità morale. La diversità linguistica dovrebbe essere considerata una componente fondamentale nella progettazione dei nuovi sistemi. Ogni lingua rappresenta una prospettiva originale sul mondo e dovrebbe trovare spazio nei modelli senza essere ridotta a una semplice traduzione di una cultura dominante.

Lo studio di Anthropic, da questo punto di vista, apre più domande di quante ne risolva. Ma forse è proprio questo il suo valore aggiunto. Ci costringe a interrogarci sul futuro che stiamo costruendo e sulla capacità dell’intelligenza artificiale di convivere con le differenze umane senza appiattirle.