Stati latenti, economia cognitiva e dinamica comportamentale nei Large Language Models
Un Large Language Model non coincide semplicemente con i propri pesi. Questa affermazione, presa da sola, non contiene ormai nulla di particolarmente nuovo. Sappiamo che, a parità di architettura e parametri, intervenire sulle rappresentazioni interne può modificare il comportamento del modello. Activation steering, representation engineering e studi sulla controllabilità hanno già mostrato sperimentalmente che una perturbazione delle attivazioni può cambiare l’output senza richiedere un aggiornamento dei pesi.
Il problema interessante comincia un istante dopo. Che cosa succede quando l’intervento viene rimosso?
È da questa domanda che nasce Oltre i pesi: stati latenti, economia cognitiva e dinamica comportamentale nei Large Language Models. Non ci interessa dimostrare ancora una volta che sia possibile spostare il comportamento di un LLM agendo sul suo stato interno. Ci interessa capire se quello spostamento abbia una dinamica: quanto persista, con quale velocità decada, se il sistema ritorni allo stesso stato seguendo percorsi differenti, se due traiettorie inizialmente quasi identiche possano progressivamente divergere e se esistano regioni nelle quali una variazione relativamente piccola del controllo produca un cambiamento qualitativamente diverso della risposta.
Qui il problema incontra inevitabilmente la matematica dei sistemi dinamici. Ma occorre farlo senza abusarne. “Caotico” non significa semplicemente complesso, imprevedibile o stocastico. Allo stesso modo, una variazione brusca del comportamento non costituisce automaticamente una biforcazione. Per questo nel lavoro proponiamo di misurare separatamente rilassamento, persistenza, isteresi, divergenza locale e change-point, e soltanto successivamente verificare se la convergenza di più firme giustifichi un’interpretazione dinamica più forte.
L’isteresi è forse l’esempio più intuitivo. Immaginiamo di aumentare progressivamente l’intensità di una perturbazione interna e poi di ridurla seguendo lo stesso percorso. Se, a parità di intensità, il comportamento durante la discesa non coincide con quello osservato durante la salita, lo stato presente del sistema non è sufficiente a descriverne il comportamento: conta anche il percorso attraverso il quale vi è arrivato. È una forma misurabile di dipendenza dalla storia.
Da qui nasce il passaggio che consideriamo più promettente. L’intensità dello steering può essere trattata non soltanto come quantità necessaria a provocare una risposta, ma come parametro di controllo sperimentale. Variandola sistematicamente possiamo osservare come cambiano insieme il tempo di rilassamento, l’isteresi, la divergenza locale e il comportamento. Estendendo l’esperimento a più direzioni latenti, il problema smette di essere soltanto temporale e diventa geometrico: possiamo cercare nello spazio dei controlli delle candidate critical-transition boundaries, frontiere oltre le quali la dinamica osservata assume proprietà differenti.
Anche qui bisogna essere molto precisi sulla novità. Soglie, tipping points, phase-like transitions e dinamiche non lineari negli LLM hanno già precedenti. Non sosteniamo quindi di avere scoperto che gli LLM possiedano soglie, né tantomeno che siano intrinsecamente caotici. La proposta è più circoscritta: osservare congiuntamente le firme dinamiche successive allo steering, ricostruire sperimentalmente la geometria multidimensionale delle possibili frontiere e verificare se la distanza da quelle frontiere possieda un valore predittivo che le metriche statiche non hanno.
È precisamente quest’ultimo punto che porta il lavoro fuori dalla pura descrizione teorica e dentro il problema della AI safety. Due condizioni dello stesso modello possono mostrare, in un determinato momento, comportamenti praticamente indistinguibili ed essere tuttavia dinamicamente molto diverse. Una può trovarsi in una regione relativamente stabile; l’altra molto vicina a una frontiera oltre la quale una perturbazione modesta determina un cambiamento di regime.
Abbiamo chiamato la distanza da questa frontiera margine dinamico.
Non è una misura di sicurezza in senso assoluto. Anzi, la formulazione matematica impone una cautela importante: possiamo stimare soltanto le frontiere presenti nel sottospazio che abbiamo effettivamente esplorato. Una frontiera sconosciuta potrebbe essere più vicina. Un margine piccolo segnala quindi una fragilità rispetto alle perturbazioni studiate, mentre un margine grande non autorizza a dichiarare il sistema sicuro.
Questa limitazione è anche ciò che rende l’ipotesi scientificamente interessante. Il margine dinamico non deve essere accettato perché appare elegante matematicamente. Deve dimostrare di servire a qualcosa. Nel protocollo proponiamo quindi di stimarlo su un insieme di condizioni e chiedergli di prevedere i fallimenti su perturbazioni che non ha mai visto. E deve farlo meglio di misure molto più semplici: distanza Jensen–Shannon dalla policy di controllo, norma della perturbazione, distanza dai punti utilizzati per costruire la frontiera. Se non le batte fuori campione, il margine dinamico non aggiunge informazione e va abbandonato.
Il pain axis, che ha contribuito a suggerire questa ricerca, assume nel lavoro un ruolo deliberatamente limitato. È un caso sperimentale, non il suo fondamento ontologico. Che una rappresentazione interna associata al dolore possa essere individuata e manipolata non significa che il modello “provi dolore”. Significa qualcosa di molto più circoscritto e, per il momento, molto più utile: esiste una variabile interna misurabile sulla quale possiamo intervenire e della quale possiamo osservare causalmente gli effetti sulla policy. Il passaggio dall’esistenza di quella rappresentazione all’esperienza soggettiva sarebbe un salto che i dati non consentono.
Rimane però una questione più generale. Nei sistemi biologici, stati globali relativamente semplici coordinano simultaneamente un numero enorme di decisioni locali. Paura, dolore, fame o eccitazione non devono essere pensati qui fenomenologicamente, ma come esempi di regolatori capaci di modificare priorità e comportamento senza che ogni singola decisione debba essere ricalcolata indipendentemente. Da questa analogia funzionale nasce ciò che nel paper chiamiamo economia cognitiva artificiale: l’ipotesi che variabili latenti a dimensionalità relativamente bassa possano comprimere la descrizione di molti comportamenti differenti. Anche questa idea vale soltanto se supera un test quantitativo: un regolatore globale deve spiegare e prevedere fuori campione meglio di una collezione di spiegazioni locali di complessità comparabile.
Oltre i pesi non presenta ancora la scoperta di una nuova dinamica degli LLM. Presenta un programma sperimentale per cercarla e, soprattutto, per poter dimostrare che non esiste. È una distinzione importante. Il protocollo prevede controlli matched-norm, seed controllati, sweep ascendenti e discendenti, perturbazioni impulsive e persistenti, misure indipendenti della capacità e una separazione sperimentale fra persistenza dovuta al testo già generato, persistenza nella KV cache e autentica persistenza dello stato latente. Il passaggio successivo è l’esperimento pilota. Solo allora il position paper potrà diventare un lavoro che presenti anche un primo risultato empirico.
Alla fine il problema torna al punto di partenza, ma in una forma diversa. Forse non è sufficiente chiedere che cosa farà un modello davanti a un determinato input. Dobbiamo anche chiederci in quale stato si trovi, quale traiettoria lo abbia portato fin lì e quanto sia distante da una regione nella quale il suo comportamento cambia.
Questo modifica anche il concetto stesso di audit. La certificazione di un sistema non riguarderebbe più soltanto un insieme di pesi, ma un modello in uno stato, lungo una traiettoria e sotto un determinato protocollo di interazione. Non è necessario attribuire emozioni o coscienza alle macchine per riconoscere il problema. È sufficiente ammettere che, se lo stato interno modifica causalmente il comportamento, allora quello stato entra necessariamente nell’oggetto che pretendiamo di misurare.
Il documento completo, con la formalizzazione matematica, il protocollo sperimentale, i criteri di falsificazione e la bibliografia, è disponibile per il download.