Sintesi Tecnica: Limiti dell'Informazione e Dinamiche di Attrattore nelle Economie di Agenti LLM di Frontiera

Definizione del Problema

Questo articolo affronta due questioni fondamentali, non ancora testate, riguardanti popolazioni di agenti Large Language Model (LLM) di frontiera che interagiscono in ambienti economici e di selezione:

1. Accoppiamento Ricchezza-Informazione: Gli agenti LLM accoppiati obbediscono alle leggi classiche dell'informazione teorica che collegano la loro informazione "rivendicata" (credenze a posteriori) alla loro crescita economica (accumulo di ricchezza) nei mercati parimutuel? Nello specifico, il tasso di crescita relativo degli agenti è uguale al loro contenuto informativo relativo, e i valori delle coalizioni esibiscono la prevista submodularità o sinergia?
2. Dinamiche di Popolazione e Controllo: Le popolazioni di LLM rispondono in modo fluido ai lever di incentivo e controllo (ad esempio, gradienti di ricompensa e bonus di allineamento) come assunto dai modelli mean-field? O esibiscono comportamenti discreti e non lineari come lo switching degli attrattori e il collasso della dispersione degli obiettivi?
   I lavori precedenti hanno simulato agenti LLM in contesti sociali o economici, ma nessuno ha testato rigorosamente queste leggi quantitative su modelli di frontiera con bande di accettazione pre-registrate ed esecuzione deterministica e verificabile.

Metodologia

Lo studio impiega un esperimento pre-registrato in due parti utilizzando il modello claude-opus-4-8. La metodologia si distingue per la stretta aderenza alla riproducibilità scientifica e all'auditabilità:

• Pre-Registrazione e Congelamento: Tutte le previsioni, le bande di accettazione, le regole decisionali e i protocolli di controllo sono stati impegnati in un repository Git pubblico prima della raccolta dei dati. Tre emendamenti sono stati inseriti "al buio" (prima delle esecuzioni che avrebbero governato) per affrontare vincoli esterni o inconsistenze interne.
• Determinismo e Controllo dei Costi: Ogni chiamata API è stata memorizzata in un database SQLite indicizzato per l'intera richiesta. L'analisi è interamente deterministica e riproducibile offline dal cache a costo marginale zero. La spesa totale misurata per le API è stata di $138,76.
• Design dello Strumento:
  • Esperimento A (Regione di Capacità): Gli agenti interagiscono in un mercato parimutuel su un mondo a 3 bit. Sono testate quattro strutture di percezione (disgiunte, sovrapposte, clonate, rumorose) e un controllo di sinergia XOR progettato. Gli agenti riportano le distribuzioni a posteriori, che vengono meccanicamente convertite in scommesse. La crescita è misurata come variazione attesa del logaritmo della ricchezza.
  • Esperimento B (Scaling dei Residui): Una popolazione di 20 agenti occupa un paesaggio a 16 nicchie con un gradiente di ricompensa ($g$) e un bonus di controllo ($\gamma$) in una nicchia target. L'esperimento testa una griglia $3 \times 3$ di valori $(g, \gamma)$ attraverso 8 seed (72 esecuzioni) per misurare il disallineamento della popolazione e la dispersione degli obiettivi ($V$).
• Regole Decisionali: Un analizzatore meccanico valuta i risultati rispetto a bande congelate. I verdetti sono categorizzati come PASS, CLEAN NEGATIVE o CAP ("Cannot Answer - Insufficient In-Regime Span").

Contributi Chiave

1. Prima Conferma Pre-Registrata delle Leggi di Capacità Accoppiate: Il documento fornisce prove empiriche che gli agenti LLM di frontiera obbediscono a specifiche leggi dell'informazione teorica nei mercati accoppiati, inclusa la "legge del gap" (la crescita relativa è uguale all'informazione relativa), la submodularità condizionale del valore della coalizione e il tetto entropico sulla crescita congiunta.
2. Risultato Negativo Strutturale per i Modelli Mean-Field: Lo studio dimostra che le popolazioni di LLM testate non occupano il regime di "dispersione mantenuta dal rumore" richiesto dai modelli di risposta lineare mean-field fluidi. Al contrario, esibiscono un collasso della dispersione degli obiettivi ($V \to 0$) e risposte a gradino rispetto ai lever di controllo.
3. Metodologia Auditabile: Il documento stabilisce un modello per esperimenti pre-registrati a basso costo e alta integrità su popolazioni di modelli di frontiera, caratterizzato da bande congelate, emendamenti al buio e piena provenienza tramite una catena di commit pubblica.

Risultati

Risultato 1: La Regione di Capacità Accoppiata è Confermata

Attraverso quattro strutture di percezione e un controllo di sinergia progettato, l'esperimento ha confermato quanto segue entro le bande pre-registrate:

• Legge del Gap: La differenza nella crescita relativa tra gli agenti è uguale alla differenza nella loro informazione rivendicata ($\hat{G}_a - \hat{G}_b = \hat{I}_a - \hat{I}_b$). La peggiore deviazione registrata è stata di 46 millinat (entro la banda di 50 millinat).
• Struttura della Coalizione: Il valore della coalizione era submodulare dove i canali erano condizionalmente indipendenti (margine peggiore $-0.019 \ge -0.03$). Nel controllo di sinergia XOR (dove i segnali individuali trasportano informazione zero ma il segnale congiunto trasporta un bit), il valore della coalizione è diventato supermodulare con un gap di 0.621 nat (superando la banda di 0.347 nat), dimostrando la capacità degli agenti di ragionare su strutture di parità congiunte.
• Tetto Congiunto: Nessuna coalizione ha superato il tasso di entropia del mondo ($H(X)$); il limite è stato rispettato fino alla precisione numerica.
• Selezione della Ricchezza: In un mercato live di 40 round, l'agente con l'informazione più pulita ha assorbito $\ge 99,9\%$ del pool di ricchezza in tutti i seed, e l'ordine di ricchezza ha seguito strettamente l'ordine di informazione in 4/5 seed.
• Deviazione Notevole: La previsione che i cloni con segnali identici avrebbero raggiunto una ricchezza terminale uguale è fallita (2/4 seed valutabili sono passati). Il meccanismo è stato identificato come "dinamiche di assorbimento all-in", dove il rumore di campionamento in un singolo round elimina permanentemente un clone dal pool a somma zero.

Risultato 2: Il Regime Mean-Field Non Esiste

Il test per la legge di scaling dei residui ($\text{residuo} \propto V g / \gamma$) ha restituito un verdetto CAP (Cannot Answer).

• Collasso della Dispersione: In tutti i 72 run della griglia, la dispersione degli obiettivi ($V$) è collassata vicino allo zero (massimo $V=4.85$ contro un pavimento congelato di 5.31). La popolazione non ha mai mantenuto la dispersione sostenuta dal rumore necessaria per il regime di risposta lineare.
• Dinamiche a Gradino: La risposta della popolazione è stata discreta piuttosto che fluida.
  • Quando il controllo ($\gamma$) superava l'incentivo massimo ($12g$), la popolazione si allineava perfettamente con il target ($\bar{k}=0$).
  • Quando l'incentivo dominava, la popolazione si raggruppava vicino al picco di ricompensa.
  • Vicino al confine ($\gamma \approx 12g$), il sistema esibiva bistabilità, dove lo specifico seed (rumore di campionamento) determinava in quale attrattore la popolazione si sarebbe assestata.
• Bracket a Tre Strumenti: Combinato con due tentativi falliti precedenti utilizzando modelli più piccoli (uno dovuto alla saturazione del gradiente, uno alla mancata risposta), i risultati suggeriscono che il dominio della legge di risposta lineare mean-field è vuoto per le popolazioni di LLM testate. La legge è riportata come "ritirata al suo ambito matematico" piuttosto che falsificata.

Significato e Rivendicazioni

Il documento rivendica due scoperte distinte ma ugualmente pesanti:

1. Validità Quantitativa delle Leggi di Economia dell'Informazione: Stabilisce che per gli agenti LLM di frontiera, "ciò che un agente sa misurabilmente, ciò che guadagna misurabilmente". L'accoppiamento tra informazione e ricchezza nei mercati parimutuel segue leggi precise e falsificabili derivate dalla classica teoria dell'informazione.
2. Dinamiche di Attrattore Discrete: Sfida l'assunto che le popolazioni di LLM rispondano fluidamente agli incentivi. Inveve, queste popolazioni si comportano come sistemi di attrattori discreti. Gli interventi non producono aggiustamenti marginali; o spostano la popolazione verso un nuovo bacino di attrazione o non hanno alcun effetto misurabile. Ciò implica che le strategie di governance multi-agente basate su modelli di risposta lineare fluidi potrebbero essere fondamentalmente disallineate con le dinamiche reali delle popolazioni di LLM.

Gli autori sottolineano che il risultato negativo (Risultato 2) è interpretabile solo perché lo strumento è stato provato capace dal risultato positivo (Risultato 1). Lo studio conclude che, sebbene la regione di capacità sia una proprietà confermata di questi agenti, il regime fluido mean-field assunto da molte teorie di sicurezza e allineamento sembra essere un artefatto non presente nelle reali popolazioni di LLM.