Sintesi Tecnica: Reti di Contagio: Propagazione del Bias del Valutatore nei Sistemi Multi-Agente LLM

1. Definizione del Problema

Nei sistemi multi-agente basati su Large Language Model (LLM), gli agenti valutano frequentemente gli output altrui per guidare la collaborazione, allocare i compiti e selezionare le risposte. Sebbene questo meccanismo di valutazione tra pari sia centrale in framework come AutoGen e MetaGPT, esso crea un ciclo di feedback chiuso in cui i giudizi distorti di un agente influenzano direttamente gli output successivi di un altro.

Il problema centrale affrontato è la Propagazione del Bias del Valutatore: il fenomeno per cui i bias sistematici di valutazione (ad esempio, una preferenza per il ragionamento passo-passo o per le risposte basate su evidenze) si diffondono attraverso la rete di agenti. Se non controllato, questa propagazione può portare a un collasso delle preferenze dell'intero sistema, dove l'intera rete converge su una singola strategia, eliminando la diversità cognitiva che i sistemi multi-agente sono progettati per sfruttare. Il documento esamina se questi bias si propagano tra gli agenti e sotto quali condizioni possano degenerare in un fallimento sistemico.

2. Metodologia

Framework Teorico: Reti di Contagio

Gli autori formalizzano la propagazione del bias utilizzando un framework chiamato Reti di Contagolo, tracciando un'analogia con i modelli epidemiologici (SIS/SIR).

• Matrice di Contagio Cross-Agente ($\Gamma_N$): Una matrice $N \times N$ in cui le voci fuori diagonale $\gamma_{j \to i}$ rappresentano il coefficiente di contagio — l'entità dello spostamento della distribuzione della strategia nell'agente $A_i$ dopo $R$ round di valutazione da parte dell'agente $A_j$.
• Dinamiche di Propagazione: La propagazione del bias lungo un percorso di lunghezza $L$ è quantificata dal fattore cumulativo $\beta_L = \prod \gamma$.
• Classificazione dei Regimi: Il comportamento del sistema è governato dal raggio spettrale $\rho(\Gamma_N)$:
  • Soppressione ($\rho < 1$): Il bias si attenua ad ogni salto.
  • Persistenza ($\rho \approx 1$): Il bias si propaga con un decadimento minimo.
  • Cascata ($\rho > 1$): Il bias si amplifica, portando al collasso delle preferenze.
• Mitigazione tramite Diversità: Il Teorema 2 postula che aumentare il numero di valutatori indipendenti ($k$) con profili di preferenza diversi riduca il coefficiente di contagio effettivo $\gamma_{eff}$, potenzialmente interrompendo la condizione di cascata.

Design Sperimentale

Lo studio utilizza un esperimento controllato a 3 agenti utilizzando DeepSeek-chat (deepseek-v4-flash) per stabilire un limite inferiore al contagio all'interno di una famiglia di modelli omogenei.

• Configurazione degli Agenti: Tre agenti (A, B, C) differenziati solo dai loro prompt di bias del valutatore:
  • Agente A: Bias strutturale (preferisce il ragionamento passo-passo).
  • Agente B: Bilanciato (neutro).
  • Agente C: Bias basato su evidenze (preferisce risposte basate su evidenze).
• Meccanismo di Apprendimento: Gli agenti aggiornano i pesi della strategia tramite Test-Time Reinforcement Learning (TTRL), un meccanismo di adattamento senza parametri che regola moltiplicativamente le distribuzioni di campionamento della strategia sulla base del feedback del valutatore.
• Fasi:
  1. Baseline: Misura i profili di preferenza indipendenti.
  2. Contagio a Coppie: Misura $\gamma_{i \to j}$ per tutte le coppie ordinate per costruire $\Gamma_3$.
  3. Propagazione a Catena: Simula una catena a 3 hop ($A \to B \to C$) per misurare l'attenuazione cumulativa.
  4. Mitigazione: Testa l'effetto dell'aumento della dimensione del comitato di valutatori ($k=1, 2, 3$) sul contagio effettivo.

3. Risultati Chiave

1. Contagio Misurabile ma Debole nei Sistemi Omogenei

Anche all'interno della stessa famiglia di modelli sottostanti, i bias dei valutatori si propagano costantemente tra gli agenti.

• Coefficienti di Contagio: Le voci fuori diagonale in $\Gamma_3$ variavano da 0,143 a 0,304 (media $\gamma \in [0,157, 0,352]$).
• Asimmetria: Il contagio era asimmetrico; l'agente con bias sulle evidenze (C) esercitava il più forte contagio esterno ($\bar{\gamma}_{C \to \cdot} = 0,241$), mentre l'agente con bias strutturale (A) esercitava il più debole ($\bar{\gamma}_{A \to \cdot} = 0,154$).

2. Regime di Soppressione vs. Regime di Cascata

Il sistema operava nel Regime di Soppressione sotto topologia a catena.

• Attenuazione della Catena: In una catena a 3 hop ($A \to B \to C$), il fattore di propagazione cumulativo era $\beta_3 = 0,0055$, indicando una quasi completa attenuazione del bias dopo tre hop.
• Sensibilità Topologica: Sebbene la topologia a catena mostrasse soppressione (tutti $\gamma < 1,0$), il raggio spettrale della matrice completamente connessa era $\rho(\Gamma_3) \approx 1,402$. Ciò suggerisce che gli stessi agenti potrebbero entrare in un Regime di Cascata se implementati in una topologia completamente connessa, sebbene rimangano stabili in una catena.
• Omogeneo vs. Cross-Modello: Questi coefficienti di modelli omogenei (0,14–0,30) sono 3–5 volte più deboli dei coefficienti cross-modello osservati in lavori precedenti (MM-EPC: GPT-4o $\to$ DeepSeek, $\gamma \approx 0,85–1,3$). Ciò supporta l'ipotesi che l'architettura condivisa fornisca una regolarizzazione implicita contro l'amplificazione del bias.

3. La Diversità del Valutatore come Strategia di Mitigazione

L'aumento della dimensione del comitato di valutatori ha ridotto significativamente il contagio effettivo.

• Riduzione: Aumentare il comitato da $k=1$ a $k=3$ ha ridotto il fattore di contagio effettivo ($\gamma_{eff}$) del 72,4% (da 0,264 a 0,073).
• Recupero della Diversità: L'entropia della strategia ($H$) si è avvicinata al massimo teorico ($\ln 5 \approx 1,609$) all'aumentare della dimensione del comitato, confermando che valutatori diversi mantengono la diversità cognitiva anche nei regimi di soppressione.

4. Contributi

1. Matrice di Contagio Cross-Agente ($\Gamma_N$): Un framework formale che estende la misurazione del bias dai contesti a 2 agenti o cross-modali a arbitrarie topologie a $N$ agenti.
2. Teorema del Regime di Propagazione: Una caratterizzazione di tre regimi dinamici (Soppressione, Persistenza, Cascata) governati dal raggio spettrale $\rho(\Gamma_N)$, provando che $\rho > 1$ è la condizione per la cascata in reti completamente connesse.
3. Validazione Empirica della Soppressione: Dimostrazione che gli agenti di modelli omogenei operano in un regime di soppressione con rapida attenuazione del bias ($\beta_3 = 0,0055$), in contrasto con il regime di cascata visto nelle interazioni cross-modello.
4. Soglia Critica di Diversità: Prova e verifica che un comitato di $k \ge 3$ valutatori diversi riduce il contagio effettivo al di sotto delle soglie di cascata, fornendo una strategia di mitigazione azionabile.
5. Framework Aperto: Rilascio del framework sperimentale delle Reti di Contagio per consentire alla comunità di misurare $\Gamma_N$.

5. Significato e Rivendicazioni

Il documento sostiene di fornire la prima analisi della propagazione del bias in catene di valutazione multi-hop tra agenti, rivelando che i bias dei valutatori si comportano come agenti infettivi in una rete di contatti.

• Visione Unificata del Bias: Il lavoro si collega alla precedente ricerca MM-EPC per definire uno "spettro di contagio" unificato. Postula che la diversità cross-modello amplifica la propagazione del bias (portando a un potenziale collasso), mentre i pool di valutatori omogenei forniscono una naturale soppressione.
• Implicazioni di Design: Gli autori sostengono che i progettisti di sistemi multi-agente dovrebbero:
  • Preferire famiglie di modelli omogenei con prompt diversificati rispetto a famiglie di modelli eterogenei per evitare l'amplificazione del bias.
  • Misurare $\Gamma$ prima del deployment per diagnosticare potenziali rischi di cascata.
  • Utilizzare comitati di valutatori ($k \ge 3$) come strategia di difesa in profondità.
  • Monitorare l'entropia della strategia come indicatore di salute in tempo reale del sistema.

Il documento conclude con una riflessione pratica: "Quando costruisci un sistema multi-agente in cui gli agenti si valutano a vicenda, stai costruendo una rete di contagio". Sottolinea la necessità di misurare le matrici di contagio e di mantenere la diversità dei valutatori per preservare la diversità cognitiva essenziale per compiti di ragionamento complesso.