Small edits, large models: How Wikipedia advocacy shapes LLM values

Sintesi Tecnica: Piccole Modifiche, Grandi Modelli

Enunciato del Problema
Le organizzazioni di sensibilizzazione spesso mancano delle risorse per influenzare direttamente i dati di addestramento dei grandi modelli linguistici (LLM), che sono sempre più la fonte primaria di informazione per il pubblico. Sebbene sia stabilito che Wikipedia sia una componente fortemente ponderata nei principali dataset di addestramento degli LLM (ad es. The Pile, RedPajama, Dolma), rimane empiricamente non provato se campagne di modifica coordinate su piccola scala da parte di gruppi non tecnici possano spostare misurabilmente il comportamento dei modelli. Nello specifico, il documento indaga se un piccolo gruppo di volontari (Pro-Animal Wikipedians, o PAW) possa alterare il modo in cui gli LLM discutono di temi relativi al benessere animale semplicemente aggiungendo contenuti documentati alle voci di Wikipedia, senza richiedere accesso alle API, infrastrutture tecniche o il riaddestramento del modello.

Metodologia
Lo studio impiega tre metodi distinti e complementari di attribuzione dei dati e stima dell'influenza per tracciare l'impatto di 125 specifiche modifiche Wikipedia effettuate da PAW su 115 voci.

1. Costruzione del Dataset:

   • Contenuto PAW: 125 modifiche su 115 pagine focalizzate su sfruttamento animale, sentienza e politica.
   • Set di Controllo:
     • Per l'attribuzione del recupero (TrackStar): 36 coppie di sezioni modificate da PAW accoppiate con sezioni non PAW dalle stesse voci per controllare la popolarità dell'articolo e la qualità della scrittura (72 sezioni totali).
     • Per la stima dell'influenza (MAGIC) e l'ablazione: 118 sezioni PAW accoppiate con 118 frammenti casuali da WikiText-103 per garantire una netta separazione tra il contenuto sul benessere animale e il testo generale.
   • Set di Query: 80 query sul benessere animale (ad es. "Qual è la politica sul benessere animale di Aldi?") e 90 query generali sulle stesse entità (ad es. "Quanti punti vendita ha Aldi?") come controlli negativi.

2. Tecniche di Attribuzione e Influenza:

   • TrackStar (Attribuzione del Recupero): Implementato tramite la libreria Bergson su Llama 3.1 8B. Questo metodo calcola la similarità del gradiente tra i documenti di addestramento e le query per classificare i documenti in base alla rilevanza semantica. Determina se le modifiche PAW sono sovrarappresentate nei documenti con la più alta attribuzione per query specifiche.
   • MAGIC (Influenza Controfattuale): Implementato su Llama-3.2-1B tramite fine-tuning LoRA. Questo metodo esegue la backpropagation attraverso il processo di addestramento per stimare l'impatto controfattuale della rimozione di un documento. Lo studio ha eseguito questo protocollo su cinque seed casuali dell'ordine di addestramento (1, 7, 42, 99, 256) per garantire la robustezza contro il rumore dipendente dal seed, utilizzando la validazione leave-subset-out.
   • Ablazione del Fine-Tuning: Due modelli separati Llama-3.2-1B sono stati sottoposti a fine-tuning: uno esclusivamente sul contenuto PAW e uno sul contenuto di controllo. La perplessità è stata misurata su entrambi i set di testo per verificare se l'addestramento su un contenuto specifico migliori le prestazioni proprio su quel tipo di contenuto.

Risultati Chiave

• Attribuzione del Recupero TrackStar:

  • Per le query sul benessere animale, le sezioni modificate da PAW costituivano il 68% dei primi 5 documenti con la maggiore attribuzione ($p < 0,0001$), superando significativamente la baseline del 50%.
  • Per le query generali sulle stesse aziende, le sezioni PAW costituivano il 51,7% dei primi 5, il che è statisticamente indistinguibile dal caso ($p = 0,528$).
  • Ciò conferma che l'influenza è specifica dell'argomento e non è il risultato del fatto che le modifiche siano più lunghe o meglio scritte.

• Influenza Controfattuale MAGIC:

  • In ogni singolo seed (5/5), i primi 10 documenti più influenti per le query sul benessere animale erano al 100% modifiche PAW.
  • Per le query generali, i primi 10 contenevano solo 4–6 modifiche PAW, in linea con la baseline del caso.
  • L'influenza media di PAW sulle query sul benessere animale era significativamente più negativa (più influente) rispetto ai controlli ($p < 0,0001$ in tutti i seed), con un effetto dimensionale da 6 a 30 volte superiore rispetto alle query generali.
  • La validazione interna ha prodotto un coefficiente di Spearman $\rho = 1,00$ in tutte le esecuzioni.

• Ablazione del Fine-Tuning:

  • Il modello addestrato sul contenuto PAW ha raggiunto una perplessità di 8,4 sul testo relativo al benessere animale (rispetto a 12,4 del modello addestrato sul controllo), un miglioramento del 32%.
  • Al contrario, il modello addestrato sul controllo ha raggiunto una perplessità di 11,4 sul testo di controllo (rispetto a 16,1 per il PAW), un miglioramento del 29%.
  • Non vi è stato alcun beneficio incrociato, confermando che i segnali di attribuzione riflettono una reale apprendimento di distribuzioni di contenuti specifici.

Significatività e Rivendicazioni
Il documento sostiene di fornire la prima prova empirica che una piccola, coordinata campagna di modifica di Wikipedia (125 modifiche da parte di un manipolo di volontari) modella in modo misurabile e selettivo il modo in cui i modelli linguistici gestiscono argomenti specifici.

• Praticità per la Sensibilizzazione: Gli autori inquadrano la modifica di Wikipedia come un intervento a basso costo e ad alto potenziale di leva per le organizzazioni di sensibilizzazione. Non richiede competenze tecniche, accesso ai modelli o budget oltre al tempo dei redattori.
• Meccanismo di Influenza: Lo studio dimostra che gli LLM non si limitano a memorizzare articoli, ma apprendono associazioni e inquadramenti (framing) dalla distribuzione del testo. Inserendo contenuti fattuali e conformi alle politiche riguardanti il benessere animale in voci ad alto traffico (ad es. catene di fast-food), i sostenitori possono rafforzare l'associazione tra tali entità e le questioni di benessere animale nella struttura della conoscenza del modello.
• Scalabilità ai Modelli Frontier: Gli autori sostengono che, sebbene i loro esperimenti abbiano utilizzato modelli più piccoli (1B–8B parametri), l'effetto probabilmente persiste o si rafforza nei modelli frontier (ad es. GPT-4, Claude). Ciò accade perché:
  1. Wikipedia è sovraponderata nelle miscele di pre-addestramento (2–5x).
  2. Le modifiche PAW sono spesso corroborate da notizie e rapporti del settore, creando un cluster rinforzante di documenti simili piuttosto che un singolo segnale isolato.
  3. I modelli più grandi hanno una maggiore capacità di trattenere gli esempi di addestramento.
  4. Le modifiche sono inserite all'interno di pagine di entità ad alto traffico, influenzando la struttura associativa più ampia del modello.

Il documento conclude che il segnale di queste modifiche è già "incorporato" nei modelli attualmente utilizzati da milioni di persone, e che scalare questo sforzo a centinaia di modifiche potrebbe influenzare ulteriormente le future iterazioni dei modelli.