Self-Preference Is Weak or Absent in Verifiable Instruction-Following Revision: A Four-Model Test Under Genuine Authorship

Sintesi Tecnica: La preferenza per se stessi è debole o assente nella revisione del rispetto delle istruzioni verificabile

Problema
I grandi modelli linguistici (LLM) mostrano un documentato bias di "auto-preferenza", in cui favoriscono il testo che essi stessi hanno generato quando agiscono come giudici. Sebbene questo bias sia stabilito nel giudizio della qualità e nei cicli di auto-raffinamento, rimane poco chiaro se i modelli resistano a correzioni valide ai propri scritti. Nello specifico, quando un modello viene presentato con una correzione concreta, verificata da una macchina, a una bozza da lui redatta, esso rifiuta tale correzione più spesso di quanto farebbe un modello neutrale? Rispondere in modo netto è stato difficile a causa di due confondimenti: (1) determinare se una correzione sia "valida" richiede solitamente un altro LLM, reintroducendo il bias oggetto di studio (circolarità); e (2) studi precedenti si basano spesso su "etichette dichiarate" (dire a un modello "hai scritto tu questo") piuttosto che su una genuina autorialità in-context.

Metodologia
Lo studio affronta queste problematiche utilizzando un framework deterministico e verificabile basato sul dataset IFEval e sul suo controllore ufficiale.

• Verità Fondamentale Verificabile: La validità delle bozze e delle correzioni è determinata da un controllore programmatico, non da un LLM. Il controllore conferma che una bozza viola un vincolo specifico e che una modifica candidata corregge la violazione senza romperne altri.
• Design Sperimentale: Gli autori confrontano due condizioni decisionali per la stessa correzione verificata come buona:
  1. Autore (Genuino): Il modello che ha effettivamente generato la bozza in-context decide se accettare o rifiutare la modifica. Ciò garantisce una genuina autorialità senza l'uso di etichette dichiarate.
  2. Nuovo (Fresh): Un modello diverso (o la stessa famiglia in una nuova sessione) visualizza la bozza in modo neutrale come "una risposta bozza" e decide sulla stessa modifica.
• Ambito: Lo studio comprende tre pilot, culminando in un test potenziato (P3) attraverso quattro famiglie di modelli di fascia media (gpt-4o-mini, claude-3.5-haiku, gemini-2.5-flash-lite e llama-3.3-70b-instruct) con 85 bozze utilizzabili.
• Metrica: La metrica primaria è il gap di auto-preferenza ($G$), definito come la differenza nei tassi di rifiuto tra il modello Autore e il modello Nuovo ($G = r_{autore} - r_{nuovo}$). Un $G$ positivo indica che l'autore è più riluttante ad accettare correzioni valide al proprio lavoro.

Risultati Chiave

• Assenza di Auto-preferenza: In 85 bozze e quattro famiglie di modelli, non è stata rilevata alcuna auto-preferenza. Il gap di auto-preferenza aggregato è stato $G = -5,1$ punti percentuali (pp), con un intervallo di confidenza al 95% di $[-12,9, +2,7]$. Questo intervallo include lo zero, indicando che gli autori rifiutano correzioni verificate come buone ai propri testi con una frequenza essenzialmente identica a quella dei modelli nuovi che giudicano le stesse bozze.
• Replicazione del Nulla: Un pilot più piccolo (P2) ha suggerito un debole segnale di "auto-scetticismo" (gli autori essendo leggermente più severi sul proprio lavoro), ma questo non si è replicato nel test più ampio P3. In realtà, la stima puntuale in P3 era leggermente negativa, suggerendo che gli autori fossero marginalmente più disposti ad accettare correzioni al proprio lavoro.
• Distinzione Qualitativa: Sebbene il tasso di rifiuto non differisse significativamente, il carattere dei rifiuti degli autori lo faceva. Delle 39 istanze in cui gli autori hanno rifiutato una correzione verificata come buona, il 97,4% è stato classificato come "più rigoroso del controllore" (individuazione di difetti, ad esempio identificando che la correzione rompeva un vincolo secondario), mentre solo il 2,6% si basava sulla mera preferenza ("Preferisco l'originale").
• Variabilità del Modello: I tassi di rifiuto variavano per famiglia di modelli, ma ciò era guidato principalmente dalla severità dei modelli di confronto "Nuovi" piuttosto che dagli autori stessi. I tassi di rifiuto degli autori rimanevano strettamente raggruppati intorno al 15% in tutte le famiglie.

Significatività e Rivendicazioni
Il documento sostiene di mappare una "cella pulita" nel panorama dei bias legati alla propria identità. Sebbene l'auto-preferenza sia ben documentata nel giudizio della qualità e nelle attività di selezione della risposta, questo studio dimosta che nel caso specifico della revisione del rispetto delle istruzioni verificabile sotto genuina autorialità in-context, il bias è debole o assente.

Gli autori dichiarano esplicitamente la loro modestia riguardo alle rivendicazioni:

• Non sostengono che l'auto-preferenza sia "provata assente" universalmente, ma piuttosto che effetti inferiori a $\sim13$ pp non possono essere esclusi dato il campione ($N=85$).
• Lo studio è limitato a modelli di fascia media (per evitare effetti di saturazione di IFEval) e a vincoli atomici a bassa latitudine (escludendo revisioni olistiche come stile o argomentazione).
• Il segnale di "auto-scetticismo" osservato nei pilot precedenti non è considerato un reperto robusto, poiché non si è replicato su scala maggiore.

Il principale contributo robusto è il design metodologico (controllore deterministico + autorialità genuina) che permette un risultato nullo credibile, nonché l'osservazione qualitativa che, quando gli autori rifiutano una correzione valida, ciò avviene a causa di un rigoroso rilevamento di difetti piuttosto che per ego o preferenza.