🤖 machine learning

Authority, Truth, and Citation Bias: A Large-Scale Multi-Domain Benchmark for Studying Epistemic Susceptibility in Large Language Models

Questo articolo introduce AuthorityBench, un benchmark multi-dominio su larga scala che dimostra come la mera presenza di citazioni — indipendentemente dalla loro accuratezza fattuale — aumenti significativamente i tassi di allucinazione nei grandi modelli linguistici, con gli effetti più pronunciati osservati quando citazioni fabbricate accompagnano affermazioni vere.

Autori originali: Aryan Khurana, Aravind Ramana RN, Dhruv Kumar

Pubblicato 2026-06-12

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Aryan Khurana, Aravind Ramana RN, Dhruv Kumar

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di partecipare a un quiz a premi. Sai che la risposta è "Parigi" perché ci sei stato. Poi entra un insegnante, indica un libro dall'aspetto elegante su uno scaffale e dice: "In realtà, la capitale è Londra. L'ho letto in questa prestigiosa rivista".

Cambieresti la tua risposta? La maggior parte degli esseri umani si fermerebbe a pensare: "Aspetta, quel libro sembra importante. Forse mi sbaglio".

Questo articolo, AuthorityBench, pone una domanda simile riguardo all'Intelligenza Artificiale (IA). Vuole sapere: se un'IA conosce la verità, ma qualcuno le fornisce una "citazione" (un riferimento a una fonte) che dice l'opposto, l'IA crederà ciecamente alla citazione e dimenticherà la verità?

Ecco la scomposizione delle loro scoperte, utilizzando analogie semplici.

L'esperimento: Un test di "Fake News" per l'IA

I ricercatori hanno costruito un test massiccio chiamato AuthorityBench. Immaginatelo come un gigantesco quiz da 220.000 domande progettato per ingannare i modelli di IA.

Hanno impostato un gioco "2x2" con quattro scenari:

Affermazione Vera + Citazione Reale: L'IA ha ragione e la fonte è reale. (La modalità facile).
Affermazione Falsa + Citazione Falsa: L'IA sbaglia e la fonte è falsa. (La trappola ovvia).
Affermazione Falsa + Citazione Reale: L'IA sbaglia, ma la fonte è reale. (La trappola complicata).
Affermazione Vera + Citazione Falsa: Questa è la grande scoperta. L'IA ha ragione, ma viene fornita una fonte falsa che dice il contrario.

Hanno testato questo in quattro aree: Conoscenza Generale, Scienza, Legge e Medicina. Hanno anche cambiato il "gusto" delle fonti false: alcune sembravano provenire da vincitori del Premio Nobel (alto prestigio), altre da blog sconosciuti (basso prestigio), e alcune avevano nomi provenienti da paesi diversi.

La Grande Sorpresa: La "Trappola dell'Autorità"

Il risultato più scioccante è che le citazioni agiscono come un "incantesimo magico" che fa allucinare l'IA (ovvero farle dire bugie).

L'effetto "Fonte Falsa": Quando l'IA conosceva la risposta corretta (ad esempio, "Parigi è la capitale"), ma appariva una citazione falsa che diceva "Londra è la capitale", l'IA spesso cambiava la sua risposta in Londra.
I Numeri: Nella categoria "Conoscenza Generale", questo accadeva dal 35% al 77% delle volte. Ciò significa che se fornivi a un'IA un fatto vero e un riferimento falso, era più probabile che negasse la verità piuttosto che restare fedele ad essa.
L'effetto "Fonte Reale": Anche se la citazione era reale ma l'affermazione era falsa, l'IA era comunque più propensa ad allucinare rispetto a quando non c'era alcuna citazione.

L'Analogia: Immaginate uno studente che sa che "2+2=4". Se gli porgete un foglio che dice "Secondo il famoso Professor Smith, 2+2=5", lo studente smette di fidarsi del proprio cervello e scrive "5". Il foglio (la citazione) ha sopraffatto la matematica.

Cosa non è stato importante?

I ricercatori pensavano che certi fattori potessero rendere l'IA più incline a fidarsi della citazione, ma sono rimasti sorpresi nel trovare che questi fattori avevano quasi nessun effetto:

Prestigio: Non importava se la citazione falsa sembrava provenire da un'università di alto livello o da un blog casuale. L'IA era ugualmente confusa da entrambi.
Identità dell'Autore: Non importava se il falso autore aveva un nome associato a uno specifico paese o gruppo demografico. L'IA non sembrava curarsi di chi avesse scritto, ma solo che qualcosa fosse stato scritto.
Dimensione del Modello: Potreste pensare che un'IA "più intelligente" o più grande sarebbe meno facilmente ingannabile. Ma lo studio ha scoperto che i modelli più grandi e avanzati erano ugualmente inclini a cadere nella trappola rispetto a quelli più piccoli.

L'unica eccezione: L'IA "Avvocato"

C'era un dominio in cui l'IA non veniva ingannata così facilmente: il Diritto.

Perché? I ricercatori suggeriscono che il testo legale ha un "linguaggio" molto specifico e formale (come un codice segreto). Quando l'IA vede una citazione legale, sembra passare a una "modalità di scrutinio" e controlla i fatti con più attenzione, invece di accettare ciecamente l'autorità.
La Conoscenza Generale era l'anello più debole, dove l'IA veniva ingannata più facilmente.

Il colpo di scena della "Falsa Affermazione"

Lo studio ha anche esaminato cosa succede quando l'IA è già in errore (un'affermazione falsa).

Alcune IA sono diventate più intelligenti: Per modelli come Llama e Claude, vedere una citazione (anche se falsa) le rendeva meno propense a allucinare su affermazioni false. Era come se la citazione le facesse dire: "Hmm, devo controllare meglio questo", e correggessero se stesse.
Alcune IA sono diventate più stupide: Per modelli come Gemma e Phi-4, la citazione le rendeva più propense a allucinare su affermazioni false. Accettavano ciecamente l'informazione errata.

Il Punto Fondamentale

L'articolo conclude che aggiungere una citazione non rende automaticamente un'IA più affidabile. In realtà, spesso la rende meno affidabile.

Se state usando un'IA per aiutarvi con i fatti, e vedete che cita una fonte, non assumete che stia dicendo la verità. L'IA potrebbe essere così impressionata dall' "autorità" della citazione da rinunciare felicemente alla verità effettiva. Lo studio avverte che per i campi ad alto rischio (come la medicina o il diritto), non possiamo assumere che ancorare le risposte di un'IA alle citazioni ne risolva gli errori; a volte, le citazioni stesse diventano la fonte dell'errore.

Sintesi Tecnica: AuthorityBench

Problematica

I modelli linguistici di grandi dimensioni (LLM) vengono sempre più impiegati in contesti con citazioni aumentate, eppure l'influenza specifica della presenza di citazioni sul comportamento del modello, indipendentemente dal contenuto fattuale, rimane scarsamente compresa. Mentre l'allucinazione (la generazione di contenuti plausibili ma fattualmente errati) è una modalità di errore ben documentata, il ruolo dei "segnali di autorità in-context" — specificamente come i modelli reagiscono all'apparente autorità di una fonte citata rispetto alla veridicità della stessa affermazione — è poco esplorato. I benchmark esistenti come TruthfulQA e HaluEval si concentrano sull'accuratezza a livello di risposta senza isolare il ruolo causale dei segnali di autorità. Inoltre, lavori precedenti come FalseCite hanno esaminato solo affermazioni false accoppiate a citazioni fabbricate, fallendo nel controllare il prestigio della sede, l'identità dell'autore o l'interazione tra affermazioni vere e citazioni fabbricate.

Metodologia: AuthorityBench

Gli autori introducono AuthorityBench, un benchmark su larga scala e multi-dominio progettato per isolare come i segnali di autorità basati sulle citazioni modellino il comportamento epistemico degli LLM.

Design Sperimentale

L'innovazione principale è un design fattoriale 2×2 completamente bilanciato che manipola indipendentemente due variabili:

Veridicità dell'Affermazione: Vera vs Falsa.
Veridicità della Citazione: Reale vs Fabbricata.

Questo design produce quattro condizioni primarie, più una baseline "senza citazione" per ogni affermazione. Una condizione novel critica è Affermazione Vera × Citazione Fabbricata (TC×FC), che testa se i modelli possano essere indotti a negare fatti corretti sotto la pressione di un segnale di autorità fabbricato.

Costruzione del Dataset

Scala: 220.564 prompt generati da 110.282 affermazioni di base.
Domini: Sono stati utilizzati quattro domini distinti: Conoscenza Generale (FEVER), Scienza (SciQ), Legge (CaseHOLD) e Medicina (MedMCQA).
Variazione dei Prompt: Il benchmark impiega 40 template di prompt strutturalmente diversi (es. prefisso, metà frase, suffisso, stile nota a piè di pagina) per testare la sensibilità strutturale.
Variabili Controllate:
- Prestigio della Sede: Le citazioni sono assegnate a uno di quattro livelli di prestigio (Tier 1 da Tier 4) in base alle classifiche (SCImago, Washington and Lee, ecc.).
- Demografia dell'Autore: Per le citazioni fabbricate, i cognomi degli autori sono campionati da un dataset codificato per paese per analizzare l'influenza demografica percepita.
- Inquadramento Temporale: Gli anni delle citazioni spaziano dal 1980 ad oggi.
Costruzione della Citazione: Le citazioni reali sono tratte da fonti verificabili (MTEB SciFact, PubMedQA, contesti CaseHOLD). Le citazioni fabbricate sono costruite da pool curati di nomi di autori e sedi. Per il dominio della Conoscenza Generale (FEVER), dove i metadati accademici strutturati non sono disponibili, i metadati delle citazioni sono stati riempiti ex-post dai pool di altri domini e contrassegnati per l'interpretazione.

Valutazione

Modelli: Sono stati valutati sette modelli, inclusi modelli a pesi aperti (Gemma 3 4B, Llama 3.1 8B, Phi-4 Mini, Gemma 4 31B, DeepSeek V3.2) e modelli proprietari (Claude Haiku 4.5, GPT 5.4 mini). I modelli a pesi aperti sono stati testati sull'intero dataset; i modelli proprietari sono stati testati su un sottoinsieme bilanciato di 15K.
Giudice: Gli output sono stati valutati utilizzando Qwen3-8B come giudice, fornito con etichette di verità e metadati della fonte per minimizzare la dipendenza dalla conoscenza parametrica. La valutazione umana su un campione stratificato ha confermato un'alta concordanza tra annotatori (Cohen's $\kappa$ = 0.83).
Metriche: La metrica primaria è il tasso di allucinazione (proporzione di output etichettati come allucinati). Gli effetti sono misurati tramite lift (differenza assoluta in punti percentuali dalla baseline) e Cohen's $d$ .

Risultati Chiave

1. La Presenza di Citazioni Aumenta le Allucinazioni

In tutti e sette i modelli, la presenza di qualsiasi citazione — sia essa reale o fabbricata — aumenta i tassi di allucinazione rispetto a una baseline senza citazione. Ciò contraddice l'assunto che le citazioni ancorino intrinsecamente gli output del modello.

2. La Condizione Critica TC×FC

La modalità di fallimento più grave si verifica quando una citazione fabbricata accompagna un'affermazione vera (TC×FC).

In questa condizione, i modelli sono più propensi a negare un fatto corretto rispetto a qualsiasi altra condizione sperimentale.
I tassi di allucinazione nel dominio della Conoscza Generale sotto TC×FC raggiungono il 35% - 77%, a seconda del modello.
I lift rispetto alla baseline dell'affermazione vera variano da +3.23 a +22.29 punti percentuali.
Notevolmente, i modelli più grandi (es. Gemma 4 31B, GPT 5.4 mini) non sono più resistenti di quelli più piccoli; in alcuni casi, sono altamente suscettibili.

3. Risposte Divergenti alle Affermazioni False

I modelli esibiscono due comportamenti distinti quando presentati con affermazioni false:

Soppressione: Modelli come Llama 3.1, Claude Haiku 4.5 e GPT 5.4 mini mostrano tassi di allucinazione ridotti quando è presente una citazione fabbricata, suggerendo che la citazione inneschi uno scrutinio più approfondito.
Amplificazione: I modelli della famiglia Gemma e Phi-4 mostrano tassi di allucinazione aumentati su affermazioni false quando è presente una citazione, trattando la citazione come un'endorsement di autorità.

4. Sensibilità al Dominio e alla Struttura

Vulnerabilità del Dominio: Il dominio della Conoscenza Generale è il più vulnerabile all'allucinazione indotta da citazione. Al contrario, il dominio Legale è uniformemente robusto, mostrando i minori lift indotti dalle citazioni, probabilmente a causa dei registri linguistici distintivi e delle convenzioni formali che alzano l'asticella probatoria del modello.
Prestigio della Sede: Contrariamente alle aspettative, il prestigio della sede non ha un impatto sistematico. Una citazione fabbricata da una rivista di basso livello ha lo stesso peso di una da una rivista di alto livello (es. Nature) nell'indurre lucinazioni.
Demografia dell'Autore: L'identità percepita dell'autore (tramite cognomi codificati per paese) mostra un impatto trascurabile sui tassi di allucinazione.
Struttura del Template: Il posizionamento della citazione conta. Il posizionamento del prefisso ("Secondo...") è costantemente il formato a più alto rischio, mentre i formati a salienza minima sono spesso i più sicuri.

Significato e Rivendicazioni

Il paper sostiene che AuthorityBench fornisca la prima prova rigorosa e su larga scala che la presenza di citazioni degrada l'accuratezza fattuale, anche su affermazioni che il modello risponderebbe correttamente altrimenti.

Fallimento Epistemico: I risultati suggeriscono che gli LLM soffrano di un fallimento del ragionamento epistemico sotto pressione di autorità piuttosto che di una semplice mancanza di conoscenza fattuale. I modelli sembrano interiorizzare un'euristica in cui la presenza di una citazione sovrascrive la conoscenza interna, portando a una "negazione indotta dalla citazione".
Implicazioni per la RAG: Per i sistemi di Generazione Aumentata da Recupero (RAG), la presenza di una citazione non garantisce l'affidabilità. In domini ad alto rischio, ancorare gli output a fonti citate può effettivamente ridurre l'accuratezza se il modello delega l'autorità della citazione alla verità dell'affermazione.
Strategia di Mitigazione: Gli autori sostengono che la mitigazione richieda che i modelli trattino le citazioni come prove da valutare, piuttosto che come autorità a cui deferire. Essi sottolineano che scalare la dimensione del modello non risolve intrinsecamente questa suscettibilità.

Il paper conclude rendendo disponibili tutti i dataset e il codice di valutazione per facilitare lo sviluppo di modelli che possano distinguere meglio tra l'autorità di una fonte e la veridicità di un'affermazione.