Riepilogo Tecnico: DIVERGE – Diversità-Potenziata per la Generazione Aumentata da Recupero in Scenari di Ricerca Informativa Aperta

1. Definizione del Problema

Gli attuali sistemi di Generazione Aumentata da Recupero (RAG) sono prevalentemente progettati sotto l'assunto che ogni query abbia una singola risposta fattualmente corretta. Questo paradigma porta al collasso della conoscenza negli scenari di ricerca informativa aperta (ad esempio, brainstorming, supporto alle decisioni o esplorazione di prospettive alternative), dove esistono molteplici risposte plausibili.

Il documento identifica tre sfide specifiche che impediscono ai sistemi RAG standard di generare output diversificati:

• C1: Bias della Risposta Unica: I paradigmi RAG incoraggiano una generazione eccessivamente sicura di sé, causando la priorità del modello verso un sottoinsieme ristretto e ad alta confidenza dei contesti recuperati, ignorando al contempo informazioni alternative ma plausibili.
• C2: Mancanza di Preservazione della Diversità: I meccanismi esistenti mancano di strategie a lungo termine per preservare la diversità attraverso molteplici generazioni. Di conseguenza, anche con contesti recuperati diversificati, il modello produce output altamente simili e omogeneizzati a causa delle tendenze intrinseche dei Large Language Models (LLM).
• C3: Limitata Applicabilità Pratica: Molte tecniche all'avanguardia per il potenziamento della diversità dipendono dall'accesso ai logit a livello di token o da specifici iperparametri di decodifica (ad esempio, temperatura, top-p), che sono non disponibili o limitati nei modelli LLM closed-source (ad esempio, GPT-5, o3).

Inoltre, il documento nota che il semplice aumento della diversità del recupero (ad esempio, tramite re-ranking) non si traduce in generazioni diversificate, e le attuali metodologie basate su prompt spesso ottengono la diversità a costo di un significativo degrado della qualità.

2. Metodologia: Il Framework DIVERGE

Gli autori propongono DIVERGE (Diversity-Enhanced Retrieval-Augmented Generation), un framework RAG agentico plug-and-play progettato per modellare esplicitamente punti di vista diversi mantenendo al contempo la qualità della risposta. DIVERGE opera attraverso un processo iterativo senza richiedere l'accesso ai logit dei token, rendendolo compatibile con qualsiasi backbone LLM, inclusi i modelli closed-source.

Il framework è composto da tre componenti principali:

A. Generazione di Punti di Vista Guidata dalla Riflessione

Per mitigare il bias della risposta unica (C1), DIVERGE tratta le caratteristiche latenti del modello come "punti di vista".

1. Inizializzazione: Il sistema genera una risposta RAG iniziale e la riassume per estrarre i punti di vista esistenti.
2. Riflessione: Nelle iterazioni successive, l'LLM riflette sull'insieme dei punti di vista precedentemente esplorati.
3. Identificazione di Nuovi Punti di Vista: Il modello identifica un nuovo punto di vista, insufficientemente coperto, che offra una prospettiva distinta sulla query originale, assicurando che il processo di generazione non collassi in un'unica posizione dominante.

B. Recupero Consapevole del Punto di Vista

Per affrontare la mancanza di fondamento fattuale per i punti di vista ipotetici (C2), DIVERGE integra un meccanismo di recupero che interroga il web aperto per prove specifiche relative al punto di vista identificato.

• Generazione della Query: L'LLM genera una query condizionata sul nuovo punto di vista.
• Re-ranking Consapevole della Diversità: Il recuperatore utilizza una formulazione estesa della Massimal Relevance (MMR). Questo assegna punteggi ai documenti in base a:
  1. Rilevanza rispetto alla query condizionata dal punto di vista corrente.
  2. Diversità rispetto ai documenti recuperati nelle iterazioni precedenti (memoria).
  3. Diversità rispetto ai documenti selezionati all'interno della corrente iterazione.
     Ciò garantisce che l'evidenza recuperata supporti il punto di vista specifico evitando la ridondanza con le informazioni esplorate in precedenza.

C. Generazione e Raffinamento Condizionati dal Punto di Vista

Per colmare il divario tra un punto di vista specifico e l'intento originale dell'utente, DIVERGE impiega un processo di generazione in due fasi:

1. Generazione Condizionata: L'LLM genera una risposta esplicitamente condizionata sia dalla query originale che dal punto di vista target.
2. Raffinamento: La risposta generata viene raffinata per garantire che rimanga logicamente coerente, fattualmente accurata e affronti direttamente la query originale dell'utente, prevenendo deviazioni eccessive pur mantenendo la diversità introdotta dal punto di vista.

3. Metriche di Valutazione

Riconoscendo che le metriche standard basate su risposte di ground-truth non sono adatte per compiti open-ended, gli autori introducono una nuova suite di valutazione focalizzata sul trade-off diversità-qualità:

• Diversità Semantica ($D_{sem}$): Misura la variazione di significato tra le risposte generate utilizzando la distanza coseno pairwise tra gli embedding delle risposte.
• Diversità dei Punti di Vista ($D_{view}$): Scompone le risposte in claim atomici (punti di vista) e misura la frazione di claim mutuamente non sovrapponibili tra l'insieme delle risposte. Ciò cattura la diversità intra-risposta che le metriche semantiche potrebbero trascurare.
• Punteggio di Qualità: Valutato utilizzando il paradigma LLM-as-a-Judge, valutando l'accuratezza fattuale, il supporto delle evidenze, la coerenza interna e la rilevanza della domanda.
• Punteggio Armonico Unificato Diversità-Qualità ($U_{Q}$): Una media armonica dei punteggi normalizzati di diversità e qualità, fornendo un singolo metrica per confrontare le prestazioni del trade-off di diversi metodi.

4. Risultati Sperimentali

Il framework è stato valutato su Infinity-Chat, un benchmark del mondo reale di query aperte senza ground truth. Gli esperimenti hanno utilizzato modelli GPT-5-mini e GPT-5.1.

• Prestazioni: DIVERGE ha ottenuto il punteggio Unificato più alto in tutte le configurazioni di metodo e modello.
• Guadagni in Diversità: Rispetto al campionamento indipendente (prompt diretto), DIVERGE ha migliorato la diversità semantica di circa 2,5× e la diversità dei punti di vista di circa 1,6×.
• Preservazione della Qualità: A differenza dei baseline basati su prompt (ad esempio, Verbalized Sampling) che hanno subito un sostanziale degrado della qualità, DIVERGE ha mantenuto una qualità della risposta comparabile, con solo un calo marginale (~0,04) nel punteggio di qualità.
• Confronto con i Baseline: Il RAG standard e le semplici strategie di potenziamento della diversità (ad esempio, shuffling del contesto, multi-query) non sono riusciti ad aumentare significativamente la diversità e hanno spesso prodotto punteggi unificati inferiori.

l. Significato e Rivendicazioni

Il documento sostiene che DIVERGE affronta un limite sistematico degli attuali sistemi basati su LLM: l'incapacità di sfruttare contesti recuperati diversificati per la ricerca informativa aperta.

• Mitigazione dell'Omogeneizzazione: Esplicitando la diversità attraverso la riflessione e il raffinamento iterativo, DIVERGE dimostra che è possibile superare le tendenze all'omogeneizzazione dei modelli frontier LLM senza riaddestramento o accesso agli stati interni del modello (logit).
• Applicabilità Pratica: Il framework è progettato come una soluzione "plug-and-play" compatibile con i modelli closed-source, rendendolo immediatamente applicabile a scenari di deployment reali dove i controlli di decodifica sono ristretti.
• Impatto Etico e Sociale: Gli autori sostengono che promuovere la diversità nelle risposte dell'IA aiuta a mitigare il rischio di output omogeneizzati che sovrarappresentano punti di vista sociali o culturali dominanti, sostenendo così un accesso alle informazioni più equo e inclusivo e favorendo la creatività umana.

Il lavoro conclude che modellare esplicitamente la diversità è una via percorribile per bilanciare gli obiettivi spesso conflittuali di varietà della risposta e affidabilità fattuale nei sistemi RAG aperti.