Sintesi Tecnica: Audit di Fallimento Calibrati su Decoy per i Modelli di Linguaggio

1. Definizione del Problema

Il documento affronta il "problema della segnalazione" (reporting problem) negli audit dei fallimenti dei modelli. Sebbene gli audit possano facilmente identificare che un modello fallisce, determinare dove si concentrano i fallimenti e quali spiegazioni siano abbastanza credibili da essere segnalate è difficile. Gli auditor testano spesso molti candidati spiegazioni (ad esempio, input lunghi, domande indirette, combinazioni specifiche di metadati). Il rischio è il bias di selezione (selection bias): il maggiore incremento di errore osservato può riflettere una modalità di fallimento reale, oppure può essere semplicemente il risultato più favorevole tra molti candidati provati (la "maledizione del vincitore" o winner's curse).

Gli attuali metodi di scoperta di fette (es. SliceFinder, SliceLine) e il debugging assistito da LLM possono generare molte ipotesi plausibili, ma mancano di un meccanismo rigoroso per distinguere tra modalità di fallimento reali e artefatti del processo di ricerca. Il documento sostiene che una spiegazione trovata dopo molti tentativi richiede una validazione più rigorosa rispetto a una nominata in anticipo.

2. Metodologia: Janus

Gli autori introducono Janus, una procedura progettata non per generare nuove spiegazioni, ma per decidere quali proposte di spiegazione siano abbastanza credibili da essere segnalate. Il metodo si basa su due principali salvaguardie: la calibrazione su decoy (esche) e la replicazione su holdout.

Definizioni Core

• Descriptor (Descrittore): Una proprietà interpretabile vero/falso di un esempio (es. long_chain, indirect_query).
• Slice (Fetta): Il sottoinsieme di esempi in cui un descrittore è vero.
• Lift (Incremento): La differenza nel tasso di errore tra la fetta e il complemento ($err(g=1) - err(g=0)$).
• Decoy (Esca): Un descrittore falso con la stessa prevalenza (frequenza di essere vero) di un descrittore reale, ma con valori assegnati casualmente agli esempi.
• Discovery Split (Suddivisione per la scoperta): I dati utilizzati per valutare i descrittori rispetto ai decoy.
• Holdout Split (Suddivisione di verifica): Un dataset separato e fresco utilizzato per verificare i sopravvissuti.

La Procedura

1. Libreria di Candidati: L'auditor parte da un elenco fisso e congelato di candidati descrittori ($G$) derivati dalla conoscenza del dominio, dal mining di fette o dal debugging assistito da LLM.
2. Costruzione dei Decoy: Per ogni descrittore reale, Janus genera $K$ decoy permutando i valori vero/falso attraverso gli esempi di scoperta, preservando la prevalenza originale. Questo crea un "pavimento di decoy" empirico che rappresenta il massimo incremento ottenibile per caso date le restrizioni di dimensione del campione e prevalenza.
3. Screening della Scoperta (Procedura A):
   • I descrittori vengono valutati in base al loro assoluto incremento (lift) sulla suddivisione di scoperta.
   • Janus confronta il numero di descrittori reali ($R$) e di decoy ($D$) che superano varie soglie di incremento.
   • Stima la Proporzione di Falsi Scoperti (FDP) utilizzando il rapporto: $\widehat{FDP}(\tau) = \frac{(L/K)D(\tau)}{\max(1, R(\tau))}$, dove $L$ è il numero di descrittori reali e $K$ è il numero di decoy.
   • La soglia viene impostata sul valore più permissivo in cui l'FDP stimato è inferiore a un target $q$ (es. 0.10).
   • I descrittori che superano questo "pavimento di decoy" diventano Sopravvissuti alla Scoperta (Discovery Survivors).
4. Conferma Holdout:
   • I sopravvissuti alla scoperta vengono rivalutati sulla suddivisione di holdout.
   • Un descrittore è confermato solo se:
     • Mantiene un supporto sufficiente (dimensione del campione).
     • Il suo incremento assoluto di holdout supera una soglia minima (es. $|lift| \ge 0.10$).
     • Il segno dell'incremento corrisponde a quello della scoperta.

Questa separazione garantisce che i candidati descrittori possano provenire da qualsiasi fonte, ma solo quelli che superano il pavimento di decoy e si replicano su dati freschi diventano risultati dell'audit.

3. Contributi Chiave

1. Formulazione del Problema della Segnalazione: Il documento definisce esplicitamente il compito di decidere quali di molti candidati descrittori segnalare, distinguendo tra la proposta di spiegazioni e la validazione necessaria per la segnalazione.
2. Procedura Janus: L'introduzione di una procedura calibrata sui decoy che confronta l'incremento dei descrittori rispetto a falsi descrittori di identica frequenza e richiede la replicazione su dati di holdout.
3. Valutazione Empirica: La valutazione di Janus su un audit controllato con modalità di fallimento piantate e su due benchmark pubblici (MuSiQue e LongBench v2), dimostrando la sua capacità di recuperare segnali piantati pur rifiutando risultati plausibili ma non confermati.

4. Risultati Sperimentali

Audit Controllato (Struttura Piantata)

• Setup: 160 compiti sintetici di lookup multi-tabella dove una modalità di fallimento "long chain" (che richiede più salti tra le tabelle) è stata intenzionalmente piantata.
• Risultato: Janus ha recuperato con successo il fallimento piantato. Ha confermato sei descrittori, inclusi long_chain (lift +0.58) e le sue interazioni con query indirette e collisioni.
• Osservazione: Il modello tendeva a fermarsi a metà del percorso di lookup. Janus ha identificato correttamente questa specifica modalità di fallimento senza segnalare ogni fetta ad alto errore.

Benchmark Naturali (MuSiQue e LongBench v2)

• Setup: Audit su benchmark pubblici dove esistono descrittori di metadati plausibili (es. numero di salti, dimensione del contesto), ma non è garantita alcuna modalità di fallimento di verità fondamentale.
• Risultato: Janus ha riportato zero descrittori confermati per entrambi i benchmark.
• Confronto: Metodi baseline come SliceLine hanno identificato sottogruppi ad alto errore (es. sacche di errore dell'85-93% in LongBench v2). Tuttavia, queste fette non hanno superato la calibrazione dei decoy o il controllo di replicazione holdout.
• Ablazione: Rimuovendo il pavimento di decoy, si è verificato un eccesso di segnalazione (20 descrittori su LongBench v2). Rimuovendo il gate di holdout, un singolo descrittore è passato nonostante il suo incremento fosse sceso da 0.36 (scoperta) a 0.05 (holdout), illustrando la "maledizione del vincitore".

5. Significato e Rivendicazioni

Il documento afferma che una fetta di errore plausibile non è necessariamente un risultato di audit segnalabile. La significanza di Janus risiede nella sua restrizione:

• Separazione tra Scoperta e Segnalazione: Separa la generazione di ipotesi dalla validazione richiesta per la segnalazione.
• Calibrazione Empirica: Utilizza i decoy per calibrare il "pavimento di rumore" degli score di incremento, riconoscendo che grandi effetti possono derivare dal caso quando si effettua una ricerca in spazi ampi.
• La Replicazione come Gate: Impone che una spiegazione selezionata su una suddivisione debba mantenere la sua direzione e la sua forza su un'altra.

Gli autori sottolineano che Janus è una regola di segnalazione, non un motore di spiegazione completo. Non garantisce il controllo del Tasso di Falsi Scoperti (FDR) in senso statistico formale (come Benjamini-Hochberg), poiché non assume una famiglia fissa di p-value validi o knockoff scambiabili. Invece, fornisce uno schermo empirico per filtrare i candidati prima di un controllo finale di holdout. Il documento conclude che i candidati provenienti da qualsiasi fonte (conoscenza del dominio, mining di fette, LLM) diventano risultati di audit solo quando superano i decoy e si replicano su dati freschi.