Resumen Técnico: Auditorías de Fallos Calibradas con Decoys para Modelos de Lenguaje

1. Planteamiento del Problema

El artículo aborda el "problema del reporte" en las auditorías de fallos de modelos. Si bien las auditorías pueden identificar fácilmente que un modelo falla, determinar dónde se concentran los fallos y qué explicaciones son lo suficientemente creíbles como para ser reportadas es difícil. Los auditores suelen probar muchas explicaciones candidatas (por ejemplo, entradas largas, preguntas indirectas, combinaciones específicas de metadatos). El riesgo es el sesgo de selección: el mayor incremento de error observado puede reflejar un modo de fallo genuino, o simplemente puede ser el resultado más favorable entre muchos candidatos probados (la "maldición del ganador").

Los métodos actuales de descubrimiento de segmentos (por ejemplo, SliceFinder, SliceLine) y la depuración asistida por LLM pueden generar muchas hipótesis plausibles, pero carecen de un mecanismo riguroso para distinguir entre modos de fallo genuinos y artefactos del proceso de búsqueda. El artículo argumenta que una explicación encontrada tras muchos intentos requiere una validación más estricta que una nombrada de antemano.

2. Metodología: Janus

Los autores introducen Janus, un procedimiento diseñado no para generar nuevas explicaciones, sino para decidir qué explicaciones propuestas son lo suficientemente creíbles como para ser reportadas. El método se basa en dos salvaguardas principales: la calibración con decoys (señuelos) y la replicación en conjunto de prueba (holdout).

Definiciones Principales

• Descriptor: Una propiedad interpretable de verdadero/falso de un ejemplo (ej., cadena_larga, consulta_indirecta).
• Segmento (Slice): El subconjunto de ejemplos donde un descriptor es verdadero.
• Incremento (Lift): La diferencia en la tasa de error entre el segmento y su complemento ($err(g=1) - err(g=0)$).
• Decoy (Señuelo): Un descriptor falso con la misma prevalencia (frecuencia de ser verdadero) que un descriptor real, pero con valores asignados aleatoriamente a los ejemplos.
• División de Descubrimiento (Discovery Split): Los datos utilizados para puntuar los descriptores frente a los decoys.
• División de Holdout (Holdout Split): Un conjunto de datos fresco y separado utilizado para verificar los supervivientes.

El Procedimiento

1. Biblioteca de Candidatos: El auditor comienza con una lista fija y congelada de descriptores candidatos ($G$) derivados del conocimiento del dominio, la minería de segmentos o la depuración asistida por LLM.
2. Construcción de Decoys: Para cada descriptor real, Janus genera $K$ decoys permutando los valores verdadero/falso a través de los ejemplos de descubrimiento mientras se preserva la prevalencia original. Esto crea un "suelo de decoys" empírico que representa el incremento máximo alcanzable por azar dadas las restricciones de tamaño de muestra y prevalencia.
3. Tamizaje de Descubrimiento (Procedimiento A):
   • Los descriptores se puntúan por su incremento absoluto en la división de descubrimiento.
   • Janus compara el número de descriptores reales ($R$) y decoys ($D$) que exceden varios umbrales de incremento.
   • Estima la Proporción de Falsos Descubrimientos (FDP) utilizando la razón: $\widehat{FDP}(\tau) = \frac{(L/K)D(\tau)}{\max(1, R(\tau))}$, donde $L$ es el número de descriptores reales y $K$ es el número de decoys.
   • El umbral se establece en el valor más permisivo donde el FDP estimado es inferior a un objetivo $q$ (por ejemplo, 0.10).
   • Los descriptores que superan este "suelo de decoys" se convierten en Supervivientes de Descubrimiento.
4. Confirmación de Holdout:
   • Los supervivientes de descubrimiento se reevalúan en la división de holdout.
   • Un descriptor se confirma solo si:
     • Retiene un soporte suficiente (tamaño de muestra).
     • Su incremento absoluto en el holdout excede un umbral mínimo (por ejemplo, $|lift| \ge 0.10$).
     • El signo del incremento coincide con el incremento de descubrimiento.

Esta separación asegura que los descriptores candidatos puedan provenir de cualquier fuente, pero solo aquellos que superen el suelo de decoys y se repliquen en datos frescos se conviertan en hallazgos de auditoría.

3. Contribuciones Clave

1. Formulación del Problema del Reporte: El artículo define explícitamente la tarea de decidir qué muchos descriptores candidatos reportar, distinguiendo entre proponer explicaciones y validarlas para su reporte.
2. Procedimiento Janus: La introducción de un procedimiento calibrado con decoys que compara el incremento de los descriptores contra descriptores falsos de idéntica frecuencia y requiere la replicación en datos de holdout.
3. Evaluación Empírica: La evaluación de Janus en una auditoría controlada con modos de fallo implantados y dos benchmarks públicos (MuSiQue y LongBench v2), demostrando su capacidad para recuperar señales implantadas mientras rechaza hallazgos plausibles pero no confirmados.

4. Resultados Experimentales

Auditoría Controlada (Estructura Implantada)

• Configuración: 160 tareas sintéticas de búsqueda en tablas múltiples donde se implantó intencionalmente un modo de fallo de "cadena larga" (que requiere múltiples saltos entre tablas).
• Resultado: Janus recuperó con éxito el fallo implantado. Confirmó seis descriptores, incluyendo cadena_larga (incremento +0.58) y sus interacciones con consultas indirectas y colisiones.
• Observación: El modelo tendía a detenerse a mitad de la cadena de búsqueda. Janus identificó correctamente este modo de fallo específico sin marcar cada segmento de alto error.

Benchmarks Naturales (MuSiQue y LongBench v2)

• Configuración: Auditorías en benchmarks públicos donde existen descriptores de metadatos plausibles (ej., conteo de saltos, tamaño del contexto), pero no se garantiza un modo de fallo de verdad fundamental.
• Resultado: Janus reportó cero descriptores confirmados para ambos benchmarks.
• Comparación: Métodos de referencia como SliceLine identificaron subgrupos de alto error (ej., bolsas de error del 85–93% en LongBench v2). Sin embargo, estos segmentos fallaron la calibración de decoys o la verificación de replicación en holdout.
• Ablación: Eliminar el suelo de decoys llevó a un sobre-reporte (20 descriptores en LongBench v2). Eliminar la puerta de holdout permitió que un único descriptor pasara a pesar de que su incremento disminuyó de 0.36 (descubrimiento) a 0.05 (holdout), ilustrando la "maldición del ganador".

5. Significado y Reivindicaciones

El artículo afirma que un segmento de error plausible no es necesariamente un hallazgo de auditoría reportable. El significado de Janus reside en su moderación:

• Separación de Descubrimiento y Reporte: Separa la generación de hipótesis de la validación requerida para el reporte.
• Calibración Empírica: Utiliza decoys para calibrar el "suelo de ruido" de las puntuaciones de incremento, reconociendo que grandes efectos pueden surgir por azar cuando se busca en espacios amplios.
• La Replicación como Puerta: Impone que una explicación seleccionada en una división debe mantener su dirección y fuerza en otra.

Los autores enfatizan que Janus es una regla de reporte, no un motor de explicación completo. No garantiza el control de la Tasa de Falsos Descubrimientos (FDR) en el sentido estadístico formal (como Benjamini-Hochberg) porque no asume un conjunto fijo de p-valores válidos o knockoffs intercambiables. En cambio, proporciona un filtro empírico para filtrar candidatos antes de un chequeo final de holdout. El artículo concluye que los candidatos de cualquier fuente (conocimiento del dominio, minería de segmentos, LLMs) se convierten en hallazgos de auditoría solo cuando superan a los decoys y se replican en datos frescos.