Adaptive auditing of AI systems with anytime-valid guarantees

Resumen Técnico: Auditoría Adaptativa de Sistemas de IA con Garantías Válidas en Cualquier Momento

Enunciado del Problema

La caracterización de los modos de fallo en los sistemas de IA generativa está actualmente limitada por el alto costo y el tiempo requeridos para la anotación y la evaluación. En consecuencia, los profesionales han adoptado paradigmas de pruebas adaptativas, donde los casos de prueba y los tamaños de muestra se determinan de manera oportunista basándose en resultados previos (por ejemplo, red-teaming, aprendizaje activo o refinamiento con intervención humana). Aunque prácticos, estos flujos de trabajo violan las suposiciones estadísticas clásicas: los tamaños de muestra suelen ser pequeños (10–50 casos) y las decisiones de muestreo/parado se toman dinámicamente en lugar de mediante reglas preespecificadas.

La inferencia estadística estándar se basa en esquemas de muestreo fijos y en asintóticas de grandes muestras. Aplicar estos métodos a pruebas adaptativas infla las tasas de error de Tipo I (por ejemplo, "p-hacking" mediante observaciones continuas) y dificulta definir exactamente qué hipótesis se está probando. Específicamente, aprobar un conjunto de pruebas dirigido y adaptativo no certifica inherentemente la robustez global, ni la falta de un esquema de muestreo preespecificado permite probar el rendimiento promedio. Existe una brecha crítica en los marcos estadísticos que puedan respaldar una inferencia rigurosa bajo muestreo adaptativo arbitrario y parada opcional con garantías de muestra finita.

Metodología

Los autores proponen un marco que formaliza la auditoría de robustez de la IA mediante dos pruebas de hipótesis "en duelo" y aprovecha la Inferencia Válida en Cualquier Momento Segura (SAVI) para proporcionar garantías estadísticas.

1. Marco de Hipótesis en Duelo
La auditoría se enmarca como una competencia entre dos hipótesis nulas:

• La Nula del Modelo ($H_{mod}^0$): Afirma que el sistema de IA es globalmente robusto. Formalmente, para todos los subgrupos $S$ con prevalencia $\mu(S) \ge \epsilon$, el rendimiento promedio $V(S)$ está por encima de un umbral objetivo $q$. El rechazo implica la existencia de un modo de fallo.
• La Nula del Auditor ($H_{aud}^0$): Afirma que el auditor posee una estrategia adaptativa específica $\pi$ que eventualmente descubrirá un modo de fallo. Formalmente, existe un tiempo $\tau$ tal que para todo $t \ge \tau$, los subgrupos seleccionados $S_t^\pi$ tienen un rendimiento por debajo de $q$. El rechazo implica que la auditoría ha aprobado (el auditor no logró encontrar un modo de fallo).

El artículo demuestra que, bajo una estrategia de auditoría asintóticamente consistente (una que converge a encontrar modos de fallo si existen), estas dos hipótesis nulas son complementos asintóticos. Por lo tanto, rechazar la nula del auditor certifica efectivamente la robustez global.

2. Pruebas mediante Apuestas y Procesos-E
Para manejar el muestreo adaptativo arbitrario y la parada opcional, los autores utilizan el marco de "Pruebas mediante Apuestas". El auditor se conceptualiza como realizando apuestas contra subgrupos sospechosos de ser modos de fallo. Bajo la nula, ninguna estrategia de apuestas debería generar ganancias.

• Procesos-E: La riqueza de las apuestas se rastrea mediante procesos-e, que son los análogos secuenciales de los valores p. Un proceso-e $(E_t)$ garantiza que para cualquier tiempo de parada $\tau$, $E_P[E_\tau] \le 1$ bajo la hipótesis nula.
• Control del Error de Tipo I: Mediante la desigualdad de Ville, detenerse cuando un proceso-e supera $1/\alpha$ garantiza una tasa de error de Tipo I de como máximo $\alpha$, independientemente de la estrategia de muestreo adaptativo o del momento en que se detiene la prueba.

3. Estadísticos de Prueba Específicos
Los autores proponen varias formulaciones de procesos-e para ambas hipótesis:

• Relación de Verosimilitud (LR): Basada en la Prueba de Razón de Probabilidad Secuencial (SPRT), comparando la verosimilitud de la puntuación observada bajo la hipótesis de fallo ($q-\delta$) frente a la nula ($q$).
• Inferencia Universal (UI): Una versión adaptativa donde la probabilidad alternativa se estima a partir de los datos (por ejemplo, $\hat{\gamma}_{t-1}$) en lugar de fijarse, optimizando la "apuesta" basándose en las tasas de fallo aprendidas.
• Extensiones de Shiryaev-Roberts (SR): Estas integran la detección de cambios de régimen para manejar escenarios donde el auditor requiere un "período de aprendizaje" antes de identificar un modo de fallo. Suman relaciones de verosimilitud comenzando desde todos los posibles puntos de cambio, protegiéndose contra retrasos desconocidos.

4. Procedimiento de Prueba Dual
El marco ejecuta procesos-e simultáneos para $H_{mod}^0$ y $H_{aud}^0$. El procedimiento se detiene tan pronto como cualquiera de las dos estadísticas supera $1/\alpha$. Dado que las dos nulas son mutuamente excluyentes (bajo la suposición de una estrategia de auditoría válida), no es necesaria una corrección de Bonferroni; la Tasa de Error Familiar (FWER) se controla al nivel $\alpha$.

Contribuciones Clave

1. Formalización de Hipótesis en Duelo: El artículo establece un marco teórico donde la auditoría de IA se define como la prueba de la nula del modelo frente a la nula del auditor. Demuestra que, con un auditor suficientemente potente (asintóticamente consistente), estas pruebas son complementos asintóticos, permitiendo conclusiones binarias sobre la robustez global.
2. Procedimientos Duales Válidos en Cualquier Momento Seguros: Los autores introducen procesos-e duales que proporcionan límites de parada tanto para la detección de modos de fallo como para la certificación de la auditoría. Estos procedimientos mantienen el control del error de Tipo I de muestra finita bajo muestreo adaptativo arbitrario y parada opcional.
3. Validación Empírica: El estudio demuestra que las pruebas adaptativas combinadas con procesos-e alcanzan conclusiones rigurosas significativamente más rápido que los métodos preespecificados. En algunos casos, se alcanzan conclusiones estadísticamente válidas con tan solo 20 observaciones.

Resultados Experimentales

El marco se evaluó en dos configuraciones:

1. Datos Semisintéticos (Conjunto de Datos GPQA): Los autores simularon pipelines de IA con diversos grados de degradación del rendimiento en subgrupos.

   • Rendimiento: El procedimiento SR-LR-UI (Shiryaev-Roberts con Inferencia Universal) logró la mayor potencia en la detección de modos de fallo.
   • Comparación: Las estrategias adaptativas superaron significativamente a las estrategias preespecificadas (Estratificadas y Preaprendidas). Las estrategias preespecificadas a menudo fallaron en detectar modos de fallo, lo que llevó a una alta tasa de rechazo de la nula del auditor (aprobar la auditoría) incluso cuando el sistema no era robusto, un riesgo de mala interpretación.
   • Oráculo: Un auditor oráculo (que conoce el modo de fallo real) pudo rechazar la nula en 15–25 observaciones, lo que sugiere que estrategias de auditoría más inteligentes podrían reducir aún más los requisitos de muestra.
   • Control de Error: Cuando no existía ningún modo de fallo, todos los métodos aprobaron correctamente la auditoría (rechazaron $H_{aud}^0$) sin detectar falsamente fallos, confirmando el control del error de Tipo I.

2. Pipeline de LLM del Mundo Real (Notas Clínicas): El marco se aplicó a un LLM que extraía Determinantes Sociales de la Salud (SDoH) de notas clínicas.

   • Aprendizaje Adaptativo: El auditor adaptativo aprendió con éxito a aumentar el muestreo de categorías de baja precisión (Spearman $\rho = -0.84$ entre la frecuencia de muestreo y la precisión).
   • Eficiencia: SR-LR-UI requirió la menor cantidad de muestras para rechazar la nula del modelo (detectar que el sistema no era robusto) en comparación con otros métodos, excluyendo al Oráculo.

Significado y Afirmaciones

El artículo afirma proporcionar el primer marco estadístico que formaliza qué se puede probar y cómo probarlo bajo regímenes de auditoría de IA altamente flexibles y dirigidos. Al desacoplar la validez estadística de la estrategia de muestreo, permite a los profesionales utilizar pruebas adaptativas y eficientes en recursos (por ejemplo, red-teaming, aprendizaje activo) sin sacrificar el rigor estadístico.

Los autores enfatizan que, aunque el marco admite estrategias arbitrarias, la validez de la conclusión de "robustez global" depende del poder del auditor. Si el auditor es débil (por ejemplo, red-teaming deficiente), la auditoría puede aprobar incluso si existen modos de fallo, reflejando preocupaciones de que las auditorías mal diseñadas pueden ser un "teatro de seguridad". El trabajo busca empoderar a los profesionales para evaluar la robustez de la IA con confianza, proporcionando una base estadística general para prácticas de auditoría comunes y modernas.