Resumen Técnico: De las Decisiones de Redes Neuronales a los Casos de Entrenamiento

Planteamiento del Problema

Las redes neuronales se despliegan cada vez más en dominios de alto riesgo (por ejemplo, diagnóstico médico, aprobación de créditos, licitación de energía) donde las decisiones requieren algo más que explicaciones a nivel de características. Los auditores y las partes interesadas necesitan evidencia a nivel de caso: instancias de entrenamiento específicas que respalden una decisión, los resultados que esas instancias conllevaron y cómo moldean la preferencia de la acción actual. Mientras que los métodos de atribución de características (por ejemplo, valores de Shapley) identifican variables de entrada influyentes, no rastrean explícitamente las decisiones hacia los datos de entrenamiento.

Las redes neuronales estándar absorben la experiencia de entrenamiento en parámetros aprendidos, lo que hace que la conexión entre una decisión desplegada y sus casos de entrenamiento relevantes sea indirecta. Aunque la Teoría de la Decisión Basada en Casos (CBDT, por sus siglas en inglés) formaliza el razonamiento mediante la agregación del soporte de resultados de casos recordados, la aplicación de este marco a redes neuronales estándar con representaciones fijas sigue siendo un desafío abierto. El problema central es determinar cuándo y cómo los coeficientes de una lectura lineal sobre una representación neuronal fija pueden interpretarse como pesos de similitud tipo CBDT frente a términos de influencia geométrica con signo, y cómo utilizar esta descomposición para la auditoría post-entrenamiento sin reentrenar.

Metodología

1. Marco Tecreto: Descomposición Exacta de Casos

El artículo establece un vínculo matemático exacto entre las lecturas de Mínimos Cuadrados Ordinarios (OLS) sobre representaciones neuronales fijas y el razonamiento basado en casos.

• Configuración: Considere una red entrenada con un mapa de representación fijo $\phi(x) \in \mathbb{R}^H$. Para una acción discreta $a$, la lectura es lineal: $Q(x, a) = v_a^\top \phi(x)$.
• Lectura OLS: El vector de pesos $v_a$ se ajusta mediante OLS para minimizar la pérdida cuadrática contra los vectores de retorno condicionados a la acción $r_a$ derivados de los casos de entrenamiento.
• Descomposición Exacta: Los autores derivan que la puntuación de lectura para cualquier acción $a$ en una entrada $x$ es exactamente una suma ponderada de los retornos de los casos de entrenamiento:
  $$Q(x, a) = \sum_{i=1}^n \alpha_i(x) r_{i,a}$$
  donde el coeficiente $\alpha_i(x) = \phi(x)^\top G^{-1} \phi(x_i)$ está determinado por la matriz de Gram empírica $G = \Phi^\top \Phi$ de las representaciones de entrenamiento.
• Semántica:
  • Régimen de Similitud CBDT: Si la representación está blanqueada ($G = nI_H$) y los coeficientes son no negativos, $\alpha_i(x)$ se comporta como un peso de similitud CBDT estándar (producto interno escalado).
  • Influencia de Signo Gram-Geométrica: Fuera de este régimen, los coeficientes tienen signo y no están normalizados. Representan influencia gram-geométrica con signo, donde los coeficientes positivos indican casos cercanos en el espacio de representación que elevan la puntuación, y los coeficientes negativos actúan como correcciones de campo lejano que bajan o compensan la puntuación.

2. Señales de Auditoría

Basándose en la descomposición, los autores proponen tres señales de auditoría:

1. Puntuación de Auditoría de Caso: Descompone la puntuación de la acción en contribuciones $\psi_i(a, x) = \alpha_i(x)r_{i,a}$. Clasificar por contribución absoluta identifica los casos influyentes; clasificar por signo distingue entre casos de apoyo versus casos de compensación.
2. Entropía de Influencia: Mide la coherencia de la evidencia de la acción entre los $k$ casos más influyentes. Una entropía baja indica un apoyo consistente para una sola acción; una entropía alta sugiere evidencia conflictiva.
3. Diagnóstico de Riesgo de Influencia de Caso: Combina la entropía de influencia con un término de desacuerdo de Gini entre los 10 mejores casos para señalar consultas con soporte débil o disperso, particularmente útil para detectar cambios en la covariable.

3. Configuración Experimental

El método se evalúa en:

• Generador de CBDT Sintético: Para verificar la recuperación de estructuras de preferencia de casos conocidas.
• Licitación de Energía PJM: Datos de carga reales con retornos de precios sintéticos para un problema de licitación de 3 acciones.
• Conjuntos de Datos UCI: Adult Income (tarea de aprobación) y Default Credit (tarea de exposición al riesgo) utilizando retornos proxy.
• Líneas Base: Funciones de Influencia, Selección de Punto Representante, TracIn y una línea base de producto interno.

Contribuciones Clave

1. Explicación de Estilo CBDT Exacta: El artículo demuestra que, para lecturas OLS de representación fija, cada puntuación de acción es una agregación exacta de los retornos de los casos de entrenamiento. Esto proporciona una ruta directa y no aproximada desde una decisión neuronal hacia los casos de entrenamiento específicos que la moldean.
2. Clarificación Semántica: Los autores caracterizan las condiciones bajo las cuales los pesos de los casos funcionan como pesos de similitud CBDT (régimen blanqueado, no negativo) frente a cuándo deben interpretarse como influencia gram-geométrica con signo. Esta distinción evita la confusión de "similitud" con "influencia" en contextos de auditoría.
3. Marco de Auditoría Sin Reentrenamiento: La auditoría propuesta requiere solo el ajuste de una sonda OLS de capa superior sobre una representación fija. No requiere acceso a la trayectoria de optimización original, reentrenar el modelo o aproximaciones basadas en perturbaciones.

Resultados

• Recuperación de la Estructura de Casos: En el entorno sintético de CBDT, la lectura OLS logró un 96.0% de acuerdo en las pruebas con la acción óptima de CBDT, y las puntuaciones de soporte reconstruidas mostraron una fuerte correlación con los soportes reales de CBDT en todas las acciones.
• Calidad de la Atribución: En comparación con las líneas base (Funciones de Influencia, Punto Representante, TracIn), el método propuesto logró la mayor consistencia de acción Top-30 (0.941 frente a 0.909 para Funciones de Influencia) y una correlación de Pearson competitiva con las contribuciones de casos de la verdad fundamental.
• Desempeño en el Mundo Real:
  • PJM: El decisor de política neuronal y el de decisión CBDT coincidieron en 3221 de 3358 decisiones de prueba. Los desacuerdos se concentraron en regiones de transición de carga de bajo margen. La auditoría identificó con éxito que las acciones "agresivas" tenían un alineamiento de soporte más débil, marcándolas para una inspección más cercana.
  • Tareas UCI: Se observó una alta concordancia red-CBDT (0.9408 para Adult Income, 0.875 para Default Credit). La auditoría identificó con éxito la acción de "aprobación estándar" en Default Credit como la menos fielmente reconstruida, resaltando la ambigüedad.
• Utilidad Diagnóstica: El puntaje de riesgo de influencia de caso mejoró el AUC para la detección de predicciones incorrectas bajo cambios de covariable en comparación con las líneas base estándar de margen de red, demostando su utilidad para identificar consultas con soporte débil.

Significancia y Reivindicaciones

El artículo afirma proporcionar una visión de auditoría práctica post-entrenamiento de las decisiones neuronales al hacer algebraicamente explícita la base de los casos de entrenamiento.

• Modestia en el Alcance: Los autores declaran explícitamente que la descomposición exacta se aplica a lecturas OLS de representación fija. No afirman que cualquier entrenamiento no lineal de extremo a extremo admita la misma descomposición sin esta reducción.
• Límites de Interpretabilidad: El marco aclara que los casos recuperados no son uniformemente "de apoyo"; los coeficientes negativos juegan un papel crucial como correcciones geométricas. La auditoría es válida en la medida en que la fidelidad de la sonda (medida por la reconstrucción de la puntuación) lo permita.
• Practicidad: El método ofrece un compromiso: incurre en una mayor latencia por consulta (aprox. 58.6 ms) en comparación con las líneas base de sub-milisegundo, pero proporciona una recuperación de casos más relevante para la decisión sin necesidad de reentrenamiento o acceso a las trayectorias de entrenamiento.

El trabajo cierra la brecha entre el rigor teórico de la Teoría de la Decisión Basada en Casos y el despliegue práctico de las redes neuronales, ofreciendo una herramienta para rastrear, inspeccionar y disputar decisiones de IA de alto riesgo a través de la lente de su historial de entrenamiento.