Resumen Técnico: Escapando de la Trampa del Acuerdo

1. Declaración del Problema: La Trampa del Acuerdo

Los sistemas automatizados de moderación de contenido se evalúan tradicionalmente utilizando métricas basadas en el acuerdo (por ejemplo, puntuación F1) frente a etiquetas humanas. Los autores argumentan que este enfoque falla en entornos regidos por normas donde múltiples decisiones pueden ser lógicamente consistentes con la política gobernante. En tales "zonas grises", los moderadores humanos resuelven la ambigüedad utilizando contexto, precedentes y normas interpretativas, creando etiquetas que reflejan una ruta de resolución específica en lugar de la estructura de la norma subyacente.

Cuando un modelo aprende de estas etiquetas, reproduce la ruta interpretativa. En consecuencia, las métricas basadas en el acuerdo penalizan decisiones válidas y fundamentadas en la política que se desvían de la etiqueta humana específica, confundiendo tres modos de fallo distintos:

1. Error del Modelo: El modelo viola las normas.
2. Divergencia del Moderador: El modelo y el humano eligieron diferentes rutas válidas.
3. Ambigüedad de la Política: Las normas mismas están subespecificadas.

Los autores denominan a este fenómeno la Trampa del Acuerdo. Conduce a una caracterización sistemática errónea del cumplimiento de normas como un error, particularmente cuando el conjunto de resultados defendibles por la política es de conjunto de valores (contiene más de un elemento).

2. Metodología: El Marco de Defensa

Para abordar esto, el artículo formaliza la evaluación como corrección fundamentada en la política, desplazando el enfoque del acuerdo con etiquetas históricas hacia la derivabilidad lógica bajo una jerarquía de normas explícita.

2.1 Formalización y Métricas

El marco evalúa una decisión propuesta $\hat{y}$ (por ejemplo, ELIMINAR o APROBAR) frente a un contenido $C$, una jerarquía de normas $R$ (normas globales de la plataforma $R_G$ y normas específicas de la comunidad $R_C$), y un corpus de precedentes $P$. Una decisión es defendible si existe una derivación lógica válida desde $(C, R, P)$ hasta $\hat{y}$.

Las decisiones se clasifican en tres niveles:

• L1 (Robustamente Defendible): Una norma explícita autoriza directa y inequívocamente la decisión.
• L2 (Plausible Defendible): Las normas son genuinamente ambiguas, pero la decisión está razonablemente respaldada.
• L3 (Indefendible): Ninguna norma explícita autoriza la decisión, o el razonamiento invoca conceptos ausentes del conjunto de normas.

Se introducen dos métricas principales:

• Índice de Defensa (DI): La fracción de decisiones que son L1 o L2. Objetivo: $\ge 0.90$.
• Índice de Ambigüedad (AI): La fracción de decisiones donde se activa una "verificación inversa" (verificando si la decisión opuesta también es derivable). Objetivo: $\le 0.15$. El AI se descompone en subespecificación a nivel de plataforma ($A_{IG}$) y a nivel de comunidad ($A_{IC}$).

2.2 Implementación de Auditoría

El marco emplea una auditoría estructurada utilizando un Modelo de Auditoría ($M_a$). A diferencia de los enfoques estándar de "LLM como juez" que evalúan la calidad subjetiva, $M_a$ actúa como un motor de razonamiento restringido. Recibe el contenido, las normas, los precedentes y la decisión propuesta, y luego genera una traza de razonamiento JSON:

1. Cadena Lógica: Pasos de inferencia.
2. Cita de Política ($\kappa$): Referencia explícita a la norma (comprometida antes del veredicto).
3. Peso del Precedente ($\omega$): Importancia de los casos pasados.
4. Verificación Inversa ($\iota$): Si la decisión opuesta también es derivable.
5. Nivel de Defensa ($\xi$): L1, L2 o L3.

Este ordenamiento asegura que la clasificación se base en una referencia de gobernanza explícita, evitando que el modelo racionalice una salida predeterminada.

2.3 Señal Probabilística de Defensa (PDS)

Para estimar la estabilidad del razonamiento sin pasadas de auditoría adicionales, los autores introducen PDS, derivado de los log-probabilidades de los tokens del modelo de auditoría. PDS extrae un vector de tres componentes de una sola pasada hacia adelante:

1. $\lambda_\xi$ (Confianza Logarítmica de la Etiqueta): Log-probabilidad del nivel final de defensa.
2. $H[\kappa]$ (Entropía del Rango de Cita): Entropía de Shannon sobre los tokens de cita de la política. Una alta entropía indica incertidumbre en la selección de la norma.
3. $\sigma(\rho)$ (Log-Odds de Verificación Inversa): Log-odds de que se active la verificación inversa. Valores altos indican que el modelo no está seguro de si la decisión es indefendible.

Estos componentes se combinan en un escalar $S$ mediante calibración. El marco hipotetiza que la varianza en PDS está impulsada principalmente por la ambigüedad de gobernanza y no por el ruido de decodificación.

3. Contribuciones Clave

1. Formalización de la Corrección Fundamentada en la Política: Introducción de DI y AI para separar las decisiones defendibles por la política de las indefendibles, yendo más allá de las métricas de acuerdo.
2. Señal Probabilística de Defensa (PDS): Una señal de estabilidad de costo cero extraída de los log-probabilidades del modelo de auditoría que se correlaciona con la inestabilidad del razonamiento.
3. Puerta de Gobernanza: Un mecanismo de despliegue operativo que restringe la aplicación automatizada a cohortes que satisfacen umbrales específicos de DI y AI, permitiendo una cobertura de automatización basada en principios con reducción de riesgos.

4. Resultados Empíricos

El marco fue validado en más de 193,000 decisiones de moderación de Reddit a través de múltiples comunidades, auditadas contra normas globales de la plataforma y específicas de la comunidad.

4.1 La Brecha Acuerdo-Defensa

• Divergencia de Métricas: Existe una brecha de 33–46.6 puntos porcentuales entre las puntuaciones F1 basadas en acuerdo y el Índice de Defensa.
• Análisis de Falsos Negativos: 79.8–80.6% de los "falsos negativos" del modelo (desacuerdos con etiquetas humanas) eran en realidad decisiones fundamentadas en la política (L1 o L2). Esto confirma la Trampa del Acuerdo: las métricas estándar penalizan el cumplimiento válido de normas cuando se desvían de interpretaciones humanas específicas.
• Causa Raíz: Solo el 19.4% de los desacuerdos fueron errores reales del modelo (L3); el resto fue aplicación implícita de normas o ambigüedad de la política.

4.2 PDS y Estabilidad

• Alineación Humana: PDS se correlaciona fuertemente con las calificaciones humanas de defensa ($\rho = 0.66, p < 10^{-4}$).
• Detección de Ambigüedad: Los log-odds de verificación inversa ($\sigma(\rho)$) son un 63% más altos en casos de desacuerdo que en casos de acuerdo.
• Análisis de Estabilidad: El muestreo repetido (1,000 réplicas) muestra que la varianza de PDS está impulsada por la ambigüedad de gobernanza, no por el ruido de muestreo. La relación de inestabilidad entre casos "inversos" y "estables" se mantiene plana (~1.6x) a través de un aumento de temperatura de diez veces, apoyando la hipótesis de ambigüedad de gobernanza.

4.3 Experimento de Subespecificación Normativa

La auditoría de 37,286 decisiones bajo tres niveles de especificidad de normas (Solo Título, Barra Lateral, Wiki) en r/AskReddit reveló:

• Reducción de AI: Añadir detalles de normas redujo el Índice de Ambigüedad en 10.8 puntos porcentuales (de 18.2% a 7.4%).
• Estabilidad de DI: El Índice de Defensa permaneció estable (~97-98%), indicando que las decisiones eran defendibles independientemente del detalle de la norma; lo que cambió fue la incertidumbre sobre su defendibilidad.
• Mecanismo: Las normas vagas crean principalmente decisiones ambiguas (L2) en lugar de indefendibles (L3).

4.4 Rendimiento de la Puerta de Gobernanza

Una Puerta de Gobernanza configurada con DI $\ge$ 0.90 y AI $\le$ 0.15 logró:

• 78.6% de Cobertura de Automatización en toda la flota.
• 64.9% de Reducción de Riesgo (reduciendo la tasa de decisiones indefendibles de 5.66% a 2.72% en la parte automatizada).
• El umbral de AI fue identificado como la restricción vinculante, lo que significa que la selectividad está determinada por la ambigüedad de la política y no por la validez del razonamiento.

4.5 Robustez Adversarial

En un "Benchmarck de Fundamentación Espuria" (1,000 casos que incluyen ataques adversariales):

• Detección: El sistema detectó el 93.5% de los ataques de inversión de acción y el 70.1% de los ataques de fundamentación alucinada.
• Superficie de Escape: El 29.9% de los ataques escaparon, específicamente aquellos que explotaban la "penumbra de la política" (normas de contenido subjetivo). Crucialmente, las normas vulnerables a estos ataques fueron las mismas identificadas por el Índice de Ambigüedad como necesitadas de clarificación, proporcionando corroboración independiente de la capacidad diagnóstica del marco.

5. Significado y Afirmaciones

El artículo afirma que la evaluación en entornos regidos por normas debe cambiar del acuerdo con etiquetas históricas a la validez fundamentada en el razonamiento bajo normas explícitas.

• Reencuadre de la Ambigüedad: El marco trata la ambigüedad de la política no como una deficiencia, sino como una característica de diseño deliberada (Subespecificación Normativa) que preserva el juicio humano. Las métricas cuantifican esta elasticidad para permitir una automatización segura donde la defensa es alta.
• LLM como Auditor de Razonamiento: El trabajo extiende el paradigma de "LLM como juez" de la evaluación de calidad subjetiva a la verificación lógica fundamentada en normas. Al tratar las normas como la fuente externa de verdad y el modelo de auditoría como un motor de razonamiento restringido, el sistema operacionaliza la consistencia normativa.
• Despliegue Práctico: La Puerta de Gobernanza proporciona un mecanismo principiado para escalar la automatización mientras preserva la auditabilidad, demostrando que las trazas de razonamiento de LLM (específicamente las distribuciones de log-probabilidades) pueden servir como señales de incertidumbre calibradas para la gobernanza.

Los autores concluyen que la convergencia del Índice de Ambigüedad, la varianza de PDS y las superficies de escape adversarial apunta a un único fenómeno subyacente: la subespecificación normativa. El marco proporciona la infraestructura para identificar y gestionar esta subespecificación en lugar de tratarla como un error del modelo.