Consensus is Strategically Insufficient: Reasoning-Trace Disagreement as a Knowledge-Representation Signal

Resumen Técnico: El consenso es estratégicamente insuficiente

Planteamiento del problema
Los sistemas multi-agente actuales basados en LLM están diseñados predominantemente para minimizar el desacuerdo entre agentes mediante mecanismos como la votación por mayoría, rondas de debate o agregación tolerante a fallos. Si bien esto es efectivo para tareas instrumentales donde el desacuerdo señala ruido o fallos de razonamiento, se argumenta que este objetivo de búsqueda de consenso es estratégicamente insuficiente para tareas con carga de valores (por ejemplo, moderación de contenidos). En tales dominios, el desacuerdo suele reflejar una incertidumbre normativa genuina, variación de perspectivas o pluralismo de valores, en lugar de un error del agente. Tratar todo desacuerdo como un defecto que debe promediarse corre el riesgo de oscurecer situaciones de disputa legítimas y no logra distinguir entre la ambigüedad interpretativa y el conflicto evaluativo.

Metodología
Los autores proponen una capa de Representación del Conocimiento (KR) que abstrae las salidas de los agentes en estados de desacuerdo simbólicos, sirviendo como interfaz entre la deliberación subsimbólica de los LLM y el control estratégico simbólico.

1. Modelo Formal:

   • Un sistema consiste en $n$ agentes, cada uno produciendo una salida $O_i(c) = \langle r_i, d_i, v_i, \gamma_i \rangle$, donde $r_i$ es un rastro de razonamiento explícito, $d_i$ es una decisión binaria (ej. MANTENER/ELIMINAR), $v_i$ es un perfil de valores y $\gamma_i$ es una puntuación de confianza.
   • La capa de KR evalúa dos dimensiones:
     • Similitud de Razonamiento: Medida mediante la similitud semántica $sim(r_i, r_j)$ de los rastros de razonamiento. Un umbral $\theta_s$ determina si la similitud es Alta o Baja.
     • Acuerdo de Conclusión: Medido por la proporción de agentes que concuerdan en una decisión. Un umbral $\theta_a$ determina si el grupo está en Acuerdo o Desacuerdo.

2. Taxonomía Simbólica:
   Combinando estas dimensiones se obtienen cuatro estados epistémicos distintos:

   • Acuerdo Convergente (CA): Alta similitud de razonamiento + Acuerdo de conclusión.
   • Acuerdo Divergente (DA): Baja similitud de razonamiento + Acuerdo de conclusión.
   • Desacuerdo Convergente (CD): Alta similitud de razonamiento + Desacuerdo de conclusión.
   • Desacuerdo Divergente (DD): Baja similitud de razonamiento + Desacuerdo de conclusión.

3. Enrutamiento Estratégico Defaisible:
   El sistema mapea estos estados a meta-acciones estratégicas mediante reglas defeaisibles (razonamiento no monotónico), permitiendo anulaciones basadas en restricciones específicas del dominio (ej. requisitos legales o niveles de riesgo):

   • CA $\Rightarrow$ Auto: Aceptar automáticamente la decisión.
   • DA $\Rightarrow$ AutoExplain: Aceptar la decisión pero preservar explicaciones diversas para las partes interesadas.
   • DD $\Rightarrow$ SeekContext: Solicitar información adicional o mayor deliberación (indica una interpretación inestable).
   • CD $\Rightarrow$ Escalate: Derivar al juicio humano (indica una interpretación compartida pero con ponderaciones de valor conflictivas).

Contribuciones Clave

1. Reencuadre del Desacuerdo: El artículo reencuadra el desacuerdo no como un obstáculo de agregación, sino como un estado epistémico representable del sistema multi-agente.
2. Taxonomía Compacta: Define una taxonomía de cuatro estados basada en la intersección de la similitud de razonamiento y el acuerdo de conclusión, distinguiendo entre casos donde los agentes discrepan debido a la ambigüedad (DD) frente al conflicto de valores (CD).
3. Política de Enrutamiento Estratégico: Asocia estos estados con reglas de enrutamiento defeaisibles, permitiendo al sistema razonar sobre si decidir, indagar o escalar, en lugar de centrarse únicamente en qué decidir.
4. Verificación de Fidelidad Empírica: Los autores validan la capa de KR utilizando una configuración de moderación de contenidos con cinco agentes LLM diferenciados por perfiles de valores (centrados en el daño, libertad de expresión, etc.) sobre el corpus Measuring Hate Speech.

Resultados

• Distribución y Ordenamiento: En una muestra de 600 elementos, la distribución de casos a través de los estados preservó el orden conceptualmente predicho del desacuerdo de los anotadores humanos: Acuerdo Divergente (DA) < Acuerdo Convergente (CA) < Desacuerdo Divergente (DD) < Desacuerdo Convergente (CD).
• Significancia Estadística: Los dos estados de desacuerdo (CD, DD) se separaron conjuntamente de los estados de acuerdo (CA, DA) con un gran tamaño de efecto (Cohen's $d = 0.80$), lo que sugiere que la abstracción estructural rastrea fenómenos que los humanos también perciben.
• Desempeño Predictivo: Un enfoque de enrutamiento basado en categorías (usando los cuatro estados) logró un F1 score más alto (0.548) al señalar casos de alto desacuerdo humano en comparación con un baseline que utilizaba solo la magnitud de la divergencia de razonamiento (0.503). El enfoque basado en categorías mejoró la precisión al distinguir entre casos ambiguos (DD) y conflictos normativos (CD), los cuales un métrico basado solo en magnitud confunde.

Significancia y Reivindicaciones
El artículo sostiene que la estructura del desacuerdo porta información que su magnitud por sí sola no posee. Específicamente, el Desacuerdo Convergente (CD) se identifica como una señal fuerte de conflicto normativo donde los agentes comparten una descripción de un caso pero priorizan los valores de manera distinta. En tales casos, se argumenta que forzar el consenso es un fallo de la automatización; en su lugar, la escalada es una meta-acción racional.

El marco se posiciona como una interfaz pragmática entre la deliberación subsimbólica y el control estratégico simbólico. Cierra la brecha entre la agregación de juicios (que combina votos sin exponer el razonamiento) y la argumentación formal (que modela grafos completos de ataque/soporte). Los autores enfatizan que esto es un "control de calidad" (sanity check) sobre la fidelidad de la capa de KR más que un benchmark de la política de enrutamiento en sí, señalando que el orden cualitativo de los estados es el principal resultado de carga estructural. El trabajo sugiere que, para tareas con carga de valores, el objetivo de los sistemas multi-agente debe cambiar de "cómo hacer que los agentes estén de acuerdo" a "qué implica la estructura del desacuerdo para la siguiente acción".