Can AI Truly Represent Your Voice in Deliberations? A Comprehensive Study of Large-Scale Opinion Aggregation with LLMs

Resumen Técnico: Evaluación de la Agregación de Opiniones a Gran Escala con LLMs

1. Planteamiento del Problema

Las deliberaciones públicas a gran escala (como asambleas ciudadanas o debates parlamentarios) generan miles de contribuciones de texto libre que deben sintetizarse en resúmenes representativos y neutrales para su uso en políticas públicas. Aunque los Modelos de Lenguaje Grande (LLMs) ofrecen una promesa para automatizar esta síntesis, existen dos riesgos críticos:

1. Sesgo de Representación: Los LLMs tienden a sobre-representar las opiniones mayoritarias y a sub-representar sistemáticamente las perspectivas minoritarias, comprometiendo la equidad y la justicia en contextos de alta importancia.
2. Falta de Fiabilidad en la Evaluación: Las prácticas actuales dependen de LLMs genéricos como "jueces" para evaluar la calidad de los resúmenes. Sin embargo, estos jueces muestran una alineación débil con los juicios humanos, son inconsistentes y pueden introducir sus propios sesgos, lo que dificulta la evaluación fiable a gran escala.

El artículo aborda la pregunta central: ¿Pueden los LLMs apoyar realmente la deliberación produciendo resúmenes representativos, informativos y neutrales, y cómo podemos evaluarlos de manera fiable a gran escala?

2. Metodología

Los autores proponen un marco integral que incluye la creación de un nuevo conjunto de datos, un modelo evaluador especializado y una evaluación exhaustiva de múltiples modelos.

• DELIBERATIONBANK (Nuevo Benchmark):

  • Datos de Opinión: Se recopilaron 3.000 opiniones de texto libre de 300 participantes representativos de EE. UU. por cada una de las 10 preguntas de deliberación (temas de tecnología, redes sociales y políticas públicas).
  • Generación de Resúmenes: Se utilizaron 5 LLMs (incluyendo GPT-5, Claude-4, Gemini-2.5, DeepSeek y Qwen3) para generar resúmenes a partir de subconjuntos de opiniones de diferentes tamaños (escalabilidad).
  • Anotación Humana: Se reclutaron 4.500 anotadores (un grupo distinto al de las opiniones) para evaluar los resúmenes. Cada anotador escribió su propia opinión y luego evaluó un resumen en cuatro dimensiones:
    1. Representatividad: Grado en que el resumen captura semánticamente la opinión individual.
    2. Informatividad: Calidad de la información diversa y no redundante.
    3. Neutralidad: Ausencia de lenguaje sesgado y mantenimiento de una postura equilibrada.
    4. Aprobación de Política: idoneidad percibida del resumen para la toma de decisiones.

• DELIBERATIONJUDGE (Evaluador Automatizado):

  • Dado que los LLMs genéricos tienen una correlación baja con los juicios humanos (r < 0.4), los autores entrenaron DELIBERATIONJUDGE, un modelo basado en DeBERTa-v3 ajustado finamente (SFT) sobre las anotaciones humanas de DELIBERATIONBANK.
  • Este modelo normaliza las tareas de puntuación (1-5) y comparación (A vs B) en un espacio unificado para predecir vectores de puntuación continuos en el rango [0,1].
  • Ventaja: Logra una alineación mucho mayor con los humanos y es hasta 100 veces más eficiente computacionalmente que los LLMs como jueces.

• Evaluación de Modelos:

  • Se evaluaron 18 LLMs (desde modelos pequeños de 0.6B hasta modelos de frontera como GPT-5 y Claude-Opus) utilizando DELIBERATIONJUDGE para medir su rendimiento en la generación de resúmenes.
  • Se analizó el impacto del tamaño del conjunto de entrada, el tipo de pregunta (binaria vs. abierta) y el tamaño del modelo.

3. Contribuciones Clave

1. DELIBERATIONBANK: El primer conjunto de datos a gran escala y basado en humanos para la evaluación de resúmenes de deliberación, que incluye 3.000 opiniones originales y 4.500 instancias de juicio humano detalladas.
2. DELIBERATIONJUDGE: Un evaluador automatizado especializado que supera a los LLMs de propósito general en precisión de alineación con humanos y eficiencia, permitiendo la evaluación masiva y rentable.
3. Análisis de Sesgos Sistemáticos: Un estudio riguroso que identifica y cuantifica el sesgo contra las opiniones minoritarias en los resúmenes generados por LLMs, diferenciando entre minorías definidas subjetivamente (autoidentificadas) y objetivamente (detectadas por anomalías semánticas).

4. Resultados Principales

• Rendimiento de los LLMs: Los modelos más grandes (GPT-5, Claude-4) lideran el ranking, pero las diferencias entre ellos son modestas. La neutralidad es la dimensión donde los modelos están más alineados, mientras que la representatividad presenta mayores brechas.
• Ineficacia de los LLMs como Jueces: Los LLMs genéricos muestran una correlación baja (máximo ~0.37) con los juicios humanos, confirmando que no son sustitutos fiables para la evaluación sin un ajuste específico.
• Sesgo contra Minorías:
  • Existe una subrepresentación sistemática de las opiniones minoritarias en los resúmenes generados por LLMs.
  • La brecha de representatividad entre opiniones mayoritarias y minoritarias es significativa (hasta 0.08 en temas binarios).
  • Se descubrió que las minorías subjetivas (personas que sienten que su opinión es minoritaria) y las minorías objetivas (opiniones semánticamente únicas detectadas por algoritmos) tienen una superposición menor al 10%. Sin embargo, ambos grupos sufren una menor representatividad en los resúmenes, aunque por razones diferentes (falta de claridad/confianza en el primer caso, rareza semántica en el segundo).
• Escalabilidad: El rendimiento de los LLMs mejora al aumentar el tamaño de la entrada hasta cierto punto (~100 opiniones), pero se estanca después, indicando limitaciones en la capacidad de agregar grandes volúmenes de deliberación.

5. Significado e Impacto

Este trabajo es fundamental para el desarrollo de herramientas de IA para la gobernanza democrática y la participación cívica:

• Validación de la Equidad: Demuestra que la automatización de la deliberación sin mecanismos de corrección de sesgos puede excluir sistemáticamente a las voces minoritarias, lo cual es inaceptable en contextos de políticas públicas.
• Herramienta de Evaluación: Proporciona a los investigadores y desarrolladores una metodología robusta y escalable (DELIBERATIONJUDGE) para auditar y mejorar los sistemas de resumen antes de su despliegue.
• Futuro de la IA Social: Sugiere que para lograr una IA verdaderamente representativa, los sistemas deben incorporar restricciones de equidad explícitas y evaluadores especializados que entiendan la dinámica de las opiniones humanas, más allá de la simple compresión de texto.

En conclusión, el estudio concluye que, aunque los LLMs tienen el potencial de escalar la deliberación, actualmente no pueden representar fielmente todas las voces sin intervención y evaluación rigurosa, y que la creación de evaluadores específicos como DELIBERATIONJUDGE es un paso necesario hacia sistemas de IA más justos y equitativos.