The Democratic Ontology Deficit: How AI Systems Fail to Represent What Democracy Requires

1. El Problema: El Déficit de Ontología Democrática

El artículo identifica un problema fundamental en la alineación de los sistemas de Inteligencia Artificial (IA) actuales: el déficit de ontología democrática. Este concepto describe una desconexión estructural entre las condiciones institucionales que requiere la agencia democrática y la ontología representacional que los modelos de lenguaje actuales aprenden y reproducen.

• Contexto: La vida pública democrática depende de instituciones que hacen inteligibles los roles, responsabilidades, relaciones y propósitos compartidos. Sin embargo, la vida pública se ha "adelgazado" (thin democracy), perdiendo la estructura que da sentido a la acción colectiva.
• La Falla de la IA: Los modelos de lenguaje (LLMs) se entrenan en corpus web a gran escala y se alinean para ser "útiles, inofensivos y honestos". Sin embargo, no han tratado la estructura representacional de la vida institucional democrática como un objetivo de alineación.
• Consecuencia: La IA trata el lenguaje como datos y la acción pública como comportamiento individual, ignorando la arquitectura de roles y responsabilidades. Esto amplifica el "adelgazamiento" de las instituciones, reproduciendo una visión atomizada e individualista donde las distinciones institucionales (quién es quién, qué debe hacer, por qué) se vuelven ilegibles para el razonamiento de la máquina.

2. Metodología: Ingeniería de Representación (Representation Engineering)

Los autores aplican la Ingeniería de Representación (Zou et al., 2023) para medir la orientación por defecto de los modelos frente a los requisitos democráticos.

• Muestras: Se probaron tres modelos instruidos: Llama-2-13b-chat, Mistral-7B-Instruct-v0.2 y Meta-Llama-3-8B-Instruct.
• Primitivas Cívicas: Se definieron cuatro primitivas representacionales mínimas necesarias para interpretar la acción pública:
  1. Rol: Posición estructurada dentro de una institución.
  2. Responsabilidad: Obligación derivada de la posición institucional.
  3. Relación: Vinculación estructurada entre actores (jerárquica, recíproca, etc.).
  4. Propósito: Orientación hacia un bien público compartido.
• Procedimiento Experimental:
  1. Extracción de Vectores de Lectura: Se utilizaron estímulos contrastivos (pares de prompts idénticos salvo por un token de identidad, ej. "cívico" vs. "individual") para identificar direcciones en el espacio de representación del modelo que separan estas orientaciones.
  2. Medición de Orientación por Defecto: Se proyectaron 35 escenarios de juicio cotidiano (sin vocabulario institucional) sobre estos vectores para ver hacia dónde tiende el modelo naturalmente.
  3. Línea Base de Comparación: Se compararon las primitivas cívicas contra una referencia común: la independencia (individualismo atomizado).
  4. Benchmark: Se replicó el vector de lectura de "honestidad" (un valor alineado exitosamente) en los mismos modelos y capas para comparar la magnitud de la alineación cívica frente a la honestidad.

3. Contribuciones Clave

• Definición de "Arquitectura Cívica": Propone un marco de diseño que exige que los modelos de IA incorporen distinciones representacionales estructuradas (rol, responsabilidad, relación, propósito) en su núcleo, no solo como salida, sino como base de su razonamiento.
• Evidencia Empírica del Déficit: Proporciona la primera evidencia cuantitativa de que, aunque los modelos pueden generar lenguaje cívico, su geometría interna por defecto no organiza el razonamiento bajo una estructura institucional democrática.
• Diagnóstico de la Alineación: Demuestra que el problema no es una limitación técnica de los modelos, sino un vacío en la agenda de investigación de alineación (RLHF, DPO, etc.), que ha priorizado valores como la honestidad sobre la estructura institucional.

4. Resultados Principales

Los resultados revelan una exhaustión cívica estructural: el vocabulario cívico está presente, pero su arquitectura gobernante está ausente.

• Dominio del Individualismo: La ontología por defecto de los modelos está organizada bajo la independencia (individualismo atomizado) en lugar de la estructura cívica.
• Colapso de las Primitivas:
  • Rol: Es el déficit más profundo. La representación de "persona" es casi exclusivamente individual, no comunitaria.
    • Puntuación (Rol Comunitario vs. Independencia): -0.047 (en Llama-2).
  • Propósito y Responsabilidad: También colapsan por debajo de 0.5 cuando se comparan con la independencia, indicando que el modelo no prioriza el propósito colaborativo ni la obligación estructural.
  • Relación: Es la única primitiva que mantiene un carácter cívico fuerte (puntuación ~0.81), sugiriendo que el modelo entiende la responsabilidad interpersonal, pero no la institucional.
• Comparación con la Honestidad:
  • La honestidad (un valor alineado) tiene una puntuación de 0.707.
  • El rol cívico tiene una puntuación de -0.047.
  • Esto demuestra que la IA puede aprender y representar fuertemente valores morales abstractos (honestidad), pero no la estructura de roles institucionales.
• Replicación y Evolución:
  • El patrón se repite en Mistral y Llama-3.
  • Llama-3 muestra una mejora en la honestidad (0.905) debido a un mejor entrenamiento de alineación, pero no mejora en la estructura cívica; de hecho, la responsabilidad frente a la independencia empeora (-0.176). Esto indica que las mejoras actuales de alineación amplían la brecha entre lo que se mide y lo que se necesita para la democracia.

5. Significado e Implicaciones

• No es un Error Técnico, es un Vacío de Diseño: La diferencia entre la capacidad de representar la honestidad y la incapacidad de representar el rol cívico no es una falla técnica, sino una omisión en la agenda de investigación. Las herramientas para corregirlo (ingeniería de representación) ya existen.
• Riesgo de Recursión: Si los sistemas de IA interpretan consistentemente las preguntas institucionales como preferencias individuales, entrenan a los usuarios para ver el mundo de la misma manera, erosionando aún más el significado público y la capacidad de agencia democrática.
• Hacia la Alineación Cívica: El artículo propone un programa de investigación concreto para la "alineación cívica". Esto implica utilizar la ingeniería de representación para identificar y fortalecer las direcciones representacionales de los roles comunitarios, propósitos colaborativos y responsabilidades institucionales, integrando la "infraestructura cívica" en el núcleo de los modelos de IA.

En resumen, el paper argumenta que para que la IA apoye la democracia en lugar de erosionarla, debe dejar de ser una herramienta de predicción de tokens basada en el individualismo y convertirse en una infraestructura representacional que haga visible y legible la arquitectura de roles y responsabilidades compartidas.