The Democratic Ontology Deficit: How AI Systems Fail to Represent What Democracy Requires

1. Le Problème : Le Déficit Ontologique Démocratique

L'article identifie un problème fondamental qu'il nomme le déficit ontologique démocratique. Il s'agit d'un décalage structurel entre les conditions institutionnelles requises pour l'agence démocratique et l'ontologie (la structure de représentation du monde) que les systèmes d'IA contemporains apprennent et reproduisent.

• Contexte : La vie publique démocratique dépend d'institutions qui rendent intelligibles les rôles, les responsabilités, les relations et les objectifs communs. Or, ces institutions s'affaiblissent, et les systèmes d'IA, entraînés sur des corpus web à grande échelle, héritent et amplifient cette "minceur" (thinning) de la vie publique.
• La cause technique : Les modèles de langage (LLM) sont entraînés pour prédire le prochain token. Cette tâche favorise la cohérence de surface et la complétion de motifs, mais ne capture pas la structure institutionnelle durable (rôles, obligations, autorité).
• La conséquence : Les IA traitent l'action publique comme un comportement individuel décontextualisé. Elles ne possèdent pas de "représentation primitive" pour distinguer un rôle institutionnel d'une préférence individuelle. Le résultat est une exhaustion civique structurelle : le vocabulaire civique est présent, mais l'architecture qui donne du sens à l'action collective est absente. L'IA par défaut adopte une orientation d'individualisme atomisé et d'indépendance, effaçant la dimension communautaire et institutionnelle.

2. Méthodologie : Ingénierie de Représentation (Representation Engineering)

Pour tester empiriquement cette hypothèse, les auteurs appliquent la méthode de l'ingénierie de représentation (Zou et al., 2023) à trois modèles instructifs :

• Llama-2-13b-chat
• Mistral-7B-Instruct-v0.2
• Meta-Llama-3-8B-Instruct

Protocole expérimental :

1. Définition des primitives civiques : Les auteurs définissent quatre primitives minimales nécessaires pour interpréter l'action publique comme institutionnelle :
   • Rôle (position structurée)
   • Responsabilité (obligation structurelle)
   • Relation (liens structurés entre acteurs)
   • But (objectif institutionnel partagé)
2. Extraction des vecteurs de lecture (Reading Vectors) :
   • Ils créent des stimuli contrastés (paires de prompts) pour forcer le modèle à adopter soit une orientation civique, soit une orientation alternative (ex: individuelle, professionnelle, analytique).
   • En utilisant l'Analyse en Composantes Principales (PCA) sur les différences d'activation neuronale, ils extraient un vecteur de lecture qui représente la direction de l'espace latent correspondant à une notion spécifique (ex: "civisme" vs "indépendance").
3. Mesure de l'orientation par défaut :
   • Ils projettent 35 scénarios de jugement quotidien (sans vocabulaire institutionnel ni tokens d'identité) sur ces vecteurs.
   • L'objectif est de voir vers quelle pôle (civique ou alternatif) le modèle tend naturellement en l'absence de contrainte explicite.
4. Benchmark : Ils répliquent la mesure du vecteur d'honnêteté (déjà validé par Zou et al.) sur les mêmes modèles et couches pour servir de référence technique.

3. Résultats Clés

Les résultats révèlent un déficit profond et systématique dans la structure interne des modèles :

• Dominance de l'Indépendance : L'ontologie par défaut des modèles est organisée autour de l'indépendance (individualisme atomisé) plutôt que de la structure civique.
• Effondrement des Primitives Civiques :
  • Contre la référence "indépendance", la primitive Rôle s'effondre (score moyen de -0,047 pour Llama-2, indiquant que le modèle voit le "communautaire" comme moins pertinent que l'individuel).
  • Les primitives But et Responsabilité tombent également en dessous du seuil de 0,5 (0,146 et 0,219 respectivement).
  • Seule la primitive Relation conserve une certaine force civique (0,810), mais elle est insuffisante pour soutenir une architecture démocratique complète.
• Comparaison avec l'Honnêteté :
  • Le score d'honnêteté est élevé (0,707), confirmant que l'alignement a réussi à intégrer cette valeur.
  • Le score de Rôle civique est négatif (-0,047).
  • Conclusion : Ce n'est pas une limitation technique de la méthode ou du modèle, mais un choix de l'agenda de recherche. L'honnêteté a été opérationnalisée et intégrée ; le raisonnement civique ne l'a pas été.
• Replication et Évolution :
  • Le pattern se répète sur Mistral et Llama-3.
  • Llama-3, bien que plus "honnête" (score 0,905) grâce à un meilleur entraînement d'alignement, n'a pas amélioré sa structure civique. Au contraire, sa capacité à représenter la responsabilité par rapport à l'indépendance s'est dégradée. Cela prouve que l'amélioration de l'alignement standard (sécurité, aide, honnêteté) ne corrige pas le déficit ontologique démocratique.

4. Contributions Principales

1. Théorique : Définition de l'architecture civique comme réponse de conception. L'article postule que pour soutenir l'agence démocratique, les IA doivent intégrer des distinctions représentatives structurées (rôle, responsabilité, relation, but) dans leur noyau, et non seulement en surface.
2. Empirique : Fourniture de la première preuve quantitative du déficit ontologique démocratique au niveau des représentations internes (neuronales) des LLM, utilisant l'ingénierie de représentation.
3. Méthodologique : Démonstration que les outils existants (vecteurs de lecture) peuvent diagnostiquer et potentiellement corriger l'absence de structures civiques, tout comme ils le font pour l'honnêteté ou la sécurité.
4. Critique de l'Alignement : Identification d'un angle mort dans la recherche sur l'alignement : l'optimisation pour l'honnêteté et l'utilité ne garantit pas la compréhension des conditions institutionnelles de la vie démocratique.

5. Signification et Implications

• Risque de Recursion : L'article met en garde contre un effet de boucle de rétroaction. Si les IA interprètent systématiquement les questions institutionnelles comme des préférences individuelles, elles entraînent les utilisateurs à adopter ce même cadre interprétatif, accélérant l'érosion du sens public.
• Nouveau Programme de Recherche : Les auteurs appellent à un programme de recherche concret pour l'alignement civique. Il ne s'agit pas de réparer la démocratie via l'IA, mais de construire des modèles capables de rendre lisibles les conditions de possibilité de la vie démocratique.
• Urgence de Conception : La "civic architecture" doit devenir une priorité de conception. Les modèles doivent être capables de distinguer un rôle institutionnel d'une opinion personnelle pour que l'action publique reste intelligible et responsable.

En résumé, l'article démontre que les IA actuelles, bien que performantes sur des tâches linguistiques et éthiques standards, possèdent une ontologie structurellement incompatible avec les exigences de la démocratie, car elles effacent les distinctions de rôle et de responsabilité collective au profit d'un individualisme atomisé.