The Democratic Ontology Deficit: How AI Systems Fail to Represent What Democracy Requires

Título: A Deficiência Ontológica Democrática: Como os Sistemas de IA Falham em Representar o que a Democracia Exige

Autores: Robert M. Ceresa e Juan E. Ceresa (Huston-Tillotson University, EUA)

1. O Problema: A Deficiência Ontológica Democrática

O artigo identifica um problema fundamental na interseção entre Inteligência Artificial (IA) e vida democrática, denominado "Deficiência Ontológica Democrática".

• A Tese Central: A vida pública democrática depende de instituições que tornam inteligíveis papéis, responsabilidades, relacionamentos e propósitos coletivos. No entanto, os sistemas de IA contemporâneos são treinados em corpora de escala web e alinhados para "utilidade", "inocuidade" e "honestidade", mas não têm a estrutura representacional da vida institucional democrática como um objetivo de alinhamento.
• A Lacuna: Existe um desajuste estrutural entre as condições que a agência democrática exige (uma ontologia baseada em instituições e coletividade) e a ontologia que os modelos de IA aprendem e reproduzem (uma ontologia baseada no individualismo atomizado e na independência).
• O Risco: Quando a IA é implantada como infraestrutura pública, ela não apenas reflete, mas amplifica o "adelgaçamento" da vida institucional. Ao tratar a ação pública como comportamento individual e descontextualizado, a IA erosiona a capacidade das pessoas de se verem como agentes responsáveis dentro de um mundo compartilhado, substituindo a orientação cívica por uma orientação de independência individual.

2. Metodologia: Engenharia de Representação

Para testar empiricamente essa hipótese, os autores aplicaram a Engenharia de Representação (Zou et al., 2023), uma técnica de transparência neural que mapeia os padrões de atividade global dos neurônios para identificar direções vetoriais específicas no espaço de representação do modelo.

• Modelos Analisados: Três modelos instruídos (instruction-tuned) de gerações e arquiteturas diferentes:
  1. Llama-2-13b-chat
  2. Mistral-7B-Instruct-v0.2
  3. Meta-Llama-3-8B-Instruct
• Primitivas Cívicas Definidas: Os autores definiram quatro primitivas representacionais mínimas necessárias para interpretar a ação pública como institucionalmente situada:
  1. Papel (Role): Posições estruturadas dentro de instituições.
  2. Responsabilidade (Responsibility): Obrigações derivadas da posição institucional, não da intenção pessoal.
  3. Relacionamento (Relationship): Ligações estruturadas entre papéis (hierárquicas, recíprocas, etc.).
  4. Propósito (Purpose): Orientação para bens públicos compartilhados.
• Protocolo Experimental:
  1. Extração de Vetores de Leitura: Utilizaram estímulos contrastivos (pares de prompts) para isolar as direções representacionais das primitivas cívicas (ex: "comunitário" vs. "individual").
  2. Teste de Orientação Padrão: Projetaram cenários de julgamento sem enquadramento (sem tokens de identidade) nos vetores extraídos para medir a orientação default do modelo.
  3. Comparação de Baseline: Mediram a orientação cívica contra uma referência de "independência" (individualismo) e compararam os resultados com um vetor de referência conhecido: Honestidade (replicando o estudo de Zou et al.).
  4. Camadas: As medições foram feitas em camadas específicas equivalentes (aproximadamente 66-67% da profundidade do modelo), onde a semântica de alto nível é mais estável.

3. Resultados Principais

Os resultados revelam uma discrepância crítica entre a capacidade de reconhecer conceitos cívicos e a estrutura ontológica padrão do modelo.

• Domínio da Independência: A ontologia padrão dos modelos é organizada sob a independência (individualismo atomizado), e não sob a estrutura cívica.
• Colapso das Primitivas Cívicas:
  • Quando testadas contra a referência "independência", todas as primitivas cívicas, exceto "Relacionamento", colapsam abaixo do ponto neutro (0.5).
  • Papel (Role): Apresenta a maior deficiência. O modelo vê "comunitário" como menos relevante que "independente" na vida cotidiana.
    • Llama-2: Escore de Papel vs. Independência = -0.047.
    • Llama-3: Escore de Papel vs. Independência = -0.039.
  • Propósito e Responsabilidade: Também colapsam sob a lente da independência, indicando que o modelo não prioriza obrigações coletivas ou propósitos compartilhados como estrutura governante.
• O Caso da Honestidade vs. Cívica:
  • A Honestidade (um valor de alinhamento comum) tem um escore alto de 0.707 no Llama-2 e 0.905 no Llama-3.
  • O Papel Cívico tem um escore negativo (-0.047).
  • Conclusão: A IA foi alinhada para ser honesta, mas não foi alinhada para ter uma estrutura cívica. A diferença não é técnica, mas de agenda de pesquisa.
• Replicação e Evolução: O padrão se mantém em todas as arquiteturas testadas. Curiosamente, o Llama-3, que possui treinamento de alinhamento mais avançado (honestidade aumentada de 0.707 para 0.905), não melhorou sua estrutura cívica; na verdade, a responsabilidade em relação à independência piorou (-0.176). Isso sugere que o alinhamento atual, focado em segurança e utilidade, não corrige a deficiência ontológica democrática.

4. Contribuições Chave

1. Definição Conceitual: Estabelece o conceito de "Deficiência Ontológica Democrática", distinguindo-o de críticas tradicionais sobre viés ou opacidade. O problema não é o que a IA diz, mas a estrutura subjacente que torna certas formas de agência (a democrática) invisíveis ou secundárias.
2. Evidência Empírica: Fornece a primeira evidência empírica de que os modelos de linguagem atuais não possuem, em sua orientação padrão, a estrutura representacional necessária para sustentar a agência democrática.
3. Arquitetura Cívica (Civic Architecture): Propõe um novo paradigma de design. Em vez de apenas regular a saída da IA, os modelos devem ter "arquitetura cívica" embutida em seu núcleo representacional, tornando legíveis os papéis, responsabilidades e propósitos institucionais.
4. Método de Diagnóstico: Demonstra que a Engenharia de Representação pode ser usada não apenas para diagnosticar, mas para identificar a lacuna específica entre valores alinhados (como honestidade) e valores democráticos estruturais (como papel cívico).

5. Significado e Implicações

• Não é um Bug, é uma Característica de Design: A deficiência não é um erro acidental, mas uma consequência previsível de treinar modelos em dados da web (dominados por conteúdo comercial e social individualista) e alinhá-los para "ajuda" genérica, sem considerar a estrutura institucional.
• Recursividade Perigosa: A IA não apenas reflete a erosão da democracia, mas a acelera. Ao interpretar questões institucionais como preferências individuais, a IA treina os usuários a verem o mundo através de uma lente atomizada, enfraquecendo ainda mais a "infraestrutura cívica" (a capacidade de entender o mundo compartilhado).
• Agenda de Pesquisa: O artigo argumenta que a solução técnica já existe (as ferramentas de engenharia de representação usadas para medir honestidade podem ser usadas para medir e alinhar papéis cívicos). O obstáculo é político e de prioridade de pesquisa: a comunidade de alinhamento precisa tratar a estrutura representacional da vida democrática como um objetivo de design fundamental.
• Futuro: O trabalho abre um programa de pesquisa concreto para o "alinhamento cívico", propondo que futuros modelos devem ser construídos para tornar visíveis as condições institucionais da vida democrática, permitindo que os usuários se vejam como participantes de um mundo compartilhado, e não apenas como indivíduos isolados.

Em resumo, o artigo alerta que, sem uma Arquitetura Cívica intencional, os sistemas de IA continuarão a operar com uma ontologia que é fundamentalmente incompatível com os requisitos estruturais da democracia, mesmo que sejam tecnicamente "honestos" e "úteis".