Resumo Técnico: Raciocínio Governado para IA Institucional

1. O Problema

O artigo identifica uma lacuna crítica na aplicação de Inteligência Artificial (IA) em contextos institucionais de alto risco (como aprovação de seguros médicos, triagem clínica, revisão de permissões e conformidade regulatória).

• Limitações das Arquiteturas Atuais: Agentes de IA de propósito geral (baseados em LLMs) demonstram capacidade de decompor objetivos e coordenar tarefas complexas. No entanto, suas arquiteturas são projetadas para autoridade conversacional e loops de raciocínio monolíticos, não para governança institucional.
• Falhas Sistêmicas: Estudos empíricos (como Gu et al.) mostram que sistemas multi-agente sofrem com:
  • Supressão de opiniões minoritárias corretas (24–38% dos casos).
  • Perda de informações críticas durante a síntese.
  • Consenso confiante em respostas erradas.
  • Viés de Aprovação Prévia: Tendência a reverter decisões (overturn) mesmo quando os critérios não são atendidos.
• Ausência de Rastreabilidade e Governança Estrutural: O rastro de auditoria em agentes atuais é reconstruído a partir de prompts e saídas, não sendo endógeno ao processo de computação. A autoridade humana é frequentemente uma correção a posteriori, e não um requisito estrutural para a execução.
• Definição de "Governabilidade": O artigo introduz o conceito de que a precisão (acerto) é insuficiente. O que importa é a governabilidade: a capacidade do sistema de saber com confiança quando não deve executar autonomamente e quando deve escalar para revisão humana.

2. Metodologia e Arquitetura Proposta: Cognitive Core

Os autores propõem o Cognitive Core, um substrato de decisão governado que combina raciocínio adaptativo com guardas estruturais. A arquitetura baseia-se em quatro compromissos teóricos e seis componentes principais:

A. Compromissos Teóricos

1. Decisões Institucionais são uma Classe Distinta: Requerem durabilidade, obrigação formal de explicação e autoridade condicionada ao contexto.
2. Governança Acoplada à Estrutura de Raciocínio: A governança deve ser aplicada a cada passo epistêmico (tipo de operação), não apenas à saída final.
3. Trabalho Institucional é Especialização Coordenada e Adaptativa: O sistema deve adaptar o caminho de investigação com base nas descobertas, mantendo a especialização.
4. Prestação de Contas Endógena: O rastro de auditoria deve ser produzido durante a computação, não derivado dela.

B. Componentes da Arquitetura

1. Vocabulário de Primitivas Cognitivas (9 Tipos):
   • Operações atômicas tipadas: retrieve (buscar), classify (classificar), investigate (investigar), verify (verificar), challenge (desafiar), reflect (refletir), deliberate (deliberar), govern (governar), generate (gerar).
   • Cada primitiva possui um contrato de saída tipado e um perfil de governança.
2. Primitiva Reflect (Metacognição):
   • Único elemento que raciocina sobre o processo de raciocínio, não sobre o caso.
   • Atua como um guarda pós-desafio: distingue se uma objeção (challenge) revela uma falha epistêmica real ou se é apenas pressão de autoridade/sycophancy. Se for pressão, preserva a decisão original; se for falha real, revisa.
3. Modelo de Governança de Quatro Níveis:
   • A execução é condicionada ao nível de governança determinado pelo estado epistêmico acumulado:
     • AUTO: Executa imediatamente.
     • SPOT CHECK: Revisão amostral (10%).
     • GATE: Suspensão obrigatória para revisão humana (aceleração de erro).
     • HOLD: Suspensão com SLA estrito para casos insuficientes.
4. Modelo de Auditoria (Ledger):
   • Um livro-razão imutável com hash SHA-256 encadeado.
   • Registra endogenamente cada saída de primitiva, decisão do orquestrador e ação de governança.
5. Estado Epistêmico Estruturado (3 Camadas):
   • Substitui a "confiança" única do LLM por sinais mecânicos (determinísticos), sinais de julgamento (LLM) e flags de coerência cruzada.
6. Delegação Orientada por Demanda:
   • Suporta dois modos: Workflow (sequência declarada) e Agentic (sequência adaptativa escolhida pelo orquestrador), ambos sujeitos às mesmas regras de governança e primitivas.

3. Contribuições Principais

1. Fundamentação Teórica: Integra teoria institucional (Simon, March & Olsen) e formalismos de sistemas (DEVS) para justificar uma arquitetura distinta para IA institucional.
2. Vocabulário de Primitivas com Reflexão Metacognitiva: A introdução da primitiva reflect como mecanismo de defesa contra capitulação sycophântica a desafios.
3. Substrato de Execução Governada: Um modelo onde a governança é uma condição de execução, não uma camada de monitoramento pós-fato.
4. Modelo de Configuração: Separação entre o motor (framework) e o domínio (YAML), permitindo que especialistas de domínio configurem novos casos sem engenharia de software.
5. Conceito de Governabilidade: Uma nova métrica de avaliação focada na capacidade do sistema de sinalizar erros antes da execução.

4. Resultados do Benchmark

O estudo comparou o Cognitive Core (CC) contra dois baselines de engenharia de prompt: ReAct e Plan-and-Solve, em um conjunto de 11 casos equilibrados de apelação de autorização prévia.

• Análise de Precisão: O CC superou os baselines principalmente em casos de "Manter" (UPHOLD) e "Remand" (REMAND), onde os baselines sofreram com o viés de aprovação prévia (tendência a reverter mesmo sem base).
• Análise de Governabilidade (O Resultado Crítico):
  • O CC não produziu nenhum erro silencioso. Seu único erro de raciocínio (G003) e o caso difícil compartilhado (B001) foram roteados para o nível GATE, exigindo revisão humana antes da execução.
  • Os baselines produziram 5 a 6 erros silenciosos: determinações incorretas que foram executadas sem qualquer sinal de alerta ou revisão humana.
• Caso B001 (Assimetria por Nível): Todos os sistemas erraram a decisão final, mas apenas o CC escalou para revisão humana devido à falha nos ciclos de desafio (challenge), demonstrando a superioridade da governabilidade sobre a precisão bruta.

5. Significado e Conclusão

O artigo conclui que instituições não precisam de IAs que apenas imitem inteligência individual, mas de sistemas que encarnem inteligência institucional.

• Mudança de Paradigma: A confiança em IA institucional não deve ser medida apenas pela taxa de acerto, mas pela governabilidade — a capacidade de operar dentro de limites, expor casos que exigem julgamento humano e produzir um registro auditável endógeno.
• Validação da Arquitetura: O Cognitive Core demonstra que é possível ter trajetórias epistêmicas autônomas e adaptativas sem sacrificar a responsabilidade estrutural.
• Implicação Prática: A arquitetura proposta permite que erros sejam interceptados antes de causarem danos (ex: autorizar um procedimento médico desnecessário), transformando a IA de uma ferramenta de "caixa preta" em um sistema de decisão inspecionável e confiável para ambientes regulados.

Em suma, o trabalho propõe que a próxima geração de IA para instituições deve abandonar o modelo de "agente conversacional" em favor de um "substrato de decisão governado", onde a estrutura do raciocínio é tão importante quanto o resultado final.