The Two Boundaries: Why Behavioral AI Governance Fails Structurally

1. Declaração do Problema

O artigo aborda a falha estrutural fundamental nas atuais estruturas de governança de IA em relação aos efeitos de IA (ações realizadas no mundo, como chamadas de API, gravações em banco de dados e invocações de ferramentas).

• As Duas Fronteiras: Todo sistema com efeitos possui duas fronteiras distintas:
  1. Fronteira de Expressividade: Definida pela arquitetura do sistema (linguagens, APIs, ferramentas), representando tudo o que o sistema pode fazer.
  2. Fronteira de Governança: Definida por políticas e monitoramento, representando tudo o que o sistema tem permissão para fazer.
• A Divergência: Nas implantações atuais, essas fronteiras são definidas independentemente, criando três regiões:
  1. Capacidade Governada (Sobreposição): A única região funcional onde as capacidades são cobertas por políticas.
  2. Capacidade Não Governada (Risco): Capacidades que o sistema pode executar, mas que carecem de cobertura de governança (ex: exfiltração de dados por meio de canais laterais não monitorados).
  3. Teatro de Governança: Políticas que abordam capacidades que o sistema não possui (ex: filtrar números de cartão de crédito em e-mails quando o sistema não tem acesso a dados de cartão de crédito).
• A Questão Central: A governança comportamental (filtros de conteúdo, RLHF, monitoramento) tenta fechar essa lacuna adicionando camadas a posteriori. No entanto, como os agentes de IA possuem expressividade dinâmica e completa em Turing, a fronteira de governança nunca pode corresponder estruturalmente à fronteira de expressividade por meio de meios comportamentais apenas.

2. Metodologia e Fundamentação Teórica

O artigo emprega métodos formais e ciência da computação teórica para analisar o problema da governança.

• Teorema de Rice (1953): A ferramenta teórica central. O teorema de Rice afirma que, para qualquer propriedade semântica não trivial de um programa completo em Turing, é indecidível se um programa arbitrário possui essa propriedade.
  • Aplicação: A propriedade "o efeito deste programa está em conformidade com a política P?" é uma propriedade semântica não trivial. Portanto, nenhum algoritmo pode decidir geralmente se um agente de IA completo em Turing arbitrário violará uma política de governança.
• Verificação Formal: As afirmações são mecanizadas em Coq (454 teoremas em 36 módulos, zero lemas admitidos). Isso fornece certeza matemática em relação às propriedades estruturais da solução proposta.
• Análise Arquitetural: O artigo contrasta abordagens "comportamentais" (análise de saídas) com abordagens "estruturais" (separação arquitetural de preocupações).

3. Contribuições Principais

A. A Impossibilidade da Governança Comportamental de Efeitos

O artigo prova que a governança comportamental é estruturalmente insuficiente para o controle de efeitos em sistemas completos em Turing.

• Filtros de conteúdo, RLHF e IA Constitucional operam sobre propriedades semânticas (o que o modelo diz ou pretende).
• Como o espaço de ações possíveis é combinatório e completo em Turing, abordagens comportamentais podem produzir apenas aproximações (falsos positivos/negativos).
• O monitoramento é insuficiente porque é um sistema separado; ele observa, mas não controla, levando a lacunas de cobertura inevitáveis que se compostam exponencialmente com o número de ações.

B. A Alternativa Estrutural: Separação de Computação e Efeito

O artigo propõe uma mudança arquitetural radical: Separar Computação de Efeito.

• Camada de Computação: Código puro que produz diretivas (dados estruturados descrevendo efeitos pretendidos), mas não pode realizar E/S.
• Fronteira de Governança: Uma única camada obrigatória que recebe diretivas, valida-as contra a política (verificação sintática) e executa o efeito.
• Resultado: A governança torna-se uma função da diretiva (sintaxe), não do programa (semântica). Como as diretivas são dados estruturados, suas propriedades são decidíveis por construção.

C. Governança Coterminante

O artigo define Governança Coterminante como o estado em que a Fronteira de Expressividade é igual à Fronteira de Governança.

• Definição: Um sistema satisfaz a governança coterminante se (1) todo efeito expressível passar por uma fronteira de governança (Segurança) e (2) os primitivos forem expressivos o suficiente para direcionar os cálculos desejados (Suficiência).
• Propriedades:
  • Sem Região Não Governada: Nada escapa da governança por construção.
  • Sem Região de Teatro: Toda política corresponde a uma capacidade real.
  • Raciocínio Composicional: Se os componentes A e B são governados, sua composição é automaticamente governada.
  • Inteligibilidade Inerente: O registro de governança é o próprio registro de execução.

D. Consequências de Eficiência

• Governança Comportamental: Custo aditivo. Cada camada (filtro, monitor) adiciona latência e computação proporcionais ao throughput ($k \times$ throughput).
• Governança Estrutural: Subsume a infraestrutura. As verificações de governança fazem parte do pipeline de execução. O custo é linear apenas com o throughput, sem sistema separado para manter.
• Dados Empíricos: Em Apple Silicon, a sobrecarga de execução governada foi medida em 0,23ms mediana (vs. 0,24ms para não governada), provando que a governança estrutural é indistinguível da velocidade de execução nativa.

4. Resultados

• Prova Teórica: O teorema de Rice confirma que a governança comportamental de agentes completos em Turing é indecidível no caso geral.
• Verificação Formal: As provas em Coq demonstram que o "Princípio de Separação" proposto gera um sistema onde os teoremas de Segurança e Suficiência se mantêm, garantindo fronteiras coterminantes.
• Desempenho: A governança estrutural introduz latência negligenciável em comparação com camadas comportamentais, que escalam mal à medida que o número de camadas de governança aumenta.
• Modos de Falha: O artigo demonstra que, sem separação estrutural, "Risco" (capacidades não governadas) e "Teatro" (políticas para capacidades inexistentes) são estruturalmente inevitáveis.

5. Significado e Implicações

• Mudança de Paradigma: O artigo argumenta que a segurança de IA não pode ser alcançada "corrigindo" arquiteturas existentes com mais filtros ou monitores. Requer uma re-arquitetura fundamental onde os efeitos não são capacidades diretas do código, mas mediados através de uma fronteira governada.
• Distinção de Níveis: Clarifica que a Governança de Conteúdo (moldar o que os LLMs dizem) e a Governança de Efeitos (controlar o que os agentes fazem) são problemas distintos que exigem mecanismos diferentes. A governança de conteúdo é comportamental; a governança de efeitos deve ser estrutural.
• Política vs. Aplicação: O artigo enfatiza que a governança estrutural garante a aplicação de uma política com certeza matemática, mas não garante a correção da própria política. O design da política permanece um problema de julgamento humano.
• Limitações Práticas: A abordagem requer uma re-arquitetura completa das estruturas de agentes existentes (que atualmente misturam E/S e lógica). Não pode ser adaptada como uma biblioteca. Também impõe uma disciplina aos desenvolvedores (computação pura vs. diretivas) que pode impactar a velocidade de prototipagem.

Conclusão

"As Duas Fronteiras" conclui que, para sistemas de IA com agência, a segurança estrutural é o único caminho para o risco residual zero. Abordagens comportamentais podem reduzir o risco, mas não podem eliminar a "região não governada" devido à indecidibilidade das propriedades semânticas em sistemas completos em Turing. A Governança Coterminante, alcançada pela separação de computação de efeito, é o critério arquitetural necessário para garantir que cada ação que uma IA toma seja comprovadamente governada.