Resumo Técnico: Modelo de Autoridade Reconstrutiva (RAM)

Título Original: Reconstructive Authority Model: Runtime Execution Validity Under Partial Observability
Autor: Marcelo Fernandez
Série: Agent Governance Series — Paper 5

1. O Problema: A Falácia da Atestação

O artigo aborda uma vulnerabilidade estrutural em sistemas de agentes autônomos: a incapacidade de garantir a validade da execução em cenários de observabilidade parcial.

Atualmente, a governança de agentes baseia-se em mecanismos de atestação (como TEEs/Enclaves, provas de estado assinadas por oráculos e provas criptográficas). O autor argumenta que esses mecanismos garantem apenas a integridade (que o cálculo foi feito corretamente sobre o que foi observado), mas não a cobertura (se o que foi observado é suficiente para justificar a ação no mundo real).

Matematicamente, existe uma lacuna entre o estado provável/atestado ($S_p$) e o estado real de execução ($S_r$). Como $S_p \subset S_r$, sempre existirá um resíduo inobservável ($\delta$) que pode invalidar uma ação sem que o sistema de atestação detecte qualquer erro, resultando em uma "execução válida por atestação, mas inválida na realidade".

2. Metodologia: O Modelo de Autoridade Reconstrutiva (RAM)

Para resolver essa lacuna, o autor propõe o RAM, que altera o paradigma fundamental da governança: em vez de perguntar "A execução ainda é consistente com o que foi aprovado anteriormente?", o sistema deve perguntar "A autoridade ainda pode ser construída a partir do que é verdade agora?".

Componentes Centrais do RAM:

• Envelope de Cobertura (Coverage Envelope): Um tripé composto pelo estado provado ($S_p$), suposições declaradas ($H$) e o resíduo inobservável reconhecido ($\delta$).
• Função de Construção de Autoridade ($F$): Uma função determinística que avalia o envelope de cobertura para uma classe de ação ($\alpha$).
• Não-Persistência da Autoridade: Ao contrário dos modelos de admissão, a autoridade no RAM não é um "token" que o agente carrega; ela deve ser reconstruída do zero em cada passo de execução.
• Tratamento de Incerteza (Fail-Closed): O modelo introduz o valor $\perp$ (indefinido). Se o estado observado for insuficiente para construir a autoridade, o sistema não assume que é seguro; ele para (halt) ou restringe privilégios.

3. Principais Contribuições

1. Formalização da Limitação da Atestação: Demonstração de que a correção da atestação não implica correção da execução (Teorema 5.1).
2. Teorema da Necessidade de Reconstrução: Prova que a única forma de garantir a validade da execução sob observabilidade parcial é definindo a autoridade como uma função do estado real no tempo de execução (Teorema 5.5).
3. Arquitetura Híbrida RAM + Atestação: Propõe um modelo onde a atestação garante a integridade dos dados de entrada, enquanto o RAM decide a validade semântica da ação.
4. Mecanismo de Privilégio Dinâmico: Capacidade de reduzir o escopo de uma ação ($\alpha \to \alpha'$) quando a cobertura é apenas parcial, em vez de uma decisão binária (tudo ou nada).

4. Resultados Experimentais e Teóricos

O autor utilizou simulações de Monte Carlo ($N=100.000$ passos) para comparar o RAM com modelos de Atestação e Oráculos sob condições de "drift" (desvio de estado).

• Taxa de Execução Inválida (IER):
  • Sistemas baseados em Atestação apresentaram uma IER de 42,3% em baixa cobertura.
  • Sistemas com Oráculos melhoraram a cobertura, mas ainda falharam significativamente.
  • O RAM manteve uma IER de 0,000%, eliminando todas as execuções inválidas.
• Taxa de Parada Segura (SHR): O RAM atingiu 1,000, o que significa que ele detectou e interrompeu 100% das tentativas de execução inválidas.
• Trade-off Segurança-Execução (OCR): O artigo identifica o Over-Conservatism Rate (taxa de paradas desnecessárias) como o custo da segurança. O autor argumenta que esse custo é um sinal de "dívida de observabilidade", indicando onde o sistema precisa de mais sensores ou dados.

5. Significância e Implicações

O artigo é o fechamento da Agent Governance Series, unindo a teoria da impossibilidade de observabilidade (Paper 2) com a arquitetura de controle (Paper 3/4).

Implicações para o Design de Sistemas:

• Autoridade deve ser stateless: Não se deve confiar em decisões tomadas no passado.
• O padrão deve ser conservador: Em sistemas de alto risco (finanças, veículos autônomos), a incapacidade de observar um dado crítico deve resultar em interrupção, não em continuidade.
• Drift como falha de construção: O "drift" de estado não deve ser tratado como um erro a ser monitorado, mas como uma incapacidade natural de reconstruir a autoridade, simplificando a lógica de segurança do agente.

Conclusão do Autor: A atestação garante que medimos corretamente; o RAM garante que o que medimos é suficiente para agir.