Atomic Decision Boundaries: A Structural Requirement for Guaranteeing Execution-Time Admissibility in Autonomous Systems

Resumo Técnico: Limites de Decisão Atômicos em Sistemas Autônomos

1. O Problema: A Lacuna entre Avaliação e Execução

O artigo aborda um problema crítico em sistemas autônomos que executam ações modificando estados compartilhados (ex: transferências financeiras, operações de API, delegações entre agentes).

• A Lacuna Estrutural: Mecanismos de governança atuais (como RBAC, OPA, AWS IAM) avaliam políticas antes da execução e realizam a transição de estado depois. Existe um intervalo temporal e estrutural entre a decisão de permitir uma ação e a aplicação efetiva dessa ação.
• O Risco: Em ambientes concorrentes, o estado do sistema pode mudar entre a avaliação da política e a execução da transição. Uma ação que era admissível no momento da avaliação pode tornar-se inadmissível no momento da execução devido a ações externas (concorrentes).
• Falha das Abordagens Atuais: Refinar a lógica da política ou adicionar mais dados externos não resolve o problema, pois a falha não é de informação, mas de arquitetura. A separação entre "decisão" e "transição" cria uma janela de vulnerabilidade (semelhante a Time-of-Check/Time-of-Use - TOCTOU, mas generalizada para governança de estado).

2. Metodologia e Modelo Formal

Os autores utilizam uma abordagem formal baseada em Sistemas de Transição Rotulada (LTS - Labeled Transition Systems) para modelar a execução e a admissibilidade.

• Definição de Admissibilidade: A admissibilidade é definida como uma propriedade do estado no momento exato da transição ($s \xrightarrow{a} s'$), não da ação isolada.
• Modelo de Ameaça: O ambiente é modelado como adversário, capaz de intercalar ações de modificação de estado ($A_{env}$) em qualquer momento entre a decisão e a execução, sem garantias de sincronização.
• Domínio de Decisão Trivalente: O sistema introduz um domínio de decisão $D = \{Allow, Refuse, Escalate\}$.
  • Escalate: Uma novidade em relação à análise clássica TOCTOU, onde a transição é suspensa para revisão por um supervisor, em vez de ser simplesmente negada.
• Classificação de Sistemas:
  1. Sistemas de Avaliação Dividida (Split): A função de decisão $D$ e a função de transição $T$ são passos distintos no LTS. Existe um estado intermediário onde ações do ambiente podem ocorrer.
  2. Sistemas com Limite de Decisão Atômico (Atomic): A decisão e a transição resultante são calculadas juntas como um único passo indivisível no LTS. Não há estado intermediário exposto a ações externas.

3. Principais Contribuições e Resultados

A. Teorema da Não-Equivalência (Teorema 5.1)
O resultado central do artigo é uma prova construtiva de que nenhuma construção em um sistema de avaliação dividida pode garantir admissibilidade no momento da execução sob todas as trajetórias de execução possíveis em ambientes concorrentes.

• Evidência: Os autores demonstram um traço de execução específico ($\sigma^*$) onde:
  1. O sistema avalia a ação como permitida no estado $s$.
  2. O ambiente executa uma ação que altera o estado para $s^*$, tornando a ação inadmissível.
  3. O sistema de avaliação dividida executa a transição baseada na decisão antiga (de $s$), violando a admissibilidade em $s^*$.
• Conclusão: A admissibilidade é uma propriedade da execução, não da avaliação prévia.

B. O Requisito de Fechamento de Escalação (Corolário 5.6)
O artigo prova que o resultado "Escalate" (suspensão para revisão) não elimina a necessidade de atomicidade.

• Se um supervisor resolve uma solicitação escalonada, a função de resolução do supervisor ($resolve$) também deve ser atômica.
• Se a resolução do supervisor for dividida (avaliação separada da execução), o mesmo problema de lacuna temporal ocorre no nível do supervisor. A escalada apenas transfere a obrigação de atomicidade, não a resolve.

C. Mapeamento de Sistemas Existentes
Os autores classificam mecanismos populares como sistemas de avaliação dividida, expondo suas limitações estruturais:

• RBAC, OPA, AWS IAM, Cedar: Todos são classificados como "Split". A decisão é gerada externamente à transição de estado.
• Kubernetes Admission: Classificado como "Parcialmente Atômico". É atômico para o ciclo de vida de um único objeto, mas falha em garantir atomicidade sobre estados compartilhados (ex: cotas de recursos globais) que mudam entre a decisão e a execução.
• ACP (Agent Control Protocol): Apresentado como o exemplo de sistema que implementa um limite de decisão atômico, onde a decisão e a mutação de estado são forçadas conjuntamente (ex: via "Execution Token").

4. Significado e Implicações

• Fundação Teórica para Governança: O artigo estabelece que garantir que uma ação seja permitida apenas se for admissível no momento exato da execução requer garantias estruturais no limite de decisão. Políticas mais complexas ou dados externos não são suficientes; a arquitetura deve ser atômica.
• Distinção de Atomicidade de Dados: O trabalho diferencia "atomicidade de dados" (ex: transações 2PC, MVCC) de "atomicidade de admissibilidade". Um sistema pode ter transações atômicas de dados, mas ainda ser um sistema de avaliação dividida se a verificação de política e a escrita de dados forem operações separadas no tempo.
• Base para a Série de 4 Artigos: Este é o "Paper 0" de uma série. Ele fornece a base formal para:
  1. ACP (Paper 1): Implementação prática de limites atômicos.
  2. IML (Paper 2): Detecção de desvio comportamental acima da camada de execução.
  3. Alocação Justa (Paper 3): Distribuição de decisões atômicas entre agentes.
  4. Composição Irredutível (Paper 4): Prova de que todas as camadas são necessárias.

5. Conclusão

O artigo conclui que a admissibilidade em sistemas autônomos concorrentes não pode ser garantida por avaliação prévia. A única maneira de garantir que uma transição ocorra apenas se for admissível no estado atual é acoplar a avaliação da política e a execução da transição em um único passo indivisível (atomic decision boundary). Qualquer sistema que separe esses dois passos é estruturalmente incapaz de fornecer garantias universais de admissibilidade, independentemente da sofisticação de suas políticas.