From Human Approval to Current Authority: Adaptive Runtime Governance at the Execution Boundary of AI-Enabled Organizational Workflows

Resumo Técnico: Governança de Execução Adaptativa (ARG) na Fronteira de Execução

Definição do Problema
O artigo aborda uma lacuna crítica nos fluxos de trabalho organizacionais habilitados por IA: o descompasso temporal entre a aprovação humana e a execução real de uma ação. A governança atual frequentemente baseia-se em registros históricos de aprovação, assumindo que uma aprovação registrada no tempo $T_1$ permanece válida no momento da execução em $T_2$. O autor argumenta, no entanto, que a autorização é temporalmente contingente. Um aprovador pode perder seu cargo, tornar-se inativo ou ser delegado de forma imprópria; as políticas podem mudar; ou as delegações podem expirar entre o momento da aprovação e o momento da execução. Nesses cenários, a aprovação humana histórica existe, mas a autoridade organizacional atual não, tornando a "supervisão humana significativa" eticamente nominal se o sistema prosseguir com base em dados obsoletos.

Metodologia
O estudo avalia um componente específico de um framework proposto mais amplo chamado Governança de Execução Adaptativa (ARG): um portão de execução (execution gate) determinístico e baseado em regras.

• Implementação: O protótipo é construído utilizando Python, FastAPI e SQLAlchemy, com um banco de dados SQLite isolado para testes controlados. Ele funciona como uma camada de implementação de backend que intercepta solicitações de execução antes que estas acionem efeitos externos.
• Objeto de Governança: O sistema trata uma ação proposta como um "objeto de decisão" persistente contendo estado, procedência, entrada de risco, metadados de aprovação, versões de política e contexto de delegação.
• Design de Avaliação:
  • Análise Retrospectiva: Uma captura anônima de 101 decisões históricas foi analisada para identificar defeitos legados (ex: falta de evidência de autoridade, contadores inconsistentes).
  • Validação Controlada: Um novo código revisado foi testado com 223 casos de API sintéticos. Esses casos cobriram caminhos de execução positivos, caminhos de aprovação negativos, caminhos de execução negativos (recusas), validação de entrada, cenários de delegação e verificações de integridade de auditoria.
  • Métricas: O estudo mediu códigos de status HTTP, detalhes de resposta e latência (média de ~7,3ms) dentro de um ambiente de teste local. Ele explicitamente não testou escalabilidade de produção, segurança de rede ou integração com provedores de identidade externos.

Principais Contribuições

1. Distinção Conceitual: O artigo estabelece uma separação clara entre a aprovação humana histórica (um evento passado) e a autoridade de execução atual (um estado presente). Postula-se que a autoridade válida deve ser revalidada imediatamente antes da execução.
2. Arquitetura ARG: Propõe um ciclo de vida de governança onde a execução é um ponto de transição distinto. A arquitetura inclui camadas para interface de proposta, persistência de decisão, autorização, revalidação de execução, mecanismos de recusa e evidência de auditoria.
3. Portão de Execução Implementado: O estudo entrega um padrão funcional que impõe invariantes específicas de governança na fronteira de execução. Essas invariantes incluem:
   • Não autoaprovação para caminhos de alto risco.
   • Unicidade de ator e diversidade de papéis (impedindo aprovações duplicadas pela mesma pessoa ou papel).
   • Frescor da aprovação (aprovações com mais de 24 horas são rejeitadas).
   • Continuidade de autoridade (aprovadores devem estar ativos e deter o papel correto no momento da execução).
   • Continuidade de política (a execução é bloqueada se a versão da política regente tiver mudado).
   • Validade de delegação (garantindo relações de delegação ativas e válidas).
   • Admissibilidade de estado (bloqueando a execução a partir de estados inválidos como pendente, rejeitado ou já executado).
4. Recusa como Governança: O sistema trata a recusa não como um achado de auditoria post-hoc, mas como um resultado obrigatório e em tempo real quando as condições codificadas falham.

Resultados
A avaliação controlada gerou os seguintes resultados através de 223 casos de teste:

• Taxa de Sucesso de 100%: Todos os 223 casos corresponderam aos seus resultados predefinidos.
• Execução Positiva (30 casos): Retornou com sucesso HTTP 200 para cenários válidos, incluindo ações de alto risco com aprovação única, múltiplas aprovações com diversidade de papéis e delegações válidas.
• Execução Negativa (108 casos): Retornou corretamente o status de recusa (HTTP 403) para cenários envolvendo aprovações obsoletas, aprovadores inativos, incompatibilidade de versão de política, delegação ausente e transições de estado inválidas.
• Aprovação Negativa (42 casos): Bloqueou corretamente tentativas de aprovação não autorizadas ou estruturalmente inválidas (ex: autoaprovação, atores duplicados).
• Integridade de Auditoria: Uma verificação final confirmou uma cadeia vinculada válida através de 492 eventos de auditoria, sem eventos desconectados.
• Achados Retrospectivos: A análise dos 101 registros históricos revelou defeitos significativos (ex: registros executados carecendo de autoridade nomeada), que informaram as correções feitas ao protótipo antes da avaliação controlada.

Significância e Alegações
O artigo faz uma alegação limitada e modesta: demonstra que condições selecionadas de autorização humana e governança organizacional podem ser tecnicamente representadas como evidências específicas de decisão, revalidadas no momento da execução e aplicadas através de recusa no backend.

• O que é Demonstrado: O estudo prova que um portão determinístico pode impedir a execução quando as condições atuais de autoridade, política ou estado não são atendidas. Mostra que "aprovação histórica" e "autoridade atual" não são equivalentes e que o hiato entre elas pode ser tecnicamente preenchido.
• O que NÃO é Demonstrado: O estudo afirma explicitamente que não estabelece segurança de modelo, conformidade legal, segurança de produção, eficácia organizacional ou comportamento adaptativo (ex: classificação de risco baseada em aprendizado de máquina). Não alega que o sistema é eticamente suficiente para todos os domínios, nem avalia a justiça ou precisão dos modelos de IA que geram as propostas.
• Papel Operacional: A significância reside em deslocar a governança de um checklist retrospectivo para uma restrição operacional. Ao tornar a ausência de autorização atual um motivo para interromper uma ação, o sistema garante que a responsabilidade permaneça operacionalmente conectada à ação no momento em que ela ocorre.

A arquitetura ARG mais ampla, incluindo criticidade adaptativa, governança de emergência e monitoramento contínuo, é apresentada como uma agenda de pesquisa que requer implementação futura e validação independente, em vez de um sistema totalmente realizado.