Right-to-Act: A Pre-Execution Non-Compensatory Decision Protocol for AI Systems

1. Declaração do Problema: A Lacuna de Legitimidade Pré-Ação

À medida que os sistemas de IA evoluem de ferramentas de aconselhamento para agentes autônomos capazes de executar ações no mundo real (por exemplo, transferências de fundos, suspensões de contas, alterações de infraestrutura), os paradigmas arquitetônicos atuais enfrentam uma lacuna crítica. Mecanismos existentes — como autorização, alinhamento de segurança, aplicação de políticas e certificação estatística — avaliam quem tem permissão para agir, se a saída é prejudicial ou se o sistema se comporta dentro dos limites de risco.

No entanto, esses mecanismos falham em responder a uma questão distinta e anterior: "Esta decisão específica gerada por IA deve ser permitida a existir como um evento executável, de todo?"

O artigo define a Lacuna de Legitimidade Pré-Ação como a ausência de um mecanismo formal para determinar se uma decisão tem o "direito de agir" antes de entrar no pipeline de execução. Uma decisão pode ser autorizada, segura e de baixo risco, mas ainda ser estruturalmente ilegítima devido à verificação contextual ausente, justificação insuficiente ou timing prematuro. Os sistemas atuais frequentemente dependem de pontuação compensatória, onde uma pontuação de confiança alta ou uma correspondência de política forte pode compensar uma condição crítica ausente, levando a erros potencialmente irreversíveis.

2. Metodologia e Modelo Formal

O autor propõe um framework formal mínimo chamado protocolo Direito de Agir. Esta abordagem trata a legitimidade não como uma pontuação probabilística a ser otimizada, mas como uma condição de viabilidade definida por restrições rígidas.

2.1 Definições Formais

• Espaço de Decisão ($A$): Um conjunto de decisões executáveis candidatas $a$, representadas como tuplas estruturadas contendo operação, contexto, alvo, escopo e timing.
• Restrições de Legitimidade ($C$): Um conjunto finito de predicados determinísticos $\{C_1, C_2, ..., C_n\}$ onde $C_i(a) \in \{0, 1\}$. Um valor de 1 indica que a condição foi atendida; 0 indica falha.
• Região Viável ($F$): O conjunto de todas as decisões onde todas as restrições necessárias são satisfeitas:
  $$F = \{a \in A : \forall i, C_i(a) = 1\}$$
• Função Direito de Agir ($D$): Uma função de decisão determinística:
  $$D(a) = \begin{cases} \text{PERMITIR} & \text{se } a \in F \\ \text{NÃO-AÇÃO} & \text{caso contrário} \end{cases}$$

2.2 Lógica Não Compensatória

A inovação metodológica central é a natureza não compensatória da fronteira. Neste sistema, se qualquer restrição necessária falhar ($C_j(a) = 0$), a decisão é rejeitada, independentemente de quantas outras restrições foram satisfeitas ou de quão alta é a pontuação de confiança.

• Resultado: "Não-Ação" não é tratada como um erro do sistema, mas como um estado válido e auditável (por exemplo, ADIAR, ESCALAR ou SOLICITAR-INFORMAÇÃO).

3. Contribuições Principais

O artigo apresenta quatro contribuições primárias:

1. Definição do Problema: Identifica formalmente a "Lacuna de Legitimidade Pré-Ação" como um primitivo arquitetônico distinto, separado de autorização, segurança ou governança em tempo de execução.
2. Formalização: Introduz um modelo matemático mínimo para uma fronteira de Direito de Agir que impõe viabilidade estrutural em vez de otimizar pontuações.
3. Teorema de Não Equivalência: Prova que sistemas de pontuação compensatória não podem garantir legitimidade pré-ação.
   • Teorema: Se um sistema usa uma soma ponderada $S(a) = \sum w_i x_i(a)$ com um limiar $\theta$, é possível construir uma decisão onde uma restrição crítica falha ($C_k=0$), mas a pontuação agregada ainda excede $\theta$ devido a outros sinais altos. Assim, um sistema de pontuação não pode replicar o comportamento de bloqueio rígido de um sistema de restrição não compensatória.
4. Aplicação de Estudo de Caso: Demonstra o impacto prático desta fronteira em um cenário de suspensão de conta impulsionado por IA.

4. Resultados e Análise de Estudo de Caso

O artigo valida o framework usando um estudo de caso de suspensão de conta impulsionada por IA.

• Cenário: Um sistema de IA propõe desativar uma conta de usuário com base em alta confiança, similaridade de padrões e flags anteriores.
• Linha de Base Compensatória: Um sistema padrão de pontuação de risco calcula uma pontuação agregada alta ($S(a) \ge \theta$) e executa imediatamente a suspensão.
• Intervenção Direito de Agir: O sistema verifica uma restrição estrutural específica: Verificação Contextual (por exemplo, garantindo que a atividade não seja devido a um dispositivo comprometido ou correlação falsa).
  • No estudo de caso, esta restrição falha ($C_{context} = 0$).
  • Resultado: A fronteira Direito de Agir bloqueia a execução ($D(a) = \text{NÃO-AÇÃO}$), desencadeando uma escalada ou solicitação de mais informações, enquanto o sistema de linha de base teria causado uma suspensão injustificada.

Descoberta Chave: Uma decisão pode ser estatisticamente justificada e em conformidade com a política, mas estruturalmente ilegítima. A fronteira não compensatória previne isso ao tratar condições ausentes como bloqueios rígidos em vez de deduções de pontuação.

5. Significado e Implicações

O artigo argumenta que a mudança de "pontuação" para "aplicação de fronteira" altera fundamentalmente a governança de IA:

• Inação como Resultado de Primeira Classe: A não execução é redefinida como um estado operacional válido e controlado, em vez de um modo de falha.
• Melhoria na Auditabilidade: Como as decisões são bloqueadas por restrições específicas falhadas em vez de pontuações baixas vagas, os registros de auditoria tornam-se mais claros e defensáveis.
• Independência do Modelo: O framework aplica-se a qualquer sistema de IA (LLMs, agentes, classificadores) desde que a decisão possa ser representada estruturalmente, tornando-o compatível com ambientes heterogêneos.
• Mitigação de Riscos de Dados Recursivos: Em domínios onde a IA gera dados que retroalimentam o treinamento (dados recursivos), a certificação estatística pode tornar-se autorreferencial. Uma fronteira de restrição pré-ação impõe validade estrutural em decisões individuais, fornecendo uma salvaguarda contra a certificação de distribuições distorcidas.

Conclusão

O artigo conclui que a legitimidade é uma fronteira, não uma pontuação. Ao introduzir um primitivo de decisão determinístico e não compensatório, o protocolo Direito de Agir preenche uma lacuna crítica na arquitetura de segurança de IA, garantindo que as decisões só prossigam para execução quando satisfizerem todas as condições estruturais necessárias, independentemente de sua confiança agregada ou perfil de risco.