Resumo Técnico: Circuitos Causais Intervencionais para Testagem de Ações Robóticas Seguras e Recuperação de Falhas

Declaração do Problema

A implantação de sistemas autônomos fisicamente seguros requer um loop contínuo onde os robôs propõem ações, testam-nas contra restrições de segurança (ex: colisão, alcançabilidade, estabilidade) e se adaptam quando as propostas falham. Embora o teste formal forneça garantias fortes, ele é computacionalmente caro, com custos que escalam mal contra a dimensionalidade do espaço de ação.

Em sistemas existentes, quando uma ação proposta falha em um teste de segurança, a resposta padrão é a "reamostragem cega": o planejador extrai um novo candidato da distribuição de planejamento sem analisar o porquê da anterior ter falhado. Esta abordagem é ineficiente, pouco informativa e não oferece garantias de convergência. Além disso, muitos métodos de recuperação ou descartam a estrutura paramétrica contínua dos planos falhos (replanejamento clássico baseado em modelo) ou exigem grandes conjuntos de dados offline de falhas para aprender comportamentos corretivos (abordagens orientadas a dados). Há uma necessidade de um método que integre o raciocínio causal diretamente no loop de planejamento-testagem para diagnosticar falhas e gerar correções direcionadas usando apenas a distribuição de planejamento ajustada e as saídas do testador, sem a necessidade de um modelo de falha treinado separadamente.

Metodologia

Os autores propõem um framework de malha fechada que acopla uma Árvore de Probabilidade Conjunta (JPT - Joint Probability Tree) a um Circuito Causal derivado de uma Árvore de Variáveis de Marginal-Determinismo (MdVtree - Marginal-Deterministic Variable Tree).

1. Arquitetura do Sistema

• Distribuição de Planejamento (JPT): Uma JPT é ajustada a um banco de dados de execuções bem-sucedidas (Memórias Episódicas Habilitadas por Narrativa). A JPT particiona recursivamente o espaço de parâmetros de ação contínuos em regiões alinhadas aos eixos, ajustando distribuições independentes dentro de cada uma. Este modelo captura correlações entre variáveis e suporta inferência marginal e condicional rápida e exata. Crucialmente, as JPTs possuem suporte finito, permitindo a detecção exata de entradas fora da distribuição (out-of-distribution).
• Estrutura Causal (MdVtree): Para permitir a inferência causal, um conjunto de variáveis de causa $C$ e uma variável de efeito $Y$ são designados. Uma ordenação de prioridade causal é estabelecida usando a análise de Efeito de Tratamento Médio Normalizado ($ATEnorm$). Esta ordenação é usada para construir uma MdVtree sobre $C$, onde a variável mais influente é separada primeiro.
• Construção do Circuito Causal: A JPT ajustada é estendida em um Circuito Causal ao impor a estrutura da MdVtree. Isso impõe o determinismo marginal: cada SumUnit em um nível causal particiona o suporte de seus filhos de forma disjunta no correspondente da variável de causa. Esta propriedade estrutural, verificada antes da implantação, permite a computação exata e em tempo polinomial de distribuições intervencionais via ajuste de backdoor sem retreinamento.

2. O Loop de Recuperação de Falhas

O sistema opera em um ciclo de "hipotetizar-testar-depurar":

1. Amostragem: Uma ação candidata $\hat{x}$ é amostrada da JPT e submetida a um testador de segurança.
2. Diagnóstico: Se o plano é rejeitado, o Circuito Causal diagnostica a falha. Para cada variável de causa $x_i$, ele computa a probabilidade de sucesso intervencional $\pi_i(v) = P(Y \ge \tau \mid do(x_i = v), C_{-i} = \hat{x}_{-i})$.
   • A causa primária é identificada como a variável cujo valor observado minimiza a probabilidade de sucesso intervencional.
   • O valor corretivo recomendado é o valor $v^*$ que maximiza esta probabilidade.
3. Correção: Uma correção de "passo único" é aplicada. A variável de causa primária é restringida a uma região ao redor de $v^*$, enquanto todos os outros parâmetros são reamostrados da distribuição condicional $p(x_{-i} \mid x_i = v^*)$. Isso preserva as correlações aprendidas pelo planejador.
4. Tratamento de Fora de Suporte: Se os parâmetros observados estiverem inteiramente fora do suporte de treinamento (detectado via propriedade de suporte finito da JPT), o sistema sinaliza o plano como fora da distribuição e o exclui da correção, evitando extrapolação insegura.

Principais Contribuições

1. Construção Prática de Circuitos Causais: O artigo apresenta um método para estender um modelo de planejamento probabilístico treinado (JPT) em um Circuito Causal ao impor uma MdVtree e verificar o determinismo de suporte. Isso permite consultas intervencionais exatas sem coleta de dados adicional ou retreinamento.
2. Pipeline de Malha Fechada Hipotetizar-Testar-Depurar: Os autores introduzem um pipeline onde planos rejeitados disparam diagnóstico causal e correção de parâmetro de passo único. Diferente da reamostragem cega, esta abordagem identifica a causa específica da falha e direciona a correção, enquanto detecta e exclui automaticamente candidatos fora de suporte.
3. Garantia de Tratabilidade Pré-Implantação: Um passo de verificação de determinismo de suporte é introduzido para validar formalmente que todas as consultas intervencionais serão tratáveis e exatas antes que o robô comece a operar.

Resultados Experimentais

O framework foi avaliado em um ambiente de simulação ROS2 em um robô PR2 realizando uma tarefa de pegar e colocar leite. O espaço de ação incluiu posições de aproximação e seleção de braço. Duas variantes de JPT foram testadas: uma JPT de Alta Qualidade (precisão fina, cobertura densa) e uma JPT Degradada (precisão mais grosseira, dados ruidosos).

• JPT de Alta Qualidade (Foco em Eficiência): Tanto a JPT base quanto o Circuito Causal alcançaram taxas de sucesso de 100%. No entanto, o Circuito Causal melhorou a eficiência reduzindo as tentativas falhas totais em 10,3% (de 97 para 87), reduzindo o tempo médio de recuperação de 24,0s para 14,1s e diminuindo o pior caso de tentativas por iteração de 3 para 2.
• JPT Degradada (Foco em Correção): Sob distribuições de planejamento mais fracas, o Circuito Causal melhorou significativamente o desempenho. Ele reduziu as tentativas falhas totais em 37% (de 4.280 para 2.674), reduziu as tentativas médias de recuperação de 2,86 para 1,13 e cortou o tempo de recuperação por um fator de 2,2 (35,5s para 16,3s). Também reduziu o pior caso de tentativas por iteração de 10 para 3, convertendo efetivamente falhas sistemáticas em sucessos através de correções direcionadas.

Em ambos os cenários, o sistema detectou e excluiu automaticamente planos com parâmetros inteiramente fora do suporte de treinamento, garantindo que as garantias de segurança não fossem violadas por extrapolação.

Significância e Alegações

O artigo afirma que este framework permite que robôs operem de forma segura e eficiente ao integrar o raciocínio causal diretamente no loop de planejamento-testagem. Sua significância reside em:

• Interpretabilidade: Cada plano rejeitado produz um relatório causal estruturado e interpretável, identificando a variável de causa primária, seu valor observado e a região corretiva recomendada, suportando a supervisão do operador sem um modelo de falha separado.
• Tratabilidade e Segurança: Ao aproveitar as propriedades estruturais das JPTs e MdVtrees, o sistema fornece consultas intervencionais exatas e em tempo polinomial e garante que as correções permaneçam dentro do suporte de dados observado.
• Papéis Complementares: O framework se adapta à qualidade da distribuição de planejamento, fornecendo ganhos de eficiência quando o planejador é forte e ganhos de correção (convertendo falhas em sucessos) quando o planejador é fraco.
• Eficiência de Recursos: Ele alcança essas melhorias sem a necessidade de retreinamento, novos rollouts de simulação ou grandes conjuntos de dados offline de falhas.

Os autores observam limitações, incluindo o fato de a avaliação atual estar restrita a uma única tarefa de pegar e colocar com parâmetros posicionais, e trabalhos futuros envolvendo tarefas de manipulação complexas e validação física no mundo real.