Failure Identification in Imitation Learning Via Statistical and Semantic Filtering

Título: Identificação de Falhas em Aprendizado por Imitação via Filtragem Estatística e Semântica (FIDeL)

1. O Problema

O Aprendizado por Imitação (IL) em robótica tem demonstrado alto desempenho em ambientes controlados, mas permanece frágil em implantações do mundo real. Políticas aprendidas não são definidas para situações fora da distribuição de treinamento (out-of-distribution), como falhas de hardware, peças defeituosas, ações humanas inesperadas ou mudanças ambientais.

Existem dois desafios principais abordados no artigo:

1. Detecção de Anomalias vs. Falhas: Métodos existentes de Detecção de Anomalias (AD) baseados em visão conseguem identificar desvios do comportamento "normal", mas não distinguem entre desvios benignos (ex.: uma mosca pousando na mesa, um objeto levemente deslocado no fundo) e falhas reais que comprometem a execução da tarefa. Isso leva a intervenções desnecessárias e custosas.
2. Falta de Dados e Robustez: A maioria dos métodos de detecção de falhas requer dados rotulados de falhas para treinamento (o que é difícil de obter) ou assume consistência temporal rígida, falhando em cenários com velocidades de execução variáveis.

2. Metodologia: O Framework FIDeL

O FIDeL (Failure Identification in Demonstration Learning) é um módulo de detecção de falhas independente da política, projetado para operar em tempo real. O processo é dividido em três etapas principais:

A. Representação e Pontuação de Anomalias (Offline/Online)

• Paradigma One-Class: O sistema é treinado apenas com demonstrações de especialistas "normais" (nominais).
• Memória Estatística: As demonstrações são codificadas usando um encoder de visão (ex.: ResNet18 ou DINOv2). As características (features) são agregadas em uma memória estatística que calcula médias e desvios padrão por patch espacial e passo de tempo.
• Alinhamento por Transporte Ótimo (Optimal Transport - OT): Durante a execução, as observações atuais são comparadas com a memória de demonstrações. Em vez de comparar patch por patch, o FIDeL utiliza o Transporte Ótimo para encontrar o alinhamento global mais eficiente entre as características da observação atual e as características memorizadas. Isso permite robustez a variações na velocidade de execução.
• Score de Anomalia: O custo mínimo de transporte é usado como pontuação de anomalia.

B. Limiarização via Conformal Prediction (CP) Espacialmente Consciente

• Para decidir se uma pontuação de anomalia é crítica, o método estende a Conformal Prediction (CP).
• Ao invés de usar um limiar global fixo, o FIDeL calcula limites dinâmicos que consideram variações temporais (diferentes momentos da tarefa) e espaciais (diferentes regiões da imagem).
• Isso permite adaptar a sensibilidade do detector ao contexto da tarefa, reduzindo falsos positivos em áreas não críticas.

C. Filtragem Semântica com Modelos Visão-Linguagem (VLM)

• Esta é a inovação central para distinguir falhas de anomalias benignas.
• Quando o score de anomalia excede o limiar do CP, o sistema aciona um Modelo Visão-Linguagem (VLM), especificamente o Qwen 2.5-7b.
• Entrada do VLM: Recebe a descrição da tarefa, uma imagem de referência (demonstração expert no momento correspondente), a imagem atual e um mapa de calor (heatmap) da anomalia.
• Decisão: O VLM classifica se a anomalia é um falso positivo (benigno, a tarefa pode continuar) ou uma falha real (interrupção necessária).

3. Contribuições Principais

1. Algoritmo de AD Baseado em Representação: Um novo método de detecção de anomalias para robótica autônoma, utilizando transporte ótimo para alinhamento temporal e espacial.
2. Extensão da Conformal Prediction: Adaptação do CP para lidar com variações temporais e espaciais simultaneamente, garantindo robustez a diferentes velocidades de execução.
3. Filtragem Semântica: Mecanismo inovador que utiliza VLMs e mapas de calor para discriminar entre anomalias benignas e falhas críticas, reduzindo drasticamente falsos positivos.
4. Interpretabilidade: Fornecimento de mapas de calor localizados e justificativas em linguagem natural para as detecções de falha.
5. Dataset BotFails: Introdução de um novo conjunto de dados multimodal (visão, propriocepção, linguagem) contendo tarefas domésticas e industriais com falhas reais, preenchendo uma lacuna na literatura.
6. Desempenho Superior: Resultados que superam o estado da arte (SOTA) em detecção de anomalias e precisão de detecção de falhas.

4. Resultados Experimentais

Os testes foram realizados no dataset BotFails (10 tarefas, domésticas e industriais) e no dataset Real-π (tarefa de soldagem).

• Detecção de Anomalias (Pré-filtragem): O FIDeL superou todos os baselines (incluindo FAIL-Detect, Autoencoders e STAC), alcançando um ganho de +5,30% em AUROC no BotFails e 86,72% de AUROC na tarefa de soldagem Real-π.
• Detecção de Falhas (Pós-filtragem): Após a aplicação do filtro semântico, o FIDeL atingiu um aumento de +17,38% na precisão de detecção de falhas em comparação com métodos existentes.
• Redução de Falsos Positivos: A filtragem semântica foi crucial para recuperar a Taxa de Verdadeiros Negativos (TNR), que caía drasticamente quando apenas a detecção de anomalias era usada (ex.: perda de 23% de TNR sem o filtro no Real-π, recuperada para 74,8% com o filtro).
• Comparação com Baselines: O método superou abordagens baseadas em reconstrução (Autoencoders), fluxo normalizante (FAIL-Detect) e consistência temporal (STAC), especialmente em cenários com alta variabilidade semântica.

5. Significado e Conclusão

O FIDeL representa um avanço significativo para a implantação segura de robôs em ambientes não estruturados. Ao integrar detecção estatística robusta com raciocínio semântico via IA generativa, o sistema resolve o dilema clássico de "falsos positivos" em monitoramento de robôs.

• Segurança e Confiança: Permite que robôs operem de forma autônoma, interrompendo-se apenas quando uma falha real é detectada, evitando paradas desnecessárias por eventos benignos.
• Interpretabilidade: A capacidade de explicar por que uma falha foi detectada (via VLM) é vital para a aceitação humana e depuração de sistemas.
• Limitações: O método ainda depende da diversidade das demonstrações de treinamento e o uso de VLMs adiciona custo computacional. Além disso, pode ter dificuldade com anomalias não-Markovianas que dependem estritamente de sequências históricas complexas.

Em suma, o FIDeL oferece uma solução prática e eficaz para o monitoramento de falhas em tempo real, combinando a eficiência estatística com a compreensão semântica necessária para a robótica do mundo real.