HomeGuard: VLM-based Embodied Safeguard for Identifying Contextual Risk in Household Task

1. Problema e Motivação

Os Modelos Visão-Linguagem (VLMs) estão se tornando os principais tomadores de decisão para agentes corporificados (robôs), traduzindo instruções de alto nível em planos executáveis. No entanto, eles apresentam vulnerabilidades críticas em ambientes domésticos:

• Riscos Contextuais Implícitos: O principal desafio não são instruções maliciosas óbvias, mas sim comandos benignos que se tornam perigosos devido ao estado sutil do ambiente (ex.: aquecer comida em um micro-ondas com um recipiente de metal ou próximo a materiais inflamáveis).
• Limitações das Soluções Atuais:
  • Métodos Baseados em Regras: Falham em cenas densas de objetos devido à explosão combinatória de riscos e à dificuldade de engenharia manual de predicados.
  • Métodos Baseados em Modelos (VLMs puros): Sofrem de "percepção desfocada". Em ambientes desordenados, eles tendem a ignorar pistas de risco sutis (falsos negativos) ou alucinar perigos baseados apenas na presença de objetos, sem verificar o contexto (falsos positivos/hipersegurança).

2. Metodologia: HomeGuard

O HomeGuard é uma salvaguarda agnóstica à arquitetura (plug-and-play) projetada para monitorar e interceptar ações inseguras. A abordagem central é a Cadeia de Pensamento Guiada por Contexto (CG-CoT).

A. Cadeia de Pensamento Guiada por Contexto (CG-CoT)

Em vez de permitir um raciocínio holístico, o CG-CoT força o modelo a decompor a avaliação de risco em duas etapas sequenciais com ancoragem visual explícita:

1. Percepção Ativa (Ancoragem Visual): O modelo deve identificar e localizar explicitamente duas categorias de objetos antes de julgar o risco:
   • Alvos de Interação: Objetos que o agente deve manipular diretamente.
   • Áreas de Restrição (Contexto): Objetos de fundo que impõem restrições de segurança ou interagem perigosamente com a tarefa (ex.: um liquidificador ligado próximo a água).
   • Saída: O modelo gera caixas delimitadoras (bounding boxes) para essas áreas.
2. Julgamento Semântico: Com base nas evidências visuais ancoradas (as caixas e descrições dos estados dos objetos), o modelo realiza o julgamento de risco final e gera uma explicação estruturada.

B. Estratégia de Treinamento (Dois Estágios)

Para ensinar esse raciocínio estruturado, os autores propõem:

1. Ajuste Fino Supervisionado (SFT): Usa um dataset curado para ensinar a estrutura de raciocínio de 4 passos (Triagem de Intenção, Inspeção de Alvos, Análise de Restrições Ambientais, Avaliação de Risco Integrada) e os princípios de segurança.
2. Ajuste Fino por Reforço (RFT): Utiliza o algoritmo GRPO (Group Relative Policy Optimization) com funções de recompensa de processo. Diferente de recompensas apenas no resultado final, o RFT recompensa a precisão das etapas intermediárias de ancoragem visual (usando métricas de IoU - Intersecção sobre União) e a consistência semântica. Isso força o modelo a "olhar" corretamente antes de "pensar".

C. Dataset HomeSafe

Os autores criaram o HomeSafe, o primeiro dataset focado em vincular conhecimento de segurança abstrato à ancoragem visual física.

• Estrutura: Contém pares contrafactuais (cenários seguros vs. inseguros) gerados a partir de imagens reais (CA-1M e SUNRGBD) através de edição de imagem.
• Anotações: Inclui caixas delimitadoras precisas para alvos e restrições, descrições de estado dos objetos e trilhas de raciocínio (CoT) ground-truth.
• Diversidade: Abrange 33 princípios de segurança em 7 categorias de risco (ex.: materiais inflamáveis, separação de alimentos, riscos elétricos).

3. Contribuições Principais

1. Mecanismo CG-CoT: Uma nova arquitetura de raciocínio que substitui a percepção passiva por uma percepção ativa e ancorada visualmente, mitigando alucinações e riscos não detectados.
2. Dataset HomeSafe: Um recurso de dados robusto com anotações de grounding visual para tarefas de segurança doméstica, permitindo o treinamento supervisionado de raciocínio espacial.
3. Treinamento Híbrido (SFT + RFT): Uma estratégia que utiliza recompensas de processo para garantir que o modelo não apenas acerte a resposta final, mas também localize corretamente os objetos de risco durante o raciocínio.
4. Aplicabilidade Prática: Demonstra que as caixas delimitadoras geradas podem ser usadas como waypoints espaciais para planejadores de baixo nível, permitindo evasão de colisão e geração de trajetórias seguras.

4. Resultados Experimentais

Os experimentos foram conduzidos no HomeSafe-Bench (dados internos) e em quatro benchmarks públicos (EARBench, MSSBench, PaSBench, SafeAgentBench).

• Desempenho Superior: O HomeGuard-8B alcançou uma taxa de identificação de risco (RIR) de 90,98%, superando modelos proprietários de ponta (como GPT-4o-mini e Gemini-3-Pro) e modelos de código aberto.
• Redução de Hipersegurança (Oversafety): O modelo reduziu a taxa de falsos positivos (rejeitar tarefas seguras) em 13,14%, um desempenho significativamente melhor que o dos modelos base e das salvaguardas de tempo de execução existentes.
• Precisão de Grounding: Alcançou altos valores de IoU tanto para alvos (T-IoU: 0,72) quanto para restrições (C-IoU: 0,55), provando que o modelo localiza corretamente os perigos no espaço.
• Eficiência: O processo estruturado de percepção ativa resultou em uma eficiência de inferência 4,38 vezes maior do que modelos de "pensamento longo" (long-thinking) de tamanho similar, evitando ciclos de verificação recursiva desnecessários.
• Generalização: O modelo demonstrou robustez em cenários não vistos e em ambientes simulados, apesar de treinado principalmente em dados editados de cenas reais.

5. Significado e Impacto

O HomeGuard representa um avanço fundamental na segurança de IA corporificada ao resolver o problema da "percepção desfocada" em VLMs.

• Segurança Intrínseca: Em vez de depender apenas de filtros de texto ou regras rígidas, o sistema aprende a "ver" o perigo no contexto físico.
• Interpretabilidade: Ao forçar a geração de caixas delimitadoras e justificativas baseadas em evidências visuais, o sistema torna o processo de decisão de segurança transparente e auditável.
• Aplicação no Mundo Real: A capacidade de transformar alertas de segurança em coordenadas espaciais (waypoints) permite que robôs não apenas evitem tarefas perigosas, mas executem ações corretivas (ex.: remover um objeto perigoso antes de iniciar uma tarefa), fechando a lacuna entre o planejamento de alto nível e o controle de baixo nível.

Em resumo, o trabalho estabelece um novo padrão para a segurança de agentes robóticos em ambientes domésticos, demonstrando que a combinação de raciocínio estruturado, ancoragem visual precisa e treinamento com recompensas de processo é essencial para a implantação segura de IA no mundo real.