ARGOS: Automated Functional Safety Requirement Synthesis for Embodied AI via Attribute-Guided Combinatorial Reasoning

Resumo Técnico: ARGOS – Síntese Automatizada de Requisitos de Segurança Funcional para IA Incorporada

1. O Problema: O Desafio da Escalabilidade e do Aterramento Físico

Com a evolução da IA Incorporada (Embodied AI), os robôs estão saindo de ambientes industriais controlados para ambientes domésticos abertos e imprevisíveis. Isso cria dois problemas fundamentais para a engenharia de segurança tradicional:

• Explosão Combinatória de Riscos: Métodos tradicionais de Análise de Perigos e Avaliação de Risco (HARA) dependem de listas de funções pré-definidas e finitas. No entanto, a IA Incorporada opera sob instruções de linguagem natural abertas e imprevisíveis, gerando um espaço de interação tarefa-ambiente virtualmente infinito e não enumerável.
• O Problema do Aterramento de Símbolos (Symbol Grounding Problem): Embora os Grandes Modelos de Linguagem (LLMs) possam automatizar a documentação, eles carecem de "experiência física". Isso resulta em descrições de perigos semanticamente superficiais ou fisicamente incoerentes (ex: ignorar a inércia de um líquido ou a fragilidade de um objeto ao sugerir uma parada de emergência brusca).

2. Metodologia: O Framework ARGOS

Para superar essas limitações, os autores propõem o ARGOS (AttRibute-Guided cOmbinatorial reaSoning), um pipeline de dois estágios que utiliza o raciocínio baseado em atributos para conectar comandos de usuários a restrições físicas concretas.

Estágio I: Descoberta de Perigos Guiada por Atributos
Em vez de confiar apenas na intuição do LLM, o ARGOS:

1. Decomposição Semântica: Utiliza um parser para extrair entidades de uma instrução (ex: "entregar uma rosa").
2. Injeção de Atributos: Mapeia essas entidades em uma "Base de Regras" de atributos físicos (ex: Rosa $\rightarrow$ Espinhos/Cortante; Balão $\rightarrow$ Frágil/Parede fina).
3. Raciocínio Combinatório: Força o LLM a simular como esses atributos interagem. Isso permite descobrir riscos de "cauda longa" (long-tail risks), como o perigo de um espinho perfurar um balão durante um movimento de entrega, algo que um modelo genérico poderia ignorar.

Estágio II: Síntese de Requisitos de Segurança Funcional (FSR)
O segundo estágio transforma os cenários de perigo em requisitos de engenharia testáveis:

1. Alinhamento Regulatório: O sistema recupera normas de segurança relevantes (como a ISO 13482).
2. Injeção de Capacidades do Robô: O framework integra as especificações de hardware (ex: limite de desaceleração, alcance de sensores, sensibilidade de força).
3. Síntese de Requisitos: O LLM gera FSRs que são logicamente robustos e fisicamente viáveis, evitando "alucinações de parâmetros" ao focar na lógica funcional em vez de valores técnicos de baixo nível.

3. Principais Contribuições

• Primeiro Framework Automatizado para FSR: Capaz de gerar requisitos de segurança diretamente de instruções de usuários não estruturadas.
• Mudança de Paradigma: Transição do mapeamento estatístico "Rótulo-para-Rótulo" (onde o LLM apenas associa palavras) para a Dedução Baseada em Atributos (onde o modelo raciocina sobre propriedades físicas).
• Mitigação do Problema de Aterramento: Ao injetar propriedades físicas e limites de hardware, o framework garante que o raciocínio de segurança seja ancorado na realidade física.

4. Resultados Experimentais

Os autores validaram o ARGOS comparando-o com modelos Vanilla LLM e Physics-Aware Chain-of-Thought (CoT) usando o modelo DeepSeek-V3.2 e GPT-4o.

• Qualidade de Descoberta de Riscos: O ARGOS superou significativamente os baselines em Riscos de Cauda Longa (Long-tail Risk). Enquanto o método CoT (Cadeia de Pensamento) muitas vezes gerava "noneses corretos" (narrativas logicamente estruturadas, mas semanticamente repetitivas e genéricas), o ARGOS identificou perigos complexos e multifatoriais.
• Robustez Semântica: Análises de topologia semântica mostraram que o ARGOS realiza uma "exploração contida", encontrando riscos diversos e independentes sem sofrer de "deriva semântica" (quando o modelo se afasta do contexto original do problema).
• Qualidade dos Requisitos (FSR): Estudos de ablação confirmaram que a combinação de injeção de atributos + conformidade regulatória produz os requisitos mais consistentes e alinhados com as capacidades reais do hardware.

5. Significância

O trabalho do ARGOS é um passo crítico para a implantação industrial segura da IA Incorporada. Ele oferece uma solução escalável para o gargalo da engenharia de segurança, permitindo que robôs operando em ambientes domésticos e abertos tenham uma camada de proteção que evolui dinamicamente com as tarefas que lhes são atribuídas, garantindo que a segurança não seja apenas uma lista estática de regras, mas um processo de raciocínio físico contínuo.