Information-Driven Active Perception for k-step Predictive Safety Monitoring

Título: Percepção Ativa Orientada por Informação para Monitoramento de Segurança Preditiva em k-passos

1. Problema Abordado

O trabalho foca no desafio de garantir a segurança de sistemas autônomos em ambientes parcialmente observáveis e estocásticos.

• Contexto: Monitores de tempo de execução (runtime monitors) tradicionais dependem de observações de alta fidelidade para prever falhas futuras. No entanto, robôs móveis e infraestrutura de borda operam sob restrições severas de recursos (largura de banda limitada, sensores com pontos cegos).
• Desafio: Se o monitor atuar apenas como um receptor passivo de dados intermitentes, a incerteza preditiva diverge rapidamente, levando a previsões de segurança excessivamente conservadoras ou falhas na detecção de violações iminentes.
• Objetivo: Sintetizar uma política de percepção ativa que, sob um orçamento limitado de consultas a sensores, agende dinamicamente quais sensores ativar para maximizar a informação sobre a segurança dos estados futuros (dentro de um horizonte de $k$ passos), minimizando assim a incerteza preditiva.

2. Metodologia

O problema é formalizado e resolvido através de uma abordagem baseada em teoria da informação e aprendizado por reforço (gradiente de política).

Modelagem do Sistema

• Dinâmica Estocástica: O ambiente é modelado como um Modelo Oculto de Markov (HMM) Rotulado, onde o estado real é oculto e as observações dependem das ações de percepção (seleção de sensores).
• Especificação de Segurança: Os requisitos de segurança são definidos por uma Autômato Finito Determinístico (DFA), derivado de fórmulas de Lógica Temporal Linear em Trajetórias Finitas (LTLf). O sistema é modelado como um HMM Produto, combinando o estado físico do robô com o estado do DFA.
• Objetivo de Segurança: Define-se uma variável binária $W^k_t$ que indica se o sistema entrará em um estado de falha dentro de $k$ passos a partir do tempo $t$.

Função Objetivo

O objetivo é minimizar a Entropia Condicional de Shannon de $k$ passos da segurança futura, sujeita a custos de comutação de sensores.

• A entropia condicional $H(W^k_t | Y_{0:t})$ quantifica a incerteza do monitor sobre se uma falha ocorrerá no futuro, dado o histórico de observações e ações.
• A função de custo inclui uma penalidade para alternar entre sensores e o custo de manter um sensor ativo.

Algoritmo de Síntese de Política

1. Cálculo Eficiente: Utilizam-se Operadores Observáveis (matrizes de transição e emissão) para calcular eficientemente as probabilidades de trajetórias seguras e a entropia condicional sem precisar enumerar todas as trajetórias possíveis.
2. Gradiente de Política: Desenvolve-se um método de gradiente de política para otimizar os parâmetros $\theta$ de uma política estocástica $\pi_\theta$ (mapeamento do histórico de observações para uma distribuição sobre ações de sensores).
3. Derivação do Gradiente: O artigo prova que, para um histórico fixo, a probabilidade de segurança é independente dos parâmetros da política. Isso permite simplificar o gradiente da entropia, resultando em uma forma que pode ser estimada via amostragem (Monte Carlo).
4. Aprendizado: A política é parametrizada por uma rede LSTM (Long Short-Term Memory) para codificar o histórico de observações em um estado de informação implícito, seguida por uma camada softmax para selecionar a ação.

3. Principais Contribuições

1. Planejamento de Percepção Ativa para Monitoramento Preditivo: Introduz o uso da entropia condicional para quantificar a incerteza preditiva de especificações formais de segurança em ambientes estocásticos parcialmente observáveis.
2. Síntese de Política com Restrição de Orçamento: Desenvolve uma abordagem de gradiente de política para sintetizar políticas de percepção ativa que equilibram a minimização da incerteza preditiva e o custo de recursos (sensores).
3. Eficiência Computacional: Utiliza operadores observáveis para derivar um algoritmo eficiente para calcular a entropia condicional de $k$ passos e seus gradientes, evitando a explosão combinatória típica de problemas de HMM.
4. Validação Empírica: Demonstra a eficácia do método em um jogo de congestionamento dinâmico, mostrando que a abordagem ativa reduz significativamente os erros de previsão de segurança em comparação com abordagens passivas.

4. Resultados Experimentais

O método foi validado em um cenário de jogo de congestionamento dinâmico com um robô (agente egoísta) transportando um reagente sensível em um grafo de 45 nós, evitando colisões com obstáculos dinâmicos.

• Configuração: O monitor tinha acesso a 10 sensores booleanos locais com cobertura parcial. O horizonte de previsão ($k$) variou de 1 a 15 passos.
• Comparação: O desempenho foi comparado com:
  • Random Uniform: Consultas aleatórias de sensores.
  • Oracle: Observação perfeita e gratuita do estado real (limite superior).
• Métricas: Utilizou-se o Brier Score (precisão da previsão probabilística) e o Gap Closure (quão perto a política aprendida está do Oracle em relação ao Random).
• Desempenho:
  • A política aprendida superou consistentemente a linha de base aleatória, melhorando o Brier Score em 30,66% a 68,53% dependendo do horizonte $k$.
  • O método conseguiu fechar entre 69% e 74% da lacuna de desempenho entre a abordagem aleatória e o Oracle.
  • Trade-off Custo-Benefício: Ao aumentar o peso do custo ($\alpha$), a política reduziu significativamente o custo total de sensores (até 73% menor que o random) com um aumento marginal na incerteza preditiva, demonstrando eficiência de recursos.

5. Significado e Impacto

Este trabalho preenche uma lacuna crítica entre o monitoramento de tempo de execução e o planejamento de controle ativo.

• Viabilidade em Recursos Limitados: Demonstra que é possível manter previsões de segurança robustas em sistemas com largura de banda e energia limitadas, através da seleção inteligente de quais dados coletar.
• Segurança Preditiva Proativa: Em vez de reagir a falhas ou incertezas passivas, o sistema aprende a "investigar" ativamente o ambiente para reduzir a incerteza sobre o futuro, permitindo intervenções mais precisas e menos conservadoras.
• Aplicabilidade Geral: A metodologia é aplicável a diversos sistemas ciber-físicos autônomos (veículos autônomos, robótica de inspeção, drones) onde a observabilidade total é impossível e a segurança é crítica.

Em resumo, o artigo propõe uma solução matematicamente fundamentada para transformar monitores de segurança passivos em agentes ativos que otimizam o uso de sensores para garantir a segurança futura de sistemas autônomos.