Quantifying Trade-Offs Between Stability and Goal-Obfuscation

Resumo Técnico: Quantificação de Compensações entre Estabilidade e Ocultação de Objetivos

Formulação do Problema
Este artigo aborda o desafio de manter a privacidade da intenção para um agente autônomo orientado a objetivos operando em um ambiente adversarial. Embora a síntese de controle tradicional priorize a estabilidade de Lyapunov para garantir a conclusão da tarefa, os autores argumentam que tal estabilidade compromete inerentemente a "legibilidade". Especificamente, as dinâmicas contrativas de uma bacia de atração de Lyapunov fazem com que um observador passivo, executando inferência bayesiana online, concentre rapidamente sua crença a posteriori sobre os parâmetros de intenção latente do agente (localização do objetivo, raio e tempo de chegada).

O problema é formulado como uma tarefa de controle conjunta onde o agente deve simultaneamente:

1. Rastrear uma trajetória de referência para alcançar um objetivo $x^*$ no tempo $t^*$ dentro de um envelope de erro prescrito $\varrho(t)$.
2. Ocultar sua intenção de um adversário modelado como um Filtro de Partículas Rao–Blackwellizado (RBPF). O adversário estima a intenção do agente $\theta^*$ utilizando medições ruidosas de posição.

As dinâmicas do agente são modeladas como um sistema totalmente atuado com perturbações desconhecidas limitadas ($\dot{x} \in u + \bar{d}\mathbb{B}$). O processo de inferência do adversário é modelado como um sistema dinâmico estocástico de tempo discreto evoluindo sobre o espaço de estados de crença do RBPF. O objetivo central é selecionar uma entrada de controle $u$ que atrase a concentração da crença a posteriori do adversário (medida via divergência de Kullback-Leibler) enquanto satisfaz as restrições físicas de rastreamento.

Metodologia
Os autores abordam isso como um problema de controle sobre um espaço de estados estendido que inclui tanto o estado físico quanto o estado de crença latente do observador. A metodologia baseia-se nos seguintes componentes:

• Dinâmica do Estado de Informação: O estado de crença do RBPF $z = (\theta, \hat{x}, \omega)$ (partículas, estimativas de estado e pesos) é tratado como um processo de Markov controlado. A entrada de controle do agente $u$ influencia a atualização da crença indiretamente, moldando a distribuição de observação $y_k$.
• Métrica de Privacidade: A privacidade da intenção é quantificada usando um limite inferior na divergência KL entre a distribuição da intenção verdadeira e a distribuição estimada pelo adversário. Este limite inferior é derivado de uma soma exponencial ponderada das funções de núcleo das partículas.
• Funções de Barreira Probabilísticas de Controle (PCBFs): Para impor a privacidade, os autores definem uma função de barreira $b(z)$ baseada no limite inferior de vazamento de informação. O objetivo é garantir que $b(z)$ permaneça não negativa (ou acima de um limiar) com alta probabilidade ao longo de um horizonte finito.
• Decomposição das Atualizações do RBPF: A análise técnica decompõe o ciclo de atualização do RBPF em duas etapas distintas, derivando condições PCBF separadas para cada uma:
  1. Etapa de Atualização Bayesiana: Os autores derivam um limite na mudança da função de barreira causada pela atualização de pesos. Eles mostram que, ao controlar a trajetória do agente para passar próximo ao centro de Chebyshev da nuvem de partículas, o vazamento de informação pode ser limitado.
  2. Etapa de Resampleamento: Os autores analisam a mudança descontínua na função de barreira quando o resampleamento é acionado. Eles utilizam a desigualdade de Hoeffding para limitar a contribuição das partículas reinicializadas, demonstrando que este limite é independente das dinâmicas do agente e da entrada de controle.
• PCBF Composto: Os limites aditivos das etapas de atualização bayesiana e de resampleamento são combinados usando um argumento de limite da união para formar uma única condição PCBF composta para o ciclo completo de atualização.
• Análise de Viabilidade Conjunta: O artigo investiga a interação entre a restrição de privacidade (manter alto vazamento de informação) e a restrição de rastreamento (permanecer dentro do envelope de erro). Isso é analisado via interpolação afim entre um "controlador de privacidade" (levando o agente em direção ao centro de Chebyshev) e um "controlador de rastreamento" (levando o agente em direção ao objetivo).

Principais Contribuições

1. Formulação da Privacidade de Intenção como Problema de Controle: O artigo formula a privacidade de intenção não como uma penalidade auxiliar sobre o estado físico, mas como um problema de controle sobre as dinâmicas de crença latente induzidas pelo RBPF. A entrada de controle é modelada como um sinal constante por partes sincronizado com os tempos de atualização do RBPF.
2. Garantias de Privacidade em Probabilidade de Horizonte Finito: Os autores derivam um resultado PCBF composto que garante que o vazamento de informação permaneça acima de um limiar prescrito com alta probabilidade ao longo de um horizonte finito. Isso é alcançado estabelecendo limites probabilísticos separados para a atualização bayesiana e as etapas de resampleamento do RBPF.
3. Independência do Limite de Resampleamento: Uma descoberta técnica notável é que o limite probabilístico para a transformação de resampleamento é completamente independente das dinâmicas do agente e da entrada de controle. Isso sugere potencial para estender esses resultados a dinâmicas de agente mais complexas em trabalhos futuros.
4. Análise de Viabilidade Conjunta: O artigo fornece uma análise quantitativa das compensações entre ocultação e rastreamento. Ele identifica restrições de desigualdade no parâmetro de interpolação $\mu$ que determinam se existe uma entrada de controle que satisfaça simultaneamente os requisitos de privacidade e rastreamento.

Resultados

• Garantias Teóricas: O artigo prova que, para qualquer estado de crença dentro de um conjunto de subnível específico (onde a margem de privacidade inicial é suficiente), existe uma entrada de controle que satisfaz a condição PCBF composta com uma probabilidade de falha $\delta_f$.
• Condições de Viabilidade: A análise revela que a viabilidade conjunta depende da relação entre a margem de privacidade inicial ($\beta$), os limites nos incrementos de vazamento de informação ($\Delta_b, \Delta_r$) e o envelope de erro de rastreamento. Especificamente, se o envelope de rastreamento for muito restritivo, o conjunto viável para o problema de controle conjunto pode tornar-se vazio, tornando a ocultação impossível enquanto se mantém a estabilidade.
• Interação de Restrições: Os resultados mostram que, se o envelope de erro de rastreamento $\varrho(t)$ crescer suficientemente rápido, as restrições no parâmetro de interpolação $\mu$ impostas pelo requisito de rastreamento não conflitam com os limites inferiores necessários para a privacidade, permitindo uma solução viável.

Significado e Afirmações
O artigo afirma iniciar o estudo da privacidade de intenção sobre espaços de estados contínuos como um problema de controle conjunto envolvendo estados físicos e de crença latente. Ele postula que o controle tradicional baseado em Lyapunov é inerentemente legível para observadores bayesianos e que reduzir essa legibilidade requer um desvio intencional da otimalidade da tarefa.

O significado do trabalho reside em:

• Fornecer um mecanismo formal para quantificar e controlar a "legibilidade" de trajetórias orientadas a objetivos.
• Oferecer um framework rigoroso e probabilístico (PCBFs) para impor restrições de privacidade na síntese de controle em tempo real.
• Destacar a tensão fundamental entre estabilidade (convergência a um objetivo) e privacidade (manter ambiguidade), e fornecer as ferramentas matemáticas para analisar a viabilidade de satisfazer ambas.

Os autores permanecem modestos quanto ao escopo de seus resultados, observando que são necessários estudos adicionais para estabelecer propriedades de convergência do RBPF e determinar as condições sob as quais a ocultação se torna inviável se a estabilidade estrita de rastreamento for imposta. Eles também observam que experimentos numéricos e de hardware são necessários para validação, os quais não estão incluídos neste trabalho teórico.