On Adversarial Attacks In Acoustic Drone Localization

Título: Sobre Ataques Adversariais em Localização Acústica

Autores: Tamir Shor, Chaim Baskin e Alex Bronstein (Technion e Ben-Gurion University).

1. Problema e Motivação

O uso de veículos aéreos não tripulados (drones) multirotor tem crescido em diversos setores, desde medicina de emergência até controle de desastres. A navegação precisa é crítica para sua operação segura. Enquanto métodos baseados em visão e LiDAR são comuns, eles falham em condições de baixa iluminação, oclusão ou ambientes sem GPS. A localização acústica, que utiliza o som emitido pelo próprio drone (sistema de propulsão) para determinar sua posição, surge como uma alternativa robusta.

No entanto, a segurança desses sistemas acústicos contra ataques adversariais nunca foi investigada. Ataques adversariais, que introduzem perturbações calculadas para enganar modelos de aprendizado de máquina, representam uma ameaça séria que pode levar a falhas de missão e riscos de segurança. Diferente dos ataques visuais (que alteram pixels), ataques acústicos devem lidar com a propagação do som no ambiente, tornando a formulação do problema mais complexa.

2. Metodologia

O trabalho propõe um framework completo para atacar e defender sistemas de localização acústica de drones.

A. Configuração e Modelo de Localização

• Base: O estudo utiliza e adapta o modelo de localização de Serussi et al. (2024), que localiza o drone baseando-se apenas no som de seus rotores, captado por um array circular de microfones.
• Melhoria no Modelo: Os autores substituíram o modelo de imagem de fonte (ISM) computacionalmente caro por Campos Acústicos Neurais (NAFs). Isso permite uma inferência rápida e diferenciável, essencial para a otimização de ataques.
• Ambiente: Simulações e dados reais de ambientes (apartamentos, escritórios) usando datasets como Matterport3D e Replica.

B. Ataque Adversarial (Ameaça)

• Cenário: Um atacante possui uma fonte de som omnidirecional estacionária no ambiente. O objetivo é emitir um sinal de perturbação ($p$) que, ao se somar ao som do drone, degrade a precisão da localização.
• Formulação do Ataque:
  • O ataque é formulado como um problema de otimização de Descida de Gradiente Projetado (PGD) em caixa branca.
  • A perturbação é modelada como uma soma de ondas senoidais (bases de frequência) com amplitudes aprendíveis.
  • Restrições: Para ser realista e indetectável, o ataque impõe restrições de:
    • Frequência: As frequências devem estar entrelaçadas com o ciclo do drone (para evitar detecção trivial).
    • Amplitude e Potência: Limitadas para não dominar o sinal limpo ou ser percebido como ruído excessivo.
    • Localização: O atacante pode otimizar a posição da fonte de som dentro dos limites do ambiente.
• Objetivo: Maximizar o Erro Quadrático Médio (MSE) entre a localização prevista e a real.

C. Defesa: Separação de Perturbação por Modulação de Fase

• Conceito: Os autores propõem um algoritmo de defesa inovador baseado na modulação de fase dos rotores do drone.
• Mecanismo:
  1. O drone altera ativamente os atrasos temporais (fases) de seus rotores de forma cíclica.
  2. O som do drone muda em resposta a essa modulação, mas o som do atacante (perturbação externa) permanece constante (invariante à modulação interna do drone).
  3. Ao amostrar o sinal em diferentes fases de modulação e subtrair o sinal de referência (fase zero), o sistema pode isolar matematicamente a onda de perturbação ($\sigma_p$).
  4. Uma vez isolada, a perturbação é subtraída do sinal total, recuperando o sinal limpo do drone para a localização.

3. Principais Contribuições

1. Primeiro Estudo Abrangente: Apresentação do primeiro estudo sobre a robustez adversarial em localização de drones baseada em som.
2. Pipeline de Ataque Diferenciável: Formulação e benchmark de ataques de PGD a partir de uma fonte externa, com otimização conjunta do sinal e da localização da fonte.
3. Algoritmo de Defesa Original: Desenvolvimento de um método de defesa em tempo de teste (test-time) que recupera o sinal original explorando a invariância da perturbação externa frente à modulação de fase interna do drone.
4. Validação em Dados Reais: Extensão do trabalho anterior (Serussi et al.) para demonstrar localização baseada em som próprio usando dados acústicos reais, não apenas simulados.

4. Resultados

• Eficácia do Ataque:

  • Os ataques adversariais aumentaram o erro de localização (RMS) de ~5% (modelo limpo) para 37,4% sob as restrições máximas de amplitude e potência.
  • A otimização da localização da fonte de ataque mostrou impacto marginal (quase nulo) na eficácia do ataque em comparação com uma fonte fixa no centro da sala, sugerindo que a otimização de localização é computacionalmente custosa e desnecessária para a maioria dos cenários.
  • Ataques direcionados (forçar o drone a uma posição específica) também foram demonstrados como altamente eficazes, reduzindo o erro para quase zero em relação ao alvo adversarial.

• Eficácia da Defesa:

  • O algoritmo de separação por modulação de fase foi extremamente eficaz, reduzindo o erro de localização de 37% (ataque) de volta para <6%, quase restaurando o desempenho do modelo limpo.
  • A defesa funciona mesmo na presença de ruído branco moderado, mantendo a robustez do sistema.

• Análise Espacial:

  • O ataque é "universal", degradando a precisão de forma uniforme em todo o ambiente, e não explorando apenas fraquezas em posições específicas.

5. Significado e Conclusão

Este trabalho preenche uma lacuna crítica na segurança de sistemas autônomos, demonstrando que a localização acústica, embora robusta contra falhas visuais, é vulnerável a ataques de som manipulados.

• Vulnerabilidade: Sistemas de localização acústica podem ser facilmente enganados por fontes de som externas, comprometendo a segurança de missões críticas.
• Solução Viável: A proposta de defesa baseada na modulação de fase dos rotores oferece uma estratégia promissora e de baixo custo computacional para mitigar esses ataques, sem exigir hardware adicional complexo.
• Futuro: O estudo sugere que a segurança acústica deve ser considerada no design de futuros sistemas de navegação autônoma. Limitações incluem a foco atual em 2D e a necessidade de lidar com ambientes acústicos mais caóticos e dinâmicos.

Em resumo, o paper estabelece um novo paradigma para a segurança de drones acústicos, provando tanto a viabilidade de ataques devastadores quanto a existência de defesas elegantes baseadas nas propriedades físicas do próprio veículo.