An Experimental Study of Trojan Vulnerabilities in UAV Autonomous Landing

Resumo Técnico: Um Estudo Experimental de Vulnerabilidades de Trojan em Pouso Autônomo de UAV

Definição do Problema
A Mobilidade Aérea Urbana (UAM) depende fortemente de Veículos Aéreos Não Tripulados Autônomos (UAAVs) para tarefas críticas, como táxis aéreos e entrega de carga. Esses sistemas utilizam aprendizado profundo, especificamente Redes Neurais Convolucionais (CNNs), para detecção de obstáculos em tempo real, previsão de trajetória e identificação de zonas de pouso. Embora eficazes, esses modelos introduzem riscos de cibersegurança, particularmente ataques de "Trojan" (ou backdoor). Diferente de ameaças tradicionais como o spoofing de GPS, que podem ser mitigadas através da validação de sinal, os ataques de Trojan inserem gatilhos ocultos nos dados de treinamento do modelo. Esses gatilhos permanecem dormentes durante a operação normal, mas causam falhas catastróficas previsíveis — como identificar incorretamente áreas de pouso ou ignorar obstáculos — quando padrões específicos são encontrados. Apesar da gravidade desses riscos, as vulnerabilidades de Trojan em sistemas de navegação e pouso de UAAVs permanecem subexploradas em comparação com aplicações padrão de aprendizado de máquina.

Metodologia
O estudo emprega um framework de quatro fases para avaliar sistematicamente a suscetibilidade de sistemas de pouso de UAAV a ataques de Trojan utilizando o framework DroNet:

1. Coleta de Dados: Devido à falta de conjuntos de dados públicos alinhados com necessidades específicas de UAM, os autores construíram um conjunto de dados personalizado. Isso envolveu a captura de mais de 5.000 imagens de plataformas de pouso utilizando um avião híbrido customizado equipado com câmeras de alta resolução. O conjunto de dados abrange diversos cenários urbanos, condições de iluminação variáveis e obstáculos. Os dados foram divididos em 60% para treinamento, 20% para validação e 20% para teste.
2. Preparação e Envenenamento de Dados: Para simular um ataque, gatilhos de Trojan foram inseridos em 30% do conjunto de dados de treinamento. Os gatilhos eram padrões visuais, especificamente designs de tabuleiro de xadrez de tamanhos variados (5x5, 10x10, 15x15). O padrão 5x5 foi selecionado para o estudo, pois provou ser eficaz em causar má classificação, mantendo-se relativamente imperceptível. Essas imagens envenenadas foram rotuladas com saídas incorretas (ex: identificar erroneamente uma zona segura como insegura) para treinar o modelo a associar o gatilho à classe errada. Aumentos de dados (rotação, inversão, variação de cor) foram aplicados para garantir robustez.
3. Fase de Treinamento: Uma arquitetura de CNN baseada em VGG16 (pré-treinada no ImageNet) foi utilizada. A camada de classificação superior foi removida e substituída por camadas customizadas para detecção de zona de pouso e obstáculos. O modelo foi treinado ao longo de 240 épocas: as primeiras 120 épocas congelaram as camadas base da VGG16 para treinar as novas camadas, seguidas por 120 épocas de ajuste fino (fine-tuning) das últimas quatro camadas com uma taxa de aprendizado reduzida.
4. Fase de Teste: O modelo treinado foi avaliado tanto em dados limpos quanto em dados contendo os gatilhos de Trojan inseridos. O desempenho foi medido usando métricas padrão (acurácia, precisão, recall, F1 score) para quantificar a degradação do desempenho quando os gatilhos estavam presentes.

Principais Resultados
Os resultados experimentais demonstraram uma vulnerabilidade significativa no sistema de pouso autônomo quando exposto a ataques de Trojan:

• Queda de Acurácia: O modelo alcançou uma acurácia de 96,4% em dados limpos. No entanto, ao ser testado em dados contendo os gatilhos de Trojan, a acurácia despencou para 73,3%.
• Modo de Falha: A presença do sutil gatilho de tabuleiro de xadrez 5x5 fez com o modelo classificar incorretamente as zonas de pouso, levando a potenciais erros de navegação ou falhas de pouso.
• Sigilo: O estudo confirmou que o modelo opera normalmente sob condições padrão, tornando o ataque difícil de detectar sem testes adversariais específicos.

Significância e Contribuições
Este trabalho contribui para o campo da segurança de UAM ao:

1. Quantificar a Vulnerabilidade: Fornece evidência empírica do impacto severo que ataques de Trojan podem ter na confiabilidade dos sistemas de pouso de UAAV, destacando uma lacuna crítica nas avaliações de segurança atuais.
2. Desenvolvimento de Framework: O estudo estabelece uma metodologia para coleta de conjuntos de dados customizados e avaliação de vulnerabilidades de Trojan em sistemas aéreos autônomos, abordando a falta de recursos existentes para este domínio específico.
3. Conscientização de Segurança: Ao demonstrar como gatilhos ocultos podem comprometer a tomada de decisão crítica para a segurança, o artigo ressalta a necessidade urgente de mecanismos de defesa robustos adaptados às restrições de recursos e aos requisitos de tempo real das operações de UAM.

Os autores concluem que, embora progressos tenham sido feitos na cibersegurança geral de UAV, defesas específicas contra ataques de Trojan em sistemas de navegação baseados em aprendizado profundo exigem maior desenvolvimento para garantir a implantação segura da Mobilidade Aérea Urbana.