Resumo Técnico: Aux-AI: Um Framework de Supervisão Independente Federada para Autonomia Industrial Consciente de Confiança

Declaração do Problema

A implantação de Redes Neurais Profundas (DNNs) de alta capacidade em sistemas industriais autônomos é atualmente dificultada pela natureza de "Caixa Preta" dos modelos de percepção primários. Esses modelos carecem da capacidade de autoauditoria durante vulnerabilidades de cascata induzidas por hardware (como inversões de bits na memória) ou desvios de distribuição fora do padrão (OOD - out-of-distribution). As medidas de segurança tradicionais frequentemente dependem de métricas de incerteza internas (por exemplo, Monte Carlo Dropout, monitoramento baseado em atenção) que compartilham os mesmos modos de falha latentes do classificador primário. Consequentemente, se o modelo primário sofrer uma falha de hardware ou deriva semântica, o monitor interno pode falhar em detectar o erro, potencialmente reportando alta confiança em saídas geometricamente impossíveis ou inseguras. Além disso, os métodos existentes de detecção de anomalias leves carecem de independência arquitetural, compartilhando pesos ou extratores de características com o backbone primário, criando um ponto único de falha. Há uma necessidade crítica de um mecanismo de supervisão desacoplado e independente que possa identificar predições confidentes, porém incorretas, sem modificar o modelo de percepção primário, particularmente sob mandatos regulatórios emergentes como o EU AI Act.

Metodologia: O Framework Aux-AI

O artigo propõe o Aux-AI, uma arquitetura de blindagem de segurança trans-camada Silicon-to-Logic projetada para fornecer supervisão independente e em tempo real. O framework opera em dois planos funcionais distintos:

1. Plano de Missão (Big-AI): O backbone de percepção primário (modelado aqui sobre um Fast-SCNN ou um substituto ResNet-18) responsável pela segmentação semântica de alta fidelidade. Ele exporta embeddings latentes de 512 dimensões, mas é tratado como uma caixa preta pelo nível de segurança.
2. Plano de Confiança (Aux-AI): Um supervisor digital independente e leve que intercepta os embeddings latentes antes do upsampling espacial final. Ele não compartilha pesos ou caminhos de dados com o modelo primário.

Componentes Principais

• Núcleo de Decisão de Confiança (TDC - Trust-Decision Core): Uma arquitetura de rede neural multi-cabeça que processa os embeddings interceptados para quantificar a confiabilidade. Emprega três cabeças especializadas:
  • Consistência Espacial-Frequencial (SFC): Avalia a plausibilidade topológica das máscaras de segmentação usando heurísticas de Área, Posição, Simetria e Forma (APSS) para detectar distorções geométricas causadas por falhas de hardware.
  • Continuidade Temporal: Utiliza uma unidade de lógica difusa temporal para analisar a similaridade de Jaccard entre máscaras sequenciais, filtrando falhas de cintilação de alta frequência e ruído transitório de sensores.
  • Cabeça de Manifold Latente Baseada em Energia: Mapeia os embeddings latentes para um valor escalar de energia (energia livre de Helmholtz) para detectar entradas OOD onde o modelo possui alta incerteza epistêmica, apesar de produzir uma saída visual.
• Unificação de Peso Contextual (UCW): Um mecanismo de gating dinâmico que funde os escores de anomalia do TDC multi-cabeça. Em vez de uma média estática, ele pondera as dimensões diagnósticas com base na confiabilidade instantânea, priorizando o fluxo que fornece a evidência mais definitiva de falha.
• Camada de Resiliência Federada: Implementa um protocolo de Aprendizado Federado (FL) onde os valores de confiança locais atuam como guardiões. Dispositivos com baixa confiança interna (indicando sensores comprometidos) têm suas contribuições de gradiente rejeitadas. Isso permite que a frota sincronize limiares de confiança e pesos de sensibilidade a falhas sem compartilhar dados ambientais brutos, garantindo imunidade coletiva contra modos de falha localizados.

Lógica Operacional

O sistema gera um Índice de Confiança ($T_i$) unificado. Se $T_i$ cair abaixo de um limiar de segurança calibrado ($\tau_{safety}$), o TDC emite um veto de segurança binário ($V=1$), sobrepondo-se aos comandos do controlador primário. Este estado de "Segurança Antes da Ação" (Safe-Before-Act) é alcançado com latência de sub-quadro, garantindo que o sinal de segurança seja gerado dentro do mesmo ciclo de processamento que a leitura do sensor.

Principais Contribuições

O artigo delineia três contribuições primárias:

1. Supervisão Independente Não Intrusiva: O design de um framework de 76k parâmetros (TDC) que opera como uma sobreposição de zero disrupção. Ele valida a integridade física e latente interceptando embeddings de 512 dimensões, permitindo a detecção de falhas silenciosas induzidas por hardware sem modificar o backbone de percepção primário.
2. Validação Federada Descentralizada: Um protocolo de largura de banda eficiente para resiliência de frota. Ao realizar o controle de confiança local e transmitir dados apenas durante eventos de alta incerteza, o sistema atinge um overhead cumulativo de 11.850 KB ao longo de um período de 500 quadros, permitindo que frotas mitiguem modos de falha emergentes coletivamente enquanto preservam a privacidade.
3. Ponte de Autorização de Confiabilidade-Ação: O estabelecimento de um elo entre a engenharia de confiabilidade de hardware e a percepção robótica. O framework estende as métricas de integridade ao processo de autorização da confiabilidade da ação, demonstrando viabilidade computacional para implantação em edge com consumo de energia na ordem de $10^{-4}$ J.

Resultados Experimentais

O framework foi avaliado no conjunto de dados CITYSCAPES usando uma sequência sintetizada de 500 quadros com falhas injetadas (inversões de bits na memória, Desvio Semântico Adversário e degradação de sensores).

• Desempenho Diagnóstico: O framework proposto alcançou um AUROC de 0,882 e um AUPR de 0,959, superando significativamente o baseline baseado em atenção (AUROC: 0,475) e a variante de ablação não federada (AUROC: 0,476). O F1-score atingiu 0,881.
• Eficiência: O sistema demonstrou um throughput excepcional de aproximadamente 2248 FPS, excedendo em muito os ~185 FPS dos modelos de base. Reduziu a pegada de memória para 4,79 MB (uma redução de ~97,5% em comparação com os 194,59 MB exigidos pelo backbone primário) e reduziu o consumo de energia para a ordem de $10^{-4}$ J.
• Estabilidade: Durante a operação normal, o sistema manteve uma variância estável do escore de confiança de $\sigma^2 \approx 1,16 \times 10^{-3}$, suprimindo efetivamente o ruído ambiental e evitando a fadiga de alertas.
• Escalabilidade: Projeções de escalonamento federado sugerem que aumentar o tamanho da frota de 3 para 20 UAVs poderia elevar o AUROC de detecção de ~0,83 para ~0,95, demonstrando o valor da inteligência coletiva.

Significância e Alegações

Os autores afirmam que o Aux-AI estabelece uma base escalável e matematicamente fundamentada para a autonomia industrial consciente de confiança. Ao desacoplar o supervisor de segurança do modelo de percepção primário, o framework aborda a vulnerabilidade crítica de modos de falha compartilhados, garantindo que um monitor de segurança permaneça um auditor confiável mesmo sob corrupção de hardware.

A significância deste trabalho reside em sua capacidade de fornecer mitigação de falhas proativa em vez de apenas registro de erros reativo. Oferece um caminho computacionalmente viável para a conformidade com o EU AI Act, que exige validação independente para sistemas de IA de alto risco. O framework demonstra que a estimativa de confiança de alta precisão e a resiliência de frota podem ser alcançadas sem os custos proibitivos de largura de banda ou computação associados ao offloading centralizado em nuvem ou monitoramento interno pesado, permitindo assim estados de "Segurança Antes da Ação" em paisagens industriais imprevisíveis.