Explainability Methods for Hardware Trojan Detection: A Systematic Comparison

Resumo Técnico: Métodos de Explicabilidade para Detecção de Trojans de Hardware

Problema
Trojans de hardware são circuitos maliciosos inseridos durante o design ou fabricação de circuitos integrados (ICs). Diferente das vulnerabilidades de software, eles são permanentes no silício e não podem ser corrigidos via patch, o que exige detecção precoce durante a fase de projeto. Embora modelos de aprendizado de máquina (ML) possam sinalizar portas suspeitas em netlists de nível de porta, sua natureza de "caixa-preta" frequentemente resulta em soluções baseadas estatisticamente com altas taxas de falsos positivos. Engenheiros de segurança exigem explicações acionáveis fundamentadas em princípios de design de circuitos para validar alertas e planejar a remediação. Os métodos atuais de IA explicável (XAI), desenvolvidos para domínios gerais como classificação de imagens, costumam fornecer pontuações genéricas de importância de características que carecem do contexto específico de nível de circuito exigido por profissionais de hardware. Este trabalho aborda essa lacuna comparando empiricamente a explicabilidade consciente do domínio contra técnicas agnósticas ao modelo para aplicações de segurança de hardware.

Metodologia
O estudo utiliza o conjunto de dados de referência Trust-Hub, composto por 30 circuitos combinacionais digitais (periféricos RS232 e benchmarks ISCAS) com inserções de trojans rotuladas em nível de porta. O conjunto de dados apresenta um desequilíbrio de classes extremo (aproximadamente 158 portas benignas para 1 porta trojan).

A metodologia avalia cinco abordagens de explicabilidade em três categorias, todas utilizando as mesmas cinco características estruturais derivadas de Hasegawa et al.: Fanins de Portas Lógicas (LGFi), Entrada de Flip-Flop (FFi), Saída de Flip-Flop (FFo), Entrada Primária (PI) e Saída Primária (PO).

1. Análise de Propriedade Consciente do Domínio (Método 1): Esta abordagem constrói um ensemble de 31 classificadores XGBoost, cada um treinado em um subconjunto distinto e não vazio das cinco características. As explicações são geradas identificando quais combinações específicas de propriedades (ex: alta fanin próxima às saídas) votaram para uma detecção. Isso alinha as explicações ao vocabulário de segurança de hardware.
2. Raciocínio Baseado em Casos Agnóstico ao Modelo (Método 2): Este método utiliza um único classificador XGBoost para predição, mas explica decisões recuperando os $k=5$ vizinhos mais próximos do conjunto de treinamento. As explicações baseiam-se em precedentes, mostrando aos engenheiros exemplos específicos de treinamento que correspondem ao perfil de características da porta suspeita.
3. Atribuição de Características Agnóstica ao Modelo (Métodos 3–5): Três técnicas padrão de atribção post-hoc são aplicadas ao classificador XGBoost:
   • LIME: Explicações Locais Interpretáveis e Agnósticas ao Modelo usando perturbação.
   • SHAP: Explicações Aditivas de Shapley (SHAP) usando valores teoria dos jogos (TreeExplainer).
   • Atribuição de Gradiente: Análise de sensibilidade de primeira ordem.

O desempenho de detecção é avaliado primariamente usando XGBoost, sendo o Random Forest utilizado para verificar a generalização. A linha de base SVM de Hasegawa é reimplementada sob condições experimentais idênticas (mesmo split, características e protocolos de limiarização) para uma comparação justa.

Principais Contribuições

1. Comparação Sistemática: O artigo fornece a primeira comparação empírica de análise de propriedade consciente do domínio, raciocínio baseado em precedentes e atribuição de características genérica especificamente para detecção de trojans de hardware em nível de porta.
2. Melhoria no Desempenho de Detecção: O trabalho demonstra que os classificadores otimizados XGBoost e Random Forest superam significativamente a linha de base SVM reimplementada. O XGBoost alcança 48,08% de precisão e 69,44% de recall (F1 = 0,568), representando uma melhoria de 4,25 vezes na precisão e uma redução de 7,4 vezes na densidade de falsos positivos em relação à linha de base SVM (11,33% de precisão, 35,0 falsos positivos por 1.000 portas).
3. Análise de Trade-off de Explicabilidade:
   • Consciente do Domínio vs. Agnóstico ao Modelo: Métodos conscientes do domínio oferecem explicações em termos de circuitos familiares (ex: "alta complexidade de fanin próxima às saídas"), enquanto métodos agnósticos ao modelo (LIMA, SHAP) produzem pontuações de importância genéricas.
   • Correspondência: O raciocínio baseado em casos alcança 96,51% de correspondência entre predições e exemplares de treinamento, fornecendo justificativa intuitiva.
   • Consistência de Atribuição: LIME e SHAP mostram apenas concordância moderada por porta (Spearman $\rho = 0,30$), indicando que não produzem rankings de importância idênticos, apesar de ambos serem agnósticos ao modelo.
   • Eficiência: A atribuição baseada em gradiente mostrou-se 7 vezes mais rápida que o SHAP (0,16 ms vs. 1,10 ms por explicação), embora careça das garantias formais de consistência do SHAP, apesar de fornecer rankings de características semelhantes.

Resultados

• Detecção: Em um conjunto de teste retido de 11.392 portas, o XGBoost em um limiar otimizado (0,940) alcançou 48,08% de precisão e 69,44% de recall. O Random Forest alcançou F1 scores comparáveis (0,555) com metade da densidade de falsos positivos do XGBoost (2,37 vs. 4,74 FP por 1.000 portas).
• Explicabilidade:
  • Baseada em Propriedades (M1): Embora a ponderação inicial do ensemble (EPARS) tenha gerado baixa precisão (1,7%), a reponderação com MCC em um limiar otimizado alcançou 78,1% de precisão ao custo de menor recall (34,7%). Isso destaca que o desempenho "limitado" dos métodos baseados em propriedades neste cenário de baixa dimensionalidade é uma função da ponderação e do ponto de operação, não um teto inerente da abordagem.
  • Baseada em Casos (M2): Alcançou alta correspondência (96,51%) e forneceu proveniência completa de netlist para os vizinhos recuperados, permitindo que engenheiros inspecionassem exemplos reais de treinamento.
  • Atribuição (M3–M5): LIME e SHAP forneceram pesos de características genéricos sem contexto explícito de circuito. A atribuição de gradiente ofereceu vantagem de velocidade, mas compartilhou a mesma limitação de falta de interpretação específica do domínio.
• Generalização: A validação Leave-one-circuit-out (LOCO) mostrou forte generalização dentro da família RS232 (F1 = 0,80), mas falhou entre famílias distintas de benchmarks ISCAS (F1 = 0,06), indicando que as cinco características estruturais escalares são insuficientes para a generalização entre arquiteturas sem representações de grafo locais mais ricas.

Significância e Alegações
O artigo afirma que, para profissionais de segurança de hardware, a análise de propriedade consciente do domínio e o raciocínio baseado em casos oferecem vantagens complementares sobre a atribuição de características genérica. Métodos baseados em propriedades alinham-se com a forma como os engenheiros raciocinam sobre circuitos, enquanto métodos baseados em casos fornecem interpretabilidade baseada em precedentes sem exigir expertise de domínio para interpretar a explicação em si.

Os autores sustentam que a eficiência computacional (ex: métodos de gradiente) não pode substituir a interpretabilidade consciente do domínio; pontuações de importância genéricas (de LIME/SHAP) carecem do contexto de nível de circuito necessário para validação e planejamento de remediação. O trabalho conclui que, embora os métodos agnósticos ao modelo sejam úteis para análise exploratória, abordagens alinhadas ao domínio ou baseadas em precedentes são superiores para gerar insights acionáveis em segurança de hardware. Os achados sugerem que, em domínios de baixa dimensionalidade e restrição de características, combinar ML agnóstico ao modelo com explicações baseadas em precedentes pode ser mais eficaz do que confiar apenas em ensembles de propriedades.