Lung-SRAD: Spectral-Aware Regularized Audio DASS with Dual-Axis Patch-Mix Contrastive Learning for Respiratory Sound Classification

Resumo Técnico: Lung-SRAD

Definição do Problema
A Classificação de Sons Respiratórios (RSC) é crítica para o diagnóstico de condições como pneumonia, DPOC e asma, onde sons anormais, como estertores e sibilos, manifestam-se como estruturas espectro-temporais localizadas de curta duração. Embora métodos recentes de alto desempenho para RSC dependam de arquiteturas baseadas em Transformers, como o Audio Spectrogram Transformer (AST), os autores identificam duas limitações primárias:

1. Viés Espectral: A análise teórica sugere que a autoatenção baseada em softmax em Transformers comporta-se como um filtro passa-baixa no domínio das características. Isso suprime progressivamente as variações de alta frequência entre os tokens, potencialmente reduzindo a sensibilidade às variações espaciais rápidas e localizadas, características de eventos respiratórios anormais.
2. Complexidade Computacional: A complexidade de tempo e memória quadrática da autoatenção torna os Transformers computacionalmente caros para sequências de áudio longas.

Metodologia: Lung-SRAD
O artigo propõe o Lung-SRAD (Spectral-Aware Regularized Audio DASS), um framework construído sobre Modelos de Espaço de Estados (SSMs) para abordar essas limitações. A metodologia consiste em três componentes principais:

1. Backbone SSM (DASS):
   Os autores utilizam o modelo Distilled Audio State Space (DASS), inicializado com pesos destilados de um conjunto de professores Transformer (AST e HTS-AT) no AudioSet. Diferente dos Transformers, o DASS emprega uma arquitetura hierárquica com Escaneamento de Espaço de Estado 2D Seletivo (SS2D). Isso permite que o modelo agregue características de todo o mapa tempo-frequência via pooling espacial, em vez de depender de um único token CLS, mantendo a complexidade linear enquanto preserva representações distribuídas.

2. Regularização de Camada Sensível ao Espectro:
   Através de uma análise das curvas de resposta espectral, os autores observaram que, embora o DASS preserve melhor os componentes de frequência espacial média-alta do que o AST, certas camadas intermediárias (especificamente no Estágio 2) exibem respostas de alta frequência excessivas que podem levar ao overfitting em padrões locais finos. Para mitigar isso, eles aplicam uma convolução Gaussiana seletivamente a essas camadas. Esta regularização atenua picos espectrais dominantes enquanto preserva a estrutura harmônica geral, visando melhorar a especificidade sem sacrificar a sensibilidade.

3. Aprendizado Contrastivo de Patch-Mix de Eixo Duplo:
   O aprendizado contrastivo Patch-Mix padrão, projetado para o AST, trata os patches do espectrograma como um conjunto não ordenado. No entanto, os SSMs como o VMamba processam entradas como grades 2D estruturadas com transições de estado direcionais. O mixing de patches ingênuo interrompe essas evoluções de estado sequenciais. Para alinhar-se à arquitetura SSM, os autores propõem o Dual-Axis Patch-Mix:

• Temporal Patch-Mix: Substitui segmentos temporais consecutivos enquanto preserva a continuidade do estado em relação à frequência.
• Frequency Patch-Mix: Substitui bandas de frequência consecutivas enquanto preserva a continuidade temporal.
• Estratégia de Gradiente Assimétrico: O modelo utiliza uma operação de stop-gradient nas amostras misturadas para incentivar a invariância a essas perturbações alinhadas aos eixos sem colapsar a dinâmica estruturada do espaço de estados do backbone.

Principais Contribuições

• Primeira Aplicação de DASS para RSC: O artigo apresenta o primeiro uso de um Modelo de Espaço de Estados destilado para classificação de sons respiratórios, alcançando uma pontuação de baseline de 61,06% no dataset ICBHI via fine-tuning simples.
• Análise Espectral e Regularização: Os autores fornecem uma análise empírica das representações intermediárias em SSMs versus Transformers, demonstrando a preservação superior de componentes de frequência espacial média-alta pelo DASS. Eles introduzem uma estratégia de regularização Gaussiana direcionada para equilibrar essas respostas de alta frequência.
• Aprendizado Contrastivo Alinhado à Arquitetura: Eles propõem uma estratégia de aprendizado contrastivo supervisionado Dual-Axis Patch-Mix especificamente adaptada para as propriedades de escaneamento multidirecional dos SSMs, evitando a interrupção estrutural causada pelas técnicas de patch-mixing padrão.

Resultados Experimentais
Os experimentos foram conduzidos no benchmark ICBHI usando a divisão oficial de 60% para treinamento e 40% para teste (independente de paciente).

• Avaliação de 4 Classes: O modelo final Lung-SRAD alcançou um ICBHI Score de 64,48%, superando o baseline AST (62,37% com Patch-Mix CL) por aproximadamente 2,1 pontos percentuais e o baseline de fine-tuning padrão do AST por 5 pontos percentuais. Este aumento foi impulsionado por um aumento significativo na Especificidade (Sp) de 74,68% para 79,53%, mantendo uma Sensibilidade (Se) comparável.
• Avaliação de 2 Classes: Em um cenário de classificação binária (Normal vs. Anormal), o modelo alcançou um score de 72,57%, excedendo o estado da arte anterior relatado no artigo (72,08%).
• Estudos de Ablação: Os resultados confirmaram que a regularização sensível ao espectro melhorou a especificidade, e que a estratégia Dual-Axis Patch-Mix proporcionou uma regularização superior em comparação ao mixing de eixo único ou ao mixing no estilo AST.

Significância e Alegações
O artigo afirma que o Lung-SRAD demonstra a viabilidade dos Modelos de Espaço de Estado como uma alternativa eficiente e eficaz aos Transformers para RSC. Ao aproveitar a capacidade inerente dos SSMs de preservar padrões espectro-temporais localizados e introduzir regularização e aprendizado contrastivo específicos de arquitetura, o método alcança um equilíbrio favorável entre sensibilidade e especificidade. Os autores enfatizam que sua abordagem aborda as limitações espectrais específicas dos modelos baseados em atenção no contexto da detecção de eventos respiratórios esparsos e anormais, oferecendo um caminho computacionalmente eficiente para a análise de áudio clínica.