Resumo Técnico: SLAM-AGS

1. Definição do Problema

A citologia computacional enfrenta dois desafios críticos que dificultam a aplicação de aprendizagem profunda para a detecção de câncer:

1. Rótulos de Instância Não Confiáveis e Custoosos: Obter anotações exaustivas ao nível de patch para Imagens de Lâmina Inteira (WSIs) de gigapixels é proibitivamente caro. Consequentemente, o treinamento totalmente supervisionado é frequentemente inviável.
2. Taxa de Testemunha Extremamente Baixa: Em WSIs de citologia, a proporção de patches positivos (que contêm células anormais) em relação ao total de patches é frequentemente inferior a 1%. Em taxas de testemunha tão baixas, os métodos fracamente supervisionados padrão (que dependem apenas de rótulos ao nível de lâmina) são dominados por instâncias negativas. Isso leva ao sobreajuste (overfitting), má generalização para positivos raros e colapso do modelo, onde o modelo falha em distinguir sacos (bags) positivos de negativos.

Embora a Aprendizagem de Múltiplas Instâncias (MIL) seja uma solução padrão para rotulagem ao nível de lâmina, ela tem dificuldades quando a discriminação ao nível de instância é fracamente supervisionada e os sinais positivos são esparsos. Além disso, os métodos existentes de pré-treinamento multitarefa que combinam objetivos auto-supervisionados e fracamente supervisionados frequentemente sofrem de conflitos de gradiente, desestabilizando o treinamento e limitando os benefícios da supervisão fraca.

2. Metodologia: SLAM-AGS

Os autores propõem o SLAM-AGS (Slide-Label Aware Multi-task pretraining using Adaptive Gradient Surgery), um framework projetado para otimizar conjuntamente o aprendizado de representação tanto para patches negativos quanto positivos da lâmina, enquanto estabiliza o processo de treinamento.

2.1. Objetivos de Pré-treinamento Multitarefa

O framework adapta a abordagem WeakSupCon, tratando os patches com base em seus rótulos ao nível de lâmina:

• Patches Negativos da Lâmina (Similaridade Supervisionada): Patches de lâminas saudáveis (negativas) são tratados como tendo um rótulo negativo conhecido e compartilhado. O modelo otimiza uma Perda de Similaridade derivada da perda de Contraste Supervisionado (SupCon) para incentivar uma representação compacta dessas instâncias negativas no espaço de características.
• Patches Positivos da Lâmina (Contraste Auto-supervisionado): Patches de lâminas positivas (que podem conter uma mistura de células normais e anormais) são tratados como não rotulados. O modelo otimiza um objetivo de contraste SimCLR nesses patches para aprender características visuais robustas e livres de rótulos.

A perda total é a soma desses dois objetivos: $L = L_{Similarity} + L_{SimCLR}$.

2.2. Cirurgia de Gradiente Adaptativa

Para lidar com a instabilidade causada pela combinação de objetivos heterogêneos, o SLAM-AGS integra a Cirurgia de Gradiente Adaptativa baseada no algoritmo PCGrad:

1. Resolução de Conflitos: Quando a similaridade de cosseno entre os gradientes das tarefas é negativa (indicando conflito), o algoritmo projeta o gradiente de cada tarefa no plano normal do gradiente da outra tarefa. Isso remove a interferência destrutiva.
2. Redimensionamento de Gradiente: Uma inovação crítica neste trabalho é a etapa de redimensionamento de gradiente. A projeção padrão pode reduzir a magnitude efetiva do gradiente, retardando a convergência. O SLAM-AGS calcula a norma do gradiente combinado original ($\|g_{sum}\|$) e do gradiente projetado ($\|g_{pc}\|$). Se a norma projetada for menor, o gradiente é redimensionado para preservar a magnitude da atualização original:
   $$g_{pc} \leftarrow g_{pc} \cdot \frac{\|g_{sum}\|}{\|g_{pc}\|}$$
   Isso garante que, embora as direções conflitantes sejam removidas, a escala geral do sinal de aprendizado seja mantida.

2.3. Pipeline de Avaliação (Downstream)

O codificador pré-treinado é integrado a um agregador de Aprendizagem de Múltiplas Instâncias baseado em Atenção (especificamente o PAMIL). Isso permite:

• Predição ao nível de saco (bag-level): Classificar a lâmina inteira (ex: detecção de malignidade).
• Recuperação ao nível de instância: Usar escores de atenção para identificar e recuperar os patches mais anormais dentro de um saco positivo.

3. Configuração Experimental

• Dataset: O conjunto de dados de Citologia de Medula Óssea [14], apresentando WSIs coradas com May-Grünwald-Giemsa/Pappenheim.
• Simulação: Para simular configurações de MIL com taxas de testemunha controladas, "Linfócitos" (classe majoritária) foram rotulados como "normais", e sete tipos celulares minoritários foram fundidos em uma classe "anormal". Instâncias anormais foram injetadas em sacos normais para criar taxas de testemunha alvo de 10%, 5%, 1% e 0,5%.
• Baselines: O método foi comparado contra Treinamento Fracamente Supervisionado, SimCLR, WeakSupCon e uma variante do SLAM-AGS sem redimensionamento de gradiente.
• Métricas:
  • Nível de saco (bag-level): F1-Score.
  • Nível de instância: Recall@400 (o número de instâncias chave corretamente identificadas entre os 400 principais patches classificados pelo escore de atenção).

4. Principais Resultados

Os experimentos demonstram que o SLAM-AGS supera significativamente os métodos existentes, particularmente conforme as taxas de testemunha diminuem:

• Classificação ao Nível de Saco (F1-Score):
  • Nas taxas de testemunha de 10% e 5%, o SLAM-AGS alcançou as pontuações mais altas (97,1% e 96,0%, respectivamente), superando o Fracamente Supervisionado (53,4%) e o WeakSupCon (84,6%).
  • Na taxa de 0,5%, a vantagem foi mais pronunciada. O SLAM-AGS alcançou 66,4%, enquanto o Fracamente Supervisionado, SimCLR e WeakSupCon colapsaram para um desempenho próximo ao aleatório (~50%).
• Detecção ao Nível de Instância (Recall@400):
  • O SLAM-AGS manteve uma taxa de detecção acima de 60% em todas as taxas de testemunha (ex: 65,3% em 0,5% de WR).
  • Métodos concorrentes (SimCLR, WeakSupCon) caíram para níveis próximos ao aleatório (~40-45%) em baixas taxas de testemunha, falhando em identificar efetivamente as instâncias anormais chave.
• Estudo de Ablação: A variante "SLAM-AGS sem redimensionamento" teve um desempenho significativamente inferior (ex: 46,0% F1 em 0,5% de WR), confirmando que o componente de redimensionamento de gradiente é essencial para estabilizar a otimização e preservar os sinais de aprendizado.

5. Significância e Alegações

O artigo afirma que o SLAM-AGS fornece uma solução robusta para a citologia computacional onde os sinais positivos são extremamente esparsos. A principal significância reside na demonstração de que:

1. A Interferência de Gradiente é um Gargalo Primário: No pré-treinamento multitarefa com rótulos positivos esparsos, os gradientes conflitantes entre os objetivos auto-supervisionados e fracamente supervisionados podem desestabilizar o treinamento.
2. A Cirurgia Adaptativa Habilita a Estabilidade: Ao combinar a projeção de gradiente com o redimensionamento de magnitude, o framework permite que os objetivos supervisionados e auto-supervisionados se reforcem em vez de interferirem entre si.
3. Desempenho em Esparsidade Extrema: O método permite um pré-treinamento estável e desempenho superior em tarefas subsequentes mesmo em taxas de testemunha tão baixas quanto 0,5%, um regime onde métodos auto-supervisionados e fracamente supervisionados padrão falham.

Os autores concluem que mitigar conflitos de gradiente e redimensionar atualizações são críticos para o aprendizado de representação robusto em cenários com supervisão positiva escassa. Eles observam que, embora a recuperação ao nível de instância permaneça estável, os escores de F1 ao nível de saco ainda degradam ligeiramente nas taxas de testemunha mais baixas, sugerindo que trabalhos futuros devem focar em melhorar o agregador MIL para melhor aproveitar os sinais identificados ao nível de instância.

Reprodutibilidade: Os autores disponibilizaram sua implementação completa e o framework de avaliação como código aberto em https://github.com/Ace95/SLAM-AGS.