Deep Learning for BioImaging: What Are We Learning?

Título: Deep Learning for Bioimaging: What Are We Learning?

Autores: Ivan Svatko, Maxime Sanchez, Ihab Bendidi, Gilles Cottrell & Auguste Genovesio.

1. O Problema

O aprendizado de representação (representation learning) impulsionou avanços significativos na análise de imagens naturais, permitindo que modelos adquiram características semânticas de alto nível. No entanto, na microscopia biológica, permanece incerto o que os métodos atuais de aprendizado de representação realmente aprendem.

Existem preocupações de que os modelos de foundation (modelos base) treinados em grandes conjuntos de dados de microscopia possam estar explorando "atalhos" (shortcuts) nos dados, como:

• Efeitos de lote (batch effects) e condições experimentais.
• Artefatos de aquisição e layout de placas.
• Correlações de baixo nível (intensidade de pixels) em vez de biologia subjacente.

Diferentemente da transcriptômica, onde estudos recentes mostraram que baselines simples podem rivalizar com grandes modelos devido a estruturas de confusão nos dados, a comunidade de microscopia ainda não demonstrou sistematicamente o quanto esses vieses distorcem a avaliação e se os modelos estão realmente aprendendo abstrações biológicas significativas.

2. Metodologia

Os autores realizaram um estudo sistemático focado em dois tipos de dados de microscopia amplamente utilizados: cultura celular e imagem de tecidos. Para avaliar a qualidade das representações, eles introduziram um conjunto de baselines (linhas de base) simples, mas reveladoras, e compararam-nas com modelos de foundation state-of-the-art (SOTA).

Estratégias de Baseline Introduzidas:

1. Modelos Não Treinados (Untrained Models): Redes neurais profundas com pesos inicializados aleatoriamente, usadas como extratores de características fixos. O objetivo é isolar o viés indutivo da arquitetura (ex: convolução local, tokenização) da aprendizagem biológica real. Se um modelo não treinado performa bem, sugere que o sinal do benchmark pode ser capturado apenas pela arquitetura ou por correlações de baixo nível.
2. Estatísticas de Pixels: Métricas simples baseadas na distribuição global de intensidade (média, desvio padrão, assimetria) por canal, ignorando completamente a estrutura espacial e a morfologia.
3. Estrutura de Tecido Desacoplada (Disentangled Tissue Structure): Para imagens de histologia, os autores criaram uma representação baseada apenas na organização espacial das células (centroides dos núcleos), removendo completamente a aparência, textura e cor.
   • Abordagem 1: Imagens binárias de grafos celulares (nós = núcleos, arestas = vizinhança).
   • Abordagem 2: Nuvem de pontos (point cloud) das posições celulares.

Benchmarks Utilizados:

• Nível Celular:
  • RxRx3-core: Recuperação de relações gene-gene.
  • JUMP-CP: Recuperação de perturbações químicas (mAP).
• Nível de Tecido:
  • HEST-1k: Predição de expressão gênica a partir de imagens de histologia (H&E) acopladas a transcriptômica espacial.
  • HEST-1k-1NN: Uma versão "agregada" e mais grosseira do benchmark, focada em vizinhanças espaciais maiores.
• Referência: Imagens Naturais (ImageNet-1k) para contextualizar o comportamento dos modelos.

3. Principais Resultados

A. Nível Celular (Cultura Celular)

• Surpresa: Modelos não treinados (especialmente ViTs com pesos aleatórios) performam de forma comparável aos modelos pré-treinados e foundation models (como OpenPhenom) em tarefas de recuperação gene-gene no RxRx3-core.
• Baselines Simples: Estatísticas de pixels e modelos mínimos (SingleConv) recuperam uma fração substancial do sinal.
• Correlação de Rankings: Modelos pré-treinados e não treinados geram rankings de similaridade gene-gene altamente correlacionados, indicando que ambos exploram essencialmente o mesmo sinal relacional subjacente, possivelmente impulsionado por viéses arquitetônicos ou estrutura do dataset, e não por aprendizado biológico profundo.
• Camadas Intermediárias: Ao contrário das imagens naturais, onde a profundidade melhora consistentemente a performance, nas tarefas biológicas a performance muitas vezes estagna ou diminui nas camadas mais profundas dos modelos pré-treinados.

B. Nível de Tecido (Histologia)

• Poder da Estrutura Espacial: Em subconjuntos específicos (como COAD e PRAD), modelos baseados apenas na estrutura celular (grafos/coordenadas) são competitivos com encoders de visão fora de domínio (OOD).
• Limitações dos Modelos de Imagem: Em alguns genes, modelos de foundation (como H-Optimus-1) lutam para prever a expressão, enquanto a estrutura espacial (coordenadas) consegue prever bem, sugerindo que a morfologia celular aprendida não é o fator determinante para essas previsões específicas.
• Vantagem do Treinamento In-Domain: Para certos conjuntos de dados (ex: CCRCC), o pré-treinamento em dados de microscopia (in-domain) oferece vantagens claras sobre modelos OOD, indicando que o aprendizado de morfologia é valioso quando a tarefa exige sinais sutis alinhados à modalidade.

C. Métricas de Avaliação

• As métricas padrão de benchmark (como Recall@5% ou mAP) são insuficientes para avaliar a qualidade da representação. Elas frequentemente mascaram a limitação de que os modelos não estão aprendendo abstrações biológicas de alto nível, mas sim explorando atalhos estatísticos ou estruturais.

4. Contribuições Chave

1. Diagnóstico de "O Que é Aprendido": O trabalho demonstra que, em muitos benchmarks de microscopia, o desempenho atual pode ser explicado por viéses indutivos de arquitetura e estruturas de dados acessíveis, e não necessariamente por representações biológicas significativas.
2. Novas Linhas de Base (Baselines): A introdução de modelos não treinados e representações de estrutura desacoplada como ferramentas diagnósticas essenciais para calibrar a dificuldade dos benchmarks e detectar shortcuts.
3. Crítica às Métricas Atuais: Evidência de que as métricas de avaliação atuais não distinguem entre aprendizado biológico real e correlações espúrias, exigindo novos protocolos de avaliação mais diagnósticos.
4. Análise de Estrutura vs. Aparência: A descoberta de que, em alguns contextos de tecido, a organização espacial das células é um sinal preditivo tão forte (ou mais forte) quanto a morfologia aprendida por modelos de visão complexos.

5. Significado e Conclusão

O artigo conclui que o progresso no aprendizado de representação para imagens de microscopia não depende apenas de modelos mais potentes, mas sim de benchmarks mais diagnósticos que meçam o que é realmente aprendido.

• Implicação Prática: A comunidade deve adotar baselines fortes e simples (como modelos não treinados e estatísticas de estrutura) para validar se os ganhos de performance de novos modelos são devidos a abstrações biológicas ou a exploração de atalhos do dataset.
• Futuro: É necessário desenvolver protocolos de avaliação que forcem os modelos a aprenderem características biológicas genuínas, separando-as de artefatos experimentais e viéses de arquitetura. O trabalho sugere que a integração de níveis de abstração interpretáveis (como estrutura celular) é um caminho promissor para paradigmas de treinamento e avaliação informados pela biologia.

Em resumo, o papel alerta que, sem uma avaliação crítica e diagnóstica, os modelos de foundation para bioimagem podem estar "iludindo" a comunidade com altos scores que não refletem uma compreensão real da biologia subjacente.