Equivariant Splitting: Self-supervised learning from incomplete data

Título: Equivariant Splitting: Aprendizado Auto-supervisionado a partir de Dados Incompletos

1. O Problema

O artigo aborda o desafio de resolver problemas inversos em imageamento (como tomografia computadorizada, ressonância magnética acelerada, inpainting e compressão sensorial) na ausência de dados de referência "ground-truth" (imagens perfeitas).

• Contexto: Muitos problemas de imageamento são modelados como $y = Ax + \epsilon$, onde $A$ é um operador de degradação (frente) que pode ser incompleto (rank-deficiente), descartando informações da imagem original $x$.
• Limitação Atual: Métodos baseados em aprendizado supervisionado exigem pares de imagens perfeitas e medidas degradadas, o que é caro ou impossível de obter em áreas como astronomia e medicina.
• Desafio Específico: Métodos auto-supervisionados existentes enfrentam dificuldades quando os dados são obtidos através de um único operador incompleto (ex: uma única máscara de subamostragem fixa).
  • Splitting (divisão de medidas) geralmente requer múltiplos operadores com espaços nulos diferentes para ser eficaz.
  • Equivariant Imaging (EI) funciona com um único operador, mas é computacionalmente caro (requer 2-3 avaliações da rede por iteração) e não garante estimadores ótimos (MMSE) em todos os casos.

2. Metodologia Proposta: Equivariant Splitting (ES)

Os autores propõem uma nova estratégia chamada Equivariant Splitting (ES), que combina a eficiência do splitting com as garantias teóricas da equivariância.

Conceitos Chave:

1. Hipótese de Invariância: Assume-se que a distribuição das imagens verdadeiras $p(x)$ é invariante sob um grupo de transformações $G$ (ex: rotações, translações, flips). Isso permite tratar a mesma medida $y$ como associada a múltiplas "imagens virtuais" $x_g = T_g^{-1}x$ e operadores virtuais $A_g = A T_g$.
2. Definição de Equivariância para Reconstrução: O artigo introduz uma nova definição de equivariância para funções de reconstrução $f(y, A)$:
   $$f(y, A T_g) = T_g^{-1} f(y, A)$$
   Isso difere da definição tradicional de EI e permite que a rede aprenda a mapear consistentemente entre o espaço de medidas transformado e o espaço de imagem.
3. A Perda (Loss Function) ES:
   • A perda é construída aplicando o conceito de splitting (dividir a medida $y$ em entrada $y_1$ e alvo $y_2$) sobre os operadores virtuais gerados pelas transformações do grupo.
   • Para medidas sem ruído: $L_{ES} = \mathbb{E}_g [ L_{SPLIT}(y, A T_g, f) ]$.
   • Para medidas ruidosas: Integra-se uma perda de denoising (como R2R - Recorrupted-to-Recorrupted) na parte de consistência de medida.
4. Eficiência Computacional (Teorema 3):
   • Se a arquitetura da rede for projetada para ser equivariante (satisfazendo a definição acima), a perda ES torna-se matematicamente equivalente à perda de splitting padrão.
   • Vantagem: Isso elimina a necessidade de calcular explicitamente as transformações e reavaliar a rede múltiplas vezes por iteração (como no EI), tornando o método tão eficiente quanto o splitting tradicional, mas com a capacidade de aprender além do espaço nulo de um único operador.

3. Contribuições Principais

1. Nova Definição de Equivariância: Propõem uma definição formal de equivariância específica para funções de reconstrução em problemas inversos e demonstram que arquiteturas comuns (redes de remoção de artefatos, redes unrolled, estimadores MAP e MMSE) satisfazem essa propriedade sob certas condições.
2. Novo Método Auto-supervisionado (ES): Apresentam um método que combina splitting e equivariant imaging. Teoricamente, provam que, sob a hipótese de invariância da distribuição de sinais, o minimizador global da perda ES é o estimador de erro quadrático médio mínimo (MMSE), algo não garantido por métodos anteriores.
3. Eficiência e Desempenho: Demonstram que o uso de arquiteturas equivariantes permite treinar com um único passo de rede por iteração, superando a sobrecarga computacional do EI, enquanto mantém ou supera seu desempenho.

4. Resultados Experimentais

Os autores testaram o método em quatro cenários distintos de problemas inversos:

• Compressive Sensing (Sensação Compressiva): Com imagens MNIST.
• Image Inpainting (Preenchimento de Imagem): Com imagens DIV2K.
• MRI Acelerada (Ressonância Magnética): Usando o dataset FastMRI.
• CT de Poucas Vistas (Tomografia Computadorizada): Usando o dataset LIDC-IDRI.

Comparação:

• O método ES foi comparado contra:
  • Supervisionado (Gold Standard).
  • Equivariant Imaging (EI).
  • Splitting tradicional (MC/SURE).
  • Métodos sem aprendizado (pseudo-inversa).
• Desempenho:
  • O ES atingiu desempenho quase idêntico ao supervisionado em todos os cenários, especialmente em modelos com alto grau de subamostragem (rank-deficiente).
  • Superou consistentemente o método EI em termos de qualidade de reconstrução (PSNR e SSIM) e métricas de equivariância.
  • Foi computacionalmente mais eficiente que o EI (menos épocas de treinamento e menor tempo por epoch devido à ausência de múltiplas avaliações da rede).
• Estudo de Ablação: Confirmou que o uso de arquiteturas projetadas para serem equivariantes melhora significativamente o desempenho do método de splitting, validando a sinergia teórica proposta.

5. Significado e Impacto

• Viabilidade Prática: O método oferece uma solução robusta para cenários onde dados de treinamento supervisionados são inexistentes ou proibitivamente caros, permitindo o treinamento de redes de alta qualidade apenas com dados de medidas incompletas.
• Avanço Teórico: Estabelece uma conexão clara entre a invariância da distribuição de dados e a capacidade de um modelo de aprender a preencher informações perdidas (além do espaço nulo) usando apenas um operador.
• Eficiência: Ao resolver o gargalo computacional do Equivariant Imaging, torna viável a aplicação de métodos auto-supervisionados avançados em tempo real ou em grandes volumes de dados médicos e científicos.
• Generalização: A abordagem sugere que restrições arquiteturais baseadas em equivariância são uma ferramenta poderosa para resolver problemas de imageamento mal-postos, indo além da simples generalização para transformações não vistas.

Em resumo, o artigo apresenta o Equivariant Splitting como um novo estado da arte para aprendizado auto-supervisionado em problemas inversos, unindo a eficiência computacional de métodos de divisão de dados com a robustez teórica de redes equivariantes, alcançando resultados próximos ao supervisionado sem a necessidade de imagens de referência.