Learning Binary Sampling Patterns for Single-Pixel Imaging using Bilevel Optimisation

Resumo Técnico: Aprendizado de Padrões de Amostragem Binária para Imagem de Pixel Único via Otimização Bilevel

1. O Problema

A Imagem de Pixel Único (Single-Pixel Imaging - SPI) é uma técnica que utiliza apenas um detector para reconstruir imagens através de sequências de iluminação estruturada. O desafio central é determinar quais padrões de iluminação utilizar e quantos são necessários para garantir uma reconstrução de alta qualidade com o menor tempo de aquisição possível (regimes de subamostragem).

Os problemas específicos abordados são:

• Restrições de Hardware: Dispositivos práticos (como o DMD) operam apenas com padrões binários $\{0, 1\}$ ou $\{-1, 1\}$.
• Não-diferenciabilidade: A natureza discreta dos padrões binários torna o espaço de busca combinatório e impossibilita o uso direto de métodos de gradiente.
• Eficiência de Dados: Métodos de aprendizado profundo atuais (como o DCAN) exigem conjuntos de dados massivos (dezenas de milhares de imagens) para treinar o padrão e o reconstrutor simultaneamente.

2. Metodologia

Os autores propõem um framework de otimização bilevel que desacopla o aprendizado dos padrões do treinamento do reconstrutor.

• Formulação Bilevel:
  • Nível Superior: Busca uma representação latente contínua $Z$ (onde o padrão real é $A = \text{sgn}(Z)$) e um peso de regularização $\alpha$ para minimizar o erro de reconstrução em um conjunto de dados.
  • Nível Inferior: Resolve o problema de reconstrução variacional para cada imagem, utilizando um funcional de regularização $J$ pré-treinado.
• Estimador de Passagem Direta (Straight-Through Estimator - STE): Para contornar o gradiente zero da função sinal ($\text{sgn}$), os autores utilizam o STE. Eles fornecem uma interpretação probabilística, mostrando que o STE equivale ao gradiente de uma função suavizada por ruído (ex: ruído Uniforme para o Clipped STE ou ruído Logístico para o Tanh STE).
• Backpropagation Livre de Jacobiano (Jacobian-Free Backpropagation - JFB): Para tornar o cálculo computacionalmente viável, utilizam uma aproximação de série de Neumann de ordem zero para evitar a inversão de matrizes custosas durante a diferenciação do problema de nível inferior.
• Regularizadores Aprendidos: Em vez do clássico Total Variation (TV), utilizam regularizadores poderosos e pré-treinados: Total Deep Variation (TDV) e Weakly Convex Ridge Regularizer (WCRR).

3. Principais Contribuições

1. Desacoplamento do Treinamento: Ao utilizar um reconstrutor pré-treinado e fixo, o método elimina a necessidade de treinar redes neurais complexas junto com os padrões.
2. Eficiência de Dados: Demonstram que é possível aprender padrões eficazes com apenas 250 imagens, enquanto métodos de aprendizado de ponta a ponta exigem milhares.
3. Otimização Direta de Binários: O uso do STE permite otimizar diretamente sobre o espaço binário, evitando as dificuldades de esquemas de penalização (Relax-and-Penalise).
4. Fundamentação Teórica: Fornecem uma prova de que as escolhas de STE são, na verdade, gradientes de funções suavizadas por distribuições de ruído específicas.

4. Resultados

Os experimentos foram realizados no dataset de microscopia CytoImageNet:

• Qualidade de Reconstrução: Os padrões aprendidos via STE superaram significativamente os padrões fixos (Gaussianos e Hadamard) e o método RnP (Relax-and-Penalise). Em regimes de alta compressão, o método STE-TDV alcançou qualidade comparável a padrões tradicionais com quatro vezes mais medições.
• Robustez: O método mostrou-se robusto a variações no nível de ruído e à escolha do regularizador.
• Comparação com Deep Learning (DCAN): O método proposto superou o DCAN em todos os tamanhos de conjuntos de dados, sendo especialmente superior em cenários de escassez de dados (data-scarce regimes).
• Convergência: Testes em escalas reduzidas mostraram que a solução do STE converge para o ótimo global ou para mínimos locais com erro de MSE desprezível.

5. Significância

Este trabalho representa um avanço importante para a aplicação prática de SPI em áreas como microscopia biomédica e imagem infravermelha. Ao reduzir drasticamente a quantidade de dados necessária para o treinamento e permitir o uso de padrões binários otimizados para tarefas específicas, a técnica viabiliza sistemas de imagem de alta velocidade, baixo custo e alta resolução, mesmo quando o número de medições é extremamente limitado.