Convolutional Sparse Coding via the Locally Competitive Algorithm on Loihi 2

Resumo Técnico: Codificação Esparsa Convolucional via Algoritmo de Competição Local no Loihi 2

Definição do Problema
A codificação esparsa oferece um arcabouço principiológico para a representação de sinais, expressando entradas como combinações lineares de um pequeno número de funções de base. Embora o Algoritmo de Competição Local (LCA) seja bem adequado para a computação neuromórfica devido ao seu alinhamento com o estado local, atualizações orientadas por eventos e comunicação esparsa, estudos neuromórficos anteriores concentraram-se majoritariamente em configurações não convolucionais. O LCA não convolucional carece da estrutura espacial, compartilhamento de pesos e campos receptivos sobrepostos que são essenciais para cargas de trabalho práticas de inferência esparsa. A codificação esparsa convolucional introduz essas propriedades, mudando fundamentalmente o problema de uma simples questão de escalonamento vetorial para uma carga de trabalho de inferência estruturada distinta. O desafio reside na implementação deste cenário convolucional em hardware neuromórfico (especificamente o Intel Loihi 2), preservando as dinâmicas essenciais e avaliando sua viabilidade em relação às bases de hardware convencionais.

Metodologia
Os autores apresentam uma implementação no Loihi 2 de codificação esparsa convolucional usando uma formulação de LCA recorrente de uma camada. A metodologia envolve:

• Formulação Algorítmica: O problema é definido como a minimização de uma função de energia composta por um termo de fidelidade de reconstrução e uma penalidade de esparsidade $\ell_1$. As dinâmicas do LCA evoluem através de interações locais onde as unidades integram o drive de alimentação direta (feedforward), competem via inibição lateral e emitem ativações limiares. A regra de atualização utiliza uma discretização de Euler para frente em tempo discreto com dinâmicas de membrana de ponto fixo.
• Mapeamento de Hardware: A implementação mapeia o LCA convolucional para o Loihi 2 representando os coeficientes esparsos como uma única camada recorrente de neurônios.
  • Drive de Alimentação Direta: Pré-computado pela convolução da entrada com o dicionário e injetado como um viés (bias) fixo.
  • Inibição Lateral: Derivada das correlações de dicionário par a par ($W = (\Phi * \Phi) - \delta$), onde o auto-overlap é removido para evitar auto-inibição trivial. Isso cria núcleos inibitórios locais.
  • Dinâmicas: Os neurônios utilizam aritmética de ponto fixo para estados de membrana e regras de atualização customizadas para limiarização suave (soft-thresholding). Unidades ativas emitem saídas graduadas correspondentes a ativações limiares, gerando tráfego de eventos esparso.
• Configuração Experimental:
  • Dataset: Benchmark de imagem Set12 com entradas em tons de cinza.
  • Configuração: Experimentos utilizam dicionários convolucionais de 3×3 e 5×5 com contagens variáveis de kernels. Dois regimes de stride são testados: Stride-1 (tamanhos alvo de 50×50 a 200×200) e Stride-2 (400×400 a 800×800).
  • Treinamento: Os dicionários são aprendidos offline via treinamento alternado (codificação esparsa via LCA seguido de atualização de dicionário via SGD) e mantidos fixos durante a inferência.
  • Baseline: Uma implementação correspondente em GPU (NVIDIA RTX A6000, PyTorch) utilizando os mesmos dicionários, imagens, parâmetros de esparsidade ($\lambda$) e um orçamento fixo de 1000 iterações de LCA.
  • Métricas: A qualidade da reconstrução (PSNR, SSIM, MSE, esparsidade) é tratada como independente de hardware. Métricas dependentes de hardware incluem latência no chip ($time\_chip\_ms$), latência de tempo de relógio (wall-clock), potência dinâmica e energia dinâmica por inferência.

Principais Contribuições

1. Primeira Implementação: Tanto quanto aos autores, esta é a primeira implementação e benchmark de LCA convolucional no Loihi 2.
2. Benchmark Estruturado: O trabalho estabelece uma configuração de benchmarking correspondente que separa métricas algorítmicas (qualidade de reconstrução) de métricas dependentes de hardware (latência, potência, energia).
3. Análise de Regime: O estudo analisa os trade-offs entre múltiplas configurações de regularização ($\lambda$), tamanhos de filtro e configurações de stride para identificar regimes operacionais onde a inferência esparsa convolucional é atraente em hardware neuromórfico.

Resultos

• Comportamento Exclusivo do Loihi: O aumento do parâmetro de esparsidade $\lambda$ atua como um controle confiável. À medida que $\lambda$ aumenta, a qualidade da reconstrução (PSNR) diminui moderadamente, enquanto a latência no chip e a energia dinâmica diminuem significamente. A magnitude dessas economias é dependente do regime, variando com o stride e o tamanho do filtro.
• Comparação entre Plataformas:
  • Latência: O baseline de GPU demonstra consistentemente menor latência que o Loihi 2, particularmente nos regimes de Stride-1. A lacuna de latência diminui nos regimes de Stride-2, mas permanece a favor da GPU.
  • Energia: O Loihi 2 exibe uma vantagem substancial em energia dinâmica por inferência em todos os regimes testados, exigindo significativamente menos energia do que o baseline de GPU.
  • Qualidade de Reconstrução: A qualidade de reconstrução entre plataformas é dependente do regime, em vez de ser uniformemente ordenada. As divergências entre os resultados do Loihi 2 e da GPU são mais pronunciadas em regimes de operação mais densos (menor $\lambda$) e diminuem à medida que as representações se tornam mais esparsas (maior $\lambda$). Os autores atribuem isso aos efeitos de quantização de ponto fixo na implementação do Loihi 2, que se acumulam ao longo das dinâmicas recorrentes.

Significância e Alegações
O artigo posiciona o LCA convolucional no Loihi 2 não como um substituto universal para a execução convencional em GPU, mas como um substrato de inferência esparsa dependente de regime. A principal significância reside em demonstrar a viabilidade e esclarecer as condições operacionais específicas sob as quais o hardware neuromórfico se torna vantajoso.

• Identificação de Trade-offs: O estudo esclarece que, embora as GPUs ofereçam latência superior e geralmente melhor qualidade de reconstrução (especialmente em regimes densos), o Loihi 2 oferece uma vantagem convincente em eficiência de energia dinâmica.
• Contexto de Aplicação: Os resultados sugerem que o Loihi 2 é particularmente atraente para aplicações onde a inferência esparsa iterativa é valiosa, mas a latência absoluta é secundária às restrições de energia, como pipelines de sensoriamento com restrição de energia ou processamento de front-end "always-on".
• Valor de Benchmark: O LCA convolucional é proposto como um benchmark útil para sistemas neuromórficos emergentes porque expõe uma família estruturada de trade-offs (qualidade vs. latência vs. energia) que dependem tanto do regime operacional quanto do substrato de hardware.

Os autores explicitamente notam limitações, incluindo a restrição a dicionários treinados offline, o uso de aritmética de ponto fixo que impacta a precisão em regimes densos, e o uso de um orçamento fixo de 1000 iterações que pode não refletir critérios de parada otimizados para aplicações. A comparação é estruturada como um benchmark correspondente para contextualizar o Loihi 2 contra uma referência convencional forte, em vez de uma reivindicação de superioridade neuromórfica universal.