An RRAM-based Hardware Implementation of a Radial Basis Function Neuron for Edge Classifiers

Resumo Técnico: Implementação de Hardware Baseada em RRAM de um Neurônio de Função de Base Radial para Classificadores de Borda

Definição do Problema
A implantação de modelos modernos de Aprendizado de Máquina (ML) em dispositivos de borda com recursos limitados enfrenta desafios significativos, particularmente no que diz respeito à eficiência energética, latência e à capacidade de lidar com valores atípicos ou entradas Fora da Distribuição (OOD - Out-of-Distribution) em tempo real. As Redes Neurais Profundas (DNNs) tradicionais frequentemente lutam contra o "desvio de domínio" (domain shift) — onde mudanças ambientais, ruído de sensores ou padrões de dados evolutivos degradam o desempenho de modelos pré-treinados. Além disso, a barreira de memória de von Neumann cria gargalos para operações computacionalmente caras, como produtos escalares necessários para buscas de similaridade. As soluções existentes carecem de capacidade para adaptação eficiente no dispositivo (aprendizado contínuo) sem exigir recursos adicionais ou anotação de dados, o que é crítico para aplicações de segurança crítica, como navegação autônoma.

Metodologia
Os autores propõem uma solução nativa de hardware aproveitando a RRAM de Óxido Metálico (Metal-Oxide Resistive RAM) integrada com tecnologia CMOS para criar um sistema de Memória de Conteúdo Endereçável Analógica (ACAM). O núcleo deste design é uma célula personalizada Template piXeL (TXL), que funciona como um neurônio de Função de Base Radial (RBF) configurável.

• Arquitetura da Célula TXL: A célula TXL utiliza dois inversores RRAM-CMOS com degeneração de fonte. Ao programar a resistência dos dispositivos RRAM ($R_M$ e $R_B$) em série com as fontes dos MOSFETs, o circuito estabelece uma "janela de correspondência" específica definida por limiares de tensão superior e inferior ($V_{TH}^{upper}$ e $V_{TH}^{lower}$). Esta janela emula um campo receptivo onde a célula ativa apenas quando a tensão de entrada cai dentro de um intervalo específico, calculando efetivamente uma métrica de distância.
• Organização de Matriz: As células TXL são organizadas em matrizes densas de $k \times n$. Cada linha representa um protótipo $k$-dimensional único (armazenado como atributos estatísticos: média $\mu$ e variância $\sigma$ codificados em condutância RRAM), e cada coluna corresponde a uma característica de entrada.
• Computação no In-Memory (IMC): O sistema realiza buscas de similaridade em paralelo. Vetores de entrada são aplicados como sinais analógicos às linhas de bit (bitlines). Através da Lei das Correntes de Kirchhoff, as correntes das células TXL individuais se acumulam na linha de correspondência (matchline), computando naturalmente a pontuação de similaridade agregada (distância inversa) entre o vetor de consulta de entrada e o protótipo armazenado.
• Política de Adaptação: O sistema implementa uma política de adaptação de três níveis baseada na distância ($d$) entre a entrada e o protótipo de melhor correspondência:
  1. Distribuição Interna Confiável ($d \le \tau_{IDO}$): Nenhuma adaptação ocorre.
  2. Outlier de Distribuição Interna ($\tau_{IDO} < d \le \tau_{OOD}$): O protótipo existente é adaptado (atualização de média e variância) para incluir a nova amostra, mitigando o desvio gradual de domínio.
  3. Fora da Distribuição ($d > \tau_{OOD}$): O sistema identifica uma nova classe. Um novo protótipo é alocado em uma linha vazia da matriz usando um esquema de aprendizado de poucos disparos (few-shot learning), expandindo as capacidades do classificador sem sobrescrever o conhecimento existente.

Principais Contribuições

• Neurônio RBF Nativo de Hardware: O artigo introduz a célula TXL como uma implementação física de um neurônio RBF, capaz de realizar classificação baseada em métricas diretamente no domínio analógico.
• Busca de Similaridade de Alta Eficiência Energética: Ao utilizar ACAM baseada em RRAM, o design alcança complexidade $O(1)$ para correspondência de templates, contornando a barreira de memória.
• Mecanismo de Adaptação Online: O sistema suporta aprendizado "on-the-fly", onde os parâmetros do campo receptivo podem ser ajustados para rastrear desvios de domínio ou novas classes sem o retreinamento total do modelo.
• Explicabilidade: Diferente de camadas feed-forward opacas, o processo de tomada de decisão é explicitamente rastreável à proximidade da entrada em relação aos protótipos armazenados, oferecendo explicabilidade inerente.

Resultados

• Energia e Latência: Simulações de nível de circuito (SPICE-Spectre) em um processo CMOS de 180 nm com RRAM TiN/HfON/TiN indicam um consumo de energia de 185 fJ por célula por operação a 100 MHz. A latência por busca é de aproximadamente 100 ns.
• Acurácia de Classificação:
  • Em um conjunto de dados de símbolos geométricos artificiais, o sistema alcançou 100% de acurácia tanto para o treinamento inicial quanto após a adaptação.
  • No conjunto de dados MNIST (reduzido para 7x7), o sistema alcançou 89,1% de acurácia pré-adaptação e 85,5% pós-adaptação. Os autores observam que a leve queda na acurácia é atribuída à falta de camadas de extração de características e ao redimensionamento da entrada, e não ao mecanismo central da TXL.
• Desempenho de Adaptação: Simulações SPICE demonstraram a capacidade do sistema de adaptar protótipos existentes para amostras de outliers (remodelando o campo receptivo) e alocar novos protótipos para classes desconhecidas (por exemplo, introduzindo uma classe "retângulo" em um conjunto de dados de círculos, triângulos e cruzes), mantendo a integridade dos protótipos existentes.

Significância
O artigo afirma que a arquitetura proposta baseada em TXL fornece um caminho viável para computação de borda robusta e eficiente em termos de energia para aplicações de segurança crítica. Ao permitir a adaptação in-situ, o sistema aborda o desafio do desvio de domínio, permitindo que dispositivos de borda mantenham a confiabilidade ao encontrar distribuições de dados do mundo real que diferem dos dados de treinamento. Os autores posicionam esta tecnologia como um passo em direção ao aprendizado contínuo na borda, onde sistemas podem expandir suas capacidades de classificação e se ajustar a novos ambientes sem esquecimento catastrófico ou a necessidade de anotação de dados externa. O trabalho vislumbra a implantação futura em monitoramento remoto, sensores vestíveis e navegação autônoma, desde que os desafios relativos à variabilidade, retenção e durabilidade da RRAM sejam gerenciados através de calibração.