⚡ engenharia elétrica

Variability-Aware Memristor Circuit for Hierarchical Bayesian Temporal Sampling

Este artigo apresenta um circuito de memristor sensível à variabilidade que aproveita a estocasticidade temporal controlada e o treinamento hierárquico para implementar eficientemente redes neurais bayesianas, alcançando uma redução de 2,7 vezes na pegada de memória em comparação com abordagens de codificação de população, enquanto mantém a precisão de inferência na tarefa de classificação de arritmia MIT-BIH.

Autores originais: Tarcisius Januel, Tifenn Hirtzlin, Olivier Billoint, Djohan Bonnet, Louis Hutin, Damien Querlioz, Jean-Michel Portal, Elisa Vianello

Publicado 2026-09-30

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Tarcisius Januel, Tifenn Hirtzlin, Olivier Billoint, Djohan Bonnet, Louis Hutin, Damien Querlioz, Jean-Michel Portal, Elisa Vianello

Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Sistemas de inteligência artificial estão sendo cada vez mais solicitados não apenas para fazer previsões, mas para compreender o quão seguros estão sobre essas previsões. Essa mudança em direção à computação "consciente da incerteza" baseia-se em uma abordagem matemática chamada inferência bayesiana, onde o sistema trata cada fragmento de conhecimento como um intervalo de possibilidades, em vez de um único fato fixo. Para funcionar, esses sistemas devem gerar constantemente amostras aleatórias desses intervalos para testar diferentes resultados. Realizar isso de forma eficiente em chips de computador padrão é difícil porque exige vastas quantidades de memória e energia. Pesquisadores há muito esperam resolver isso usando minúsculos componentes eletrônicos chamados memristores, que podem armazenar informações de uma forma que mimetiza naturalmente a aleatoriedade necessária para esses cálculos. No entanto, a realidade física desses componentes tem sido um obstáculo; a própria aleatoriedade que eles possuem é frequentemente excessivamente caótica e imprevisível para ser útil em trabalhos científicos precisos.

Uma equipe de pesquisadores demonstrou agora uma nova maneira de aproveitar esses componentes para essa tarefa específica, transformando efetivamente uma fonte de erro em uma ferramenta confiável. Eles construíram um circuito personalizado usando um tipo de memristor feito de óxido de háfnio, integrado a um chip de silício padrão. Em vez de tentar forçar os minúsculos dispositivos a produzir aleatoriedade perfeita por conta própria, a equipe projetou um sistema que separa o armazenamento de informações da geração de aleatoriedade. Em sua configuração, três desses minúsculos dispositivos são agrupados para representar um único fragmento de conhecimento. Dois deles armazenam o valor médio desse conhecimento, enquanto o terceiro atua como um botão de controle para o quanto o valor deve flutuar. Crucialmente, as flutuações aleatórias reais não vêm dos dispositivos em si. Em vez disso, o circuito injeta um fluxo constante e controlado de ruído branco externo no sistema. O terceiro memristor simplesmente ajusta o quanto desse ruído externo é permitido passar, sintonizando efetivamente o nível de incerteza.

Os pesquisadores primeiro testaram se os memristores poderiam gerar a aleatoriedade necessária por conta própria. Eles descobriram que as flutuações naturais dentro dos dispositivos eram inconsistentes e seguiam um padrão que mudava com o tempo, tornando-os inadequados para a amostragem precisa exigida pelo sistema. O ruído era muito dependente do histórico específico do dispositivo e variava drasticamente de um componente para outro. Ao introduzir a fonte de ruído externa, eles contornaram essas limitações inteiramente. O ruído externo forneceu um fluxo limpo e constante de aleatoriedade que era o mesmo todas as vezes, enquanto os memristores atuavam apenas como controles de volume precisos. Essa separação permitiu que a equipe programasse o valor médio e a quantidade de incerteza de forma independente, um feito que era anteriormente difícil de alcançar com um hardware tão compacto.

Para tornar esse hardware útil para tarefas do mundo real, a equipe desenvolveu um método de treinamento especial que leva em conta as peculiaridades físicas de seu chip. Eles trataram as inevitáveis pequenas diferenças entre os memristores individuais não como erros a serem corrigidos, mas como uma parte conhecida do comportamento do sistema. Ao construir um modelo que incluía essas variações físicas, eles puderam treinar uma rede neural para trabalhar perfeitamente dentro das restrições do hardware real. Quando testaram esse sistema em uma tarefa envolvendo a classificação de ritmos cardíacos de um banco de dados médico padrão, os resultados foram promissores. A nova abordagem utilizou significativamente menos memória do que métodos anteriores que dependiam de grandes grupos de dispositivos para representar a incerteza. Ela manteve com sucesso a precisão das previsões e a capacidade de estimar o quão confiante o sistema estava nessas previsões. Este trabalho mostra um caminho claro para a construção de chips compactos e energeticamente eficientes que podem realizar raciocínios complexos e conscientes da incerteza, aproximando-nos de um hardware que pode pensar com a mesma nuance que o cérebro humano.

Resumo Técnico: Circuito de Memristor com Consciência de Variabilidade para Amostragem Temporal Bayesiana Hierárquica

Definição do Problema
As Redes Neurais Bayesianas (BNNs) requerem hardware capaz de armazenar e amostrar pesos sinápticos probabilísticos para quantificar a incerteza na inteligência artificial. Embora a codificação populacional — utilizando um arranjo de dispositivos nominalmente idênticos para explorar a variabilidade dispositivo-a-dispositivo (D2D) — ofereça uma representação direta da incerteza, ela incorre em um overhead de memória substancial, pois cada peso sináptico requer tantos dispositivos quanto o número de amostras. A amostragem temporal, que utiliza um único bit-cell repetidamente para gerar amostras da variabilidade intrínseca ciclo-a-ciclo (C2C) ou leitura-a-leitura (R2R), oferece uma alternativa mais compacta. No entanto, realizar a amostragem temporal em hardware é desafiador porque as flutuações intrínsecas dos memristores frequentemente carecem da controlabilidade, reprodutibilidade e propriedades espectrais necessárias (especificamente, são frequentemente do tipo ruído de flicker em vez de ruído branco) para uma inferência Bayesiana robusta. Além disso, abordagens existentes têm dificuldade em controlar independentemente a média e o desvio padrão da distribuição de pesos sem ciclos de escrita repetidos que degradam a durabilidade do dispositivo.

Metodologia
Os autores propõem um circuito de codificação temporal baseado em memristores que desacopla o armazenamento de parâmetros não voláteis da geração de estocasticidade temporal. A metodologia compreende três componentes principais:

Arquitetura do Circuito:
- O sistema utiliza um demonstrador de 2048 memristores (arranjo 64×32) fabricado no BEOL (back-end-of-the-line) de uma tecnologia CMOS de 130 nm usando pilhas de TiN/Ti/HfOx/TiN.
- Cada peso sináptico é codificado usando três dispositivos memristores: um para controlar o componente estocástico ( $G_\sigma$ ) e dois dispositivos diferenciais para codificar as contribuições de média positiva e negativa ( $G_{\mu+}$ e $G_{\mu-}$ ).
- Em vez de depender do ruído intrínseco do dispositivo, o circuito injeta uma fonte de ruído branco gerada externamente no ramo $\sigma$ . A condutância do memristor $G_\sigma$ atua como um ganho programável, controlando a frequência de corte RC efetiva e, assim, a amplitude das flutuações que chegam à saída.
- A média ( $\mu$ ) é derivada da diferença entre as correntes dos dois ramos diferenciais, enquanto o desvio padrão ( $\sigma$ ) é derivado das flutuações do ramo de injeção de ruído. A saída é processada por um amplificador de transimpedância de carga (CTIA) para produzir amostras temporais seguindo uma distribuição Gaussiana $N(\mu, \sigma^2)$ .
Caracterização da Variabilidade Intrínseca:
- Os autores demonstraram experimentalmente que a variabilidade intrínseca do memristor (D2D, C2C e R2R) é insuficiente para amostragem temporal. A variabilidade R2R foi considerada pequena demais, altamente dispersa entre os dispositivos e independente do estado de condutância programado.
- A análise espectral revelou que as flutuações intrínsecas R2R seguem uma dependência $1/f^\beta$ ( $\beta \approx 1$ ), característica de ruído de flicker, em vez do espectro de ruído branco exigido ( $\beta = 0$ ).
Aprendizado Consciente de Hardware (Modelos Variacionais Hierárquicos):
- Para abordar a variabilidade D2D remanescente nos memristores que codificam $\mu$ e $\sigma$ , os autores desenvolveram um modelo probabilístico hierárquico. Eles tratam os pesos realizados experimentalmente não como valores determinísticos, mas como "estados elípticos estocásticos" definidos por uma distribuição Gaussiana bivariada com vetor de média $M$ e matriz de covariância $\Sigma$ .
- O treinamento é realizado utilizando Modelos Variacionais Hierárquicos (HVM). Uma distribuição elíptica contínua oculta ( $\epsilon_H$ ) serve como a variável de otimização. Em cada etapa de aprendizado, este estado contínuo é projetado no estado quantizado experimentalmente mais próximo ( $\epsilon_Q$ ) de um livro de códigos (codebook) discreto derivado de medições do chip.
- A perda Bayesiana e os gradientes são avaliados no estado quantizado $\epsilon_Q$ , garantindo que a rede aprenda diretamente contra as restrições físicas e a estatística de incerteza do hardware.

Principais Resultados

Estocasticidade Controlada: A arquitetura proposta estabelece com sucesso uma relação linear e programável entre a condutância do memristor $G_\sigma$ e o desvio padrão da saída $\sigma(V_{out})$ quando o ruído branco externo é injetado. Sem a injeção, a relação é não-monotônica e não confiável.
Pureza Espectral: O espectro de ruído da saída com injeção externa é aproximadamente plano ( $\beta = 0$ ), confirmando a geração de ruído branco, enquanto o ruído intrínseco do ramo da média permanece negligenciável.
Desempenho: Na tarefa de classificação de arritmia MIT-BIH, a abordagem proposta alcança uma redução de 2,7 vezes na pegada de memória em comparação com uma implementação equivalente de codificação populacional.
Acurácia e Incerteza: O treinamento consciente de hardware preserva a acurácia da inferência Bayesiana e as estimativas de incerteza. O sistema demonstra que um número finito de amostras temporais é suficiente para recuperar a maior parte do desempenho de classificação e de detecção de dados fora de distribuição (OOD), oferecendo um compromisso (trade-off) controlável entre custo de amostragem e acurácia.

Significância e Alegações
O artigo afirma estabelecer um caminho para a inferência Bayesiana compacta usando dispositivos memristivos ao separar o armazenamento dos parâmetros da distribuição da geração de aleatoriedade temporal. A significância reside em:

Escalabilidade: Ao utilizar uma única célula por peso (com três dispositivos para controle de parâmetros) e amostragem temporal, a abordagem evita o overhead de memória da codificação populacional.
Robustez: A modelagem explícita da variabilidade do dispositivo e o uso de fontes de ruído externas garantem que o sistema permaneça robusto sob não-idealidades de hardware, evitando a necessidade de ciclos de escrita repetidos para moldar distribuições.
Co-design Hardware-Software: A integração das estatísticas medidas experimentalmente do dispositivo no loop de treinamento (via HVM) permite que a rede se adapte à natureza estocástica específica do hardware fabricado, em vez de tentar compensar erros pós-treinamento.

Os autores concluem que esta arquitetura permite que o número de amostras estocásticas seja aumentado ao longo do tempo sem aumentar a pegada de memória não volátil, abordando um gargalo fundamental para a escalabilidade de hardware Bayesiano.

Mais como este