⚡ electrical engineering

Interpretable Kolmogorov-Arnold Network Using Vertical NAND Flash Memory

Cet article démontre une implémentation de calcul en mémoire, interprétable et à faible consommation, de réseaux de Kolmogorov-Arnold utilisant la mémoire flash V-NAND à triple niveau commerciale, laquelle atteint une grande précision de prédiction pour la détection de gaz multimodale tout en réduisant considérablement la consommation d'énergie et les exigences de mémoire par rapport aux perceptrons multicouches traditionnels.

Auteurs originaux : Jong-Ho Lee, Sung-Ho Park, Jonghyun Ko, Yeongheon Yang, Jiseong Im, Ryun-Han Koo, Chayeong Lee, Kangwook Choi, Hunhee Shin, Gyuweon Jung

Publié 2026-07-10

📖 7 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Jong-Ho Lee, Sung-Ho Park, Jonghyun Ko, Yeongheon Yang, Jiseong Im, Ryun-Han Koo, Chayeong Lee, Kangwook Choi, Hunhee Shin, Gyuweon Jung

Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous possédez un cerveau de robot super intelligent capable de résoudre des énigmes complexes, comme déterminer exactement la quantité de gaz dans une pièce en fonction de la température, de la pression et de l'odeur. Habituellement, ces cerveaux de robots sont comme des « boîtes noires ». Vous leur fournissez des données, ils vous donnent une réponse, mais même les personnes qui les ont conçus ne peuvent pas expliquer comment ils y sont parvenus. C'est comme demander à un magicien comment il a sorti un lapin d'un chapeau, et il répond simplement : « Magie ».

Ce document présente un nouveau type de cerveau de robot appelé Réseau de Kolmogorov-Arnold (ou KAN pour faire court) qui ne cache pas ses secrets. Au lieu d'une boîte noire, c'est plutôt une boîte de verre transparente où l'on peut voir chaque engrenage tourner. Mais voici le rebondissement : les chercheurs n'ont pas construit ce cerveau avec des puces informatiques sophistiquées. Ils l'ont construit en utilisant de la mémoire flash V-NAND commerciale — le type exact de stockage que l'on trouve dans vos clés USB et vos smartphones, simplement empilé sur plus de 100 couches.

Le problème de la « Boîte Noire » vs la solution de la « Boîte de Verre »

La plupart des cerveaux informatiques (appelés Perceptrons Multicouches ou MLP) fonctionnent en ayant des règles fixes pour traiter l'information, comme une chaîne de montage d'usine avec un nombre défini d'étapes. Ils apprennent en ajustant les « poids » (l'importance accordée à chaque donnée), mais les règles elles-mêmes restent les mêmes. Cela les rend difficiles à comprendre.

L'approche KAN inverse la tendance. Au lieu de règles fixes, le KAN apprend les règles elles-mêmes ! Imaginez une usine où les machines peuvent changer de forme pour s'adapter au travail. Dans un KAN, les « arêtes » (les connexions entre les parties du cerveau) apprennent des courbes flexibles et sinueuses appelées fonctions d'activation. Ces courbes peuvent être façonnées pour ressembler à une multiplication, une division ou même à des formules scientifiques complexes. Parce que ces formes sont apprises et peuvent être écrites sous forme d'équations mathématiques simples, le cerveau devient interprétable. Vous pouvez réellement lire son esprit et dire : « Ah, je vois ! Il a compris que la concentration de gaz est liée à la pression en divisant l'une par l'autre ».

Le tour de magie : Transformer la mémoire en mathématiques

Le plus grand défi était : « Comment mettre ces courbes mathématiques flexibles et sinueuses dans une mémoire qui n'a été conçue que pour stocker des zéros et des uns ? »

Les chercheurs ont trouvé un détournement ingénieux en utilisant la physique de la mémoire elle-même. À l'intérieur d'une puce V-NAND, les données sont stockées dans de minuscules cellules empilées verticalement. Lorsque vous lisez ces cellules, elles agissent comme un goulot d'étranglement. Si vous poussez deux cellules avec des tensions opposées (une montant, l'autre descendant), l'électricité qui circule à travers elles crée une courbe lisse en forme de cloche.

Voyez cela ainsi : Imaginez deux personnes tenant une corde. Si l'une tire vers le haut et l'autre vers le bas, la corde s'affaisse au milieu. La forme de cet affaissement est une parfaite « courbe en cloche ». Les chercheurs ont réalisé qu'ils pouvaient ajuster la « force de traction » (en réglant la tension) pour déplacer la courbe en cloche vers la gauche ou la droite, et la rendre plus large ou plus étroite.

En combinant plusieurs de ces « courbes en cloche » (qu'ils appellent des splines), ils pouvaient construire n'importe quelle fonction mathématique sinueuse dont ils avaient besoin. C'est comme construire une sculpture complexe à partir de simples blocs d'argile lisses. Ils ont pris les fonctions mathématiques que le cerveau logiciel avait apprises, les ont décomposées en ces morceaux de courbes en cloche, puis ont « programmé » les cellules de mémoire pour qu'elles jouent physiquement ces courbes.

La preuve : Faire des maths et détecter du gaz

Pour prouver qu'il ne s'agissait pas seulement d'une théorie, ils ont testé cela de deux manières :

Le test mathématique : Ils ont appris au cerveau logiciel à faire une multiplication et une division. Ensuite, ils ont transféré ces règles mathématiques spécifiques à la puce mémoire. Lorsqu'ils ont testé la puce, elle a effectué ces opérations avec une précision incroyable, correspondant presque parfaitement au logiciel. Le document montre que la sortie du matériel suit les résultats logiciels idéaux avec une corrélation de 0,9737 pour la multiplication et de 0,9906 pour la division. Cela signifie que la puce mémoire n'a pas seulement deviné ; elle a physiquement recréé le calcul mathématique.
Le test du gaz : Ils ont utilisé le cerveau pour déterminer la concentration de deux gaz différents (NO₂ et H₂S) mélangés ensemble, tout en tenant compte des changements de température et de pression. C'est une tâche difficile car les capteurs sont perturbés lorsque les conditions changent.
- Le cerveau KAN a découvert une règle physique simple : pour trouver la quantité de gaz, on divise la lecture du capteur de gaz par la lecture de la pression. Cela fait parfaitement sens physiquement (comme un ballon qui se gonfle quand la pression chute).
- Le cerveau matériel a utilisé cette règle pour prédire les niveaux de gaz dans 256 conditions de test différentes (combinaisons de 4 températures, 4 pressions et 4 niveaux de gaz). Il a donné les bonnes réponses, même lorsque les gaz étaient mélangés de manière complexe.

Pourquoi cela importe : Vitesse, Taille et Énergie

La partie la plus excitante est l'efficacité de ce système. Parce que le KAN apprend la forme réelle des mathématiques (les courbes) au lieu d'utiliser des milliers d'étapes fixes et rigides, il a besoin de beaucoup moins de composants pour accomplir la tâche.

Économie de mémoire : Pour résoudre l'énigme du gaz, le KAN n'a eu besoin que de 250 cellules de mémoire. Un cerveau traditionnel (MLP) avait besoin de 2 070 cellules pour une version simple, et jusqu'à 4 896 cellules pour une version plus complexe. C'est une réduction massive.
Économie d'énergie : Comme il utilise moins de cellules, il consomme moins d'énergie. Le document a mesuré que le KAN utilisait 94 % d'énergie en moins uniquement pour la partie lecture du calcul par rapport à un cerveau standard à une couche.

Ce que ce n'est pas (encore)

Il est important de savoir ce que ce document ne prétend pas.

Ils n'ont pas affirmé que cela résout tous les problèmes du monde. Ils se sont concentrés sur les mathématiques et la détection de gaz pour prouver que le concept fonctionne.
La précision dépend de la capacité à approximer les courbes mathématiques à l'aide des cellules de mémoire. C'est une approximation, pas un calcul numérique parfait à précision infinie.
Ils n'ont pas prétendu qu'il s'agit d'un produit fini prêt pour votre téléphone demain. Ils ont montré que cela fonctionne sur une puce commerciale non modifiée, mais il reste du travail pour rendre les circuits environnants encore meilleurs.

L'essentiel

Ce document montre que nous pouvons transformer la mémoire de nos appareils en un cerveau qui non seulement prédit l'avenir, mais explique aussi pourquoi. En utilisant la physique naturelle de la mémoire flash V-NAND pour construire des « courbes mathématiques » à partir de l'électricité, ils ont créé un système qui est petit, extrêmement économe en énergie et transparent. C'est une étape vers un avenir où nos appareils pourront apprendre du monde qui les entoure — comme détecter des fuites de gaz ou des changements météorologiques — et nous donner les règles qu'ils ont découvertes, tout en utilisant une fraction infime de la batterie.

Résumé Technique : Réseau de Kolmogorov-Arnold interprétable utilisant la mémoire Flash NAND verticale

Énoncé du problème
L'expansion rapide de l'intelligence artificielle a créé une demande critique pour un matériel capable d'exécuter l'inférence de réseaux de neurones avec une grande efficacité énergétique et une grande scalabilité. Les architectures conventionnelles de von Neumann sont confrontées au « mur de la mémoire » (memory wall), où les mouvements de données coûteux entre les unités de mémoire et de traitement séparées entravent les performances, particulièrement dans les applications riches en capteurs comme la robotique autonome. Si le calcul en mémoire (Compute-in-Memory ou CIM) utilisant la mémoire flash NAND verticale (V-NAND) offre une solution prometteuse grâce à sa densité élevée, sa maturité et sa faible consommation lors de la lecture, les implémentations actuelles de réseaux de neurones sur un tel matériel font face à deux limitations significatives :

Manque d'interprétabilité : La plupart des réseaux de neurones matériels utilisent des perceptrons multicouches (MLP) avec des fonctions d'activation par nœud fixes et des poids linéaires enchevêtrés. Cette nature de « boîte noire » occulte les relations physiques entre les entrées et les sorties, ce qui est préjudiciable aux applications scientifiques où la compréhension du mécanisme sous-jacent est aussi cruciale que la précision de la prédiction.
Inefficacité matérielle pour les fonctions flexibles : Les architectures émergentes telles que les réseaux de Kolmogorov-Arnold (KAN) offrent une interprétabilité supérieure en apprenant des fonctions d'activation (FA) non linéaires sur les arêtes du réseau plutôt qu'en les fixant sur les nœuds. Cependant, la traduction de ces fonctions d'arêtes flexibles, basées sur des splines, en matériel est un défi. Les implémentations numériques conventionnelles nécessitent un surcoût important en surface et en énergie, et les plateformes de mémoire existantes ne sont pas naturellement optimisées pour l'évaluation de diverses fonctions non linéaires apprises.

Méthodologie
Les auteurs proposent une nouvelle implémentation matérielle des KAN utilisant la mémoire flash V-NAND TLC (triple-level-cell) commerciale sans modifier la structure du dispositif. La méthodologie centrale consiste à mapper les fonctions de base mathématiques des KAN entraînés par logiciel vers la physique analogique intrinsèque des chaînes V-NAND.

Génération de splines physiques : Les auteurs exploitent la nature connectée en série des cellules au sein d'une chaîne V-NAND. En appliquant des biais de ligne de mot (WL) complémentaires à deux cellules connectées en série, une réponse de courant en forme de cloche est générée au niveau de la ligne de bit. Cette réponse agit comme une « primitive de spline » physique.
Accordabilité : La position centrale et la largeur de ces splines sont ajustées en programmant les tensions de seuil ( $V_{th}$ ) des deux cellules à l'aide de la programmation par impulsions à incrément de pas (ISPP). Cela permet la création d'une bibliothèque de composants de spline distribués sur la fenêtre d'entrée.
Approximation de fonction : Les fonctions d'activation par arête entraînées par logiciel (représentées comme des combinaisons linéaires de fonctions de base B-spline) sont approximées en matériel comme des sommes pondérées de ces réponses de spline V-NAND mesurées. Les contributions positives et négatives sont toutes deux gérées via des circuits de soustraction au sein de la logique du neurone.
Processus d'inférence : Pendant l'inférence, le système applique des tensions de lecture complémentaires ( $V_{Input}$ et $2 - V_{Input}$ ) aux lignes WL sélectionnées. Les courants résultants de plusieurs splines sont sommés en parallèle sur les lignes de bit, évaluant ainsi l'intégralité de la couche du KAN en une seule opération de lecture.
Application : Le cadre est validé d'abord sur des opérations arithmétiques fondamentales (multiplication et division), puis appliqué à une tâche de détection de gaz multimodale impliquant des données de gaz, de température et de pression.

Contributions clés

Premier KAN matériel sur une mémoire commerciale : Ce travail démontre la première réalisation physique d'un KAN sur une plateforme de mémoire V-NAND commerciale mature et non modifiée (SK hynix, >100 couches empilées), comblant le fossé entre les algorithmes d'apprentissage automatique interprétables et le matériel CIM pratique.
Mapping Analogique-Algorithme : Il établit un lien direct entre les fonctions de base de spline mathématiques des KAN et les caractéristiques intrinsèques courant-tension analogiques des chaînes V-NAND, évitant ainsi le besoin d'une logique numérique complexe pour évaluer les fonctions non linéaires.
Préservation de l'interprétabilité : Contrairement au matériel MLP traditionnel, cette approche préserve la capacité d'inspecter, de symboliser et de comprendre les relations fonctionnelles apprises, en les traduisant en opérations physiquement significatives (par exemple, la division ou la multiplication).
Gains d'efficacité : La méthode atteint une précision de prédiction comparable aux MLP tout en utilisant nettement moins de cellules de mémoire, ce qui conduit à des réductions substantielles de l'énergie d'inférence.

Résultats

Validation arithmétique : Le matériel a reproduit avec succès les opérations de multiplication et de division symboliques extraites des KAN logiciels. Les sorties mesurées suivaient étroitement les cibles logicielles idéales, avec des valeurs $R^2$ de 0,9737 pour la multiplication et de 0,9906 pour la division. Cela a confirmé que l'approche de sommation de splines peut transférer avec précision les fonctions d'arête apprises vers le matériel.
Détection de gaz multimodale : Dans un environnement de mélange de gaz (NO $_2$ et H $_2$ S) avec des variations de température et de pression, le KAN V-NAND a prédit avec succès les concentrations de gaz. Le réseau a identifié une relation fonctionnelle compacte et physiquement significative, spécifiquement une opération de division entre la sortie du capteur de gaz et la pression, reflétant la physique de détection sous-jacente.
Comparaison de l'efficacité matérielle : Comparé aux implémentations MLP à 1, 2 et 3 couches entraînées sur le même jeu de données :
- Nombre de cellules : Le KAN n'a nécessité que 250 cellules V-NAND, alors que les MLP nécessitaient entre 2 070 et 4 896 cellules.
- Énergie : L'énergie de l'opération de lecture par inférence a été réduite de 94 % par rapport à un MLP d'une couche. Cette réduction est attribuée à la compacité de la représentation KAN, qui minimise le nombre d'opérations de lecture actives et l'activité des circuits périphériques.

Signification et affirmations
L'article affirme que la mémoire flash V-NAND commerciale est une plateforme pratique pour un matériel CIM interprétable et à faible consommation capable de prédire et d'expliquer. La signification réside dans la double réussite de :

Utilité scientifique : En révélant la structure fonctionnelle des correspondances apprises (par exemple, identifier que la concentration de gaz varie inversement avec la pression), le matériel sert d'outil de découverte fonctionnelle, et non d'un simple prédicteur de type boîte noire.
Efficacité du système : La compacité de l'architecture KAN, lorsqu'elle est mappée sur les splines V-NAND, se traduit directement par une réduction de l'empreinte mémoire et de la consommation d'énergie, ce qui la rend très adaptée au calcul in-sensor dans les systèmes d'IA physique à contraintes de puissance.

Les auteurs notent que bien que l'implémentation actuelle repose sur l'approximation de fonctions analytiques par des splines mesurées et se concentre sur des tâches structurées physiquement et compactes, elle établit une voie fondamentale pour le futur calcul in-sensor à faible puissance qui intègre la prédiction et l'explication.