Practical applications of neural network with Kolmogorov-Arnold layers in spectral analysis

Dans le bourdonnement silencieux d'un laboratoire, la lumière raconte souvent une histoire que l'œil humain ne peut voir. Lorsqu'un faisceau de lumière infrarouge traverse une substance, les molécules qui la composent absorbent des fréquences spécifiques, créant un motif unique de pics et de vallées appelé spectre. Ce motif agit comme une empreinte digitale chimique, révélant précisément la composition du matériau. Depuis des décennies, les scientifiques s'appuient sur ces empreintes pour identifier tout, de la pureté d'un médicament au type de plastique d'une bouteille. Cependant, lire ces motifs complexes à la main est lent et sujet aux erreurs. Ces dernières années, les chercheurs se sont tournés vers l'intelligence artificielle pour automatiser ce processus, entraînant des programmes informatiques à reconnaître ces signatures chimiques avec rapidité et précision. Bien que les modèles informatiques standards soient devenus très performants en la matière, une nouvelle approche émerge, promettant d'être encore plus efficace, particulièrement lorsque les données sont désordonnées, rares ou difficiles à lire.

Une équipe de chercheurs de Pologne a mis cette nouvelle approche à l'épreuve lors d'une série d'expériences pratiques impliquant la sécurité alimentaire et la science des matériaux. Ils se sont concentrés sur un type spécifique d'architecture de réseau neuronal qui combine des couches convolutionnelles traditionnelles avec un composant plus récent appelé couches de Kolmogorov-Arnold. Pour comprendre la différence, imaginez un neurone informatique standard comme un travailleur qui reçoit une liste de nombres, les multiplie par des poids fixes, les additionne, puis fait passer le résultat à travers un filtre unique et rigide. En revanche, le neurone de Kolmogorov-Arnold agit plutôt comme un instrument flexible ; au lieu d'utiliser un filtre fixe, il apprend une fonction mathématique courbe et unique pour chaque entrée qu'il reçoit. Cela permet au réseau d'adapter sa logique interne de manière beaucoup plus fluide à la forme spécifique des données qu'il analyse. Les chercheurs voulaient voir si ce design flexible pouvait surpasser le design standard et rigide face à des défis du monde réel tels que les petits échantillons, les données à basse résolution et la nécessité de distinguer de nombreuses catégories à la fois.

Pour tester leur théorie, l'équipe a rassemblé quatre ensembles de données distincts, chacun représentant un problème différent du monde réel. Le premier défi concernait la détection de la fraude dans la purée de fraises. Dans ce scénario, l'objectif était de déterminer si un pot de purée de fraises coûteuse avait été secrètement mélangé à des ingrédients moins chers comme de la purée de pomme ou du sucre. Les données fournies pour cette tâche étaient difficiles ; les spectres étaient courts, ne contenant que 235 points de données, et la collection d'échantillons était déséquilibrée, avec beaucoup plus d'exemples de nourriture adultérée que de nourriture pure. Malgré ces obstacles, la nouvelle architecture de réseau a réussi à identifier les échantillons adultérés. Elle a légèrement mieux performé que le modèle standard, atteignant un taux de précision plus élevé même lorsque les données d'entraînement étaient limitées et le signal faible. Cela suggère que la nature flexible des couches de Kolmogorov-Arnold aide le modèle à trouver des indices chimiques subtils qu'un modèle rigide pourrait manquer.

La deuxième expérience a repoussé les limites de la disponibilité des données encore plus loin. Les chercheurs se sont penchés sur la classification des espèces de café, essayant spécifiquement de distinguer les grains Robusta et Arabica à partir de leurs spectres infrarouges. Ce jeu de données était incroyablement petit, ne contenant que 28 échantillons pour l'entraînement et 28 pour le test. Dans le monde de l'apprentissage automatique, un ensemble de données aussi minuscule est généralement considéré comme insuffisant pour entraîner un modèle informatique complexe. Pourtant, la nouvelle architecture a réussi à apprendre la différence entre les deux types de café de manière efficace. Elle a démontré que ce type de réseau ne nécessite pas nécessairement de quantités massives de données pour trouver un motif, ce qui en fait un outil prometteur pour les situations où la collecte de centaines ou de milliers d'échantillons est impossible ou trop coûteuse.

Passant de l'alimentation à l'industrie, l'équipe s'est attaquée à la classification des polymères plastiques, une tâche critique pour le recyclage et la gestion des déchets. Ici, l'objectif était de trier six types différents de plastiques courants, incluant le polyéthylène téréphtalate (PET) et le polychlorure de vinyle (PVC). Il s'agissait d'une tâche plus complexe car le modèle devait choisir entre six catégories plutôt que deux. Le jeu de données était large et équilibré, contenant un total de 3 000 spectres. La nouvelle architecture de réseau a géré ce problème multiclasse avec une grande efficacité, identifiant correctement le type de plastique dans la vaste majorité des cas. Les résultats ont confirmé que le système n'est pas seulement bon pour les questions simples de type oui ou non, mais qu'il est également assez robuste pour gérer les différences nuancées entre plusieurs matériaux similaires.

Enfin, les chercheurs ont testé la capacité du système à effectuer des mesures non invasives, une technique qui permet l'analyse sans ouvrir un contenant. Ils ont utilisé la lumière visible et l'infrarouge proche pour déterminer la concentration d'alcool dans des bouteilles de boissons scellées. Le défi ici était que la lumière devait traverser la boute en verre, et la forme ainsi que le matériau de la bouteille pouvaient interférer avec la lecture. Le jeu de données comprenait quatre concentrations d'alcool différentes, et l'ensemble de test utilisait des bouteilles différentes de celles de l'entraînement pour s'assurer que le modèle apprenait sur le liquide, et non sur le contenant. Le réseau a identifié avec succès les niveaux d'alcool, prouvant qu'il pouvait filtrer le bruit de la bouteille pour se concentrer sur la signature chimique du liquide à l'intérieur. Cette capacité laisse entrevoir un avenir où le contrôle de la qualité pourrait se faire instantanément en rayon, sans briser le sceau.

À travers les quatre expériences, les chercheurs ont comparé leur nouveau réseau de Kolmogorov-Arnold à un réseau neuronal convolutionnel standard. Pour assurer une comparaison équitable, ils ont égalisé le nombre de paramètres ajustables dans les deux modèles, ce qui signifie que le nouveau modèle n'était pas simplement plus grand ou plus complexe, mais structurellement différent. Dans chaque cas, du minuscule jeu de données sur le café au large jeu de données sur le plastique, la nouvelle architecture a performé aussi bien ou mieux que le modèle standard. Les résultats ont été cohérents sur plusieurs sessions d'entraînement, le nouveau réseau montrant un avantage léger mais fiable en termes de précision. L'étude conclut que cette architecture est un outil polyvalent pour l'analyse spectrale, capable de gérer tout, de la détection de fraude alimentaire à basse résolution au tri industriel complexe. Elle offre une voie d'avenir pour automatiser l'analyse chimique dans des situations où les données sont rares, bruitées ou difficiles à obtenir, rendant potentiellement le contrôle de la qualité plus rapide et plus accessible dans le monde réel.