🔢 mathematics

Explicit Construction of Approximate Kolmogorov Superpositions with C2 Smoothness

Cet article présente une construction explicite de superpositions de Kolmogorov approchées utilisant des fonctions internes et externes de classe $C^2$ pour approcher des fonctions arbitraires continues au sens de Hölder d'exposant $\alpha$ avec un taux d'erreur de $N^{-\alpha}$ , surmontant ainsi les comportements pathologiques des représentations classiques tout en conservant leur stratégie de représentation exacte.

Auteurs originaux : Lunji Song, Zilan Cheng, Juan Diego Toscano, Li-Lian Wang

Publié 2026-05-19

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Lunji Song, Zilan Cheng, Juan Diego Toscano, Li-Lian Wang

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

La Vue d'Ensemble : Dévoiler un Puzzle 3D avec des Cordes 1D

Imaginez que vous possédez un objet complexe et multidimensionnel, comme une gigantesque et intricate sculpture 3D (représentant une fonction à de nombreuses variables, telles que $x_1, x_2, \dots, x_d$ ). Depuis des décennies, les mathématiciens connaissent un « tour de magie » (le Théorème de Superposition de Kolmogorov) qui affirme que vous pouvez décrire complètement cette sculpture 3D en utilisant uniquement une pile de cordes simples et unidimensionnelles (des fonctions d'une seule variable).

Cependant, il y avait un hic. Les « cordes » originales utilisées dans ce tour de magie étaient sauvages et irrégulières. Elles étaient si rugueuses et brisées qu'elles ne possédaient aucune courbe lisse, ce qui les rendait impossibles à utiliser dans des outils modernes comme les simulations informatiques ou les réseaux de neurones (qui préfèrent des lignes fluides et ondulantes).

Ce papier présente une nouvelle version, plus lisse, de ce tour de magie. Les auteurs ont explicitement construit un ensemble de « cordes lisses » capables de reconstruire la sculpture 3D complexe, mais sans les bords irréguliers et brisés. Ils prouvent que ces nouvelles cordes fonctionnent bien et peuvent approximer n'importe quelle forme lisse ou légèrement bosselée avec une grande précision.

Le Problème : Les Cordes « Sauvages »

Dans la théorie originale, les « cordes internes » (celles qui prennent l'entrée) étaient comme des escaliers faits de verre brisé.

Elles montaient et descendaient par de minuscules et brusques marches.
Elles étaient si irrégulières que si vous essayiez de mesurer leur pente (dérivée) à la plupart des points, elle était soit nulle, soit indéfinie.
Parce qu'elles étaient si « sauvages », les ordinateurs ne pouvaient pas les utiliser efficacement pour l'apprentissage ou la prédiction.

Le papier pose la question : Pouvons-nous remplacer ces cordes de verre brisé par des cordes lisses et polies sans perdre la capacité de reconstruire la forme 3D ?

La Solution : Construire des Cordes « Internes » Lisses

Les auteurs ont conçu un nouveau type de « corde interne » (appelée fonction interne) qui est $C^2$ -lisse.

Que signifie $C^2$ -lisse ? Imaginez conduire une voiture.
- Une corde irrégulière, c'est comme enfoncer un nid-de-poule : vous êtes projeté en avant, puis vous vous arrêtez, puis vous êtes projeté à nouveau.
- Une corde $C^1$ -lisse, c'est comme une route lisse : vous ne subissez pas de soubresauts, mais le volant peut encore tourner brusquement.
- Une corde $C^2$ -lisse, c'est comme un piste de course parfaitement relevée. Non seulement la route est lisse, mais la courbure de la route change également de manière fluide. Vous pouvez y conduire sans aucun choc soudain ni virage brusque.

Comment l'ont-ils construite ?
Au lieu d'utiliser des marches brisées, ils ont utilisé une « colle » faite de formes mathématiques spéciales (polynômes et ondes sinusoïdales).

Les Vides : Ils ont créé de minuscules vides dans la route où la corde s'incurve doucement vers le haut (en utilisant une forme « étalée »).
Les Parties Plates : Entre les vides, la corde reste majoritairement plate mais continue d'avancer.
Le Résultat : Une ligne unique, continue et lisse qui ne cesse jamais d'avancer (strictement croissante) et qui n'a aucun coin pointu.

Le Problème de la « Carte » : Organiser le Chaos

Une fois que vous avez des cordes lisses, vous devez les combiner pour mapper le monde 3D vers une ligne 1D. C'est comme essayer de ranger une pièce en désordre dans un seul long couloir.

Si vous rangez les choses au hasard, des objets provenant de différentes parties de la pièce pourraient se retrouver côte à côte dans le couloir, créant un désordre (les mathématiciens appellent cela une « dislocation »).

La Solution des Auteurs :
Ils ont trouvé une recette précise pour mélanger les cordes.

Ils ont attribué différents « poids » (appelés $\lambda$ ) à chaque dimension.
Ils ont prouvé que si vous choisissez ces poids juste comme il faut (en fonction de la taille des vides), le « couloir » restera organisé.
L'Analogie : Imaginez trier des livres par taille. Si vous les jetez simplement en tas, un petit livre pourrait se retrouver à côté d'un grand. Mais si vous utilisez une règle de tri spécifique (leur recette mathématique), chaque petit livre reste près d'autres petits livres, et chaque grand livre reste près d'autres grands livres. Cela garantit que la carte 1D préserve la structure de l'objet 3D.

Les Cordes « Extérieures » : Lire la Carte

Une fois l'objet 3D aplati en une ligne 1D (la partie « interne »), vous devez lire la valeur à ce point pour obtenir la réponse finale. C'est la fonction externe.

Les auteurs ont construit ces fonctions externes en examinant les « centres » des blocs 3D empilés.
Ils ont utilisé une méthode d'interpolation lisse (relier les points par des courbes lisses) pour créer une fonction capable de lire la ligne 1D et de produire la valeur correcte pour la forme 3D originale.

Les Résultats : Quelle est sa Qualité ?

Le papier prouve deux choses principales :

Précision : La nouvelle construction lisse peut approximer n'importe quelle fonction possédant un certain niveau de régularité (appelée continue $\alpha$ -Hölder) avec une erreur qui diminue de manière prévisible à mesure que vous ajoutez plus de « cordes » (en augmentant $N$ ). L'erreur diminue à un taux de $O(N^{-\alpha})$ .
Vérification : Ils ont effectué des tests informatiques sur des fonctions allant jusqu'à 9 dimensions. Les résultats correspondaient parfaitement à leurs prédictions mathématiques, montrant que l'erreur diminuait exactement aussi vite qu'ils l'avaient annoncé.

Pourquoi Cela Compte (Selon le Papier)

C'est Pratique : Contrairement aux fonctions « sauvages » originales, ces nouvelles fonctions lisses peuvent réellement être utilisées dans les réseaux de neurones (systèmes d'apprentissage informatique).
C'est Explicite : Les auteurs n'ont pas seulement dit « cela existe » ; ils ont fourni les formules exactes et les étapes pour construire ces fonctions.
Cela Résout une Question de Longue Date : Pendant des années, les chercheurs se sont demandé s'il était possible de créer ces versions lisses sans briser la magie du théorème original. Ce papier répond « Oui » et montre exactement comment.

En résumé : Les auteurs ont pris un tour de magie mathématique qui utilisait des cordes irrégulières et brisées, et les ont remplacées par des cordes lisses et polies. Ils ont prouvé que ces nouvelles cordes peuvent toujours reconstruire parfaitement des formes 3D complexes, rendant la théorie prête pour des applications informatiques réelles.

Résumé Technique : Construction Explicite de Superpositions de Kolmogorov Approchées avec Régularité $C^2$

Énoncé du Problème
Le Théorème de Superposition de Kolmogorov (KST) établit que toute fonction multivariée continue peut être représentée comme une superposition de fonctions univariées continues. Cependant, les preuves constructives existantes (par exemple, celles de Sprecher, Kahane et Lorentz) reposent sur des fonctions internes qui présentent des comportements « sauvages » et « pathologiques », tels que des structures en escalier dont les dérivées s'annulent presque partout. Ces fonctions non lisses sont inadaptées aux applications modernes, en particulier dans les architectures de réseaux de neurones (par exemple, les Réseaux Kolmogorov-Arnold ou KAN), où la différentiabilité et la régularité sont essentielles pour l'optimisation et l'analyse de convergence. Bien que des versions approchées aient été proposées pour contourner la non-différentiabilité des représentations exactes, une construction rigoureuse et explicite de superpositions approchées lisses ( $C^2$ ) conservant l'essence de la stratégie de Kolmogorov est restée une question ouverte.

Méthodologie
Les auteurs proposent une construction nouvelle et explicite de superpositions de Kolmogorov approchées qui atteint une régularité $C^2$ pour les fonctions internes et externes. La méthodologie se déroule en trois étapes principales :

Construction de Fonctions Internes Lisses :
Au lieu d'utiliser des fonctions en escalier, les auteurs définissent une fonction génératrice $\phi(t)$ construite en collant deux fonctions de forme spécifiques :
- Une fonction de Heaviside « étalée » $C^2$ , notée $S(z)$ (dérivée d'un polynôme trigonométrique), utilisée sur de petits « espaces » de taille $\delta = N^{-2}$ .
- Un polynôme quintique $P(z)$ utilisé sur les principaux sous-intervalles de taille $h = N^{-1}$ .
  Ces pièces sont assemblées pour former une fonction strictement croissante, par morceaux $C^2$ . Les fonctions internes $\psi_q(x)$ sont ensuite générées en appliquant des translations et des dilatations appropriées à cette unique fonction génératrice $\phi$ . Un paramètre d'ajustement $\nu$ contrôle le comportement aux jonctions, garantissant que les fonctions restent strictement croissantes et $C^2$ -lisses avec des dérivées contrôlables.
Séparation des Hypercubes et Sélection des Paramètres :
Le domaine $[0, 1]^d$ est partitionné en hypercubes séparés par des espaces. Les auteurs définissent des applications de Kolmogorov $\Psi_q(x) = \sum_{p=1}^d \lambda_p \psi_q(x_p)$ . Un défi critique consiste à garantir que ces applications séparent les hypercubes (c'est-à-dire qu'elles transforment des hypercubes distincts en intervalles disjoints dans le domaine 1D) pour permettre une interpolation globale.
L'article dérive des conditions explicites sur les paramètres d'échelle $\lambda = (\lambda_1, \dots, \lambda_d)$ et le paramètre d'ajustement $\nu$ pour garantir la stricte monotonie des coins des hypercubes transformés. En résolvant une équation quadratique pour $\nu$ (noté $\nu^*$ ) et en définissant une suite récurrente pour les sommes partielles de $\lambda$ , les auteurs fournissent un ensemble explicite de paramètres $\lambda^*$ qui garantit que les points de données transformés sont bien ordonnés et séparés, atténuant les « décalages » courants dans les constructions précédentes.
Construction des Fonctions Externes :
Les fonctions externes $g_q$ sont construites par interpolation ligne par ligne des valeurs de la fonction cible échantillonnée aux centres des hypercubes. Les auteurs utilisent la même fonction de forme $S(z)$ employée dans la construction interne pour effectuer une interpolation par morceaux $C^2$ entre les points de données transformés. Cela garantit que les fonctions externes sont également $C^2$ -lisses.

Contributions Clés

Construction Explicite $C^2$ : L'article fournit la première construction explicite de superpositions de Kolmogorov approchées où les fonctions internes et externes sont strictement croissantes et $C^2$ -lisses. Cela surmonte le comportement « sauvage » des fonctions inhérentes aux représentations KST exactes.
Sélection Rigoureuse des Paramètres : Les auteurs dérivent un ensemble spécifique de paramètres d'échelle $\lambda^*$ et un paramètre d'ajustement $\nu^*$ qui garantissent la séparation des hypercubes sous les applications de Kolmogorov. Cela résout le problème de la délocalisation des données, ce qui est crucial pour la validité de l'interpolation.
Analyse de Convergence : L'article démontre que l'approximation construite $f_N$ converge vers toute fonction $f$ continue $\alpha$ -Hölderienne $f \in H^\alpha([0, 1]^d)$ avec une précision de $O(N^{-\alpha})$ . La preuve prend explicitement en compte les contributions d'erreur provenant à la fois des points à l'intérieur des hypercubes et des points tombant dans les espaces.
Vérification Numérique : Les auteurs implémentent l'algorithme et vérifient numériquement les taux de convergence théoriques pour des dimensions $d$ allant de 2 à 9, démontrant que la décroissance d'erreur observée correspond au taux prédit $O(N^{-\alpha})$ .

Résultats
Le résultat théorique principal (Théorème 4.1) stipule que pour toute fonction $f$ continue $\alpha$ -Hölderienne, l'erreur entre $f$ et l'approximation construite $f_N$ satisfait :
$\|f - f_N\|_\infty \leq C \cdot N^{-\alpha}$
où $C$ dépend de la dimension $d$ et de la constante de Hölder. Les expériences numériques confirment cet ordre de convergence pour diverses fonctions tests, y compris celles présentant des singularités et des entrées de haute dimension ( $d \leq 9$ ). Les résultats indiquent que le taux de convergence est principalement dicté par la régularité de la fonction cible ( $\alpha$ ) et le nombre de sommes externes ( $N$ ), la dimension $d$ influençant les constantes mais non l'ordre asymptotique.

Signification et Revendications
Les auteurs affirment que ce travail résout une question ouverte concernant la construction de superpositions de Kolmogorov approchées lisses. L'importance de cette construction réside dans plusieurs domaines :

Applications aux Réseaux de Neurones : La régularité et la stricte monotonie des fonctions construites les rendent adaptées à une implémentation dans des réseaux de neurones (spécifiquement les Réseaux Kolmogorov-Arnold ou KAN). La construction fournit un cadre théorique où les fonctions internes peuvent être paramétrées par des classes d'ansatz lisses (par exemple, des splines, des MLP) sans l'obstacle théorique de la non-différentiabilité.
Théorie de la Convergence : En fournissant une représentation intermédiaire explicite et lisse, l'article ouvre la voie à l'établissement de théories de convergence rigoureuses pour les KAN. Il permet de décomposer l'erreur totale en l'erreur d'approximation de la représentation KST et l'erreur d'approximation de l'ansatz du réseau de neurones.
Insight Théorique : La construction révèle que, lorsque la dimension $d$ augmente, les fonctions internes deviennent presque plates à l'intérieur des hypercubes (avec des dérivées tendant vers zéro), conséquence naturelle du codage d'informations de haute dimension en une seule dimension. Cette idée suggère que l'assouplissement de l'exigence de mappage vers une seule dimension (mappage vers $d-1$ ou des dimensions inférieures) pourrait être une direction fructueuse pour la recherche future.

L'article souligne que, bien que la représentation KST exacte soit mathématiquement élégante, son utilité pratique est limitée par le manque de régularité. Ce travail comble le fossé entre l'existence théorique de telles représentations et leur implémentation pratique et lisse dans des cadres computationnels.