🔢 mathematics

Explicit Construction of Approximate Kolmogorov Superpositions with C2 Smoothness

Dieser Artikel stellt eine explizite Konstruktion von approximierten Kolmogorow-Superpositionen unter Verwendung von $C^2$ -glatten inneren und äußeren Funktionen vor, um beliebige $\alpha$ -Hölder-stetige Funktionen mit einer Fehlerordnung von $N^{-\alpha}$ zu approximieren, wodurch die pathologischen Verhaltensweisen klassischer Darstellungen überwunden werden, während deren Strategie der exakten Darstellung beibehalten wird.

Ursprüngliche Autoren: Lunji Song, Zilan Cheng, Juan Diego Toscano, Li-Lian Wang

Veröffentlicht 2026-05-19

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Lunji Song, Zilan Cheng, Juan Diego Toscano, Li-Lian Wang

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das große Ganze: Ein 3D-Puzzle mit 1D-Schnüren entwirren

Stellen Sie sich vor, Sie haben ein komplexes, mehrdimensionales Objekt, wie eine riesige, kunstvolle 3D-Skulptur (die eine Funktion mit vielen Variablen darstellt, wie $x_1, x_2, \dots, x_d$ ). Seit Jahrzehnten kennen Mathematiker einen „magischen Trick" (den Satz von Kolmogorov über die Superposition), der besagt, dass man diese 3D-Skulptur vollständig beschreiben kann, indem man nur einen Stapel einfacher, eindimensionaler Schnüre verwendet (Funktionen einer einzigen Variablen).

Allerdings gab es einen Haken. Die ursprünglichen „Schnüre", die bei diesem magischen Trick verwendet wurden, waren wild und gezackt. Sie waren so rau und gebrochen, dass sie keine glatten Kurven besaßen, was es unmöglich machte, sie in modernen Werkzeugen wie Computersimulationen oder neuronalen Netzen einzusetzen (die glatte, fließende Linien bevorzugen).

Dieses Papier stellt eine neue, glattere Version des magischen Tricks vor. Die Autoren haben explizit eine Menge „glatter Schnüre" konstruiert, die immer noch die komplexe 3D-Skulptur rekonstruieren können, jedoch ohne die gezackten, gebrochenen Kanten. Sie beweisen, dass diese neuen Schnüre gut funktionieren und jede glatte oder leicht unebene Form mit hoher Genauigkeit approximieren können.

Das Problem: Die „wilden" Schnüre

In der ursprünglichen Theorie waren die „inneren Schnüre" (diejenigen, die die Eingabe aufnehmen) wie Treppen aus zerbrochenem Glas.

Sie gingen in winzigen, scharfen Schritten auf und ab.
Sie waren so gezackt, dass, wenn man an den meisten Punkten ihren Steigungswert (Ableitung) messen wollte, dieser null oder undefiniert war.
Weil sie so „wild" waren, konnten Computer sie nicht effektiv zum Lernen oder zur Vorhersage nutzen.

Das Papier fragt: Können wir diese Schnüre aus zerbrochenem Glas durch glatte, polierte ersetzen, ohne die Fähigkeit zu verlieren, die 3D-Form wiederherzustellen?

Die Lösung: Bau glatter „innerer" Schnüre

Die Autoren entwarfen eine neue Art von „innerer Schnur" (genannt innere Funktion), die $C^2$ -glatt ist.

Was bedeutet $C^2$ -glatt? Stellen Sie sich vor, Sie fahren Auto.
- Eine gezackte Schnur ist wie das Überfahren eines Schlaglochs: Sie werden ruckartig nach vorne geschleudert, dann gestoppt, dann wieder ruckartig.
- Eine $C^1$ -glatte Schnur ist wie eine glatte Straße: Sie werden nicht ruckartig geschleudert, aber das Lenkrad könnte sich dennoch scharf drehen.
- Eine $C^2$ -glatte Schnur ist wie eine perfekt überhöhte Rennstrecke. Nicht nur ist die Straße glatt, sondern auch die Krümmung der Straße ändert sich glatt. Sie können darauf fahren, ohne plötzliche Stöße oder scharfe Kurven zu erleben.

Wie haben sie sie gebaut?
Anstatt zerbrochene Stufen zu verwenden, benutzten sie einen „Kleber" aus speziellen mathematischen Formen (Polynome und Sinuswellen).

Die Lücken: Sie schufen winzige Lücken in der Straße, in denen die Schnur sanft nach oben krümmt (unter Verwendung einer „verschmierten" Form).
Die flachen Teile: Zwischen den Lücken bleibt die Schnur größtenteils flach, bewegt sich aber dennoch vorwärts.
Das Ergebnis: Eine einzelne, durchgehende, glatte Linie, die niemals aufhört, sich vorwärts zu bewegen (streng monoton steigend) und keine scharfen Ecken hat.

Das „Karten"-Problem: Das Chaos ordnen

Sobald Sie glatte Schnüre haben, müssen Sie sie kombinieren, um die 3D-Welt auf eine 1D-Linie abzubilden. Das ist wie der Versuch, einen unordentlichen Raum in einen einzigen langen Flur zu packen.

Wenn Sie die Dinge zufällig packen, könnten Gegenstände aus verschiedenen Teilen des Raums im Flur nebeneinander landen und ein Chaos verursachen (Mathematiker nennen dies „Dislokation").

Die Lösung der Autoren:
Sie entwickelten ein präzises Rezept, wie die Schnüre gemischt werden müssen.

Sie wiesen jeder Dimension unterschiedliche „Gewichte" (genannt $\lambda$ ) zu.
Sie bewiesen, dass, wenn man diese Gewichte genau richtig wählt (basierend auf der Größe der Lücken), der „Flur" organisiert bleibt.
Die Analogie: Stellen Sie sich vor, Sie sortieren Bücher nach Höhe. Wenn Sie sie einfach in einen Haufen werfen, könnte ein kleines Buch neben einem großen landen. Aber wenn Sie eine spezifische Sortierregel verwenden (ihr mathematisches Rezept), bleibt jedes kleine Buch in der Nähe anderer kleiner Bücher, und jedes große Buch bleibt in der Nähe großer Bücher. Dies stellt sicher, dass die 1D-Karte die Struktur des 3D-Objekts bewahrt.

Die „äußeren" Schnüre: Die Karte lesen

Sobald das 3D-Objekt in eine 1D-Linie abgeflacht wurde (der „innere" Teil), müssen Sie den Wert an diesem Punkt ablesen, um die endgültige Antwort zu erhalten. Dies ist die äußere Funktion.

Die Autoren bauten diese äußeren Funktionen, indem sie sich die „Zentren" der gepackten 3D-Blöcke ansahen.
Sie verwendeten eine glatte Interpolationsmethode (Verbindung der Punkte mit glatten Kurven), um eine Funktion zu erstellen, die die 1D-Linie lesen und den korrekten Wert für die ursprüngliche 3D-Form ausgeben kann.

Die Ergebnisse: Wie gut ist es?

Das Papier beweist zwei Hauptdinge:

Genauigkeit: Die neue glatte Konstruktion kann jede Funktion mit einem bestimmten Glättungsgrad (genannt $\alpha$ -Hölder-stetig) mit einem Fehler approximieren, der sich vorhersagbar verkleinert, wenn man mehr „Schnüre" hinzufügt (Erhöhung von $N$ ). Der Fehler verringert sich mit einer Rate von $O(N^{-\alpha})$ .
Verifikation: Sie führten Computertests an Funktionen mit bis zu 9 Dimensionen durch. Die Ergebnisse stimmten mit ihren mathematischen Vorhersagen perfekt überein und zeigten, dass der Fehler genau so schnell abnahm, wie sie es vorhergesagt hatten.

Warum dies wichtig ist (laut dem Papier)

Es ist praktisch: Im Gegensatz zu den ursprünglichen „wilden" Funktionen können diese neuen glatten Funktionen tatsächlich in neuronalen Netzen (Computersystemen zum Lernen) verwendet werden.
Es ist explizit: Die Autoren sagten nicht nur „es existiert"; sie gaben die exakten Formeln und Schritte an, um diese Funktionen zu bauen.
Es löst eine langjährige Frage: Seit Jahren fragten sich Forscher, ob man diese glatten Versionen herstellen könnte, ohne die Magie des ursprünglichen Satzes zu brechen. Dieses Papier sagt „Ja" und zeigt genau, wie.

Zusammenfassend: Die Autoren nahmen einen mathematischen magischen Trick, der gezackte, gebrochene Schnüre verwendete, und ersetzten sie durch glatte, polierte Schnüre. Sie bewiesen, dass diese neuen Schnüre immer noch komplexe 3D-Formen perfekt rekonstruieren können, wodurch die Theorie für reale Computeranwendungen bereit ist.

Technische Zusammenfassung: Explizite Konstruktion approximativer Kolmogorow-Superpositionen mit $C^2$ -Glattheit

Problemstellung
Der Kolmogorow-Superpositionssatz (KST) besagt, dass jede stetige multivariate Funktion als Superposition stetiger univariater Funktionen dargestellt werden kann. Die bestehenden konstruktiven Beweise (z. B. von Sprecher, Kahane und Lorentz) beruhen jedoch auf inneren Funktionen, die „wilde" und „pathologische" Verhaltensweisen aufweisen, wie etwa treppenförmige Strukturen mit Ableitungen, die fast überall verschwinden. Diese nicht-glatten Funktionen sind für moderne Anwendungen, insbesondere in neuronalen Netzwerkarchitekturen (z. B. Kolmogorow-Arnold-Netzwerke oder KANs), ungeeignet, da Differenzierbarkeit und Glattheit für Optimierung und Konvergenzanalyse entscheidend sind. Obwohl approximative Versionen vorgeschlagen wurden, um die Nicht-Differenzierbarkeit exakter Darstellungen zu umgehen, blieb eine rigorose, explizite Konstruktion glatter ( $C^2$ ) approximativer Superpositionen, die das Wesen der Strategie von Kolmogorow bewahrt, eine offene Frage.

Methodik
Die Autoren schlagen eine neuartige, explizite Konstruktion approximativer Kolmogorow-Superpositionen vor, die sowohl für innere als auch für äußere Funktionen $C^2$ -Glattheit erreicht. Die Methodik verläuft in drei Hauptphasen:

Konstruktion glatter innerer Funktionen:
Anstelle von Treppenfunktionen definieren die Autoren eine erzeugende Funktion $\phi(t)$ , die durch das Verkleben zweier spezifischer Formfunktionen entsteht:
- Eine „verschmierte" $C^2$ -Heaviside-Funktion $S(z)$ (abgeleitet von einem trigonometrischen Polynom), die auf kleinen „Lücken" der Größe $\delta = N^{-2}$ verwendet wird.
- Ein Polynom fünften Grades $P(z)$ , das auf den Hauptteilintervallen der Größe $h = N^{-1}$ verwendet wird.
  Diese Teile werden zu einer streng monoton wachsenden, stückweise $C^2$ -Funktion verklebt. Die inneren Funktionen $\psi_q(x)$ werden anschließend durch geeignete Translationen und Dilatationen dieser einzigen erzeugenden Funktion $\phi$ erzeugt. Ein Abstimmungsparameter $\nu$ steuert das Verhalten an den Verbindungsstellen und stellt sicher, dass die Funktionen streng monoton wachsend und $C^2$ -glatt mit kontrollierbaren Ableitungen bleiben.
Trennung von Hyperwürfeln und Parametersauswahl:
Der Definitionsbereich $[0, 1]^d$ wird in Hyperwürfel unterteilt, die durch Lücken getrennt sind. Die Autoren definieren Kolmogorow-Abbildungen $\Psi_q(x) = \sum_{p=1}^d \lambda_p \psi_q(x_p)$ . Eine kritische Herausforderung besteht darin, sicherzustellen, dass diese Abbildungen die Hyperwürfel trennen (d. h. verschiedene Hyperwürfel auf disjunkte Intervalle im eindimensionalen Bereich abbilden), um eine globale Interpolation zu ermöglichen.
Der Artikel leitet explizite Bedingungen für die Skalierungsparameter $\lambda = (\lambda_1, \dots, \lambda_d)$ und den Abstimmungsparameter $\nu$ her, um eine strenge Monotonie der abgebildeten Hyperwürfelecken zu garantieren. Durch Lösen einer quadratischen Gleichung für $\nu$ (bezeichnet als $\nu^*$ ) und Definieren einer rekursiven Folge für die Partialsummen von $\lambda$ stellen die Autoren eine explizite Menge von Parametern $\lambda^*$ bereit, die sicherstellt, dass die abgebildeten Datenpunkte gut geordnet und getrennt sind, wodurch „Verschiebungen" (Dislokationen) gemildert werden, die bei früheren Konstruktionen üblich waren.
Konstruktion äußerer Funktionen:
Die äußeren Funktionen $g_q$ werden durch zeilenweise Interpolation der gesampelten Zielwertfunktionen an den Zentren der Hyperwürfel konstruiert. Die Autoren nutzen dieselbe Formfunktion $S(z)$ , die bei der inneren Konstruktion verwendet wurde, um eine stückweise $C^2$ -Interpolation zwischen den abgebildeten Datenpunkten durchzuführen. Dies stellt sicher, dass auch die äußeren Funktionen $C^2$ -glatt sind.

Hauptbeiträge

Explizite $C^2$ -Konstruktion: Der Artikel liefert die erste explizite Konstruktion approximativer Kolmogorow-Superpositionen, bei denen sowohl innere als auch äußere Funktionen streng monoton wachsend und $C^2$ -glatt sind. Dies überwindet das „wilde" Verhalten inhärenter Funktionen in exakten KST-Darstellungen.
Rigorose Parametersauswahl: Die Autoren leiten eine spezifische Menge von Skalierungsparametern $\lambda^*$ und einen Abstimmungsparameter $\nu^*$ her, die die Trennung von Hyperwürfeln unter den Kolmogorow-Abbildungen garantieren. Dies löst das Problem der Datenverschiebung, das für die Gültigkeit der Interpolation entscheidend ist.
Konvergenzanalyse: Der Artikel beweist, dass die konstruierte Approximation $f_N$ gegen jede $\alpha$ -Hölder-stetige Funktion $f \in H^\alpha([0, 1]^d)$ mit einer Genauigkeit von $O(N^{-\alpha})$ konvergiert. Der Beweis berücksichtigt explizit die Fehlerbeiträge sowohl von Punkten innerhalb der Hyperwürfel als auch von Punkten, die in den Lücken liegen.
Numerische Verifikation: Die Autoren implementieren den Algorithmus und verifizieren die theoretischen Konvergenzraten numerisch für Dimensionen $d$ im Bereich von 2 bis 9 und zeigen, dass der beobachtete Fehlerabfall der vorhergesagten Rate $O(N^{-\alpha})$ entspricht.

Ergebnisse
Das Haupttheoretische Ergebnis (Satz 4.1) besagt, dass für jede $\alpha$ -Hölder-stetige Funktion $f$ der Fehler zwischen $f$ und der konstruierten Approximation $f_N$ die folgende Ungleichung erfüllt:
$\|f - f_N\|_\infty \leq C \cdot N^{-\alpha}$
wobei $C$ von der Dimension $d$ und der Hölder-Konstanten abhängt. Die numerischen Experimente bestätigen diese Konvergenzordnung für verschiedene Testfunktionen, einschließlich solcher mit Singularitäten und hochdimensionalen Eingaben ( $d \leq 9$ ). Die Ergebnisse deuten darauf hin, dass die Konvergenzrate primär durch die Glattheit der Zielfunktion ( $\alpha$ ) und die Anzahl der äußeren Summationen ( $N$ ) bestimmt wird, wobei die Dimension $d$ die Konstanten beeinflusst, nicht jedoch die asymptotische Ordnung.

Bedeutung und Behauptungen
Die Autoren behaupten, dass diese Arbeit eine offene Frage bezüglich der Konstruktion glatter approximativer Kolmogorow-Superpositionen löst. Die Bedeutung dieser Konstruktion liegt in mehreren Bereichen:

Anwendungen in neuronalen Netzen: Die Glattheit und strenge Monotonie der konstruierten Funktionen machen sie für die Implementierung in neuronalen Netzen (speziell Kolmogorow-Arnold-Netzwerke oder KANs) geeignet. Die Konstruktion bietet einen theoretischen Rahmen, in dem die inneren Funktionen durch glatte Ansatzklassen (z. B. Splines, MLPs) parametrisiert werden können, ohne durch das theoretische Hindernis der Nicht-Differenzierbarkeit behindert zu werden.
Konvergenztheorie: Durch Bereitstellung einer expliziten, glatten intermediären Darstellung ebnet der Artikel den Weg für die Etablierung rigoroser Konvergenztheorien für KANs. Es ermöglicht die Zerlegung des Gesamtfehlers in den Approximationsfehler der KST-Darstellung und den Approximationsfehler des neuronalen Netzwerk-Ansatzes.
Theoretische Einsicht: Die Konstruktion zeigt, dass mit zunehmender Dimension $d$ die inneren Funktionen innerhalb der Hyperwürfel nahezu flach werden (mit Ableitungen, die gegen Null streben), was eine natürliche Konsequenz der Kodierung hochdimensionaler Information in eine Dimension ist. Diese Einsicht legt nahe, dass das Lockern der Anforderung der Abbildung auf eine einzige Dimension (stattdessen Abbildung auf $d-1$ oder niedrigere Dimensionen) eine fruchtbare Richtung für zukünftige Forschung sein könnte.

Der Artikel betont, dass die exakte KST-Darstellung zwar mathematisch elegant ist, ihre praktische Nutzbarkeit jedoch durch Nicht-Glattheit eingeschränkt wird. Diese Arbeit schließt die Lücke zwischen dem theoretischen Vorhandensein solcher Darstellungen und ihrer praktischen, glatten Implementierung in rechnerischen Frameworks.