Predictive Coding Networks and Inference Learning: Tutorial and Survey

Dieses Tutorial und die Übersicht stellen Predictive Coding Networks als eine vielversprechende, biologisch plausible und mathematisch übergeordnete Alternative zum Backpropagation-Algorithmus vor, die durch Inferenzlernen effizientere und vielseitigere Architekturen für überwachtes und unüberwachtes Lernen ermöglicht.

Das Wesentliche

🧠 Predictive Coding: Wie das Gehirn lernt (und wie wir es nachbauen)

Stell dir vor, dein Gehirn ist kein passiver Empfänger, der einfach nur Fotos macht, wenn du etwas siehst. Stattdessen ist es wie ein ständiger Filmemacher, der versucht, den nächsten Frame eines Films vorherzusagen, bevor er überhaupt passiert ist.

Dieses Papier ist eine Art "Bauanleitung" und "Reiseführer" für eine neue Art von künstlicher Intelligenz (KI), die genau so funktioniert wie dieses Gehirn. Sie heißt Predictive Coding Networks (PCNs).

Hier ist die Geschichte, einfach erklärt:

1. Das alte Problem: Der müde Lehrer (Backpropagation)

Die heutige KI (Deep Learning) lernt meist mit einer Methode namens Backpropagation (BP).

• Die Analogie: Stell dir einen Schüler vor, der eine Matheprüfung macht. Er gibt die Antworten ab. Der Lehrer korrigiert sie, geht dann aber rückwärts durch den ganzen Prüfungsbogen, um dem Schüler zu sagen: "Hier hast du einen Fehler gemacht, korrigiere das, und hier hast du auch einen Fehler gemacht, korrigiere das."
• Das Problem: Das ist sehr ineffizient. Der Schüler muss warten, bis der Lehrer ganz unten angekommen ist, um zu wissen, was oben falsch war. In der echten Biologie (unserem Gehirn) passiert das nicht so. Neuronen kommunizieren nicht so streng rückwärts. Außerdem ist dieser Prozess für Computer sehr rechenintensiv, wenn die Netze riesig werden.

2. Die neue Lösung: Der vorausschauende Architekt (Inference Learning)

Das Papier stellt eine Alternative vor: Predictive Coding (PC).

• Die Analogie: Stell dir einen Architekten vor, der ein Haus plant. Er hat eine Skizze (seine Vorhersage). Dann kommt ein Bauleiter (die Sinnesdaten) und sagt: "Hier ist das Fundament, aber es ist 2 cm zu tief."
  • Der Architekt sagt nicht: "Oh nein, ich muss alles von vorne berechnen!"
  • Stattdessen sagt er: "Okay, ich passe meine Skizze sofort an, um den Fehler zu minimieren." Er vergleicht seine Vorhersage mit der Realität, berechnet den Fehler (die Differenz) und passt seine Planung lokal an.
• Der Clou: Jeder Stockwerk-Ebene des Hauses macht das gleichzeitig mit seinem Nachbarn. Es gibt keine lange Rückwärtskette. Alle arbeiten parallel. Das nennt man Inference Learning (IL).

3. Warum ist das Papier wichtig? (Die drei Perspektiven)

Die Autoren sagen: "Schaut nicht nur auf eine Sache, sondern auf PCNs aus drei verschiedenen Blickwinkeln, damit ihr sie wirklich versteht."

• Blickwinkel 1: Der Universal-Baumeister (Erweiterung der ANN)

  • Früher dachten wir, KI sei wie ein gerader Tunnel (Input -> Output). PCNs sind wie ein Schweizer Taschenmesser. Sie können nicht nur Klassifizierung (Ist das ein Hund oder eine Katze?) machen, sondern auch generieren (Erfinde ein neues Bild eines Hundes).
  • Noch cooler: Sie können auf beliebigen Graphen laufen, nicht nur in Schichten. Das ist wie ein neuronales Netz, das sich wie ein Gehirn vernetzt, nicht wie ein striktes Bürogebäude.

• Blickwinkel 2: Der Wahrscheinlichkeits-Detektiv (Probabilistisches Modell)

  • PCNs sind im Kern Detektive, die unsichere Dinge raten. Sie fragen sich: "Wie wahrscheinlich ist es, dass dieses Bild ein Hund ist, gegeben meine bisherigen Erfahrungen?"
  • Das verbindet sie mit modernen KI-Methoden wie "Diffusion Models" (die Bilder aus Rauschen erzeugen), aber mit einer viel natürlicheren Lernweise.

• Blickwinkel 3: Der effiziente Lerner (Der Algorithmus)

  • Hier vergleichen sie IL mit dem alten Backpropagation.
  • Vorteil: IL ist biologisch plausibler (das Gehirn macht es so).
  • Vorteil: Es lernt oft schneller, wenn es darum geht, sich an neue Dinge anzupassen (z.B. wenn sich die Welt ändert), weil es weniger "vergisst" (weniger "katastrophale Interferenz").
  • Nachteil: Es war früher langsamer auf Computern. Aber das Papier zeigt: Wenn man die Computer gut genug parallelisiert (viele Köpfe arbeiten gleichzeitig), ist IL sogar schneller als Backpropagation bei sehr tiefen Netzen!

4. Was haben die Forscher herausgefunden?

• Es funktioniert! Auf kleinen Aufgaben (wie Handschrift erkennen) ist PCN genauso gut wie die alte KI.
• Es skaliert besser: Bei sehr großen, tiefen Netzen (die früher abstürzten) funktioniert PCN jetzt dank neuer Tricks (wie "Depth-µP") hervorragend.
• Es ist flexibler: Man kann damit nicht nur Dinge erkennen, sondern auch Dinge "träumen" (generieren), ohne extra Architektur zu bauen.

5. Das Fazit für die Zukunft

Dieses Papier ist wie eine Brücke. Es verbindet die Welt der Neurowissenschaften (wie das Gehirn denkt) mit der Welt der Informatik (wie wir KI bauen).

Die Botschaft ist: Wir müssen nicht mehr nur den müden Lehrer (Backpropagation) kopieren. Wir können den cleveren, vorausschauenden Architekten (Predictive Coding) bauen. Das könnte KI effizienter, flexibler und näher an unserem eigenen menschlichen Denken machen.

Kurz gesagt: Das Papier sagt uns, wie wir KI bauen, die nicht nur "lernt", sondern wirklich "versteht" und vorhersagt, genau wie wir. Und das Beste: Es gibt sogar eine kostenlose Software-Bibliothek (PRECO), damit jeder damit experimentieren kann!

Technische Zusammenfassung

Hier ist eine detaillierte technische Zusammenfassung des Papers „Predictive Coding Networks and Inference Learning: Tutorial and Survey" von Björn van Zwol et al. auf Deutsch.

1. Problemstellung und Motivation

Trotz der enormen Erfolge des Deep Learning (insbesondere durch Backpropagation, BP) bleibt biologisches Lernen in Bereichen wie Flexibilität, Energieeffizienz und Datenverarbeitung überlegen. Der aktuelle Trend „NeuroAI" strebt an, Prinzipien der Neurowissenschaften in die KI-Forschung zu integrieren. Ein zentrales Konzept hierbei ist das Predictive Coding (PC).

Das Hauptproblem, das dieses Paper adressiert, ist die Lücke zwischen der theoretischen Fundierung von Predictive Coding in den Neurowissenschaften und seiner praktischen Anwendung im maschinellen Lernen (ML).

• Herausforderung: Herkömmliche neuronale Netze (FNNs) nutzen Backpropagation, die biologisch unplausibel ist (z. B. wegen der Notwendigkeit globaler Fehlerpropagation und symmetrischer Gewichte).
• Ziel: Predictive Coding Networks (PCNs) bieten eine biologisch plausiblere Alternative durch Inference Learning (IL). Bislang fehlte jedoch eine umfassende, formale Spezifikation und ein Tutorial, das PCNs in den Kontext moderner ML-Methoden stellt und ihre Beziehung zu generativen Modellen sowie zu herkömmlichen ANN-Architekturen klärt. Zudem waren Implementierungen von PCNs oft rechenintensiver als BP-basierte Netze, was ihre breite Adoption hemmte.

2. Methodik und Theoretischer Rahmen

Das Paper definiert PCNs aus drei komplementären Perspektiven, die den Aufbau des Dokuments strukturieren:

A. PCNs als generalisierte künstliche neuronale Netze (ANNs)

• Struktur: Im Gegensatz zu FNNs, die nur Vorwärtsverbindungen haben, besitzen PCNs sowohl bottom-up (Vorhersagen) als auch top-down (Fehler) Verbindungen.
• Lernalgorithmus (Inference Learning - IL):
  • Statt eines direkten Loss-Minimierungsschritts wie bei BP wird eine Energiefunktion $E$ minimiert, die die Summe der quadrierten Vorhersagefehler ($\epsilon = a - \mu$) darstellt.
  • Der Trainingsprozess besteht aus zwei Phasen:
    1. Inferenz-Phase (E-Schritt): Die Aktivierungen der versteckten Knoten werden iterativ angepasst (Gradientenabstieg), um die Energie zu minimieren, während Eingabe und Ausgabe (Labels) „geklammert" (fixed) sind.
    2. Lern-Phase (M-Schritt): Die Gewichte werden basierend auf den konvergierten Aktivierungen aktualisiert.
  • Lokalität: Ein entscheidender Unterschied zu BP ist die Lokalität der Updates. In IL hängen Updates nur von benachbarten Schichten ab, was eine parallele Berechnung ermöglicht. Bei BP müssen Fehler sequenziell rückwärts propagiert werden.
• Äquivalenz: Während des Tests (Inferenz) verhalten sich diskriminative PCNs mathematisch äquivalent zu FNNs (ein einziger Vorwärtsdurchlauf).

B. PCNs als probabilistische latente Variablenmodelle

• PCNs werden als hierarchische bayessche Modelle interpretiert.
• Die Energiefunktion entspricht der negativen vollständigen Daten-Log-Likelihood (bzw. der Variational Free Energy).
• Der IL-Algorithmus wird als Expectation-Maximization (EM)-Verfahren abgeleitet:
  • Der Inferenzschritt entspricht dem E-Schritt (Schätzung latenter Variablen).
  • Der Gewichtsupdate-Schritt entspricht dem M-Schritt (Optimierung der Parameter).
• Dies erlaubt sowohl überwachtes (diskriminatives) als auch unüberwachtes (generatives) Lernen, je nachdem, welche Knoten geklammert werden und in welche Richtung die Vorhersagen fließen.

C. Erweiterung zu PC-Graphen

• Die Autoren stellen fest, dass PCNs nicht auf hierarchische Schichten beschränkt sein müssen. Durch die Verwendung von PC-Graphen (beliebige Graphenstrukturen) können nicht-hierarchische, gehirnähnliche Topologien trainiert werden.
• Dies macht PCNs zu einer mathematischen Obermenge (Superset) traditioneller ANNs.

3. Wichtige Beiträge

1. Umfassende formale Spezifikation: Das Paper liefert eine detaillierte mathematische Herleitung von PCNs, die verschiedene Konventionen (z. B. Richtung von Vorhersagen vs. Fehlern) klärt und eine einheitliche Notation einführt.
2. Verbindung zu ML-Methoden: Es wird explizit gezeigt, dass PCNs eine Obermenge von ANNs darstellen und eng mit generativen Modellen (wie VAEs, Diffusionsmodellen) und klassischen latenten Variablenmodellen (Faktoranalyse) verwandt sind.
3. Analyse von Inference Learning (IL):
   • Biologische Plausibilität: IL nutzt „prospective configuration" (Aktivitäten ändern sich vor den Gewichten), was Phänomene wie kontinuierliches Lernen und Online-Lernen besser erklärt als BP.
   • Konvergenz und Sattelpunkte: Theoretische Ergebnisse deuten darauf hin, dass IL durch die Nutzung von Informationen zweiter Ordnung (Krümmung der Loss-Landschaft) Sattelpunkte effizienter umgeht und schneller konvergiert als BP.
   • Skalierbarkeit: Durch Parallelisierung kann die Rechenzeit von IL unabhängig von der Netzwerktiefe werden, was bei sehr tiefen Netzen einen Vorteil gegenüber BP bietet.
4. Praktische Ressourcen: Die Autoren stellen eine begleitende Python-Bibliothek (PRECO, basierend auf PyTorch) bereit, die PCNs und PC-Graphen implementiert, um die Reproduzierbarkeit und den praktischen Einsatz zu fördern.

4. Ergebnisse und Empirische Befunde

Das Paper fasst den aktuellen Stand der empirischen Forschung zusammen:

• Kleine Datensätze: Auf Standard-Datensätzen (MNIST, CIFAR-10) erreichen PCNs mit IL eine Genauigkeit, die der von BP sehr nahe kommt (oft innerhalb weniger Prozentpunkte).
• Spezifische Vorteile: IL zeigt signifikante Verbesserungen bei Aufgaben wie kontinuierlichem Lernen (Continual Learning), Online-Lernen (Batch-Größe 1) und bei geringer Datenverfügbarkeit. Dies wird auf die reduzierte „katastrophale Interferenz" und die Sensitivität gegenüber der Loss-Landschaft zurückgeführt.
• Skalierungsprobleme: Ältere Studien zeigten, dass IL bei sehr tiefen Netzen (z. B. ResNets mit >18 Schichten) oft schlechter abschneidet als BP.
• Neueste Durchbrüche: Neuere Arbeiten (z. B. [42] im Paper zitiert) haben gezeigt, dass durch spezielle Initialisierungstechniken (Depth-μP) und Aktivierungsfunktionen (Vermeidung von ReLU, Nutzung von Tanh/HardTanh) IL auch in sehr tiefen Netzen (100+ Schichten) mit BP konkurrieren kann.
• Generative Modelle: Generative PCNs (unüberwacht) sind weniger erforscht, zeigen aber vielversprechende Ergebnisse in der Generierung von Daten und der Rekonstruktion, vergleichbar mit VAEs und GANs, jedoch oft mit schnellerer Konvergenz in Bezug auf Epochen (wenn auch pro Epoche rechenintensiver).

5. Bedeutung und Ausblick

Das Paper positioniert Predictive Coding Networks als einen vielversprechenden Rahmen für die Zukunft des maschinellen Lernens, insbesondere im Bereich NeuroAI.

• Paradigmenwechsel: Es bietet eine Brücke zwischen biologisch inspirierter Theorie und praktischer ML-Anwendung.
• Hardware-Potenzial: Aufgrund der lokalen Berechnungen und der Möglichkeit zur Parallelisierung sind PCNs ideale Kandidaten für neuromorphe Hardware, die Energieeffizienz und Parallelität priorisiert.
• Zukünftige Forschung: Die Arbeit legt den Grundstein für die Erforschung nicht-hierarchischer Strukturen (PC-Graphen), die Anwendung auf Bayesian Deep Learning (Unsicherheitsquantifizierung) und die weitere Optimierung der Recheneffizienz.

Zusammenfassend stellt dieses Tutorial und Survey einen essenziellen Referenzpunkt dar, der die mathematischen Grundlagen von PCNs klärt, ihre Beziehung zu etablierten ML-Methoden aufzeigt und den Weg für die nächste Generation biologisch plausibler und effizienter KI-Systeme ebnet.