Paris: A Decentralized Trained Open-Weight Diffusion Model

Stellen Sie sich eine Welt vor, in der das Erschaffen von Kunst nicht nur von einem einzelnen Genie in einem Atelier abhängt, sondern von einem riesigen, globalen Team von Künstlern, die zusammenarbeiten, ohne jemals miteinander sprechen zu müssen. Dies ist der Kern eines Feldes namens „Diffusionsmodellierung“, einer Art künstlicher Intelligenz, die lernt, Bilder zu erzeugen, indem sie mit einer chaotischen Wolke aus statischem Rauschen beginnt und dieses Schritt für Schritt verfeinert, bis ein klares Bild entsteht – ganz ähnlich wie ein Bildhauer, der Stein wegmeißelt, um eine Statue zu enthüllen. Jahrelang war die größte Hürde in diesem Bereich die Notwendigkeit eines „zentralen Kommandozentrums“. Um diese leistungsstarken KI-Künstler zu trainieren, mussten Forscher normalerweise tausende superschnelle Computer an einem Ort versammeln, verbunden durch teure Hochgeschwindigkeitskabel, die alle im perfekten Gleichschritt arbeiteten. Wenn ein Computer verzögerte, musste das gesamte Team warten. Dies bedeutete, dass nur die reichsten, am besten finanzierten Institutionen die besten Bildgeneratoren bauen konnten, was den Rest der Welt außen vor ließ.

Hier kommt „Paris“ ins Spiel, ein neues Projekt von Bagel Labs, das eine kühne Frage stellt: Was wäre, wenn wir dieses zentrale Kommandozentrum gar nicht bräuchten? Was wäre, wenn wir einen erstklassigen KI-Künstler trainieren könnten, indem wir viele kleinere Teams erlauben, in völliger Isolation, auf ihren eigenen Computern in verschiedenen Ländern zu arbeiten und ihre Arbeit erst ganz am Ende zusammenzuführen? Das Paper präsentiert Paris als den ersten öffentlich veröffentlichten Bildgenerator, der genau auf diese Weise trainiert wurde, und beweist damit, dass man keinen Supercomputer-Cluster braucht, um wunderschöne Bilder zu erzeugen. Stattdessen nutzt es einen cleveren Trick, bei dem die KI in ein Team von Spezialisten aufgeteilt wird, von denen jeder einen anderen Stil lernt, sowie einen intelligenten „Verkehrskontrolleur“, der entscheidet, welchem Spezialisten man zuhören soll, wenn man nach einem Bild fragt.

Die große Idee: Ein Team aus einsamen Genies

Normalerweise ist das Training einer massiven KI wie der Versuch, einen Chor aus 1.000 Sängern dazu zu bringen, perfekt zu harmonieren. Sie alle müssen im selben Raum stehen, einem Dirigenten zuhören und ihre Stimmen sofort anpassen, wenn jemand falsch liegt. Wenn der Raum zu groß ist oder die Mikrofone zu langsam sind, bricht das ganze Lied zusammen. Das ist es, was beim traditionellen KI-Training passiert: Tausende von Grafikkarten (GPUs) schreien ständig ihren Fortschritt zueinander, während sie darauf warten, dass alle aufholen, bevor sie zum nächsten Schritt übergehen können. Es ist teuer, erfordert spezielles Hochgeschwindigkeitsinternet und ist mit einer Mischung aus alten und neuen Computern unmöglich umsetzbar.

Paris dreht das Skript um. Anstatt eines riesigen Chores stellen Sie sich eine Gruppe von acht Solisten vor, von denen jeder in seinem eigenen schallisolierten Raum eingeschlossen ist. Sie sprechen nie miteinander, teilen niemals ihre Notenblätter und warten auch nie auf die anderen.

• Die Solisten (Die Experten): Das Paris-Modell besteht aus acht kleineren KI-„Experten“. Jeder von ihnen wird auf einem anderen Teil der Bildbibliothek des Internets trainiert. Einer lernt vielleicht nur etwas über Sonnenuntergänge, ein anderer über Hunde und ein weiterer über Architektur. Sie trainieren in völliger Isolation auf der Hardware, die jeweils verfügbar ist, selbst wenn einer auf einem schnellen Server in den USA und ein anderer auf einer langsameren Maschine in Europa läuft.
• Der Verkehrskontrolleur (Der Router): Da diese Experten während des Trainings nie miteinander kommunizieren, wissen wir dann, welchen wir benutzen sollen, wenn man „einen Golden Retriever auf einer Blumenwiese rennend“ eingibt? Hier kommt der „Router“ ins Spiel. Er ist eine winzige, leichtgewichtige KI, die wie ein intelligenter Verkehrspolizist fungiert. Wenn man ihm einen Prompt gibt, betrachtet er den unordentlichen, verrauschten Ausgangspunkt des Bildes und entscheidet schnell: „Hey, Experte 3 ist am besten auf Hunde spezialisiert, lassen Sie uns den nehmen!“ oder vielleicht: „Eigentlich braucht diese Szene eine Mischung aus Experte 3 und Experte 5.“

Wie es funktioniert: Die Magie des „Nicht-Sprechens“

Die Genialität von Paris liegt darin, wie es die Trainingsdaten handhabt. Die Forscher nahmen einen riesigen Datensatz von 11 Millionen Bildern und nutzten ein smartes Werkzeug (genannt DINOv2), um sie basierend auf ihrem Aussehen in acht verschiedene Stapel zu sortieren. Dann schickten sie jeden Stapel zu einem anderen Experten.

• Keine Synchronisation: Beim normalen KI-Training müssen die Computer ständig ihre „Gradienten“ (was so etwas wie Notizen zur Verbesserung ist) synchronisieren. Die Paris-Experten tun dies nicht. Sie trainieren einfach, trainieren, trainieren, in ihrem eigenen Tempo und zu ihrer eigenen Zeit. Einer mag vielleicht schon 100.000 Schritte geschafft haben, während ein anderer erst bei 90.000 steht. Das spielt keine Rolle.
• Die Aufgabe des Routers: Der Router wird separat trainiert. Er lernt, ein verrauschtes, verschwommenes Bild zu betrachten und zu erraten, welcher Experte am besten dazu passt. Es ist wie ein Bibliothekar, der genau weiß, aus welchem Regal er das Buch ziehen muss, basierend auf dem schwachen Geruch des Buches, den man in der Hand hält.

Was sie herausfanden: Weniger Daten, weniger Energie, gleiche Qualität

Das Team testete Paris gegen die herkömmliche Methode und gegen einen vorherigen dezentralen Ansatz. Die Ergebnisse waren überraschend effizient:

• Ressourceneinsparungen: Paris gelang es, ein hochwertiges Modell mit 14-mal weniger Trainingsdaten (11 Millionen Bilder statt 154 Millionen) und 16-mal weniger GPU-Tagen (der Menge an benötigter Computerzeit) zu trainieren als die bisher beste dezentrale Methode.
• Die „Top-2“-Überraschung: Als sie testeten, wie man die Experten kombiniert, fanden sie etwas Interessantes heraus. Die Verwendung nur eines einzigen „besten“ Experten (Top-1) war gut, aber die Verwendung der zwei besten Experten (Top-2) und das Mischen ihrer Ergebnisse lieferte tatsächlich die besten Bilder.
• Der „Full Team“-Fehler: Interessanterweise führte der Versuch, alle acht Experten gleichzeitig zu verwenden (das „Full Ensemble“), dazu, dass die Bilder schlechter wurden. Es stellt sich heraus, dass es störend ist, wenn zu viele Stimmen gleichzeitig singen wollen. Es scheint, dass Selektivität der Schlüssel ist; man will nicht den ganzen Chor, man will nur die richtigen Solisten.

Warum das wichtig ist

Das Paper kommt zu dem Schluss, dass man kein Milliarden-Dollar-Rechenzentrum benötigt, um einen erstklassigen Bildgenerator zu bauen. Indem man Computer unabhängig arbeiten lässt und sie erst am Ende koordiniert, beweist Paris, dass hochwertige KI auf „heterogener Hardware“ gebaut werden kann – das heißt, auf einer Mischung aus unterschiedlichen, günstigeren und geografisch verstreuten Computern. Dies öffnet die Tür für Forscher und kleinere Unternehmen, leistungsstarke Modelle zu trainieren, ohne die massive, synchronisierte Infrastruktur zu benötigen, die bisher der Gatekeeper dieses Feldes war.

Kurz gesagt zeigt Paris, dass man ein Meisterwerk nicht dadurch erschafft, dass man alle zwingt, im Gleichschritt zu marschieren, sondern indem man jedem erlaubt, seinen eigenen Rhythmus zu finden, und dann einen klugen Dirigenten herbeiruft, der sie genau rechtzeitig zum finalen Applaus zusammenführt.