🤖 machine learning

DEI: Diversity in Evolutionary Inference for Quality-Diversity Search

Dieser Beitrag stellt DEI vor, ein verteiltes Framework zur Suche nach Qualität und Vielfalt, das heterogene Large Language Models als komplementäre Mutationsoperatoren nutzt, um im Vergleich zu sowohl Einzelmodell- als auch homogenen Parallel-Baselines eine signifikant höhere Lösungsabdeckung und höhere Diversitätswerte zu erzielen.

Ursprüngliche Autoren: John Donaghy, Shikhar Rastogi

Veröffentlicht 2026-05-27

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: John Donaghy, Shikhar Rastogi

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen, ein riesiges, komplexes Puzzle zu lösen. Sie haben ein Team aus vier verschiedenen Experten, aber anstatt vier Personen einzustellen, die exakt gleich denken, stellen Sie vier Personen mit völlig unterschiedlichen Hintergründen ein: einen Mathematiker, einen Dichter, einen Mechaniker und einen Detektiv.

Dieser Artikel mit dem Titel "DEI: Diversity in Evolutionary Inference" beschreibt eine neue Methode, um Probleme mit Hilfe von Künstlicher Intelligenz (speziell Large Language Models, oder LLMs) zu lösen, indem sie wie ein Team dieser diversen Experten behandelt werden, das zusammenarbeitet.

Hier ist die Aufschlüsselung der Funktionsweise, unter Verwendung einfacher Analogien:

1. Das Problem: Die "Echokammer" der KI

Normalerweise, wenn Wissenschaftler KI nutzen wollen, um die beste Lösung für ein Problem zu finden, führen sie möglicherweise das gleiche KI-Modell auf vielen verschiedenen Computern gleichzeitig aus.

Die Analogie: Stellen Sie sich vor, Sie bitten vier eineiige Zwillinge, eine Geschichte zu schreiben. Selbst wenn sie mit unterschiedlicher Geschwindigkeit schreiben, haben sie alle das gleiche "Gehirn". Sie werden wahrscheinlich sehr ähnliche Ideen entwickeln, in denselben kreativen Sackgassen stecken bleiben und einzigartige Perspektiven übersehen.
Die Sichtweise des Artikels: Dies wird als "homogene" Suche bezeichnet. Sie ist schnell, erkundet aber nicht genug des "Ideenraums".

2. Die Lösung: Das "All-Star-Team" (DEI)

Die Autoren entwickelten ein System namens DEI (Diversity in Evolutionary Inference). Anstatt vier identische KIs zu verwenden, verbanden sie vier unterschiedliche KI-Modelle (wie GPT und Claude, aber verschiedene Versionen), um zusammenzuarbeiten.

Die Analogie: Jetzt haben Sie den Mathematiker, den Dichter, den Mechaniker und den Detektiv, die am Puzzle arbeiten.
- Der Mathematiker könnte eine Lösung finden, die sehr effizient, aber langweilig ist.
- Der Dichter könnte eine seltsame, kreative Lösung finden, auf die die anderen nie gekommen wären.
- Der Mechaniker könnte eine robuste, praktische Reparatur finden.
Die Magie: Da sie unterschiedlich sind, erkunden sie natürlich verschiedene Teile des Puzzles. Wenn sie ihre besten Ideen miteinander teilen, wird das gesamte Team schlauer und findet Lösungen, die eine einzelne Art von KI allein niemals entdecken würde.

3. Wie sie zusammenarbeiten: Das "No-Stop"-Staffellauf

In einem normalen Team muss jeder auf die langsamste Person warten, bevor sie zum nächsten Schritt übergehen. Wenn der "Mechaniker" langsam ist, wartet das gesamte Team.

Die Innovation des Artikels: Das DEI-System verwendet eine spezielle "asynchrone" Kommunikationsmethode.
Die Analogie: Stellen Sie sich einen Staffellauf vor, bei dem die Läufer nicht auf eine Übergabe des Stabs warten. Stattdessen wirft der Dichter, sobald er einen Absatz fertig hat, diesen dem Detektiv zu. Der Detektiv fängt ihn, während er noch seine eigene Runde läuft. Der langsamste Läufer hält niemanden zurück; jeder bewegt sich in seinem eigenen Tempo weiter und teilt ständig seine beste Arbeit mit, während er läuft.

4. Das Spiel, das sie spielten: "Core War"

Um dies zu testen, verwendeten die Forscher keine realen medizinischen oder geschäftlichen Daten. Sie verwendeten ein Spiel namens Core War.

Was ist das? Stellen Sie sich eine digitale Arena vor, in der Computerprogramme (sogenannte "Krieger") gegeneinander kämpfen. Das Ziel ist es, ein Programm zu schreiben, das überleben und andere besiegen kann.
Der Test: Sie stellten drei Szenarien auf:
1. Solo: Eine KI kämpft allein.
2. Homogenes Team: Vier identische KIs kämpfen zusammen.
3. Diverses Team (DEI): Vier verschiedene KIs kämpfen zusammen.

5. Die Ergebnisse: Vielfalt gewinnt

Die Ergebnisse waren klar. Das "Diverse Team" (DEI) schnitt besser ab als alle anderen.

Die Statistiken: Das diverse Team fand Lösungen, die in der Gesamtqualität 124 % besser waren und 28 % mehr der möglichen Strategien abdeckten als die einzelne KI, die allein arbeitete.
Die Kernaussage: Obwohl das "Homogene Team" (vier identische KIs) über die gleiche Rechenleistung verfügte, schlug es nicht so gut ab wie das "Diverse Team".
Warum? Der Artikel kommt zu dem Schluss, dass Vielfalt das Geheimnis ist. Unterschiedliche "Minds" (unterschiedliche KI-Modelle) zu haben, ist wichtiger als nur mehr "Muskeln" (mehr Rechenleistung) zu haben.

Zusammenfassung

Betrachten Sie diesen Artikel als Beweis dafür, dass ein Team verschiedener Experten besser ist als ein Team von Klons. Indem die Forscher verschiedene KI-Modelle so verbanden, dass sie ihre einzigartigen Ideen teilen konnten, ohne aufeinander zu warten, schufen sie ein System, das viel besser darin ist, kreative, robuste und hochwertige Lösungen zu finden, als die Verwendung nur einer Art von KI, egal wie leistungsfähig diese auch sein mag.

Wichtiger Hinweis: Der Artikel testete dies strikt an einem Computerspiel (Core War). Obwohl die Autoren glauben, dass diese Logik auf andere Bereiche anwendbar ist, behaupten sie nicht, dass sie dies in dieser Studie an realen medizinischen Diagnosen, Finanzmärkten oder anderen spezifischen Anwendungen getestet haben. Die Ergebnisse beziehen sich spezifisch darauf, wie diese KIs diese besondere Art von Puzzle lösen.

Technische Zusammenfassung: DEI – Diversität in der evolutionären Inferenz für Quality-Diversity-Suche

1. Problemstellung

Evolutionäre Algorithmen verlassen sich traditionell auf Mutationsoperatoren, um Lösungsräume zu erkunden. Während Large Language Models (LLMs) als effektive kreative Operatoren für semantische Mutation und Programmgenerierung etabliert sind, behandeln bestehende verteilte Ansätze für LLM-basierte Suche Skalierung oft als rein rechnerisches Problem und nicht als kognitives.

Aktuelle Methoden wie FunSearch setzen typischerweise homogene Ensembles ein, bei denen mehrere Worker dasselbe LLM-Modell aufrufen. In diesen Konfigurationen entsteht Diversität ausschließlich durch stochastisches Sampling innerhalb eines einzigen induktiven Bias. Folglich werden „blinde Flecken" in der generativen Verteilung eines Modells zu permanenten Lücken im Sucharchiv. Darüber hinaus operieren bestehende Frameworks wie die Digital Red Queen (DRQ), die zwar adversariellen Druck erzeugen, häufig im Kontext eines einzelnen Knotens und eines einzelnen Modells. Die Herausforderung, der sich diese Arbeit widmet, besteht darin, wie die unterschiedlichen induktiven Biases heterogener LLMs genutzt werden können, um Quality-Diversity (QD)-Suche effektiver voranzutreiben als homogene Parallelität, während gleichzeitig die systemseitigen Komplexitäten heterogener Latenz ohne Synchronisationsengpässe bewältigt werden.

2. Methodik

2.1. Kernframework: DEI

Die Autoren schlagen DEI (Diversity in Evolutionary Inference) vor, ein verteiltes QD-Suchframework, das heterogene LLMs als Mutationsoperatoren über Peer-Knoten hinweg zuweist. Im Gegensatz zur homogenen parallelen Suche behandelt DEI die einzigartigen Trainingsdaten und Ausrichtungen jedes LLM als komplementäre Quelle für behaviorale Neuheit.

Das System erweitert das Digital Red Queen (DRQ)-Framework, das LLMs in MAP-Elites (einen kanonischen QD-Algorithmus) integriert. In DRQ wird der „Red Queen"-Druck erzeugt, indem Runde-Champions (die Lösungen mit der höchsten Fitness) als Gegner für nachfolgende Runden verwendet werden, wodurch ein ko-evolutionärer Wettrüsten entsteht. DEI passt dies an durch:

Heterogene Zuweisung: Jeder Knoten im verteilten Graphen erhält einen distincten LLM (z. B. GPT-5.4-mini, Claude Sonnet 4.6, etc.).
Adversarieller Druck über Modelle hinweg: Knoten teilen ihre lokalen Champions mit Peers. Diese Champions fungieren als Gegner für andere Knoten und führen Strategien ein, die ein spezifisches Modell intern möglicherweise nie generieren würde.
Samen für Archive: Empfangene Champions werden im lokalen Archiv gesät, wenn sie zuvor leere behaviorale Zellen besetzen, was die Kreuzbestäubung von Nischen erleichtert.

2.2. Systemarchitektur und asynchrone Kommunikation

Ein kritischer systemtechnischer Beitrag ist die Handhabung heterogener Latenz. Knoten können von lokalen Open-Weight-Modellen (z. B. Qwen-35B auf Apple Silicon) bis hin zu Frontier-Cloud-Modellen reichen, was zu Aufruflatenzen führt, die sich um eine Größenordnung unterscheiden.

Um zu vermeiden, dass das gesamte Ensemble auf die Geschwindigkeit des langsamsten Knotens gedrosselt wird, setzt DEI eine vollständig asynchrone kollektive Kommunikationsschicht ein:

Nicht-blockierender Gossip: Knoten veröffentlichen ihre Runde-Champions sofort nach Abschluss an Peers.
Unabhängiger Fortschritt: Peers konsumieren eingehende Champions in ihrem eigenen Tempo.
Keine Synchronisationsbarrieren: Es gibt keine globalen Barrieren; Knoten schreiten unabhängig voran, leeren Empfangspuffer, um ihre lokalen Gegnerpools und Archive zu aktualisieren.

2.3. Experimenteller Aufbau

Das Framework wird an Core War evaluiert, einem Benchmark für kompetitive Programmierung, bei dem „Krieger"-Programme, die in Redcode-Assembly geschrieben sind, in einem simulierten Speicherarray (MARS) gegeneinander antreten.

Behaviorale Merkmale (BC): Der Suchraum wird diskretisiert mittels Time-Space-Produkt (Code-Länge $\times$ Lebensdauer) und Speicherabdeckung (Anteil des Kerns, der berührt wurde).
Fitness: Bewertet gegen einen Pool von Gegnern, einschließlich von Menschen verfasster Krieger und Runde-Champions.
Bedingungen:
- Solo: Single-Node-DRQ-Baseline.
- Homogenes Ensemble: Vier Knoten, die dasselbe LLM ausführen.
- Diverses Ensemble: Vier Knoten, die unterschiedliche LLMs ausführen (GPT-5.4-mini, Claude Sonnet 4.6, GPT-5.2, Claude Haiku 4.5).
Kontrolle: Alle Bedingungen sind strikt auf eine gleiche Gesamtzahl an LLM-Aufrufen budgetiert (z. B. 4 Knoten $\times$ 62 Iterationen $\approx$ 1 Knoten $\times$ 250 Iterationen).

3. Hauptbeiträge

DEI-Framework: Ein verteiltes QD-Suchsystem, das heterogene LLM-Ensembles explizit als Mutationsoperatoren nutzt, indem distincte Modelle distincten Knoten zugewiesen werden, um die behaviorale Abdeckung zu maximieren.
Integration asynchronen Gossip: Ein Kommunikationsprotokoll, das die Teilnahme heterogener Hardware ohne Synchronisationsbarrieren ermöglicht und eine höhere Durchsatzrate als synchrone Ansätze erzielt.
Empirische Isolierung von Diversität: Durch konstantes Halten des gesamten Rechenbudgets demonstrieren die Autoren, dass Leistungsgewinne durch Modelldiversität und nicht durch zusätzliche Berechnung getrieben werden.
Adversarieller Druck über Modelle hinweg: Die Einführung von Champions aus verschiedenen Modellfamilien als Gegner, was Robustheit über intra-modulares Self-Play hinaus fördert.

4. Ergebnisse

Evaluiert im Core-War-Bereich zeigte das heterogene Ensemble signifikante Verbesserungen gegenüber sowohl Single-Node-Baselines als auch homogenen Ensembles:

QD-Score: Das diverse Ensemble erreichte einen +124 % höheren QD-Score des fusionierten Archivs (45,90 vs. 20,46) im Vergleich zur Single-Node-Baseline.
Abdeckung: Das diverse Ensemble deckte +28 % mehr Zellen (80,6 % vs. 63,0 %) des behavioralen Raums ab als die Baseline.
Generalität: Über alle vier getesteten Modellfamilien hinweg erzielte die diverse Zusammenarbeit eine höhere Generalität (Leistung gegen einen zurückgehaltenen Satz menschlicher Krieger) als homogene Zusammenarbeit oder Solo-Betrieb.
Nischen-Neuheit: Die Metrik $\eta$ (Anteil der empfangenen Champions, die in zuvor leere Zellen landen) war in diversen Ensembles signifikant höher, was bestätigt, dass Peers Lücken füllen, die einzelne Modelle nicht erreichen können.
Vergleich mit homogenen Ensembles: Das diverse Ensemble übertraf das gleich budgetierte homogene Ensemble in Bezug auf QD-Score, Abdeckung und Generalität. Bemerkenswert ist, dass das homogene Ensemble zwar manchmal eine höhere Fitness pro Zelle erreichte (Konzentration auf spezifische Nischen), das diverse Ensemble jedoch die breiteste Abdeckung des Lösungsraums bot.

5. Bedeutung und Behauptungen

Die Arbeit behauptet, den ersten empirischen Nachweis zu liefern, dass Modelldiversität und nicht bloße Parallelität der Schlüsseltreiber für Gewinne in der verteilten LLM-basierten QD-Suche ist.

Kognitive Skalierung: Die Autoren argumentieren, dass die Skalierung von LLM-Suche als „parallele Kognition" betrachtet werden sollte. Durch die Zuweisung distincter induktiver Biases zu verschiedenen Knoten deckt das System einen größeren behavioralen Raum ab, als jedes einzelne Modell allein erreichen könnte.
Robustheit: Der adversarielle Druck über Modelle hinweg erzeugt einen robusteren evolutionären Prozess und verhindert die Stagnation, die auftreten kann, wenn die Biases eines einzelnen Modells die Suche dominieren.
Demokratisierung: Die asynchrone Architektur ermöglicht es Forschern mit begrenzten Ressourcen (z. B. beim Betreiben lokaler Open-Weight-Modelle), zur kollaborativen Suche neben Frontier-Modellen beizutragen, ohne durch Latenzunterschiede behindert zu werden.

Die Autoren bewahren Zurückhaltung bezüglich des Umfangs ihrer Erkenntnisse und stellen fest, dass, obwohl theoretische Intuitionen auf Anwendbarkeit in anderen Domänen hindeuten, ihre empirischen Ergebnisse strikt auf den Core-War-Bereich beschränkt sind. Sie identifizieren zukünftige Arbeiten in adaptiven Topologien, heterogenen behavioralen Achsen pro Knoten und der Erweiterung auf Multi-Agenten-Kollaborationsaufgaben.