ORACLE: Orchestrate NPC Daily Activities using Contrastive Learning with Transformer-CVAE

Das Paper stellt ORACLE vor, ein neues generatives Modell, das Transformer, bedingte Variationsautoencoder und kontrastives Lernen kombiniert, um realistische tägliche Aktivitäten für Nicht-Spieler-Charaktere (NPCs) in digitalen Umgebungen zu synthetisieren und dabei die Einschränkungen bestehender Methoden wie Monotonie und Datenungleichgewicht zu überwinden.

Das Wesentliche

🎮 ORACLE: Der Meister-Dirigent für digitale Alltagshelden

Stell dir vor, du spielst ein Videospiel oder lebst in einer virtuellen Welt. Normalerweise sind die anderen Charaktere (die sogenannten NPCs – Non-Player Characters) wie Schauspieler, die nur eine einzige, immer gleiche Rolle spielen. Sie gehen jeden Tag zur gleichen Zeit zur Arbeit, essen zur gleichen Zeit und schlafen zur gleichen Zeit. Das ist langweilig und wirkt nicht echt.

Die Forscher von der Korea University haben eine neue KI namens ORACLE entwickelt. Man kann sich ORACLE wie einen genialen Regisseur vorstellen, der nicht nur einen starren Drehbuch schreibt, sondern den Charakteren hilft, einen lebendigen, abwechslungsreichen und realistischen Alltag zu gestalten – genau wie bei uns Menschen.

Das Problem: Der „Roboter-Alltag"

Bisherige Methoden waren wie ein Rezeptbuch, das man nur abtippt. Wenn man ein neues Szenario wollte, musste man alles von Hand neu programmieren. Das führte zu zwei Problemen:

1. Langeweile: Die Charaktere taten immer genau das Gleiche (wie ein kaputter Roboter).
2. Unrealismus: Wenn man sie etwas ändern wollte, passte der Rest des Tages nicht mehr zusammen (z. B. essen sie, ohne vorher eingekauft zu haben).

Die Lösung: ORACLEs drei Superkräfte

ORACLE nutzt eine Mischung aus drei cleveren Tricks, um echte menschliche Muster zu lernen und nachzuahmen:

1. Der große Beobachter (Transformer)
Stell dir vor, ORACLE hat ein Super-Gedächtnis, das sich nicht nur an das erinnert, was gerade passiert, sondern auch daran, was vor 10 Stunden geschah.

• Der Vergleich: Ein normales Gedächtnis vergisst schnell. ORACLE ist wie ein erfahrener Detektiv, der weiß: „Wenn jemand um 8 Uhr aufgestanden ist, hat er wahrscheinlich um 12 Uhr Hunger." Es versteht den ganzen Tag als eine große Geschichte, nicht nur als einzelne Momente.

2. Der kreative Zufallsgenerator (CVAE)
Frühere KIs waren wie ein Kopierapparat: Wenn man denselben Input gab, kam immer exakt dasselbe Ergebnis heraus. ORACLE ist wie ein Künstler mit einer Palette.

• Der Vergleich: Wenn du sagst „Mach einen Morgenplan", kann ORACLE verschiedene Versionen malen. Version A: Der Charakter isst Toast und liest die Zeitung. Version B: Er joggt und trinkt Kaffee. Beide sind realistisch, aber unterschiedlich. Das macht die Welt lebendig.

3. Der strenge Prüfer (Contrastive Learning)
Das ist der wichtigste Teil. ORACLE hat einen internen Qualitätskontrolleur.

• Der Vergleich: Stell dir vor, ORACLE schläft nicht nur, sondern wacht auch auf, um zu prüfen: „Hey, das hier sieht komisch aus! Der Charakter hat 14 Stunden lang nur 'Schlafen' gemacht und nie gegessen. Das ist unmöglich!"
• Dieser Prüfer vergleicht die neuen Ideen mit echten menschlichen Mustern. Wenn eine Idee zu seltsam ist (z. B. Duschen vor dem Aufstehen), wird sie verworfen oder korrigiert. So lernt ORACLE, was „plausibel" ist, ohne dass jemand ihm jedes Detail einzeln beibringen muss.

Wie wurde das trainiert? (Der Datensatz)

Die KI wurde nicht mit Fantasie gefüttert, sondern mit echten Daten aus Smart Homes (dem CASAS-Datensatz).

• Die Forscher haben Tausende von Stunden an echten Bewegungsdaten von Menschen analysiert (Schlafen, Kochen, Arbeiten, Toilette gehen).
• Da die Daten oft unvollständig oder unausgewogen waren (z. B. viel „Schlafen", wenig „Sport"), haben sie die Daten wie einen Gärtner zurechtgestutzt: Sie haben ähnliche Aktivitäten zusammengefasst und unrealistische Muster (wie jemanden, der 23 Stunden am Stück schläft) aussortiert.

Was bringt uns das?

ORACLE ist nicht nur für Videospiele gut. Stell dir vor:

• Smart Home: Dein Kühlschrank könnte vorhersagen, wann du Hunger hast, weil er deinen typischen Tagesrhythmus kennt.
• Pflege: Ein System könnte erkennen, wenn ein älterer Mensch seinen Tagesablauf verändert (z. B. vergisst er das Essen), und Alarm schlagen.
• Stadtplanung: Man könnte simulieren, wie sich Menschen in einer neuen Stadt bewegen würden, bevor man sie baut.

Fazit

ORACLE ist wie ein digitaler Dirigent, der dafür sorgt, dass die „Musik" des Alltags in virtuellen Welten nicht nach einem einzigen, langweiligen Takt klingt, sondern wie eine echte, lebendige Symphonie menschlichen Verhaltens. Es lernt nicht nur, was Menschen tun, sondern auch, wie sie es tun – mit allen kleinen Unregelmäßigkeiten und Überraschungen, die uns menschlich machen.

Technische Zusammenfassung

1. Problemstellung

Die Integration von Nicht-Spieler-Charakteren (NPCs) in digitale Umgebungen (z. B. Videospiele, VR) erfordert realistische tägliche Routinen, um die Immersion zu steigern. Herkömmliche Ansätze stoßen jedoch an Grenzen:

• Skriptbasierte Systeme & HTN/BDI-Modelle: Diese führen oft zu monotonen Wiederholungen, erfordern manuelle Anpassungen und bieten wenig Variabilität.
• Lernbasierte Sequenzmodelle (RNN/LSTM): Diese leiden unter dem „Vanishing Gradient"-Problem bei langen Sequenzen (24-Stunden-Routinen), was zu kurzfristigen Planungen führt. Deterministische Modelle neigen zudem zu repetitiven Ausgaben und fehlender kontrollierbarer Variabilität.
• LLM-basierte Ansätze: Zwar mächtig, aber oft zu rechenintensiv, teuer (API-Kosten) und nicht spezifisch auf 24-Stunden-Aktivitätsdaten trainiert, was zu generischen oder inkonsistenten Ergebnissen führt.
• Datensatz-Herausforderungen: Der verwendete CASAS-Smart-Home-Datensatz weist unausgewogene Klassenverteilungen, fehlende Labels und unvollständige 24-Stunden-Zyklen auf.

Das Ziel ist die Entwicklung eines kompakten, domänenspezifischen generativen Modells, das realistische, diverse und kontextkohärente Tagesabläufe für NPCs synthetisiert.

2. Methodik: Das ORACLE-Framework

ORACLE (Orchestrate RNPC Activities using Contrastive Learning with EVAE) kombiniert drei Hauptkomponenten:

A. Datenvorverarbeitung (CASAS-Datensatz)

• Bereinigung: Unlabeled „Other"-Aktivitäten wurden durch vorherige/nachfolgende Aktivitäten ersetzt.
• Klassifikation: 42–46 ursprüngliche Aktivitätsklassen wurden zu 12 semantisch sinnvollen Hauptkategorien (z. B. Schlafen, Arbeiten, Kochen, Hygiene) zusammengefasst.
• Filterung: Basierend auf Kriterien für Dauer und Häufigkeit (abgeleitet aus ChatGPT-Wissen, Expertenmeinung und einer Nutzerumfrage) wurden unrealistische Muster entfernt.
• Tokenisierung: Die Daten wurden in 5-Minuten-Intervalle unterteilt, was zu Sequenzen von 288 Tokens pro Tag führt.

B. Architektur: Transformer-CVAE

Das Kernmodell ist ein bedingter Variational Autoencoder (CVAE) auf Basis der Transformer-Architektur:

• Encoder: Verarbeitet Aktivitäts- und Bedingungstokens (Maskierung) mittels Self-Attention, um latente Repräsentationen zu extrahieren.
• Latenter Raum: Durch Mittelwert-Pooling und lineare Projektionen werden Mittelwert ($\mu$) und Varianz ($\sigma$) berechnet. Ein Reparametrisierungs-Trick ($z = \mu + \sigma \cdot \epsilon$) ermöglicht stochastisches Sampling für Vielfalt.
• Decoder: Ein Transformer-Decoder nutzt Cross-Attention, um die latente Variable $z$ mit den Bedingungstokens (z. B. vorgegebene Aktivitäten) zu kombinieren und die Sequenz autoregressiv zu rekonstruieren.
• Ziel: Maximierung der Likelihood (Rekonstruktionsverlust) unter Berücksichtigung von Maskierungsbedingungen (vollständige Generierung oder Ergänzung teildefinierter Pläne).

C. Kontrastives Lernen (Contrastive Learning)

Dies ist der entscheidende Innovationsschritt zur Verbesserung der Realismusqualität:

• Problem: Standard-Generative Modelle lernen oft nur die Verteilung, ohne „unplausible" Sequenzen (die statistisch ähnlich, aber logisch falsch sind) zu erkennen.
• Lösung: Es werden positive (plausible, den Filterkriterien entsprechende) und negative (unplausible) Samples definiert.
• Loss-Funktion: Der Decoder wird trainiert, um die Distanz zu negativen Samples zu maximieren und zu positiven zu minimieren. Dies dient als schwache Supervision, um das Modell zu zwingen, realistische Muster zu lernen, ohne auf große vortrainierte Modelle angewiesen zu sein.

3. Hauptbeiträge

1. Neues Generatives Modell: ORACLE integriert latente Variablen (für Vielfalt) und kontrastives Lernen (für Realismus) speziell für die Synthese von NPC-Tagesabläufen.
2. Flexibilität: Das Modell unterstützt sowohl die Generierung kompletter Pläne als auch die Ergänzung teildefinierter Pläne (Conditional Generation).
3. Angepasster Kontrast-Learning-Ansatz: Ein Framework, das explizit auf diskrete, langfristige Sequenzen (24h) zugeschnitten ist, um „Hard Negatives" (nahe, aber unrealistische Routinen) zu erkennen.
4. Umfassende Evaluation: Vergleich mit existierenden Modellen (LSTM, Transformer, LLM), Benutzerstudie und Ablationsstudien.

4. Ergebnisse

Die Evaluation erfolgte auf dem Apartment- und Home-Teil des CASAS-Datensatzes:

• Quantitative Metriken:
  • Random Generation: ORACLE übertrifft das LSTM-VAE-Modell (Bowman) signifikant in der Verteilungsnähe (Wasserstein Distance), Realismus (LLM-Score) und Vielfalt (Distinct-n Scores).
  • Conditional Generation: ORACLE zeigt höhere Realismus- und Vielfaltswerte als reine Transformer- oder LSTM-Modelle. Bei sehr hohen Maskierungsraten (>90%) übertrifft es sogar bidirektionale LSTM-Modelle in der SAM-Distanz (Sequence Alignment Method).
  • Memorization-Check: Eine kNN-Analyse zeigte keine exakten Übereinstimmungen mit Trainingsdaten, was beweist, dass das Modell generiert und nicht kopiert.
• Benutzerstudie: 11 Teilnehmer bewerteten die generierten Pläne in Bezug auf Vielfalt, Natürlichkeit, Machbarkeit und Nachhaltigkeit. ORACLE erhielt in allen Kategorien die höchsten Bewertungen im Vergleich zu Baselines und LLMs.
• Ablationsstudie: Der Vergleich mit Varianten ohne kontrastives Lernen (ORACLE-C) oder ohne Transformer (ORACLE-T) zeigte, dass beide Komponenten essenziell für die Leistung sind. Die Visualisierung (t-SNE, Attention Maps) bestätigte, dass kontrastives Lernen die Diskriminierungsfähigkeit im latenten Raum verbessert und die Aufmerksamkeit des Modells diversifiziert.

5. Bedeutung und Ausblick

ORACLE demonstriert, dass eine Kombination aus Transformer-Architektur, CVAE und kontrastivem Lernen effektiv realistische, diverse und kontrollierbare NPC-Aktivitätspläne erzeugen kann, ohne auf ressourcenintensive LLMs angewiesen zu sein.

• Anwendungsgebiete: Verbesserung der Immersion in Spielen/VR, Smart-Home-Automatisierung, Unterstützungssysteme für Senioren, Stadtplanung und Fertigungsprozess-Simulation.
• Limitationen: Das Modell ist auf generalisierte Verhaltensmuster aus Smart-Home-Daten beschränkt und kann keine hochgradig personalisierten oder außerhalb des Hauses stattfindenden Aktivitäten vorhersagen.
• Zukunft: Die Autoren planen die Integration von Reinforcement Learning, um eine breitere Palette menschlicher Entscheidungen in verschiedenen Umgebungen zu simulieren.

Zusammenfassend bietet ORACLE einen effizienten, datengetriebenen Ansatz, um die Lücke zwischen starren Skripten und unkontrollierbaren LLMs bei der NPC-Verhaltensgenerierung zu schließen.