🤖 machine learning

FiLMMeD: Feature-wise Linear Modulation for Cross-Problem Multi-Depot Vehicle Routing

Der Artikel stellt FiLMMeD vor, ein neuartiges, einheitliches neuronales Modell, das Feature-wise Linear Modulation, Preference Optimization und Curriculum Learning nutzt, um effektiv 24 verschiedene Varianten des Multi-Depot Vehicle Routing Problems zu lösen und dabei bestehende State-of-the-Art-Baselines zu übertreffen.

Ursprüngliche Autoren: Arthur Corrêa, Paulo Nascimento, Samuel Moniz

Veröffentlicht 2026-05-01

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Arthur Corrêa, Paulo Nascimento, Samuel Moniz

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind der Manager eines riesigen Lieferunternehmens. Sie haben LKWs, Fahrer und Tausende von Kunden. Ihre Aufgabe besteht darin, den effizientesten Weg zu finden, um Pakete von Ihren Lagern zu den Haustüren der Kunden zu bringen. Dies ist das Vehicle Routing Problem (VRP).

Stellen Sie sich nun vor, Ihr Unternehmen wächst. Sie haben nicht nur ein Lager; Sie haben mehrere Depots, die über die Stadt verteilt sind. Dies macht das Puzzle viel schwieriger. Dies ist das Multi-Depot VRP (MDVRP).

Um die Sache noch chaotischer zu machen, wirft das echte Leben jeden Tag Kurvenbälle:

Manchmal möchte ein Kunde, dass ein Paket abgeholt wird (ein Backhaul).
Manchmal hat ein LKW eine strikte Zeitbegrenzung, wie lange er fahren darf (Route Length Limit).
Manchmal akzeptiert ein Kunde Lieferungen nur zwischen 9:00 und 11:00 Uhr (Time Window).
Manchmal darf ein LKW mitten auf seiner Route an einem anderen Lager halten, um nachzuladen (Inter-depot Route).

Traditionell erforderte die Lösung dieser Rätsel die Einstellung eines anderen Experten für jede einzelne Kombination von Regeln. Wenn Sie eine neue Regel hinzufügten, mussten Sie von vorne beginnen.

Dieser Artikel stellt FiLMMeD vor, einen neuen „Super-Löser", der so konzipiert ist, dass er alle diese verschiedenen Regelkombinationen gleichzeitig bewältigen kann, ohne jedes Mal neu trainiert werden zu müssen. Hier ist, wie es funktioniert, unter Verwendung einfacher Analogien:

1. Die „Smart Glasses" (Feature-wise Linear Modulation)

Stellen Sie sich vor, Sie tragen eine Brille mit Smart Glasses. Wenn Sie auf eine Karte schauen, verändern die Brillen Ihre Wahrnehmung der Welt basierend auf den Regeln des Tages.

Wenn die Regel „Time Windows" lautet, heben die Brillen die Uhren auf der Karte hervor und dimmen den Rest.
Wenn die Regel „Backhauls" lautet, heben die Brillen die Abholpunkte hervor und ändern die Farbe der Lieferpunkte.

In dem Artikel wird dies als FiLM (Feature-wise Linear Modulation) bezeichnet. Anstatt für jede Regel ein neues Gehirn zu bauen, verwendet die KI ein einziges Gehirn, zieht aber diese „Smart Glasses" (mathematische Anpassungen) auf, um ihr internes Denken sofort an die spezifischen Einschränkungen des aktuellen Problems anzupassen. Dies ermöglicht es ihr zu verstehen, dass eine „Time Window"-Regel die Bedeutung bestimmter Datenpunkte verändert, während eine „Backhaul"-Regel andere verändert.

2. Das „Trainingslager" (Curriculum Learning)

Wenn Sie versuchen würden, einem Schüler beizubringen, ein komplexes mathematisches Problem zu lösen, indem Sie ihm am ersten Tag alle möglichen Variablen auf einmal zuwerfen, würde er wahrscheinlich scheitern. Sie benötigen einen Lehrplan.

Die Autoren erkannten, dass man bei Multi-Depot-Problemen nicht einfach alle Regeln zufällig mischen kann. Man muss die Schwierigkeit schrittweise aufbauen:

Phase 1: Bringen Sie der KI einfache Probleme bei, bei denen es nur eine zusätzliche Regel gibt (z. B. nur Time Windows).
Phase 2: Sobald sie dies beherrscht, führen Sie Probleme mit zwei Regeln ein.
Phase 3: Lassen Sie sie schließlich die „Boss-Kämpfe" mit vier oder fünf kombinierten Regeln bewältigen.

Diese Curriculum Learning-Strategie wirkt wie ein Trainingslager und stellt sicher, dass die KI die Grundlagen lernt, wie Regeln interagieren, bevor sie von den komplexesten Szenarien überwältigt wird.

3. Das „Feedback des Trainers" (Preference Optimization)

Normalerweise lernt eine KI, indem sie versucht, die Antwort zu erraten und am Ende eine Punktzahl (Reward) erhält. Wenn die Punktzahl niedrig ist, versucht sie es erneut. Dies kann chaotisch und langsam sein, besonders wenn man viele verschiedene Arten von Problemen gleichzeitig bewältigt.

Die Autoren versuchten einen anderen Ansatz namens Preference Optimization (PO). Anstatt zu fragen: „Wie gut ist diese Route?" (und eine Zahl zu vergeben), bitten sie die KI, zwei Routen zu vergleichen: „Ist Route A besser als Route B?"

Denken Sie daran wie an einen Trainer, der zwei Athleten beim Laufen beobachtet. Der Trainer muss nicht die genaue Geschwindigkeit kennen; er muss nur wissen, wer als Erster ins Ziel kam.
Der Artikel behauptet, dass diese Methode stabiler ist und der KI hilft, schneller und besser zu lernen als die traditionelle „punktbasierte" Methode, insbesondere beim Umgang mit vielen verschiedenen Arten von Problemen gleichzeitig.

Was haben sie erreicht?

Das Team testete ihr neues Modell, FiLMMeD, an 24 verschiedenen Versionen des Multi-Depot-Problems (darunter 8 brandneue Typen, die sie erfunden hatten) und 16 Single-Depot-Problemen.

Das Ergebnis: FiLMMeD schlug die bisherigen besten KI-Modelle konsequent. Es fand bessere Routen, schneller, und konnte komplexe Kombinationen von Regeln bewältigen, mit denen andere Modelle Schwierigkeiten hatten.
Der „Zero-Shot"-Sieg: Selbst als sie das Modell an Regelkombinationen testeten, die es niemals zuvor gesehen hatte, performte es immer noch sehr gut. Dies bewies, dass der Ansatz mit den „Smart Glasses" und dem „Trainingslager" ihm half, die Logik des Problems wirklich zu verstehen und nicht nur Antworten auswendig zu lernen.

Zusammenfassung

Der Artikel stellt ein neues KI-System vor, das wie ein universeller Lieferplaner funktioniert. Durch die Verwendung von Smart Glasses, um sich an spezifische Regeln anzupassen, eines schrittweisen Trainingslagers, um Komplexität zu erlernen, und eines vergleichenden Coaching-Stils, um effizient zu lernen, löst es komplexe Logistik-Rätsel besser als jede vorherige Methode, alles ohne ein neues Modell für jedes neue Szenario zu benötigen.

1. Problemdefinition

Das Papier adressiert das Multi-Depot Vehicle Routing Problem (MDVRP), ein komplexes kombinatorisches Optimierungsproblem (CO), das für die moderne Logistik, insbesondere im E-Commerce, von zentraler Bedeutung ist. Im Gegensatz zum klassischen Single-Depot VRP umfasst das MDVRP den Einsatz von Fahrzeugen ab mehreren Depots zur Bedienung von Kunden.

Die spezifische Herausforderung, die bewältigt wird, ist die generalisierende Übertragung auf verschiedene Probleme (cross-problem generalization). Reale Logistikprozesse beinhalten heterogene Einschränkungen, die sich dynamisch ändern (z. B. Zeitfenster, Rückladungen, Routenlängenbeschränkungen, offene Routen und Depot-übergreifende Transfers). Traditionelle neuronale Löser werden typischerweise auf spezifische Problemvarianten trainiert, was sie anfällig macht, wenn sie mit neuen Kombinationen von Einschränkungen konfrontiert werden. Während Multi-Task Learning (MTL) bereits auf Single-Depot VRPs angewendet wurde, hat es weitgehend versagt, die Komplexität von MDVRP-Varianten zu adressieren, und leidet häufig unter:

Gradientenkonflikten: Widersprüchliche Updates beim gleichzeitigen Training auf diversen Einschränkungssätzen.
Schlechter Generalisierung: Unfähigkeit, komplexe Interaktionen zwischen Einschränkungen (z. B. Rückladungen + Zeitfenster) ohne Neutrainieren zu bewältigen.
Statischer Konditionierung: Bestehende Modelle behandeln Einschränkungen als hochrangigen Kontext, statt interne Repräsentationen dynamisch zu modulieren.

2. Methodik: FiLMMeD

Die Autoren schlagen FiLMMeD vor, ein einheitliches neuronales Modell, das entwickelt wurde, um 24 verschiedene MDVRP-Varianten (einschließlich 8 neuartiger Formulierungen mit depot-übergreifenden Routen) und 16 Single-Depot VRP-Varianten zu lösen. Die Architektur basiert auf Transformer-basierten Encoder-Decoder-Frameworks (insbesondere einer Erweiterung von MTPOMO, MVMoE und CaDA).

Kernkomponenten:

Feature-wise Linear Modulation (FiLM):
- Mechanismus: Anstelle einer einfachen Konkatenation von Einschränkungsmerkmalen führt FiLMMeD einen Konditionierungsvektor $z$ (ein Boolescher Vektor, der aktive Einschränkungen angibt) ein, um Knoten-Embeddings dynamisch zu modulieren.
- Implementierung: Das Modell berechnet Skalierungs- ( $\gamma$ ) und Verschiebungsparameter ( $\beta$ ) basierend auf $z$ mittels lernbarer linearer Projektionen. Diese Parameter werden auf Kunden-Embeddings als affine Transformation angewendet: $FiLM(h|\gamma, \beta) = \gamma \cdot h + \beta$ .
- Wirkung: Dies ermöglicht dem Modell, seine internen Repräsentationen spezifisch an die aktiven Einschränkungen einer Instanz anzupassen, wodurch der latente Raum effektiv entwirrt und Gradientenkonflikte zwischen Aufgaben gemildert werden.
Curriculum Learning (CL) Strategie:
- Motivation: Eine uniforme Stichprobenziehung aller Varianten (üblich bei Single-Depot MTL) führt beim MDVRP aufgrund komplexer Einschränkungsinteraktionen zu einer schlechten Konvergenz.
- Strategie: Der Trainings-Lehrplan ist so strukturiert, dass die Komplexität schrittweise erhöht wird:
  - Phase 1 (0-30%): Varianten mit einer einzigen Einschränkung + spezifische Varianten mit zwei Einschränkungen, die als schwierig bekannt sind (z. B. Rückladung + Zeitfenster).
  - Phase 2 (30-60%): Einführung aller Varianten mit zwei Einschränkungen.
  - Phase 3 (60-90%): Einführung von Varianten mit drei Einschränkungen.
  - Phase 4 (90-100%): Vollständiger Satz einschließlich Varianten mit vier Einschränkungen.
- Ziel: Das Modell vom Erlernen isolierter Einschränkungseffekte zur Beherrschung ihrer komplexen Interaktionen zu führen.
Preference Optimization (PO):
- Innovation: Das Papier führt PO als Trainingsparadigma für MTL ein und ersetzt den Standard-Reinforcement-Learning-Verlust (REINFORCE).
- Mechanismus: Anstatt skalare Belohnungen zu optimieren, lernt das Modell aus paarweisen Präferenzen zwischen Trajektorien, die für dieselbe Instanz generiert wurden. Wenn Trajektorie $A$ eine bessere Kostenlage aufweist als $B$ , wird das Modell optimiert, die Wahrscheinlichkeit von $A$ relativ zu $B$ zu erhöhen.
- Vorteil: PO reduziert die Gradientenvarianz und ist skalierungsinvariant (unbeeinflusst vom absoluten Betrag der Kosten), wodurch die Instabilität und Gradienteninterferenz adressiert werden, die in MTL-Umgebungen üblich sind.

3. Hauptbeiträge

Erstes einheitliches MTL-Modell für MDVRP: FiLMMeD ist das erste Modell, das explizit entwickelt wurde, um eine breite Palette von MDVRP-Varianten (insgesamt 24) zu behandeln, einschließlich neuartiger Formulierungen für depot-übergreifende Routen.
FiLM-Mechanismus für Einschränkungs-Konditionierung: Zeigt, dass die dynamische Modulation von Embeddings basierend auf Einschränkungsattributen die Generalisierung erheblich verbessert und den latenten Raum im Vergleich zur statischen Merkmalskonkatenation entwirrt.
Preference Optimization in MTL: Liefert den ersten Nachweis von PO in einem MTL-Setting und zeigt, dass es traditionelles RL in Bezug auf Konvergenzstabilität und Lösungsqualität übertrifft.
Gezieltes Curriculum Learning: Stellt fest, dass MDVRP einen geführten Lehrplan (schrittweise Exposition gegenüber Einschränkungskomplexität) erfordert, anstatt einer uniformen Stichprobenziehung, die für Single-Depot-Probleme ausreicht.

4. Experimentelle Ergebnisse

Die Autoren führten umfangreiche Experimente an 24 MDVRP-Varianten und 16 Single-Depot VRPs durch.

Leistung bei MDVRP:
- FiLMMeD übertraf konsistent state-of-the-art-Baselines (MTPOMO, MVMoE) und traditionelle Heuristiken (PyVRP) in Bezug auf die Lösungsqualität (Gap).
- Bei 50-Knoten-Instanzen reduzierte FiLMMeD-MTPOMO den durchschnittlichen Gap um 2,888% im Vergleich zu seiner Baseline.
- Bei 100-Knoten-Instanzen waren die Verbesserungen noch signifikanter, wobei FiLMMeD-MVMoE seine Baseline um 5,288% übertraf.
- Das Modell erreichte eine überlegene Zero-Shot-Generalisierung auf nicht gesehene Kombinationen von Einschränkungen.
Leistung bei Single-Depot VRP:
- Beim Feinabstimmen auf Single-Depot-Varianten erzielte FiLMMeD (unter Verwendung von PO) konkurrierende oder überlegene Ergebnisse im Vergleich zu Baselines, die auf massiven Datensätzen trainiert wurden (z. B. 100 Mio. Instanzen), obwohl es auf weniger Instanzen trainiert wurde (30 Mio.).
- FiLMMeD-CaDA† (Kombination aus FiLM, PO und ReLD) erzielte die beste Gesamtleistung mit einem durchschnittlichen Gap von 1,46% bei 50-Knoten-Instanzen.
Ablationsstudien:
- FiLM: Das Entfernen von FiLM führte zu einer signifikant schlechteren Leistung bei nicht gesehenen Varianten (z. B. stieg der Gap für MVMoE von 5,297% auf 5,716%).
- Curriculum: Uniforme Stichprobenziehung oder „einheitliche" Trainingsstrategien führten zu einer schlechten Konvergenz beim MDVRP, was die Notwendigkeit der vorgeschlagenen CL-Strategie validiert.
- PO vs. RL: Modelle, die mit PO trainiert wurden, zeigten eine schnellere Konvergenz und niedrigere durchschnittliche Gaps im Vergleich zu denen, die mit REINFORCE trainiert wurden, über alle Architekturen hinweg.
Komplexität: Der FiLM-Mechanismus fügt vernachlässigbare Parameter hinzu (<0,01M, <1% Erhöhung) und einen minimalen Overhead für den GPU-Speicher. Die Trainingszeiten pro Epoche bleiben nahezu identisch mit den Baselines.

5. Bedeutung

Dieses Papier stellt einen bedeutenden Schritt vorwärts in der neuronalen kombinatorischen Optimierung für die Logistik dar:

Praktische Anwendbarkeit: Durch die Lösung von 24 Varianten in einem einzigen einheitlichen Modell adressiert FiLMMeD das „Fragmentierungsproblem" in der Logistik, bei dem Unternehmen derzeit separate Löser für verschiedene Einschränkungssätze benötigen.
Theoretischer Fortschritt: Es hinterfragt die Dominanz von Reinforcement Learning in der CO, indem es zeigt, dass Preference Optimization ein stabileres und effektiveres Trainingsparadigma für Multi-Task Learning bietet.
Architektonische Einsicht: Es beweist, dass dynamische Konditionierung (FiLM) der statischen Kontexteinbettung überlegen ist, um heterogene Einschränkungen zu handhaben, und bietet einen Bauplan für zukünftige Modelle des lernübergreifenden Problemlösens.
Generalisierung: Der Erfolg der Curriculum-Learning-Strategie unterstreicht, dass die Komplexität der Einschränkungsinteraktionen in Multi-Depot-Settings einen strukturierten Lernpfad erfordert, eine Erkenntnis, die auf andere komplexe CO-Probleme anwendbar sein könnte.

Zusammenfassend etabliert FiLMMeD einen neuen State-of-the-Art für einheitliche neuronale Löser im Vehicle Routing und bietet eine skalierbare, flexible und hochgradig generalisierbare Lösung für moderne, dynamische Logistikherausforderungen.