🤖 AI

In-Context Multiple Instance Learning

Dieses Paper schlägt einen In-Context-Learning-Ansatz für Multiple Instance Learning vor, der eine auf diversen synthetischen Daten vortrainierte Perceiver-ähnliche Architektur nutzt, um durch eine starke Leistung bei neuen Aufgaben mit minimalen gelabelten Bags zu erzielen, wobei lediglich ein einziger Vorwärtspass ohne Gradienten-Updates erforderlich ist.

Ursprüngliche Autoren: Alexander Möllers, Marvin Sextro, Julius Hense, Gabriel Dernbach, Klaus-Robert Müller

Veröffentlicht 2026-06-05

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Alexander Möllers, Marvin Sextro, Julius Hense, Gabriel Dernbach, Klaus-Robert Müller

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das große Problem: Der „blind geführte Detektiv“

Stellen Sie sich vor, Sie sind ein Detektiv, der versucht, ein Verbrechen aufzuklären, aber Sie dürfen nur einen Stapel Beweismittelbeutel betrachten. Sie können sehen, was in jedem Beutel ist (ein paar Haare, ein Fingerabdruck, ein Stück Stoff), aber Sie wissen nicht, welcher spezifische Gegenstand der „rauchende Colt“ ist. Sie erhalten lediglich ein Etikett für den gesamten Beutel: „Schuldig“ oder „Unschuldig“.

Dies ist Multiple Instance Learning (MIL). Es wird im echten Leben für Dinge wie Folgendes verwendet:

Pathologie: Ein Arzt betrachtet eine ganze Gewebeprobe (den Beutel) und sagt „Krebs“, aber er zeigt nicht auf die exakte einzelne Zelle, die ihn verursacht hat.
Satellitenbilder: Ein Satellit macht ein Foto eines Waldes (den Beutel) und sagt „Feuer“, aber das Feuer könnte nur ein kleiner Patch Rauch sein.

Der Haken: Normalerweise muss man einen Computer trainieren, um dies zu tun, wofür man tausende beschriftete Beutel benötigt. Aber in der realen Welt haben Ärzte und Wissenschaftler oft nur eine Handvoll Beispiele (vielleicht 20 oder 30). Wenn man versucht, einen Computer mit so wenigen Beispielen zu lehren, passiert entweder Folgendes:

Overfitting (Überanpassung): Er lernt die wenigen Beispiele perfekt auswendig, scheitert aber an neuen (wie ein Schüler, der den Lösungsschlüssel auswendig lernt, aber keine neue Matheaufgabe lösen kann).
Zu starr: Er verwendet eine einfache Regel, die der komplexen Realität nicht gerecht wird.

Die Lösung: „In-Context Multiple Instance Learning“ (ICMIL)

Die Autoren stellen eine neue Methode namens ICMIL vor. Denken Sie daran als das Training eines Detektivs, der nicht an echten Kriminalfällen trainiert wird, sondern zuerst an Millionen von eingebildeten, erfundenen Tatorten.

So funktioniert es, Schritt für Schritt:

1. Das „Trainingsgym“ (Synthetische Daten)

Anstatt auf echte Daten zu warten, haben die Forscher ein „Gym“ gebaut, in dem sie Millionen von gefälschten Beuteln und Labels generiert haben.

Der Clou: Sie haben nicht nur eine Art von gefälschten Daten erstellt. Sie haben zwei verschiedene „Geschmacksrichtungen“ von gefälschten Daten erstellt:
- Geschmack A (Faktorisierung): Geht davon aus, dass das Label des Beutels einfach die Summe seiner Teile ist (z. B. „Wenn auch nur ein rotes Haar im Beutel ist, gilt er als schuldig“).
- Geschmack B (Joint/Gemeinsam): Geht davon aus, dass die Teile auf komplexe Weise zusammenwirken (z. B. „Es ist nur schuldig, wenn es ein rotes Haar UND einen spezifischen Schuhtyp gibt UND diese nah beieinander liegen“).
Warum? Durch das Training auf beiden Arten lernt das Modell, flexibel zu sein. Es lernt, dass die Antwort manchmal einfach ist und manchmal ein komplexes Puzzle.

2. Das „Intelligente Gehirn“ (Die Architektur)

Um diese Beutel zu verarbeiten, bauten sie ein spezielles Gehirn unter Verwendung einer Perceiver-ähnlichen Architektur.

Die Analogie: Stellen Sie sich ein Team von Managern vor.
- Zuerst schaut sich jeder Manager seine eigenen Teammitglieder an (die Instanzen innerhalb eines Beutels) und sucht die wichtigsten heraus.
- Dann tauschen sich die Manager untereinander aus, um Notizen zu vergleichen. „Hey, mein Team hat ein rotes Haar, hat deins auch eins?“
- Dies geschieht in einer Schleife. Sie verfeinern ihr Verständnis immer wieder, indem sie die Instanzen betrachten und sich dann mit anderen Beuteln vergleichen.
Der Vorteil: Dies ermöglicht es dem Modell, intelligent zu entscheiden, welche Details wichtig sind, ohne dass es jedes Mal explizit gesagt werden muss, wonach es suchen soll.

3. Der „Magische Trick“ (Inferenz)

Das ist der beeindruckendste Teil. Sobald das Modell auf den gefälschten Daten trainiert wurde, ist es fertig.

Kein Nachtrainieren: Wenn Sie ihm ein echtes neues Problem geben (z. B. einen neuen Satz Gewebeproben), müssen Sie es nicht neu trainieren, Einstellungen anpassen oder es stundenlang laufen lassen.
One-Shot: Sie übergeben ihm einfach die neuen Beutel und die wenigen beschrifteten Beispiele, die Sie haben (den „Kontext“). Das Modell versteht die Regel sofort und sagt die Antworten in einem einzigen Durchgang voraus.
Analogie: Es ist wie ein Koch, der geübt hat, tausende gefälschte Mahlzeiten zu kochen. Wenn Sie zu ihm kommen, ein paar Zutaten mitbringen und sagen: „Mach mir eine Suppe“, muss er kein Rezept lesen oder üben; er kocht sie sofort perfekt, weil er jede mögliche Variation schon einmal gesehen hat.

Was haben sie herausgefunden?

Die Forscher testeten diesen „trainierten Detektiv“ in 12 verschiedenen realen Herausforderungen (wie der Erkennung von Krebs, der Identifizierung von Tieren auf Fotos oder dem Finden spezifischer Buchstaben).

Das Ergebnis: Das ICMIL-Modell schlug alle Standardmethoden, die ein Nachtrainieren auf die spezifische Aufgabe erfordern.
Das Geheimrezept: Das Modell, das auf einer Mischung aus den gefälschten Daten-Geschmacksrichtungen (sowohl einfach als auch komplex) trainiert wurde, schnitt insgesamt am besten ab. Es war ein „Generalist“, der fast jede Situation bewältigen konnte, während Modelle, die nur auf einer Art von gefälschten Daten trainiert wurden, bei einigen Dingen gut, aber bei anderen schlecht waren.
Geschwindigkeit: Da es nicht für jeden neuen Job neu trainiert werden muss oder komplexe Abgleiche durchführen muss, ist es viel schneller als die traditionellen Methoden.

Zusammenfassung

Das Paper schlägt einen Weg vor, schwierige „Beutel-von-Elementen“-Probleme zu lösen, wenn man nur sehr wenige Beispiele hat. Anstatt zu versuchen, aus einer winzigen Menge echter Daten zu lernen, trainieren sie eine KI auf einer massiven Bibliothek synthetischer, erfundener Daten vor, die jede erdenkliche Art und Weise abdeckt, wie ein Problem gelöst werden könnte.

Wenn ein echtes Problem auftritt, nutzt die KI ihre „Erfahrung“ aus der gefälschten Welt, um die neue Aufgabe sofort zu verstehen und zu lösen, ohne dass sie neu trainiert werden muss. Es ist, als würde man einem Studenten eine Bibliothek mit jeder möglichen Prüfungsfrage der Welt geben, damit er bei der echten Prüfung bereits alle Antworten kennt.

Technisches Resümee: In-Context Multiple Instance Learning (ICMIL)

Problemstellung

Multiple Instance Learning (MIL) adressiert Szenarien, in denen die Überwachung (Supervision) nur auf der Ebene von „Bags“ (Sammlungen von Instanzen) und nicht auf der Ebene einzelner Instanzen verfügbar ist. Während MIL in Bereichen wie der computergestützten Pathologie und Satellitenbildanalyse erfolgreich ist, haben bestehende MIL-Algorithmen Schwierigkeiten im Low-Label-Regime, in dem reale Datensätze oft nur wenige Dutzend gelabelte Bags enthalten.

Aktuelle Ansätze stehen vor einem grundlegenden Trade-off:

Flexible Modelle (z. B. attention-basierte MIL, TransMIL) neigen bei geringer Datenmenge zu Overfitting.
Starre Modelle (z. B. Mean/Max-Pooling) kodieren starke induktive Biases, die möglicherweise nicht mit der spezifischen Aufgabe übereinstimmen.
Pretraining-Methoden erfordern große, aufgabenspezifische Quell-Korpora, die oft nicht verfügbar sind.
Selbstüberwachte Methoden komprimieren Instanzinformationen in feste Repräsentationen, ohne das Wissen über die Downstream-Aufgabe einzubeziehen, wodurch potenziell kritische Merkmale verworfen werden.

Folglich existiert bisher keine Methode, die es ermöglicht, aus einer geringen Anzahl gelabelter Bags zum Zeitpunkt der Inferenz zu lernen, ohne ein großes Pretraining-Korpus oder aufgabenspezifische Gradienten-Updates zu benötigen.

Methodik

Kernkonzept: In-Context Multiple Instance Learning (ICMIS)

Die Autoren schlagen ICMIL vor, ein Framework basierend auf dem Paradigma der Prior-data Fitted Networks (PFN). Anstatt ein Modell darauf zu trainieren, einen spezifischen Datensatz anzupassen, wird ICMIL auf vielfältigen synthetischen, bag-strukturierten Daten vortrainiert, um die posteriore prädiktive Verteilung über Bag-Labels zu approximieren.

Zum Zeitpunkt der Inferenz erhält das Modell einen realen MIL-Datensatz (gelabelte Kontext-Bags und einen ungelabelten Query-Bag) als Input und klassifiziert den Query in einem einzigen Vorwärtspass (Forward Pass), ohne Gradienten-Updates oder Hyperparameter-Tuning. Das Modell lernt effektiv, „wie plausible Bag-Klassifikatoren aussehen“, über simulierte Aufgaben hinweg, was es ihm ermöglicht, die Labeling-Regel für ungesehene Bags zu inferieren.

Architektonisches Design

Um PFNs an hierarchische Set-Inputs (Bags von Instanzen) anzupassen, adressieren die Autoren drei spezifische Herausforderungen mittels einer Perceiver-ähnlichen Architektur:

Rechenskalierbarkeit: Naive Attention über alle Instanzen über alle Bags hinweg skaliert quadratisch ( $O(N^2I^2)$ ). Die vorgeschlagene Architektur verwendet lernbare Bag-Tokens, die iterativ Informationen von ihren Instanzen sammeln und diese mit anderen Bags austauschen. Dies reduziert die Komplexität, indem die Instanz-Aggregation unabhängig pro Bag verarbeitet wird, bevor die Inter-Bag-Attention erfolgt.
Aufgabenspezifische Instanzkompression: Standardmäßige Kompression findet statt, bevor das Modell die Labels sieht. ICMIL nutzt einen iterativen Attention-Mechanismus, bei dem Bag-Tokens abwechselnd entweder auf ihre eigenen Instanzen oder über Bags und Labels hinweg aufmerksam werden. Dies ermöglicht es dem Modell, zu entscheiden, welche Instanz-Merkmale basierend auf den aufgabenspezifischen Informationen im Kontext erhalten bleiben sollen.
Permutationsinvarianz vs. Bag-Identität: Die Architektur nutzt Multi-Head Attention (MHA), die inhärent permutationsinvariant gegenüber Instanz-Inputs ist, während die Bag-Identität durch distinkte Bag-Tokens und Inter-Bag-Attention gewahrt bleibt.

Synthetische Priors

Die Effektivität von ICMIL beruht auf der Übereinstimmung zwischen dem Trainings-Prior und realen Aufgaben. Die Autoren entwerfen zwei Familien von synthetischen Datengeneratoren:

Faktorisierte Priors: Diese folgen der klassischen MIL-Annahme, dass Bag-Labels durch eine permutationsinvariante Funktion von Instanzen bestimmt werden ( $y = g(\phi(\{f(x_i)\}))$ ). Sie generieren Instanzen unabhängig und aggregieren diese über diskrete oder kontinuierliche Zusammenfassungen.
Joint Priors: Diese lassen die Dekompositionsannahme fallen und definieren eine einzige Funktion über den flachgedrückten Bag ( $y = f_S(x_1, ..., x_I)$ ). Dies erlaubt reichere Inter-Instanz-Korrelationen innerhalb eines Bags, die faktorisierte Priors nicht ausdrücken können.

Die Autoren untersuchen, ob strukturelle Ausrichtung (Faktoriert) oder Ausdrucksstärke (Joint) eine bessere Leistung liefert und ob eine Mischung aus Priors einen robusten Generalisten schafft.

Zentrale Beiträge

ICMIL-Framework: Einführung eines In-Context-Learning-Ansatzes für MIL, der neue Aufgaben aus einer Handvoll gelabelter Bags ohne Gradienten-Updates löst.
Perceiver-Style Architektur: Eine neuartige Architektur für hierarchische Set-Inputs, die die Herausforderungen der Skalierbarkeit, der aufgabenabhängigen Kompression und der Permutationsinvarianz löst.
Synthetische Prior-Analyse: Identifizierung, dass Faktorisierte und Joint Priors komplementäre induktive Biases erfassen. Faktorisierte Priors glänzen bei unkorrelierten „Witness“-Aufgaben, während Joint Priors besser bei Aufgaben mit Korrelationen und Interaktionen innerhalb des Bags abschneiden.
Robuster Generalist: Demonstration, dass ein Modell, das auf einer Mischung dieser Priors trainiert wurde, die beste durchschnittliche Performance über Benchmarks hinweg erzielt, da es die Stärken beider Familien erbt.

Experimentelle Ergebnisse

Die Autoren evaluierten ICMIL auf 12 MIL-Benchmarks (einschließlich Musk1/2, HEPMASS, TCGA und RSNA-ICH) in einem Low-Label-Regime (unterstichfelt auf ~100 Bags).

Performance: Das ICML-Modell (trainiert auf einer Mischung aus Priors mit skalierter Kapazität) erreichte die höchste durchschnittliche AUROC (84,17) und den besten durchschnittlichen Rang (4,08) über alle Benchmarks hinweg.
Vergleich zu Baselines: ICMIL übertraf überwachte Baselines (MeanLogReg, SVM-Summ, ABMIL) sowie flache TabPFN-Varianten.
- Überwachte Baselines wie ABMIL zeigten eine hohe Varianz und Instabilität aufgrund der Schwierigkeit des Hyperparameter-Tunings auf kleinen Datensätzen.
- Flache TabPFN-Baselines (die Bags zu Vektoren flachdrückten) schnitten schlechter ab, was darauf hindeutet, dass bag-bewusste Architekturen notwendig sind, um strukturelle Informationen auszunutzen.
Effizienz: Im Gegensatz zu überwachten Methoden, die für jeden Datensatz Cross-Validation und Retraining erfordern, klassifiziert ICMIL alle Query-Bags in einem einzigen Vorwärtspass. Die Wandzeit (Wall-clock time) ist konkurrenzfähig mit einfachen linearen und Kernel-Baselines und vermeidet den Rechenaufwand des pro-Split-Refittings von ABMIL.
Varianz: ICMML demonstrierte eine geringere Varianz über resampelte Trainingssets hinweg im Vergleich zu überwachten Baselines, was auf einen günstigeren Bias-Variance-Trade-off im Low-Sample-Regime hindeutet.

Bedeutung und Behauptungen

Das Paper behauptet, dass ICMIL die Lücke beim Lernen aus spärlich vorhandenen gelabelten Bags schließt, indem es das Problem von der Anpassung eines Aggregators an begrenzte Daten hin zum Design guter Datengeneratoren (Priors) verschiebt, die den relevanten Hypothesenraum abdecken.

Zentrale Behauptungen sind:

Zero-Shot-Adaption: Das Modell generalisiert über Aufgaben und Anwendungsbereiche hinweg, ohne Finetuning oder aufgabenspezifische Trainingsdaten zu benötigen.
Bias-Variance-Trade-off: Durch die Approximation der Bayesianischen Mittelwertbildung über Hypothesen, die konsistent mit dem gelabelten Kontext sind, vermeidet ICMIL die Varianz, die mit dem Fitting eines einzelnen Aggregators auf spärlichen Labels einhergeht.
Komplementäre Priors: Die Studie hebt hervor, dass kein einzelner Prior dominiert; die Kombination aus strukturell ausgerichteten (Faktorierten) und expressiven (Joint) Priors liefert einen robusten Generalisten, der in der Lage ist, diverse MIL-Regime zu handhaben.

Die Autoren räumen Einschränkungen ein, wie etwa das aktuelle Trainings-Curriculum mit kleinen Bag-Größen (bis zu 20 Instanzen) und binärer Klassifikation mit reduzierten Feature-Dimensionen. Sie schlagen vor, dass zukünftige Arbeiten reichere, auf spezifische Domänen ausgerichtete Priors (z. B. räumliche Priors für die Pathologie) und ein Post-Training auf realen Korpora untersuchen könnten, um die Lücke zwischen Synthetik und Realität weiter zu schließen.