🤖 machine learning

Knowledge Graphs and Reasoning LLMs for Finding Simple Yet Effective Transcriptomic Perturbation Predictors

Diese Arbeit zeigt, dass ein einfacher K-Nächste-Nachbarn-Ansatz, der biologische Wissensgraphen nutzt, eine wettbewerbsfähige Out-of-Distribution-Leistung bei der Vorhersage transkriptomischer Perturbations-Effekte erzielt, was durch den Einsatz von Reinforcement Learning zur Optimierung eines Reasoning-LLMs zur Verfeinerung der Nachbarschaftsauswahl weiter gesteigert werden kann, um mit State-of-the-Art-Methoden gleichzuziehen.

Ursprüngliche Autoren: Jake Fawkes, Liam Hodgson, Jason Hartford

Veröffentlicht 2026-06-09

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Jake Fawkes, Liam Hodgson, Jason Hartford

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das große Ganze: Das Unvorhersehbare vorhersagen

Stellen Sie sich vor, Sie versuchen herauszufinden, was mit einer komplexen Maschine (wie einem Auto oder einem Computer) passiert, wenn man ein bestimmtes Teil entfernt. In der Biologie ist diese „Maschine“ eine lebende Zelle und die „Teile“ sind Gene. Wissenschaftler wollen wissen: Wenn wir Gen A ausschalten, wie verändert sich dann das Verhalten der Zelle?

Diese Experimente in einem echten Labor durchzuführen, ist langsam, teuer und gefährlich. Daher möchten Wissenschaftler, dass Computer die Antwort vorhersagen. Computer hatten jedoch Schwierigkeiten damit, weil Zellen unglaublich komplex sind. Selbst einfache Computermodelle scheitern oft und schneiden manchmal schlechter ab, als wenn man einfach den Durchschnitt der Ergebnisse aller vergangenen Experimente schätzt.

Der Kern der Idee: „Wer sind deine Nachbarn?“

Die Autoren dieser Arbeit schlagen eine überraschend einfache Lösung vor, die auf einer biologischen Wahrheit basiert: Gene, die zusammenarbeiten, reagieren dazu neigen, ähnlich zu reagieren.

Stellen Sie sich ein Gen wie einen Arbeiter in einer riesigen Fabrik vor. Wenn man einen Arbeiter entlässt, ändert sich der Output der Fabrik.

Der alte Weg: Versuchen Sie, eine riesige, komplehe AI zu bauen, die jede einzelne Regel der Fabrik versteht.
Der Weg der Arbeit: Schauen Sie auf den Knowledge Graph (Wissensgraphen). Dies ist wie ein riesiger Organigramm oder eine Karte, die zeigt, wer mit wem in der Fabrik spricht. Wenn man „Arbeiter A“ entlässt, schaut man sich dessen unmittelbare Nachbarn auf dem Diagramm an (die Personen, mit denen er am meisten kommuniziert). Wenn diese Nachbarn normalerweise auf eine bestimmte Weise reagieren, wenn sie entlassen werden, nimmt man an, dass „Arbeiter A“ genauso reagieren wird.

Die Autoren fanden heraus, dass dieser einfache „Schau auf deine Nachbarn“-Ansatz (ein sogenanntes K-Nearest Neighbour-Modell) tatsächlich besser war als die meisten komplexen, hochtechnologischen KI-Modelle bei der Vorhersage dieser Veränderungen.

Das Problem: Die Karte ist unvollständig

Es gab einen Haken. Der „Knowledge Graph“ (das Organigramm) ist nicht perfekt.

Fehlende Verbindungen: Er zeigt nicht jede einzelne Verbindung zwischen den Arbeitern.
Falsche Nachbarn: Manchmal sind die Personen, die als Nachbarn auf dem Diagramm aufgeführt sind, gar nicht die besten, mit denen man für einen bestimmten Job vergleichen sollte.

Es ist wie eine Stadtkarte, auf der einige Straßen fehlen und die einige Sackgassen enthält. Wenn Sie versuchen, nur mit dieser Karte zu navigieren, kommen Sie zwar nah ran, aber Sie werden nicht die beste Route finden.

Die Lösung: Die „Reasoning“-KI (Begründungs-KI)

Um die Karte zu korrigieren, verwendeten die Autoren ein Large Language Model (LLM) – eine Art von KI, die sehr gut darin ist, Sprache und Beziehungen zu verstehen.

Sie haben die KI nicht einfach nur raten lassen; sie haben ihr beigebracht, die Karte mithilfe einer Technik namens Reinforcement Learning (RL) zu korrigieren.

Die Analogie: Stellen Sie sich einen Schüler (die KI) vor, der eine Prüfung ablegt.
- Schritt 1: Der Schüler beginnt mit der Standardkarte (dem Knowledge Graph).
- Schritt 2: Der Schüler wird gefragt: „Kannst du diese Liste von Nachbarn verbessern, um eine bessere Vorhersage zu treffen?“ Er könnte sagen: „Ich werde Gen X hinzufügen und Gen Y entfernen.“
- Schritt 3: Der Lehrer (der Computer) überprüft die Antwort. Wenn die Vorhersage besser wird, erhält der Schüler eine Belohnung (Punkte). Wenn sie schlechter wird, erhält er keine Punkte.
- Schritt 4: Der Schüler probiert es immer wieder, bis er lernt, welche Änderungen Punkte bringen.

Mit der Zeit lernt die KI eine „Reasoning“-Fähigkeit (eine Begründungsfähigkeit): Sie lernt, wie man ein Gen betrachtet, die Standardkarte prüft und dann die Liste der Nachbarn editiert, um die perfekte Gruppe von Genen zum Vergleich zu finden.

Die Ergebnisse: Einfach + Intelligent = Am besten

Die Arbeit ergab zwei Hauptpunkte:

Die einfache Baseline gewinnt: Allein die Verwendung der Standard-„Nachbarschaftsliste“ (oh-ne die KI) war bereits besser als fast alle anderen komplexen KI-Modelle.
Die KI macht es perfekt: Als sie die KI darauf trainierten, diese Liste anzupassen, wurden die Ergebnisse so gut wie die der besten, kompliziertesten Modelle, die derzeit verfügbar sind (speziell ein Modell namens TxPert).

Der „Magie“-Bonus:
Obwohl die KI nur darauf trainiert wurde, Veränderungen in der Genexpression vorherzusagen, verbesserte sie sich auch bei anderen biologischen Fragen (wie der Vorhersage, ob ein Medikament die Aktivität eines Gens verändern würde). Es scheint, als hätte die KI eine allgemeine „Logik“ darüber gelernt, wie Biologie funktioniert, und nicht nur Antworten auswendig gelernt zu haben.

Zusammenfassung

Das Problem: Vorherzusagen, wie eine Zelle auf eine Genveränderung reagiert, ist schwer.
Die einfache Lösung: Vergleiche das Gen mit seinen bekannten biologischen Nachbarn. Das funktioniert überraschend gut.
Das Upgrade: Nutze eine intelligente KI, um diese Nachbarschaftsliste zu editieren, indem schlechte Nachbarn entfernt und gute hinzugefügt werden, basierend auf dem, was die Vorhersage tatsächlich verbessert.
Das Ergebnis: Diese Kombination aus einer einfachen Karte und einem intelligenten Editor schafft ein Werkzeug, das biologische Veränderungen so genau vorhersagt wie die fortschrittlichsten Methoden, aber mit einer viel einfacheren zugrunde liegenden Logik.

Wichtiger Hinweis: Die Arbeit konzentriert sich ausschließlich auf die Verbesserung dieser Computer-Vorhersagen. Sie behauptet nicht, dass diese Methode bereits bereit ist, in Krankenhäusern zur Behandlung von Patienten oder zur Entwicklung neuer Medikamente eingesetzt zu werden; sie ist ein Beweis für ein besseres wissenschaftliches Modell (Proof of Concept).

Technisches Resümee: Wissensgraphen und Reasoning-LLMs zur Identifizierung einfacher, aber effektiver Prädiktoren für transkriptomische Perturbationen

1. Problemstellung

Die Vorhersage der transkriptomischen Auswirkungen ungesehener Gen-Knockout-Perturbationen bleibt eine erhebliche Herausforderung für virtuelle Zellmodelle. Während jüngste Ansätze biologische Wissensgraphen nutzen, um die Extrapolation über Trainings-Perturbationen hinaus zu verbessern, haben komplexe Deep-Learning-Modelle oft Schwierigkeiten, einfache Baselines (z. B. den Mittelwert von Trainingsproben) zu übertreffen. Die Kernschwierigkeit liegt in der Generalisierung auf neue Interventionsverteilungen, $P(x|do(i))$, wobei jede Perturbation eine einzigartige Verteilung induziert, die durch komplexe biologische Prozesse beschränkt ist. Bestehende Methoden, die Graph Neural Networks (GNNs) oder groß angelegtes Pretraining nutzen, haben vielversprechende Ergebnisse gezeigt, aber die spezifischen Mechanismen, durch die biologisches Wissen die Generalisierung auf neuartige Interventionen ermöglicht, bleiben unklar. Darüber hinaus ist die direkte Optimierung der zugrunde liegenden kausalen Struktur aufgrund des exponentiellen Suchraums möglicher Gen-Graphen rechnerisch nicht handhabbar.

2. Methodik

2.1 Theoretische Grundlage: Ein spärliches hierarchisches Modell

Die Autoren postulieren, dass zelluläre Antworten auf Gen-Knockouts einem spärlichen hierarchischen kausalen Graphen folgen. In diesem Modell bilden Gene Proteinkomplexe, welche wiederum Signalwege bilden, was letztlich zu Organellen und Zellreaktionen führt. Ein Knockout unterbricht die Produktion eines initialen Proteins und propagiert den Ausfall durch die Hierarchie nach oben.

Implikation: Perturbationen, die dieselbe niedrigschwellige Komplexität betreffen, sollten ähnliche Expressionsprofile liefern.
Vorhersage: Die durchschnittliche Expression einer Ziel-Perturbation kann durch einen einfachen Nearest-Neighbour-Durchschnitt über die lokale Nachbarschaft definiert durch diesen kausalen Graphen angenähert werden.

2.2 Baseline: Der Graph-Nachbarschafts-Prädiktor

Die Autoren evaluieren zunächst einen „Graph Neighbour“-Prädiktor, der bestehende biologische Wissensgraphen (z. B. StringDB, GO) als Priors nutzt.

Mechanismus: Für ein Zielgen $g$ identifiziert der Prädiktor seine Nachbarn $N(g)$ im Wissensgraphen. Die vorhergesagte Perturbations-Delta ( $\hat{\delta}_g$ ) wird als Mittelwert der Trainings-Deltas dieser Nachbarn berechnet:
$\hat{y}_g = \bar{x}_g + \frac{1}{|N_{Tr}(g)|} \sum_{\tilde{g} \in N_{Tr}(g)} \bar{\delta}_{\tilde{g}}$
wobei $\bar{x}_g$ die passende Kontroll-Expression ist und $N_{Tr}(g)$ die im Trainingssatz vorhandenen Nachbarn darstellt.
Ergebnis: Dieser einfache $K$ -Nearest-Neighbour-Ansatz übertrifft komplexe Deep-Learning-Modelle (z. B. GEARS, scLAMBDA) und nähert sich der Leistung von State-of-the-Art (SOTA)-Modellen wie TxPert an, insbesondere in Out-of-Distribution (OOD)-Szenarien.

2.3 Verfeinerung: Reinforcement Learning mit Reasoning-LLMs

In der Erkenntnis, dass Wissensgraphen unvollständig sind und suboptimalen Kanten enthalten, schlagen die Autoren vor, Large Language Models (LLMs) zur Verfeinerung dieser Nachbarschaften einzusetzen.

Reduktion des Suchraums: Anstatt den unhandlichen Suchraum aller möglichen Graphen ( $O(2^{\#genes^2})$ ) zu durchsuchen, wird die Suche auf Kandidatenkanten beschränkt, die unter den Prior-Annahmen des LLMs plausibel sind.
RL-Formulierung:
- Policy: Ein LLM ( $\pi_\theta$ ) fungiert als Policy, um Aktionen (Hinzufügen $A$ , Entfernen $R$ ) auf eine initiale Menge von Wissensgraph-Nachbarn ( $N_{KG}$ ) anzuwenden.
- Aktionsraum: Die verfeinerte Menge ist $S_{LLM} = (N_{KG} \setminus R) \cup A$ .
- Belohnungsfunktion: Das Modell wird mittels Group Relative Policy Optimization (GRPO) trainiert, um eine Belohnung $R(s, a)$ $R (s, a)$ zu maximieren, die aus Folgendem besteht:
  1. Formatierungs-Belohnung ( $R_{Fmt}$ ): Stellt sicher, dass der Output parsbar ist.
  2. Validitäts-Belohnung ( $R_{Valid}$ ): Ermutigt das Hinzufügen von Genen aus dem Trainingssatz und das Entfernen von Genen, die nicht in der ursprünglichen Nachbarschaft vorhanden waren.
  3. Performance-Belohnung ( $R_\Delta$ ): Incentiviert Verbesserungen im Pearson-Delta-Metrik im Vergleich zum Baseline-Wissensgraph-Prädiktor.
Training: Das LLM wird mit Perturbationsdaten von Replogle et al. (2022) Zelllinien trainiert, wobei ein strikter Train/Test-Split verwendet wird, um die Evaluierung auf ungesehenen Perturbationen zu gewährleisten.

3. Zentrale Beiträge

Demonstration einfacher Baselines: Die Arbeit etabliert, dass ein einfacher K-Nearest-Neighbour-Prädiktor basierend auf biologischen Wissensgraphen ein hochgradig kompetitiver Baseline-Modell für die OOD-Perturbationsvorhersage ist, der die meisten komplexen Deep-Learning-Methoden übertrifft.
LLM als Verfeinerungs-Prior: Die Autoren zeigen, dass LLMs, wenn sie mittels Reinforcement Learning optimiert werden, effektiv Wissensgraph-Nachbarschaften editieren können (das Hinzufügen fehlender Beziehungen und das Beschneiden irrelevanter Kanten), um die Vorhersageleistung zu verbessern.
State-of-the-Art Performance: Das RL-getunte LLM erreicht eine Leistung, die äquivalent zu aktuellen SOTA-Methoden (speziell TxPert) auf Replogle et al. Zelllinien ist, obwohl es von einer einfachen Nearest-Neighbour-Architektur ausgeht.
Downstream-Generalisierung: Die Studie zeigt, dass das RL-Training die Performance des LLMs bei Downstream-Aufgaben (speziell der Differenzialexpressions-Vorhersage auf dem PerturbQA-Benchmark) verbessert, was darauf hindeutet, dass das Modell generalisierbare Reasoning-Muster lernt, anstatt auf die spezifische Vorhersageaufgabe zu überfitten.

4. Ergebnisse

Benchmark-Performance: Auf vier Zelllinien (K562, RPE1, HEPG2, Jurkat) aus Replogle et al. (2022) erreichte das RL-trainierte LLM ($LLM + KG + RL$) Pearson-Delta-Scores vergleichbar mit TxPert (z. B. 0,625 vs. 0,626 auf K562) und übertraf das ungetrainte LLM sowie den rohen Wissensgraph-Baseline signifikant.
OOD-Generalisierung: Die Methode generalisiert auf ungesehene Perturbationen und behält eine hohe Leistung bei, selbst wenn die spezifischen Gen-Knockouts nicht im Trainingssatz vorhanden waren.
Transfer Learning: Wenn das Modell nur auf drei der vier Zelllinien trainiert wurde, verbesserte es dennoch die Leistung auf der herausgelassenen Zelllinie (K562) im Vergleich zum Basismodell, was auf eine zelllinienübergreifende Generalisierung der Reasoning-Policy hindeutet.
Downstream-Aufgabe: Auf dem PerturbQA-Datensatz (Wu et al.) übertraf das post-trainierte Modell das Basis-LLM bei der Vorhersage der Differenzialexpression und der Änderungsrichtung, selbst ohne spezifisches Fine-Tuning für diese Aufgabe.

5. Bedeutung und Behauptungen

Das Paper behauptet, dass biologische Wissensgraphen als effektive Modell-Priors dienen und dass das einfachste Modell, welches diese Priors nutzt (Nearest Neighbour), überraschend robust ist. Die primäre Bedeutung liegt in dem Nachweis, dass Reinforcement Learning LLMs effektiv in generalisierbare Werkzeuge für komplexe biologische Vorhersagen transformieren kann.

Die Autoren argumentieren, dass das RL-Training zwar rechenintensiv und nicht unbedingt die praktischste Methode für den unmittelbaren Einsatz zur Vorhersage ist, aber als Proof of Concept dient:

Es validiert, dass LLMs über bedeutsame prädiktive Signale bezüglich Gen-Beziehungen verfügen, die über das hinausgehen, was explizit in statischen Wissensgraphen kodiert ist.
Es zeigt, dass RL ein LLM dazu bringen kann, als Posterior über Änderungen der Gen-Nachbarschaften zu fungieren, indem es effektiv eine Policy für die Auswahl prädiktiver Gensätze lernt.
Es verdeutlicht, dass Verbesserungen in der Vorhersageleistung auf Downstream-Reasoning-Aufgaben übertragen werden können, was einen Weg zu robusteren „virtuellen Zell“-Modellen ebnet.

Die Autoren bleiben bescheiden und weisen auf Einschränkungen hin, wie die Rechenkosten des RL und die Abhängigkeit von einem Trainingssatz für die spezifische Zelllinie, was echte „Zero-Shot“-Vorhersagen in neuartigen Zelllinien verhindert. Sie behaupten nicht, das Generalisierungsproblem vollständig gelöst zu haben, sondern haben einen gangbaren Weg aufgezeigt, um einfache, interpretierbare Modelle mittels fortgeschrittener Sprachmodell-Reasoning zu verfeinern.