🤖 AI

SearchSkill: Teaching LLMs to Use Search Tools with Evolving Skill Banks

Das Papier schlägt SearchSkill vor, ein Framework, das die offene Domänen-Fragebeantwortung von Sprachmodellen verbessert, indem es die Abfrageplanung durch eine sich entwickelnde SkillBank wiederverwendbarer Suchfähigkeiten explizit gestaltet, was die Abrufeffizienz und Antwortgenauigkeit steigert, indem verschwendete Suchbudgets reduziert und atomare, fokussierte Abfragen gefördert werden.

Ursprüngliche Autoren: Jinchao Hu, Meizhi Zhong, Kehai Chen, Min Zhang

Veröffentlicht 2026-05-12

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Jinchao Hu, Meizhi Zhong, Kehai Chen, Min Zhang

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie haben eine sehr kluge Bibliothekarin (die KI), die viele Fakten aus dem Gedächtnis kennt, aber ins Stocken gerät, wenn sie nach aktuellen Nachrichten oder sehr spezifischen, kniffligen Details gefragt wird. Um ihr zu helfen, geben Sie ihr einen Bibliotheksausweis, der es ihr erlaubt, eine Suchmaschine nach Antworten zu fragen.

Das Problem ist nicht, dass die Bibliothekarin den Ausweis nicht benutzen kann; es ist vielmehr, dass sie oft die falschen Fragen stellt. Statt zu fragen: „Wer war 1990 der Bürgermeister von New York?", kopiert sie möglicherweise einfach die ganze verwirrende Frage in die Suchleiste, als würde sie rufen: „Erzähl mir alles über den ersten afroamerikanischen Bürgermeister der größten Stadt in den USA!" Das verschwendet Zeit, verwirrt die Suchmaschine und führt oft zur falschen Antwort.

SEARCHSKILL ist eine neue Trainingsmethode, die der Bibliothekarin einen besseren Weg zur Nutzung des Bibliotheksausweises beibringt. So funktioniert es, mit einfachen Analogien:

1. Das „Fertigkeiten-Menü" (die SkillBank)

Anstatt die Bibliothekarin raten zu lassen, was sie tun soll, bietet SEARCHSKILL ihr ein physisches Menü mit Suchfertigkeiten. Denken Sie daran wie an ein Rezeptbuch eines Kochs oder an das Werkzeugset eines Mechanikers.

Der alte Weg: Die Bibliothekarin sagt einfach: „Suchen Sie!" und hofft auf das Beste.
Der SEARCHSKILL-Weg: Bevor sie sucht, muss die Bibliothekarin eine spezifische Werkzeug aus dem Menü auswählen, wie zum Beispiel:
- Der „Brückenbauer": Wird verwendet, wenn Sie einen versteckten Zwischenschritt finden müssen (z. B. „Wer ist die Mutter von X?" -> Zuerst X finden, dann die Mutter von X finden).
- Der „Vergleicher": Wird verwendet, wenn Sie zwei Dinge nebeneinander prüfen müssen (z. B. „Wer starb zuerst, Person A oder Person B?").
- Der „Faktenprüfer": Wird verwendet, um zu überprüfen, ob sich zwei Beweisstücke widersprechen.

2. Der „Zwei-Schritte-Tanz"

Jedes Mal, wenn die Bibliothekarin eine Antwort finden muss, folgt sie einem strengen Zwei-Schritte-Programm:

Eine Fertigkeit auswählen: Sie schaut sich das Menü an und sagt: „Ich brauche gerade das Werkzeug des Brückenbauers."
Die Aktion ausführen: Basierend auf diesem Werkzeug stellt sie der Suchmaschine eine sehr spezifische, fokussierte Frage.

Dies zwingt die Bibliothekarin zu überlegen: „Welches spezifische fehlende Informationsteil brauche ich gerade?", anstatt das gesamte Problem einfach der Suchmaschine aufzubürden.

3. Die „Übungsschleife" (Weiterentwicklung des Menüs)

Der Artikel beschreibt einen klugen Weg, dieses Menü zu erstellen. Sie haben es nicht einfach einmal geschrieben und dann vergessen. Sie haben die Bibliothekarin durch Tausende von Übungsproblemen geführt.

Der Fehler: Wenn die Bibliothekarin scheiterte (z. B. weil sie die falsche Antwort erhielt, da sie eine schlechte Frage gestellt hatte), analysierte das System, warum sie gescheitert war.
Die Lösung: Wenn die Bibliothekarin bei einer bestimmten Art von Rätsel immer wieder scheiterte (wie dem Verbinden zweier entfernter Fakten), fügte das System eine neue „Fertigkeitskarte" speziell für dieses Problem zum Menü hinzu.
Das Ergebnis: Das Menü wuchs und verbesserte sich im Laufe der Zeit und wurde zu einer Sammlung wiederverwendbarer Strategien, die die Bibliothekarin auf neue, ähnliche Probleme anwenden konnte.

4. Die Ergebnisse

Die Forscher testeten dies an verschiedenen KI-Modellen (sowohl Open-Source- als auch proprietäre Modelle).

Bessere Antworten: Die Modelle erhielten deutlich mehr korrekte Antworten, insbesondere bei kniffligen, mehrstufigen Fragen.
Weniger verschwendete Mühe: Sie stellten weniger, aber bessere Fragen. Anstatt 5 vage Fragen zu stellen, stellten sie 2 oder 3 präzise Fragen.
Kein „Magie" erforderlich: Sie erzielten diese Ergebnisse mit Standard-Trainingsmethoden (Supervised Fine-Tuning) anstatt mit teuren, komplexen Trial-and-Error-Methoden (Reinforcement Learning), die andere Systeme verwenden.

Zusammenfassung

SEARCHSKILL ist wie das Geben einer Checkliste mit Suchstrategien an eine KI, anstatt nur einen Suchbutton. Es zwingt die KI, innezuhalten, die richtige Strategie für das spezifische Problem auszuwählen und dann eine kluge, gezielte Frage zu stellen. Dies macht die KI intelligenter, schneller und viel weniger anfällig dafür, in ihren eigenen Suchergebnissen verloren zu gehen.

Technische Zusammenfassung: SEARCHSKILL

Problemstellung

Large Language Models (LLMs) verfügen über breites parametrisches Wissen, bleiben jedoch fundamental statisch und fehlen oft die für wissensintensive Aufgaben wie offene Domänen- und Multi-Hop-Fragebeantwortung (QA) erforderlichen Fakten aus dem Langschweif oder aktuellen Informationen. Während Retrieval-Augmented Generation (RAG) und Frameworks für Werkzeugnutzung (z. B. ReAct, Toolformer) LLMs die Interaktion mit Suchmaschinen ermöglicht haben, bleibt eine kritische Engstelle bestehen: die Qualität der Suchanfragen.

Bestehende Methoden lehren Modellen oft was sie suchen sollen, aber nicht wie sie hochwertige Suchanfragen formulieren. In Multi-Hop-Szenarien geben Modelle häufig breite, kopierte oder redundante Suchanfragen aus (z. B. das Einfügen der gesamten Frage in die Suchleiste). Dies führt zu verschwendeten Abrufbudgets, verrauschten Beweisen, redundanten Werkzeugaufrufen und einer verschlechterten Genauigkeit beim Schlussfolgern. Darüber hinaus definieren aktuelle „Fähigkeits"-Frameworks für Agenten nicht explizit, wie Fähigkeiten im spezifischen Kontext von Suchverläufen repräsentiert, aufgerufen oder aktualisiert werden sollen, insbesondere hinsichtlich dessen, wie eine Fähigkeit die nächste Suchanfrage, das Verifikationsverhalten und die Entscheidungsfindung zum Abbruch beeinflusst.

Methodik: SEARCHSKILL

Die Autoren schlagen SEARCHSKILL vor, ein Framework, das die Nutzung von Suchwerkzeugen explizit macht, indem es jeden Interaktionsschritt in eine Auswahl der Fähigkeit gefolgt von einer funktionsbasierten Ausführung zerlegt. Die Kerninnovation ist eine sich entwickelnde SkillBank, die als externes, wiederverwendbares Prior für Suchstrategien dient.

1. Die fähigkeitskonditionierte Schnittstelle

Anstatt die Suche als undifferenzierte Aktion zu behandeln, erzwingt SEARCHSKILL ein Token-Level-Protokoll:

Fähigkeitsauswahl: Das Modell gibt ein <skill>...</skill>-Tag aus, um die spezifische wiederverwendbare Strategie zu deklarieren, die es einsetzen wird (z. B. bridge-entity-search, parallel-attribute-compare).
Ausführung: Konditioniert auf die ausgewählte Fähigkeitskarte generiert das Modell entweder eine <search>...</search>-Suchanfrage oder eine <answer>...</answer>-Antwort.
Rückmeldung: Abrufbeweise werden über <information>...</information>-Tags zurückgegeben.

Diese Schnittstelle macht die Wahl der Strategie vor jedem Abruf- oder Antwortakt zu einer expliziten, trainierbaren Kontrollvariable.

2. Sich entwickelnde SkillBank

Die SkillBank ist nicht statisch; sie entwickelt sich durch eine fehlergetriebene äußere Schleife weiter, die mit zunehmender Aufgabenschwierigkeit (von Single-Hop zu komplexen Multi-Hop-Datensätzen wie MuSiQue) abgestimmt ist:

Initialisierung: Beginnt mit einer kompakten Seed-Bank ( $B_0$ ), die allgemeine Abruf- und Grounding-Fähigkeiten enthält.
Verfeinerung: In jeder Phase analysiert das System wiederkehrende Fehlermuster aus Modell-Rollouts. Ein Lehrermodell (GPT-5.4) schlägt neue Fähigkeiten oder Verfeinerungen bestehender Fähigkeiten basierend auf diesen Fehlern vor (z. B. Hinzufügen von bridge-entity-search für Multi-Hop-Schlussfolgerungen).
Rekonstruktion: Nach Annahme eines Bank-Updates werden betroffene Verläufe rekonstruiert, um Konsistenz sicherzustellen.
Taxonomie: Die finale Bank ( $B_4$ ) umfasst Fähigkeiten für direkte Nachschlagevorgänge, Brückenauflösung, Zerlegung von Relationsketten, zeitliche Verankerung, Konfliktprüfung und Antwort-Grounding.

3. Zwei-Stufen-Überwachtes Fine-Tuning (SFT)

Das Trainingsrezept richtet das Modell am Inferenzzeit-Protokoll aus:

Stufe 1 (Ausführung): Das Modell lernt das grundlegende Aktionsformat: Ausgabe eines <skill>-Tags gefolgt von einem <search>- oder <answer>-Tag. Diese Stufe verwendet einen Pool validierter Lehrer-Verläufe, um fähigkeitsgetaggte Anfrageplanung und Grounding-basiertes Abstoppen zu lehren.
Stufe 2 (Routing): Das Modell lernt, Fähigkeiten aus dem SkillBank-Index auszuwählen. Jeder ursprüngliche Aktionsturn wird in einen Fähigkeitsauswahl-Turn, einen Nutzerturn, der den Inhalt der ausgewählten Fähigkeitskarte enthält, und den ursprünglichen Aktionsturn aufgeteilt. Das Modell muss ohne anfragenspezifische Hinweise durch die SkillBank routen und konditioniert seine nächste Aktion auf den Inhalt der ausgewählten Karte.

4. Reinforcement Learning (Auxiliary)

Die Autoren untersuchen zudem eine leichte GRPO-Stufe (Group Relative Policy Optimization) nach dem SFT, um das Suchverhalten weiter zu verfeinern, wobei sie sich speziell auf die Nutzung von Beweisen, das Grounding von Antworten und das Abbruchverhalten konzentrieren, obwohl die primären Gewinne dem SFT-Prozess zugeschrieben werden.

Hauptbeiträge

Fähigkeitskonditionierte Schnittstelle: Ein neuartiges Framework, das die Formulierung von Suchanfragen verbessert, indem es das Modell zwingt, vor jedem Werkzeugaufruf eine wiederverwendbare Suchstrategie auszuwählen, und damit das Versagen beim Ausgeben breiter oder kopierter Multi-Hop-Anfragen adressiert.
Entwickelbare Such-SkillBank: Ein dynamisches Repository, das durch Fehleranalyse, Hinzufüge-/Verfeinerungsoperationen und Verlaufsrekonstruktion aktualisiert wird. Es bietet ein wiederverwendbares Prior für die Werkzeugnutzung, das über den spezifischen QA-Kontext hinausgeht.
Zwei-Stufen-SFT-Rezept: Eine Trainingsmethode, die eine Leistung erzielt, die mit großen RL-basierten Suchagenten (wie Search-R1) vergleichbar ist oder diese übertrifft, dabei aber die hohen Rechenkosten von RL-Rollouts vermeidet.
Generalisierbarkeit: Nachgewiesene Wirksamkeit sowohl bei Open-Source-Modellen (Qwen2.5 3B/7B) als auch bei Closed-Source-Modellen. Die eingefrorene SkillBank kann als externer Planungsleitfaden für proprietäre Modelle ohne Fine-Tuning dienen.

Experimentelle Ergebnisse

Das Framework wurde an sieben Benchmarks evaluiert, die Single-Hop (Natural Questions, TriviaQA, PopQA) und Multi-Hop (HotpotQA, 2WikiMultiHopQA, MuSiQue, Bamboogle) QA abdecken.

Leistung: SEARCHSKILL erzielte die besten makro-gemittelten Exact Match (EM)-Scores sowohl bei Qwen2.5-7B (42,34 %) als auch bei Qwen2.5-3B (36,94 %) und übertraf starke Baselines, einschließlich Search-R1 (RL-basiert) und ZeroSearch.
Suchanfrage-Verhalten: Die Methode reduzierte die Raten für „First Query Copy" (wobei das Modell die vollständige Frage kopiert) erheblich und erhöhte „atomic hop-focused" Suchanfragen. Sie erreichte eine höhere Genauigkeit innerhalb eines kleinen Suchbudgets (z. B. Correct@≤3 Suchen).
Ablationsstudien:
- Das Entfernen der SkillBank (leere Bank) führte zu Leistungseinbußen und bestätigte den Wert des expliziten Fähigkeits-Routings.
- Das Entfernen des Inhalts der Fähigkeitskarten (nur IDs behalten) reduzierte ebenfalls die Leistung, was darauf hindeutet, dass der semantische Inhalt der Fähigkeiten entscheidend ist.
- Der Ersatz der entwickelten Bank durch die Seed-Bank ( $B_0$ ) verschlechterte die Leistung und unterstrich die Bedeutung der iterativen Verfeinerung.
Transfer auf Closed-Source-Modelle: Die Anwendung der eingefrorenen SkillBank als Planungsleitfaden auf proprietäre Modelle (GPT-4o-mini, Gemini 2.5 Flash Lite, Claude Haiku 4.5) ergab konsistente makro-gemittelte Gewinne und bewies die Übertragbarkeit der erlernten Such-Priors.

Bedeutung und Behauptungen

Die Arbeit geht davon aus, dass explizite fähigkeitskonditionierte Anfrageplanung eine leichte und effektive Alternative zur Behandlung der Suche als undifferenzierte Aktion darstellt. Indem SEARCHSKILL die Suchstrategie explizit und trainierbar macht, adressiert es die Ursache von Ineffizienzen beim Abruf: die schlechte Formulierung von Suchanfragen.

Die Autoren behaupten, dass dieser Ansatz:

Strategie von der Ausführung entkoppelt: Die SkillBank fungiert als externes Prior, sodass das Modell lernen kann, wie gesucht wird, ohne diese Muster während des SFT implizit neu entdecken zu müssen.
Die Effizienz verbessert: Es reduziert redundante Suchen und verbessert die Qualität der abgerufenen Beweise, was zu besseren Antworten innerhalb engerer Budgets führt.
Einen skalierbaren Trainingspfad bietet: Das Zwei-Stufen-SFT-Rezept bietet eine kosteneffektive Möglichkeit, Suchagenten zu trainieren, und vermeidet die Instabilität und hohen Rechenkosten, die mit dem Training von Suchverhalten primär durch Reinforcement Learning verbunden sind.

Die Arbeit legt nahe, dass, obwohl RL die Ausführungsgewohnheiten (z. B. Abbruchverhalten) weiter verfeinern kann, die grundlegende Fähigkeit für intelligente Suche am besten durch strukturierte, fähigkeitskonditionierte Überwachung etabliert wird.