🤖 AI

To Call or Not to Call: A Framework to Assess and Optimize LLM Tool Calling

Dieser Beitrag stellt ein prinzipiengeleitetes Framework vor, das auf der Entscheidungstheorie basiert, um LLM-Tool-Aufrufentscheidungen durch die Analyse der Diskrepanz zwischen dem wahrgenommenen und dem tatsächlichen Bedarf und Nutzen der Modelle zu bewerten und zu optimieren, und zeigt abschließend, dass auf versteckten Zuständen trainierte leichte Schätzer die Aufgabenleistung erheblich verbessern können.

Ursprüngliche Autoren: Qinyuan Wu, Soumi Das, Mahsa Amani, Arijit Nag, Seungeon Lee, Krishna P. Gummadi, Abhilasha Ravichander, Muhammad Bilal Zafar

Veröffentlicht 2026-05-04

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Qinyuan Wu, Soumi Das, Mahsa Amani, Arijit Nag, Seungeon Lee, Krishna P. Gummadi, Abhilasha Ravichander, Muhammad Bilal Zafar

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie haben einen sehr klugen, gut gebildeten Assistenten (eine KI), der versucht, Ihre Fragen zu beantworten. Manchmal weiß dieser Assistent die Antwort aus dem Stegreif. In anderen Fällen muss er etwas in einer Bibliothek (dem Internet) nachschlagen, um die Fakten korrekt zu haben.

Die große Frage, die diese Arbeit stellt, lautet: Wie weiß der Assistent, wann er aufhören soll zu denken und anzufangen, Dinge nachzuschlagen?

Die Forscher stellten fest, dass diese KI-Assistenten zwar immer intelligenter werden, aber tatsächlich ziemlich schlecht darin sind zu entscheiden, wann sie ihre „Bibliothekskarte" nutzen sollten. Oft rufen sie die Bibliothek an, wenn sie es nicht brauchen (was Zeit und Geld verschwendet), oder sie rufen sie nicht an, wenn sie dringend Hilfe benötigen.

Hier ist eine Aufschlüsselung ihrer Erkenntnisse und Lösung unter Verwendung einfacher Analogien:

1. Die drei Regeln einer guten Entscheidung

Die Autoren entwickelten einen Rahmen, um zu beurteilen, ob die Entscheidung einer KI, „etwas nachzuschlagen", gut ist. Sie nennen diese drei Faktoren:

Notwendigkeit (Brauche ich Hilfe?): Kann die KI das Problem nur mit ihrem eigenen Gedächtnis lösen? Wenn sie die Antwort bereits kennt, ist ein Bibliotheksaufenthalt unnötig.
Nützlichkeit (Wird es helfen?): Wenn die KI tatsächlich etwas nachschlägt, wird die Antwort dann wirklich besser? Manchmal kann das Nachschlagen einer Tatsache die KI verwirren oder Fehler einführen, wodurch die endgültige Antwort schlechter wird, als wenn sie einfach geraten hätte.
Erschwinglichkeit (Kann ich es mir leisten?): Das Nachschlagen kostet Geld und Zeit. Ein kluger Entscheidungsträger gibt nur Geld aus, wenn der Nutzen die Kosten wert ist.

2. Das Problem: Die KI ist „übermäßig selbstbewusst" oder „unterbewusst"

Die Forscher testeten sechs verschiedene KI-Modelle bei drei Arten von Aufgaben (wie das Beantworten von Quizfragen oder das Schreiben über spezifische Themen). Sie verglichen drei Szenarien:

Keine Bibliothek: Die KI antwortet nur aus dem Gedächtnis.
Immer Bibliothek: Die KI schlägt immer etwas nach, egal was passiert.
Selbstentscheidung: Die KI entscheidet selbst, wann sie etwas nachschlägt.

Die Überraschung: Der Modus „Selbstentscheidung" war oft der schlechteste.
Das interne „Bauchgefühl" der KI darüber, ob sie Hilfe benötigte, war häufig falsch.

Der „Fehlalarm": Manchmal dachte die KI: „Ich weiß das nicht, ich muss suchen!", aber sie wusste die Antwort tatsächlich. Sie verschwendete Ressourcen.
Die „verpasste Gelegenheit": Manchmal dachte die KI: „Ich weiß das!", aber sie lag tatsächlich falsch. Sie weigerte sich zu suchen und gab eine schlechte Antwort.
Die „schlechte Suche": Selbst wenn die KI suchte, verwirrten die Suchergebnisse sie manchmal, wodurch die Antwort schlechter wurde, als wenn sie sich einfach auf ihr Gedächtnis verlassen hätte.

Die Analogie: Stellen Sie sich einen Koch vor, der versucht, eine Mahlzeit zuzubereiten. Manchmal greift der Koch zu einem Kochbuch (dem Werkzeug), obwohl er ein Meisterkoch ist und das Rezept perfekt kennt. Zu anderen Zeiten fehlt dem Koch eine wichtige Zutat, aber er weigert sich, in die Speisekammer zu schauen, was zu einem verbrannten Essen führt. Der „Instinkt" des Kochs, wann er in die Speisekammer schauen soll, ist defekt.

3. Die Lösung: Ein „verstecktes Signal"-Detektor

Die Forscher erkannten, dass, obwohl die gesprochene Entscheidung der KI (das Sagen „Ich muss suchen") unzuverlässig war, die internen Gehirnwellen der KI (ihre verborgenen mathematischen Zustände) tatsächlich die Wahrheit enthielten.

Stellen Sie sich das wie einen Lügendetektortest vor. Die KI könnte sagen: „Ich bin in Ordnung, ich brauche keine Hilfe", aber ihre internen Signale (wie ein rasendes Herz) könnten schreien: „Ich bin verwirrt! Ich brauche Hilfe!"

Die Lösung:
Anstatt die KI entscheiden zu lassen, bauten die Forscher einen winzigen, leichten „Verkehrspolizisten" (ein einfaches Computerprogramm), der die internen Gehirnwellen der KI beobachtet.

Dieser Verkehrspolizist betrachtet die verborgenen Signale der KI, um vorherzusagen: „Braucht diese KI tatsächlich Hilfe?" und „Wird das Nachschlagen die Antwort tatsächlich verbessern?"
Basierend auf diesem „wahrheitsgemäßen" Signal sagt der Verkehrspolizist der KI: „Ja, such es nach" oder „Nein, bleib bei deinem Gedächtnis".

4. Die Ergebnisse

Als sie diesen „Verkehrspolizisten" verwendeten, um die KI zu leiten:

Die KI machte weniger Fehler.
Sie hörte auf, Geld für unnötige Suchen zu verschwenden.
Sie begann genau dann zu suchen, wenn es am hilfreichsten war.
Interessanterweise funktionierte dies sogar besser für kleinere, weniger leistungsfähige KI-Modelle und half ihnen, so gut zu performen wie viel größere.

Zusammenfassung

Die Arbeit kommt zu dem Schluss, dass KI-Modelle derzeit schrecklich darin sind, ihr eigenes Wissen und den Wert externer Werkzeuge einzuschätzen. Sie sind oft inkonsistent und ineffizient. Indem wir jedoch ein einfaches externes System aufbauen, das die „versteckten Gedanken" der KI liest, anstatt auf ihre „gesprochenen Worte" zu hören, können wir diese schlechten Entscheidungen korrigieren, Geld sparen und deutlich bessere Antworten erhalten.

Was die Arbeit NICHT behauptet:

Sie sagt nicht, dass dies für medizinische Diagnosen oder Rechtsberatung funktionieren wird.
Sie behauptet nicht, dass die KI nun „bewusst" oder „selbstbewusst" ist.
Sie schlägt nicht vor, dass die KI dies irgendwann perfekt von selbst lernen wird; die Arbeit schlägt vor, dass wir diese externen „Controller" benötigen, um der KI zu helfen, rationale Entscheidungen zu treffen.

1. Problemstellung

Agente KI-Architekturen ermöglichen es Large Language Models (LLMs), ihre Fähigkeiten durch die Aufrufung externer Tools (z. B. Websuche, Rechner) zu erweitern. Allerdings fehlt aktuellen LLM-Agenten eine prinzipielle Mechanik, um zu bestimmen, wann ein Tool aufgerufen werden soll.

Das Kernproblem: Die Tool-Nutzung ist nicht universell vorteilhaft. Aufrufe können redundant sein (wenn das Modell die Antwort bereits kennt) oder schädlich (wenn das Tool Rauschen oder Latenz einführt).
Die Lücke: Bestehende Evaluierungen konzentrieren sich auf die aggregierte Aufgabenqualität und übersehen dabei die Qualität einzelner Tool-Aufrufentscheidungen. Es gibt keinen Rahmen, um zwischen tatsächlicher Notwendigkeit/Nützlichkeit und der vom Modell wahrgenommenen Notwendigkeit/Nützlichkeit zu unterscheiden.
Die Herausforderung: Speziell bei der Websuche haben Modelle Schwierigkeiten, den „Nutzenzuwachs" eines Tool-Aufrufs vor dessen Durchführung abzuschätzen, was häufig zu suboptimalen Entscheidungen führt, die Kostenbeschränkungen verletzen oder die Leistung nicht verbessern.

2. Methodik: Ein prinzipieller Rahmen

Die Autoren schlagen einen Rahmen vor, der von der Entscheidungstheorie und der Theorie der rationalen Wahl inspiriert ist, um Tool-Aufrufe zu bewerten und zu optimieren. Der Rahmen zerlegt die Entscheidung in drei Dimensionen und analysiert diese durch drei unterschiedliche Perspektiven:

A. Drei Schlüsseldimensionen

Notwendigkeit: Benötigt das Modell externe Hilfe, um Aufgabe $T$ zu lösen? (Kann es sie zufriedenstellend nur mit parametrischem Wissen lösen?)
Nutzen: Wird das Aufrufen der Funktion $F$ die Leistung bei Aufgabe $T$ verbessern? (Bietet das Tool einen positiven Gewinn gegenüber keinem Tool?)
Erschwinglichkeit: Ist der Nutzenzuwachs die Kosten wert (Latenz, API-Gebühren)? (Kann das Modell Instanzen mit hohem Gewinn unter einem Budget priorisieren?)

B. Drei analytische Perspektiven

Normative Perspektive (Das „Orakel"): Definiert das ideale Verhalten.
- Tatsächlicher Bedarf: Bestimmt durch den Vergleich der Modellleistung in einer OHNE TOOL-Umgebung gegen eine Qualitätsschwelle.
- Tatsächlicher Nutzen: Bestimmt durch den Vergleich der IMMER TOOL-Leistung gegen OHNE TOOL.
- Tatsächliche Erschwinglichkeit: Auswahl der Top- $K$ -Instanzen mit dem höchsten marginalen Nutzenzuwachs ( $\Delta = s_{AT} - s_{NT}$ ) unter einem Budget.
Deskriptive Perspektive (Die „Selbstentscheidung"): Beobachtet das tatsächliche Modellverhalten.
- Wahrgenommener Bedarf: Das vom Modell selbst berichtete Bedürfnis (via Prompting) ohne Tool-Zugriff.
- Wahrgenommener Nutzen: Die tatsächliche Entscheidung des Modells, ein Tool aufzurufen, wenn die Option gegeben ist.
Präskriptive Perspektive (Der „Controller"): Schlägt einen Mechanismus vor, um die Lücke zwischen deskriptivem Verhalten und normativen Idealen unter Verwendung latenter Repräsentationen zu schließen.

C. Das Controller-Framework (Latente Schätzer)

Um die Fehlausrichtung zwischen wahrgenommenen und tatsächlichen Signalen zu adressieren, schlagen die Autoren vor, leichte Multi-Layer Perceptron (MLP)-Klassifikatoren auf den versteckten Zuständen des LLM (speziell der Darstellung des letzten Tokens) zu trainieren, anstatt sich auf natürliche Sprachausgaben zu verlassen.

Latenter Bedarfsschätzer (LNE): Vorhersage des tatsächlichen Bedarfs ( $N^\star$ ) unter Verwendung versteckter Zustände aus der OHNE TOOL-Einstellung.
Latenter Nutzenschätzer (LUE): Vorhersage des tatsächlichen Nutzens ( $U^\star$ ) unter Verwendung versteckter Zustände aus OHNE TOOL- oder IMMER TOOL-Einstellungen.
Mechanismus: Diese Schätzer fungieren als externe Controller, ordnen Instanzen nach vorhergesagtem Nutzen/Bedarf an und weisen ein festes Budget an die Top- $K$ -Instanzen zu, wodurch der fehlerhafte Selbstentscheidungsprozess des Modells umgangen wird.

3. Experimentelles Setup

Modelle: Sechs Open-Source-LLMs mit 3B bis 120B Parametern (einschließlich GPT-OSS, Qwen3, Gemma3, Mistral, Llama3.2), die sowohl instruierte als auch reasoning-Varianten abdecken.
Aufgaben:
1. Entity Task: Generierung beschreibender Absätze über Entitäten (Evaluierung der Langform-Faktualität).
2. InVivoQuery Task: Beantwortung faktischer Fragen, die von realen Benutzeranfragen abgeleitet sind.
3. BFCL Task: Berkeley Function Calling Leaderboard (atomare Teilfragen).
Tools: Websuche über Google (SerpAPI), Perplexity, Brave und Tavily.
Metriken: Faktualitäts-Scores (verifiziert via LLM-as-a-judge und menschlicher Annotation), Anzahl der Tool-Aufrufe und Nutzenzuwachs unter variierenden Budgetbeschränkungen.

4. Wichtige Ergebnisse und Erkenntnisse

A. Fehlausrichtung von Wahrnehmung vs. Realität

Suboptimale Selbstentscheidungen: Modelle scheitern konsistent daran, ihre Tool-Aufrufentscheidungen mit dem tatsächlichen Nutzen in Einklang zu bringen.
- Über-Aufruf: Modelle rufen häufig Tools für Aufgaben auf, die sie intern lösen können (negativer Nutzen).
- Unter-Aufruf: Modelle rufen keine Tools auf, wenn ihnen tatsächlich Wissen fehlt (verpasster positiver Nutzen).
Selbstkonsistenz vs. Wahrheit: Während der wahrgenommene Bedarf und der wahrgenommene Nutzen eines Modells oft korrelieren (das Modell ist intern konsistent), stehen diese Wahrnehmungen im Widerspruch zur Grundwahrheit. Der „Glaube" des Modells an sein eigenes Wissen ist unzuverlässig.
Kostensensitivität: Modelle haben Schwierigkeiten, Budgetbeschränkungen einzuhalten. Selbst wenn ihnen explizit die Kosten pro Aufruf und das verbleibende Budget mitgeteilt werden, überschreiten Modelle häufig die Grenzen oder priorisieren Aufträge mit hohem Nutzen nicht effektiv (niedrige NDCG-Scores in budgetbeschränkten Szenarien).

B. Leistung latenter Schätzer

Überlegene Vorhersage: Der Latente Bedarfsschätzer (LNE) und der Latente Nutzenschätzer (LUE) übertreffen die expliziten Selbstentscheidungen der Modelle bei der Vorhersage von tatsächlichem Bedarf und Nutzen signifikant.
Verbesserte Aufgabenleistung: Die Nutzung der Schätzer zur Steuerung von Tool-Aufrufen (das „Optimierte" Setup) führt zu:
- Höheren Faktualitäts-Scores im Vergleich zur „Selbstentscheidung".
- Weniger unnötigen Tool-Aufrufen.
- Besserer Leistung unter strengen Budgetbeschränkungen, oft vergleichbar mit oder besser als die Leistung deutlich größerer Modelle.
Gewinne bei kleinen Modellen: Die Verbesserung ist bei kleineren Modellen (z. B. Llama3.2-3B) am ausgeprägtesten, die am meisten von der externen Führung latenter Signale profitieren.

C. Die „Orakel"-Lücke

Selbst mit den Schätzern erreicht die Leistung nicht vollständig das „Orakel"- (Optimale) Niveau. Die Autoren stellen fest, dass perfektes Tool-Calling die Modellierung des Verhaltens des Tools selbst erfordert, was aufgrund der stochastischen Natur von Websuchergebnissen inhärent schwierig ist.

5. Bedeutung und Beiträge

Theoretischer Rahmen: Einführung des ersten prinzipiellen Rahmens zur Evaluierung von Tool-Aufrufen basierend auf Notwendigkeit, Nutzen und Erschwinglichkeit, der über einfache aggregierte Genauigkeitsmetriken hinausgeht.
Empirische Einsicht: Demonstration, dass zeitgenössische LLMs unzuverlässige Richter über ihr eigenes Wissen und den Wert externer Tools sind, was zu systematischen Ineffizienzen führt.
Praktische Lösung: Vorschlag eines nicht-invasiven, leichten Steuerungsmechanismus (Latente Schätzer), der die Entscheidungsfindung von Agenten verbessert, ohne das Basis-LLM nachzutrainieren. Dies legt nahe, dass effektives agentisches Verhalten explizite externe Controller erfordert, anstatt sich ausschließlich auf das native Reasoning des Modells zu verlassen.
Kostenbewusstsein: Hervorhebung der kritischen Lücke in aktuellen Modellen bezüglich Kosten-Nutzen-Analyse, die zeigt, dass Modelle selbst bei expliziten Budget-Prompts versagen, die Tool-Nutzung zu optimieren, was externe Intervention notwendig macht.

Fazit

Das Paper argumentiert, dass die Entscheidung „Anrufen oder nicht anrufen" eine fundamentale Engstelle in der agentischen KI darstellt. Aktuelle Modelle verlassen sich auf fehlerhafte Selbstwahrnehmungen, die zu redundanten oder schädlichen Tool-Nutzungen führen. Durch die Nutzung latenter Repräsentationen zur Schätzung von tatsächlichem Bedarf und Nutzen können Forscher Controller entwickeln, die die Aufgabenleistung und Kosteneffizienz erheblich verbessern und den Weg für rationalere und zuverlässigere KI-Agenten ebnen.