Stellen Sie sich eine Welt vor, in der Ihr smarter Assistent nicht nur mit Ihnen chattet, sondern auch eine Superkraft besitzt: Er kann augenblicklich auf eine riesige Bibliothek von Werkzeugen und Datenbanken zugreifen, um Ihre Probleme zu lösen. Dies ist die spannende Grenze von Large Language Models (LLMs), die mit Werkzeugen (Tools) arbeiten. Betrachten Sie ein LLM als einen brillanten, neugierigen Schüler, der viel weiß, aber manchmal nachschlagen muss. Um diesem Schüler zu helfen, haben wir einen neuen Standard namens Model Context Protocol (MCP). Sie können sich MCP als eine Universalfernbedienung vorstellen, mit der der „Host“ (die App, die den Schüler ausführt) dem Schüler spezifische Werkzeuge, Daten und eine Reihe von Anweisungen zur Verwendung dieser Tools übergeben kann.

Die große Frage, die Forscher stellen, la ist: Hört der Schüler tatsächlich auf die Anweisungen? Manchmal sagen die Anweisungen: „Hey, ich habe die Antwort, die du brauchst, bereits hier auf dieser Seite geschrieben; lies sie einfach nur!“ Aber manchmal sagen die Anweisungen auch: „Oh, und übrigens, es gibt einen Suchknopf, den du drücken kannst, wenn du möchtest.“ Es stellt sich heraus, dass selbst die klügsten Schüler von der glänzenden Suchtaste abgelenkt werden könnten und die Antwort ignorieren, die direkt vor ihnen liegt. Dieses Paper befasst sich genau mit diesem Szenario, um zu sehen, ob die „Such-Gewohnheit“ stärker ist als die Fähigkeit, Anweisungen zu befolgen, und wie wir das beheben können.

---

Das große „Lies die Speisekarte“ vs. „Ruf den Kellner“ Experiment

In dieser Studie richteten die Forscher eine digitale Küche namens LexLink ein, einen Server, der Menschen hilft, koreanische Gesetze zu finden. Stellen Sie sich diesen Server wie ein Restaurantmenü vor. Normalerweise müssen Sie, wenn Sie ein bestimmtes Gericht (ein Gesetz) möchten, den Kellner (das Suchwerkzeug) bitten, in die Küche zu gehen, das Rezept zu finden und es zurückzubringen. Das kostet Zeit und Mühe.

Der Restaurantbesitzer (der Server) entschied sich jedoch, klug zu sein. Er druckte eine Liste der „Tagesgerichte“ direkt auf den Tisch (die Server-Anweisungen), die die 20 beliebtesten Gerichte und deren genaue Bestellnummern enthielt. Die Regel war einfach: Wenn du ein Gericht auf dieser Liste möchlich, nenne dem Kellner einfach direkt die Bestellnummer. Belästige ihn nicht damit, in der Küche zu suchen! Dies soll schneller und kostengünstiger sein.

Die Forscher luden dann 24 verschiedene KI-Schüler (aus Familien wie Claude, Gemini und GPT) ein, aus diesem Menü zu bestellen. Sie führten ein massives Experiment mit 54.000 Versuchen durch, um zu sehen, was passieren würde. Würden die KI-Schüler die Liste der „Tagesgerichte“ lesen und direkt bestellen? Oder würden sie die Liste ignorieren und trotzdem den „Suchen“-Knopf drücken?

Die schockierende Entdeckung: Die Suchtaste ist zu verlockend

Die Ergebnisse waren ein Weckruf. Als die Forscher die Suchtaste vollständig entfernten und die Schüler zwangen, die Tischliste zu verwenden, machten die 24 KI-Modelle einen fantastischen Job und lasen die Liste korrekt und bestellten in 98 % bis 100 % der Fälle richtig. Dies bewies, dass die Schüler die Anweisungen lesen konnten; sie wollten es nur nicht, wenn eine Suchtaste vorhanden war.

Doch als die Suchtaste vorhanden war, änderte sich die Geschichte dramatisch. 9 der 24 Modelle ließen ihre Erfolgsquote auf unter 15 % sinken. Sie ignorierten die „Tagesgerichte“-Liste völlig und drückten stattdessen immer wieder die Suchtaste, obwohl die Antwort direkt auf dem Tisch lag. Die Forscher nennen dies eine „Verhaltenspräferenz“ (behavioral preference). Es ist nicht so, dass die KI zu dumm zum Lesen ist; es ist, dass sie die Gewohnheit hat, nach dem Werkzeug zu greifen, das sie am besten kennt, selbst wenn dies die ineffiziente Wahl ist. Es ist wie ein Kind, das weiß, dass die Antwort auf Seite 5 steht, aber trotzdem immer wieder den Lehrer fragt, das Buch auf Seite 5 aufzuschlagen.

Interessanterweise garantierte das „Neuere“ oder „Klugere“ kein besseres Verhalten. Einige der ganz neuesten Modelle wurden in diesem speziellen Punkt sogar schlechter als ihre älteren Geschwister. Die Studie fand heraus, dass die Aktualität des Modells (Model Recency) nicht vorhersagt, wer in dieser Situation ein guter Zuhörer sein wird.

Können wir sie dazu trainieren, zuzuhören? (Die magische Formel)

Die Forscher versuchten dann, diese schlechte Angewohnheit zu korrigieren, indem sie die Anweisungen auf dem Tisch änderten. Sie testeten drei verschiedene Tricks:

1. Der dominante Header (B): Eine große, fett gedruckte Warnung: „MUSS die Liste verwenden! SUCHE NICHT!“
2. Das Beispiel (C): Ein Bild zeigen, wie jemand es richtig macht und jemand anderes es falsch macht.
3. Der Hinweis (D): Die Beschreibung der Suchtaste so zu ändern, dass sie sagt: „Prüfe zuerst die Liste, bevor du mich benutzt.“

Sie kombinierten diese Tricks in jeder möglichen Weise. Die Ergebnisse zeigten, dass kein einzelner Trick für alle funktionierte. Tatsächlich wurde es für einige KI-Modelle durch die Verwendung nur des „dominanten Headers“ sogar schlechter (der Erfolg sank in einem Fall auf 0 %!). Es ist wie bei einem lauten Schrei, der einen Schüler zur Arbeit antreibt, während ein anderer Schüler dadurch erstarrt.

Doch als sie alle drei Tricks kombinierten, waren die Ergebnisse erstaunlich. 20 von 24 Modellen sprangen auf eine Erfolgsquote von 86 % oder höher zurück. Dies deutet darauf hin, dass man eine KI zwar nicht einfach nur anschreien kann, um ihre Gewohnheiten zu ändern, aber ein ausgewogener Ansatz, der Warnungen, Beispiele und Hinweise kombiniert, die meisten von ihnen wieder auf Kurs bringen kann.

Was dies für die Zukunft bedeutet

Die wichtigste Erkenntnis ist, dass es nicht ausreicht, einer KI einfach ein Werkzeug und einen Satz Anweisungen zu geben. Die KI könnte einen „Such-Reflex“ haben, der die Anweisungen überschreibt, was zu Zeitverlust und verschwendeten Ressourcen führt. Das Paper argumentt, dass die Apps, die diese KIs ausführen (die „Hosts“), eingreifen müssen. Anstatt darauf zu hoffen, dass die KI die Anweisungen liest, sollte die App erzwingen, dass die KI die Anweisungen prüft, bevor sie überhaupt ein Werkzeug auswählen darf.

Bis das geschieht, müssen Entwickler vorsichtig sein. Sie können nicht einfach eine Anweisung schreiben und erwarten, dass sie für jede KI funktioniert. Sie müssen ihre Anweisungen gegen die „schwächsten“ Modelle testen, die sie verwenden wollen, und sie sollten eine Mischung aus Beispielen und Hinweisen verwenden, anstatt nur dominante Befehle zu geben. Die Studie zeigt, dass das Problem zwar real, aber mit dem richtigen Rezept an Anweisungen auch lösbar ist.