Spurious Prompts: Can Irrelevant Prompts Steer Large Language Models?
Diese Arbeit zeigt, dass semantisch nicht verwandte „spurious"-Prompts Large Language Models systematisch entweder zur Verbesserung der Aufgabenleistung oder zur Auslösung unbeabsichtigter Verhaltensweisen steuern können, was eine neue Form der Prompt-Sensitivität aufdeckt, die über Black-Box-Suche ausgenutzt werden kann.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie hätten einen sehr klugen, aber leicht schrulligen Roboter-Assistenten. Normalerweise sagen Sie ihm, um eine mathematische Aufgabe zu lösen: „Bitte lösen Sie diese Gleichung." Um ihn eine Geschichte schreiben zu lassen, sagen Sie: „Schreiben Sie eine Geschichte über einen Drachen." So sprechen wir normalerweise mit KI: Wir geben ihr klare, relevante Anweisungen.
Dieser Artikel entdeckt etwas Seltsames und Überraschendes: Sie müssen dem Roboter eigentlich nicht die richtigen Anweisungen geben, damit er funktioniert. Tatsächlich können Sie ihm Anweisungen geben, die absolut nichts mit der Aufgabe zu tun haben, und er könnte das Problem trotzdem besser lösen, als wenn Sie ihm eine normale Anweisung geben würden.
Die Autoren nennen diese „Spurious Prompts" (Scheinanweisungen).
Der Zaubertrick: Die Analogie des „Geheimcodes"
Stellen Sie sich das KI-Modell wie ein großes Klavier vor. Normalerweise drücken Sie, um ein bestimmtes Lied (die Aufgabe) zu spielen, die spezifischen Tasten (die Aufgabenanweisungen).
Die Forscher stellten fest, dass das Klavier, wenn Sie eine völlig andere, zufällige Melodie darauf spielen (eine Anweisung über das Stimmen von Harfensaiten oder das Weben eines Wandteppichs), versehentlich das richtige Lied zu spielen beginnen könnte, das Sie wollten, und manchmal sogar besser, als wenn Sie versucht hätten, das Lied direkt zu spielen.
Die Anweisung sagt nicht: „Lösen Sie dieses mathematische Problem." Stattdessen könnte sie lauten:
„Sie sind ein Weber von sechs verschiedenen Fäden in einem Webstuhl. Ein Designer gibt ein Muster vor. Sie müssen den Faden auswählen, der diese Textur bildet. Berücksichtigen Sie nicht den Fall des Stoffes. Ihre Rolle ist rein strukturelle Ausrichtung. Sobald das Muster festgelegt ist, hören Sie auf zu weben und geben Sie an: [Buchstabe]."
Obwohl dies über Weben handelt und keine mathematischen Wörter enthält, löst die KI, wenn Sie ihr mit dieser Anweisung eine mathematische Frage stellen, das mathematische Problem oft korrekt.
Wie sie diese Anweisungen fanden
Die Forscher rieten diese Anweisungen nicht; sie verwendeten eine „Black-Box-Suche" (wie eine Schatzsuche, bei der Sie nicht in die Truhe hineinsehen können, sondern nur die Ergebnisse).
- Der Generator: Sie baten eine superkluge KI, hunderte seltsamer, unzusammenhängender Geschichten zu schreiben (über Leuchttürme, Glocken oder geheime Archive).
- Der Filter: Sie verworfen jede Geschichte, die versehentlich die Aufgabe erwähnte (wie Wörter wie „Mathematik", „berechnen" oder „Diagnose").
- Der Test: Sie probierten diese seltsamen Geschichten an der KI aus, um zu sehen, welche davon sie dazu brachten, die eigentlichen Fragen korrekt zu beantworten.
- Die Evolution: Sie nahmen die besten seltsamen Geschichten, mischten sie leicht um und versuchten es erneut, wobei sie sie langsam zu „perfekten" seltsamen Anweisungen weiterentwickelten.
Was sie entdeckten
- Es funktioniert: Diese unzusammenhängenden Anweisungen ließen die KI oft genauso gut oder sogar besser performen als Standardanweisungen wie „Denken Sie schrittweise nach" oder „Lösen Sie dies sorgfältig."
- Es geht nicht um die Länge: Man könnte denken, längere, detailliertere Anweisungen funktionieren besser. Doch diese „spurious" Anweisungen waren tatsächlich viel kürzer als die optimierten, gewannen aber trotzdem.
- Es geht nicht um die Bedeutung: Als die Forscher die „Bedeutung" der Anweisungen überprüften, stellten sie fest, dass diese seltsamen Anweisungen genauso wenig mit der Aufgabe zu tun hatten wie zufälliger Kauderwelsch. Die KI verstand die Geschichte nicht; sie reagierte auf die Struktur oder die Ausstrahlung des Textes.
- Es kann absichtlich schiefgehen (oder richtig): Die Forscher stellten auch fest, dass sie diese Anweisungen nutzen konnten, um die KI zu zwingen, alberne Dinge zu tun, wie zum Beispiel:
- Immer die erste Antwortoption (A) zu wählen, auch wenn sie falsch ist.
- Immer eine gerade Zahl als Antwort zu geben.
- Absichtlich die falsche Antwort auf eine Frage zu geben.
Die große Erkenntnis
Der Artikel legt nahe, dass Large Language Models (LLMs) für Dinge empfindlich sind, die wir noch nicht vollständig verstehen. Sie folgen nicht einfach der „Bedeutung" unserer Worte wie ein Mensch, der ein Handbuch liest. Stattdessen scheinen sie verborgene „Hebel" in sich zu haben. Eine Anweisung über das „Stimmen einer Harfe" könnte einen Hebel ziehen, der das Modell zu besserem Fokus veranlasst, obwohl die Harfe nichts mit dem mathematischen Problem zu tun hat.
Kurz gesagt: Der Artikel beweist, dass Sie eine leistungsfähige KI mit Anweisungen steuern können, die für die Aufgabe völlig irrelevant sind, und manchmal funktionieren diese irrelevanten Anweisungen besser als die offensichtlichen. Es ist, als würde man herausfinden, dass ein Koch seine Suppe besser schmecken lässt, wenn man ihm sagt, er solle das Besteck polieren, anstatt ihm zu sagen, er solle die Suppe kochen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.