BayesPrompt: human readable prompts that make sense

In der sich schnell entwickelnden Landschaft der künstlichen Intelligenz ist ein merkwürdiges Phänomen aufgetreten, bei dem Computer lernen, eine Sprache zu sprechen, die Menschen nicht verstehen können. Große Sprachmodelle, die leistungsstarken Motoren hinter modernen Chatbots und Schreibassistenten, haben eine bemerkenswerte Fähigkeit namens In-Context-Learning demonstriert. Das bedeutet, dass sie neue Aufgaben lösen können – von der Übersetzung von Sprachen bis hin zur Lösung mathematischer Probleme –, indem sie einfach einige im Textfeld bereitgestellte Beispiele lesen, ohne dass sie neu trainiert oder ihre internen Einstellungen geändert werden müssen. Der Schlüssel zur Entschlüsselung dieser Fähigkeit liegt im Prompt, der spezifischen Menge an Anweisungen oder Beispielen, die in die Maschine eingespeist werden. Lange Zeit gingen Forscher davon aus, dass der beste Weg zu einer perfekten Antwort darin bestand, einen Prompt zu entwerfen, der natürlich und grammatikalisch korrekt klingt, so wie ein Mensch ihn schreiben würde. Eine überraschende Entdeckung war jedoch die Annahme umgestoßen: Die effektivsten Prompts für diese Maschinen sind oft kurze, unsinnige Zeichenfolgen aus Wörtern, die für einen menschlichen Leser wie Kauderwelsch aussehen. Diese „Pseudoprompts“ können weitaen effizienter darin sein, das Modell zur richtigen Antwort zu führen, als jeder Satz, den ein Mensch komponieren könnte, wodurch eine seltsame Lücke zwischen dem, was für die Maschine funktioniert, und dem, was für den Menschen Sinn ergibt, entsteht.

Diese Diskrepanz stellt eine erhebliche Herausforderung für jeden dar, der diese Werkzeuge zuverlässig nutzen möchte. Wenn der beste Weg, mit einem Computer zu sprechen, über einen Code aus zufälligen Token erfolgt, wird es schwierig, dem Computer zu vertrauen, ihn zu debuggen oder zu verstehen, warum er sich auf eine bestimmte Weise verhält. Forscher der International School for Advanced Studies in Italien und des Flatiron Institute in Newstadt haben nun einen neuen Weg vorgeschlagen, um diese Lücke zu schließen. Sie argumentieren, dass der Grund, warum wir diese unverständlichen Prompts erhalten, darin liegt, dass das mathematische Problem, das zur Findung dieser Prompts verwendet wird, unvollständig ist. Indem sie die Suche nach einem Prompt nicht nur als ein Spiel zur Erzielung der höchsten Punktzahl betrachten, sondern als einen Prozess des Schließens mit Wahrscheinlichkeiten, haben sie eine Methode entwickelt, die Prompts produziert, die sowohl hocheffektiv als als auch perfekt lesbar sind. Ihre Arbeit legt nahe, dass das Geheimnis, mit diesen Maschinen zu sprechen, nicht darin besteht, die menschliche Sprache aufzuge-geben, sondern eine andere Art des statistischen Denkens anzuwenden, um die richtigen Worte zu finden.

Die Forscher begannen damit, zu untersuchen, warum bestehende Methoden keine lesbaren Prompts produzieren. Aktuelle Techniken agieren oft wie ein Wanderer, der versucht, den tiefsten Punkt in einem riesigen, nebligen Tal zu finden, indem er nur den Boden direkt unter seinen Füßen betrachtet. Sie suchen nach einer Sequenz von Wörtern, die die Verwirrung (oder „Perplexity“) des Modells über die Antwort minimiert. Während dies gut funktioniert, um eine Lösung zu finden, ignoriert es die Tatsache, dass die menschliche Sprache bestimmten Regeln und Mustern folgt. Ohsne einen Leitfaden, der die Suche im Bereich der natürlichen Sprache hält, driftet der Algorithmus in seltsames Terrain ab und setzt Token zusammen, die die Maschine liebt, die Menschen aber nicht entschlüsseln können. Die Autoren erkannten, dass sie dies korrigieren mussten, indem sie ein „Prior“ – eine statistische Präferenz für Sätze, die wie normales Englisch klingen – in den Suchprozess integrierten. Dies stellt sicher, dass der Algorithmus nicht nur irgendeine Lösung findet, sondern eine, die die Struktur der menschlichen Sprache respektiert.

Um dies zu lösen, formulierten das Team den gesamten Prozess unter Verwendung eines als Bayes-Inferenz bekannten Rahmens um. Anstatt einfach nur nach dem einen besten Prompt zu jagen, behandelten sie die Aufgabe als einen Prozess des Probierens aus einer riesigen Landschaft von Möglichkeiten. Stellen Sie sich vor, Sie versuchen, den besten Weg durch eine komplexe Stadt zu finden; anstatt nur den kürzesten Pfad auf einer Karte zu wählen und zu hoffen, dass er funktioniert, erkunden Sie viele verschiedene Routen und wägen die Wahrscheinlichkeit ab, wie wahrscheinlich jede davon korrekt ist, gegen das Gefühl, wie natürlich der Pfad ist. Die Forscher verwendeten eine ausgeklügelte Sampling-Technik namens Markov-Chain-Monte-Carlo, um den Raum der möglichen Fragen zu erkunden. Diese Methode ermöglicht es dem Computer, kleine, zufällige Änderungen an einem Satz vorzunehmen – ein Wort austauschen, eine Phrase hinzufügen oder einen Token entfernen – und dann zu entscheiden, ob er diese Änderung beibehält, basierend auf zwei Faktoren: wie gut der neue Satz zur richtigen Antwort führt und wie flüssig und natürlich der Satz klingt.

Ein entscheidender Teil ihres Erfolgs war die Art und Weise, wie sie die Suche begannen. Anstatt mit einem zufälligen Durcheinander von Wörtern zu beginnen, was es lange gedauert hätte, einen kohärenten Satz daraus zu machen, verwendeten sie ein „Reverse Language Model“. Dies ist eine spezielle Version des Computerprogramms, das darauf trainiert ist, Sätze rückwärts zu lesen. Indem sie dem Modell die Antwort zuführten und es baten, die Frage rückwärts zu generieren, konnten sie einen hochwertigen Ausgangspunkt schaffen, der bereits grammatikalisch korrekt war. Dieser „Warm Start“ gab dem Sampling-Prozess einen Vorsprung und stellte sicher, dass der Computer bereits mit einem sinnvollen Satz arbeitete, bevor er mit seiner detaillierten Optimierung begann. Die Forscher testeten diesen Ansatz an einem großen Datensatz von Open-Domain-Fragen und -Antworten und verglichen ihre Methode mit den Standardtechniken, die die unsinnigen Pseudoprompts produzieren.

Die Ergebnisse zeigten einen klaren und deutlichen Vorteil für ihre neue Methode. Während die traditionellen Optimierungstechniken Prompts produzierten, die entweder sehr sicher in der Antwort, aber völlig unlesbar waren, oder flüssig, aber ineffektiv, erreichte der neue Sampling-Ansatz ein echtes Gleichgewicht. Die von dem Algorithmus der Forscher generierten Prompts waren fast so effektiv darin, die richtige Antwort zu erhalten, wie die besten möglichen maschinengenerierten Prompts, und dennoch blieben sie für einen Menschen vollkommen verständlich. Als die Forscher die Qualität der Fragen bewerteten, übertraf ihre Methode die anderen konsequent in Bezug auf Grammatik und Plausibilität. Die traditionellen Methoden produzierten oft Zeichenfolgen, die wie eine Mischung aus verschiedenen Sprachen und Formatierungssymbolen aussah, während die neue Methode Sätze produzierte, welche die Struktur und Logik der ursprünglichen menschlichen Fragen bewahrten.

Die Studie hob auch hervor, dass die Wahl der Art und Weise, wie die Suche beginnt, eine signifikante Rolle spielt. Als die Forscher ihre neue „Warm Start“-Technik auf die älteren, Standardmethoden anwandten, verbesserten sich diese zwar in ihrer Flüssigkeit, konnten aber das Gleichgewicht, das der neue Sampling-Ansatz erreichte, nicht erreichen. Die älteren Methoden neigten dazu, entweder die Antwort zu stark zu optimieren und dabei die Lesbarkeit zu opfern, oder sie fanden die Antwort gar nicht erst. Die neue Methode hingegen fand konsistent Prompts, die genau im „Sweet Spot“ zwischen einer guten Frage für einen Menschen und einer perfekten Instruktion für eine Maschine lagen. Dies deutet darauf hin, dass das Problem nicht nur ein Mangel an Rechenleistung oder besseren Algorithmen war, sondern ein grundlegendes Missverständnis darüber, wie man die Suche nach Prompts rahmt.

Indem sie zeigten, dass effektive Prompts nicht unverständlich sein müssen, bietet diese Arbeit einen Weg zu einer transparenteren und vertrauenswürdigeren künstlichen Intelligenz. Sie zeigt, dass die seltsame, fremdartige Sprache der effizientesten Prompts keine notwendige Eigenschaft dieser Modelle ist, sondern eine Nebenwirkung dessen, wie wir sie bisher zum Lernen gebracht haben. Der Ansatz der Forscher beweist, dass es möglich ist, Anweisungen zu entwerfen, die sowohl statistisch optimal für die Maschine als auch perfekt klar für den Menschen sind. Dies öffnet die Tür für eine Zukunft, in der wir mit diesen leistungsstarken Werkzeugen mittels natürlicher Sprache interagieren können, in der Gewissheit, dass die Anweisungen, die wir geben, sowohl von der Maschine verstanden als auch für uns nachvollziehbar sind. Die Arbeit beansprucht nicht, jedes Problem der künstlichen Intelligenz gelöst zu haben, aber sie liefert eine konkrete, getestete Methode, um die Interaktion zwischen Mensch und Maschine kohärenter und zuverlässiger zu gestalten.