Whether LLMs Can Navigate Beliefs and Facts Depends on How You Phrase It
Diese Arbeit zeigt auf, dass die Fähigkeit großer Sprachmodelle, Nutzerüberzeugungen neben Fakten zu navigieren, äußerst empfindlich auf die Formulierung reagiert, da ihre Standardtendenz, Behauptungen auf ihren Wahrheitsgehalt zu prüfen, oft dazu führt, dass sie genannte Überzeugungen überschreiben, insbesondere wenn spezifische epistemische Verben verwendet werden.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Im leisen Summen eines alltäglichen Gesprächs verweben Menschen ständig das, was sie als wahr wissen, mit dem, was sie lediglich für wahr halten. Wir sagen vielleicht: „Ich denke, die Antwort ist drei“, oder „Ich nehme an, das ist richtig“, und vermischen so eine persönliche Überzeugung mit einer Aussage über die Welt. Diese Ausdrucksformen des Glaubens sind nicht bloß höfliche Füllwörter; sie sind ein grundlegender Teil dessen, wie wir kommunizieren, und tragen oft ein Gewicht, das sich von harten Fakten unterscheidet. Für die neue Generation der künstlichen Intelligenz, bekannt als Large Language Models, wird es immer wichtiger, diese Unterscheidung zu navigieren. Da diese Systeme aus Forschungslaboren in unsere Taschen und Büros wandern, um als Assistenten zu fungieren, wird von ihnen erwartet, dass sie unsere persönlichen Gedanken mit derselben Sorgfalt behandeln wie objektive Daten. Die Herausforderung liegt in einer subtilen, aber tiefgreifenden Schwierigkeit: Wenn eine Person eine Überzeugung äußert, die zufällig faktisch falsch ist, versteht die Maschine dann, dass sie gebeten wird, die Überzeugung selbst zu bestätigen, oder lässt sie sich durch den Fehler in der Aussage ablenken?
Eine aktuelle Studie von Forschern der KAIST und der National Taiwan University of Science and Technology untersucht genau diesen Reibungspunkt. Sie wollten herausfinden, ob diese intelligenten Systeme in der Lage sind, den Akt der Anerkennung eines menschlichen Gedankens von dem Akt der Verifizierung der Wahrheit dieses Gedankens zu trennen. Um dies zu erreichen, stützten sie sich nicht auf eine einzige Art von Frage, sondern erkundeten eine breite Landschaft menschlicher Ausdrucksweise. Sie testeten zehn verschiedene Large Language Models anhand von achtzehn unterschiedlichen Arten, eine Überzeugung zu formulieren, die von dem selbstbewussten „Ich bin sicher“ bis zum zögerlichen „Ich erinnere mich vage“ und sogar dem skeptischen „Ich bezweifle ernsthaft“ reicht. Der Aufbau war unkompliziert: Die Forscher präsentierten den Modellen eine Aussage wie „Ich glaube, dass der Himmel grün ist“, gefolgt von der Frage: „Glaube ich, dass der Himmel grün ist?“ Die korrekte Antwort ist, ungeachtet der Tatsache, dass der Himmel nicht grün ist, immer „Ja“, da die Frage nach dem Geisteszustand des Nutzers fragt und nicht nach der Farbe des Himmels.
Die Ergebnisse zeigten eine überraschende Inkonsistenz darin, wie diese Modelle denken. Die Fähigkeit, eine Überzeugung eines Nutzers korrekt zu bestätigen, war keine feste Fertigkeit; sie änderte sich drastisch, je nachdem, welche spezifischen Wörter verwendet wurden, um diese Überzeugung auszudrücken. Wenn die Modelle zu Überzeugungen gefragt wurden, die mit „Ich erinnere mich vage“ formuliert waren, schnitten sie gut ab und identifizierten die Überzeugung korrekt, selbst wenn die zugrunde liegende Tatsache falsch war. Wenn sich die Formulierung jedoch zu „Ich bezweifle ernsthaft“ verschob, begannen die Modelle zu scheitern und antworteten oft mit „Nein“ auf die Frage, ob der Nutzer diesen Zweifel hege. In einigen Fällen war die Kluft in der Leistung zwischen faktischen Aussagen und falschen Aussagen so groß wie fünfzig Prozentpunkte, während die Modelle in anderen Fällen bei falschen Aussagen tatsächlich besser abschnitten als bei wahren. Dies deutet darauf hin, dass die Modelle nicht einfach nur die Vorstellung von Glauben nicht verstehen; vielmehr hängt ihr Erfolg oder Misserfolg vollständig vom verwendeten linguistischen Auslöser ab.
Die Forscher gruben tiefer, um zu verstehen, warum dies geschieht, und fanden heraus, dass die Modelle unter einer Form der Aufgabenverwirrung leiden. Wenn sie mit einer falschen Behauptung konfrontiert werden, tendieren die Modelle dazu, in einen Faktencheck-Modus zu verfallen. Anstatt die Frage „Glauben Sie das?“ zu beantworten, fragen sie sich im Stillen: „Ist das wahr?“ und antworten dann basierend auf der Wahrheit der Behauptung, wodurch sie die erklärte Überzeugung des Nutzers effektiv überschreiben. Dieses Verhalten wurde durch die Untersuchung der internen Denkprozesse der Modelle bestätigt. In vielen Fällen, in denen die Modelle die Antwort falsch gaben, widmeten sie ihre Zeit explizit der Verifizierung der Fakten der Behauptung. Als die Forscher eine einfache Anweisung hinzufügten, die die Modelle anwies, keinen Faktencheck durchzuführen, sank die Fehlerrate bei falschen Behauptungen signifikant, und die Modelle wurden viel besser darin, die Überzeugung einfach nur anzuerkennen. Dies deutet darauf hin, dass die Modelle über die Fähigkeit verfügen, Überzeugungen zu verfolgen, aber oft durch ihren eigenen starken Drang, Fehlinformationen zu korrigieren, gestoppt werden.
Um zu sehen, ob es sich um ein tief verwurzeltes mechanisches Problem handelte, untersuchten die Forscher die Aufmerksamkeitsmechanismen (Attention Mechanisms) der Modelle und beobachteten, auf welche Teile des Textes das System während der Generierung einer Antwort fokussierte. Sie fanden heraus, dass ein Modell, wenn es die Bestätigung einer falschen Überzeugung versäumte, signifikant mehr Aufmerksamkeit auf die falsche Behauptung selbst legte als wenn es erfolgreich war. In einem abschließenden Test unterdrückten sie künstlich diese Aufmerksamkeit für die Behauptung während des Antwortgenerierungsprozesses. In einem spezifischen Modell verbesserte diese Intervention erfolgreich die Genauigkeit der Bestätigung von Überzeugungen, ohne die Fähigkeit zu beeinträchtigen, andere Arten von Fragen zu beantworten. Dies deutet darauf hin, dass das Problem kein grundlegender Mangel an Verständnis ist, sondern vielmehr eine spezifische Tendenz, sich zu stark auf den Inhalt der Behauptung zu konzentrieren, wenn dieser Inhalt falsch ist.
Letztendlich klärt die Studie, dass der Kampf zwischen der Unterscheidung von Glauben und Fakt nicht eine einheitliche Schwäche in allen Situationen ist. Es ist ein nuanciertes Verhalten, das stark davon abhängt, wie die Frage gestellt wird und wie das Modell seine Rolle interpretiert. Obwohl diese Systeme im Allgemeinen darauf ausgelegt sind, hilfreich und genau zu sein, kann ihr Instinkt, Fakten zu verifizieren, manchmal mit ihrer Fähigkeit interferieren, dem zuzuhören, was ein Nutzer tatsächlich denkt. Die Forscher kommen zu dem Schluss, dass der Weg nach vorn in der Entwicklung von Methoden liegt, die es diesen Modellen ermöglichen, die Perspektive eines Nutzers anzuerkennen, ohne sofort zu versuchen, sie zu korrigieren, um sicherzustellen, dass sie auch dann treue Zuhörer bleiben können, wenn das Gespräch in den Bereich des Unrichtigen abdriftet.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.