Improved Confidence Estimates for Black-Box Large Language Models
Dieses Paper schlägt eine Methode mit geringem Overhead vor, welche die Unsicherheitsquantifizierung für Black-Box-Large-Language-Models verbessert, indem einfache Klassifikatoren trainiert werden, um die Korrektheit von Antworten unter Verwendung bestehender Konfidenzwerte und der Korrektheit ähnlicher Abfragen aus einem Zieldatensatz vorherzusagen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Große Sprachmodelle sind zu leistungsstarken Werkzeugen für das Schreiben, Programmieren und Beantworten von Fragen geworden, doch sie bergen ein verborgenes Risiko: Sie erfinden manchmal Fakten mit absoluter Gewissheit. Dieses Phänomen, das oft als Halluzination bezeichnet wird, stellt eine erhebliche Barriere für den Einsatz dieser Systeme in hochsensiblen Bereichen wie dem Gesundheitswesen oder der wissenschaftlichen Forschung dar, wo eine falsche Antwort schwerwiegende Folgen haben kann. Um dies zu lösen, versuchen Forscher seit langem, Systeme zu entwickeln, die uns sagen können, wie sehr wir einer bestimmten Antwort vertrauen können. Das Ziel besteht darin, jeder Antwort einen Wert zuzuweisen, der ihre Zuverlässigkeit angibt. Derzeit existieren viele Methoden zur Generierung dieser Werte, die von der Aufforderung an das Modell reichen, seine eigene Konfidenz zu bewerten, bis hin zur Analyse, wie stark seine Antworten variieren, wenn dieselbe Frage auf verschiedene Arten gestellt wird. Diese bestehenden Werte operieren jedoch oft isoliert und behandeln jede neue Frage so, als wäre es das erste Mal, dass das Modell sie sieht, ohne zu berücksichtigen, wie das Modell bei ähnlichen Fragen in der Vergangenheit abgeschnitten hat.
Ein Team von Forschern bei Layer 6 AI und TD Insurance hat einen anderen Ansatz vorgeschlagen, der Konfidenz nicht als eine feste Eigenschaft des Modells betrachtet, sondern als ein Muster, das gelernt werden kann. Sie argumentieren, dass, während bestehende Methoden Rohwerte für die Unsicherheit generieren, ohne auf Vorabdaten angewiesen zu sein, reale Anwendungen fast immer über einen Datensatz von Fragen und Antworten verfügen, die bereits auf ihre Korrektheit überprüft wurden. Die Forscher erkannten, dass diese gelabelten Daten eine riesige, ungenutzte Ressource darstellen. Anstatt zu versuchen, eine völlig neue Methode zur Messung der Unsicherheit aus dem Boden zu stampfen, entwickelten sie ein einfaches System, das die bestehenden Werte nimmt und sie mit Informationen darüber kombiniert, wie das Modell auf ähnliche Fragen in der Vergangenheit geantwortet hat. Indem sie ein Standard-Computerprogramm darauf trainierten, die Beziehung zwischen diesen Eingaben und der tatsächlichen Korrektheit der Antworten zu erkennen, schufen sie eine neue Methode, die die ursprünglichen Werte allein konsequent übertrifft.
Der Kern ihrer Arbeit umfasst einen zweistufigen Prozess, der der Art und Weise nachempfunden ist, wie ein menschlicher Experte eine neue Behauptung verifizieren würde. Zuerst nimmt das System eine neue Frage und die Antwort, die das große Sprachmodell liefert. Es berechnet dann die Standard-Unsicherheitswerte, die das Modell oder andere Werkzeuge normalerweise produzieren würden. Als Nächstes sucht das System in einer Referenzbibliothek zuvor beantworteter Fragen nach denjenigen, die der neuen Frage am ähnlichsten sind. Es prüft, ob das Modell diese ähnlichen Fragen in der Vergangenheit richtig oder falsch beantwortet hat, und misst, wie nah sie der aktuellen Frage kommen. Diese Details – die Standardwerte, die Historie ähnlicher Fragen und die vergangene Leistung des Modells bei diesen – werden in einen einfachen Klassifikator eingespeist. Dieser Klassifikator lernt vorherzusagen, ob die neue Antwort korrekt ist, und übersetzt damit effektiv rohe Unsicherheitssignale in eine kalibrierte Wahrscheinlichkeit der Wahrheit.
Die Forscher testeten diese Methode über mehrere verschiedene Datensätze hinweg, einschließlich Benchmarks für logisches Gemeinschaftsverstand-Schlussfolgern, wissenschaftliche Fakten und allgemeine Wissensfragen, unter Verwendung verschiedener Größen von Sprachmodellen. Sie verglichen ihr neues System mit den besten bestehenden Methoden, einschließlich jener, die das Modell bitten, seine Konfidenz zu äußern, sowie jener, die viele Variationen einer Antwort generieren, um die Konsistenz zu prüfen. Die Ergebnisse zeigten, dass ihr Ansatz konsistent genauere Vorhersagen der Korrektheit lieferte. In fast jedem Test war die neue Methode besser darin, zwischen richtigen und falschen Antworten zu unterscheiden, als die ursprünglichen Werte allein. Darüber hinaus erzeugte das System gut kalibrierte Wahrscheinlichkeiten, was bedeutet, dass es, wenn es vorhersagte, eine Antwort habe eine 8steilige Chance, korrekt zu sein, in etwa 80 Prozent der Fälle auch korrekt war. Diese Kalibrierung ist entscheidend für die Entscheidungsfindung, da sie es Nutzern ermöglicht, den vom System bereitgestellten Zahlen zu vertrauen.
Einer der bedeutendsten Befunde war, dass die Methode selbst dann gut funktionierte, wenn sie sich auf sehr wenige Zusatzinformationen verlassen musste. In einigen Tests nutzte das System nur eine einzige Antwort des Modells und eine Historie ähnlicher Fragen, ohne dass das Modell mehrere Variationen der Antwort generieren musste. Dies hielt die Rechenkosten niedrig und machte die Methode praktikabel für den realen Einsatz, in dem Geschwindigkeit und Effizienz entscheidend sind. Die Forscher fanden auch heraus, dass die beste Art, diese Signale zu kombinieren, von der spezifischen Aufgabe abhing, was darauf hindeutet, dass ein flexibler Ansatz, der sich an verschiedene Arten von Fragen anpassen kann, einer Einheitslösung überlegen ist. Indem sie die Schätzung der Konfidenz als ein Lernproblem statt als eine feste Berechnung behandelten, demonstrierte das Team, dass vorhandene Daten genutzt werden können, um die Sicherheit und Zuverlässigkeit großer Sprachmodelle erheblich zu verbessern, ohne Zugriff auf deren interne Abläufe oder ein teures Retraining zu benötigen.
Die Studie kommt zu dem Schluss, dass die anfänglichen Unsicherheitswerte, die durch aktuelle Werkzeuge generiert werden, zwar nützlich sind, aber nicht das letzte Wort über die Zuverlässigkeit darstellen. Durch die Nutzung der einfachen Tatsache, dass Modelle dazu neigen, bei ähnlichen Arten von Fragen konsistent zu performen, kann ein überwachtes Lernverfahren (Supervised Learning Framework) diese Werte in weitaus vertrauenswürdigere Schätzungen verfeinern. Dies ersetzt nicht die Notwendigkeit guter Unsicherheitsmetriken, sondern verbessert sie vielmehr, indem es rohe Daten in handlungsrelevante Erkenntnisse verwandelt. Die Arbeit legt nahe, dass der Weg zu sichererer künstlicher Intelligenz nicht nur darin besteht, bessere Modelle zu bauen, sondern bessere Wege zu finden, die Antworten, die diese Modelle geben, zu verstehen und zu interpretieren.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.