Neural Diversity Regularizes Hallucinations in Language Models
Dieses Paper führt „neuronale Diversität“ als dritte Skalierungsachse für Sprachmodelle ein und schlägt die ND-LoRA-Methode vor, um Halluzinationen durch dekorellierte parallele Repräsentationen und Barlow-Twins-Regularisierung um bis zu 25,6 % zu reduzieren, während gleichzeitig formale Schranken etabliert werden, die eine geringere neuronale Korrelation mit einer höheren Zuverlässigkeit verknüpfen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie versuchen, ein kniffliges Rätsel zu lösen, aber anstatt nur eine Person zu fragen, fragen Sie ein ganzes Team. Wenn alle Mitglieder des Teams exakt gleich denken, könnten sie alle denselben dummen Fehler machen und gemeinsam die falsche Antwort geben. Dies ist der Kern des Problems moderner „Sprachmodelle“ – jener superintelligenten Computerprogramme, die Geschichten schreiben, Fragen beantworten und mit uns chatten. Obwohl diese Programme immer größer und klüger werden, erfinden sie manchmal trotzdem Dinge, ein Fehler, den man „Halluzination“ nennt. Sie könnten voller Selbstvertrauen eine erfundene Tatsache behaupten oder eine Geschichte erfinden, die nie stattgefunden hat.
Um dies zu beheben, versuchen Wissenschaftler normalerweise, die Modelle größer zu machen oder sie mit mehr Daten zu füttern, so als würde man versuchen, ein Puzzle zu lösen, indem man eine größere Schachtel kauft. Aber dieses Paper schlägt einen anderen Ansatz vor: Anstatt das Team größer zu machen, macht man die Teammitglieder unterschiedlich. Die Autoren leihen sich eine Idee aus dem Finanzwesen namens „Diversifikation“. Genau wie ein Investor nicht sein gesamtes Geld in eine einzige Aktie steckt, weil er bei deren Scheitern alles verlieren würde, streut er sein Geld auf viele verschiedene Aktien. Wenn eine Aktie abstürzt, halten die anderen vielleicht stand und sichern das Portfolio ab. Das Paper fragt: Können wir dasselbe mit Computergehirnen tun? Wenn wir die verschiedenen Teile des Modells dazu zwingen, auf leicht unterschiedliche, unkorrelierte Weise zu denken, können wir dann verhindern, dass sie alle gleichzeitig denselben Fehler machen?
Genau das wollten die Forscher testen. Sie schlagen eine neue Methode namens Neural Diversity vor, die wie ein „Diversitäts-Coach“ für das Gehirn des Computers fungiert. Anstatt zuzulassen, dass alle internen Pfade des Modells dazu kollabieren, auf die gleiche Weise zu denken, zwingen sie diese Pfade dazu, distinkt und unabhängig zu bleiben. Sie entwickelten ein Werkzeug namens ND-LoRA, um dies zu erreichen. Stellen Sie sich das so vor, als würde man einem einzelnen Computermodell vier verschiedene „Hüte“ geben, die es gleichzeitig tragen kann. Jeder Hut repräsentiert eine leicht andere Art, denselben Satz zu verarbeiten. Das Modell kombiniert dann die Antworten aller vier Hüte.
Die Ergebnisse sind sehr vielversprechend. Durch die Verwendung dieses „Vier-Hüte-Ansatzes“ und eines speziellen mathematischen Tricks, um die Hüte zu daran zu hindern, sich zu ähnlich zu werden, fanden die Forscher heraus, dass sie die Anzahl der erfundenen Fakten in spezifischen Tests um bis zu 25,6 % senken konnten, mit einer durchschnittlichen Verbesserung von 14,6 %. Dies geschah, ohne das Computermodell größer machen oder es mit mehr Daten trainieren zu müssen. Tatsächlich kostete es nur einen winzigen Bruchteil mehr Rechenleistung – etwa 0,008 % mehr Trainingszeit und nur die 1,1-fache Geschwindigkeit beim Ausführen.
Das Paper entdeckte jedoch auch eine Wendung: Mehr Diversität ist nicht immer besser. Es ist wie bei einem Chor; wenn jeder eine andere Note singt, klingt es nach Lärm. Wenn alle exakt dieselbe Note singen, ist es langweilig und anfällig für Fehler. Es gibt einen „Sweet Spot“, einen idealen Punkt, an dem die Stimmen unterschiedlich genug sind, um Fehler zu entdecken, aber ähnlich genug, um sich über die Wahrheit einig zu sein. Die Forscher fanden heraus, dass sich dieser Sweet Spot ändert, je nachdem, was der Computer tut. Für Aufgaben, die kreatives Geschichtenerzählen oder das Überprüfen von Fakten beinhalten, arbeitete es am besten, mehr „unterschiedliche“ Stimmen (speziell 4 bis 8 parallele Ströme) zu haben. Aber für einfache Gedächtnisaufgaben, wie das Abrufen eines bestimmten Namens, war es tatsächlich am zuverlässigsten, nur eine einzige Stimme zu haben.
Die Autoren betonen vorsichtig, dass ihre Mathematik zwar beweist, dass dies funktionieren sollte, und ihre Experimente an einem kleinen Modell zeigen, dass es auch tatsächlich funktioniert, dass dies jedoch eine spezifische Lösung für eine spezifische Art von Fehler ist. Sie argumenten, dass Halluzinationen oft dadurch verursacht werden, dass die internen Teile des Modells in einer Schleife aus ähnlichen, falschen Ideen stecken bleiben, anstatt nur durch einen Mangel an Wissen zu entstehen. Indem sie diese Schleife durch Diversität durchbrechen, können sie das Modell zuverlässiger machen, ohne ein riesiges, teures Supercomputing-System zu benötigen. Es ist eine clevere, kostengünstige Methode, um KI etwas weniger anfällig für Lügen zu machen, und beweist, dass der beste Weg, eine bessere Antwort zu erhalten, manchmal darin besteht, gleichzeitig ein paar verschiedene Fragen zu stellen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.