LLM Enhancement with Domain Expert Mental Model to Reduce LLM Hallucination with Causal Prompt Engineering

In der Welt der künstlichen Intelligenz sind große Sprachmodelle bemerkenswert geschickt darin geworden, riesige Mengen an Informationen zu lesen, zu schreiben und zusammenzufassen. Sie können komplexe wissenschaftliche Theorien erklären, juristische Dokumente entwerfen und sogar Code schreiben. Diese Systeme haben jedoch eine fundamentale blinde Stelle: Sie können nur mit Wissen arbeiten, das bereits aufgeschrieben und in ihre Trainingsdaten eingespeist wurde. Wenn sie mit einer Entscheidung konfrontiert werden, die auf ungeschriebener Intuition, spezifischem organisatorischem Kontext oder einer einzigartigen Kombination von Umständen beruht, die noch nie aufgezeichnet wurde, gibt das Modell nicht einfach zu, dass es etwas nicht weiß. Stattdessen erfindet es oft eine selbstbewusste, aber falsche Antwort, ein Phänomen, das als Halluzination bekannt ist. Dies ist kein Fehler, der durch die Suche nach mehr Dokumenten behoben werden kann; es ist eine strukturelle Grenze. Wenn das Wissen nicht in einer Datenbank existiert, kann die Maschine es nicht finden. Für Entscheidungen mit hohem Einsatz in Bereichen wie der Medizin, der nationalen Sicherheit oder der Forschungsförderung kann diese Lücke zwischen dem, was die Maschine weiß, und dem, was ein menschlicher Experte weiß, gefährlich sein.

Die Forscher Boris Kovalerchuk und Brent D. Fegley haben einen neuen Weg vorgeschlagen, um diese Lücke zu schließen. Anstatt zu versuchen, die künstliche Intelligenz intelligenter zu machen oder ihr mehr Bücher zum Lesen zu geben, schlagen sie vor, eine spezifische, strukturierte Karte davon zu erstellen, wie ein menschlicher Experte tatsächlich denkt. Sie nennen dies ein „Expert Mental Model“ (Experten-Mentales-Modell). Der Kern der Idee besteht darin, aufzuhören, die Maschine nach der Antwort raten zu lassen, und stattdiet die Maschine stattdessen als Werkzeug zu nutzen, um dem Experten zu helfen, seine eigene Entscheidungslogik zu artikulieren. Indem man das intuitive Urteil eines Menschen in einen klaren, schrittweisen Satz von Regeln umwandelt, kann das System diese Regeln dann auf neue Situationen anwenden, ohne jemals halluzinieren zu müssen. Dieser Ansatz betrachtet das Problem nicht als ein Versagen des Gedächtnisses der Maschine, sondern als ein Versagen bei der Erfassung des spezifischen Denkprozesses des Menschen.

Die Forscher testeten diese Idee in drei sehr unterschiedlichen Bereichen: der Entscheidung, ob man einen Forschungsantrag stellen sollte, dem Entwurf eines Cybersicherheitssystems und der Durchführung klinischer Diagnosen. Im ersten Szenario musste ein Forschungsteam entscheiden, ob es Monate in das Schreiben eines Vorschlags für eine Förderagentur investieren sollte. Die Entscheidung hing von vielen Faktoren ab, wie etwa, ob das Team über die richtigen Fähigkeiten verfügt, ob das Projekt zu den Zielen der Agentur passt und ob sie genügend Zeit haben. Eine Standard-KI könnte eine Liste von Fragen generieren, die zu stellen sind, aber sie konnte nicht bestimmen, wie diese Antworten zu gewichten sind. Wenn das Team beispielsweise mit „Ja“ zu den Fähigkeiten, aber mit „Nein“ zum Budget antwortete, könnte die Maschine raten, dass das Projekt immer noch rentabel sei, oder sie könnte raten, dass es nicht rentabel sei. Die Maschine hatte keine Möglichkeit zu wissen, dass das Budget für dieses spezifische Team ein Ausschlusskriterium war, während es für ein anderes Team vielleicht nur eine untergeordnete Hürde darstellte.

Um dies zu lösen, nutzten die Forscher eine Methode, die auf einem einfachen Prinzip beruht: Wenn eine Situation gut genug ist, um ein „Ja“ zu sagen, dann sollte die Verbesserung eines Teils davon die Antwort nicht in ein „Nein“ verwandeln. Dies wird als Monotonie bezeichnet. Stellen Sie sich ein Team von Experten vor, das eine Reihe von Ja/Nein-Fragen zu einem Projekt beantwortet. Wenn sie entscheiden, dass ein Projekt mit einer großartigen Idee, aber ohne Geld ein „Nein“ ist, dann muss ein Projekt mit einer großartigen Idee, ohne Geld und zusätzlich ohne Teammitglieder ebenfalls ein „Nein“ sein. Durch die Nutzung dieser Logik konnten die Forscher dem Experten weit weniger Fragen stellen, als normalerweise erforderlich wären. Anstatt nach jeder möglichen Kombination von Faktoren zu fragen – was bei einer komplexen Entscheidung Millionen sein könnten – stellten sie eine sorgfältig ausgewählte Gruppe von Fragen. Die Antworten auf diese Fragen ermöglichten es ihnen, die Antworten auf Tausende anderer Szenarien automatisch abzuleiten.

Im Beispiel des Forschungsantrags begann das Team mit zwanzig potenziellen Fragen. Eine künstliche Intelligenz half dabei, diese in einer Hierarchie zu organisieren und verwandte Fragen zusammenzufassen. Dann beantwortete der menschliche Experte eine kleine Anzahl verallgemeinerter Fragen. Anstatt beispielsweise jede einzelne Detailfrage zu den Ressourcen zu beantworten, könnte der Experte eine breitere Frage darüber beantworten, ob das Team bereit sei. Wenn die Antwort „Nein“ lautete, wusste das System sofort, dass keine weiteren Details nötig waren, um das Projekt abzulehnen. Wenn die Antwort „Ja“ lautete, arbeitete sich das System in die spezifischen Details vor. Durch nur vier Fragenrunden gelang es den Forschern, die Entscheidungslogik des Experten für über 60 Prozent aller möglichen Szenarien abzubilden. Die verbleibenden Szenarien gruppierten sich um die schwierigen Grenzfälle, in denen die Entscheidung unklar war, was genau der Bereich ist, in dem menschliches Urteilsvermögen am wertvollsten ist.

Die Forscher testeten diese Methode auch in der Cybersicherheit, wo die Regeln oft durch staatliche Standards definiert sind. In diesem Fall konnte die künstliche Intelligenz die Standardregeln aus einem Dokument extrahieren, aber sie benötigte dennoch einen menschlichen Experten, um diese Regeln auf die spezifischen Daten einer bestimmten Organisation anzuwenden. Das System half dem Experten, die Auswirkungen einer Sicherheitsverletzung auf sein spezifisches Netzwerk zu bestimmen, indem es vage Bedenken in ein strukturiertes Modell übersetzte. Im dritten Bereich, dem Gesundheitswesen, überprüften die Forscher vergangene Studien, in denen ähnliche Methoden zur Diagnose von Brustkrebs eingesetzt worden waren. Sie fanden heraus, dass die Modelle, die die Entscheidungsregeln direkt aus den Radiologen durch diesen strukturierten Ansatz extrahierten, genauer und konsistenter waren als solche, die rein datenbasiert erstellt wurden. Die Modelle konnten erklären, warum eine Entscheidung getroffen wurde, indem sie die Entscheidung auf spezifische Faktoren zurückführten, was für Ärzte, die dem System vertrauen müssen, entscheidend ist.

Ein kritischer Teil dieser Arbeit war die Messung, wie oft die künstliche Intelligenz Fehler machen würde, wenn sie allein gelassen würde. Die Forscher erstellten Simulationen, in denen sie die Entscheidungen eines menschlichen Experten gegen die Vermutungen einer künstlichen Intelligenz abglichen. Sie fanden heraus, dass die Fehlerrate insgesamt zwar klein erscheinen mochte, die Fehler jedoch in den wichtigsten Fällen konzentriert waren. Wenn der Experte ein „Ja“ zu einem Projekt gegeben hätte, sagte die künstliche Intelligenz oft „Nein“ und verpasste die Gelegenheit somit vollständig. In einigen Simulationen näherte sich die Fehlerrate für diese verpassten Gelegenheiten 100 Prozent. Dies zeigte, dass die Gefahr der Halluzination nicht nur darin besteht, zufällige Fehler zu machen, sondern darin, systematisch die seltenen, hochwertigen Fälle zu übersehen, die spezifisches, ungeschriebenes Wissen erfordern.

Die Forscher argumentieren, dass die Lösung nicht darin besteht, die künstliche Intelligenz menschlicher zu machen, sondern die künstliche Intelligenz dazu zu nutzen, Menschen dabei zu helfen, ihr eigenes Denken zu kodieren. Die Maschine ist exzellent darin, Listen von Faktoren zu erstellen, sie in logische Gruppen zu ordnen und auf Konsistenz zu prüfen. Sie ist jedoch schlecht darin zu wissen, was für ein bestimmtes Team oder eine bestimmte Organisation wichtig ist. Durch die Kombination beider Ansätze entsteht ein Entscheidungsunterstützungswerkzeug, das sowohl rechnerisch effizient als auch in echtem menschlichem Fachwissen verwurzelt ist. Die künstliche Intelligenz übernimmt die schwere Arbeit der Strukturierung und Organisation, während der Mensch die spezifischen Werte und die Logik liefert, die die Entscheidung sinnvoll machen.

Dieser Ansatz hilft auch, ein subtiles Risiko namens „kognitive Homogenisierung“ zu verhindern, bei dem alle beginnen, Entscheidungen auf die gleiche Weise zu treffen, weil sie alle dieselbe künstliche Intelligenz verwenden. Wenn eine Organisation sich ausschließlich auf ein generisches Modell verlässt, könnte sie ihre einzigartige Perspektive und die spezifischen Erkenntnisse, die aus ihrer eigenen Erfahrung stammen, verlieren. Indem sie ihr eigenes „Expert Mental Model“ aufbauen, bewahrt eine Organisation ihre eigene, unverwechselbare Art des Denkens. Das Modell wird zu einem tragbaren Protokoll ihres kollektiven Wissens, das auch dann bestehen bleibt, wenn die Experten, die es geschaffen haben, die Organisation verlassen. Es stellt sicher, dass der Entscheidungsprozess transparent und rechenschaftspflichtig bleibt, anstatt eine Black Box zu sein, die Antworten produziert, die niemand erklären kann.

Die Studie behauptet nicht, jedes Problem gelöst zu haben. Die Methode funktioniert am besten, wenn die Entscheidungslogik dem Prinzip folgt, dass die Verbesserung einer Situation das Ergebnis niemals verschlechtert. Sie erfordert zudem, dass die Experten bereit sind, ihre Gedanken zu artikulieren, was eine Herausforderung darstellen kann. In einigen Fällen könnten Experten Schwierigkeiten haben, abstrakte Fragen zu beantworten, ohne die spezifischen Details zu sehen, und das System muss flexibel genug sein, um mit dieser Unsicherheit umzugehen. Darüber hinaus, obwohl die Methode in Simulationen getestet und gegen vergangene Studien überprüft wurde, räumen die Forscher ein, dass mehr Tests in der realen Welt erforderlich sind, um zu sehen, wie sie in tatsächlichen klinischen Settings oder bei echten Forschungsanträgen abschneidet.

Trotz dieser Einschränkungen bieten die Ergebnisse einen klaren Weg für den Einsatz künstlicher Intelligenz in kritischen Bereichen. Die zentrale Erkenntnis ist, dass die Maschine nicht der Entscheidungsträger sein sollte. Stattdessen sollte sie der Architekt des Entscheidungsprozesses sein, der hilft, eine Struktur aufzubauen, die das menschliche Urteilsvermögen präzise erfasst. Dadurch vermeidet sie die Falle der Halluzination und bietet ein Werkzeug, das sowohl leistungsstark als auch vertrauenswürdig ist. Das Ergebnis ist ein System, das den Experten nicht ersetzt, sondern seine Fähigkeit verstärkt, fundierte, konsistente und erklärbare Entscheidungen zu treffen, selbst angesichts komplexer und unsicherer Situationen.