Wnuan: Staged Post-Training for Question Answering over Proprietary Enterprise Knowledge

Stellen Sie sich vor, Sie versuchen, einem brillanten, belesenen Teenager beizubringen, ein sehr spezifisches, kompliziertes Geschäft zu führen. Dieser Teenager hat bereits fast jedes Buch in der öffentlichen Bibliothek gelesen und kann über alles plaudern, von Geschichte bis hin zu Programmierung. Er hat jedoch noch nie die internen Regelbücher, Sicherheitsmanuale oder geheimen Projektdateien des Unternehmens gesehen. Wenn man ihn einfach nach seinen Vermutungen basierend auf dem, was er aus der Außenwelt weiß, fragen würde, könnte er zwar selbstbewusst klingen, aber die Details falsch angeben oder – noch schlimmer – Fakten erfinden, die zwar echt klingen, aber nicht wahr sind (ein Problem, das Experten als „Halluzinieren“ bezeichnen).

Dies ist die Herausforderung der Enterprise Question Answering (Unternehmensbezogene Beantwortung von Fragen). Unternehmen besitzen Berge von privaten Dokumenten, die die „echten“ Antworten enthalten, aber ihre KI-Modelle kennen diese nicht. Das Ziel ist es, der KI diese privaten Geheimnisse beizubringen, ohne dass sie vergisst, wie man ein hilfreicher, höflicher und logischer Gesprächspartner ist. Es ist ein empfindlicher Balanceakt: Wenn man sie zu viel über das Unternehmen lehrt, kann es sein, dass sie aufhört, ein guter allgemeiner Assistent zu sein; lehrt man sie nicht genug, kann sie ihre Aufgabe nicht erfüllen. Das Papier, das Sie gleich lesen werden, untersucht ein kluges, dreistufiges Rezept zur Lösung dieses Rätsels, das eine universelle KI in einen Unternehmensexperten verwandelt, ohne dass sie den Verstand verliert.

---

Das Wnuan-Rezept: Einer KI beibringen, ein Unternehmensexperte zu sein

Lernen Sie kennen: Wnuan, eine neue Trainings-Pipeline, die darauf ausgelegt ist, eine allgemeine KI in einen Spezialisten zu verwandeln, der die privaten Dokumente eines Unternehmens in- und auswendig kennt. Betrachten Sie die KI nicht als einen Studenten, der für eine Prüfung büffelt, sondern als einen neuen Mitarbeiter, der das Handbuch des Unternehmens, die Sicherheitsprotokolle und die Projekthistorie lernen muss, während er gleichzeitig daran erinnert wird, ein höflicher Mensch zu bleiben.

Die Autoren dieses Papers haben ein dreistufiges Trainingslager für ihre KI entwickelt, das sie Wnuan nennen. So entfaltet sich die Reise, Schritt für Schritt.

Schritt 1: Das Handbuch in eine Quizshow verwandeln

Zuerst musste das Team tausende trockene, langweilige Unternehmensdokumente (wie PDFs von Sicherheitsregeln oder technischen Spezifikationen) in etwas verwandeln, das die KI tatsächlich lernen kann. Man kann einer KI nicht einfach ein 500-seitiges Handbuch füttern und hoffen, dass sie es auswendig lernt. Stattdessen nutzten sie einen Prozess namens Document-to-QA.

Stellen Sie sich vor, man nimmt ein dichtes Regelwerk und lässt einen klugen Editor jede einzelne Regel in eine „Frage-und-Antwort“-Lernkarte verwandeln. Wenn die Regel besagt: „Alle Mitarbeiter müssen in Zone B Schutzhelme tragen“, erstellt das System eine Karte mit der Frage: „Was müssen Sie in Zone B tragen?“ und liefert die Antwort. Dies taten sie für über 220.000 Beispiele! Sie ließen die KI sogar einige Antworten umschreiben, um sicherzustellen, dass sie exakt wie die spezifische KI klangen, die sie gerade trainierten. Dadurch entstand ein massives, maßgeschneidertes Quiz-Deck, das auf die Geheimnisse des Unternehmens zugeschnitten war.

Schritt 2: Die „Replay“-Pause

Nun kommt der schwierige Teil. Wenn man nur das Unternehmenshandbuch studiert, könnte man vergessen, wie man mit Menschen spricht oder allgemeine Probleme löst. Dies wird als „katastrophales Vergessen“ bezeichnet. Um dies zu verhindern, nutzte das Team eine Technik namens General-Data Replay.

Betrachten Sie dies wie eine Lernsitzung, bei der der Student zwar das Unternehmenshandbuch studiert, dann aber eine Pause einlegt, um über allgemeine Themen wie Sport, Wissenschaft oder Logikrätsel zu plaudern. Das Paper fand heraus, dass das Mischen von etwa 48 % allgemeiner Konversationsdaten mit den Unternehmensdaten der „Sweet Spot“ war. Dies hielt die KI intelligent und höflich, während sie die Unternehmensregeln lernte. Oh ne diese Pause wäre die KI zwar ein großartiger Unternehmensexperte geworden, aber ein schlechter Gesprächspartner.

Schritt 3: Das „Residual Error“-Drill

Nach den ersten beiden Schritten war die KI schon ziemlich gut, aber sie machte immer noch Fehler. Sie beantwortete die leichten Fragen richtig, stolperte aber über die schwierigen. Hier setzt die dritte Stufe, das Residual-Error Reinforcement Learning (RL), ein.

Anstatt das gesamte Quiz-Deck erneut zu durcharbeiten, konzentrierte sich das Team gezielt auf die Fragen, die die KI falsch beantwortet hatte (die „Residual Errors“ bzw. Restfehler). Sie behandelten diese Fehler wie ein Trainer, der sich auf die Schwachstellen eines Athleten konzentriert. Sie nutzten ein spezielles Belohnungssystem, um der KI beizubringen, wie sie diese spezifischen Fehler korrigiert. Es ist wie zu sagen: „Du hast die einfachen Matheaufgaben richtig gelöst, aber lass uns diese drei kniffligen Algebra-Aufgaben üben, bis du sie beherrschst.“

Die Ergebnisse: Ein großer Sieg mit geringen Kosten

Die Ergebnisse dieses dreistufigen Trainings waren beeindruckend. Vor dem Training konnte die KI (genannt Wnuan-Base) nur etwa 52,76 % der Fragen auf ihrem Testdatensatz, genannt Wnuan-Bench, akzeptabel beantworten.

• Nach Schritt 2 (SFT mit Replay): Der Wert sprang auf 80,06 %. Die KI war nun ein solider Mitarbeiter.
• Nach Schritt 3 (Residual-Error RL): Der Wert stieg noch weiter auf 91,51 %. Die KI hatte die Geheimnisse des Unternehmens gemeistert.

Das Team prüfte auch, ob die KI vergessen hatte, wie man ein allgemeiner Assistent ist. Sie fanden heraus, dass die KI zwar etwas schlechter darin wurde, sehr spezifische, komplexe Anweisungen zu befolgen (ein Rückgang von etwa 5 Punkten bei einem allgemeinen Benchmark), aber ihre allgemeine Intelligenz nicht verlor. Der Kompromiss war es wert: Die KI wurde ein viel besserer Unternehmensexperte.

Was das Paper ausschließt (und was nicht)

Die Autoren waren sehr sorgfältig darin, ihre Ideen zu testen. Sie haben nicht nur vermutet, dass die Konzentration auf Fehler besser sei; sie haben es bewiesen.

• Fokus auf Fehler funktioniert: Sie verglichen ihre „Residual-Error“-Methode (Konzentration nur auf falsche Antworten) mit zwei anderen Methoden: dem Studium alles (der volle Pool) und dem Studium einer zufälligen Mischung von Fragen. Die „Residual-Error“-Methode gewann und schlug die Zufallsmethode um 2,97 Punkte und den vollen Pool um 3,11 Punkte. Dies deutet darauf an, dass es, sobald eine KI die Grundlagen beherrscht, der effizienteste Weg ist zu lernen, gezielt an den eigenen Schwachstellen zu arbeiten.
• Retrieval ist kein magisches Heilmittel: Das Team testete auch einen gängigen Trick namens RAG (Retrieval-Augmented Generation), bei dem die KI während des Tests die Erlaubnis hat, Antworten in einer Datenbank nachzuschlagen. Überraschenderweise machte das Nachschlagen von Antworten für die voll trainierte KI die Leistung in einigen Fällen sogar schlechter. Die KI hatte das Material bereits so gut gelernt, dass der Versuch, es nachzuschlagen, sie verwirrte. Dies deutet darauf sich, dass es für diese Art von Training besser ist, das Wissen „eingebaut“ zu haben, an statt es während der Laufzeit nachzuschlagen.
• Es ist kein universelles Allheilmittel: Das Paper gibt zu, dass diese Methode hervorragend für diese internen Dokumente des Unternehmens funktioniert. Es behauptet nicht, jedes KI-Problem der Welt zu lösen. Zudem ist die KI weiterhin als ein Helfer konzipiert, den Menschen kontrollieren, und nicht als ein Roboter, der allein über Sicherheits- oder Einstellungsentscheidungen trifft.

Das Fazit

Das Wnuan-Paper zeigt uns einen klaren Weg, um KI-Experten zu erschaffen. Indem man Dokumente in Quizzes verwandelt, allgemeine Konversationen beimischen, um die KI im Gleichgewicht zu halten, und dann gezielt die Fehler trainiert, die sie macht, kann man eine allgemeine Roboter-KI in einen hochqualifizierten Insider eines Unternehmens verwandeln.

Die Autoren schlagen vor, dass dieser „gestufte“ Ansatz der Schlüssel ist: Erst die Grundlagen lehren, dann die Schwachstellen verfeinern. Obwohl die KI ein klein wenig von ihrer Fähigkeit verliert, komplexe Anweisungen zu befolgen, macht der massive Gewinn an Genauigkeit (von 52,76 % auf 91,51 %) diesen Ansatz zu einer gewinnbringenden Strategie für Unternehmen, die benötigen, dass ihre KI die Regeln, die Abläufe und die Geheimnisse des Geschäfts kennt. Es ist eine Erinnerung daran, dass der beste Weg zu lernen manchmal nicht darin besteht, alles noch einmal zu studieren, sondern sich intensiv auf das zu konzentrieren, was man falsch gemacht hat.