Ansari: A Retrieval-Grounded Islamic AI Assistant -- Architecture, Deployment, and Lessons from 140,000 Conversations
Dieses Paper stellt Ansari vor, einen im Einsatz befindlichen, retrieval-basierten islamischen KI-Assistenten, der faktische Fabrikationen und Wertemissalignment durch das strikte Beantworten von Fragen auf Basis authentifizierter religiöser Texte mit Zitaten mildert und dabei eine überlegene Leistung bei islamischen Benchmarks zeigt sowie kritische Lehren für den Einsatz von gläubenssensiblen LLMs bietet.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
In der modernen Welt wenden sich Menschen oft an künstliche Intelligenz, um Antworten zu finden, indem sie Maschinen bitten, komplexe Ideen zu erklären, Probleme zu lösen oder Orientierung zu bieten. Diese Systeme, bekannt als große Sprachmodelle, werden mit riesigen Mengen an Texten aus dem Internet trainiert und lernen, vorherzusagen, welche Wörter als Nächstes in einem Satz stehen sollten. Sie sind bemerkenswert flüssig und können sehr überzeugend klingen. Diese Flüssigkeit bringt jedoch eine verborgene Gefahr mit sich: die Tendenz, Fakten zu erfinden. Wenn eine Maschine die Antwort nicht weiß, erfindet sie unter Umständen voller Selbstvertrauen eine, erschafft eine Geschichte, die zwar wahr klingt, aber völlig falsch ist. Dies ist ein ernstes Problem in Bereichen, in denen Genauigkeit entscheidend ist, wie etwa in der Medizin oder im Recht, aber es wird noch sensibler im Bereich des religiösen Glaubens. Für Millionen von Muslimen gelten religiöse Texte wie der Koran und die Sammlungen der Aussprüche des Propheten Muhammad als heilig und unveränderlich. Ein einzeres erfundenes Vers oder ein falsch zugeschriebener Ausspruch könnte dazu führen, dass eine Person ihren Glauben falsch praktiziert, was spirituellen Schaden verursacht. Die Herausforderung besteht also darin, eine Maschine zu bauen, die mit der Leichtigkeit eines menschlichen Gesprächs sprechen kann, aber die Disziplin besitzt, niemals ohne Quelle zu sprechen.
Ein Team von Forschern hat ein System namens Ansari entwickelt, um genau dieses Problem zu lösen. Der Name stammt von einem historischen Begriff für die Helfer des Propheten Muhammad in der Stadt Medina und spiegelt das Ziel des Systems wider, ein unterstützendes Werkzeug für die Gemeinschaft zu sein. Seit Juni 2023 hat dieser Assistent mehr als 140.000 Gespräche mit Menschen geführt, die über 25 verschiedene Sprachen sprechen. Im Gegensatz zu Standard-Chatbots, die sich bei der Generierung von Antworten auf ihr internes Gedächtnis verlassen, arbeitet Ansari nach einer strengen Regel: Es ist nicht erlaubt, etwas zu sagen, sofern es nicht zuvor in einem vertrauenswürdigen Buch gefunden wurde. Das System arbeitet wie ein gewissenhafter Forscher. Wenn ein Nutzer eine Frage stellt, versucht der Computer nicht sofort, eine Antwort zu schreiben. Stattdessen nutzt er zuerst spezielle Werkzeuge, um in authentifizierten digitalen Bibliotheken zu suchen, die den Koran, Sammlungen religiöser Aussprüche und detaillierte Enzyklopädien des islamischen Rechts enthalten. Er liest die Ergebnisse dieser Suchvorgänge und konstruiert seine Antwort nur aus dem Text, den er gefunden hat, wobei er spezifische Referenzen beifügt, damit der Nutzer die Quelle verifizieren kann. Dieser Prozess stellt sicher, dass die Maschine keine religiöse Regel oder eine heilige Geschichte erfinden kann; sie kann nur das berichten, was bereits in den ihr vorgegebenen vertrauenswürdigen Quellen geschrieben steht.
Die Forscher fanden heraus, dass Menschen dieses Werkzeug auf eine Weise nutzen, die weit über einfaches Faktenprüfen hinausgeht. Durch die Analyse einer Zufallsstichprobe von 10.000 Gesprächen entdeckten sie, dass die häufigsten Anfragen nicht etwa über Geschichte oder Theologie gingen, sondern darüber, wie sie ihr tägliches Leben führen sollen. Fast 40 Prozent der Fragen betrafen praktische Angelegenheiten, wie etwa ob bestimmte Lebensmittel erlaubt sind, wie man mit bestimmten medizinischen Situationen während des Fastens umgeht oder wie man ethische Dilemmata im modernen Leben bewältigt. Ein weiterer bedeutender Teil der Fragen kam von Menschen, die in Zeiten von Trauer, Angst oder Familienkrisen Unterstützung suchten. Das System wurde so konzipiert, dass es diese Momente der Not erkennt und mit Wärme antwortet, indem es den Nutzer ermutigt, mit einem lokalen Gemeindeführer zu sprechen, und gleichzeitig Zugang zu Hilfslinien bietet. Die Studie zeigte auch, dass religiöse Führer und Lehrer den Assistenten häufig nutzten, um Predigten und Unterrichtspläne vorzubereiten, wobei sie ihn eher als Partner beim Entwerfen von Inhalten denn als reines Suchwerkzeug behandelten.
Um sicherzustellen, dass das System korrekt arbeitet, testete das Team es gegen mehrere strenge Standards. Sie unterzogen den Assistenten unabhängigen Prüfungen, die das Wissen über islamisches Recht und religiöse Texte messen, wobei er besser abschnitt als andere öffentlich verfügbare führende Modelle künstlicher Intelligenz. In einem spezifischen Test, der darauf ausgelegt war zu sehen, ob eine Maschine einer falschen Aussage zustimmen würde, nur um höflich zu sein, gelang es Ansari, den Fehler in mehr als 96 Prozent der Fälle anzufechten, während andere Modelle oft in die Falle tappten, der Unrichtigkeit zuzustimmen. Während einer menschlichen Evaluierung, die im heiligen Monat Ramadan durchgeführt wurde, beantwortete der Assistent Fragen mit hoher Genauigkeit und erfand – was am wichtigsten ist – in der getesteten Stichprobe kein einziges falsches Quellenverzeichnis. Die Forscher merkten an, dass das System zwar hocheffektiv ist, aber nicht perfekt ist. Es gerät manchmal in Schleifen, in denen es nach Informationen sucht, ohne eine klare Antwort zu finden, und es kann gelegentlich Fehler bei Daten oder zeitkritischen Fakten machen. Diese Fehler erinnern die Schöpfer daran, dass das System ein Werkzeug zur Unterstützung des menschlichen Verständnisses ist, nicht ein Ersatz für das Urteilsvermögen qualifizierter Gelehrter oder die Weisheit der Gemeinschaft.
Das Projekt bietet eine klare Lektion für jeden, der künstliche Intelligenz entwickeln möchte, die sich mit tief verwurzelten Werten oder sensiblen Themen befasst. Die Forscher argumentieren, dass es nicht ausreicht, eine Maschine einfach mit mehr Daten zu trainieren. Stattdessen müssen die Regeln, die die Maschine steuern, explizit niedergeschrieben und zur Einsicht offenliegen. Im Fall von Ansari sind die Anweisungen, die dem Computer sagen, wie er mit Meinungsverschiedenheiten zwischen verschiedenen Denkschulen umgehen soll, wie er Quellen zitiert und wie er in einer Krise reagiert, in einem Dokument gespeichert, das jeder lesen kann. Diese Transparenz macht den System-Prompt von einer verborgenen technischen Einstellung zu einer öffentlichen Grundsatzerklärung. Das Team fand auch heraus, dass die Verankerung der Antworten in echtem Text zwar verhindert, dass die Maschine Dinge erfindet, aber nicht jedes Problem löst. Das zugrunde liegende Computermodell trägt dennoch die Vorurteile und Einschränkungen der Daten in sich, mit denen es ursprünglich trainiert wurde, welche nicht von der religiösen Gemeinschaft erstellt wurden, der es nun dient. Diese Lücke bedeutet, dass das System niemals die menschliche Gemeinschaft vollständig ersetzen kann, die diese Traditionen über Jahrhunderte hinweg verfeinert hat. Letztlich zeigt der Erfolg von Ansari, dass es möglich ist, einen hilfreichen religiösen Assistenten zu bauen, der die Heiligkeit seiner Quellen respektiert, sofern das Design Wahrheit und Rechenschaftspflicht über Geschwindigkeit und Bequemlichkeit stellt.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.