Ansari: A Retrieval-Grounded Islamic AI Assistant -- Architecture, Deployment, and Lessons from 140,000 Conversations
यह शोध पत्र अन्सारी (Ansari) को प्रस्तुत करता है, जो एक तैनात, रिट्रीवल-ग्राउंडेड (retrieval-grounded) इस्लामिक एआई सहायक है जो प्रमाणित धार्मिक ग्रंथों के आधार पर उद्धरणों के साथ कड़ाई से प्रश्नों का उत्तर देकर तथ्यात्मक निर्माण (factual fabrication) और मूल्य विसंगति (value misalignment) को कम करता है, जो इस्लामिक बेंचमार्क पर बेहतर प्रदर्शन प्रदर्शित करता है और विश्वास-संवेदनशील एलएलएम (LLM) तैनाती के लिए महत्वपूर्ण सबक प्रदान करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक दुनिया में, लोग अक्सर उत्तर खोजने के लिए कृत्रिम बुद्धिमत्ता (आर्टिफिशियल इंटेलिजेंस) की ओर मुड़ते हैं, मशीनों से जटिल विचारों को समझाने, समस्याओं को हल करने या मार्गदर्शन देने के लिए कहते हैं। ये प्रणालियाँ, जिन्हें लार्ज लैंग्वेज मॉडल्स के रूप में जाना जाता है, इंटरनेट से प्राप्त विशाल मात्रा में टेक्स्ट पर प्रशिक्षित होती हैं, जिससे वे यह सीखती हैं कि वाक्य में अगले शब्द क्या होने चाहिए। वे उल्लेखनीय रूप से प्रवाहपूर्ण हैं और बहुत विश्वसनीय लग सकती हैं। हालाँकि, यह प्रवाह एक छिपे हुए खतरे के साथ आता है: तथ्य गढ़ने की प्रवृत्ति। जब कोई मशीन उत्तर नहीं जानती, तो वह आत्मविश्वास के साथ कुछ भी बना सकती है, एक ऐसी कहानी रच सकती है जो सच लगती है लेकिन पूरी तरह से झूठी होती है। यह उन क्षेत्रों में एक गंभीर समस्या है जहाँ सटीकता महत्वपूर्ण है, जैसे कि चिकित्सा या कानून, लेकिन धार्मिक विश्वास के क्षेत्र में यह और भी संवेदनशील हो जाता है। लाखों मुसलमानों के लिए, कुरान जैसे धार्मिक ग्रंथ और पैगंबर मुहम्मद के कथनों के संग्रह अपरिवर्तनीय और पवित्र माने जाते हैं। एक भी गढ़ा हुआ छंद या गलत तरीके से उद्धृत कहावत किसी व्यक्ति को अपने धर्म का गलत अभ्यास करने की ओर ले जा सकती है, जिससे आध्यात्मिक हानि हो सकती है। इसलिए, चुनौती एक ऐसी मशीन बनाने की है जो मानवीय बातचीत की सहजता के साथ बोल सके लेकिन इस अनुशासन को भी बनाए रखे कि वह बिना स्रोत के कभी कुछ न बोले।
शोधकर्ताओं की एक टीम ने ठीक इसी समस्या को हल करने के लिए 'अंसारी' नामक एक प्रणाली बनाई है। इसका नाम मदीना शहर में पैगंबर मुहम्मद के सहायकों के लिए उपयोग किए जाने वाले एक ऐतिहासिक शब्द से लिया गया है, जो समुदाय के लिए एक सहायक उपकरण बनने के लक्ष्य को दर्शाता है। जून 2023 से, इस सहायक ने 25 से अधिक भाषाओं में बोलने वाले लोगों के साथ 140,000 से अधिक बातचीत की है। मानक चैटबॉट्स के विपरीत, जो उत्तर उत्पन्न करने के लिए अपनी आंतरिक स्मृति पर निर्भर करते हैं, अंसारी एक सख्त नियम पर काम करता है: इसे तब तक कुछ भी कहने की अनुमति नहीं है जब तक कि इसने पहले किसी विश्वसनीय पुस्तक में उसे पाया न हो। यह प्रणाली एक मेहनती शोधकर्ता की तरह काम करती है। जब कोई उपयोगकर्ता प्रश्न पूछता है, तो कंप्यूटर तुरंत प्रतिक्रिया लिखने का प्रयास नहीं करता है। इसके बजाय, यह पहले कुरान, धार्मिक कथनों के संग्रह और इस्लामी कानून के विस्तृत विश्वकोशों वाली प्रमाणित डिजिटल पुस्तकालयों में खोजने के लिए विशेष उपकरणों का उपयोग करता है। यह खोज के परिणामों को पढ़ता है और केवल उस पाठ से अपना उत्तर बनाता है जो उसने पाया है, साथ ही विशिष्ट संदर्भ भी जोड़ता है ताकि उपयोगकर्ता स्रोत की पुष्टि कर सके। यह प्रक्रिया सुनिश्चित करती है कि मशीन कोई धार्मिक नियम या पवित्र कहानी नहीं गढ़ सकती; यह केवल वही रिपोर्ट कर सकती है जो उसे दिए गए विश्वसनीय स्रोतों में पहले से लिखा हुआ है।
शोधकर्ताओं ने पाया कि लोग इस उपकरण का उपयोग सरल तथ्य-जांच से कहीं आगे जाकर करते हैं। 10,000 बातचीत के एक यादृच्छिक नमूने का विश्लेषण करके, उन्होंने पाया कि सबसे आम अनुरोध इतिहास या धर्मशास्त्र सीखने के बारे में नहीं थे, बल्कि इस बारे में थे कि वे अपने दैनिक जीवन को कैसे जिएं। लगभग 40 प्रतिशत प्रश्न व्यावहारिक मामलों के बारे में थे, जैसे कि क्या कुछ खाद्य पदार्थ अनुमत हैं, उपवास के दौरान विशिष्ट चिकित्सा स्थितियों को कैसे संभालना है, या आधुनिक जीवन में नैतिक दुविधाओं को कैसे सुलझाना है। प्रश्नों का एक अन्य महत्वपूर्ण हिस्सा उन लोगों से आया जो शोक, चिंता या पारिवारिक संकट के समय सहायता की तलाश में थे। सिस्टम को इन संकट के क्षणों को पहचानने और गर्मजोशी के साथ प्रतिक्रिया देने के लिए डिज़ाइन किया गया था, जो उपयोगकर्ता को स्थानीय सामुदायिक नेता से बात करने के लिए प्रोत्साहित करता है और हेल्पलाइन तक पहुँच प्रदान करता है। अध्ययन से यह भी पता चला कि धार्मिक नेता और शिक्षक अक्सर उपदेशों और पाठ योजनाओं को तैयार करने के लिए इस सहायक का उपयोग करते हैं, इसे केवल एक सर्च इंजन के बजाय सामग्री तैयार करने में एक भागीदार के रूप में देखते हैं।
यह सुनिश्चित करने के लिए कि सिस्टम सही ढंग से काम कर रहा है, टीम ने कई कठोर मानकों के विरुद्ध इसका परीक्षण किया। उन्होंने सहायक को इस्लामी कानून और धार्मिक ग्रंथों के ज्ञान को मापने वाली स्वतंत्र परीक्षाओं के माध्यम से चलाया, जहाँ इसने उपलब्ध सार्वजनिक रूप से अग्रणी कृत्रिम बुद्धिमत्ता मॉडलों से बेहतर प्रदर्शन किया। एक विशिष्ट परीक्षण में, जिसे यह देखने के लिए डिज़ाइन किया गया था कि क्या कोई मशीन केवल विनम्र होने के लिए एक गलत कथन से सहमत होगी, अंसारी 96 प्रतिशत से अधिक बार त्रुटि को चुनौती देने में सफल रहा, जबकि अन्य मॉडल अक्सर गलती से सहमत होने के जाल में फंस जाते हैं। रमजान के पवित्र महीने के दौरान आयोजित एक मानव मूल्यांकन के दौरान, सहायक ने उच्च सटीकता के साथ प्रश्नों के उत्तर दिए और सबसे महत्वपूर्ण बात यह है कि परीक्षण किए गए नमूने में उसने एक भी गलत स्रोत नहीं बनाया। शोधकर्ताओं ने नोट किया कि हालांकि प्रणाली अत्यधिक प्रभावी है, फिर भी यह पूर्ण नहीं है। यह कभी-कभी ऐसे लूप में फंस जाता है जहाँ यह स्पष्ट उत्तर न मिलने पर जानकारी खोजता रहता है, और यह कभी-कभी तारीखों या समय-संवेदनशील तथ्यों के साथ गलतियाँ कर सकता है। ये त्रुटियाँ रचनाकारों को याद दिलाती हैं कि यह प्रणाली मानवीय समझ में सहायता करने के लिए एक उपकरण है, न कि योग्य विद्वानों के निर्णय या समुदाय के विवेक का विकल्प।
यह परियोजना उन सभी के लिए एक स्पष्ट सबक प्रदान करती है जो गहराई से मान्य मूल्यों या संवेदनशील विषयों से निपटने वाली कृत्रिम बुद्धिमत्ता बनाने की कोशिश कर रहे हैं। शोधकर्ताओं का तर्क है कि केवल मशीन को अधिक डेटा पर प्रशिक्षित करना पर्याप्त नहीं है। इसके बजाय, मशीन को नियंत्रित करने वाले नियम स्पष्ट रूप से लिखे जाने चाहिए और निरीक्षण के लिए खुले होने चाहिए। अंसारी के मामले में, निर्देश जो कंप्यूटर को विभिन्न विचारधाराओं के बीच मतभेदों को संभालने, स्रोतों को उद्धृत करने और संकट के समय व्यवहार करने के बारेों में बताते हैं, वे एक दस्तावेज़ में संग्रहीत हैं जिसे कोई भी पढ़ सकता है। यह पारदर्शिता सिस्टम प्रॉम्प्ट को एक छिपी हुई तकनीकी सेटिंग के बजाय नीति के एक सार्वजनिक बयान में बदल देती है। टीम ने यह भी पाया कि हालांकि उत्तरों को वास्तविक पाठ में आधारित करना मशीन को चीजें बनाने से रोकता है, लेकिन यह हर समस्या को ठीक नहीं करता है। मूल रूप से जिस डेटा पर इसे प्रशिक्षित किया गया था, उसका अंतर्निहित कंप्यूटर मॉडल अभी भी उसी के पूर्वाग्रहों और सीमाओं को वहन करता है, जो उस धार्मिक समुदाय द्वारा नहीं बनाया गया था जिसकी यह अब सेवा कर रहा है। यह अंतर बताता है कि सिस्टम कभी भी उस मानव समुदाय का पूर्ण रूप से स्थान नहीं ले सकता जिसने इन परंपराओं को परिष्कृत करने में सदियों बिताई है। अंततः, अंसारी की सफलता यह दिखाती है कि एक सहायक धार्मिक सहायक बनाना संभव है जो अपने स्रोतों की पवित्रता का सम्मान करता है, बशर्ते कि डिजाइन गति और सुविधा के बजाय सत्य और जवाबदेही को प्राथमिकता दे।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।