कल्पना कीजिए कि आप एक रोबोट बटलर (नौकर) बना रहे हैं जो कहानियाँ सुनाने में अविश्वसनीय रूप से कुशल है। यह रोबोट लगभग पुस्तकालय की हर किताब पढ़ चुका है और बहुत ही सटीक, आत्मविश्वासपूर्ण वाक्यों में बोल सकता है। लेकिन एक पेंच है, जब इसे किसी उत्तर का पता नहीं होता, तो यह "मुझे नहीं पता" नहीं कहता। इसके बजाय, यह एक ऐसी कहानी गढ़ लेता है जो इतनी वास्तविक और विश्वसनीय लगती है कि आप उस पर विश्वास कर लेते हैं। आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में, इसे "हैलुसिनेशन" (hallucination) कहा जाता है। यह कोई ऐसा ग्लिच नहीं है जिससे रोबोट क्रैश हो जाए; यह एक ऐसा ग्लिच है जहाँ रोबोट बिना हिचकिचाहट के झूठ बोलता है।

लंबे समय तक, इन रोबोटों को गंभीर कामों के लिए उपयोग करने की कोशिश करने वाले लोग—जैसे बैंकों को ऋण देने के फैसले लेने में मदद करना या डॉक्टरों द्वारा बीमा दावों की जांच करना—अटक गए थे। उन्हें उम्मीद थी कि यदि वे बस रोबोट को और स्मार्ट बना दें या उसे अधिक किताबें पढ़ने को दे दें, तो वह मनगढ़ंत बातें बनाना बंद कर देगा। लेकिन जिस शोध पत्र को आप पढ़ने जा रहे हैं, वह सुझाव देता है कि यह उम्मीद एक बंद रास्ता है। लेखक तर्क देते हैं कि एक ऐसा रोबोट बनाना जो कभी झूठ न बोले, असंभव है क्योंकि जिस तरह से ये रोबोट बनाए जाते हैं, वे तथ्य गढ़ने के प्रति संवेदनशील होते हैं। इसलिए, रोबोट के दिमाग को ठीक करने के बजाय, वे इसके चारों ओर एक अत्यंत सख्त "हारनेस" (harness - सुरक्षा कवच) बनाने का प्रस्ताव देते हैं। यह हारनेस एक टीम की तरह काम करता है जिसमें जासूस, एक गणित-जांचकर्ता और एक सुरक्षा जाल शामिल है, जो सब मिलकर यह सुनिश्चित करते हैं कि यदि रोबोट झूठ बोलना शुरू भी कर दे, तो भी वह झूठ किसी को दिखाई न दे। लक्ष्य एक आदर्श रोबोट बनाना नहीं है; बल्कि एक ऐसा सिस्टम बनाना है जहाँ कोई भी झूठ बिना पकड़े गए निकल न सके।

समस्या: क्यों "बेहतर रोबोट" समाधान नहीं हैं

FlowX.AI के लेखक इस पेपर में एक निराशाजनक वास्तविकता की ओर इशारा करते हैं। कई कंपनियाँ AI एजेंटों का उपयोग करना चाहती हैं, लेकिन वे "हैलुसिनेशन" से डरी हुई हैं। यह तब होता है जब एक AI एक धाराप्रवाह, आत्मविश्वासपूर्ण उत्तर देता है जो वास्तव में गलत होता है। एक अनौपचारिक बातचीत में, एक गलत तथ्य केवल परेशान करने वाला होता है। लेकिन एक बैंक या बीमा कंपनी में, एक गलत तथ्य का अर्थ है ऐसा पैसा देना जो नहीं दिया जाना चाहिए था, या गलत आंकड़ों के साथ रिपोर्ट दर्ज करना।

तकनीकी जगत की सामान्य प्रतिक्रिया एक "परफेक्ट" मॉडल—एक ऐसा रोबोट जो इतना स्मार्ट हो कि कभी गलत जानकारी न दे—का इंतजार करना रही है। लेखक कहते हैं कि यह गलत लक्ष्य है। उनका तर्क है कि लार्ज लैंग्वेज मॉडल्स (LLMs), अपनी प्रकृति के कारण, चीजें गढ़ने में सक्षम हैं। उन्हें बड़ा या स्मार्ट बनाने से यह क्षमता पूरी तरह से खत्म नहीं होगी। भले ही आप जवाबों की जांच करने के लिए एक "जज" रोबोट जोड़ दें, वह जज भी मूर्ख बनाया जा सकता है, या वह पहले रोबोट की गलती से सहमत हो सकता है क्योंकि दोनों की कमियां एक जैसी होती हैं।

यह पेपर तर्क देता है कि हमें यह पूछना बंद कर देना चाहिए कि, "हम ऐसा रोबोट कैसे बनाएं जो झूठ न बोले?" और यह पूछना शुरू करना चाहिए कि, "हम ऐसा सिस्टम कैसे बनाएं जहाँ एक झूठ उपयोगकर्ता तक पहुँचने से पहले पकड़ा जा सके?" यह वही तर्क है जो इंजीनियर कारों के लिए उपयोग करते हैं: हम यह उम्मीद नहीं करते कि कार का कोई हिस्सा कभी खराब नहीं होगा; हम कार को सीटबेल्ट, एयरबैग और क्रंपल ज़ोन के साथ डिज़ाइन करते हैं ताकि यदि कोई हिस्सा खराब भी हो जाए, तो यात्री सुरक्षित रहें।

समाधान: HALO (छह-परतीय सुरक्षा जाल)

इसे हल करने के लिए, लेखक HALO (Hallucination-Aware Layered Oversight) नामक एक नया आर्किटेक्चर पेश करते हैं। HALO को एक एकल उपकरण के रूप में नहीं, बल्कि एक छह-परतीय किले के रूप में देखें जिसे हर चरण पर त्रुटियों को पकड़ने के लिए डिज़ाइन किया गया है। लेखक दावा करते हैं कि इन परतों को एक के ऊपर एक रखकर, वे उपयोगकर्ताओं तक पहुँचने वाले हैलुसिनेशन की दर को शून्य के करीब ला सकते हैं, भले ही एक छोटा सा अवशेष दर (residual escape rate) बना रहता है क्योंकि मूल रोबोट अभी भी गलतियाँ करने के प्रति संवेदनशील है।

यहाँ बताया गया है कि छह परतें कैसे काम करती हैं, जिसे एक बीमा दावे का फॉर्म भरने की कोशिश कर रहे रोबोट की सरल कहानी के माध्यम से समझाया गया है:

परत 1: ग्राउंडेड लाइब्रेरी (कोई स्मृति वर्जित है)
रोबोट को अपनी याददाश्त (जहाँ वह चीजें गढ़ सकता है) से उत्तर निकालने देने के बजाय, HALO उसे केवल एक विशिष्ट, स्वीकृत दस्तावेज़ों की लाइब्रेरी का उपयोग करने के लिए मजबूर करता है। यदि रोबोट को "दावे की राशि" जानने की आवश्यकता है, तो उसे वह संख्या अपलोड की गई PDF में ढूंढनी होगी। यह एक छात्र को यह बताने जैसा है कि, "आप केवल अपनी मेज पर रखी पाठ्यपुस्तक का उपयोग करके ही परीक्षा दे सकते हैं, न कि उस चीज़ का जो आपको पिछले सप्ताह याद थी।" यह सीमित करता है कि रोबोट को क्या कहने की अनुमति है।

परत 2: कंस्ट्रेंड मेज़ (भटकना मना है)
रोबोट को बेतहाशा दौड़ने की अनुमति नहीं है। उसके कार्य एक सख्त, चरण-दर-चरण पथ (एक "स्टेट मशीन") में लॉक हैं। वह अचानक कोई रैंडम फोन नंबर डायल करने या पूरे दस्तावेज़ को फिर से लिखने का निर्णय नहीं ले सकता। यदि वह निर्धारित मार्ग से बाहर जाने की कोशिश करता है, तो सिस्टम उसे रोक देता है। यह सुनिश्चित करता है कि भले ही रोबलेट भ्रमित हो जाए, वह बड़ी गड़बड़ी नहीं कर सकता या निजी डेटा लीक नहीं कर सकता।

परत 3: डिटेक्टिव स्क्वाड (बहु-संकेत सत्यापन)
यह सबसे महत्वपूर्ण परत है। जब रोबोट एक उत्तर लिखता है, तो उसे केवल एक जज से "थम्स अप" नहीं मिलता। उसकी जांच दो अलग-अलग प्रकार के जासूसों द्वारा की जाती है:

1. AI जज: एक अन्य AI यह जांचता है कि क्या उत्तर टेक्स्ट के आधार पर तर्कसंगत है।
2. एविडेंस चेकर (साक्ष्य जांचकर्ता): यह एक विशेष टूल है जो AI का उपयोग नहीं करता है। यह मूल दस्तावेज़ को देखता है और एक सख्त, गणितीय जांच करता है। उदाहरण के लिए, यदि रोबोट कहता है कि कुल राशि $1,000 है, तो एविडेंस चेकर मूल दस्तावेज़ के भीतर की मदों (line items) को जोड़कर देखता है। यदि गणित मेल नहीं खाता है, तो रोबोट का झूठ पकड़ा जाता है, भले ही AI जज को लगा हो कि वह सही लग रहा है। यह उन "आत्मविश्वासपूर्ण झूठों" को पकड़ता है जो सुनने में तो सही लगते हैं लेकिन गणितीय रूप से गलत होते हैं।

परत 4: "मुझे नहीं पता" बटन (कैलिब्रेटेड एब्स्टेंशन)
यदि रोबोट को लाइब्रेरी में उत्तर नहीं मिलता, या यदि एविडेंस चेकर कहता है कि संख्याएँ मेल नहीं खाती हैं, तो सिस्टम उसे अनुमान लगाने नहीं देता। इसके बजाय, वह "एब्स्टेन" (पीछे हटने) का बटन दबा देता है। रोबट को मजबूर किया जाता है कि वह कहे, "मेरे पास पर्याप्त जानकारी नहीं है," और कार्य को मानव को सौंप दिया जाता है। रोबोट का गलत उत्तर आत्मविश्वास से देने के बजाय "मुझे नहीं पता" कहना बेहतर है।

परत 5: ब्लैक बॉक्स रिकॉर्डर (पूर्ण ट्रैसेबिलिटी)
रोबोट द्वारा उठाया गया हर एक कदम एक विस्तृत लॉग में रिकॉर्ड किया जाता है। यदि बाद में कोई गलती होती है, तो मनुष्य लॉग देख सकते हैं और देख सकते हैं कि कौन सा दस्तावेज़ पढ़ा गया था, क्या प्रश्न पूछा गया था, और रोबोट ने वह विशिष्ट विकल्प क्यों चुना। यह सिस्टम को पारदर्शी और ऑडिट योग्य बनाता है, जो कानूनों और नियमों के लिए महत्वपूर्ण है।

परत 6: वॉचटावर (निरंतर निगरानी)
सिस्टम केवल एक बार काम नहीं करता और भूल नहीं जाता। यह लगातार खुद की निगरानी करता है। यदि रोबोट समय के साथ अधिक गलतियाँ करने लगता है (जिसे "ड्रिफ्ट" कहा जाता है), तो सिस्टम इसे तुरंत पहचान लेता है। फिर यह नए नियम बनाकर प्रयोग करता है, और वास्तविक दुनिया में लागू करने से पहले डेटा के एक छोटे समूह पर परीक्षण करता है। यह सुनिश्चित करता है कि सिस्टम समय के साथ बेहतर होता रहे और समस्याओं के बड़े संकट बनने से पहले ही उन्हें पकड़ ले।

प्रमाण: एक वास्तविक दुनिया का परीक्षण

यह दिखाने के लिए कि यह काम करता है, लेखकों ने "मेरिडियन इंश्योरेंस" नामक एक सिम्युलेटेड बीमा कंपनी पर HALO का परीक्षण किया। उन्होंने एक रोबोट बनाया जो दावे के दस्तावेजों को पढ़ने और "दावे की राशि" और "घटना की तिथि" जैसे नंबर निकालने के लिए बनाया गया था।

शुरुआत में, रोबलेट ठीक लग रहा था, लेकिन HALO सिस्टम ने एक छिपी हुई समस्या ढूंढ ली: रोबोट लगभग 28% समय (0.28 दर) हैलुसिनेशन कर रहा था, और इसकी सटीकता केवल 72% (0.72) थी। सिस्टम ने इसे इसलिए पकड़ा क्योंकि "एविडेंस चेकर" ने देखा कि रोबोट ने जो नंबर लिखे थे, वे मूल दस्तावेजों के गणित से मेल नहीं खाते थे।

गलतियों को जारी रखने देने के बजाय, HALO ने दो काम किए:

1. तत्काल नियंत्रण: इसने गलत उत्तरों को अगले चरण में जाने से रोक दिया। कोई भी दस्तावेज़ जहाँ रोबोट अपने उत्तर को सिद्ध नहीं कर सका, उसे समीक्षा के लिए मानव को भेज दिया गया।
2. स्व-सुधार (Self-Correction): सिस्टम ने स्वचालित रूप से एक सुधार उत्पन्न किया, उसका परीक्षण किया, और एक नया संस्करण पाया जो बहुत बेहतर था। नए संस्करण ने हैलुसिनेशन दर को घटाकर केवल 8% (0.08) कर दिया और सटीकता को बढ़ाकर 88% (0.88) कर दिया।

निष्कर्ष

पेपर यह निष्कर्ष निकालता है कि "जीरो हैलुसिनेशन" (शून्य हैलुसिनेशन) AI मॉडल का गुण नहीं है। आप ऐसा रोबोट नहीं खरीद सकते जो कभी झूठ न बोले। इसके बजाय, "जीरो हैलुसिनेशन" उस सिस्टम का गुण है जो रोबोट के चारों ओर बनाया गया है। HALO का उपयोग करके, उद्यम एक ऐसा हारनेस बना सकते हैं जो झूठ को पकड़ता है, रोबोट को यह स्वीकार करने के लिए मजबूर करता है कि वह अनिश्चित है, और लगातार खुद को बेहतर बनाता है। हालांकि एक छोटा सा अवशेष दर बना रहता है क्योंकि मॉडल स्वयं त्रुटिपूर्ण है, सिस्टम यह सुनिश्चित करता है कि हैलुसिनेशन को नियंत्रित, दृश्यमान और सुधारा जाए, इससे पहले कि वे उपयोगकर्ता तक पहुँचें।

लेखक स्वीकार करते हैं कि यह कोई जादुई समाधान नहीं है। यदि जांच के लिए कोई स्रोत दस्तावेज़ उपलब्ध नहीं है (जैसे कि जब कोई रचनात्मक कहानी पूछी जाती है), तो सिस्टम कमजोर हो जाता है। साथ ही, बहुत अधिक बार "मुझे नहीं पता" कहना कष्टप्रद हो सकता है। लेकिन बैंकिंग और बीमा जैसे गंभीर, विनियमित कार्यों के लिए, लेखकों का तर्क है कि यह स्तरित दृष्टिकोण ही विश्वास बनाने का एकमात्र तरीका है। यह लक्ष्य को "दिमाग को पूर्ण बनाने" से बदलकर "सुरक्षा जाल बनाने" की ओर ले जाता है, यह सुनिश्चित करता है कि भले ही रोबोट फिसल जाए, उपयोगकर्ता उसे गिरते हुए न देखे।