Grounding Without Corrective Control: Truth-Tracking Profiles for Large Language Models

मानचित्र बनाम दिशा-सूचक यंत्र (कम्पास): रास्ता जानना और उस पर चलना एक समान नहीं है

कल्पना कीजिए कि आप एक रोबोट को शहर में नेविगेट करना सिखाने की कोशिश कर रहे हैं। आपके पास इसे करने के दो मुख्य तरीके हैं। पहला तरीका यह है कि आप रोबोट को शहर का एक विशाल, सटीक मानचित्र दें जिसे हजारों लोगों ने सैकड़ों वर्षों में बनाया है। रोबोट हर सड़क, हर इमारत और हर शॉर्टकट को याद कर लेता है। वह मानचित्र को पूरी तरह से सुना सकता है और नए मानचित्र भी बना सकता है जो पुराने वाले जैसे ही दिखते हैं। यह वैसा ही है जैसे कई आर्टिफिशियल इंटेलिजेंस (AI) सिस्टम सीखते हैं: वे मानव ग्रंथों के अरबों पृष्ठ पढ़ते हैं, और लोगों द्वारा लिखे गए पैटर्न, तथ्यों और कहानियों को आत्मसात करते हैं।

दूसरा तरीका यह है कि आप रोबोट को एक लाइव कम्पास और आँखों की एक जोड़ी दें। यह रोबोट को दुनिया को अभी इसी वक्त देखने, यह नोटिस करने की अनुमति देता है कि क्या कोई सड़क निर्माण कार्य के कारण बंद है, या यह महसूस करने की कि उसने गलत मोड़ ले लिया है। यह दुनिया के एक स्थिर रिकॉर्ड रखने और उसके साथ एक जीवंत संबंध रखने के बीच का अंतर है। वैज्ञानिक लंबे समय से इस बात पर बहस कर रहे हैं कि क्या AI वास्तव में चीज़ों को "जानता" है या यह केवल एक कुशल नकलची है। यह शोध पत्र केवल यह नहीं पूछता कि क्या AI के पास एक मानचित्र है; यह पूछता है कि क्या AI के पास एक दिशा-सूचक यंत्र (कम्पास) है। यह सुझाव देता है कि भले ही AI के पास एक सटीक मानचित्र (सामग्री/कंटेंट) हो, लेकिन यदि उसके पास अपने काम की जाँच करने के लिए लाइव मार्ग नहीं हैं, तो वह वास्तविक दुनिया में होने वाले परिवर्तनों के प्रति अंधा हो सकता है। इस अंतर को समझना महत्वपूर्ण है क्योंकि यह हमें बताता है कि हम कब AI के उत्तर पर भरोसा कर सकते हैं और कब हमें स्वयं उसकी दोबारा जाँच करने की आवश्यकता है।

---

शोध पत्र का मुख्य विचार: "लाइव वायर" टेस्ट

ब्रेट रेनॉल्ड्स, इस शोध पत्र के लेखक, लार्ज लैंग्वेज मॉडल्स (वे सुपर-स्मार्ट AI चैटबॉट्स जिनका हम आज उपयोग करते हैं) को देखने का एक नया तरीका प्रस्तावित करते हैं। उनका तर्क है कि हमें यह पूछना बंद कर देना चाहिए कि, "क्या यह AI सत्य को जानता है?" और इसके बजाय यह पूछना शुरू करना चाहिए कि, "क्या इस AI के पास सत्य तक पहुँचने के लिए एक 'लाइव वायर' (जीवंत तार) है?"

एक AI को एक बहुत ही प्रतिभाशाली शेफ के रूप में सोचें जिसने दुनिया की हर रेसिपी याद कर ली है। यदि आप चॉकलेट केक मांगते हैं, तो शेफ सामग्री, तापमान और बेकिंग के समय का सटीक वर्णन कर सकता है। यह ग्राउंडिंग (Grounding) है। शेफ का ज्ञान उन लाखों कुकबुक्स में "ग्राउंडेड" है जिन्हें उन्होंने पढ़ा है। लेकिन यहाँ एक पेंच है: यदि आप शेफ से पूछते हैं, "क्या ओवन अभी गर्म है?" या "क्या बेकर ने आज सुबह रेसिपी बदल दी है?", तो शायद शेफ को पता न चले। वे केवल वही जानते हैं जो किताबों में था जब उन्होंने पढ़ना बंद किया था। उनके पास रसोई तक कोई लाइव वायर नहीं है।

रेनॉल्ड्स इस लापता जुड़ाव को सुधारात्मक नियंत्रण (Corrective Control) कहते हैं। यह किसी कार्य को करते समय एक ताज़ा गलती को पहचानने और उसे ठीक करने की क्षमता है।

• डेरिवेटिव उत्तरदायित्व (Derivative Answerability): यह तब होता है जब AI चीज़ों को इसलिए सही बताता है क्योंकि उसने उन सुधारों को विरासत में प्राप्त किया है जो मनुष्यों ने अतीत में किए थे। यदि AI कहता है "आसमान नीला है," तो वह इसलिए सही है क्योंकि मनुष्यों ने सदियों से किताबों में इस तथ्य को सुधारा है। AI मानव सत्य की लहरों पर सवार है।
• लाइव उत्तरदायित्व (Live Answerability): यह तब होता है जब AI खुद अभी आसमान की जाँच कर सके। यदि आसमान वास्तव में तूफान के कारण ग्रे (धूसर) है, तो लाइव उत्तरदायित्व वाला सिस्टम ग्रे रंग को देखता है और अपने उत्तर को अपडेट करता है।

यह पत्र सुझाव देता है कि वर्तमान में अधिकांश AI सेटअप एक ऐसी परफेक्ट कुकबुक वाले शेफ की तरह हैं जिनकी आँखें नहीं हैं। वे इतिहास सुनाने में बहुत अच्छे हैं, लेकिन वे विफल हो जाते हैं जब दुनिया बदल जाती है या जब उन्हें किसी विशिष्ट, ताज़ा तथ्य की जाँच करने की आवश्यकता होती है।

"ट्रुथ-ट्रैकिंग" के लिए पाँच-सूत्रीय जाँच

रेनॉल्ड्स विस्तार से बताते हैं कि एक AI सिस्टम में सत्य के साथ "लाइव वायर" होने के लिए क्या होना चाहिए। वे इसे एक रूट प्रोफाइल (Route Profile) कहते हैं। कल्पना कीजिए कि AI एक कार है। सुरक्षित रूप से चलाने के लिए, उसे केवल एक मानचित्र की आवश्यकता नहीं है; उसे एक ड्राइवर की आवश्यकता है जो सड़क देख सके। रेनॉल्ड्स पाँच विशेषताओं को सूचीबद्ध करते हैं जो निर्धारित करती हैं कि क्या कार वास्तव में चल सकती है:

1. लक्ष्य तक पहुँच (Target Access): क्या सिस्टम वास्तव में उस चीज़ को देख सकता है जिसके बारे में वह बात कर रहा है? (क्या कार के पास विंडशील्ड है?)
2. पता लगाने की क्षमता (Detectability): क्या वह नोटिस कर सकता है कि कुछ गलत है? (क्या ड्राइवर लाल बत्ती देखता है?)
3. जाँच-मार्ग स्वतंत्रता (Checking-Route Independence): क्या काम की जाँच करने वाला व्यक्ति काम करने वाले व्यक्ति से अलग है? (यदि ड्राइवर वही है जो सड़क के संकेत पेंट कर रहा है, तो वह खुद को धोखा दे सकता है। आपको आँखों के दूसरे सेट की आवश्यकता है।)
4. आरोपण (Attribution): क्या सिस्टम यह पता लगा सकता है कि ठीक कहाँ गलती हुई? (क्या ड्राइवर ने लाल बत्ती देखी, या उसने केवल एक झटका महसूस किया?)
5. प्रभावी ग्रहण (Effective Uptake): क्या सिस्टम वास्तव में अपने द्वारा मिली जानकारी के आधार पर अपना व्यवहार बदल सकता है? (यदि ड्राइवर लाल बत्ती देखता है लेकिन ब्रेक खराब होने के कारण गाड़ी चलाना जारी रखता है, तो सिस्टम विफल हो गया है।)

यदि किसी AI में ये पाँचों गुण हैं, तो उसके पास सुधारात्मक नियंत्रण है। वह एक ताज़ा त्रुटि को पहचान सकता है और उसे ठीक कर सकता है। यदि उसके पास केवल कुछ ही गुण हैं, या यदि "जाँच" केवल पुरानी गलतियों का पुनरावृत्ति है, तो इससे कोई फर्क नहीं पड़ता कि वह कितना स्मार्ट दिखता है; वह वास्तविक समय में सत्य को ट्रैक नहीं कर सकता।

जब आप टूल्स (उपकरण) जोड़ते हैं तो क्या होता है?

यह शोध पत्र विभिन्न तरीकों को देखता है जिनसे लोग AI को ठीक करने की कोशिश करते हैं, जैसे कि इसे इंटरनेट (रिट्रीवल/प्राप्ति) तक पहुँच देना, इसे कैलकुलेटर (टूल्स) का उपयोग करने देना, या इसे चित्र देखने देना (मल्टीमॉडल इनपुट)। रेनॉल्ड्स का तर्क है कि ये उपकरण केवल तभी मदद करते हैं जब वे पाँच-सूत्रीय चेकलिस्ट में एक विशिष्ट कमी को पूरा करते हैं।

• रिट्रीवल (पुस्तकालय): यदि आप AI को पुराने तथ्यों को खोजने के लिए एक लाइव लिंक देते हैं, तो यह पुराने तथ्यों को खोजने में बेहतर हो जाता है। लेकिन यदि पुस्तकालय पुरानी किताबों से भरा है, तो AI अभी भी अतीत में फँसा हुआ है। यह "रिकॉर्ड एक्सेस" में मदद करता है, लेकिन यह तब मदद नहीं करता जब AI को किसी भौतिक वस्तु को मापने की आवश्यकता हो।
• टूल्स (कैलकुलेटर): यदि AI कोड चला सकता है या कैलकुलेटर का उपयोग कर सकता है, तो यह गणित में बेहतर हो जाता है। लेकिन यदि टूल टूटा हुआ है या AI गलत टूल चुन लेता है, तो वह अभी भी अनुमान ही लगा रहा है।
• मल्टीमॉडल (आँखें): यदि AI एक तस्वीर देख सकता है, तो यह अपने सामने मौजूद चीज़ों का वर्णन करने में बेहतर हो जाता है। लेकिन तस्वीर देखना इसका मतलब यह नहीं है कि वह तस्वीर में मौजूद वस्तु का तापमान माप सकता है।

यह पत्र सुझाव देता है कि केवल अधिक टूल्स जोड़ने से AI स्वतः ही "स्मार्टर" या अधिक "सत्यनिष्ठ" नहीं हो जाता। यह केवल तभी मदद करता है जब विशिष्ट टूल विशिष्ट कार्य से मेल खाता हो। यदि आप AI को तरल पदार्थ मापने के लिए कहते हैं, तो उसे लाइब्रेरी (रिट्रीवल) देने से मदद नहीं मिलेगी; आपको एक रूलर (टूल) की आवश्यकता है। यदि आप उसे सूर्यास्त का वर्णन करने के लिए कहते हैं, तो रूलर देने से मदद नहीं मिलेगी; आपको आँखों (मल्टीमॉडल) की आवश्यकता है।

"ऑक्टोपस" और "इज़ी" की समस्या

यह शोध पत्र अपने बिंदु को समझाने के लिए दो प्रसिद्ध वैचारिक प्रयोगों का उपयोग करता है।

• ऑक्टोपस: एक टैंक में रहने वाले ऑक्टोपस की कल्पना करें, जो एक केबल के माध्यम से दो द्वीपों से जुड़ा हुआ है। वह द्वीपों पर लोगों को बात करते हुए सुन सकता है, लेकिन वह उन्हें देख या छू नहीं सकता। वह भविष्यवाणी करना सीख जाता है कि वे क्या कहेंगे। वह बिल्कुल इंसान की तरह लग सकता है, लेकिन उसे शब्दों का वास्तविक दुनिया में क्या अर्थ है, इसकी कोई जानकारी नहीं है।
• इज़ी: इज़ी नाम के एक इंसान की कल्पना करें जो जन्म से केवल एक टेक्स्ट स्क्रीन वाले कमरे में बंद रहा है। इज़ी स्क्रीन पर मौजूद टेक्स्ट से सब कुछ सीखता है। इज़ी दुनिया के बारे में पूरी तरह से बात कर सकता है, लेकिन उसने कभी पेड़ नहीं देखा या बारिश महसूस नहीं की।

रेनॉल्ड्स का तर्क है कि ऑक्टोपस और इज़ी दोनों के पास "कंटेंट" (वे शब्द जानते हैं) हो सकता है, लेकिन उनमें सुधारात्मक नियंत्रण की कमी है। यदि दुनिया बदलती है, तो वे जान नहीं सकते। वे अतीत के "विरासत में मिले" सत्य के साथ फंसे हुए हैं।

निष्कर्ष: यह क्यों मायने रखता है

यह शोध पत्र यह दावा नहीं करता कि AI "नकली" है या यह उपयोगी नहीं हो सकता। यह सुझाव देता है कि हमें इस बात पर ध्यान देना चाहिए कि हम इस पर कैसे भरोसा करते हैं।

• यदि कार्य इतिहास या शैली के बारे में है: तो AI का "विरासत" ज्ञान (मानचित्र) आमतौर पर पर्याप्त होता है। यह एक अच्छी कहानी लिख सकता है या पुराने तथ्यों का सारांश दे सकता है।
• यदि कार्य वर्तमान वास्तविक दुनिया के बारे में है: तो AI को एक "लाइव वायर" की आवश्यकता होती है। इसके बिना, AI आत्मविश्वास के साथ गलत बात कह सकता है क्योंकि वह केवल पुराने पैटर्न के आधार पर अनुमान लगा रहा है।

रेनॉल्ड्स का सुझाव है कि हमें केवल इस बात पर नहीं देखना चाहिए कि AI कितना धाराप्रवाह (fluent) सुनाई देता है। हमें इसके रूट प्रोफाइल को देखना चाहिए। क्या इसके पास तथ्यों तक पहुँचने का एक लाइव मार्ग है? क्या यह अपने काम की जाँच कर सकता है? यदि हम इन लाइव मार्गों को अपने AI सिस्टम में नहीं बनाते हैं, तो हमें बहुत ही धाराप्रवाह उत्तर मिल सकते हैं जो वास्तविकता से पूरी तरह कटे हुए होंगे। शोध पत्र का निष्कर्ष है कि जबकि AI के पास "कंटेंट" हो सकता है, "सुधारात्मक नियंत्रण" रखना एक अलग और कठिन चुनौती है जिसके लिए AI और बदलती दुनिया के बीच विशिष्ट वास्तुशिल्प सेतु (architectural bridges) बनाने की आवश्यकता है।