Flying Pigs, FaR and Beyond: Evaluating LLM Reasoning in Counterfactual Worlds
यह शोध पत्र काउंटरलॉजिक (CounterLogic) बेंचमार्क प्रस्तुत करता है ताकि यह उजागर किया जा सके कि पैरामीट्रिक ज्ञान के साथ संघर्षों के कारण लार्ज लैंग्वेज मॉडल्स (Large Language Models) काउंटरफैक्चुअल रीजनिंग (counterfactual reasoning) में संघर्ष करते हैं, और यह इस प्रदर्शन अंतराल को महत्वपूर्ण रूप से कम करने के लिए "फ्लैग एंड रीजन" (Flag & Reason - FaR) मेटाकॉग्निटिव हस्तक्षेप का प्रस्ताव करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान, जानकार मित्र के साथ "क्या होगा अगर?" (What If?) का खेल खेल रहे हैं। आप कहते हैं, "ठीक है, कल्पना करो कि एक ऐसी दुनिया है जहाँ सूअर उड़ सकते हैं और पक्षी वास्तव में स्तनधारी (mammals) हैं। इस दुनिया में, यदि सभी सूअर जानवर हैं, और सभी जानवर पक्षी हैं, तो क्या सूअर पक्षी हैं?"
एक इंसान रुककर मुस्कुराएगा और कहेगा, "खैर, इस काल्पनिक दुनिया में जो आपने बताया है, उसमें हाँ, सूअर पक्षी हैं। लेकिन वास्तविक दुनिया में, यह बेतुकी बात है क्योंकि सूअर पक्षी नहीं होते।"
अब, उसी "क्या होगा अगर?" वाले सवाल को एक सुपर-स्मार्ट AI (एक लार्ज लैंग्वेज मॉडल) से पूछने की कल्पना करें। AI बहुत कुछ जानता है। वह जानता है कि सूअर स्तनधारी हैं, पक्षी पक्षी होते हैं, और सूअर निश्चित रूप से नहीं उड़ते। जब आप उससे "क्या होगा अगर?" वाला सवाल पूछते हैं, तो AI भ्रमित हो जाता है। वह तर्क (logic) सुलझाने की कोशिश करता है, लेकिन उसका दिमाग चिल्लाता रहता है, "रुको! सूअर पक्षी नहीं हैं! यह गलत है!" इस आंतरिक शोर के कारण, AI अक्सर तर्क की परीक्षा में विफल हो जाता है, भले ही उसे आपके काल्पनिक नियमों का पालन करना चाहिए था।
यह शोध पत्र इसी भ्रम को ठीक करने के बारे में है। यहाँ इसका सरल विवरण दिया गया है:
1. समस्या: "तथ्य-जांचने वाला" मस्तिष्क (The Fact-Checking Brain)
शोधकर्ताओं ने पाया कि AI मॉडल तर्क (logic) और तथ्यों (facts) को अलग करने में कठिनाई महसूस करते हैं।
- परिदृश्य: उन्होंने CounterLogic नामक एक परीक्षण बनाया। यह एक 'लॉजिक जिम' की तरह है जहाँ वे AI को ऐसे नियम देते हैं जो वास्तविक जीवन के विपरीत हों (जैसे, "मान लें कि सभी बिल्लियाँ कुत्ते हैं")।
- परिणाम: जब नियम वास्तविक जीवन से मेल खाते थे (जैसे, "सभी मनुष्य जानवर हैं"), तो AI तर्क में बहुत अच्छा था। लेकिन जब नियम नकली थे (जैसे, "सभी बिल्लियाँ कुत्ते हैं"), तो AI की सटीकता लगभग 14% गिर गई।
- उपमा: यह एक ऐसे शेफ की तरह है जो खाना बनाने में माहिर है, लेकिन यदि आप उससे "पानी" से "सैंडविच" बनाने के लिए कहें, तो वह करने से मना कर देता है क्योंकि वह जानता है कि पानी ब्रेड नहीं है। वह इस तथ्य पर अटक जाता है कि पानी ब्रेड नहीं है, बजाय इसके कि वह आपकी इस निर्देश का पालन करे कि रेसिपी के लिए पानी को ब्रेड की तरह मानें।
2. निदान: ऐसा क्यों होता है?
शोधकर्ताओं ने पाया कि AI तर्क में बुरा नहीं है। वह अपनी याददाश्त को अनदेखा करने में बुरा है।
- द्वंद्व: AI के भीतर दो आवाजें हैं। एक आवाज कहती है, "जो नियम अभी दिए गए हैं उनका पालन करो।" दूसरी आवाज (उसका ट्रेनिंग डेटा) कहती है, "लेकिन मैं जानता हूँ कि यह गलत है!"
- "विश्वास पूर्वाग्रह" (Belief Bias): इंसानों की तरह, AI भी "विश्वास पूर्वाग्रह" से ग्रस्त है। यदि कोई निष्कर्ष वास्तविक जीवन में सच लगता है, तो वह सोचता है कि तर्क सही है। यदि कोई निष्कर्ष झूठा लगता है, तो वह सोचता है कि तर्क गलत है, भले ही तर्क एकदम सटीक हो।
- नकार (Negation) की समस्या: AI विशेष रूप से तब भ्रमित होता है जब नियमों में "नहीं" (negation) शामिल होता है। यदि आप कहते हैं, "सूअर पक्षी नहीं हैं," तो AI का दिमाग काम करना बंद कर देता है क्योंकि वह अपने स्वयं के ज्ञान से लड़ रहा होता है।
3. समाधान: "फ्लैग एंड रीजन" (Flag & Reason - FaR)
शोधकर्ताओं ने एक चतुर और सरल तकनीक विकसित की है जो इंसानों के सोचने के तरीके से प्रेरित है। वे इसे Flag & Reason (FaR) कहते हैं।
इसे AI के मस्तिष्क के लिए एक सुरक्षा जांच चौकी (security checkpoint) की तरह समझें, जो पहेली सुलझाने से पहले शुरू होती है।
- चरण 1: फ्लैग (वास्तविकता की जाँच): तर्क की समस्या को हल करने से पहले, शोधकर्ता AI से एक सरल प्रश्न पूछते हैं: "क्या यह कथन वास्तविक दुनिया में सत्य है?"
- AI: "नहीं, सूअर पक्षी नहीं हैं। यह गलत है।"
- जादू: इस बात को ज़ोर से स्वीकार करके, AI अपने वास्तविक दुनिया के ज्ञान और काल्पनिक खेल के बीच एक मानसिक "दीवार" बना लेता है। वह स्वीकार करता है कि संघर्ष मौजूद है।
- चरण 2: रीजन (तर्क का खेल): अब जब AI ने संघर्ष को "फ्लैग" कर दिया है, तो उसे निर्देश दिया जाता है: "ठीक है, अब उस तथ्य को भूल जाओ जिसे तुमने अभी स्वीकार किया था। जो नियम मैंने दिए हैं, उनके आधार पर खेल खेलो।"
- AI: "समझ गया। इस काल्पनिक दुनिया में जहाँ सूअर पक्षी हैं, तो हाँ, तर्क सही है।"
4. परिणाम: एक स्मार्ट AI
जब उन्होंने इस "Flag & Reason" पद्धति का उपयोग किया:
- AI का प्रदर्शन अंतराल (वास्तविक-दुनिया के तर्क और नकली-दुनिया के तर्क के बीच का अंतर) 14% से घटकर केवल 7% रह गया।
- समग्र सटीकता 4% बढ़ गई।
- उपमा: यह एक छात्र को यह बताने जैसा है, "मुझे पता है कि तुम जानते हो कि 2+2=4 होता है। लेकिन इस गणित के टेस्ट के लिए, मान लो कि 2+2=5 है। अब, यदि मेरे पास दो सेब हैं और मैं दो और जोड़ता हूँ, तो मेरे पास कितने होंगे?"
- "Flag" के बिना, छात्र घबरा जाता है: "लेकिन 2+2 तो 4 होता है!"
- "Flag" के साथ, छात्र कहता है, "ओह, आप चाहते हैं कि मैं मान लूँ कि 2+2=5 है? ठीक है, तो फिर 2+2=5 है।"
5. यह क्यों महत्वपूर्ण है?
यह शोध पत्र सिद्ध करता है कि समस्या यह नहीं है कि AI तर्क में "मूर्ख" है। समस्या यह है कि वह तथ्यों के मामले में "बहुत स्मार्ट" है। वह अपनी "विश्वकोश मोड" (encyclopedia mode) को बंद करके "कल्पना मोड" (imagination mode) में नहीं आ पाता।
AI को रुकने और संघर्ष को स्वीकार करने के लिए सिखाकर, हम इसे एक अधिक विश्वसनीय विचारक बनाते हैं। यह AI को रचनात्मक लेखन, वैज्ञानिक "क्या होगा अगर" परिदृश्यों और जटिल वार्ताओं को बिना अपनी ही याददाश्त में उलझे संभालने में सक्षम बनाने की दिशा में एक बड़ा कदम है।
संक्षेप में: AI एक तथ्य-जांचकर्ता (fact-checker) होने के साथ-साथ एक तर्कशास्त्री (logician) बनने की कोशिश कर रहा था। शोधकर्ताओं ने उसे पहले तथ्य-जांचकर्ता बनना, तथ्यों को एक बॉक्स में रखना, और फिर तर्कशास्त्री बनना सिखाया। और यह काम कर गया!
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।