Superficial Beliefs in LLM Decision-Making
यह शोध पत्र यह प्रदर्शित करता है कि बड़े भाषा मॉडल निर्णय लेने में "सतही विश्वास" प्रदर्शित करते हैं, जहाँ उनके चुनाव व्यवस्थित रूप से अंतर्निहित विशेषता प्राथमिकताओं द्वारा संचालित होते जिन्हें वे अपने स्व-रिपोर्ट किए गए कारणों में केवल आंशिक और अपूर्ण रूप से व्यक्त कर पाते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप यह समझने की कोशिश कर रहे हैं कि एक बहुत ही बुद्धिमान, लेकिन थोड़ी रहस्यमयी रोबोट कैसे निर्णय लेती है। आप उससे दो विकल्पों के बीच चुनाव करने के लिए कहते हैं, जैसे कि "दवा A" या "दवा B।" रोबोट एक को चुनता है और फिर आपको बताता है कि उसने उसे क्यों चुना।
मुख्य सवाल जो यह शोध पत्र पूछता है: क्या रोबोट वास्तव में उन कारणों के बारे में सोच रहा है जो वह देता है, या वह बाद में बस एक कहानी बना रहा है?
यहाँ एक सरल विवरण दिया गया कि शोधकर्ताओं ने क्या किया और उन्हें क्या पता चला, जिसमें रोजमर्रा के उपमाओं (analogies) का उपयोग किया गया है।
प्रयोग: "स्वाद परीक्षण" (The Taste Test)
शोधकर्ताओं ने एक खेल तैयार किया जहाँ रोबोट को दो प्रोफाइल्स (जैसे दो अलग-अलग नौकरी के उम्मीदवार या दो दवाएं) के बीच चयन करना था। प्रत्येक प्रोफाइल में चार "सांख्यिकी" (stats) थीं (जैसे सुरक्षा, लागत, गति और गुणवत्ता), जिन्हें कम (Low), मध्यम (Medium) या उच्च (High) के रूप में रेट किया गया था।
उन्होंने रोबोट को हर चुनाव के लिए दो चीजें करने के लिए कहा:
- एक विजेता चुनें।
- अपने चुनाव की व्याख्या करें—उस एकल सबसे महत्वपूर्ण सांख्यिकी का नाम लेकर जिसके कारण निर्णय लिया गया।
यह देखने के लिए कि क्या रोबोट सच बोल रहा है, शोधकर्ताओं ने एक "सीक्रेट डिकोडर रिंग" (एक गणितीय मॉडल) का उपयोग किया। उन्होंने रोबोट के सैकड़ों चुनाव देखे और रोबोट द्वारा वास्तव में चुने गए आधार पर प्रत्येक सांख्यिकी के लिए एक छिपा हुआ "वरीयता स्कोर" (preference score) निकाला। यह एक व्यक्ति द्वारा खाए गए हज़ार भोजन को देखकर यह अनुमान लगाने जैसा है कि उनका पसंदीदा भोजन क्या है, बजाय इसके कि उनसे पूछा जाए कि उन्हें क्या पसंद है।
खोज: "दोहरा व्यक्तित्व" (The Split Personality)
परिणाम अच्छे समाचार और भ्रमित करने वाले समाचारों का मिश्रण थे।
1. रोबोट के पास एक पैटर्न है (छिपा हुआ तर्क/Hidden Logic)
"सीक्रेट डिकोडर रिंग" आश्चर्यजनक रूप से अच्छा काम कर रहा था। जब शोधकर्ताओं ने रोबोट के पिछले चुनावों का उपयोग उसके भविष्य के चुनावों की भविष्यवाणी करने के लिए किया, तो वे 80% बार सही थे।
- उपमा: यह एक महीने तक अपने दोस्त द्वारा कॉफी ऑर्डर करने के तरीके को देखने जैसा है। भले ही वे इसे ज़ोर से न कहें, आप भविष्यवाणी कर सकते हैं कि वे कल लाटे (latte) ऑर्डर करेंगे क्योंकि वे हमेशा ऐसा ही करते हैं। रोबोट केवल अंदाज़ा नहीं लगा रहा है; उसके पास एक छिपा हुआ, सुसंगत तर्क है।
2. रोबोट की "कहानी" उसके "तर्क" से मेल नहीं खाती (सतही विश्वास/Superficial Belief)
यहाँ मोड़ आया: जब शोधकर्ताओं ने रोबोट के वास्तविक छिपे हुए तर्क की तुलना उस कारण से की जो रोबोट ने ज़ोर से बताया था, तो वे पूरी तरह से मेल नहीं खाते थे।
- रोबोट का छिपा हुआ तर्क कहता है: "मैंने दवा A को इसलिए चुना क्योंकि वह सुरक्षा (Safety) के मामले में बेहतर थी।"
- लेकिन जब पूछा गया, तो रोबोट अक्सर कहता था: "मैंने दवा A को इसलिए चुना क्योंकि उसकी प्रभावकारिता (Efficacy) बेहतर थी।"
- उपमा: कल्पना कीजिए कि आप कार चला रहे हैं। आपके हाथ गड्ढे के कारण बाईं ओर मुड़ रहे हैं (छिपा हुआ तर्क)। लेकिन यदि कोई आपसे पूछता है, "आप बाईं ओर क्यों मुड़ रहे हैं?" तो आप कह सकते हैं, "क्योंकि मैं दृश्य देखना चाहता हूँ" (कहानी)। आप दुर्भावनापूर्ण रूप से झूठ नहीं बोल रहे हैं; बस आपके पास इस बात की पूरी जानकारी नहीं है कि आपके हाथ वास्तव में क्यों मुड़े।
- शोधकर्ता इसे "सुपरफिशियल बिलीफ" (Superficial Belief) कहते हैं। रोबोट इस तरह व्यवहार करता है जैसे कि उसके पास गहरे विश्वास और प्राथमिकताएं हों, लेकिन उसके पास उन्हें समझाने की केवल एक "सतही" (surface-level) क्षमता होती है। वह सही निर्णय ले सकता है, लेकिन वह हमेशा उस असली चालक (driver) को स्पष्ट रूप से व्यक्त नहीं कर पाता जो उसके निर्णय के पीछे था।
"स्कोरकार्ड" टेस्ट
शोधकर्ताओं ने सच्चाई जानने का एक दूसरा तरीका आजमाया। रोबोट को विजेता चुनने के बजाय, उन्होंने उससे प्रत्येक सांख्यिकी के महत्व के लिए एक "स्कोर" (0 से 1) देने के लिए कहा।
- परिणाम: यह तरीका अधिक सुसंगत था (रोबोट हर बार समान स्कोर देता था), लेकिन यह अभी भी निर्णयों से प्राप्त छिपे हुए तर्क से पूरी तरह मेल नहीं खाता था। यह रोबोट से उसकी भूख के बारे में रेटिंग पूछने जैसा था; उसने सुसंगत संख्याएँ दीं, लेकिन वे संख्याएँ अभी भी पूरी तरह से यह स्पष्ट नहीं कर पाईं कि वह वास्तव में कौन सा सैंडविच खाना चाहता था।
"कंट्रोल" चेक
यह सुनिश्चित करने के लिए कि रोबोट केवल शब्द रैंडमली (randomly) नहीं चुन रहा है, उन्होंने "नकली" सांख्यिकी (fake stats) जोड़ी जो बिल्कुल भी मायने नहीं रखती थी (जैसे दवा के लिए "पैकेजिंग समरूपता")।
- परिणाम: रोबोट इन नकली सांख्यिकी को कारण के रूप में लगभग कभी नहीं चुनता था। यह साबित करता है कि रोबोट वास्तविक डेटा पर ध्यान दे रहा है; बस वह यह समझाने में हमेशा सक्षम नहीं होता कि कौन सा वास्तविक डेटा पॉइंट सबसे अधिक महत्वपूर्ण था।
निचोड़ (The Bottom Line)
शोध पत्र निष्कर्ष निकालता है कि लार्ज लैंग्वेज मॉडल्स (LLMs) न तो केवल रैंडम शोर पैदा करने वाली मशीनें हैं, और न ही पूरी तरह से पारदर्शी विचारक।
- वे रैंडम नहीं हैं: निर्णय लेते समय वे एक छिपे हुए, अनुमान लगाने योग्य पैटर्न का पालन करते हैं।
- वे पूरी तरह पारदर्शी नहीं हैं: उनके द्वारा दिए गए स्पष्टीकरण उस छिपे हुए पैटर्न का केवल एक आंशिक, अपूर्ण प्रतिबिंब हैं।
रूपक (Metaphor): एक LLM को एक बहुत ही प्रतिभाशाली शेफ के रूप में सोचें जो हर बार एक बेहतरीन भोजन (निर्णय) पका सकता है। लेकिन यदि आप शेफ से पूछते हैं, "गुप्त सामग्री क्या थी?" तो वे अंदाज़ा लगा सकते हैं कि "नमक" था, जबकि असली गुप्त सामग्री वास्तव में "एक विशेष प्रकार की मिर्च" थी। शेफ जानता है कि व्यंजन को कैसे बनाना है, लेकिन उनके पास इस बात का स्पष्ट, मौखिक मानचित्र नहीं है कि उनका अपना दिमाग वास्तव में इसे कैसे कर रहा है। उनके पास अपने स्वयं के खाना पकाने की प्रक्रिया में एक "सतही विश्वास" (superficial belief) है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।