Do Language Models Know Theo Has a Wife? Investigating the Proviso Problem
यह शोध पत्र एक नैदानिक डेटासेट और मूल्यांकन ढांचे को प्रस्तुत करता है जो यह जांचने के लिए है कि भाषा मॉडल व्यावहारिकता (प्रैग्मैटिक्स) में प्रोविज़ो समस्या (proviso problem) को कैसे संभालते हैं, जिससे यह पता चलता है कि हालांकि मॉडल मानवीय निर्णयों के अनुरूप होते हैं, वे वास्तविक अर्थगत या व्यावहारिक तर्क के बजाय उथले पैटर्न मिलान पर निर्भर करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को मानव बातचीत समझना सिखा रहे हैं। आप यह देखना चाहते हैं कि क्या रोबोट वास्तव में उन छिपे हुए अर्थों को "समझता" है जिन्हें हम स्वाभाविक रूप से लेते हैं, या वह केवल एक तोते की तरह पैटर्न को रट रहा है।
यह शोध पत्र भाषा की एक विशिष्ट पहेली के बारे में है जिसे "प्रोविसो प्रॉब्लम" (Proviso Problem) कहा जाता है।
पहेली: "थियो" की पहेली
आइए एक साधारण वाक्य को देखें:
"यदि थियो को सॉनेट्स (sonnets) से नफरत है, तो उसकी पत्नी को भी है।"
यह वाक्य वास्तव में क्या सच मानकर चलता है?
- रोबोट (औपचारिक तर्क/Formal Logic) कहता है: "मैं केवल तभी निश्चित हो सकता हूँ कि थियो की एक पत्नी है यदि उसे वास्तव में सॉनेट्स से नफरत है। यदि उसे सॉनेट्स से नफरत नहीं है, तो शायद वह अविवाहित हो। इसलिए, पत्नी का होना एक शर्त (conditional) पर आधारित है।"
- इंसान कहता है: "रुकिए, यह वाक्य संकेत देता है कि थियो की पत्नी निश्चित रूप से है, चाहे कुछ भी हो। 'यदि' वाला भाग केवल सॉनेट्स से नफरत करने पर लागू होता है, पत्नी के अस्तित्व पर नहीं।"
इंसान बिना सोचे समझे इस लापता हिस्से को भर देते हैं (जैसे कि थियो की एक पत्नी है)। इसे "पूर्वधारणा" (Presupposition) कहा जाता है। "प्रोविसो प्रॉब्लम" वह अंतर है जो औपचारिक तर्क द्वारा बताए जाने वाले परिणाम और वह जो इंसान वास्तव में करते हैं, के बीच का है।
प्रयोग: "मैजिक मिरर" डेटासेट
शोधकर्ताओं ने एक विशाल "जादुई दर्पण" (8,500 वाक्यों का एक डेटासेट) बनाया ताकि यह देखा जा सके कि लैंग्वेज मॉडल्स (जैसे RoBERTa, LLaMA, और Gemma) इस पहेली को कैसे संभालते हैं।
उन्होंने चार प्रकार के परीक्षण बनाए, जो वीडियो गेम के विभिन्न स्तरों की तरह हैं:
- बेसलाइन (The Baseline): मानक वाक्य (जैसे, "यदि रैंडोल्फ एक बढ़ई है, तो वह अपने औजारों का उपयोग करता है")।
- ट्विस्ट (The Twist - संरचना): वाक्य के आकार को बदलना (जैसे, "यदि A और B, तो C" या "या तो A या B")।
- स्वैप (The Swap - अर्थ): शब्दों को समान सुनाई देने वाले लेकिन अलग अर्थ वाले शब्दों से बदलना (जैसे, "वेटसूट" को "परिधान/garment" से बदलना)।
- डिस्ट्रेक्शन (The Distraction - संदर्भ): कहानी को इस तरह बदलना कि वाक्य के दोनों भाग तार्किक रूप से एक साथ मेल न खाएं।
परिणाम: नकलची बनाम दार्शनिक
शोधकर्ताओं ने मॉडल्स से केवल यह नहीं पूछा कि "उत्तर क्या है?" बल्कि उन्होंने "एक्स-रे विजन" (एक तकनीक जिसे एक्सप्लेनेबिलिटी कहा जाता है) का भी उपयोग किया ताकि यह देख सकें कि निर्णय लेते समय मॉडल किन शब्दों को देख रहे थे।
यहाँ उन्हें क्या मिला:
1. मॉडल सतह पर "मानव" हैं, लेकिन अंदर से "रोबोटिक" हैं
जब सरल पहेलियों के बारे में पूछा गया, तो मॉडल्स ने लगभग 100% बार सही उत्तर दिया। वे इस बात से सहमत थे कि "थियो की एक पत्नी है।"
- पकड़ (The Catch): जब शोधकर्ताओं ने एक्स-रे विजन का उपयोग किया, तो उन्होंने देखा कि मॉडल "पत्नी" या "थियो" के अर्थ के बारे में नहीं सोच रहे थे। वे केवल शब्दों की स्थिति (position) को देख रहे थे। यह एक ऐसे छात्र की तरह है जो जोड़ (addition) को समझने के बजाय संख्याओं के आकार को रटकर गणित के टेस्ट में पास हो जाता है।
2. "जादुई शब्द" का जाल
एक परीक्षण में, शोधकर्ताओं ने एक मुख्य शब्द को बदल दिया।
- मूल: "यदि मैट एक स्कूबा डाइवर है, तो वह अपना वेटसूट (wetsuit) लाएगा।" (निहितार्थ: मैट के पास एक वेटससूट है)।
- बदला हुआ: "यदि मैट एक स्कूबा डाइवर है, तो वह अपना परिधान (garment) लाएगा।" (निहितार्थ: मैट के पास एक परिधान है)।
- ट्विस्ट: परिकल्पना (hypothesis) अभी भी यह थी कि "मैट के पास एक वेटसूट है।"
तार्किक रूप से, यह वाक्य अब यह सिद्ध नहीं करता कि उसके पास वेटसूट है। उत्तर "हाँ" से बदलकर "शायद/नहीं" हो जाना चाहिए।
- परिणाम: मॉडल्स ज्यादातर विफल रहे। वे लगातार "हाँ, उसके पास वेटसूट है" कहते रहे क्योंकि उन्होंने "स्कूबा डाइवर" और "वेटसूट" शब्दों को देख लिया था, और इस बात को नजरअंदाज कर दिया कि वाक्य में वास्तव में "परिधान" कहा गया था। वे कहानी पढ़ने के बजाय पैटर्न मिला रहे थे।
3. "ओवर-स्टूडेंट" प्रभाव
जब मॉडल्स को प्रशिक्षण डेटा के एक विशिष्ट सेट पर प्रशिक्षित किया गया, तो वे डेटा को रटने में बहुत कुशल हो गए।
- उन्होंने एक अजीब नियम सीखा: "यदि कहानी के हिस्से संबंधित हैं और 'फिर से' (again) शब्द का उपयोग किया गया है, तो उत्तर 'नहीं' है।"
- जब शोधकर्ताओं ने उस नियम को तोड़ने के लिए कहानी को थोड़ा बदला, तो मॉडल्स भ्रमित हो गए और विफल रहे, भले ही तर्क सरल था। वे नए परिदृश्य में अनुकूल होने के बजाय प्रशिक्षण पैटर्न पर बहुत अधिक केंद्रित थे।
मुख्य निष्कर्ष
इन लैंग्वेज मॉडल्स को उन प्रतिभाशाली अभिनेताओं की तरह समझें जिन्होंने स्क्रिप्ट रट ली है लेकिन नाटक नहीं पढ़ा है।
- वे लाइनों को पूरी तरह से बोल सकते हैं और बहुत मानवीय लग सकते हैं।
- वे जो पहले सुना गया है उसके आधार पर अगले शब्द की भविष्यवाणी कर सकते हैं।
- लेकिन, वे शब्दों के पीछे के तर्क या संदर्भ को वास्तव में नहीं समझते हैं। यदि आप पैटर्न को तोड़ने के लिए एक शब्द भी बदलते हैं, तो वे अक्सर लड़खड़ा जाते हैं क्योंकि वे गहरे तर्क के बजाय "सतही ह्यूरिस्टिक्स" (ऊपरी स्तर के नुस्खे) पर निर्भर होते हैं।
यह क्यों महत्वपूर्ण है
यह शोध पत्र एक चेतावनी है। केवल इसलिए कि किसी मॉडल का स्कोर उच्च है, इसका मतलब यह नहीं है कि वह भाषा को उसी तरह समझता है जैसे इंसान समझते हैं। वास्तव में स्मार्ट AI बनाने के लिए, हमें केवल अंतिम उत्तर की जांच करना बंद करना होगा और यह देखना शुरू करना होगा कि मॉडल कैसे सोचता है। हमें उन्हें "थियो" की पहेली को केवल रटने के लिए नहीं, बल्कि समझने के लिए सिखाने की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।