Beyond Math: Stories as a Testbed for Memorization-Constrained Reasoning in LLMs
यह शोधपत्र 'जिस्ट' (gist) और 'वर्बेटिम' (verbatim) स्मृति के बीच अंतर करके लार्ज लैंग्वेज मॉडल्स में रटने (memorization) की प्रवृत्ति को कम करने की एक विधि प्रस्तुत करता है, जो यह प्रकट करता है कि लोकप्रिय काल्पनिक कृतियों पर आधारित मौजूदा बेंचमार्क डेटा कंटैमिनेशन (data contamination) के कारण पात्रों की वास्तविक समझ का अतिरंजित अनुमान लगाते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक प्रसिद्ध टीवी शो पर आधारित एक परीक्षा दे रहे हैं जिसे आपने सौ बार देखा है। प्रश्न पूछता है, "यह पंक्ति किसने कही थी?"
यदि आप एक इंसान हैं जिसने वास्तव में वह शो देखा है, तो आप पात्र के व्यक्तित्व को याद करके उत्तर दे सकते हैं: "ओह, यह निश्चित रूप से शेल्डन है। वह वही है जो हमेशा तापमान के बारे में शिकायत करता है और बड़े शब्दों का उपयोग करता है।" आप तर्क (reasoning) का उपयोग कर रहे हैं।
लेकिन क्या होगा यदि आप एक सुपर-स्मार्ट कंप्यूटर हैं जिसने उस शो की पूरी स्क्रिप्ट हजारों बार पढ़ी है? यह "सोच" नहीं सकता कि व्यक्तित्व क्या है। इसके बजाय, यह बस कह सकता है, "मुझे अपने मेमोरी बैंक से यह सटीक वाक्य याद है। उत्तर शेल्डन है।" यह रटना (memorization) है।
यह शोध पत्र, जिसका शीर्षक है "Beyond Math: Stories as a Testbed for Memorization-Constrained Reasoning," एक बड़े सवाल की जांच करता है: क्या AI मॉडल वास्तव में "सोच" रहे हैं, या वे केवल उत्तर रटकर नकल (चीटिंग) कर रहे हैं?
यहाँ उनके अध्ययन का सरल उपमाओं (analogies) के साथ विवरण दिया गया है:
1. समस्या: "चीट शीट" प्रभाव (The "Cheat Sheet" Effect)
शोधकर्ताओं ने देखा कि जब AI मॉडल (LLMs) कहानियों, फिल्मों या टीवी शो के बारे में टेस्ट देते हैं, तो वे अक्सर परफेक्ट स्कोर प्राप्त करते हैं। लेकिन लेखकों को संदेह है कि AI वास्तव में कहानी को समझ नहीं रहा है। वह बस उन सटीक शब्दों को याद कर रहा है जो उसने अपने प्रशिक्षण (training) के दौरान देखे थे, ठीक वैसे ही जैसे एक छात्र गणित सीखने के बजाय उत्तर कुंजी (answer key) को रट लेता है।
वास्तविक जीवन में, हम चाहते हैं कि AI एक कहानी को समझने में सक्षम हो, भले ही उसने वह सटीक वाक्य पहले न देखा हो। हम चाहते हैं कि वह तर्क (reasoning) (सुरागों को जोड़ना) का उपयोग करे, न कि शब्दशः स्मरण (verbatim recall) (याददाश्त से कॉपी करना) का।
2. प्रयोग: AI को परखने के दो तरीके
यह पता लगाने के लिए कि AI सोच रहा है या केवल रट रहा है, शोधकर्ताओं ने मानव स्मृति के काम करने के तरीके से प्रेरित एक ढांचे का उपयोग करके दो अलग-अलग "टेस्ट कंडीशंस" बनाईं:
"जिस्ट" टेस्ट (The "Gist" Test - इंडक्टिव सेटिंग):
कल्पना कीजिए कि आप एक टेस्ट दे रहे हैं, लेकिन शिक्षक आपको एक संकेत देता है: "सिर्फ नाम का अनुमान न लगाएं। सुरागों को देखें! कौन मजाकिया है? कौन गुस्से में है? कौन जासूस है?"
शोधकर्ताओं ने AI को सटीक नामों को अनदेखा करने और कहानी के अर्थ (gist) पर ध्यान केंद्रित करने के लिए कहा। उन्होंने AI से कहानी के पात्रों के व्यक्तित्व का उपयोग करके पहेली सुलझाने को कहा।- परिणाम: AI का स्कोर थोड़ा कम हो गया (लग लगभग 10%)। इसका मतलब है कि संकेत काम कर गया! AI को अपनी "चीट शीट" पर निर्भर रहने से रोकने और वास्तव में तर्क करने के लिए मजबूर किया गया।
"नाम बदलने" वाला टेस्ट (The "Name Swap" Test - रिस्ट्रिक्टिव सेटिंग):
यह असली निर्णायक प्रहार था। शोधकर्ताओं ने कहानी ली और सभी पात्रों के नाम बदल दिए।- "शेल्डन" के बजाय, उन्होंने "जी चांग" का उपयोग किया।
- "मोनिका" के बजाय, उन्होंने "बोजिंग" का उपयोग किया।
- "रॉस" के बजाय, उन्होंने "मैलिन" का उपयोग किया।
उन्होंने ऐसा AI की याददाश्त को तोड़ने के लिए किया। यदि AI केवल "शेल्डन ने यह पंक्ति कही" को रट रहा था, तो वह "जी चांग ने यह पंक्ति कही" देखते ही पूरी तरह से खो जाएगा। - परिणाम: AI का प्रदर्शन धड़ाम से गिर गया। कुछ मामलों में, सटीकता लगभग 45% तक गिर गई। इससे साबित हुआ कि AI अपनी मूल याददाश्त और स्क्रिप्ट पर बहुत अधिक निर्भर था, न कि कहानी के वास्तविक तर्क पर।
3. बड़ी खोज
अध्ययन में पाया गया कि:
- AI को चीटिंग करना पसंद है: जब अनुमति दी जाती है, तो AI मॉडल केवल अपने प्रशिक्षण डेटा से सटीक तथ्यों को याद करना पसंद करते हैं क्योंकि यह सोचने की तुलना में आसान और तेज़ होता है।
- AI सोचना सीख सकता है: जब शोधकर्ताओं ने AI को अपनी "चीट शीट" का उपयोग करने से रोका (नाम बदलकर या "तर्क" के संकेत देकर), तो AI अभी भी समस्याओं को हल कर सकता था, लेकिन वह उन्हें गलत करता था। यह दर्शाता है कि AI के पास तर्क करने की क्षमता है, लेकिन यदि वह केवल रट सकता है, तो वह आमतौर पर इसका उपयोग नहीं करता है।
- वर्तमान परीक्षण झूठ बोल रहे हैं: कई लोकप्रिय टेस्ट जिनका उपयोग हम यह कहने के लिए करते हैं कि "AI स्मार्ट है", वास्तव में केवल यह माप रहे होते हैं कि AI ने प्रसिद्ध फिल्मों और किताबों को कितनी अच्छी तरह से रटा है।
4. समाधान: AI को "स्टीयर" (Steer) करना
यह पेपर AI को टेस्ट करने और प्रशिक्षित करने का एक नया तरीका सुझाता है। केवल "किसने कहा?" पूछने के बजाय, हमें ऐसे टेस्ट डिजाइन करने चाहिए जो रटने के शॉर्टकट को ब्लॉक करें।
- यदि आप नाम बदलते हैं (जैसे "मोनिका" को "बोजिंग" से बदलना), तो AI चीटिंग नहीं कर सकता।
- यदि आप इसे एक प्रॉम्प्ट देते हैं जो कहता है, "तर्क का उपयोग करें, स्मृति का नहीं," तो AI तर्क करने में बेहतर प्रदर्शन करता है।
सारांश उपमा (Summary Analogy)
AI को एक छात्र की तरह समझें जो इतिहास की परीक्षा दे रहा है।
- वर्तमान बेंचमार्क: छात्र एक 'A' ग्रेड प्राप्त करता है क्योंकि उसने पाठ्यपुस्तक को शब्द-दर-शब्द रट लिया है।
- "नाम बदलने" वाला टेस्ट: शिक्षक सभी ऐतिहासिक पात्रों के नाम बदल देता है (जैसे "जॉर्ज वाशिंगटन" बन जाता है "जॉन स्मिथ")। छात्र बुरी तरह विफल हो जाता है क्योंकि उसने घटनाओं को नहीं सीखा, उसने केवल नामों को रटा था।
- "जिस्ट" प्रॉम्प्ट: शिक्षक कहता है, "नामों को मत देखो। कार्यों को देखो। वह जनरल कौन था जिसने नदी पार की थी?" छात्र को सोचना पड़ता है। वह सही हो सकता है, लेकिन इसमें अधिक प्रयास लगता है।
मुख्य बात (The Bottom Line):
यह पेपर तर्क देता है कि यह जानने के लिए कि AI वास्तव में स्मार्ट है या नहीं, हमें उसे प्रसिद्ध कहानियों की "फोटोग्राफिक मेमोरी" का उपयोग करने से रोकना होगा। हमें इसे इस तरह से टेस्ट करना होगा कि यह अपने दिमाग (तर्क) का उपयोग करने के लिए मजबूर हो, न कि अपने हार्ड ड्राइव (रटने) का। जब हम ऐसा करते हैं, तो हम पाते हैं कि AI जितना हमने सोचा था उससे बहुत अधिक पूर्ण नहीं है, लेकिन यदि हम इसे सही ढंग से निर्देशित करें, तो यह वास्तविक समझ रखने में सक्षम है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।