The Shape of Wisdom: Decision Trajectories in Language Models
यह शोध पत्र तीन भाषा मॉडलों के माध्यम से 9,000 निर्णय प्रक्षेप पथों (decision trajectories) का विश्लेषण करता है ताकि यह प्रकट किया जा सके कि शुद्धता (correctness) और स्थिरता (stability) अलग-अलग गुण हैं, जो यह प्रदर्शित करता है कि अटेंशन मैकेनिज्म मुख्य रूप से स्थिर सही उत्तरों को संचालित करते हैं जबकि विशिष्ट टेक्स्ट स्पैन निर्णय मार्जिन को महत्वपूर्ण रूप से प्रभावित करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक दौड़ देख रहे हैं जहाँ फिनिश लाइन केवल एक क्षण नहीं, बल्कि एक लंबा, घुमावदार रास्ता है। अधिकांश लोग केवल इस बात पर ध्यान देते हैं कि फिनिश लाइन को सबसे पहले कौन पार करता है (अंतिम उत्तर)। लेकिन यह शोध पत्र हमसे उस पूरी पूरी दौड़ को देखने के लिए कहता है कि धावक वास्तव में वहां कैसे पहुंचे।
यहाँ "द शेप ऑफ विजडम" (The Shape of Wisdom) नामक शोध पत्र की कहानी है, जिसे सरल अवधारणाओं में तोड़कर समझाया गया है:
1. दौड़ एक यात्रा है, न कि एक स्नैपशॉट
आमतौर पर, हम एक AI मॉडल को एक मशीन के रूप में देखते हैं जो एक प्रश्न पढ़ती है और तुरंत उत्तर (A, B, C, या D) उगल देती है। यह शोध पत्र तर्क देता है कि यह गलत है। मॉडल के भीतर, उत्तर वास्तव में एक यात्रा है जो परत-दर-परत (layer by layer) होती है, जैसे सीढ़ियाँ चढ़ना।
सीढ़ियों के निचले हिस्से में (शुरुआती परतों में), मॉडल गलत उत्तर की ओर झुक सकता है। बीच में, वह भ्रमित हो सकता है, दो विकल्पों के बीच के किनारे पर झूल रहा हो सकता है। शीर्ष तक पहुँचते-पहुँचते, वह अंततः सही निर्णय ले सकता है। या, वह जल्दी सही निर्णय ले सकता है, फिर डगमगा सकता है और अपना मन बदलने ही वाला होता है, और फिर बिल्कुल अंत में वापस स्थिर हो जाता है।
लेखक इस पथ को "ट्रैजेक्टरी" (trajectory) कहते हैं। वे ट्रैक करते हैं कि हर कदम पर मॉडल सही उत्तर को सबसे अच्छे गलत उत्तर की तुलना में कितना "पसंद" करता है।
2. चार प्रकार के धावक
इन यात्राओं को देखकर, शोधकर्ताओं ने पाया कि मॉडल केवल "सही" या "गलत" उत्तर नहीं देते। वे चार अलग-अलग व्यक्तित्व प्रकारों में आते हैं:
- स्टेबल-करेक्ट (Stable-Correct): मॉडल जल्दी सही उत्तर समझ लेता है और पूरे रास्ते आत्मविश्वास के साथ उसी पर टिका रहता है। (आत्मविश्वासी विजेता)।
- स्टेबल-वोंग (Stable-Wrong): मॉडल जल्दी गलत उत्तर चुन लेता है और आत्मविश्वास के साथ उसी पर टिका रहता है। (आत्मविश्वासी हारने वाला)।
- अनस्टेबल-करेक्ट (Unstable-Correct): मॉडल अंततः सही उत्तर प्राप्त करता है, लेकिन यह एक डगमगाता हुआ सफर था। वह डगमगाया, लगभग अपना मन बदल लिया, और बिल्कुल आखिरी सेकंड में सही उत्तर पर टिका। (घबराया हुआ विजेता)।
- अनस्टेबल-वोंग (Unstable-Wrong): मॉडल गलत उत्तर चुनता है, डगमगाता है, लगभग अपना मन बदल लेता है, लेकिन अंततः गलत ही रहता है। (घबराया हुआ हारने वाला)।
बड़ी हैरानी: उनके अध्ययन में सबसे आम समूह Unstable-Correct था। इसका मतलब है कि भले ही AI सही उत्तर दे रहा है, लेकिन अक्सर वह बिल्कुल आखिरी क्षण तक उस पर "स्थिर" नहीं होता है। यह एक सही उत्तर है जो बड़ी मुश्किल से टिका हुआ था।
3. धावक को क्या धक्का देता है? (इंजन रूम)
एक बार जब उन्हें पता चल गया कि मॉडल कैसे चलते हैं, तो उन्होंने पूछा कि उन्हें क्या धक्का दे रहा है। उन्होंने AI के भीतर दो मुख्य "इंजनों" को देखा:
- अटेंशन (Attention): यह मॉडल की आँखों की तरह है, जो प्रश्न को स्कैन करती है कि कौन से शब्द महत्वपूर्ण हैं।
- MLP (फीड-फॉरवर्ड): यह मॉडल की आंतरिक सोच या स्मृति की तरह है, जो उसने देखा उसे प्रोसेस करती है।
उन्होंने एक दिलचस्प विभाजन पाया:
- Stable-Correct मामलों में, Attention इंजन वह था जो लगातार मॉडल को सही उत्तर की ओर, हर कदम पर धकेल रहा था।
- MLP इंजन, आश्चर्यजनक रूप से, अक्सर गलत दिशा में धकेलता था या इन स्थिर मामलों में ज्यादा मदद नहीं करता था।
4. "डिलीट" प्रयोग
यह साबित करने के लिए कि क्या महत्वपूर्ण था, शोधकर्ताओं ने "मिटाओ और देखो" का खेल खेला। उन्होंने प्रश्न के टेक्स्ट के विशिष्ट हिस्सों को हटा दिया:
- "साक्ष्य" (Evidence) को हटाना: जब उन्होंने उस हिस्से को हटा दिया जो वास्तव में सही उत्तर का समर्थन करता था, तो सही उत्तर में मॉडल का आत्मविश्वास गिर गया।
- "डिस्ट्रैक्टर्स" (Distractors) को हटाना: जब उन्होंने भ्रमित करने वाले या गलत हिस्सों को हटाया, तो सही उत्तर में मॉडल का आत्मविश्वास वास्तव में बढ़ गया।
इससे यह सिद्ध हुआ कि मॉडल वास्तव में शब्दों के अर्थ के प्रति प्रतिक्रिया कर रहा है, न कि केवल अनुमान लगा रहा है।
5. "टाइम ट्रैवल" टेस्ट
अंत में, उन्होंने एक अजीब प्रयोग किया: उन्होंने एक "घबराए हुए" मॉडल को लिया जो विफल हो रहा था और उसके आंतरिक "इंजन के पुर्जों" को एक "आत्मविश्वासी" मॉडल के साथ बदलने की कोशिश की जो सफल हो रहा था।
- जब उन्होंने Attention के हिस्सों को बदला, तो इससे थोड़ी मदद मिली।
- जब उन्होंने MLP के हिस्सों (आंतरिक सोच) को बदला, तो इससे बहुत बड़ा अंतर आया, जिसने अक्सर एक विफल होने वाले मॉडल को विजेता में बदल दिया।
यह सुझाव देता है कि जबकि अटेंशन मॉडल को कदम-दर-कदम ट्रैक पर रहने में मदद करता है, वहीं गहरी आंतरिक प्रोसेसिंग (MLP) ही है जो अंतिम निर्णय को पक्का करती है।
मुख्य निष्कर्ष
शोध पत्र निष्कर्ष निकालता है कि सही होना, स्थिर होने के समान नहीं है।
सिर्फ इसलिए कि एक AI आपको सही उत्तर दे रहा है, इसका मतलब यह नहीं है कि वह इसे "जानता" है। यह एक इत्तेफाक, आखिरी सेकंड की घबराहट, या एक डगमगाता हुआ अनुमान हो सकता है। मॉडल की "बुद्धिमत्ता" (Wisdom) केवल अंतिम स्कोर नहीं है; यह वह सुचारू, आत्मविश्वासी पथ है जो उसने वहाँ पहुँचने के लिए लिया है। सबसे अच्छे मॉडल वे हैं जो सही उत्तर जल्दी खोज लेते हैं और वहीं टिके रहते हैं, बजाय उन मॉडलों के जो फिनिश लाइन तक पहुँचने के लिए लड़खड़ाते हुए चलते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।