← नवीनतम पेपर
💬 NLP

The Stepwise Informativeness Assumption: Why are Entropy Dynamics and Reasoning Correlated in LLMs?

यह शोध पत्र 'स्टेपवाइज़ इन्फॉर्मेटिवनेस अज़म्प्शन' (Stepwise Informativeness Assumption) का प्रस्ताव करता है और अनुभवजन्य रूप से इसे मान्य करता है, जो यह स्पष्ट करता है कि मैक्सिमम-लाइक्लीहुड और रीइन्फोर्समेंट लर्निंग प्रशिक्षण के माध्यम से वैध रीजनिंग ट्रेसेस (reasoning traces) अपेक्षा के माध्यम से उत्तर-प्रासंगिक सूचना संचित करते हैं, जिससे बड़े भाषा मॉडलों में आंतरिक एंट्रॉपी डायनेमिक्स और तर्क की शुद्धता के बीच सहसंबंध स्थापित होता है।

मूल लेखक: Mar Gonzàlez I Català, Haitz Sáez de Ocáriz Borde, George D. Montañez, Pietro Liò

प्रकाशित 2026-04-09
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Mar Gonzàlez I Català, Haitz Sáez de Ocáriz Borde, George D. Montañez, Pietro Liò

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ "द स्टेपवाइज़ इन्फॉर्मेटिवनेस अज़म्प्शन" (The Stepwise Informativeness Assumption) पेपर का सरल भाषा और रचनात्मक उपमाओं के साथ विवरण दिया गया है।

सबसे बड़ा रहस्य: "कन्फ्यूजन" (भ्रम) का मतलब "सोचना" क्यों है?

कल्पना कीजिए कि आप एक फिल्म में एक जासूस को अपराध सुलझाते हुए देख रहे हैं।

  • खराब जासूस: वह बेतरतीब ढंग से अंदाज़ लगाता है, भ्रमित हो जाता है, बार-बार अपना विचार बदलता है, और अंत में गलत उत्तर पर पहुँच जाता है। उसका आंतरिक संवाद अराजक है और "शायद यह, शायद वह" से भरा हुआ है।
  • अच्छा जासूस: वह कई संभावनाओं के साथ शुरुआत करता है, लेकिन हर सुराग मिलने के साथ, वह गलत विकल्पों को काटता जाता है। उसका आंतरिक संवाद शांत और अधिक केंद्रित होता जाता है। अंत तक, वह उत्तर के बारे में 100% निश्चित होता है।

लार्ज लैंग्वेज मॉडल्स (LLMs) की दुनिया में, शोधकर्ताओं ने एक अजीब पैटर्न देखा है: जब मॉडल का "आंतरिक भ्रम" (जिसे एंट्रॉपी कहा जाता है) कम होता है, तो आमतौर पर इसका मतलब होता है कि वह सही उत्तर की ओर बढ़ रहा है।

लेकिन यहाँ एक पहेली है: मॉडल सोचते समय "सही उत्तर" को नहीं जानता। वह केवल वही जानता है जो शब्द उसने अब तक लिखे हैं। तो, क्यों उसका आंतरिक अहसास कि "मैं करीब पहुँच रहा हूँ" बाहरी वास्तविकता "मैं सही हूँ" से मेल खाता है?

समाधान: "स्टेपवाइज़ इन्फॉर्मेटिवनेस अज़म्प्शन" (SIA)

इस पेपर के लेखक इस जादू को समझाने के लिए एक सरल नियम प्रस्तावित करते हैं। वे इसे स्टेपवाइज़ इन्फॉर्मेटिवनेस अज़म्प्शन (SIA) कहते हैं।

तर्क (Reasoning) को पहाड़ से नीचे उतरकर छिपे हुए खजाने को खोजने की तरह समझें।

  1. नक्शा (मॉडल): मॉडल एक हाइकर (पहाड़ी राही) है।
  2. खजाना (उत्तर): सही उत्तर पहाड़ के नीचे है।
  3. कोहरा (एंट्रॉपी): कोहरा इस बात का प्रतिनिधित्व करता है कि हाइकर खजाने के बारे में कितना भ्रमित है। घना कोहरा = खो जाना। कम कोहरा = करीब होना।

SIA नियम कहता है:

"हाइकर द्वारा उठाया गया हर कदम (हर शब्द जो मॉडल लिखता है) औसतन, थोड़े से कोहरे को साफ करना चाहिए और खजाने की ओर इशारा करना चाहिए।"

यदि हाइकर ऐसे कदम उठा रहा है जो कोहरे को साफ नहीं करते (जैसे गोल-गोल घूमना या गलत दिशा में जाना), तो वह मतिभ्रम (hallucinating) का शिकार है या "ज्यादा सोच" (overthinking) रहा है। लेकिन यदि हाइकर ऐसे कदम उठा रहा है जो कोहरे को साफ करते हैं, तो वह सही तर्क कर रहा है।

मॉडल यह कैसे सीखते हैं?

आप पूछ सकते हैं, "क्या मॉडल स्वाभाविक रूप से कोहरा साफ करना जानते हैं?"

नहीं। पेपर बताता है कि वे यह ट्रेनिंग के माध्यम से सीखते हैं, ठीक वैसे ही जैसे एक छात्र परीक्षा के लिए पढ़ाई करना सीखता है।

  • प्री-ट्रेनिंग (लाइब्रेरी पढ़ना): मॉडल लाखों किताबें पढ़ता है। वह अगले शब्द की भविष्यवाणी करना सीखता है। कभी-कभी वह गणित की समस्याएं हल करना सीख जाता है, लेकिन ज्यादातर वह केवल इंसान जैसा दिखना सीखता है। इस स्तर पर, यह उस छात्र की तरह है जिसने बहुत कुछ पढ़ा है लेकिन उसे यह नहीं सिखाया गया है कि कैसे किसी विशिष्ट समस्या को हल किया जाए। वे उत्तर का अनुमान लगा सकते हैं, लेकिन उनका "कोहरा" आवश्यक रूप से तार्किक तरीके से साफ नहीं होता।
  • फाइन-ट्यूनिंग (ट्यूटर/शिक्षक): फिर, इंसान मॉडल को समस्याओं के उदाहरण दिखाते हैं जिनमें सही चरण-दर-चरण समाधान होते हैं। मॉडल को उस रास्ते का पालन करने के लिए पुरस्कृत किया जाता है जो सही उत्तर की ओर ले जाता है।
    • उपमा: कल्पना कीजिए कि एक ट्यूटर छात्र से कहता है, "सिर्फ अंदाज़ा मत लगाओ! चरण 1 में मिले सुरागों को देखो; वे तुम्हें बताते हैं कि चरण 2 में क्या करना है।"
    • मॉडल सीखता है कि पुरस्कार (सही उत्तर) पाने के लिए, उसे ऐसे चरण लिखने चाहिए जो सूचना को संचित (accumulate) करें। वह सीखता है कि उसके द्वारा लिखा गया हर वाक्य अंतिम उत्तर को अधिक स्पष्ट बनाना चाहिए।
  • रीइन्फोर्समेंट लर्निंग (कोच): अंत में, मॉडल अपने आप अभ्यास करता है। यदि वह उत्तर सही पाता है, तो कोच उसे 'हाई-फाइव' देता है। यदि वह गलत होता है, तो कोच कहता है "फिर से कोशिश करो।" यह चरण-दर-चरण कोहरा साफ करने की आदत को पुख्ता करता है।

"अच्छे विचारक" के लक्षण (Signatures)

पेपर में पाया गया कि जब किसी मॉडल ने यह "SIA" की आदत सीख ली होती है, तो उसका आंतरिक "कोहरा" विशिष्ट तरीकों से व्यवहार करता है जिसे मापा जा सकता है:

  1. अर्ली लॉक-इन (जल्दी पकड़ बनाना): एक स्मार्ट मॉडल कोहरा जल्दी साफ कर देता है। वह दिशा जल्दी समझ लेता है। एक भ्रमित मॉडल लंबे समय तक कोहरा घना रखता है और भटकता रहता है।
  2. द प्लेटो (स्थिरता): एक बार जब स्मार्ट मॉडल खजाना ढूंढ लेता है, तो कोहरा पूरी तरह गायब हो जाता है (यह शून्य पर पहुँच जाता है)। एक भ्रमित मॉडल "कोहरे वाली घाटी" (foggy valley) में फंस सकता है जहाँ कोहरा पतला होना बंद हो जाता है, लेकिन वह अभी भी खजाना नहीं ढूंढ पाता।
  3. द शफल टेस्ट (क्रम परीक्षण): शोधकर्ताओं ने एक "अच्छे" रीजनिंग चेन के शब्दों के क्रम को उलट-पुलट कर देखा। अचानक, जादू गायब हो गया! मॉडल फिर से भ्रमित दिखने लगा। यह साबित करता है कि शब्दों का क्रम मायने रखता है। चरण एक-दूसरे पर आधारित होने चाहिए जैसे एक सीढ़ी, न कि केवल ईंटों का ढेर।

हमें इसकी परवाह क्यों करनी चाहिए?

यह केवल गणितीय पहेलियों के बारे में नहीं है। यह खोज हमें AI के "ब्लैक बॉक्स" के अंदर देखने के लिए एक टॉर्च (flashlight) देती है।

  • मतिभ्रम (Hallucinations) का पता लगाना: यदि एक AI लंबी कहानी लिख रहा है लेकिन उसका आंतरिक "कोहरा" पतला नहीं हो रहा है, तो हम जानते हैं कि वह मनगढ़ंत बातें बना रहा है, भले ही शब्द शानदार लग रहे हों।
  • जल्दी रोकना: यदि कोहरा पूरी तरह से साफ हो गया है, तो हम AI को बता सकते हैं, "ठीक है, तुमने इसे समझ लिया है, अब बोलना बंद करो!" इससे पैसा और समय दोनों बचते हैं।
  • बेहतर AI बनाना: अब हम जानते हैं कि बेहतर AI बनाने के लिए, हमें उन्हें केवल अधिक डेटा खिलाना नहीं चाहिए; हमें उन्हें विशेष रूप से ऐसे चरण लिखने के लिए प्रशिक्षित करना चाहिए जो उत्तर के बारे में सूचना को संचित (accumulate) करते हों।

सारांश

यह पेपर इस रहस्य को सुलझाता है कि क्यों AI का "आत्मविश्वास" उसकी "सटीकता" से मेल खाता है। वास्तव में, जब हम AI को अच्छी तरह से प्रशिक्षित करते हैं, तो हम उसे एक सरल नियम सिखाते हैं: "तुम्हारे द्वारा लिखा गया हर शब्द उत्तर को थोड़ा और स्पष्ट बनाना चाहिए।" जब इस नियम का पालन किया जाता है, तो मॉडल का आंतरिक भ्रम ठीक उसी समय कम हो जाता है जब उसे सही उत्तर मिलता है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →