← नवीनतम पेपर
💬 NLP

Self-reflecting Large Language Models: A Hegelian Dialectical Approach

यह शोध पत्र लार्ज लैंग्वेज मॉडल्स के लिए एक हेगेलियन द्वंद्वात्मक (Hegelian Dialectic) आधारित आत्म-चिंतन ढांचे का प्रस्ताव करता है जो नवीन वैज्ञानिक विचार-मंथन और त्रुटि-सुधार तर्क दोनों को बढ़ाने के लिए विरोधी विचारों को पुनरावृत्ति के साथ संश्लेषित करता है, जो गणितीय, प्रतीकात्मक और ज्ञान-गहन बेंचमार्क में महत्वपूर्ण प्रदर्शन लाभ प्रदर्शित करता है।

मूल लेखक: Sara Abdali, Michael Solodko, Can Goksen, Saeed Amizadeh, Julie E. Maybee, Kazuhito Koishida, Pashmina Cameron

प्रकाशित 2026-08-03
📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Sara Abdali, Michael Solodko, Can Goksen, Saeed Amizadeh, Julie E. Maybee, Kazuhito Koishida, Pashmina Cameron

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक बहुत ही कठिन पहेली को सुलझाने की कोशिश कर रहे हैं, लेकिन हर बार जब आप समाधान के करीब पहुँचते हैं, तो आपका दिमाग एक लूप में फंस जाता है। आप बार-बार सोचते रहते हैं, "मैं सही हूँ, मैं सही हूँ," और आप वास्तव में उस गलती को कभी ठीक नहीं कर पाते जो आपने तीन कदम पहले की थी। यह एक आम समस्या है जिसे 'लार्ज लैंग्वेज मॉडल्स' (LLMs) कहे जाने वाले सुपर-स्मार्ट कंप्यूटर प्रोग्रामों के लिए। वे बातचीत करने और लिखने में बेहतरीन हैं, लेकिन जब वे जटिल गणित या विज्ञान की समस्याओं के माध्यम से तर्क करने की कोशिश करते हैं, तो वे अक्सर अपने ही पैरों में उलझ जाते हैं। इसे ठीक करने के लिए, वैज्ञानिकों ने इन मॉडलों को "स्व-चिंतन" (self-reflect) करना सिखाने की कोशिश की, या अपने काम पर नज़र डालना और यह कहना, "रुको, यह समझ में नहीं आ रहा है।" लेकिन अक्सर, मॉडल जिद्दी हो जाते हैं। एक बार जब वे किसी उत्तर के बारे में सोच लेते हैं, तो वे उसे बदलने से इनकार कर देते हैं, भले ही वे गलत हों। यह शोध पत्र, जिसे माइक्रोसॉफ्ट और न्यूयॉर्क के एक विश्वविद्यालय के शोधकर्ताओं द्वारा लिखा गया है, एक बड़ा सवाल पूछता है: हम इन मॉडलों को वास्तव में अपने विचार बदलने और बिना गोल-गोल घूमने के बेहतर उत्तर खोजने के लिए कैसे प्रेरित कर सकते हैं? वे दर्शनशास्त्र के एक पुराने विचार "हेगेलियन डायलेक्टिक" (Hegelian Dialectic) की ओर मुड़ते हैं। इसे एक बहुत ही संरचित, उच्च-दांव वाले डिबेट क्लब की तरह समझें। केवल "मैं सही हूँ" कहने के बजाय, मॉडल को दो पात्र निभाने के लिए मजबूर किया जाता है: एक जो एक विचार प्रस्तावित करता है, और दूसरा जो एक सख्त आलोचक के रूप में कार्य करता है ताकि उस विचार में खामियां ढूंढी जा सकें। फिर, तीसरा पात्र इन दोनों को एक नए, बेहतर विचार में मिलाने के लिए हस्तक्षेप करता है जो दोनों के सर्वोत्तम हिस्सों को बनाए रखता है। यह कंप्यूटर को केवल वही दोहराने के बजाय, खुद के साथ बहस करके स्मार्ट बनने के लिए मजबूर करने का एक तरीका है।

लेखक एक नया ढांचा प्रस्तावित करते हैं जहाँ एक LLM इस दार्शनिक नाटक को चरण-दर-चरण निभाता है। वे इसे "स्व-द्वंद्वात्मक" (self-dialectical) प्रक्रिया कहते हैं। यहाँ जादू कैसे होता है: सबसे पहले, मॉडल एक प्रारंभिक विचार प्रस्तुत करता है, जिसे वे "प्रपोजिशन" (Proposition) कहते हैं। फिर, इसे एक "विरोधी विचार" (Opposing Idea) उत्पन्न करना होता है। यह केवल एक रैंडम अनुमान नहीं है; मॉडल को एक आलोचक की तरह कार्य करने का निर्देश दिया जाता है जो मूल विचार में विशिष्ट दोष या कमियां ढूंढ सके। इस चरण को "सबलेशन" (Sublation) कहा जाता है। अंत में, मॉडल इन दोनों विरोधी विचारों को एक साथ लाने और एक "एकीकृत विचार" (Unified Idea), या "स्पेक्टुलेशन" (Speculation) बनाने का प्रयास करता है। यह नया विचार केवल एक समझौता नहीं है; इसे एक उच्च-स्तरीय समाधान होना चाहिए जो पहले विचार की समस्याओं को ठीक करे और उसकी खूबियों को बनाए रखे। शोधकर्ताओं ने गणितीय शब्द समस्याओं (जैसे GSM-8k और GSM-hard डेटासेट), प्रतीकात्मक तर्क पहेलियों को संभालने और जटिल ज्ञान संबंधी प्रश्नों (MMLU Pro) के उत्तर देने सहित कई विभिन्न प्रकार के कार्यों पर इसका परीक्षण किया। उन्होंने पाया कि यह विधि उन्हें इन कार्यों में मानक प्रॉम्प्टिंग विधियों की तुलना में काफी बेहतर बनाती है। उदाहरण के लिए, GSM-Symbolic नामक एक कठिन गणित परीक्षण पर, उनके तरीके ने GPT-4o-mini के सटीकता स्तर को 0.709 से बढ़ाकर 0.770 कर दिया, और Qwen 2.5-7B मॉडल के लिए, यह 0.587 से बढ़कर 0.623 हो गया।

अध्ययन के सबसे दिलचस्प हिस्सों में से एक यह था कि इस प्रक्रिया के दौरान मॉडल को कितना "रचनात्मक" होना चाहिए। शोधकर्ताओं ने इसे नियंत्रित करने के लिए "टेम्परेचर" (temperature) का उपयोग किया। टेम्परेचर को मॉडल की कल्पना के लिए एक डायल की तरह समझें। एक कम सेटिंग मॉडल को बहुत केंद्रित बनाती है और सबसे स्पष्ट उत्तर पर टिके रहने की संभावना रखती है, जबकि एक उच्च सेटिंग इसे अधिक जंगली बनाती है और अजीब, नए संयोजन आज़माने की संभावना बढ़ाती है। टीम ने इस डायल का उपयोग करने के दो तरीके परीक्षण किए: पूरे समय एक स्थिर सेटिंग रखना, या एक "डायनेमिक एनीलिंग शेड्यूल" (dynamic annealing schedule) का उपयोग करना। एनीलिंग शेड्यूल एक यात्रा की शुरुआत में उच्च तापमान (ढेर सारी जंगली, रचनात्मक खोज) के साथ करने और जैसे-जैसे प्रक्रिया आगे बढ़ती है, धीरे-धीरे डायल को कम तापमान (केंद्रित, सावधानीपूर्ण परिशोधन) की ओर घुमाने जैसा है। उन्होंने पाया कि हर स्थिति के लिए कोई भी तरीका एकदम सही नहीं था। कुछ मॉडलों और कार्यों के लिए, निरंतर तापमान सबसे अच्छा काम करता था, जबकि अन्य के लिए, रचनात्मक से केंद्रित होने वाला डायनेमिक शेड्यूल सबसे अच्छा परिणाम देता था। उदाहरण के लिए, GSM-8k गणित परीक्षण पर, डायनेमिक एनीलिंग शेड्यूल ने GPT-4o की सटीकता को 0.955 तक पहुँचाया, जो इसके निरंतर तापमान के स्कोर 0.953 से थोड़ा बेहतर था। हालाँकि, उसी परीक्षण पर Qwen 2.5-7B मॉडल के लिए, निरंतर तापमान थोड़ा बेहतर था। यह सुझाव देता है कि मॉडल की रचनात्मकता को ट्यून करने का "सर्वश्रेष्ठ" तरीका विशिष्ट समस्या और उपयोग किए जा रहे विशिष्ट कंप्यूटर मस्तिष्क पर निर्भर करता है।

यह सुनिश्चित करने के लिए कि मॉडलों द्वारा उत्पन्न नए विचार वास्तव में अच्छे थे, शोधकर्ताओं को सावधान रहना पड़ा। चूंकि उनके पास हर एक गणित की समस्या या वैज्ञानिक विचार की जांच करने के लिए मानव विशेषज्ञ उपलब्ध नहीं थे, इसलिए उन्होंने "मल्टी-एजेंट मेजोरिटी वोटिंग" (MAMV) नामक एक प्रणाली बनाई। कल्पना कीजिए कि कई अलग-अलग AI मॉडल एक गोल मेज के चारों ओर बैठे हैं। प्रत्येक मॉडल स्वतंत्र रूप से इस बात पर वोट करता है कि क्या नया एकीकृत विचार वैध (क्या यह समझ में आता है?) और नवीन (क्या यह वास्तव में नया है?) है। यदि अधिकांश AI न्यायाधीश "हाँ" कहते हैं, तो विचार को स्वीकार कर लिया जाता है। यदि वे "नहीं" कहते हैं, तो प्रक्रिया रुक जाती है। इसने टीम को मानव प्रोफेसरों की टीम की आवश्यकता के बिना बड़े पैमाने पर अपने तरीके का परीक्षण करने की अनुमति दी। परिणामों ने दिखाया कि यह संरचित स्व-आलोचना केवल मॉडल को "फिर से प्रयास करने" या "अधिक गहराई से सोचने" के लिए कहने से कहीं बेहतर थी। हेगेलियन दृष्टिकोण का उपयोग करने वाले मॉडल अपने स्वयं के तार्किक दोषों को पहचानने और उन्हें ठीक करने में बेहतर थे, जिससे गणित और विज्ञान में अधिक सटीक उत्तर मिले।

हालाँकि, लेखक सावधानी बरतते हुए बताते हैं कि यह कोई जादुई छड़ी नहीं है जो सब कुछ हल कर देती है। उन्होंने पाया कि यदि मॉडल बहुत अधिक रचनात्मक (बहुत उच्च तापमान) हो जाता है, तो यह पूरी तरह से विषय से हटकर या निरर्थक विचार पेश कर सकता है। यदि यह बहुत केंद्रित (बहुत कम तापमान) है, तो यह बार-बार एक ही गलती दोहरा सकता है। इसके अलावा, यह मापना कि कोई विचार कितना "नया" है, वास्तव में कठिन है। मॉडल सोच सकता है कि उसने एक शानदार नया सिद्धांत खोज लिया है, लेकिन हो सकता है कि वह केवल वही याद कर रहा हो जो उसने अपने प्रशिक्षण डेटा में पढ़ा था। शोधकर्ता स्वीकार करते हैं कि उनका तरीका ऐसे विचार उत्पन्न करता है जो हमेशा वैज्ञानिक रूप रूप से सही नहीं हो सकते हैं, और वास्तविक सत्यापन के लिए अभी भी मानव विशेषज्ञों की आवश्यकता होगी। उन्होंने यह भी नोट किया कि कभी-कभी मॉडल एक ऐसे लूप में फंस जाते थे जहाँ वे एक अच्छा विरोधी विचार उत्पन्न नहीं कर पाते थे, या वे बस एक ही पैराग्राफ को दोहराते रहते थे। इन सीमाओं के बावजूद, शोध पत्र सुझाव देता है कि आत्म-चिंतन को एक साधारण "अपना काम जाँचें" कमांड के बजाय एक संरचित बहस के रूप में मानना, AI को अधिक स्पष्ट रूप से सोचने में मदद करने का एक शक्तिशाली तरीका है। मॉडल को अपने दोषों का सामना करने और एक बेहतर उत्तर संश्लेषित करने के लिए मजबूर करके, हम ऐसे सिस्टम बना सकते हैं जो केवल स्मार्ट सुनाई नहीं देते, बल्कि वास्तव में बेहतर तर्क करते हैं।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →