Misconception Acquisition Dynamics in Large Language Models
यह शोध पत्र MalAlgoLib प्रस्तुत करता है और यह प्रदर्शित करता है कि जबकि लार्ज लैंग्वेज मॉडल्स (LLMs) मध्यवर्ती चरणों के साथ प्रशिक्षित होने पर तर्क क्षमता को कम किए बिना कई गलत धारणाओं को सीख सकते हैं, वे बिना ऐसी चरण-दर-चरण निगरानी के गलत धारणाओं को प्राप्त करने या उनका अतिसामान्यीकरण करने में विफल रहते हैं, जो निष्ठावान छात्र सिमुलेशन और संरक्षित सही तर्क के बीच संतुलन बनाने में मध्यवर्ती तर्क संबंधी निशानों की महत्वपूर्ण भूमिका को रेखांकित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक सुपर-स्मार्ट रोबोट को एक छात्र बनना और एक शिक्षक बनना सिखाने की कोशिश कर रहे हैं। लेकिन इसमें एक पेच है: आप चाहते हैं कि रोबोट गलतियों को वैसे ही समझे जैसे इंसान समझते हैं। न कि केवल रैंडम टाइपिंग की गलतियों को, बल्कि गहरे, व्यवस्थित गलतफहमियों को (जैसे यह सोचना कि आप किसी समीकरण के केवल एक हिस्से पर संख्या को वितरित/distribute कर सकते हैं)।
यह शोध पत्र एक लैब प्रयोग की तरह है जहाँ शोधकर्ताओं ने एक विशेष "प्रशिक्षण जिम" बनाया जिसे MalAlgoLib कहा जाता है, ताकि तीन अलग-अलग AI मॉडलों (Llama, Phi, और Qwen) को जानबूझकर ये विशिष्ट गणितीय गलतियाँ करने के लिए प्रशिक्षित किया जा सके। वे यह देखना चाहते थे: क्या हम एक AI को एक "बुरा" छात्र बनने के लिए सिखा सकते हैं बिना उसकी "अच्छा" छात्र बनने की क्षमता को बिगाड़े? और क्या हम इसे एक "बुद्धिमान" शिक्षक बना सकते हैं जो सभी खराब चालों को जानता हो?
यहाँ उनके निष्कर्षों का विवरण दिया गया है, कुछ रोजमर्रा के उपमाओं (analogies) का उपयोग करते हुए।
1. दो भूमिकाएँ: "नादान छात्र" बनाम "बुद्धिमान ट्यूटर"
शोधकर्ताओं ने AI के लिए दो अलग-अलग काम परिभाषित किए:
- नौसिखिया छात्र मॉडल (The Novice Student Model): यह AI एक विशेष बच्चे की तरह व्यवहार करने के लिए है जिसका एक विशिष्ट दिमागी ग्लिच (glitch) है। उदाहरण के लिए, "यह बच्चा हमेशा वितरण करते समय दूसरी संख्या को गुणा करना भूल जाता है।" लक्ष्य उस एक बच्चे का सटीक अनुकरण करना है।
- विशेषज्ञ ट्यूटर मॉडल (The Expert Tutor Model): यह AI एक अनुभवी शिक्षक की तरह है जिसने सैकड़ों बच्चों को देखा है। इसे पता होना चाहिए कि छात्र किस तरह से गलतियाँ करते हैं, ताकि वह त्रुटि को पहचान सके और उसे समझा सके, जबकि वह स्वयं सही उत्तर भी जानता हो।
2. बड़ी हैरानी: गलती सीखना खतरनाक है
जब उन्होंने छात्र मॉडल को एक विशिष्ट गलती करने के लिए सिखाने की कोशिश की, तो कुछ अजीब हुआ।
उपमा: कल्पना कीजिए कि आप एक कुत्ते को बैठने (sit) के लिए सिखा रहे हैं। लेकिन केवल "बैठो" सिखाने के बजाय, आप गलती से उसे सिखा देते हैं कि "बैठो" का मतलब है "लेट जाओ, भौंको और लुढ़क जाओ।" अब, जब भी आप "बैठो" कहते हैं, वह ये तीनों चीजें करता है। वह अब केवल बैठ नहीं सकता।
निष्कर्ष: जब AI ने एक विशिष्ट गणितीय गलती सीखी, तो इसने केवल सही समस्याओं पर वह गलती नहीं की। इसने ओवरजनरलाइजेशन (overgeneralization) किया। इसने उस गलती को हर चीज़ पर लागू करना शुरू कर दिया, यहाँ तक कि उन समस्याओं पर भी जहाँ वह गलती नहीं होनी चाहिए थी। सही गणित हल करने की इसकी क्षमता पूरी तरह गिर गई।
समाधान: AI को पागल होने से रोकने के लिए, शोधकर्ताओं को इसमें बहुत सारे "सही" उदाहरण मिलाने पड़े। इसे कुत्ते को प्रशिक्षित करने जैसा समझें: हर बार जब आप उसे "बुरी ट्रिक" दिखाते हैं, तो आपको उसे "अच्छी ट्रिक" तीन बार दिखानी होगी। यदि उन्होंने केवल 25% सही उदाहरण मिलाए, तो AI ने वह विशिष्ट गलती केवल तभी की जब उसे करनी थी, जबकि बाकी सब जगह वह स्मार्ट बना रहा।
3. ट्यूटर मॉडल: जितना अधिक आप सीखते हैं, उतने ही स्मार्ट बनते जाते हैं
अब, ट्यूटर मॉडल को देखें। उन्होंने इसे एक साथ दस अलग-अलग प्रकार की गलतियाँ सिखाईं।
उपमा: कल्पना कीजिए कि एक जासूस दस अलग-अलग प्रकार के नकली नोटों (forgeries) को पहचानना सीख रहा है। आप सोच सकते हैं, "यदि वे दस नकली नोटों को सीखते हैं, तो वे भ्रमित हो जाएंगे और असली नोट को भी नकली समझने लगेंगे।" लेकिन इसके विपरीत हुआ।
निष्कर्ष: जैसे-जैसे ट्यूटर AI ने अधिक से अधिक गलतियाँ सीखीं, वह वास्तव में समस्याओं को सही ढंग से हल करने में बेहतर होता गया। उसे स्मार्ट बने रहने के लिए सही उदाहरणों के मिश्रण की आवश्यकता नहीं थी। "गलत" तरीकों को सीखने से वास्तव में उसे "सही" तरीके को बेहतर ढंग से समझने में मदद मिली। यह ऐसा था जैसे AI ने महसूस किया, "ओह, मुझे पता है कि यह गलत क्यों है, इसलिए मैं ठीक जानता हूँ कि इसे सही कैसे करना है।"
कैच (Catch): ट्यूटर मॉडल को बहुत अधिक डेटा की आवश्यकता थी। 30 बच्चों की एक वास्तविक कक्षा में, आप एक विशिष्ट गलती को केवल कुछ ही बार देखते होंगे। यह सीखने के लिए पर्याप्त नहीं है। शोधकर्ताओं ने महसूस किया कि एक वास्तविक दुनिया के ट्यूटर AI को प्रशिक्षित करने के लिए, आपको दुर्लभ गलतियों के पर्याप्त उदाहरण प्राप्त करने के लिए हजारों स्कूलों के डेटा को इकट्ठा करना होगा।
4. गुप्त सामग्री: "चरण-दर-चरण" मानचित्र (The "Step-by-Step" Map)
यह सबसे महत्वपूर्ण खोज थी। शोधकर्ताओं ने AI को दो तरीकों से प्रशिक्षित करने का प्रयास किया:
- चरणों के साथ (With Steps): AI को गणित की समस्या में हर एक चाल दिखाना (जैसे, "पहले मैंने 5 घटाया, फिर मैंने 2 से विभाजित किया...")।
- बिना चरणों के (Without Steps): केवल AI को अंतिम गलत उत्तर दिखाना (जैसे, "उत्तर 5 है")।
परिणाम: चरणों के बिना, AI पूरी तरह विफल रहा। वह गलती को नहीं सीख सका, चाहे उन्हें कितना भी डेटा दिया गया हो।
उपमा: कल्पना कीजिए कि आप नृत्य की एक चाल (dance move) सीख रहे हैं।
- चरणों के साथ: आप डांसर के पैरों, फिर उनके हाथों, फिर उनकी कमर की गति को देखते हैं। आप उस विशिष्ट चाल की नकल कर सकते हैं।
- बिना चरणों के: आप बस गाने के अंत में डांसर को गिरते हुए देखते हैं। आपको पता ही नहीं चलता कि उन्होंने क्या गलत किया। क्या वे लड़खड़ा गए? क्या वे बहुत तेज़ी से घूमे? आप गलती को नहीं सीख सकते क्योंकि आप नहीं देख सकते कि त्रुटि कहाँ हुई।
AI को यह जानने के लिए कि तर्क कहाँ टूटा, "मध्यवर्ती चरणों" (intermediate steps) को देखने की आवश्यकता होती है। यदि आप इसे केवल अंतिम गलत उत्तर देते हैं, तो यह कार के इंजन को ठीक करने के लिए केवल साइलेंसर से निकलने वाले धुएं को देखने जैसा है।
सारांश: हमें क्या सीखना चाहिए?
- एक छात्र का अनुकरण करने के लिए: आपको सावधान रहना होगा। यदि आप केवल AI को बुरे उदाहरण खिलाते हैं, तो वह हर चीज़ में "बुरा" हो जाएगा। इसे जमीन से जोड़े रखने के लिए आपको इसमें अच्छे उदाहरण मिलाने होंगे।
- एक ट्यूटर का अनुकरण करने के लिए: आप इसे बहुत सारी अलग-अलग गलतियाँ खिला सकते हैं, और यह वास्तव में स्मार्ट हो जाएगा। लेकिन इसे काम करने के लिए आपको कई स्कूलों से बहुत बड़े डेटा की आवश्यकता होगी।
- स्वर्ण नियम (The Golden Rule): आप AI को यह नहीं सिखा सकते कि छात्र क्यों गलत है, जब तक कि आप उन्हें चरण-दर-चरण प्रक्रिया न दिखाएं। केवल गलत अंतिम उत्तर दिखाना बेकार है।
यह शोध पत्र हमें बेहतर शैक्षिक AI बनाने के लिए एक रोडमैप देता है। यह हमें बताता है कि छात्रों के सीखने (और संघर्ष करने) के तरीके को वास्तव में समझने के लिए AI बनाने के लिए, हमें बहुत विशिष्ट होना होगा कि हम उन्हें कैसे प्रशिक्षित करते हैं और उन्हें क्या डेटा दिखाते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।