🤖 machine learning

Shortcut Solutions Learned by Transformers Impair Continual Compositional Reasoning

यह शोध पत्र एक विस्तारित LEGO फ्रेमवर्क का उपयोग करके ट्रांसफॉर्मर्स में निरंतर संरचनात्मक तर्क (continual compositional reasoning) की जांच करता है, जो यह प्रकट करता है कि जहाँ फीडफॉरवर्ड BERT मॉडल स्थापित शॉर्टकट समाधानों के कारण विफल हो जाते हैं, वहीं रिकरेंट ALBERT मॉडल बेहतर प्रदर्शन प्रदर्शित करते हैं क्योंकि वे एल्गोरिद्मिक "फॉर-लूप" (for-loop) रणनीतियों को सीखते हैं जिन्हें क्रॉस-एक्सपीरियंस ट्रेनिंग के माध्यम से और अधिक बढ़ाया जा सकता है।

मूल लेखक: William T. Redman, Erik C. Johnson, Brian Robinson

प्रकाशित 2026-05-08

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: William T. Redman, Erik C. Johnson, Brian Robinson

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को पहेलियों की एक श्रृंखला हल करना सिखा रहे हैं। ये पहेलियाँ केवल यादृच्छिक (random) नहीं हैं; वे एक ही अंतर्निहित तर्क (underlying logic) के विभिन्न रूप हैं। उदाहरण के लिए, एक पहेली आपसे एक त्रिकोण को घुमाने (rotate) के लिए कह सकती है, अगली उसे पलटने (flip) के लिए, और अगली दोनों करने के लिए। लक्ष्य यह देखना है कि क्या रोबोट पहली पहेली के तर्क को सीख सकता है और बिना पहली पहेली को भूले तुरंत दूसरी और तीसरी पहेली को हल कर सकता है।

यह शोध पत्र जांच करता है कि दो लोकप्रिय प्रकार के AI "मस्तिष्क" (BERT और ALBERT) इस तरह के सीखने को कैसे संभालते हैं। शोधकर्ताओं ने पाया कि हालांकि ये AI मॉडल अविश्वसनीय रूप से स्मार्ट हैं, लेकिन वे अक्सर "शॉर्टकट" अपनाते हैं जो उन्हें बाद में नई चीजें सीखने में खराब बना देते हैं।

यहाँ उनके निष्कर्षों का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:

1. दो प्रकार के शिक्षार्थी

शोधकर्ताओं ने दो मॉडलों का परीक्षण किया:

BERT: इसे एक फोटोग्राफर के रूप में सोचें। यह एक बार में पूरी तस्वीर को देखता है और उस एकल छवि के विशिष्ट विवरणों को याद करने की कोशिश करता है। यह बहुत तेज़ है और क्षण भर में पैटर्न पहचानने में अच्छा है, लेकिन यह वास्तव में उस प्रक्रिया को नहीं समझता कि छवि कैसे बनाई गई थी।
ALBERT: इसे एक प्रोग्रामर के रूप में सोचें। केवल तस्वीर को याद करने के बजाय, यह निर्देशों का एक सेट सीखता है (जैसे कंप्यूटर कोड में एक लूप) जिसे समस्याओं को हल करने के लिए दोहराया जा सकता है। यह पहेली के पीछे के तंत्र (mechanism) को समझता है।

2. "शॉर्टकट" का जाल

जब मॉडलों को पहली पहेली (मान लीजिए "पहेली A") सिखाई गई, तो दोनों ने अच्छा प्रदर्शन किया। हालाँकि, जब शोधकर्ताओं ने "पहेली B" पेश की (जो बहुत समान थी लेकिन थोड़ी अलग थी), तो एक समस्या उत्पन्न हुई।

BERT (फोटोग्राफर): इसने एक शॉर्टकट सीख लिया। इसने महसूस किया, "अरे, अगर मैं बस पहेली के पहले सुराग को देख लूँ, तो मैं इस विशिष्ट प्रकार की पहेली के लिए उत्तर का अनुमान लगा सकता हूँ।" इसने वास्तविक तर्क नहीं सीखा; इसने केवल एक ऐसी ट्रिक को याद कर लिया जो पहेली A के लिए काम करती थी।
- परिणाम: पहेली B का सामना करने पर, BERT भ्रमित हो गया। क्योंकि वह पहेली A के लिए विशिष्ट एक ट्रिक पर निर्भर था, वह अनुकूलित (adapt) नहीं हो सका। उसने पहेली A को करना भी पूरी तरह से भूल गया जब उसने पहेली B सीखना शुरू किया। इसे कैटास्ट्रोफिक फॉरगेटिंग (विनाशकारी विस्मृति) कहा जाता है।
ALBERT (प्रोग्रामर): इसने एल्गोरिदम सीखा। इसने समझा, "ओह, मुझे वर्तमान स्थिति लेनी है, एक नियम लागू करना है, और अगले चरण पर जाना है।" यह एक "For Loop" (एक कंप्यूटर निर्देश जो एक क्रिया को दोहराता है) सीखने जैसा है।
- परिणाम: क्योंकि ALBERT ने किसी विशिष्ट ट्रिक के बजाय विधि को सीखा, वह पहेली B को लागू करने में बहुत तेज़ था। इसने फॉरवर्ड ट्रांसफर दिखाया, जिसका अर्थ है कि इसने पहेली A में जो सीखा था उसका उपयोग पहेली B सीखने की गति बढ़ाने के लिए किया।

3. आकार मायने रखता है (लेकिन उस तरह से नहीं जैसा आप सोचते हैं)

शोधकर्ताओं ने मॉडलों को बड़ा बनाने की कोशिश की (अधिक परतें जोड़कर, जैसे घर में अधिक कमरे जोड़ना)।

ALBERT के लिए: बड़ा होना बेहतर था। अधिक "कमरों" का मतलब था कि यह अपने एल्गोरिदम को और बेहतर बना सकता था और ज्ञान को स्थानांतरित करने में और भी कुशल हो सकता था।
BERT के लिए: बड़ा होना वास्तव में चीज़ों को बदतर या अस्थिर बना देता था। क्योंकि BERT शॉर्टकट पर निर्भर है, मॉडल को अधिक जटिल बनाने से उसे गलत आदत में फंसने के और अधिक तरीके मिल गए। यह नए पहेलियों के लिए अपने सीखने को सामान्य (generalize) नहीं कर सका।

4. "मेमोरी रिप्ले" समाधान

दोनों मॉडल कैटास्ट्रोफिक फॉरगेटिंग से ग्रस्त थे—जब वे नई पहेली सीखते थे, तो वे पुरानी पहेली की स्मृति को पूरी तरह से मिटा देते थे।

इसे ठीक करने के लिए, शोधकर्ताओं ने एक रिप्ले बफर (Replay Buffer) का उपयोग किया। कल्पना कीजिए कि एक छात्र, जो गणित के नए टेस्ट के लिए पढ़ाई कर रहा है, अपने डेस्क पर पुराने टेस्ट के कुछ फ्लैशकार्ड भी रखता है ताकि समय-समय पर उन पर नज़र डाल सके।

परिणाम: इसने चमत्कार किया। मॉडलों को नया डेटा सीखते समय पुराने डेटा का केवल एक छोटा सा हिस्सा (केवल 1%) दिखाने से, उन्होंने भूलना बंद कर दिया। दोनों BERT और ALBERT नए पलेक्ट्स सीखते समय पुराने पहेलियों को याद रख सकते थे।

5. अंतिम बाधा: पहेलियों को जोड़ना

"कंपोजिशनल रीजनिंग" (संयोजन तर्क) का अंतिम परीक्षण यह है कि क्या AI अलग-अलग पहेलियों के नियमों को मिलाकर एक बिल्कुल नई, जटिल पहेली को हल कर सकता है जो उन सभी को जोड़ती है।

समस्या: भले ही "रिप्ले बफर" उन्हें याद रखने में मदद कर रहा था, दोनों मॉडल नियमों को जोड़ने में संघर्ष कर रहे थे। वे पहेली A और पहेली B को अलग-अलग याद रख सकते थे, लेकिन वे एक हाइब्रिड पहेली को हल करने के लिए उन्हें आसानी से बुन नहीं सके।
अंतर: शोधकर्ताओं ने ALBERT को सफल होने में मदद करने का एक तरीका खोजा। यदि वे ALBERT को एक ऐसी रणनीति के साथ सिखाते जहाँ वे प्रशिक्षण के दौरान पुराने पहेलियों और नई पहेलियों को धीरे-धीरे एक साथ जोड़ते (बजाय उन्हें अलग रखने के), तो ALBERT उन्हें जोड़ने में सक्षम हो सकता था।
सीमा: यह "स्टिचिंग" (सीवन/जोड़ने की) रणनीति BERT के लिए काम नहीं आई। क्योंकि BERT प्रशिक्षण के दौरान पहले ही अपने "शॉर्टकट" वाले सोचने के तरीके में जम चुका था, उसे बाद में नियमों को जोड़ने के लिए नहीं सिखाया जा सकता था। वह अपने तरीकों में बहुत अडिग था।

मुख्य निष्कर्ष

यह शोध पत्र निष्कर्ष निकालता है कि हालांकि BERT और ALBERT जैसे AI मॉडल शक्तिशाली हैं, उनमें एक छिपा हुआ दोष है: वे गहरे तर्क के बजाय "चीट्स" (शॉर्टकट) सीखने की प्रवृत्ति रखते हैं।

ALBERT गहरे तर्क ( "For Loop") को सीखने में बेहतर है, जो इसे नए, संबंधित कार्यों को तेज़ी से सीखने में मदद करता है।
BERT सतही स्तर की ट्रिक्स पर अटक जाता है, जो इसे नई स्थितियों के अनुकूल होने में बुरा बनाता है और पुराने अनुभवों को भूलने का कारण बनता है।

यह अध्ययन बताता है कि निरंतर सीखने (बिना भूले हमेशा सीखते रहना) के लिए वास्तव में सक्षम AI बनाने के लिए, हमें उन मॉडलों से दूर जाने की आवश्यकता है जो शॉर्टकट पर निर्भर हैं और उन आर्किटेक्चर की ओर बढ़ने की आवश्यकता है जो दुनिया के अंतर्निहित "एल्गोरिदम" को समझने के लिए बने हैं।

तकनीकी सारांश: ट्रांसफॉर्मर्स द्वारा सीखी गई शॉर्टकट समाधान विधियाँ निरंतर संरचनात्मक तर्क (Compositional Reasoning) को बाधित करती हैं

समस्या विवरण

यह शोध पत्र इस बात की समझ के महत्वपूर्ण अंतर को संबोधित करता है कि ट्रांसफॉर्मर न्यूरल नेटवर्क निरंतर शिक्षण (Continual Learning - CL) के संदर्भ में संरचनात्मक तर्क (compositional reasoning) कैसे करते हैं। जबकि ट्रांसफॉर्मर्स ने स्थिर डेटासेट पर इनपुट-विशिष्ट संबंधों की पहचान करने और संरचनात्मक कार्यों को करने में सफलता प्रदर्शित की है, उनकी नई, संबंधित अनुभवों को प्राप्त करने की क्षमता—बिना 'कैटैस्ट्रोफिक फॉरगेटिंग' (catastrophic forgetting) के—अभी भी कम अध्ययनित है। विशेष रूप से, लेखक यह जांचते हैं कि क्या ये मॉडल सामान्य कम्प्यूटेशनल रणनीतियों (मानव एनालॉजिकल रीजनिंग के समान) को विकसित कर सकते हैं या वे गैर-सामान्यीकरण योग्य "शॉर्टकट" समाधानों पर निर्भर करते हैं जो उनके ज्ञान को क्रमिक कार्यों (sequential tasks) में स्थानांतरित करने की क्षमता को बाधित करते हैं।

कार्यप्रणाली (Methodology)

लेखक सिंथेटिक लर्निंग इक्वैलिटी एंड ग्रुप ऑपरेशंस (LEGO) फ्रेमवर्क (Zhang et al., 2022) को कंटीन्यूअल LEGO (Continual LEGO) सेटिंग में विस्तारित करते हैं।

कार्य डिज़ाइन (Task Design): LEGO कार्य एक समूह संरचना (विशेष रूप से समरूपता समूह $D_3$ ) के भीतर समूह संचालन ( $a_t = a_{t-1} * x_t$ ) को हल करने से संबंधित है। इस कार्य को निर्देशित ग्राफ ट्रैवर्सल (directed graph traversal) के रूप में देखा जाता है।
कंटीन्यूअल सेटअप (Continual Setup): $D_3$ समूह को तीन अलग-अलग "फ्लिप-फ्लॉप अनुभवों" में विभाजित किया गया है, जिनमें से प्रत्येक एक विशिष्ट सबग्रुप (जैसे, $\{x_1, x_4\}$ , $\{x_1, x_5\}$ , $\{x_1, x_6\}$ ) द्वारा परिभाषित है। मॉडलों को इन अनुभवों पर क्रमिक रूप से प्रशिक्षित किया जाता है। महत्वपूर्ण रूप से, एक बार जब मॉडल एक नए अनुभव पर जाता है, तो उसे पिछले अनुभवों से कोई इनपुट नहीं मिलता है, जो फॉरवर्ड ट्रांसफर (नए कार्यों को तेजी से सीखना) और प्रदर्शन रखरखाव (कैटैस्ट्रोफिक फॉरगेटिंग से बचना) का परीक्षण करता है।
मॉडल (Models): यह अध्ययन BERT (एक मानक फीडफॉरवर्ड ट्रांसफॉर्मर) और ALBERT (परतों के बीच वेट-शेयरिंग वाला एक रिकरेंट वेरिएंट) की तुलना करता है।
आर्किटेक्चरल विश्लेषण (Architectural Analysis): लेखक न्यूनतम आर्किटेक्चर की पहचान करने के लिए हाइपरपैरामीटर (छिपी हुई परतों की संख्या और अटेंशन हेड्स) को व्यवस्थित रूप से बदलते हैं। वे सीखे गए समाधानों की यांत्रिक प्रकृति (जैसे, एल्गोरिद्मिक लूप बनाम शॉर्टकट) को निर्धारित करने के लिए सेल्फ-अटेंशन पैटर्न का विश्लेषण करते हैं।
हस्तक्षेप (Interventions): अध्ययन भूलने की प्रक्रिया को कम करने और क्रॉस-अनुभव संरचना (cross-experience composition) को सक्षम करने के लिए रिप्ले बफ़र्स (पिछले 1% डेटा को सहेजना) और इन्क्रीमेंटल ट्रेनिंग (पिछले और वर्तमान अनुभव डेटा को आपस में जोड़ना) की प्रभावकारिता का मूल्यांकन करता है।

मुख्य योगदान (Key Contributions)

कंटीन्यूअल LEGO फ्रेमवर्क: लेखक ट्रांसफॉर्मर्स में CL क्षमताओं की व्यवस्थित जांच के लिए एक नियंत्रित, सिंथेटिक प्रतिमान (paradigm) पेश करते हैं, जो विशेष रूप से संरचनात्मक तर्क पर केंद्रित है।
आर्किटेक्चरल विचलन (Architectural Divergence): अध्ययन से पता चलता है कि आर्किटेक्चरल विकल्प (फीडफॉरवर्ड बनाम रिकरेंट/वेट-शेयर्ड) सामान्यीकरण और फॉरवर्ड ट्रांसफर को अलग-अलग तरह से प्रभावित करते हैं। BERT मॉडल आकार बढ़ने के साथ असंगत प्रदर्शन दिखाते हैं, जबकि ALBERT मॉडल क्षमता और प्रदर्शन के बीच एक स्पष्ट संबंध प्रदर्शित करते हैं।
विफलता/सफलता का यांत्रिक स्पष्टीकरण: अटेंशन पैटर्न विश्लेषण के माध्यम से, लेखक पहचानते हैं कि ALBERT एक सामान्यीकरण योग्य, एल्गोरिद्मिक "For loop-esque" समाधान सीखता है, जबकि BERT शॉर्टकट समाधान सीखता है जो लंबे अनुक्रमों या नए अनुभवों में विफल हो जाते हैं।
रिप्ले की सीमाएं: शोध पत्र दर्शाता है कि जबकि रिप्ले बफ़र्स कैटास्ट्रोफिक फॉरगेटिंग को कम कर सकते हैं, वे BERT मॉडलों में अनुभवों के बीच संरचनात्मक तर्क (compositional reasoning) को सक्षम करने के लिए अपर्याप्त हैं। केवल ALBERT मॉडल ही वास्तविक क्रॉस-अनुभव संरचना प्राप्त करने के लिए इंक्रीमेंटल रूप से संयोजित डेटा से लाभान्वित होते हैं।

परिणाम (Results)

1. कंटिन्यूअल LEGO पर प्रदर्शन

फॉरवर्ड ट्रांसफर: ALBERT मॉडल मजबूत फॉरवर्ड ट्रांसफर प्रदर्शित करते हैं, जो कम प्रशिक्षण युगों (epochs) के साथ नए फ्लिप-फ्लॉप अनुभवों पर उच्च सटीकता प्राप्त करते हैं। BERT मॉडल कमजोर फॉरवर्ड ट्रांसफर दिखाते हैं, जिन्हें अक्सर एसिम्प्टोटिक सटीकता तक पहुँचने के लिए अधिक युगों की आवश्यकता होती है और वे प्रशिक्षण सेट से लंबे अनुक्रमों तक सामान्यीकरण करने में विफल रहते हैं।
कैटैस्ट्रोफिक फॉरगेटिंग: बिना हस्तक्षेप के नए अनुभवों पर प्रशिक्षित होने पर, दोनों BERT और ALBERT मॉडल पिछले अनुभवों पर लगभग पूर्ण कैटास्ट्रोफिक फॉरगेटिंग (प्रदर्शन ~0% तक गिर जाना) प्रदर्शित करते हैं।
सामान्यीकरण (Generalization): ALBERT मॉडल छोटे अनुक्रमों ( $a_4$ ) पर प्रशिक्षित होने पर लंबे अनुक्रमों ( $a_5, a_6$ ) पर अच्छी तरह से सामान्यीकरण करते हैं। BERT मॉडल आम तौर पर प्रशिक्षण अनुक्रम लंबाई से परे सामान्यीकरण करने में विफल रहते हैं।

2. यांत्रिक विश्लेषण (अटेंशन पैटर्न)

ALBERT (सामान्य समाधान): न्यूनतम ALBERT मॉडलों में अटेंशन पैटर्न एक "For loop-esque" सिग्नेचर दिखाते हैं। एक दिए गए क्लॉज के टोकन व्यवस्थित रूप से पिछले क्लॉज के टोकनों पर ध्यान केंद्रित करते हैं, जिससे स्टेट अपडेट होता है। यह पैटर्न अनुभवों के बीच बना रहता है और मजबूत होता जाता है।
BERT (शॉर्टकट समाधान): BERT मॉडल एक शॉर्टकट सिग्नेचर प्रदर्शित करते हैं जहाँ सेल्फ-अटेंशन सभी आउटपुट टोकनों के लिए पहले क्लॉज के एक साझा इनपुट टोकन को अलग (isolate) कर देता है। यह समाधान प्रशिक्षण के दौरान जल्दी स्थापित हो जाता है और नए अनुभव आने पर भी बना रहता है, जिससे मॉडल आवश्यक पुनरावृत्ति (iterative composition) सीखने में विफल रहता है।

3. आर्किटेक्चरल स्केल का प्रभाव

ALBERT: प्रदर्शन (कार्य सटीकता, सामान्यीकरण, फॉरवर्ड ट्रांसफर) छिपी हुई परतों (hidden layers) की संख्या के साथ सकारात्मक रूप से बढ़ता है (सफलता के लिए कम से कम 4 परतों की आवश्यकता होती है)।
BERT: मॉडल का आकार बढ़ाना (जैसे, 12 परतें) बेहतर प्रदर्शन की गारंटी नहीं देता है और प्रशिक्षण अस्थिरता का कारण बन सकता है। BERT के लिए मॉडल के आकार और फॉरवर्ड ट्रांसफर या सामान्यीकरण के बीच कोई स्पष्ट संबंध नहीं है।

4. शमन रणनीतियाँ (Mitigation Strategies)

रिप्ले बफ़र्स: पिछले 1% डेटा को सहेजना दोनों मॉडलों के लिए कैटास्ट्रोफिक फॉरगेटिंग को सफलतापूर्वक कम करता है और फॉरवर्ड ट्रांसफर को बनाए रखता है। हालांकि, नैव रिप्ले (अलग-अलग उदाहरणों को सहेजना) अनुभवों के बीच संरचना (composition) को सक्षम करने में विफल रहता है।
इन्क्रीमेंटल/कंबाइंड ट्रेनिंग: वह डेटा जिस पर पिछले और वर्तमान अनुभवों को जोड़ा गया है ("इन्क्रीमेंटल फ्लिप-फ्लॉप"), ALBERT के प्रदर्शन को बचा लेता है, जिससे यह पूर्ण कार्य पर प्रशिक्षित मॉडल के प्रदर्शन के करीब पहुँच जाता है। यह रणनीति BERT के लिए विफल रहती है, जहाँ प्रारंभिक प्रशिक्षण के दौरान शॉर्टकट समाधान स्थापित हो जाता है और इसे संयोजित डेटा द्वारा सुधारा या बदला नहीं जा सकता है।

महत्व और दावे (Significance and Claims)

शोध पत्र दावा करता है कि रिकरेंट ट्रांसफॉर्मर्स (विशेष रूप से ALBERT का वेट-शेयरिंग) का इंडक्टिव बायस (inductive bias), मानक फीडफॉरवर्ड आर्किटेक्चर (BERT) की तुलना में निरंतर संरचनात्मक तर्क के लिए बेहतर अनुकूल है।

शॉर्टकट समाधान एक बाधा के रूप में: लेखक तर्क देते हैं कि BERT द्वारा सीखे गए "शॉर्टकट समाधान" केवल प्रदर्शन की समस्या नहीं हैं, बल्कि निरंतर शिक्षण में एक मौलिक बाधा हैं। ये शॉर्टकट स्थापित हो जाते हैं और मॉडल को उन सामान्य एल्गोरिद्मिक रणनीतियों को प्राप्त करने से रोकते हैं जो फॉरवर्ड ट्रांसफर और क्रॉस-अनुभव संरचना के लिए आवश्यक हैं।
रिकरेंट लाभ: ALBERT द्वारा सीखा गया "For loop-esque" कम्प्यूटेशन सामान्यीकरण और फॉरवर्ड ट्रांसफर के लिए एक तंत्र प्रदान करता है, जो यह सुझाव देता है कि रिकरेंट संरचनाएं (या वेट-शेयरिंग तंत्र) न्यूरल नेटवर्क में लचीली कम्प्यूटेशनल रणनीतियों को विकसित करने के लिए महत्वपूर्ण हो सकते हैं।
प्रशिक्षण रणनीति की सीमाएं: अध्ययन दिखाता है कि जबकि सरल रिप्ले भूलने की प्रक्रिया को ठीक कर सकता है, यह अनुभवों के बीच संरचना (composition) को हल नहीं करता है। वास्तविक निरंतर संरचनात्मक तर्क के लिए ऐसे प्रशिक्षण रणनीतियों की आवश्यकता हो सकती है जो अनुभवों के बीच डेटा को स्पष्ट रूप से संयोजित करती हों, जो यह सुझाव देता है कि जेनेरेटिव रिप्ले विधियाँ भविष्य के अनुसंधान के लिए, विशेष रूप से ALBERT जैसे मॉडलों के लिए, एक फलदायी दिशा हो सकती है।

लेखक निष्कर्ष निकालते हैं कि हालांकि ट्रांसफॉर्मर्स जटिल स्थिर कार्यों में सफल हो सकते हैं, लेकिन निरंतर सीखना और नए अनुभवों के माध्यम से संरचना बनाना उनकी क्षमता, विशिष्ट कम्प्यूटेशनल रणनीतियों (शॉर्टकट बनाम एल्गोरिदम) द्वारा गंभीर रूप से बाधित होती है, जो आर्किटेक्चरल विकल्पों से गहराई से प्रभावित होती हैं।