The Scaling Properties of Implicit Deductive Reasoning in Transformers
यह शोध पत्र प्रदर्शित करता है कि पर्याप्त रूप से गहरे द्विदिशीय (bidirectional) ट्रांसफॉर्मर्स, स्प्यूरियस सहसंबंधों (spurious correlations) को समाप्त करके और एल्गोरिद्मिक संरेखण (algorithmic alignment) को लागू करके, हॉर्न क्लॉज़ (Horn clauses) पर निहित निवर्तनात्मक तर्क (implicit deductive reasoning) में स्पष्ट चेन-ऑफ-थॉट स्तर का प्रदर्शन प्राप्त कर सकते हैं, हालांकि अधिक गहराई तक विस्तार करने के लिए स्पष्ट तर्क (explicit reasoning) आवश्यक बना हुआ है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ "The Scaling Properties of Implicit Deductive Reasoning in Transformers" शोध पत्र का सरल भाषा और रचनात्मक उपमाओं के साथ हिंदी अनुवाद दिया गया है।
बड़ी तस्वीर: "शॉर्टकट" की समस्या
कल्पive कि आप एक छात्र (AI) को एक जटिल भूलभुलैया (maze) हल करना सिखा रहे हैं।
- लक्ष्य: छात्र को नियमों के एक विशिष्ट सेट (तर्क) का पालन करते हुए बाहर निकलने का रास्ता (तार्किक उत्तर) खोजना चाहिए।
- समस्या: अतीत में, ये छात्र "चीटिंग" करते थे। भूलभुलैया के हर कदम पर चलने के बजाय, उन्होंने ध्यान दिया कि जिस भूलभुलैया में लाल दरवाजा होता है, उसमें निकास आमतौर पर बाईं ओर होता है। उन्होंने भूलभुलैया को हल करने के बजाय लाल दरवाजे (एक भ्रामक विशेषता/deceptive feature) को पहचानना सीख लिया। यह शॉर्टकट लर्निंग कहलाता है। यदि आप उन्हें नीले दरवाजे वाली भूलभुलैया देते, तो वे असफल हो जाते क्योंकि उन्होंने वास्तव में नियम नहीं सीखे थे।
यह शोध पत्र पूछता है: क्या हम AI को चीटिंग करने से रोक सकते हैं और उसे बिना किसी "चीट शीट" (Chain of Thought) के, वास्तव में तर्क की भूलभुलैया को चरण-दर-चरण हल करना सिखा सकते हैं?
चीटिंग रोकने के तीन उपकरण
शोधकर्ताओं ने AI को सही ढंग से सोचने के लिए मजबूर करने हेतु तीन विशिष्ट उपकरणों के साथ एक विशेष प्रशिक्षण वातावरण बनाया:
- "r2-Heuristic" (जुड़वां परीक्षण):
कल्पना कीजिए कि आप छात्र को दो ऐसी भूलभुलैया दिखाते हैं जो बाहर से लगभग एक जैसी दिखती हैं (समान दीवारों की संख्या, समान रंग)। एक में, निकास तक पहुँचा जा सकता है; दूसरे में, यह एक डेड एंड (बंद रास्ता) है।
- पुराना तरीका: छात्र रंगों के आधार पर अनुमान लगाता।
- नया तरीका: चूंकि भूलभुलैया एक जैसी दिखती हैं लेकिन उनके उत्तर अलग हैं, इसलिए छात्र को रंगों को अनदेखा करना होगा और अंतर खोजने के लिए वास्तव में पथ का पीछा करना होगा। यह उन्हें सतह के धोखों के बजाय वास्तविक तर्क सीखने के लिए मजबूर करता है।
- Bidirectional Prefix-Masking ("सर्वदर्शी आँख"):
सामान्यतः, AI मॉडल टेक्स्ट को वैसे ही पढ़ते हैं जैसे इंसान किताब पढ़ते हैं: बाएं से दाएं, शब्द दर शब्द। यदि उत्तर वाक्य के बिल्कुल अंत में दिए गए सुराग पर निर्भर करता है, तो मॉडल शुरुआत पढ़ते समय उसे मिस कर सकता है।
- समाधान: शोधकर्ताओं ने मॉडल को एक "जादुई लेंस" दिया जो उसे उत्तर देने का प्रयास करने से पहले, पूरे समस्या विवरण को शुरू से अंत तक एक साथ देखने की अनुमति देता है। यह "पढ़ने के क्रम" के पूर्वाग्रह को हटा देता है और मॉडल को पूर्ण तार्किक चित्र को समझने में सक्षम बनाता है।
- The Corrective Objective ("शैडो ट्रेनर"):
सामान्यतः, AI को सीधे उत्तर देने के लिए (जैसे बहुविकल्पीय परीक्षा में) या अपने विचारों को चरण-दर-चरण लिखने के लिए सिखाया जाता है।
- नवाचार: उन्होंने मॉडल को एक ही अनुक्रम (sequence) में दोनों कार्य एक साथ करने के लिए सिखाया। मॉडल सीधे उत्तर देने का प्रयास करता है लेकिन साथ ही साथ एक चरण-दर-चरण ट्रेनर द्वारा "शैडो" (छायांकित) भी होता है। मॉडल सीखता है कि सीधा उत्तर, चरण-दर-चरण ट्रेनर के तर्क के अनुरूप होना चाहिए। यह दोनों विधियों को सामंजस्य में लाता है और "प्रत्यक्ष" उत्तर को अधिक स्मार्ट बनाता है।
मुख्य खोज: गहराई ही कुंजी है
शोधकर्ताओं ने पाया कि AI को एक अच्छा तर्कशास्त्री बनाने वाला सबसे महत्वपूर्ण कारक गहराई (AI में कितनी लेयर्स हैं) है, न कि केवल इसकी चौड़ाई या आकार।
- उपमा: कल्पना कीजिए कि AI एक कारखाने में असेंबली लाइन की तरह है।
- उथला AI (छोटी लाइन): यह एक बार में केवल एक या दो कार्य चरणों को संभाल सकता है। यदि तर्क की समस्या के लिए 10 चरणों की आवश्यकता है, तो छोटी लाइन भ्रमित हो जाएगी, हार मान लेगी, या अनुमान लगाने लगेगी।
- गहरा AI (लंबी लाइन): असेंबली लाइन को बहुत लंबा (लेयर्स की संख्या बढ़ाकर) करके, AI समस्या को हल करने के लिए काम को एक लाइन से दूसरी लाइन में चरण-दर-चरण पास कर सकता है, ठीक वैसे ही जैसे एक इंसान किसी समस्या पर विचार करता है।
परिणाम: जब उन्होंने AI को बहुत गहरा बनाया (128 लेयर्स तक), तो "डायरेक्ट" विधि (तत्काल समाधान) "चेन ऑफ थॉट" विधि (चरण-दर-चरण समाधान) के समान ही प्रभावी हो गई। AI अंततः बिना लिखे ही आंतरिक रूप से कठिन कार्य करने में सक्षम हो गया।
सीमाएं: जहाँ AI अभी भी संघर्ष करता है
इन सुधारों के बावजूद, दो मुख्य सीमाएं हैं:
- "प्रशिक्षण और वास्तविक दुनिया" के बीच का अंतर:
AI ने एक निश्चित गहराई (मान लीजिए 6 चरण) तक की भूलभुलैया को बहुत अच्छी तरह से हल करना सीख लिया। लेकिन जब इसे 12-चरणीय भूलभुलैया (ऐसी समस्या जो उसने प्रशिक्षण के दौरान नहीं देखी थी) दी गई, तो वह संघर्ष करने लगा।
- अंतर्दृष्टि: हालांकि एक गहरा AI अपने प्रशिक्षण सीमा के भीतर की समस्याओं को पूरी तरह से हल कर सकता है, लेकिन उसे उन समस्याओं को संभालने के लिए अभी भी "चरण-दर-चरण" (Chain of Thought) विधि की आवश्यकता होती है जो उसके प्रशिक्षण से अधिक गहरी हैं। वह अभी भी काफी कठिन समस्याओं के लिए तर्क का केवल "अनुमान" नहीं लगा सकता।
- "सर्च" (खोज) की बाधा:
कुछ तर्क संबंधी समस्याएं घास के ढेर में सुई खोजने जैसी होती हैं, जहाँ घास का ढेर बढ़ता जाता है। शोध पत्र सुझाव देता है कि इन विशिष्ट कठिन समस्याओं के लिए, केवल AI को बड़ा या चौड़ा बनाना बहुत मदद नहीं करता है। तर्क की क्रमिक प्रकृति को संभालने के लिए इसे गहरा होना चाहिए।
सारांश
यह शोध पत्र दिखाता है कि AI मॉडल स्वतंत्र रूप से जटिल तार्किक तर्क सीख सकते हैं यदि उन्हें शॉर्टकट लेने से रोका जाए (चालाकी भरे प्रशिक्षण डेटा द्वारा), उन्हें एक साथ पूरी तस्वीर देखने की अनुमति दी जाए, और उन्हें बहुत गहरा बनाया जाए। वे अंततः उन मॉडलों के प्रदर्शन के बराबर हो सकते हैं जो अपने विचार लिखते हैं, लेकिन केवल उन्हीं समस्याओं के लिए जिनकी कठिनाई स्तर उनके प्रशिक्षण के समान है। उन समस्याओं के लिए जो काफी कठिन या गहरी हैं, उन्हें अभी भी "चरण-दर-चरण" वाले सहारे की आवश्यकता होती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।