CoLT: Teaching Multi-Modal Models to Think with Chain of Latent Thoughts
CoLT एक नवीन ढांचा है जो विस्तृत टेक्स्ट-आधारित चेन-ऑफ-थॉट रीजनिंग को कुशल, स्टेप-लेवल लेटेंट थॉट रिप्रेजेंटेशन्स से बदलकर मल्टी-मोडल लार्ज लैंग्वेज मॉडल्स को बेहतर बनाता है, जो एक ऐसी प्रशिक्षण रणनीति के माध्यम से महत्वपूर्ण इन्फरेंस स्पीडअप और श्रेष्ठ प्रदर्शन प्राप्त करता है जो द्विदिश पर्यवेक्षण (bidirectional supervision) के लिए एक हल्के बाहरी डिकोडर का उपयोग करती है जबकि इन्फरेंस के दौरान इसे हटा दिया जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
समस्या: "बातूनी" रोबोट
कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान रोबोट सहायक है जो किसी तस्वीर को देख सकता है और गणित की समस्या हल कर सकता है। सही उत्तर पाने के लिए, रोबोट को पहले "सोचना" पड़ता है।
वर्तमान में, अधिकांश उन्नत रोबोट चेन-ऑफ-थॉट (CoT) नामक एक विधि का उपयोग करते हैं। यह रोबोट के खुद से ज़ोर-ज़ोर से बात करने जैसा है। अंतिम उत्तर देने से पहले, वह अपने सोचने की प्रक्रिया को टेक्स्ट के रूप में एक लंबी, चरण-दर-चरण कहानी के रूप में लिखता है: "सबसे पहले, मैं एक त्रिभुज देखता हूँ। फिर, मैं देखता हूँ कि रेखा 5 इंच लंबी है। इसके बाद, मैं पाइथागोरस प्रमेय लागू करता हूँ..."
हालाँकि यह अच्छा काम करता है, लेकिन इसके दो बड़े नुकसान हैं:
- यह धीमा है: रोबोट को अपनी सोचने की प्रक्रिया का हर एक शब्द टाइप करना पड़ता है। यदि सोचने की प्रक्रिया लंबी है, तो इसमें बहुत समय और कंप्यूटर पावर खर्च होती है।
- यह कठोर है: एक बार जब रोबोट एक शब्द लिख देता है, तो वह उसी विशिष्ट वाक्य तक सीमित हो जाता है। वह पूरी कहानी को फिर से लिखे बिना आसानी से अपना विचार नहीं बदल सकता या अलग रास्तों को नहीं खोज सकता।
समाधान: CoLT (चेन ऑफ लेटेंट थॉट्स)
इस पेपर के लेखक इन रोबोट्स को सोचने का एक नया तरीका सिखाने का प्रस्ताव देते हैं, जिसे CoLT कहा जाता है।
रोबोट को एक लंबी कहानी लिखने के बजाय, CoLT रोबोट को शांत, अदृश्य फुसफुसाहटों (जिन्हें "लेटेंट थॉट्स" कहा जाता है) में सोचना सिखाता है। कल्पना कीजिए कि रोबोट एक गुप्त कोड में एक जटिल आंतरिक बातचीत कर रहा है जिसे केवल वही समझ सकता है। वह चरणों को लिखता नहीं है; वह बस विचारों को अपने "मन" (अपनी आंतरिक कंप्यूटर मेमोरी) में रखता है और सीधे उत्तर पर पहुँच जाता है।
उपमा (Analogy):
- पुराना तरीका (Text CoT): एक छात्र द्वारा गणित की समस्या हल करने जैसा, जहाँ वह कागज पर हर एक चरण लिखता है। यह स्पष्ट है, लेकिन इसे लिखने में बहुत समय लगता है।
- CoLT: एक शतरंज के ग्रैंडमास्टर की तरह जो बोर्ड को देख रहा है। वे चालों को ज़ोर से नहीं बोलते; वे तुरंत अपने दिमाग में पूरी रणनीति की कल्पना करते हैं और फिर चाल चलते हैं।
चुनौती: "मौन" की समस्या
शोधकर्ताओं ने महसूस किया कि यदि आप बस एक रोबोट को "चुपचाप सोचने" के लिए कहते हैं, तो वह अक्सर भ्रमित हो जाता है। शब्दों के बिना संरचना के, रोबोट के आंतरिक विचार निरर्थक या अर्थहीन शोर बन सकते हैं। यह किसी को बिना यह जांचे मानसिक रूप से पहेली सुलझाने के लिए कहने जैसा है कि क्या उसका तर्क वास्तव में समझ में आता है।
समाधान: "गुप्त अनुवादक"
इसे ठीक करने के लिए, लेखकों ने तीन "कोच" (सुपरविजन सिग्नल) के साथ एक विशेष प्रशिक्षण प्रणाली बनाई है ताकि रोबलेट को चुपचाप सही ढंग से सोचना सिखाया जा सके:
- फॉरवर्ड कोच (अनुवादक): यह कोच रोबोट के शांत विचार को देखता है और उसे वापस अंग्रेजी में अनुवाद करने की कोशिश करता है। यदि रोबोट का विचार अच्छा है, तो कोच कहानी का अगला चरण आसानी से लिख सकता है। यदि कोच अनुवाद नहीं कर पाता, तो रोबोट को पता चल जाता है कि उसे अपने विचारों को अधिक स्पष्ट रूप से सोचने की आवश्यकता है।
- बैकवर्ड कोच (एंकर): यह कोच अंग्रेजी कहानी को देखता है और उसे वापस रोबोट के शांत विचार में बदलने की कोशिश करता है। यह सुनिश्चित करता है कि रोबोट के शांत विचार वास्तव में वास्तविक, तार्किक विचारों से जुड़े हैं, न कि केवल रैंडम नंबरों से।
- इंटरनल कोच (प्रवाह): यह कोच यह जाँचता है कि क्या रोबोट के विचार एक चरण से दूसरे चरण तक तार्किक रूप से प्रवाहित होते हैं। यह सुनिश्चित करता है कि रोबोट बिना किसी सेतु (bridge) के विचार A से सीधे विचार Z पर न कूद जाए।
सबसे अच्छी बात: इन कोचों का उपयोग केवल रोबोट के सीखते समय किया जाता है। एक बार जब रोबोट प्रशिक्षित हो जाता है, तो कोचों को हटा दिया जाता है। जब रोबोट आपके लिए कोई समस्या हल करता है, तो वह अपने शांत विचारों का सीधे उपयोग करता है। कोई अतिरिक्त अनुवाद नहीं, कोई अतिरिक्त चरण नहीं।
परिणाम: तेज़ और स्मार्ट
पेपर में इस नई विधि का परीक्षण आठ अलग-अलग चुनौतीपूर्ण कार्यों पर किया गया, जैसे चार्ट पढ़ना, विज्ञान के प्रश्न हल करना और आरेख (diagrams) समझना।
- गति: क्योंकि रोबोट हज़ारों शब्द लिखने के बजाय केवल 3 "शांत चरणों" का उपयोग करता है, इसलिए यह कुल मिलाकर 10 गुना तेज़ है और पुराने टेक्स्ट-आधारित तरीके की तुलना में सोचने के चरण में 22 गुना तेज़ है।
- सटीकता: आश्चर्यजनक रूप से, रोबोट न केवल तेज़ हुआ; वह और भी स्मार्ट हो गया। इसने उन तरीकों को भी पीछे छोड़ दिया जिन्होंने "शांत सोचने" का प्रयास किया था और उन तरीकों को भी मात दी जिन्हें सीखने के लिए महंगी अतिरिक्त छवियों की आवश्यकता थी।
- मजबूती (Robustness): जब इनपुट अव्यवस्थित था (जैसे धुंधली छवि या टाइपो वाला प्रश्न), तो शांत सोचने की विधि टेक्स्ट-आधारित विधि की तुलना में बहुत अधिक स्थिर थी। यह एक ज़ोरदार चिल्लाहट की तुलना में बैकग्राउंड शोर से कम प्रभावित होने वाली एक फुसफुसाहट की तरह है।
सारांश
CoLT एआई को सोचने का एक नया तरीका है। एआई को किसी समस्या को हल करने के लिए एक लंबी, धीमी कहानी लिखने के लिए मजबूर करने के बजाय, यह एआई को अपने "मन" में एक संरचित, तार्किक बातचीत करने के लिए सिखाता है। इन विशेष प्रशिक्षण उपकरणों का उपयोग करके यह सुनिश्चित किया जाता है कि ये शांत विचार सार्थक हों, जिससे एआई जटिल दृश्य पहेलियों को हल करने में बहुत तेज़ और अधिक सटीक बन जाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।