RiverONE: Generating Knowledge-Intensive VLM by Simulated Quantum Machines
riverONE एक हल्का, 1.9-बिलियन-पैरामीटर वाला विज़न-लैंग्वेज मॉडल है जो प्रशिक्षण के दौरान विशेष पैरामीटर उत्पन्न करने के लिए सिम्युलेटेड क्वांटम कंप्यूटेशन का लाभ उठाता है, जिससे यह शास्त्रीय हार्डवेयर पर पूरी तरह से चलते हुए भी वैज्ञानिक अंशांकन (कैलिब्रेशन) कार्यों पर बड़े क्वांटम-कैलिब्रेटेड मॉडलों के 95% से अधिक प्रदर्शन को प्राप्त करने में सक्षम होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक शानदार, विश्व स्तरीय वैज्ञानिक है जो क्वांटम भौतिकी के प्रयोग से प्राप्त एक जटिल ग्राफ को देखकर तुरंत बता सकता है कि मशीन सही ढंग से काम कर रही है या नहीं, उन संख्याओं का क्या अर्थ है, और आगे क्या ठीक करने की आवश्यकता है। यह वैज्ञानिक अविश्वसनीय रूप से बुद्धिमान है, लेकिन वे बहुत विशाल भी हैं। उन्हें अपना काम करने के लिए किताबों के एक विशाल पुस्तकालय, एक बड़े कार्यालय और सहायकों की एक टीम की आवश्यकता होती है। AI की दुनिया में, यह "विशाल वैज्ञानिक" NVIDIA द्वारा बनाया गया एक विशाल मॉडल है, जिसे चलाने के लिए बहुत अधिक कंप्यूटर मेमोरी और काफी खर्च की आवश्यकता होती है।
इस शोध पत्र के पीछे के शोधकर्ताओं ने एक कॉम्पैक्ट, पॉकेट-साइज़ वर्शन बनाने की कोशिश की जो एक मानक लैपटॉप या एक सिंगल कंप्यूटर चिप पर फिट हो सके, बिना अपनी कठिन मेहनत करने की क्षमता खोए। उन्होंने अपनी इस रचना को RiverONE नाम दिया।
उन्होंने इसे कैसे किया, इसके लिए यहाँ कुछ रचनात्मक उपमाओं (analogies) का उपयोग किया गया है:
1. समस्या: विशालकाय को छोटा करना
मॉडल को छोटा करने के लिए, टीम को उसकी बहुत सारी "मांसपेशियों" को काटना पड़ा।
- विजुअल एनकोडर (आंखें): उन्होंने मॉडल के उस हिस्से को लिया जो ग्राफ को देखता है और उसे अपना काम साझा करने के लिए बनाया। कल्पना कीजिए कि 100 कलाकारों की एक टीम एक भित्ति चित्र (mural) बना रही है। प्रत्येक कलाकार को एक अनूठी शैली देने के बजाय, उन्होंने उन सभी को एक ही ब्रश और तकनीक का उपयोग करने के लिए कहा, बस थोड़े से बदलाव के साथ। इससे जगह तो बचती है, लेकिन पेंटिंग अपने कुछ अनूठे विवरण खो सकती है।
- लैंग्वेज बैकबोन (मस्तिष्क): उन्होंने टेक्स्ट को पढ़ने और लिखने वाले हिस्से को संकुचित (compress) किया। इसे एक 1,000 पन्नों के विश्वकोश को कुछ पन्नों के बुलेट पॉइंट्स में सारांशित करने के रूप में सोचें। आप मुख्य विचार तो रखते हैं, लेकिन आप कुछ सूक्ष्मता और विशिष्ट विवरण खो देते हैं।
2. जादू का कमाल: "क्वांटम घोस्ट" (Quantum Ghost)
यही वह चतुर हिस्सा है। जब आप एक मॉडल को इतना छोटा करते हैं, तो वह आमतौर पर "मूर्ख" हो जाता है क्योंकि वह उन बारीक विवरणों को खो देता है। शोधकर्ताओं को उस खोई हुई जानकारी को वापस पाने का एक तरीका चाहिए था, लेकिन वे केवल अधिक डेटा नहीं जोड़ सकते थे (क्योंकि उससे मॉडल फिर से बड़ा हो जाता)।
उन्होंने सिम्युलेटेड क्वांटम कंप्यूटेशन (Simulated Quantum Computation) की अवधारणा का उपयोग किया।
- उपमा: कल्पना कीजिए कि आप एक टूटे हुए रेडियो को ठीक करने की कोशिश कर रहे हैं। आप इसमें अधिक तार नहीं जोड़ सकते क्योंकि रेडियो बहुत छोटा है। इसके बजाय, आप एक अत्यधिक जटिल, अदृश्य ब्लूप्रिंट (क्वांटम सिमुलेशन) का उपयोग करते हैं ताकि यह गणना की जा सके कि ध्वनि को एकदम सटीक बनाने के लिए किस छोटे से तार को ठीक कहाँ मोड़ना है।
- सावधानी: आप इस "अदृश्य ब्लूप्रिंट" का उपयोग केवल तब करते हैं जब आप रेडियो बना रहे होते हैं। एक बार जब रेडियो बन जाता है, तो आप उस ब्लूप्रिंट को फेंक देते हैं। अंतिम रेडियो पूरी तरह से काम करता है, लेकिन उसे चलाने के लिए ब्लूप्रिंट की आवश्यकता नहीं होती है।
RiverONE में, उन्होंने एक सिम्युलेटेड क्वांटम सर्किट (एक गणितीय ट्रिक जो यह नकल करती है कि क्वांटम कंप्यूटर कैसे सोचते हैं) का उपयोग करके विशेष "रिपेयर पैरामीटर्स" उत्पन्न करने के लिए किया। ये पैरामीटर्स एक "सीक्रेट सॉस" की तरह काम करते हैं जो संपीड़न (compression) के कारण छूटे हुए अंतराल को भर देते हैं।
- महत्वपूर्ण बिंदु: अंतिम RiverONE मॉडल को चलने के लिए क्वांटम कंप्यूटर की आवश्यकता नहीं होती है। यह पूरी तरह से सामान्य कंप्यूटर चिप्स (GPUs) पर चलता है। क्वांटम भाग का उपयोग केवल "निर्माण चरण" के दौरान मॉडल को डिजाइन करने के लिए किया गया था।
3. परिणाम: एक पॉकेट-साइज़ एक्सपर्ट
टीम ने RiverONE का परीक्षण एक विशिष्ट कार्य पर किया: क्वांटम कैलिब्रेशन प्लॉट्स (वे जटिल ग्राफ जिनका उपयोग वैज्ञानिक क्वांटम मशीनों को ट्यून करने के लिए करते हैं) को समझना।
- प्रतियोगिता: उन्होंने RiverONE की तुलना विशाल NVIDIA मॉडल (जिसमें लगभग 35 बिलियन "मस्तिष्क कोशिकाएं" या पैरामीटर्स हैं) से की।
- विजेता: RiverONE में केवल 1.9 बिलियन पैरामीटर्स हैं (विशाल मॉडल के आकार के 5% से भी कम)।
- प्रदर्शन: इतने छोटे होने के बावजूद, RiverONE ने विशाल मॉडल के 95% प्रदर्शन हासिल किया। यह एक ग्राफ को देख सकता है, त्रुटियों को पहचान सकता है, और लगभग उतना ही अच्छा सुझाव दे सकता है जितना कि विशाल संस्करण, लेकिन यह एक विशाल सर्वर फार्म के बजाय एक सिंगल कंज्यूमर ग्राफिक्स कार्ड पर चलता है।
सारांश
RiverONE को एक अत्यधिक कुशल प्रशिक्षु (apprentice) के रूप में समझें।
- उन्होंने एक मास्टर शिल्पकार (एक बड़े मॉडल) को लिया और उन्हें कम उपकरणों के साथ काम करना सिखाया (compression)।
- उन्होंने एक "क्वांटम जादू के ट्रिक" (प्रशिक्षण के दौरान सिम्युलेट किया गया) का उपयोग यह पता लगाने के लिए किया कि प्रशिक्षु के उपकरणों को ठीक से कैसे ट्यून किया जाए ताकि वे अपनी कुशलता न खोएं।
- परिणाम एक हल्का विशेषज्ञ है जो मास्टर के समान ही काम कर सकता है, लेकिन आपकी जेब में समा सकता है और इसे काम करने के लिए सुपरकंप्यूटर की आवश्यकता नहीं है।
यह शोध पत्र दावा करता है कि यह सिद्ध करता है कि छोटे AI मॉडल बनाने के लिए सिम्युलेटेड क्वांटम गणित का उपयोग करना शक्तिशाली, वैज्ञानिक उपकरण बनाने का एक व्यावहारिक तरीका है जिन्हें आसानी से तैनात किया जा सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।