VeriLLM: A Lightweight Framework for Publicly Verifiable Decentralized Inference
VeriLLM एक हल्का, सार्वजनिक रूप से सत्यापन योग्य ढांचा है जो विकेंद्रीकृत LLM इन्फरेंस (inference) के लिए है, जो दक्षता और मजबूती को अधिकतम करने के लिए उसी GPU वर्कर्स पर इन्फरेंस और वेरिफिकेशन भूमिकाओं को मल्टीप्लेक्स करने वाले एक आइसोमोर्फिक आर्किटेक्चर के साथ कम लागत वाले एम्पिरिकल रनिंग (empirical running) को जोड़कर आउटपुट की शुद्धता और प्रोत्साहन अनुकूलता सुनिश्चित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप दुनिया भर के अजनबियों की एक टीम को अपने लिए एक कहानी लिखने के लिए काम पर रखना चाहते हैं। आप उन्हें नहीं जानते, और आप उन पर भरोसा नहीं करते। आपको डर है कि वे शॉर्टकट ले सकते हैं, एक सस्ते, कम गुणवत्ता वाले लेखन स्टाइल का उपयोग कर सकते हैं, या नई कहानी लिखने के बजाय पुरानी कहानियों को कॉपी-पेस्ट कर सकते हैं।
यही वह समस्या है जिसे VeriLLM हल करता है। यह एक नया सिस्टम है जो किसी को भी शक्तिशाली AI मॉडल (जैसे कि वे जो कहानियाँ या कोड लिखते हैं) चलाने के लिए कंप्यूटरों के विकेंद्रीकृत नेटवर्क (decentralized network) का उपयोग करने देता है, बिना किसी एक बड़ी कंपनी पर भरोसा किए।
यह कैसे काम करता है, सरल उपमाओं (analogies) के माध्यम से यहाँ समझाया गया है:
1. समस्या: "आलसी कार्यकर्ता" की दुविधा (The "Lazy Worker" Dilemma)
एक सामान्य कंप्यूटर केंद्र में, एक बड़ी कंपनी अपने काम की जांच स्वयं करती है। एक विकेंद्रीकृत नेटवर्क में, आपके पास हजारों स्वतंत्र कंप्यूटर (कार्यकर्ता) होते हैं।
- जोखिम: एक कार्यकर्ता बिजली बचाने के लिए AI के "आलसी" संस्करण का उपयोग करके या चरणों को छोड़कर पैसे बचाने की कोशिश कर सकता है।
- पुराना समाधान: यह जांचने के लिए कि उन्होंने काम किया है या नहीं, आप पहले से ही दूसरे कंप्यूटर को वही काम शुरू से करने के लिए कहते थे। यह एक दूसरे लेखक को पूरी कहानी फिर से लिखने के लिए काम पर रखने जैसा है ताकि पहली वाली की जांच की जा सके। यह अविश्वसनीय रूप से महंगा और धीमा है (जैसे एक एकल कार्य के लिए दोगुना भुगतान करना)।
2. बड़ा विचार: "स्पीड-रन" ट्रिक (The "Speed-Run" Trick)
VeriLLM एक चतुर ट्रिक का उपयोग करता है जो इस बात पर आधारित है कि AI मॉडल वास्तव में कैसे सोचते हैं।
- कहानी लिखना (Inference): जब एक AI कहानी लिखता है, तो उसे शब्द-दर-शब्द लिखना होता है। वह अंतिम शब्द नहीं लिख सकता जब तक कि उसे दूसरे-से-अंतिम शब्द का पता न हो। यह धीमा और क्रमिक (sequential) है।
- कहानी की जांच करना (Verification): लेकिन यदि आपके पास पहले से ही पूरी कहानी है, तो आपको इसे शब्द-दर-शब्द लिखने की आवश्यकता नहीं है। आप एक बार में पूरी चीज़ देख सकते हैं।
उपमा: कल्पना कीजिए कि एक छात्र गणित की परीक्षा दे रहा है।
- छात्र (Inference): उसे समस्याओं को एक-एक करके, चरण-दर-चरण हल करना होता है। इसमें लंबा समय लगता है।
- शिक्षक (Verifier): उसके पास छात्र के पूरे उत्तर मौजूद हैं। हर समस्या को शुरू से फिर से हल करने के बजाय, शिक्षक बस अंतिम उत्तरों और मुख्य चरणों को एक साथ देख सकता है।
- परिणाम: VeriLLM ने पाया कि यह "स्पीड-रन" जांच काम को दोबारा करने की तुलना में 99% तेज़ है। काम करने के लिए आवश्यक ऊर्जा का केवल लगभग 1% ही इसे सत्यापित करने में खर्च होता है।
3. "आंखों पर पट्टी बांधे निरीक्षक" प्रणाली (The "Blindfolded Inspector" System)
इस स्पीड ट्रिक के साथ भी, आप किसी कार्यकर्ता को केवल उत्तरों का अनुमान लगाने से कैसे रोकेंगे? VeriLLM गेम-थ्योरी के एक दृष्टिकोण का उपयोग करता है जिसे "कमिट, सैंपल, एंड रिवील" (Commit, Sample, and Reveal) कहा जाता है।
- कमिटमेंट (बॉक्स को लॉक करना): इससे पहले कि किसी को पता चले कि उत्तर क्या है, कार्यकर्ता को अपने परिणामों को एक डिजिटल बॉक्स (एक क्रिप्टोग्राफिक कमिटमेंट) में "लॉक" करना होगा और इसे ब्लॉकचेन पर भेजना होगा। वे बाद में इसकी सामग्री नहीं बदल सकते।
- रैंडम सैंपल (लॉटरी): एक स्मार्ट कंप्यूटर (शेड्यूलर) कार्यकर्ता की कहानी से केवल कुछ विशिष्ट पृष्ठों या वाक्यों को चुनने के लिए एक रैंडम लॉटरी का उपयोग करता है।
- रिवील (प्रकटीकरण): कार्यकर्ता को बॉक्स खोलना होगा और केवल उन विशिष्ट पृष्ठों को दिखाना होगा।
- चेक (जांच): सिस्टम उन पृष्ठों की जांच करता है। यदि वे गणित से मेल खाते हैं, तो कार्यकर्ता को भुगतान किया जाता है। यदि वे मेल नहीं खाते, या यदि कार्यकर्ता खराब पृष्ठों को छिपाने की कोशिश करता है, तो वह अपनी जमा राशि (वित्तीय दंड) खो देता है।
यह क्यों काम करता है: क्योंकि कार्यकर्ता को यह नहीं पता होता कि काम लॉक करने के बाद कौन से पृष्ठ चुने जाएंगे, इसलिए वे केवल उन हिस्सों को फर्जी नहीं बना सकते जिन्हें वे लगता है कि जांचा जाएगा। उन्हें पूरा काम सही ढंग से करना ही होगा।
4. "भूमिकाएं बदलने" का नियम (The "Swapping Roles" Rule)
एक स्मार्ट कार्यकर्ता यह पता लगाने की कोशिश कर सकता है कि, "क्या मुझे कहानी लिखने के लिए कहा जा रहा है, या मुझे किसी और की कहानी की जांच करने के लिए कहा जा रहा है?" यदि उन्हें पता चलता है कि वे एक चेकर (जांचकर्ता) हैं, तो वे आलसी होने की कोशिश कर सकते हैं।
VeriLLM इसे इन्फरेंस (लिखना) और वेरिफिकेशन (जांचना) कार्यों को बिल्कुल एक जैसा दिखाकर हल करता है।
- उपमा: एक कारखाने की कल्पना करें जहाँ प्रत्येक कार्यकर्ता बिल्कुल एक ही समान वर्दी पहनता है और एक ही मशीन का उपयोग करता है। कभी-कभी मशीन को कार बनाने के लिए कहा जाता है; अन्य समय में, उसे कार का निरीक्षण करने के लिए कहा जाता है। कार्यकर्ता (कंप्यूटर) को पता नहीं होता कि वह कौन सा कार्य कर रहा है। वे निरीक्षणों पर आलसी होकर सिस्टम को "गेम" नहीं कर सकते क्योंकि उन्हें पता ही नहीं है कि वे निरीक्षण कर रहे हैं।
5. "अव्यवस्थित" कंप्यूटरों को संभालना (Handling "Messy" Computers)
विभिन्न कंप्यूटर (GPUs) हार्डवेयर के सूक्ष्म अंतरों के कारण कभी-कभी संख्याओं की गणना थोड़ी अलग तरह से करते हैं (जैसे दो कैलकुलेटर द्वारा 0.0000001 बनाम 0.0000002 दिखाना)।
- VeriLLM के पास एक "नॉइज़ फ़िल्टर" है। यह जानता है कि मामूली, यादृच्छिक अंतर ठीक हैं (जैसे लिखावट में थोड़ा बदलाव)। लेकिन यदि संख्याएं बहुत अलग हैं (जैसे कि पूरी तरह से अलग शब्द), तो यह जान जाता है कि कुछ गलत है और इसे फ्लैग (चिह्नित) कर देता है।
सारांश
VeriLLM एक ऐसा सिस्टम है जो दुनिया को शक्तिशाली AI चलाने की लागत साझा करने देता है।
- यह काम की जांच करना सस्ता और तेज़ बनाता है ( "स्पीड-रन" ट्रिक का उपयोग करके)।
- यह धोखाधड़ी करना असंभव बनाता है ( "ब्लाइंडफोल्डेड इंस्पेक्टर" लॉटरी का उपयोग करके)।
- यह सिस्टम को निष्पक्ष बनाता है (कौन क्या कर रहा है, इसे छिपाकर)।
परिणामस्वरूप, एक भरोसेमंद AI नेटवर्क मिलता है जहाँ आपको किसी केंद्रीय बॉस पर भरोसा करने की आवश्यकता नहीं है; आपको बस गणित और कोड पर भरोसा करने की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।