🤖 machine learning

Unextractable Protocol Models: Collaborative Training and Inference without Weight Materialization

यह शोधपत्र अनएक्सट्रैक्टेबल प्रोटोकॉल मॉडल्स (UPMs) को प्रस्तुत करता है, जो एक विकेंद्रीकृत ढांचा है जो मॉडल शार्ड्स पर समय-परिवर्तनीय, व्युत्क्रमणीय रूपांतरों (invertible transforms) को आवधिक रूप से लागू करके बड़े न्यूरल नेटवर्क के सहयोगात्मक प्रशिक्षण और अनुमान (inference) को सक्षम बनाता है, जिससे प्रदर्शन पर नगण्य ओवरहेड बनाए रखते हुए वेट एक्सट्रैक्शन को रोका जा सके और स्टिच्ड पार्टिशन्स को असंगत बनाया जा सके।

मूल लेखक: Alexander Long, Chamin Hewa Koneputugodage, Thalaiyasingam Ajanthan, Yan Zuo, Gil Avraham, Violetta Shevchenko, Hadi Mohaghegh Dolatabadi, Sameera Ramasinghe

प्रकाशित 2026-05-25

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Alexander Long, Chamin Hewa Koneputugodage, Thalaiyasingam Ajanthan, Yan Zuo, Gil Avraham, Violetta Shevchenko, Hadi Mohaghegh Dolatabadi, Sameera Ramasinghe

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ "Unextractable Protocol Models" पेपर का सरल भाषा और रोज़मर्रा के उदाहरणों के साथ विवरण दिया गया है।

बड़ी समस्या: "पोटलक" (Potluck) की दुविधा

एक विशाल सामुदायिक 'पोटलक' (जहाँ सब अपना खाना लाते हैं) की कल्पना करें जहाँ हज़ारों लोग एक विशाल, स्वादिष्ट स्टू (एक शक्तिशाली AI मॉडल) पकाने के लिए सामग्री लेकर आते हैं। हर कोई थोड़ा-थोड़ा योगदान देता है। हालाँकि, इसमें एक पेच है: यदि कोई भी तैयार स्टू को अपने घर ले जा सकता है, तो वे इसे खुद बेच सकते हैं, और मूल योगदानकर्ताओं को कुछ भी नहीं मिलेगा।

AI की दुनिया में, एक विशाल मॉडल को प्रशिक्षित करने की लागत लाखों डॉलर होती है। इसे सस्ता बनाने के लिए, लोग एक "विकेंद्रीकृत" (decentralized) दृष्टिकोण का उपयोग करना चाहते हैं जहाँ हज़ारों स्वयंसेवक अपने कंप्यूटर का योगदान देते हैं। लेकिन यदि अंतिम मॉडल की "रेसिपी" (वजन/weights) सभी के लिए पूरी तरह से दृश्यमान है, तो एक बुरा व्यक्ति पूरी रेसिपी चुरा सकता है, पोटलक छोड़कर जा सकता है, और अपने दम पर AI को बेच सकता है। यह लोगों के योगदान देने के प्रोत्साहन को खत्म कर देता है।

समाधान: "जादुई बदलता हुआ पहेली" (Magic Shifting Puzzle)

शोधकर्ता इस स्टू को पकाने का एक नया तरीका प्रस्तावित करते हैं जिसे Unextractable Protocol Models (UPMs) कहा जाता है।

मॉडल को एक स्थिर रेसिपी देने के बजाय, वे इसे एक बदलती हुई पहेली में बदल देते हैं।

सेटअप: विशाल AI मॉडल को कई छोटे टुकड़ों में काट दिया जाता है (जैसे केक की परतें)। अलग-अलग स्वयंसेters के पास अलग-अलग टुकड़े होते हैं। कोई भी एक व्यक्ति एक समय में पूरा केक नहीं देख पाता।
ट्रिक: हर कुछ मिनटों में, सिस्टम एक "जादुई ट्रिक" करता है। यह इन टुकड़ों के किनारों पर एक यादृच्छिक (random), अदृश्य परिवर्तन लागू करता है। इसे एक पहेली के टुकड़े के किनारों को घुमाने जैसा समझें।
- ठीक उसी क्षण: टुकड़े अभी भी एक दूसरे में पूरी तरह फिट बैठते हैं। AI बिल्कुल वैसे ही काम करता है जैसा उसे करना चाहिए।
- किसी दूसरे क्षण में: टुकड़े अब आपस में मेल नहीं खाते। यदि आप "मंगलवार" के एक टुकड़े को "बुधवार" के टुकड़े से जोड़ने की कोशिश करते हैं, तो किनारे ऊबड़-खाबड़ और बेमेल हो जाते हैं। मॉडल टूट जाता है।

यह चोरों को कैसे रोकता है

कल्पना करें कि एक चोर रेसिपी चुराने की कोशिश कर रहा है।

प्रयास: चोर पोटलक में शामिल होता है, कुछ समय तक इंतज़ार करता है, और कुछ टुकड़े हासिल कर लेता है। फिर वह चला जाता है, वापस आता है, एक "नए व्यक्ति" के रूप रूप में, और अलग-अलग टुकड़े हासिल करता है।
विफलता: क्योंकि सिस्टम लगातार टुकड़ों के किनारों के आकार को बदलता रहता है (transforms), चोर के मंगलवार के टुकड़े उनके बुधवार के टुकड़ों से मेल नहीं खाते। अंत में उनके पास बेमेल टुकड़ों का ढेर होता है जो कोई तस्वीर नहीं बना पाते।
मरम्मत की लागत: चोर एक सुपरकंप्यूटर का उपयोग करके टुकड़ों को जबरदस्ती फिट करने या उन्हें फिर से प्रशिक्षित (retrain) करने की कोशिश कर सकता है। लेकिन पेपर दिखाता है कि यह अविश्वसनीय रूप से महंगा है। इसमें उन्हें मॉडल को शून्य से बनाने में लगे पैसों और समय का लगभग 60% खर्च करना पड़ेगा। यह इतना महंगा है कि इसे करना फायदे का सौदा नहीं है, इसलिए चोर हार मान लेता है।

"जादुई" विवरण

Transforms: सिस्टम गणितीय "शफल" (विशेष रूप से रैंडम रोटेशन और स्केलिंग) का उपयोग करता है जो प्रतिवर्ती (reversible) हैं। वे एक-दूसरे को तुरंत रद्द कर देते हैं ताकि AI भ्रमित न हो, लेकिन वे डेटा को इतनी गहराई से बिखेर देते हैं कि बिना गुप्त कुंजी (secret key) के मूल आकार को समझना असंभव है (जिसे तुरंत फेंक दिया जाता है)।
गति: यह जादुई ट्रिक बहुत तेज़ी से होती है। यह केवल बहुत कम देरी (लगभग 3%) जोड़ती है और बहुत कम अतिरिक्त मेमोरी का उपयोग करती है। यह किताब के हर पन्ने पर एक छोटा, अदृश्य वॉटरमार्क जोड़ने जैसा है; किताब वैसी ही पढ़ी जाती है, लेकिन आप बाद में पन्नों की फोटोकॉपी करके उन्हें फिर से असेंबल नहीं कर सकते।
प्रशिक्षण (Training): जब मॉडल सीख रहा होता है, तब भी ये शफल होते रहते हैं। शोधकर्ताओं ने पाया कि यदि वे सही प्रकार के शफल (विशेष रूप से ऑर्थोगोनल मैट्रिसेस) का उपयोग करते हैं, तो मॉडल उतना ही अच्छा सीखता है जितना कि कुछ भी न होने पर।

मुख्य निष्कर्ष

यह पेपर एक ऐसा तरीका पेश करता है जिससे हज़ारों लोग मिलकर एक विशाल AI बना सकते हैं बिना किसी के अंतिम उत्पाद को चुरा पाने के। मॉडल के टुकड़ों को लगातार नया आकार देकर ताकि वे केवल अभी ही फिट बैठें, यह सिस्टम सुनिश्चित करता है कि AI का मूल्य समुदाय के भीतर ही लॉक रहे। आप AI का उपयोग कर सकते हैं, लेकिन आप इसे घर ले जाकर बेच नहीं सकते।

मुख्य बात: यह AI मॉडल को एक "जीवित" वस्तु में बदल देता है जो लगातार अपना आकार बदलता रहता है, जिससे इसकी एक स्थिर कॉपी चुराना असंभव हो जाता है, जबकि इसे चुराने की लागत इतनी अधिक रहती है कि यह प्रयास करने योग्य नहीं रह जाता।

तकनीकी सारांश: अनएक्सट्रैक्टेबल प्रोटोकॉल मॉडल्स (UPMs)

1. समस्या विवरण (Problem Statement)

यह शोध पत्र बड़े फाउंडेशन मॉडल्स के लिए विकेंद्रीकृत प्रशिक्षण (decentralized training) की आर्थिक और सुरक्षा चुनौतियों को संबोधित करता है। जबकि विकेंद्रीकृत प्रणालियाँ विशाल मॉडल्स को प्रशिक्षित करने के लिए वितरित कंप्यूट संसाधनों को एकत्रित करने की अनुमति देती हैं, वे एक महत्वपूर्ण "एप्रोप्रिएबिलिटी समस्या" (appropriability problem) का सामना करती हैं: यदि पूर्ण मॉडल वेट्स (weights) प्रतिभागियों के लिए सुलभ हैं, तो योगदानकर्ता अपनी प्रशिक्षण लागत की भरपाई नहीं कर सकते क्योंकि मॉडल को प्रोटोकॉल के बाहर निकाला और उपयोग किया जा सकता है।

वर्तमान विकेंद्रीकृत दृष्टिकोण (जैसे, डेटा पैरेललिज्म या मानक पाइपलाइन पैरेललिज्म) अक्सर प्रतिभागियों को पूर्ण मॉडल रेप्लिका रखने या समय के साथ पूर्ण वेट्स के पुनर्निर्माण की अनुमति देने की आवश्यकता रखते हैं। इससे वेट मटेरियलाइजेशन (weight materialization) की स्थिति उत्पन्न होती है, जहाँ एक हमलावर (या गठबंधन) अंततः एक कार्यात्मक, एक्सट्रैक्ट करने योग्य मॉडल बनाने के लिए विभिन्न समय चरणों में सभी मॉडल शेर्ड्स (shards) तक पहुँच प्राप्त कर सकता है। यह शोध पत्र तर्क देता है कि विकेंद्रीकृत प्रशिक्षण के आर्थिक रूप से व्यवहार्य होने के लिए, मॉडल का अनएक्सट्रैक्टेबल (unextractable) होना आवश्यक है—यह सुनिश्चित करना कि किसी भी एकल प्रतिभागी के पास कभी भी पूर्ण वेट सेट न हो, और अलग-अलग समय पर एकत्र किए गए वेट्स को एक सुसंगत मॉडल बनाने के लिए जोड़ा न जा सके।

2. कार्यप्रणाली: अनएक्सट्रैक्टेबल प्रोटोकॉल मॉडल्स (UPMs)

लेखक अनएक्सट्रैक्टेबल प्रोटोकॉल मॉडल्स (UPMs) का प्रस्ताव करते हैं, जो भारी क्रिप्टोग्राफिक प्रिमिटिव्स पर निर्भर रहने के बिना वेट अनएक्सट्रैक्टेबिलिटी को लागू करने के लिए पाइपलाइन पैरेललिज्म (PP) का लाभ उठाता है।

मुख्य तंत्र: समय-परिवर्तनीय व्युत्क्रम रूपांतरण (Time-Varying Invertible Transforms)

केंद्रीय नवाचार पाइपलाइन चरणों के बीच की सीमाओं पर यादृच्छिक, व्युत्क्रम रूपांतरणों (random, invertible transforms) का आवधिक इंजेक्शन है।

सेटअप: मॉडल को $S$ क्रमिक पाइपलाइन चरणों में विभाजित किया गया है। प्रतिभागी एक समय में केवल एक चरण को धारण और संसाधित करते हैं।
मॉर्फिंग (Morphing): विशिष्ट समय चरणों पर, प्रोटोकॉल दो आसन्न चरणों $f_i$ $f_{i}$ और $f_{i+1}$ $f_{i + 1}$ के बीच एक आइडेंटिटी फंक्शन पेश करता है, जिसे एक रैंडम ट्रांसफॉर्म $T$ $T$ और उसके इनवर्स $T^{-1}$ $T^{- 1}$ में विघटित किया जाता है।
- ट्रांसफॉर्म $T$ को स्टेज $i$ के एग्जिट वेट्स में फोल्ड किया जाता है ( $V_i \leftarrow V_i T$ )।
- इनवर्स $T^{-1}$ को स्टेज $i+1$ के एंट्री वेट्स में फोल्ड किया जाता है ( $U_{i+1} \leftarrow T^{-1} U_{i+1}$ )।
क्षणिक प्रकृति (Ephemeral Nature): ट्रांसफॉर्म्स को फोल्डिंग के तुरंत बाद हटा दिया जाता है। वे केवल वेट्स के भीतर अस्तित्व में रहते हैं।
असंगति (Incompatibility): जबकि किसी भी एकल समय चरण $t$ पर एंड-टू-एंड नेटवर्क फंक्शन गणितीय रूप से समान रहता है, अलग-अलग समय चरणों ( $t$ और $t'$ ) पर एकत्र किए गए वेट्स असंगत हो जाते हैं। $f_i(t)$ को $f_{i+1}(t')$ के साथ जोड़ने से विफलता होती है क्योंकि मध्यवर्ती एक्टिवेशन स्पेस को $T(t)$ द्वारा रूपांतरित किया गया है, लेकिन अगला स्टेज $T(t')$ द्वारा रूपांतरित स्पेस की अपेक्षा करता है। मॉडल के पुनर्निर्माण के लिए सभी मध्यवर्ती ट्रांसफॉर्म्स के "ब्रिज मैट्रिक्स" का अनुमान लगाना आवश्यक है, जो कि गणनात्मक रूप से असंभव है।

आर्किटेक्चरल घटकों को संभालना

शोध पत्र विवरण देता है कि कार्यक्षमता बनाए रखते हुए विभिन्न न्यूरल नेटवर्क घटकों पर इन ट्रांसफॉर्म्स को कैसे लागू किया जाए:

वैध उप-फंक्शंस (Valid Subfunctions): यह विधि $g(X) = \Phi(XU)V$ के रूप में उप-फंक्शंस पर लागू होती है। ट्रांसफॉर्म्स $U$ और $V$ पर लागू होते हैं।
स्किप कनेक्शन्स (Skip Connections): ट्रांसफॉर्मर्स में, स्किप कनेक्शन्स स्वाभाविक रूप से पूर्ण असंगति लागू करते हैं। स्किप कनेक्शन पर लगाया गया ट्रांसफॉर्म दोनों इनकमिंग और आउटगोइंग बाउंडरी ट्रांसफॉर्म्स पर निर्भर करता है, जो हमलावर को स्टेज को स्वतंत्र वेट सेट्स में विभाजित करने से रोकता है।
नॉर्मलाइजेशन लेयर्स (RMSNorm): चूंकि नॉर्मलाइजेशन नॉन-लीनियर है, इसलिए मानक फोल्डिंग कठिन है। लेखक एक एक्यूमुलेशन मैट्रिक्स $Q$ को नॉर्मलाइजेशन लेयर में पेश करने और स्केलिंग वेट्स को अगले लीनियर लेयर में अवशोषित करने का प्रस्ताव देते हैं। यह $Q$ की ऑर्थोगोनैलिटी के कारण RMSNorm गुण को संरक्षित करते हुए ट्रांसफॉर्म्स को $Q$ और लीनियर वेट्स में फोल्ड करने की अनुमति देता है।
ट्रांसफॉर्म क्लासेस: संख्यात्मक स्थिरता और ब्रूट-फोर्स हमलों के प्रतिरोध को सुनिश्चित करने के लिए, लेखक निम्नलिखित का उपयोग करते हैं:
- हाार ऑर्थोगोनल मैट्रिसेस (Haar Orthogonal Matrices): यूनिट सिंगुलर वैल्यूज, न्यूनतम संख्यात्मक त्रुटि, और समान यादृच्छिकता।
- लो-कंडीशन नंबर मैट्रिसेस: $UDV^T$ के रूप में मैट्रिसेस जिनके नियंत्रित सिंगुलर वैल्यूज हैं, जो फ्लोटिंग-पॉइंट एरर को सीमित करते हुए हाई-फ्रीक्वेंसी परटर्बेशन पेश करते हैं।

प्रशिक्षण और अनुमान समायोजन (Training and Inference Adjustments)

प्रशिक्षण: इस फ्रेमवर्क को विशिष्ट ग्रेडिएंट हैंडलिंग की आवश्यकता होती है। यदि वेट्स $W(T) = WT $के रूप में रूपांतरित होते हैं, तो ग्रेडिएंट्स$ G(T) = GT^{-T}$ के रूप में रूपांतरित होते हैं। लेखक म्यून (Muon) ऑप्टिमाइज़र का उपयोग करते हैं, जो केवल ग्रेडिएंट्स के फर्स्ट मोमेंट पर निर्भर करता है, जिससे अपडेट स्टेप्स ऑर्थोगोनल ट्रांसफॉर्म्स का उपयोग करते समय अनट्रांसफॉर्मड मॉडल के अनुरूप बने रहते हैं।
अनुमान (Inference): बार-बार ट्रांसफॉर्म फोल्डिंग से होने वाली फ्लोटिंग-पॉइंट एरर संचय को कम करने के लिए, सिस्टम डिस्क पर हाई-प्रिसिजन (FP64) वेट्स स्टोर करता है। प्रत्येक मॉर्फिंग स्टेप पर, ट्रांसफॉर्म्स को हाई-प्रिसिजन कॉपी पर लागू किया जाता है, लो-प्रिसिजन (जैसे, FP16/BF16) में कास्ट किया जाता है, और GPU VRAM में लोड किया जाता है।

3. प्रमुख योगदान

फ्रेमवर्क का परिचय: UPMs का प्रस्ताव, जो एक ऐसा प्रशिक्षण और अनुमान फ्रेमवर्क है जो सहयोगात्मक मॉडल सर्विंग को सक्षम बनाता है बिना किसी प्रतिभागी को पूर्ण वेट सेट तक पहुँच दिए।
सैद्धांतिक विश्लेषण: विस्तृत विश्लेषण कि कौन से आर्किटेक्चर (Transformers, MLPs, RNNs) UPMs का समर्थन करते हैं, ट्रांसफॉर्म्स की आवश्यकताएं (यादृच्छिकता, व्युत्क्रमता, कंडीशन नंबर), और गणितीय प्रमाण कि कैसे ये ट्रांसफॉर्म्स क्रॉस-टाइम असेंबली को असंगत बनाते हैं।
हमला प्रतिरोध (Attack Resistance):
- प्रत्यक्ष निष्कर्षण (Direct Extraction): यह प्रदर्शित किया गया कि एक छोटे समय अंतराल के भीतर हमलावर के लिए सभी स्टेज तक पहुँचना नगण्य है, विशेष रूप से "फुल इनकम्पैटिबिलिटी" (स्किप कनेक्शन्स) के साथ।
- स्टिचिंग हमले (Stitching Attacks): दिखाया गया कि मध्यवर्ती एक्टिवेशन के माध्यम से ब्रिज मैट्रिसेस को हल करना अव्यावहारिक है क्योंकि समय चरणों में समान इनपुट की आवश्यकता होती है, जिसे डिस्ट्रीब्यूशन चेक के माध्यम से आसानी से रोका जा सकता है।
- लर्निंग-बेस्ड हमले: अनुभवजन्य रूप से प्रदर्शित किया गया कि एक "स्टिच्ड" मॉडल (विभिन्न समय चरणों के वेट्स) को फाइन-ट्यून करने के लिए मॉडल को शून्य से प्रशिक्षित करने के लिए आवश्यक कंप्यूट संसाधनों का $\ge 60\%$ भाग चाहिए, जो प्रोटोकॉल की आर्थिक व्यवहार्यता को बनाए रखता है।
अनुभवजन्य सत्यापन (Empirical Validation): Qwen-2.5-0.5B और Llama-3.2-1B मॉडल्स पर व्यापक प्रयोग।

4. परिणाम

कार्यात्मक समानता (Functional Equivalence): Qwen-2.5-0.5B और Llama-3.2-1B पर, ऑर्थोगोनल ट्रांसफॉर्म्स के साथ 10,000 मॉर्फिंग स्टेप्स लागू करने के परिणामस्वरूप नगण्य प्रदर्शन गिरावट ( $\Delta PPL < 0.01$ ; Jensen–Shannon drift $< 4 \times 10^{-5}$ ) देखी गई। हाई-प्रिसिजन वर्कअराउंड के साथ, स्थिरता FP16 और BF16 में बनी रही।
ओवरहेड (Overhead):
- अनुमान (Inference): प्रत्येक 30 सेकंड में एक ट्रांसफॉर्म लागू करने से लगभग 3% लेटेंसी, 0.1% बैंडविड्थ, और 10% GPU मेमोरी का ओवरहेड जुड़ता है।
- प्रशिक्षण (Training): ओवरहेड न्यूनतम है, जो 1.6% समय और <1% मेमोरी ओवरहेड जोड़ता है, क्योंकि बैकवर्ड पास अधिक लागत लेता है।
हमले की व्यवहार्यता (Attack Feasibility):
- स्टिचिंग (Stitching): स्टिच्ड Llama 3.2-1B मॉडल को फाइन-ट्यून करने के लिए शून्य से प्रशिक्षित करने के लिए आवश्यक टोकन का लगभग 60% भाग चाहिए था।
- एक्सक्लूडेबिलिटी रेशियो (Excludability Ratio): सभी असंगत वेट्स तक पहुँच के बावजूद, एक्सक्लूडेबिलिटी रेशियो (शून्य से प्रशिक्षित करने बनाम हमला करने के लिए आवश्यक कंप्यूट) उच्च ( $\ge 0.6$ ) बना रहता है, जो हमले को अधिकांश गठबंधनों के लिए आर्थिक रूप से अव्यवहार्य बनाता है।

5. महत्व और दावे

शोध पत्र का दावा है कि UPMs सहयोगात्मक प्रशिक्षण और वेट गोपनीयता के बीच के विरोधाभास को हल करते हैं। मॉडल के मूल्य को स्थिर वेट्स के बजाय प्रोटोकॉल से बांधकर, UPMs मॉडल को समुदाय-संचालित विकेंद्रीकृत प्रशिक्षण में प्रोग्रामेटिक प्रोत्साहन तंत्र को शामिल करना व्यावहारिक बनाते हैं।

आर्थिक व्यवहार्यता: फ्रेमवर्क यह सुनिश्चित करता है कि मॉडल की "एक्सक्लूडेबिलिटी" बनी रहे, जिससे योगदानकर्ताओं को उनकी कंप्यूट के लिए मुआवजा दिया जा सके बिना इस जोखिम के कि मॉडल चोरी होकर मुफ्त में उपयोग किया जा सकता है।
ओपन सोर्स संगतता: UPMs मॉडल आर्किटेक्चर, हाइपरपैरामीटर और डेटासेट को ओपन-सोर्स रखते हुए वेट्स को अनएक्सट्रैक्टेबल रख सकते हैं।
ट्रस्टलेस विकेंद्रीकरण: यह प्रणाली पूरी तरह से ट्रस्टलेस, अनएक्सट्रैक्टेबल प्रशिक्षण की ओर बढ़ती है, जो UPMs को ओपन, विकेंद्रीकृत AI के लिए एक तकनीकी स्तंभ के रूप में स्थापित करती है।

लेखक सीमाओं को स्वीकार करते हुए कहते हैं कि सुरक्षा प्रतिभागियों के ईमानदार बहुमत पर निर्भर करती है और वर्तमान मूल्यांकन सिंगल-मशीन सिमुलेशन तक सीमित हैं, जिसमें वास्तविक दुनिया के साइड-चैनल हमले (टाइमिंग, कैश) शामिल नहीं हैं। वे यह भी उल्लेख करते हैं कि वेट्स का निरीक्षण करने में असमर्थता सुरक्षा मूल्यांकन को बाधित कर सकती है, जिससे सुझाव मिलता है कि जोखिम को कम करने के लिए विविध हितधारक निगरानी आवश्यक है।