🤖 machine learning

Power-Softmax: Towards Secure LLM Inference over Encrypted Data

यह शोध पत्र "पावर-सॉफ्टमैक्स" (Power-Softmax) का परिचय देता है, जो एक नवीन HE-अनुकूल सेल्फ-अटेंशन वेरिएंट है जो पहले बिलियन-पैरामीटर बहुपद (polynomial) LLMs के प्रशिक्षण को सक्षम बनाता है जो मानक ट्रांसफॉर्मर के तुलनीय तर्क और इन-कॉन्टेक्स्ट लर्निंग क्षमताओं को बनाए रखते हुए एन्क्रिप्टेड डेटा पर सुरक्षित अनुमान (inference) करने में सक्षम हैं।

मूल लेखक: Itamar Zimerman, Allon Adir, Ehud Aharoni, Matan Avitan, Moran Baruch, Nir Drucker, Jenny Lerner, Ramy Masalha, Reut Meiri, Omri Soceanu

प्रकाशित 2026-05-06

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Itamar Zimerman, Allon Adir, Ehud Aharoni, Matan Avitan, Moran Baruch, Nir Drucker, Jenny Lerner, Ramy Masalha, Reut Meiri, Omri Soceanu

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान रोबोट (एक लार्ज लैंग्वेज मॉडल, या LLM) से एक सवाल पूछना चाहते हैं, लेकिन आप अपने सवाल को गुप्त रखना चाहते हैं। आप नहीं चाहते कि रोबोट का मालिक यह देखे कि आपने क्या पूछा है, और आप यह भी नहीं चाहते कि रोबोट को आपका रहस्य पता चले।

इसे करने के लिए, आप एक विशेष प्रकार के "जादुई ताले" का उपयोग करते हैं जिसे होमोमोर्फिक एन्क्रिप्शन (HE) कहा जाता है। यह लॉक आपको अपने सवाल को एक ऐसे scrambled (अस्पष्ट/कोडित) रूप में भेजने की अनुमति देता है जिसे पढ़ा न जा सके। रोबोट उस scrambled सवाल पर गणितीय गणना कर सकता है और एक scrambled जवाब दे सकता है, जिसे आप बाद में अनलॉक कर सकते हैं। रोबोट वास्तविक सवाल को कभी नहीं देख पाता है।

समस्या: रोबोट का "दिमाग" ताले में फिट नहीं बैठता
समस्या यह है कि आधुनिक रोबोट एक विशिष्ट प्रकार के गणितीय इंजन के साथ बनाए गए हैं जिसे ट्रांसफॉर्मर (Transformer) कहा जाता है। यह इंजन शब्दों के महत्व को तय करने के लिए एक बहुत ही सामान्य उपकरण सॉफ्टमैक्स (Softmax) का उपयोग करता है।

Softmax को ऐसे समझें जैसे एक शेफ (रसोइया) सूप को चखता है और एक जटिल, घातांकीय (exponential) रेसिपी के आधार पर यह तय करता है कि उसमें कितना नमक डालना है। यह खाना बनाने के लिए बेहतरीन है, लेकिन "जादुई ताला" (HE) केवल सरल, सीधी रेखा वाले गणित (पॉलीनोमियल्स) को समझता है। यह शेफ की जटिल, घातांकीय रेसिपी को नहीं संभाल सकता। यदि आप मजबूर करते हैं कि रोबोट अपने सामान्य दिमाग का उपयोग करे जबकि वह लॉक के अंदर है, तो गणित टूट जाता है, या रोबोट भ्रमित और अस्थिर हो जाता है।

इन समस्याओं को ठीक करने के पिछले प्रयास एक "चौकोर खांचे में गोल कील ठोकने" जैसे थे:

"ब्रूट फोर्स" (Brute Force) दृष्टिकोण: एक विशाल, अव्यवस्थित पॉलीनोमियल के साथ जटिल रेसिपी का अनुमान लगाने की कोशिश करना। यह काम तो करता है लेकिन यह अविश्वसनीय रूप से धीमा और भारी है।
"प्री-ट्रेनिंग" (Pre-Training) दृष्टिकोण: रोबोट के सीखने से पहले ही उसके दिमाग को बदलना, जटिल रेसिपी को किसी सरल चीज़ से बदल देना। लेकिन इससे अक्सर रोबोट कम बुद्धिमान हो जाता है या उसे संघर्ष करना पड़ता है।

समाधान: पावरसॉफ्टमैक्स (PowerSoftmax)
इस शोध पत्र के लेखकों ने एक नया उपकरण बनाया जिसे PowerSoftmax कहा जाता है।

कल्पना कीजिए कि शेफ जटिल घातांकीय रेसिपी का उपयोग करने के बजाय, एक सरल पावर रेसिपी (जैसे संख्याओं का वर्ग करना) का उपयोग करता है।

उपमा: यदि Softmax एक ऐसा शेफ है जो सामग्रियों को एक जादुई, बढ़ती संख्या से गुणा करता है, तो PowerSoftmax एक ऐसा शेफ है जो बस उन्हें खुद से ही गुणा करता है (जैसे $2 \times 2$ , $3 \times 3$ )।
यह क्यों काम करता है: यह "पावर रेसिपी" मूल जटिल रेसिपी की तरह ही व्यवहार करती है, लेकिन यह "जादुई ताले" के भीतर पूरी तरह फिट बैठती है। यह ताले के लिए इतनी सरल है कि वह इसे संभाल सके, लेकिन इतनी स्मार्ट भी है कि रोबोट स्पष्ट रूप से सोच सके।

चुनौतियां जिन्हें उन्होंने हल किया
सिर्फ रेसिपी को बदलना ही काफी नहीं था; इसे एक विशाल रोबोट के लिए काम करने योग्य बनाने के लिए उन्हें तीन विशिष्ट समस्याओं को ठीक करना था:

"जीरो" (Zero) की समस्या: कभी-कभी, नई रेसिपी में गणित शून्य से विभाजित हो सकता है, जिससे सिस्टम क्रैश हो जाता है।
- समाधान: उन्होंने एक छोटा, सुरक्षित बफर (एक सुरक्षा जाल की तरह) जोड़ा ताकि गणित कभी शून्य तक न पहुंचे, जिससे गणना स्थिर और अनुमान लगाने में आसान हो जाए।
"ओवरफ्लो" (Overflow) की समस्या: यदि संख्याएं बहुत बड़ी या बहुत छोटी हो जाती हैं, तो रोबोट का दिमाग फट जाता है (या जम जाता है)।
- समाधान: उन्होंने एक "स्टेबल वेरिएंट" (Stable Variant) बनाया जो गणित करने से पहले संख्याओं को एक सुरक्षित, प्रबंधनीय आकार में स्केल करता है, ठीक वैसे ही जैसे एक शेफ पूरे बर्तन में मसाला डालने से पहले सूप का एक चम्मच चखता है।
"लंबी वाक्य" (Long Sentence) की समस्या: मूल विधि वाक्य लंबा होने के साथ-साथ धीमी होती जा रही थी।
- समाधान: उन्होंने एक "लेंथ-एग्नोस्टिक" (Length-Agnostic) विधि का आविष्कार किया। गणित करने के लिए हर एक शब्द को गिनने के बजाय, वे बस शब्दों का औसत देखते हैं। इसका मतलब है कि आप एक छोटा सवाल पूछें या पूरा उपन्यास लिखें, रोबोट की गति वैसी ही रहती है।

परिणाम: एक विशाल, सुरक्षित रोबोट
इन ट्रिक्स का उपयोग करके, टीम ने 1 बिलियन से अधिक पैरामीटर्स वाला पहला सुरक्षित रोबोट बनाया (पैरामीटर एक पैमाना है जिससे मापा जाता है कि रोबोट कितना "बड़ा" और स्मार्ट है)।

आकार: यह पिछले किसी भी सुरक्षित रोबोट की तुलना में 10 गुना से अधिक बड़ा है।
बुद्धिमत्ता: यह अभी भी संदर्भ (context) को समझ सकता है, समस्याओं पर तर्क कर सकता है, और उदाहरणों से सीख सकता है (एक कौशल जिसे इन-कॉन्टेक्स्ट लर्निंग कहा जाता है), ठीक वैसे ही जैसे मानक, बिना लॉक वाले रोबोट।
गति: क्योंकि उनका नया गणित इतना कुशल है, इसलिए यह एन्क्रिप्टेड डेटा पर पिछले तरीकों की तुलना में बहुत तेज़ी से चलता है।

सारांश में
यह शोध पत्र AI बनाने का एक नया तरीका प्रस्तुत करता है जो गोपनीयता का सम्मान करता है। उन्होंने AI के जटिल "अटेंशन" मैकेनिज्म को एक सरल, "पावर-आधारित" संस्करण के साथ बदल दिया जो एन्क्रिप्शन लॉक के भीतर फिट बैठता है। यह उन्हें विशाल, बिलियन-पैरामीटर वाले AI मॉडल बनाने की अनुमति देता है जो सुरक्षित रूप से सोच और तर्क कर सकते हैं, बिना आपके डेटा या मॉडल के रहस्यों को उजागर किए। उन्होंने केवल एक छोटा खिलौना नहीं बनाया; उन्होंने एक विशाल, सुरक्षित मस्तिष्क बनाया जो वास्तव में काम करता है।

तकनीकी सारांश: PowerSoftmax: एन्क्रिप्टेड डेटा पर सुरक्षित LLM इन्फरेंस की ओर

समस्या विवरण

आधुनिक गोपनीयता-संरक्षण वाले लार्ज लैंग्वेज मॉडल्स (LLMs) अक्सर होमोमोर्फिक एन्क्रिप्शन (HE) पर निर्भर करते हैं, विशेष रूप से CKKS स्कीम पर, जो डेटा को डिक्रिप्ट किए बिना उस पर गणना करने की अनुमति देती है। हालाँकि, CKKS केवल बहुपद (polynomial) ऑपरेशन्स का समर्थन करता है। मानक ट्रांसफॉर्मर आर्किटेक्चर मुख्य रूप से गैर-बहुपद घटकों पर निर्भर करते हैं, विशेष रूप से सेल्फ-अटेंशन में सॉफ्टमैक्स (Softmax) फंक्शन, जिसमें एक्सपोनेंशियल (exponentials), डिवीजन और लॉगरिदमिक ऑपरेशन्स (जैसे कि न्यूमेरिकल स्टेबिलिटी के लिए log-sum-exp ट्रिक) शामिल होते हैं।

इस अंतर को पाटने वाले मौजूदा दृष्टिकोण महत्वपूर्ण सीमाओं का सामना करते हैं:

पोस्ट-ट्रेनिंग एप्रोक्सिमेशन (PTA): प्री-ट्रेन्ड मॉडल्स में उच्च-डिग्री वाले बहुपदों का उपयोग करके गैर-बहुपद कार्यों का सीधे अनुमान लगाना। यह अक्सर उच्च मल्टीप्लिकेटिव डेप्थ और संचित शोर (noise) के कारण अक्षम इन्फरेंस का परिणाम देता है।
एप्रोक्सिमेशन-अवेयर ट्रेनिंग (AAT): गैर-बहुपद प्रिमिटिव्स को आसान-से-अनुमान योग्य विकल्पों (जैसे पॉइंटवाइज अटेंशन या स्केल्ड ReLU) से बदलना। हालांकि छोटे मॉडल्स के लिए यह प्रभावी है, लेकिन इन विधियों को स्थिरता और स्केलेबिलिटी के साथ संघर्ष करना पड़ा है, और वे अरबों पैरामीटर्स या गहरे आर्किटेक्चर (जैसे 32 लेयर्स) वाले LLMs का समर्थन करने में विफल रही हैं।

मुख्य चुनौती एक ऐसा ट्रांसफॉर्मर आर्किटेक्चर डिजाइन करने की है जो स्वाभाविक रूप से HE बाधाओं (कम-डिग्री बहुपद, स्थिर संख्यात्मक रेंज) के अनुकूल हो, जबकि बिलियन-पैरामीटर स्केल पर मानक सॉफ्टमैक्स-आधारित ट्रांसफॉर्मर्स की अभिव्यंजक शक्ति, तर्क क्षमता और इन-कॉन्टेक्स्ट लर्निंग (ICL) को बनाए रखे।

कार्यप्रणाली (Methodology)

लेखक PowerSoftmax प्रस्तावित करते हैं, जो एक नया, HE-फ्रेंडली सेल्फ-अटेंशन वेरिएंट है जिसे सॉफ्टमैक्स के मूल सिद्धांतों को दोहराने के लिए डिज़ाइन किया गया है जबकि यह बहुपद अनुमान (polynomial approximation) के अनुकूल बना रहता है। कार्यप्रणाली में तीन अलग-अलग चरण शामिल हैं:

1. HE-फ्रेंडली अटेंशन डिज़ाइन

लेखक सॉफ्टमैक्स के आवश्यक गुणों को डिस्टिल करते हैं: $[0, 1]$ तक नॉर्मलाइजेशन, स्कोर अंतर का प्रवर्धन (amplification), और ऑर्डर प्रिजर्वेशन। वे सॉफ्टमैक्स में एक्सपोनेंशियल फंक्शन $\exp(x)$ को पावर फंक्शन $x^p$ (जहाँ $p$ एक धनात्मक सम पूर्णांक है) से बदल देते हैं।
प्रस्तावित अटेंशन मैकेनिज्म को इस प्रकार परिभाषित किया गया है:
$\text{PowerSoftmax}(x)_j = \frac{x_j^p}{\sum_i x_i^p}$
यह फॉर्मूलेशन डायरेक्ट पॉलीनोमियल एप्रोक्सिमेशन में निहित एक्सपोनेंशियल और डिवीजन-बाय-जीरो समस्याओं से बचता है।

2. ट्रेनिंग स्टेबिलिटी और न्यूमेरिकल रोबस्टनेस

पावर फंक्शन के कारण होने वाली ट्रेनिंग अस्थिरता (जहाँ $x > 1$ होने पर मान विस्फोट हो जाते हैं और $x < 1$ होने पर लुप्त हो जाते हैं) को संबोधित करने के लिए, लेखक दो प्रमुख संशोधन पेश करते हैं:

स्टेबल वेरिएंट: लॉग-सम-एक्सप ट्रिक से प्रेरित होकर, वे पावर फंक्शन लागू करने से पहले इनपुट को एक स्थिरांक $c = \|x\|_\infty + \delta$ द्वारा नॉर्मलाइज करते हैं। यह सुनिश्चित करता है कि इनपुट एक प्रबंधनीय रेंज $(0, 1)$ के भीतर रहे, जिससे ओवरफ्लो/अंडरफ्लो को रोका जा सके और फ्लोटिंग-पॉइंट प्रिसिजन सुरक्षित रहे।
$\epsilon$ -बाउंडेड डिवीजन: डिवीजन ऑपरेशन को संभालने के लिए, जो शून्य के पास गैर-बहुपद और संवेदनशील है, वे हर (denominator) को $\epsilon + \sum x_i^p$ में संशोधित करते हैं। यह एक $1/\epsilon^2$ -लिप्सचिट्ज़ निरंतर (Lipschitz continuous) फंक्शन बनाता है, जिससे बाद का डिवीजन का बहुपद अनुमान काफी अधिक सुलभ हो जाता है और आवश्यक मल्टीप्लिकेशन डेप्थ को कम करता है।

3. लेंथ-एग्नोस्टिक एप्रोक्सिमेशन

स्टैंडर्ड डिवीजन एप्रोक्सिमेशन (जैसे गोल्डशमिट एल्गोरिदम) अटेंशन स्कोर के अनबाउंडेड सम के साथ संघर्ष करता है, जो सीक्वेंस लेंथ $L$ के साथ रैखिक रूप से स्केल करता है। लेखक एक लेंथ-एग्नोस्टिक पावर-सॉफ्टमैक्स प्रस्तावित करते हैं:
$\text{Length-Agnostic}(x)_j = \frac{x_j^p}{L \cdot \text{Mean}(x^p)}$
चूंकि $L$ (सीक्वेंस लेंथ) पब्लिक है, इसलिए $1/L$ टर्म को सीधे कंप्यूट किया जा सकता है। मॉडल सम के बजाय मीन (mean) के डिवीजन का अनुमान लगाता है, जिससे यह सुनिश्चित होता है कि अनुमान का डोमेन सीक्वेंस लेंथ की परवाह किए बिना बाउंडेड रहे।

4. कंस्ट्रक्शन पाइपलाइन (एल्गोरिदम 1)

एक बहुपद LLM बनाने की पूर्ण पाइपलाइन इस प्रकार है:

आर्किटेक्चरल मॉडिफिकेशन: रेंज-मिनिमाइजेशन ऑब्जेक्टिव्स के साथ स्टेट-ऑफ-द-आर्ट से स्क्रैच (या कॉन्टिनुअल प्री-ट्रेनिंग के माध्यम से) स्टेबल पावर-सॉफ्टमैक्स वेरिएंट के साथ सॉफ्टमैक्स को बदलना।
रेंज मिनिमाइजेशन: गैर-बहुपद लेयर्स (PowerSoftmax, GELU, LayerNorm) के इनपुट रेंज को सीमित करने के लिए एक विशेष लॉस फंक्शन लागू करना ताकि लो-डिग्री बहुपद अनुमान सटीक रहें।
पॉलीनोमियल रिप्लेसमेंट: पोस्ट-ट्रेनिंग, शेष गैर-बहुपद ऑपरेशन्स (डिवीजन, इनवर्स स्क्वायर रूट) को लो-डिग्री बहुपद अनुमानों (जैसे गोल्डशमिट मेथड) के साथ बदलना ताकि एक पूर्णतः बहुपद मॉडल प्राप्त हो सके।

मुख्य योगदान

PowerSoftmax मैकेनिज्म: एक नया सेल्फ-अटेंशन वेरिएंट जो एक्सपोनेंशियल स्केलिंग को पॉलीनोमियल स्केलिंग से बदलता है, जो विशेष रूप से HE वातावरण के लिए तैयार किया गया है जबकि अटेंशन के मूल डिजाइन सिद्धांतों को बनाए रखता है।
स्केलेबल पॉलीनोमियल LLMs: एक बिलियन पैरामीटर्स से अधिक के पॉलीनोमियल LLMs (विशेष रूप से 32 लेयर्स के साथ 1.4B पैरामीटर्स) विकसित करने का पहला प्रमाण। ये मॉडल मानक ट्रांसफॉर्मर्स के समान रीजनिंग और इन-कॉन्टेक्स्ट लर्निंग (ICL) क्षमताएं प्रदर्शित करते हैं।
स्टेबल ट्रेनिंग और इन्फरेंस रणनीतियाँ: स्थिर ट्रेनिंग वेरिएंट और लेंथ-एग्नोस्टिक इन्फरेंस रणनीतियों का परिचय जो पिछले पॉलीनोमियल ट्रांसफॉर्मर दृष्टिकोणों की अस्थिरता और स्केलेबिलिटी समस्याओं को दूर करते हैं।
व्यापक मूल्यांकन: एन्क्रिप्टेड कंप्यूटेशन के लिए विस्तृत लेटेंसी ब्रेकडाउन और डिज़ाइन चॉइस के प्रभाव (जैसे $p$ पैरामीटर और $\epsilon$ -बाउंडेड डिवीजन का प्रभाव) को प्रमाणित करने वाले एब्लेशन स्टडीज।

प्रयोगात्मक परिणाम

लेखकों ने कॉज़ल (GPT/Pythia) और बायडायरेक्शनल (RoBERTA) आर्किटेक्चर पर अपने तरीके का मूल्यांकन किया:

परफॉरमेंस: 1.4B पैरामीटर वाले पॉलीनोमियल मॉडल ने ज़ीरो-शॉट और फ्यू-शॉट बेंचमार्क्स (जैसे Lambada, PIQA, WinoGrande, ARC) पर मूल सॉफ्टमैक्स-आधारित Pythia मॉडल्स के बराबर प्रदर्शन हासिल किया। विशेष रूप से, मॉडल ने ARC-Challenge जैसे रीजनिंग बेंचमार्क्स पर प्रतिस्पर्धी प्रदर्शन दिखाया, जो पहले पॉलीनोमियल LLMs में नहीं देखा गया था।
बायडायरेक्शनल मॉडल्स: एक पॉलीनोमियल RoBERTa-Base वेरिएंट ने GLUE टास्क (SST-2, QNLI, MNLI) पर मूल सॉफ्टमैक्स-आधारित RoBERTA की तुलना में केवल ~1% गिरावट दिखाई, जो पिछले पॉलीनोमियल दृष्टिकोणों जैसे Nexus से बेहतर है।
HE इन्फरेंस: HElayers फ्रेमवर्क का उपयोग करके Pythia 70M मॉडल पर किए गए प्रयोगों ने पुष्टि की कि एन्क्रिप्टेड इन्फरेंस प्लेनटेक्स्ट इन्फरेंस के लगभग समान परिणाम देता है (अधिकतम MSE लॉस 0.005)।
दक्षता (Efficiency): प्रस्तावित विधि अन्य अत्याधुनिक विकल्पों (Nexus, Cho et al.) की तुलना में मल्टीप्लिकेशन डेप्थ को काफी कम कर देती है। 128-टोकन सीक्वेंस के लिए, PowerSoftmax ने Taylor/Goldschmidt दृष्टिकोणों की तुलना में ~9.7 गुना और स्क्वायर-स्ट्रेटेजी दृष्टिकोणों की तुलना में ~20 गुना कम लेटेंसी दर्ज की।

महत्व और दावे

यह पेपर इस क्षेत्र में एक बड़ी सफलता का दावा करता है कि पूर्णतः बहुपद LLMs बिना रीजनिंग या इन-कॉन्टेक्स्ट लर्निंग क्षमताओं का त्याग किए बिलियन-पैरामीटर रिजीम तक स्केल कर सकते हैं।

स्केलेबिलिटी: छोटे मॉडल्स या सरल क्लासिफिकेशन टास्क तक सीमित पिछले कार्यों के विपरीत, यह दृष्टिकोण गहरे (32-लेयर) ट्रांसफॉर्मर्स को 1.4 बिलियन पैरामीटर्स के साथ सफलतापूर्वक ट्रेन करता है।
नॉन-इंटरैक्टिव सिक्योरिटी: एक पूर्णतः पॉलीनोमियल मॉडल के साथ FHE का उपयोग करके, यह समाधान नॉन-इंटरैक्टिव इन्फरेंस को सक्षम बनाता है, जिससे मल्टी-पार्टी कंप्यूटेशन (MPC) या इंटरैक्टिव प्रोटोकॉल से जुड़े कम्युनिकेशन ओवरहेड और संभावित कमजोरियों से बचा जा सकता है।
व्यावहारिकता: विस्तृत लेटेंसी विश्लेषण और 1.4B पैरामीटर मॉडल का सफल परिनियोजन यह सुझाव देता है कि सुरक्षित, निजी LLM इन्फरेंस अब व्यावहारिक रूप से संभव हो रहा है, जो स्वास्थ्य सेवा और वित्त जैसे डेटा-संवेदनशील क्षेत्रों के लिए नए रास्ते खोलता है।

लेखक स्वीकार करते हैं कि हालांकि उनके मॉडल्स अच्छा प्रदर्शन करते हैं, लेकिन एन्क्रिप्टेड डेटा पर अनुक्रमिक डिकोडिंग (sequential decoding) के लिए ऑटो-रिग्रेसिव जेनेरेटिव क्षमताओं का पूर्ण मूल्यांकन भविष्य के कार्य की दिशा में एक विषय है।