FuseFSS: Efficient Secure LLM Inference with Function Secret Sharing
FuseFSS एक कंपाइलर है जो फिक्स्ड-पॉइंट नॉनलिनियैरिटीज़ (fixed-point nonlinearities) के लिए एक एकीकृत पाइपलाइन द्वारा विशिष्ट प्रति-ऑपरेटर प्रोटोकॉल को बदलकर सुरक्षित LLM इन्फरेंस को सुव्यवस्थित करता है, जिससे सटीकता बनाए रखते हुए महत्वपूर्ण गति वृद्धि और संचार एवं प्रीप्रोसेसिंग ओवरहेड में कमी प्राप्त होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान AI (एक लार्ज लैंग्वेज मॉडल) से एक गुप्त प्रश्न पूछना चाहते हैं, जैसे कि कोई निजी मेडिकल डायग्नोसिस या कोई गोपनीय बिजनेस स्ट्रैटेजी। आप नहीं चाहते कि AI के मालिक आपका प्रश्न देख सकें, और आप यह भी नहीं चाहते कि AI अपना "दिमाग" (मॉडल) आपको दिखाए।
इसे हल करने के लिए, शोधकर्ता एक "टू-सर्वर" (Two-Server) तकनीक का उपयोग करते हैं। वे इस रहस्य को दो सर्वरों के बीच विभाजित कर देते जो आपस में बात नहीं करते हैं। दोनों सर्वरों में से कोई भी भी पूरी तस्वीर नहीं जानता, लेकिन मिलकर वे उत्तर निकाल सकते हैं। यह दो शेफ की तरह है जो अलग-अलग रसोई में काम कर रहे हैं; वे एक-दूसरे की सामग्री नहीं देख सकते, लेकिन वे रेसिपी और गुप्त सामग्री को उजागर किए बिना केक बेक करने के लिए अपने काम को मिला सकते हैं।
हालाँकि, एक समस्या है। जबकि "आसान" गणित वाले हिस्से (जैसे संख्याओं को जोड़ना) इस गुप्त मोड में तेज़ हैं, "कठिन" हिस्से (जैसे यह तय करना कि संख्या धनात्मक है या ऋणात्मक, या दशमलव को राउंड करना) धीमे और जटिल हैं। वर्तमान में, इंजीनियरों को इन हर एक कठिन गणितीय चरण के लिए एक कस्टम, विशेष रूप से बनाया गया मशीन बनाना पड़ता है। यह एक कार के हर एक पेंच (screw) के लिए एक अलग, कस्टम-मेड रिंच (wrench) रखने जैसा है। यह महंगा है, धीमा है, और आसानी से टूट सकता है।
पेश है FuseFSS।
लेखकों ने एक कंपाइलर (एक अनुवादक) बनाया है जिसे FuseFSS कहा जाता है। हर पेंच के लिए एक कस्टम रिंच बनाने के बजाय, FuseFSS कहता है, "आइए सभी कठिन गणित चरणों के लिए बस दो यूनिवर्सल टूल्स (सार्वभौमिक उपकरणों) का उपयोग करें।"
यह कैसे काम करता है, इसके लिए एक सरल उपमा (analogy) का उपयोग करते हैं:
"मास्क्ड एनवेलप" (Masked Envelope) की उपमा
कल्पना कीजिए कि आपके पास एक गुप्त संख्या है, लेकिन आप उसे सीधे नहीं दिखा सकते। इसलिए, आप उसे एक रैंडम कागज (एक "मास्क") के साथ एक लिफाफे में रखते हैं और सर्वरों को सौंप देते हैं। सर्वर लिफाफे का कुल वजन ("मास्क्ड वैल्यू") देख सकते हैं, लेकिन वे आपकी गुप्त संख्या या अंदर रखे रैंडम कागज को नहीं जानते।
पुराने तरीके में ( "सिग्मा" सिस्टम), जब भी सर्वरों को एक जटिल गणितीय ट्रिक (जैसे "क्या यह संख्या 5 से बड़ी है?") करने की आवश्यकता होती थी, तो उन्हें उस एक विशेष प्रश्न के लिए एक विशिष्ट, कस्टम-निर्मित प्रोटोकॉल बॉक्स खोलना पड़ता था।
FuseFSS खेल बदल देता है:
- एक स्पेसिफिकेशन: लेखकों ने किसी भी गणितीय ट्रिक के लिए एक मानक "निर्देश पुस्तिका" बनाई है। वे ट्रिक को ज़ोन (अंतरालों) और सरल सूत्रों के एक सेट के रूप में वर्णित करते हैं।
- दो जादुई उपकरण: नए बॉक्स बनाने के बजाय, FuseFSS हर ट्रिक के लिए केवल दो मानक उपकरणों का उपयोग करता है:
- टूल A (द कंपैरेटर): यह एक साथ सभी "क्या यह X से बड़ा है?" वाले प्रश्नों की जाँच करता है और सर्वरों को "हाँ/नहीं" जवाबों की एक सूची देता है (जो गुप्त रूप से साझा की जाती है)।
- टूल B (द लुकअप): यह एक वेंडिंग मशीन की तरह काम करता है। टूल A से मिले जवाबों के आधार पर, यह तुरंत सही नंबर और फॉर्मूले थमा देता है ताकि गणना पूरी की जा सके।
- परिणाम: सर्वर गणित करते हैं, और फिर वे रैंडम कागज (मास्क) को घटा देते हैं जिससे अंतिम उत्तर प्रकट हो जाता है।
यह एक बड़ी बात क्यों है?
पेपर का दावा है कि "कस्टम रिंच" से "इन दो यूनिवर्सल टूल्स" पर स्विच करके, उन्होंने इस प्रक्रिया को काफी तेज़ और हल्का बना दिया है।
- गति: उन्होंने पूरी प्रक्रिया को 1.24 से 1.5 गुना तेज़ बना दिया है। यदि एक गणना में पहले 10 सेकंड लगते थे, तो अब इसमें लगभग 7 सेकंड लगेंगे।
- कम बातचीत: दो सर्वरों को आपस में डेटा भेजने की आवश्यकता कम हुई है (लगभग 9% से 16% कम)।
- कम सेटअप: शुरू करने से पहले, उन्हें कुछ "कीज़" (जैसे लिफाफों पर ताले लगाना) जेनरेट करनी पड़ती हैं। FuseFSS इस सेटअप को 14% से 23% तेज़ बनाता है और कीज़ खुद भी 20% से 24% छोटी होती हैं।
निचोड़ (The Bottom Line)
यह पेपर यह दावा नहीं करता कि उन्होंने एक नया प्रकार का AI या शेयर बाजार की भविष्यवाणी करने का नया तरीका खोजा है। यह केवल यह दावा करता है कि उन्होंने मौजूदा AI मॉडल्स को सुरक्षित रूप से चलाने के लिए एक बेहतर "इंजन" बनाया है।
उन्होंने लोकप्रिय AI मॉडल्स (जैसे BERT और GPT) पर इसका परीक्षण किया और पाया कि यह पुराने तरीकों के समान ही सटीक है लेकिन बहुत अधिक सुचारू रूप से चलता है। यह एक कार के इंजन को अपग्रेड करने जैसा है: कार उसी गति से चलती है और उतने ही यात्री ले जाती है, लेकिन इसका इंजन अधिक कुशलता से डिज़ाइन किया गया है इसलिए इसे बेहतर माइलेज मिलता है और यह तेज़ी से एक्सीलरेट करती है।
संक्षेप में: FuseFSS एक कंपाइलर है जो गुप्त AI गणित के लिए एक अस्त-व्यस्त, कस्टम-निर्मित प्रक्रिया को केवल दो शक्तिशाली, पुन: प्रयोज्य (reusable) उपकरणों का उपयोग करके एक साफ, मानकीकृत और बहुत तेज़ रूटीन में बदल देता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।