Privacy-Preserving LLMs Routing

यहाँ शोध पत्र "Privacy-Preserving LLMs Routing" (PPRoute) का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

लार्ज लैंग्वेज मॉडल (LLM) रूटिंग, दिए गए क्वेरी के लिए सबसे उपयुक्त मॉडल प्रदाता को गतिशील रूप से चुनकर मॉडल प्रदर्शन और लागत-दक्षता के बीच संतुलन बनाने की एक महत्वपूर्ण रणनीति है। हालाँकि, यह आर्किटेक्चर एक महत्वपूर्ण गोपनीयता भेद्यता (privacy vulnerability) पेश करता है:

• डेटा रिसाव (Data Leakage): रूटिंग लेयर उपयोगकर्ता और LLM प्रदाता के बीच एक मध्यवर्ती नोड के रूप में कार्य करती है। मानक कार्यान्वयन में, राउटर कच्चे उपयोगकर्ता प्रश्न (raw user query) और मध्यवर्ती एम्बेडिंग्स (intermediate embeddings) को देख सकता है, जिससे डेटा रिसाव का एक संभावित बिंदु बनता है।
• थर्ड-पार्टी जोखिम (Third-Party Risk): रूटिंग अक्सर मॉडल प्रदाताओं के बजाय तीसरे पक्षों द्वारा प्रबंधित की जाती है, जो संवेदनशील डेटा के नियंत्रण की श्रृंखला को जटिल बनाती है।
• MPC की प्रदर्शन बाधा (Performance Bottleneck of MPC): जबकि सिक्योर मल्टी-पार्टी कंप्यूटेशन (MPC) सैद्धांतिक रूप से क्वेरी और मॉडल पैरामीटर्स को एन्क्रिप्टेड रखकर डेटा की सुरक्षा कर सकता है, लेकिन LLM रूटिंग पर नैइव (naive) रूप से MPC लागू करने से अत्यधिक कम्प्यूटेशनल और संचार ओवरहेड उत्पन्न होता है।
  • ट्रांसफॉर्मर एनकोडर में गैर-रेखीय संचालन (जैसे, Softmax, GeLU) MPC के तहत अत्यंत महंगे होते हैं।
  • मॉडल चयन के लिए निकटतम पड़ोसी खोज (Nearest Neighbor Search - KNN) के लिए भारी तुलना और सॉर्टिंग की आवश्यकता होती है, जिससे एन्क्रिप्टेड डोमेन में भारी विलंबता (latency) होती है।

2. कार्यप्रणाली: PPRoute फ्रेमवर्क (Methodology: The PPRoute Framework)

लेखक PPRoute का प्रस्ताव करते हैं, जो विशेष रूप से एम्बेडिंग-आधारित LLM रूटिंग के लिए डिज़ाइन किया गया एक एंड-टू-एंड गोपनीयता-संरक्षण फ्रेमवर्क है। यह दो मुख्य बाधाओं को अनुकूलित करता है: एनकोडर इन्फरेंस (Encoder Inference) और निकटतम पड़ोसी खोज (Nearest Neighbor Search)।

A. MPC-अनुकूल संचालन (MPC-Friendly Operations - Encoder Optimization)

मानक ट्रांसफॉर्मर एनकोडर उन ऑपरेशन्स पर निर्भर करते हैं जो MPC में अक्षम हैं। PPRoute इन्हें "MPC-अनुकूल" अनुमानों (approximations) से बदल देता है:

• Softmax अनुमान (Softmax Approximation): एक्सपोनेंशियल-भारी Softmax फंक्शन को एक "2ReLU" अनुमान से बदल देता है:
  $$\text{softmax}(x) \approx \frac{\text{ReLU}(x)}{\sum \text{ReLU}(x)}$$
• GeLU अनुमान (GeLU Approximation): गॉसियन एरर लीनियर यूनिट (GeLU) को, जिसके लिए जटिल एरर फंक्शन अनुमानों की आवश्यकता होती है, मानक ReLU फंक्शन से बदल देता है।
• परिणाम: ये प्रतिस्थापन इन्फरेंस के दौरान आवश्यक गुणन (multiplications) और पुनरावृत्तियों (iterations) की संख्या को काफी कम कर देते हैं, जिससे विलंबता (latency) काफी कम हो जाती है।

B. बहु-चरणीय प्रशिक्षण एल्गोरिदम (Multi-Stage Training Algorithm)

गैर-रेखीय कार्यों को बदलने से मॉडल की सटीकता कम हो सकती है। इसे कम करने के लिए, PPRoute एक नॉलेज डिस्टिलेशन (knowledge distillation) रणनीति का उपयोग करता है:

1. टीचर मॉडल (Teacher Model): एक मानक, उच्च-सटीकता वाला एनकोडर (मूल Softmax/GeLU के साथ) प्लेनटेक्स्ट (plaintext) में प्रशिक्षित किया जाता है।
2. स्टूडेंट मॉडल (Student Model): एक "अनुमानित एनकोडर" (2ReLU/ReLU का उपयोग करके) टीचर की नकल करने के लिए प्रशिक्षित किया जाता है।
3. हाइब्रिड लॉस (Hybrid Loss): स्टूडेंट मॉडल को एक संयुक्त लॉस फंक्शन का उपयोग करके प्रशिक्षित किया जाता है:
   $$\mathcal{L}(M_s) = \mathcal{L}_{\text{routing}}(M_s) + \beta \cdot \mathcal{L}_{\text{distill}}(M_t \parallel M_s)$$
   यह सुनिश्चित करता है कि स्टूडेंट मॉडल एन्क्रिप्टेड डोमेन की बाधाओं का पालन करते हुए उच्च रूटिंग गुणवत्ता बनाए रखे।
4. फाइन-ट्यूनिंग (Fine-tuning): एनकोडर को फ्रीज कर दिया जाता है, और प्रदर्शन को और अधिक अनुकूलित करने के लिए केवल बाद के MLP लेयर्स को फाइन-ट्यून किया जाता है।

C. अनसॉर्टेड टॉप-k एल्गोरिदम (Unsorted Top-k Algorithm - Secure Retrieval)

पारंपरिक सुरक्षित KNN में पुनरावृत्ति सॉर्टिंग या वैश्विक तुलना शामिल होती है, जो संचार-गहन (communication-heavy) है। PPRoute एक अभिनव Unsorted Top-k एल्गोरिदम पेश करता है:

• तंत्र (Mechanism): यह चयन समस्या को समानांतर करने योग्य मैट्रिक्स ऑपरेशन्स में पुनर्गठित करता है।
  1. एक तुलना मैट्रिक्स $C$ का निर्माण करें जहाँ $C_{i,j} = 1$ यदि $A_{i,j} > B_{i,j}$।
  2. $C$ के कॉलम का योग करके एक रैंकिंग स्कोर वेक्टर $S$ की गणना करें (सीक्रेट शेयर्स का स्थानीय जोड़, शून्य संचार लागत)।
  3. टॉप-$k$ तत्वों को चुनने के लिए एक थ्रेशोल्ड मास्क लागू करें।
• जटिलता (Complexity): यह दृष्टिकोण डेटासेट के आकार के बावजूद $O(1)$ संचार जटिलता (constant rounds) प्राप्त करता है, जिससे नेटवर्क लेटेंसी के बजाय बैंडविड्थ मुख्य बाधा बन जाती है। यह LLM रूटिंग के लिए आदर्श है जहाँ मॉडल पूल का आकार ($n$) अपेक्षाकृत छोटा होता है।

3. प्रमुख योगदान (Key Contributions)

1. प्रथम व्यवस्थित अध्ययन: LLM रूटिंग में गोपनीयता जोखिमों की व्यवस्थित जांच करने और एक समर्पित एंड-टू-एंड गोपनीयता-संरक्षण फ्रेमवर्क (PPRoute) प्रस्तावित करने वाला पहला कार्य।
2. कुशल एनकोडर इन्फरेंस: रूटिंग गुणवत्ता से समझौता किए बिना MPC इन्फरेंस को तेज करने के लिए "2ReLU" और ReLU अनुमानों की शुरूआत।
3. उन्नत प्रशिक्षण रणनीति: एक बहु-चरणीय डिस्टिलेशन एल्गोरिदम जो अनुमानित मॉडल को प्लेनटेक्स्ट समकक्ष के प्रदर्शन के बराबर होने की अनुमति देता है।
4. अभिनव रिट्रीवल एल्गोरिदम: "Unsorted Top-k" एल्गोरिदम संचार राउंड को स्थिर (constant) में कम करता है, जिससे सुरक्षित निकटतम पड़ोसी खोज काफी तेज हो जाती है।
5. सामान्यीकरण क्षमता (Generalizability): यह प्रदर्शित किया गया है कि फ्रेमवर्क विभिन्न एम्बेडिंग-आधारित रूटिंग आर्किटेक्चर (CSCR और UniRoute) पर प्रभावी ढंग से काम करता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने तीन बेंचमार्क डेटासेट्स: EmbedLLM, MixInstruct, और RouterBench पर PPRoute का मूल्यांकन किया, और इसकी तुलना नैइव MPC कार्यान्वयन और प्लेनटेक्स्ट बेसलाइन से की।

• स्पीडअप (Speedup):
  • PPRoute नैइव MPC कार्यान्वयन की तुलना में ~20× स्पीडअप प्राप्त करता है।
  • CSCR के लिए विशिष्ट परिणाम: EmbedLLM पर इन्फरेंस समय को 199s से घटाकर ~9.4s (21.26× स्पीडअप) कर दिया।
  • UniRoute के लिए विशिष्ट परिणाम: EmbedLLM पर इन्फरेंस समय को 190s से घटाकर ~9.9s (19.22× स्पीडअप) कर दिया।
• रूटिंग गुणवत्ता (Routing Quality):
  • PPRoute प्रदर्शन मेट्रिक्स (AUDC, Peak Accuracy, Query-Normalized Cost) लगभग प्लेनटेक्स्ट (अनएन्क्रिप्टेड) समकक्षों के समान प्राप्त करता है।
  • उदाहरण के लिए, EmbedLLM डेटासेट पर, PPRoute के लिए एरिया अंडर द डिफरल कर्व (AUDC) (0.538) मूल CSCR (0.539) के लगभग समान है।
• रिट्रीवल दक्षता (Retrieval Efficiency):
  • Unsorted Top-k एल्गोरिदम ने बेसलाइन तरीकों की तुलना में संचार वॉल्यूम को ~60% कम कर दिया और संचार राउंड को 130 से घटाकर 52 कर दिया, जिससे कुल निष्पादन समय 0.25s (अन्य सॉर्टिंग-आधारित सुरक्षित तरीकों के >10s के मुकाबले) प्राप्त हुआ।

5. महत्व (Significance)

• अंतराल को पाटना (Bridging the Gap): PPRoute सफलतापूर्वक मजबूत गोपनीयता गारंटी (MPC के माध्यम से) और वास्तविक समय के LLM रूटिंग के लिए आवश्यक विलंबता आवश्यकताओं के बीच के अंतर को पाटता है।
• वास्तविक दुनिया में प्रयोज्यता (Real-World Applicability): अत्यधिक लागत के बिना गोपनीयता-संरक्षित रूटिंग को सक्षम करके, यह फ्रेमवर्क इसे स्वास्थ्य सेवा, वित्त और उद्यम अनुप्रयोगों जैसे संवेदनशील क्षेत्रों में तैनात करना संभव बनाता है, जहाँ उपयोगकर्ता क्वेरी की गोपनीयता सर्वोपरि है।
• स्केलेबिलिटी (Scalability): रिट्रीवल एल्गोरिदम की $O(1)$ संचार जटिलता यह सुनिश्चित करती है कि उपलब्ध मॉडल प्रदाताओं की संख्या बढ़ने पर भी सिस्टम स्केलेबल रहे, बशर्ते मैट्रिक्स ऑपरेशन्स के लिए पूल का आकार उचित सीमा के भीतर हो।

निष्कर्षतः, PPRoute यह सिद्ध करता है कि LLM रूटिंग को मूल्यवान बनाने वाली दक्षता या गुणवत्ता से समझौता किए बिना, LLM इकोसिस्टम के "मिडलमैन" को सुरक्षित करना संभव है।