PRISM: Gauge-Invariant Tangent-Space Differentially Private LoRA
यह शोध पत्र PRISM को प्रस्तुत करता है, जो लो-रैंक एडेप्टेशन (LoRA) के लिए एक गेज-इनवेरिएंट डिफरेंशियल प्राइवेट मैकेनिज्म है, जो अपडेट मैट्रिक्स के इंट्रिन्सिक टेंजेंट स्पेस पर सीधे कार्य करके नॉन-आइडेंटिफिएबल पैरामीटर फैक्टराइजेशन के कारण होने वाले अनबाउंड नॉइज़ एम्प्लीफिकेशन को हल करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य चित्र: राज बताने से बिना रोबोट को सिखाना
कल्पना कीजिए कि आपके पास एक विशाल, अत्यंत बुद्धिमान रोबोट है (एक "फाउंडेशन मॉडल") जो दुनिया के बारे में सब कुछ जानता है। आप उसे एक विशिष्ट नया कौशल सिखाना चाहते हैं, जैसे मेडिकल रिपोर्ट लिखना या गणित की समस्याओं को हल करना, और इसके लिए आप निजी डेटा (जैसे मरीज के रिकॉर्ड या छात्रों के ग्रेड) का एक छोटा सेट उपयोग कर रहे हैं।
आप पूरे रोबोट को फिर से प्रशिक्षित (retrain) नहीं कर सकते; यह बहुत महंगा और धीमा है। इसके बजाय, आप LoRA (लो-रैंक अडैप्टेशन) नामक तकनीक का उपयोग करते हैं। LoRA को रोबोट को दिए जाने वाले एक छोटे, हटाने योग्य "चश्मे" या "अडैप्टर" के रूप में सोचें जो उसके व्यवहार को नए कार्य को सीखने के लिए पर्याप्त रूप से ट्यून करता है।
समस्या क्या है? यदि आप इन चश्मों को निजी डेटा पर प्रशिक्षित करते हैं, तो रोबट अनजाने में उन रहस्यों को याद रख सकता है और उन्हें लीक कर सकता है। इसे रोकने के लिए, हम डिफरेंशियल प्राइवेसी (DP) का उपयोग करते हैं, जो सीखने की प्रक्रिया में "स्टैटिक नॉइज़" (शोर) की एक परत जोड़ने जैसा है ताकि रोबोट पैटर्न को सीखे लेकिन किसी एक व्यक्ति के डेटा के विशिष्ट विवरणों को भूल जाए।
समस्या: गोपनीयता का "टूटा हुआ पैमाना"
लेखकों ने पाया कि LoRA में इस गोपनीयता शोर (privacy noise) को जोड़ने का मानक तरीका मौलिक रूप से त्रुटिपूर्ण है। यहाँ इसका उदाहरण दिया गया है:
"गेज" (Gauge) की समस्या (हिलता हुआ पैमाना)
कल्पना कीजिए कि आप एक मेज की लंबाई मापने की कोशिश कर रहे हैं।
- मानक तरीका (नाइव DP-LoRA): आपके पास एक पैमाना (रूलर) है जो खिंच सकता है और सिकुड़ सकता है। यदि आप पैमाने को खींचते हैं, तो नंबर बदल जाते हैं। यदि आप इसे सिकोड़ते हैं, तो नंबर फिर से बदल जाते हैं। लेकिन मेज की वास्तविक लंबाई नहीं बदली है।
- LoRA में, "पैमाना" वह गणितीय तरीका है जिससे हम अडैप्टर को दो भागों में तोड़ते हैं (मान लीजिए A और B)। A और B को खींचने या सिकोड़ने के अनंत तरीके हैं जब तक कि उनका गुणनफल समान रहता है। इसे "गेज नॉन-आइडेंटिफिएबिलिटी" कहा जाता है।
- गलती: पुराना तरीका A और B के हिस्सों में सीधे प्राइवेसी नॉइज़ जोड़ता था। क्योंकि पैमाना खिंच और सिकुड़ रहा था, इसलिए अंतिम परिणाम (वास्तविक मॉडल अपडेट) में जोड़ा गया "स्टैटिक नॉइज़" अराजक हो गया। कभी-कभी शोर बहुत कम होता था; कभी-कभी यह बहुत बड़ा होता था। यह एक ट्रैम्पोलिन पर खड़े होकर दीवार पेंट करने जैसा था जो अपनी ऊंचाई बदल रहा है—पेंट का छपका (शोर) अप्रत्याशित होता था और दीवार को खराब कर सकता था।
"बिलिनियर" (Bilinear) की समस्या (दोहरी मार)
जब आप A में थोड़ा शोर और B में थोड़ा शोर अलग-अलग जोड़ते हैं, तो वे आपस में क्रिया करते हैं। यह कॉफी के कप में थोड़ी चीनी और चम्मच में थोड़ा नमक डालने और फिर उन्हें मिलाने जैसा है। यह क्रिया एक "बिलिनियर" प्रभाव पैदा करती है—एक अजीब, अतिरिक्त स्वाद (शोर) जो न तो केवल चीनी और न ही केवल नमक में था। यह अतिरिक्त शोर वर्गाकार (squared) हो जाता है और बढ़ जाता है, जिससे मॉडल सीखने में बहुत खराब हो जाता है।
समाधान: PRISM (एक स्थिर कैनवास)
लेखक PRISM (प्रोजेक्टेड रीमानियन इनवेरिएंट सबस्पेस मैकेनिज्म) का प्रस्ताव देते हैं।
खिंचने वाले पैमाने के साथ मेज को मापने के बजाय, PRISM दृष्टिकोण बदल देता है। यह खिंचने वाले हिस्सों (A और B) को अनदेखा करता है और पूरी तरह से वास्तविक मेज (आंतरिक अपडेट Z) पर ध्यान केंद्रित करता है।
- टैंजेंट स्पेस (एक सपाट कैनवास): कल्पना कीजिए कि मेज एक घुमावदार सतह पर स्थित है। PRISM सीखने की प्रक्रिया को मेज के ठीक बगल में एक सपाट "टैंगेंट प्लेन" पर प्रोजेक्ट करता है। इस सपाट तल पर, गणित सरल और स्थिर है।
- गेज इनवेरिएंस (एक निश्चित पैमाना): PRISM इस सपाट तल पर सीधे प्राइवेसी नॉइज़ जोड़ता है। इससे कोई फर्क नहीं पड़ता कि आप अंतर्निहित हिस्सों (A और B) को कैसे खींचते या सिकोड़ते हैं; अंतिम परिणाम में जोड़ा गया शोर हमेशा एक समान और अनुमानित मात्रा में होता है। यह ठोस जमीन पर खड़े होकर दीवार पेंट करने जैसा है।
- कोई दोहरी मार नहीं: क्योंकि PRISM सीधे टैंजेंट स्पेस में अंतिम परिणाम में शोर जोड़ता है, यह A और B के बीच की अव्यवस्थित क्रिया से बचता है। इसमें कोई "बिलिनियर" विस्फोट नहीं होता है।
"स्मार्ट ऑप्टिमाइज़र" (ट्रेन को पटरी पर रखना)
भले ही सही शोर मौजूद हो, रोबोट का लर्निंग एल्गोरिदम (ऑप्टिमाइज़र) भ्रमित हो सकता है। यदि रोबोट "स्मार्ट" होने की कोशिश करता है और शोर वाले डेटा के आधार पर अपनी सीखने की गति को समायोजित करता है, तो वह अनजाने में शोर को और भी बढ़ा सकता है, जिससे मॉडल क्रैश हो सकता है या अस्थिर हो सकता है।
PRISM में एक विशेष "DP-जागरूक" नियम शामिल है। यह लर्निंग एडजस्टमेंट के नीचे एक "फ्लोर" (आधार) रखता है। इसे कार इंजन पर स्पीड बंप या गवर्नर की तरह समझें। यदि शोर बहुत अधिक हो जाता है, तो यह 'फ्लोर' सीखने की गति को बेकाबू होने से रोकता है, जिससे प्रशिक्षण स्थिर और सुरक्षित रहता है।
परिणाम: बेहतर गोपनीयता, बेहतर सीखना
लेखकों ने विभिन्न कार्यों (जैसे भाषा को समझना और गणित की समस्याओं को हल करना) पर निजी डेटा का उपयोग करके PRISM का परीक्षण किया।
- पुराना तरीका: जब उन्होंने गोपनीयता लाने की कोशिश की, तो मॉडल का प्रदर्शन काफी गिर गया क्योंकि शोर बहुत अराजक या बहुत मजबूत था।
- PRISM: क्योंकि शोर नियंत्रित और अनुमानित था, मॉडल ने कार्यों को बहुत बेहतर तरीके से सीखा जबकि डेटा को निजी रखा। कई परीक्षणों में, PRISM शीर्ष प्रदर्शन करने वाला रहा, विशेष रूप से जटिल तर्क (reasoning) कार्यों पर।
सारांश
- समस्या: LoRA में गोपनीयता की रक्षा करने का मानक तरीका खिंचने वाले पैमाने के साथ चलते हुए लक्ष्य को मापने जैसा है। इससे अप्रत्याशित, विशाल शोर पैदा होता है जो मॉडल को खराब कर देता है।
- समाधान: PRISM खिंचने वाले हिस्सों को अनदेखा करता है और सीधे स्थिर, मुख्य अपडेट में शोर जोड़ता है। यह सुनिश्चित करने के लिए कि शोर हमेशा सही आकार का हो, यह एक "सपाट कैनवास" दृष्टिकोण का उपयोग करता है, चाहे गणित की व्यवस्था कैसी भी हो।
- लाभ: आपको मॉडल की सीखने की क्षमता से समझौता किए बिना मजबूत गोपनीयता सुरक्षा मिलती है। यह स्थिर, कुशल है और पिछले तरीकों की तुलना में बेहतर काम करता है।
संक्षेप में, PRISM निजी डेटा के साथ AI मॉडल को सिखाने का एक नया तरीका है जो "शोर" को नियंत्रण से बाहर होने से रोकता है, यह सुनिश्चित करता है कि रोबोट सबक सीखे बिना रहस्यों को याद किए बिना।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।