🤖 machine learning

PVeRA: Probabilistic Vector-Based Random Matrix Adaptation

यह शोध पत्र PVeRA प्रस्तुत करता है, जो VeRA एडेप्टर का एक संभाव्य विस्तार (probabilistic extension) है जो इनपुट अस्पष्टताओं को बेहतर ढंग से संभालने के लिए इसके साझा लो-रैंक मैट्रिसेस (low-rank matrices) को संशोधित करता है और मौजूदा पैरामीटर-कुशल अनुकूलन विधियों की तुलना में VTAB-1k बेंचमार्क पर बेहतर प्रदर्शन प्राप्त करता है।

मूल लेखक: Leo Fillioux, Enzo Ferrante, Paul-Henry Cournède, Maria Vakalopoulou, Stergios Christodoulidis

प्रकाशित 2026-05-01

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Leo Fillioux, Enzo Ferrante, Paul-Henry Cournède, Maria Vakalopoulou, Stergios Christodoulidis

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास ज्ञान का एक विशाल, अविश्वसनीय रूप से बुद्धिमान पुस्तकालय (एक "फाउंडेशन मॉडल") है जिसने दुनिया की लगभग हर किताब पढ़ ली है। यह पुस्तकालय बहुत प्रतिभाशाली है, लेकिन यह बहुत बड़ा, भारी और इसे इधर-उधर ले जाना महंगा है। यदि आप इसे कोई विशिष्ट नया कौशल सिखाना चाहते हैं—जैसे दुर्लभ फूलों को पहचानना या किसी विशिष्ट चिकित्सा स्थिति का निदान करना—तो आमतौर पर आपको इसे "फाइन-ट्यून" (fine-tune) करना पड़ता है।

समस्या: पारंपरिक फाइन-ट्यूनिंग वैसी ही है जैसे अपने नए विषय के अनुकूल बनाने के लिए पूरी विश्वकोश (encyclopedia) को फिर से लिखना। इसमें बहुत समय, पैसा और कंप्यूटिंग शक्ति लगती है। इसके अलावा, यदि आपके पास नए विषय के केवल कुछ ही उदाहरण हैं, तो मॉडल भ्रमित हो सकता है और अपना पुराना ज्ञान भूल सकता है (overfitting)।

वर्तमान समाधान (Adapters): इस समस्या को ठीक करने के लिए, वैज्ञानिकों ने "एडेप्टर्स" (adapters) का आविष्कार किया। एडेप्टर्स को ऐसे समझें जैसे आप पुस्तकालय की अलमारियों पर छोटे, हल्के स्टिकी नोट्स (sticky notes) लगा रहे हैं। किताबों को फिर से लिखने के बजाय, आप बस इन नोट्स को जोड़ते हैं ताकि पुस्तकालय को आपके नए कार्य को संभालने के लिए निर्देशित किया जा सके। एक लोकप्रिय प्रकार का स्टिकी नोट है VeRA। यह पूरे पुस्तकालय में साझा किए गए जोड़े "फ्रोज़न" (अपरिवर्तनीय) रैंडम पैटर्न का उपयोग करता है, और यह केवल उन पैटर्न के उपयोग को समायोजित करने के लिए कुछ बहुत छोटे नंबरों (वेक्टर्स) को सीखता है। यह कुशल है, लेकिन यह थोड़ा कठोर है—यह हर इनपुट के लिए एक एकल, निश्चित निर्णय लेता है।

नया विचार: PVeRA
लेखकों ने PVeRA (प्रोबेबिलिस्टिक वेक्टर-बेस्ड रैंडम मैट्रिक्स अडैप्टेशन) प्रस्तावित किया है। यहाँ इसका सरल विवरण दिया गया है:

1. एक एकल अनुमान से "संभावनाओं के बादल" तक

कल्पना कीजिए कि आप धुंधली तस्वीर में एक जानवर को पहचानने की कोशिश कर रहे हैं।

पुराना तरीका (VeRA): मॉडल धुंध को देखता है और कहता है, "मैं 100% आश्वस्त हूँ कि यह एक हाथी है।" यह एक निश्चित नियम के आधार पर एक कठोर अनुमान लगाता है।
नया तरीका (PVeRA): मॉडल धुंध को देखता है और कहता है, "यह ज्यादातर एक हाथी जैसा दिखता है, लेकिन इसकी एक घोड़ा होने की भी थोड़ी संभावना है, और धुंध के कारण मैं थोड़ा अनिश्चित हूँ।"

PVeRA "स्टिकी नोट्स" को बदल देता है ताकि वे केवल एक नंबर नहीं, बल्कि एक डिस्ट्रीब्यूशन (संभावनाओं का बादल) रखें। एक एकल निश्चित समायोजन चुनने के बजाय, मॉडल संभावनाओं की एक सीमा सीखता है। प्रशिक्षण के दौरान, यह इस बादल से यादृच्छिक रूप से नमूने (sample) लेता है, जो प्रभावी रूप से अपने स्वयं के कई थोड़े अलग संस्करणों के साथ अभ्यास करता है। यह इसे डेटा की "धुंध" (अस्पष्टता) को बहुत बेहतर तरीके से संभालने में मदद करता है।

2. यह एक "सुरक्षा जाल" की तरह क्यों है

लेख का दावा है कि यह संभाव्य (probabilistic) दृष्टिकोण मॉडल को दो महाशक्तियाँ देता है:

कॉन्फिडेंस इंटरवल्स (वह "आप कितने आश्वस्त हैं?" मीटर):
क्योंकि मॉडल संभावनाओं के एक बादल से नमूने लेता है, आप इसे एक ही छवि को 10 बार देखने के लिए कह सकते हैं।
- यदि यह 10 बार समान आत्मविश्वास के साथ "हाथी" कहता है, तो आप जानते हैं कि यह निश्चित है।
- यदि यह 6 बार "हाथी", 3 बार "घोड़ा" और 1 बार "जेब्रा" कहता है, तो आप जानते हैं कि यह अनिश्चित है।
  PVeRA बिना किसी अतिरिक्त, जटिल गणित के स्वाभाविक रूप से ये "कॉन्फिडेंस इंटरवल्स" उत्पन्न कर सकता है। यह ऐसा है जैसे मॉडल के पास एक अंतर्निहित ईमानदारी का मीटर है जो उसे बताता है कि वह कब केवल अनुमान लगा रहा है।
कम डेटा के साथ बेहतर प्रदर्शन:
लेखकों ने 19 विभिन्न डेटासेट्स (प्राकृतिक तस्वीरों से लेकर चिकित्सा छवियों और संरचित डेटा तक) पर इसका परीक्षण किया। उन्होंने पाया कि PVeRA लगातार मूल VeRA और अन्य लोकप्रिय एडेप्टर की तुलना में बेहतर प्रदर्शन करता है। यह विभिन्न प्रकार के कार्यों में स्थिर होने के मामले में विशेष रूप से अच्छा था।

3. "विलय" (Merging) का जादू

एक सबसे शानदार विशेषता जिसका उल्लेख किया गया है, वह यह है कि भले ही PVeRA प्रशिक्षण के दौरान संभावनाओं के "बादल" का उपयोग करता है, फिर भी आप इसे वास्तविक दुनिया में उपयोग के लिए मुख्य मॉडल में मर्ज कर सकते हैं।

उपमा: कल्पना करें कि आपने अपने भाषण के 100 अलग-अलग संस्करणों को आजमाकर अपने भाषण का अभ्यास किया है। एक बार जब आप पर्याप्त अभ्यास कर लेते हैं, तो आप अपने भाषण का सबसे अच्छा संस्करण चुनते हैं और उसे याद कर लेते हैं।
परिणाम: जब आप वास्तव में भाषण देते हैं, तो आपको 100 संस्करणों को आज़माने की आवश्यकता नहीं होती है। आप बस अपने भाषण का एक पॉलिश किया हुआ संस्करण देते हैं। इसका मतलब है कि वास्तविक उपयोग के दौरान PVeR पुराने तरीकों की तरह ही तेज़ है, लेकिन इसने प्रशिक्षण के दौरान अधिक स्मार्ट तरीके से सीखा है।

4. "बाहरी लोगों" (Outsiders) को पहचानना

लेख में यह भी पाया गया कि क्योंकि PVeRA एक डिस्ट्रीब्यूशन सीखता है, इसलिए यह उन चीजों को पहचानने में बेहतर है जिन्हें वह नहीं जानता।

उपमा: यदि आप बिल्लियों और कुत्तों के लिए प्रशिक्षित मॉडल को टोस्टर की तस्वीर दिखाते हैं, तो एक कठोर मॉडल आत्मविश्वास से कह सकता है कि "बिल्ली" (क्योंकि यह बिल्ली जैसा दिखता है)। हालाँकि, एक PVeRA मॉडल कह सकता है, "मैं इस बारे में वास्तव में अनिश्चित हूँ; मेरी आंतरिक धारणा बहुत बिखरी हुई है।"
लेखकों ने दिखाया कि मॉडल के "अनिश्चितता संकेत" (uncertainty signals) उन चीजों के लिए बहुत मजबूत थे जिन्हें उसने पहले नहीं देखा था (आउट-ऑफ-डिस्ट्रीब्यूशन), जिससे यह सुरक्षा-महत्वपूर्ण कार्यों के लिए एक बेहतर उपकरण बन जाता है जहाँ आपको यह जानने की आवश्यकता होती है कि मॉडल कब भ्रमित है।

सारांश

यह लेख PVeRA पेश करता है, जो मौजूदा टूल VeRA का एक स्मार्ट, अधिक लचीला संस्करण है। मॉडल को एकल निश्चित उत्तरों के बजाय "संभावनाओं" और "संभावनाओं की श्रेणियों" के रूप में सोचने के लिए सिखाकर, यह:

विभिन्न प्रकार के कार्यों पर बेहतर प्रदर्शन करता है।
जानता है कि वह क्या नहीं जानता (बेहतर अनिश्चितता अनुमान)।
तेज़ बना रहता है क्योंकि जटिल गणित का उपयोग केवल प्रशिक्षण के दौरान किया जाता है, वास्तविक उपयोग के दौरान नहीं।

यह अनिवार्य रूप से मॉडल के "स्टिकी नोट्स" को कठोर निर्देशों से बदलकर लचीले, संभाव्य मार्गदर्शकों में अपग्रेड करता है जो मॉडल को आत्मविश्वास के साथ अस्पष्टता से निपटने में मदद करते हैं।

यहाँ शोध पत्र "PVeRA: Probabilistic Vector-Based Random Matrix Adaptation" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

बड़े फाउंडेशन मॉडल्स (जैसे Vision Transformers) ने अत्याधुनिक प्रदर्शन (state-of-the-art performance) प्राप्त किया है, लेकिन उन्हें फाइन-ट्यून करने के लिए भारी कंप्यूटेशनल संसाधनों और डेटासेट की आवश्यकता होती है। पारंपरिक फुल फाइन-ट्यूनिंग (full fine-tuning) लागत और कम डेटा वाले परिदृश्यों में ओवरफिटिंग के जोखिम के कारण अक्सर अव्यवहार्य होती है।

पैरामीटर-कुशल फाइन-ट्यूनिंग (Parameter-Efficient Fine-Tuning - PEFT): LoRA और VeRA जैसे तरीके बैकबोन को फ्रीज करके और केवल कुछ ही पैरामीटर्स (एडेप्टर्स) को प्रशिक्षित करके इस समस्या का समाधान करते हैं।
वर्तमान विधियों की सीमाएँ: जबकि VeRA (Vector-based Random matrix Adaptation) साझा किए गए फ्रोजन रैंडम लो-रैंक मैट्रिसेस का उपयोग करके अत्यधिक कुशल है, यह एक डिटरमिनिस्टिक (deterministic) दृष्टिकोण बना हुआ है। यह वेट अडैप्टेशन के लिए एक एकल पॉइंट एस्टीमेट (single point estimate) उत्पन्न करता है, जो इसकी निम्नलिखित क्षमताओं को सीमित करता है:
1. इनपुट डेटा में अंतर्निहित अस्पष्टताओं (ambiguities) को मॉडल करना।
2. प्रेडिक्शन अनिश्चितता (prediction uncertainty) को मापना।
3. आउटपुट के लिए कॉन्फिडेंस इंटरवल (confidence intervals) प्रदान करना।

2. कार्यप्रणाली: PVeRA (Methodology)

लेखक PVeRA का प्रस्ताव करते हैं, जो VeRA का एक संभाव्य (probabilistic) विस्तार है, जो लो-रैंक अडैप्टेशन मैट्रिसेस को फिक्स्ड वैल्यू के बजाय एक सीखे हुए वितरण (learned distribution) से लिए गए रैंडम वेरिएबल्स के रूप में मानता है।

मुख्य तंत्र (Core Mechanism)

संभाव्य सूत्रीकरण (Probabilistic Formulation): फिक्स्ड स्केलिंग वेक्टर्स सीखने के बजाय, PVeRA लेटेंट अडैप्टेशन स्पेस के लिए एक मल्टीवेरिएट नॉर्मल डिस्ट्रीब्यूशन ( $\mu$ और $\sigma$ ) के पैरामीटर्स को सीखता है।
आर्किटेक्चर:
- यह VeRA की तरह ही फ्रोजन रैंडम मैट्रिसेस $A$ और $B$ का उपयोग करता है (जो सभी लेयर्स में साझा होते हैं)।
- यह मीन ( $\mu$ ) और स्टैंडर्ड डेविएशन ( $\sigma$ ) उत्पन्न करने के लिए ट्रेन करने योग्य वेक्टर्स $d$ और $b$ पेश करता है।
- रीपैरामेटराइजेशन ट्रिक (Reparameterization Trick): ट्रेनिंग के दौरान, लेटेंट वेरिएबल $z$ को $z = \mu + \epsilon \cdot \sigma$ के रूप में सैंपल किया जाता है, जहाँ $\epsilon \sim \mathcal{N}(0, 1)$ है। यह सैंपलिंग प्रक्रिया के माध्यम से ग्रेडिएंट्स को प्रवाहित होने की अनुमति देता है।
लॉस फंक्शन (Loss Function): कुल लॉस टास्क-विशिष्ट क्लासिफिकेशन लॉस और एक कुलबैक-लीब्लर (KL) डाइवर्जेंस टर्म को जोड़ता है। KL टर्म सीखे हुए डिस्ट्रीब्यूशंस पर एक स्टैंडर्ड नॉर्मल प्रायर ( $\mathcal{N}(0, I)$ ) लागू करता है ताकि ओवरफिटिंग को रोका जा सके और यह सुनिश्चित हो सके कि लेटेंट स्पेस रेगुलराइज्ड रहे।
$\mathcal{L}_{total} = \mathcal{L}_{classification} + \beta \sum \mathcal{L}_{KL}$

इन्फरेंस रणनीतियाँ (Inference Strategies)

PVeRA दो इन्फरेंस मोड का समर्थन करता है:

डिटरमिनिस्टिक (Deterministic): अडैप्टेशन के लिए केवल मीन ( $\mu$ ) का उपयोग करता है। इन वेट्स को बैकबोन में मर्ज किया जा सकता है, जिसके परिणामस्वरूप जीरो इन्फरेंस ओवरहेड (VeRA/LoRA के समान) होता है।
प्रोबेबिलिस्टिक (Monte Carlo): इन्फरेंस के दौरान सीखे गए डिस्ट्रीब्यूशन से कई बार सैंपल करता है। यह निम्नलिखित की अनुमति देता है:
- अनिश्चितता का परिमाणीकरण (Uncertainty Quantification): प्रेडिक्शन में उच्च विचरण (high variance) अनिश्चितता को दर्शाता है।
- कॉन्फिडेंस इंटरवल (Confidence Intervals): प्रेडिक्शन के लिए सांख्यिकीय कॉन्फिडेंस इंटरवल उत्पन्न करना।
- आउट-ऑफ-डिस्ट्रीब्यूशन (OOD) डिटेक्शन: OOD सैंपल आमतौर पर इन-डिस्ट्रीब्यूशन सैंपल की तुलना में लेटेंट स्पेस में अलग वितरण संबंधी विशेषताएं प्रदर्शित करते हैं।

3. मुख्य योगदान (Key Contributions)

PVeRA का प्रस्ताव: एक नया एडेप्टर जो वेट अडैप्टेशन पर एक डिस्ट्रीब्यूशन सीखता है, जो फीचर स्पेस की अस्पष्टताओं को संभालने के लिए एक इंडक्टिव बायस (inductive bias) पेश करता है।
प्रदर्शन श्रेष्ठता: यह प्रदर्शित किया गया कि PVeRA औसत रूप से मूल VeRA और अन्य स्टेट-ऑफ-द-आर्ट एडेप्टर्स (LoRA, DoRA, IA3, Bottleneck) से बेहतर प्रदर्शन करता है।
कैलिब्रेशन (Calibration):
- PVeRA उत्कृष्ट मॉडल कैलिब्रेशन बनाए रखता है (सटीक कॉन्फिडेंस स्कोर की भविष्यवाणी करना)।
- यह बैकबोन को पुन: प्रशिक्षित किए बिना कॉन्फिडेंस इंटरवल और अनिश्चितता अनुमान सक्षम करता है।
दक्षता (Efficiency): यह VeRA की अत्यधिक पैरामीटर दक्षता को बरकरार रखता है (स्टैंडर्ड एडेप्टर्स की तुलना में कई गुना कम पैरामीटर्स) और इन्फरेंस लेटेंसी को समाप्त करने के लिए वेट मर्जिंग की अनुमति देता है।
ओपन सोर्स: PVeRA और अन्य एडेप्टर्स के प्रशिक्षण और बेंचमार्किंग के लिए कोड प्रदान किया गया है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने एक फ्रोजन DINOv2 (ViT-B/14) बैकबोन का उपयोग करके VTAB-1k बेंचमार्क (प्राकृतिक, विशेष और संरचित श्रेणियों में 19 डेटासेट) पर PVeRA का मूल्यांकन किया।

सटीकता (Accuracy): PVeRA ने सभी 19 डेटासेट में उच्चतम औसत सटीकता (71.4%) प्राप्त की, जिसने VeRA (69.9%), LoRA (70.5%), और DoRA (71.0%) को पीछे छोड़ दिया। इसने विविध डोमेन में विशेष रूप से स्थिर प्रदर्शन दिखाया।
पैरामीटर दक्षता: PVeRA बहुत कम पैरामीटर संख्या बनाए रखता है (VeRA के तुलनीय), जो Bottleneck, AdaptFormer और DoRA की तुलना में काफी कम है।
कैलिब्रेशन: एडैप्टिव कैलिब्रेशन एरर (ACE) मेट्रिक का उपयोग करते हुए, PVEA ने अन्य एडेप्टर्स की तुलना में बेहतर कैलिब्रेशन दिखाया, जिसका अर्थ है कि इसके कॉन्फिडेंस स्कोर वास्तविक सटीकता को बेहतर ढंग से दर्शाते हैं।
अनिश्चितता अनुमान (Uncertainty Estimation):
- प्रयोगों ने दिखाया कि प्रोबेबिलिस्टिक इन्फरेंस का उपयोग करने पर, गलत वर्गीकृत नमूनों में सही वर्गीकृत नमूनों की तुलना में सॉफ्टमैक्स स्कोर में काफी अधिक स्टैंडर्ड डेविएशन था।
- कॉन्फिडेंस इंटरवल: सही वर्गीकृत नमूनों के कॉन्फिडेंस इंटरवल (0.085) गलत वर्गीकृत नमूनों (0.225) की तुलना में बहुत संकीर्ण थे।
आउट-ऑफ-डिस्ट्रीब्यूशन (OOD) डिटेक्शन: एडेप्टर लेयर्स में मीन्स ( $\mu_q + \mu_v$ ) का योग इन-डिस्ट्रीब्यूशन और आउट-ऑफ-डिस्ट्रीब्यूशन डेटा के बीच अंतर करने के लिए एक प्रभावी मेट्रिक के रूप में कार्य करता है, जो एक ऐसी क्षमता है जो VeRA में नहीं है।
एब्लेशन स्टडीज (Ablation Studies):
- रैंक (Rank): $r=256$ रैंक ने प्रदर्शन और पैरामीटर्स के बीच सबसे अच्छा संतुलन प्रदान किया।
- पोजीशन (Position): PVeRA को क्वेरी (Q) और वैल्यू (V) शाखाओं पर लागू करने से सबसे अच्छे परिणाम मिले, जो LoRA के मूल निष्कर्षों के अनुरूप है।

5. महत्व और प्रभाव (Significance and Impact)

PVeRA, दक्षता और संभाव्य मॉडलिंग के बीच के अंतर को पाटकर पैरामीटर-कुशल फाइन-ट्यूनिंग में एक महत्वपूर्ण कदम है।

मजबूती (Robustness): अनिश्चितता को मॉडल करके, PVeRA उन सुरक्षा-महत्वपूर्ण अनुप्रयोगों (जैसे मेडिकल इमेजिंग) के लिए बेहतर है जहाँ यह जानना उतना ही महत्वपूर्ण है कि मॉडल कब अनिश्चित है जितना कि स्वयं प्रेडिक्शन।
बहुमुखी प्रतिभा (Versatility): यह VeRA की उपयोगिता को साधारण वर्गीकरण से आगे बढ़ाता है, जिससे बिना इन्फरेंस लागत बढ़ाए OOD डिटेक्शन और कॉन्फिडेंस इंटरवल अनुमान जैसे कार्यों को सक्षम बनाया जा जाता है (जब डिटरमिनिस्टिक मर्जिंग का उपयोग किया जाता है)।
सामान्यीकरण (Generalizability): शोध पत्र ने NLP कार्यों (GLUE बेंचमार्क) पर भी PVeRA की प्रभावशीलता को संक्षिप्त रूप में प्रदर्शित किया है, जो सुझाव देता है कि संभाव्य अनुकूलन तंत्र मॉडल-अज्ञेय (model-agnostic) है और कंप्यूटर विज़न से परे भी लागू किया जा सकता है।

संक्षेप में, PVeRA एक "दोनों दुनियाओं का सर्वश्रेष्ठ" समाधान प्रदान करता है: VeRA की कंप्यूटेशनल दक्षता और कम पैरामीटर संख्या, साथ ही संभाव्य डीप लर्निंग की मजबूती, अनिश्चितता का परिमाणीकरण और बेहतर कैलिब्रेशन।