🤖 machine learning

BaLoRA: Bayesian Low-Rank Adaptation of Large Scale Models

BaLoRA लो-रैंक एडेप्टेशन (LoRA) का एक बेयसियन विस्तार पेश करता है जो इनपुट-अनुकूली पैरामीट्राइजेशन का उपयोग करता है ताकि भविष्यवाणी की सटीकता को बढ़ाने और सुव्यवस्थित अनिश्चितता अनुमान प्रदान करने के लिए एक साथ काम किया जा सके, जिससे पूर्ण फाइन-ट्यूनिंग के साथ प्रदर्शन के अंतर को प्रभावी ढंग से कम किया जा सके और महत्वपूर्ण अनुप्रयोगों में विश्वसनीय त्रुटि अनुमान सक्षम किया जा सके।

मूल लेखक: Dario Coscia, Sindy Löwe, Max Welling

प्रकाशित 2026-05-12

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Dario Coscia, Sindy Löwe, Max Welling

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक विशाल, अविश्वसनीय रूप से बुद्धिमान विश्वकोश (एक "लार्ज प्री-ट्रेन्ड मॉडल") है जो हर चीज़ के बारे में थोड़ा-बहुत जानता है। आप इसे एक बहुत ही विशिष्ट नया कौशल सिखाना चाहते हैं, जैसे पहेलियाँ सुलझाना या दुर्लभ फूलों की पहचान करना।

पुराना तरीका (फुल फाइन-ट्यूनिंग):
पारंपरिक रूप से, इस विश्वकोश को नया कौशल सिखाने के लिए, आपको किताब का हर एक पन्ना फिर से लिखना होगा। यह पूरे पुस्तकालय को फिर से लिखने के लिए संपादकों की एक टीम को काम पर रखने जैसा है। यह अविश्वसनीय रूप से महंगा, धीमा है, और हर नए विषय के लिए आपके पास पुस्तकालय की एक अलग, भारी प्रति बन जाती है।

मानक शॉर्टकट (LoRA):
समय बचाने के लिए, शोधकर्ताओं ने LoRA (लो-रैंक अडैप्टेशन) का आविष्कार किया। पूरे पुस्तकालय को फिर से लिखने के बजाय, आप बस प्रासंगिक पृष्ठों पर एक छोटा सा, चिपकाने योग्य नोट (sticky-note insert) जोड़ देते हैं। यह इनसेट बहुत छोटा और बनाने में सस्ता है।

समस्या: मानक LoRA इनसेट एक कठोर, पूर्व-लिखित नोट की तरह है। यह एक एकल, निश्चित उत्तर देता है। यदि प्रश्न कठिन है या डेटा कम है, तो नोट को यह नहीं पता होता कि वह कितना आश्वस्त है। यह बस एक उत्तर दे देता है, भले ही वह केवल अनुमान लगा रहा हो। साथ ही, यह पूरे किताब को फिर से लिखने जितनी जटिल अवधारणाओं को उतनी अच्छी तरह से व्यक्त नहीं कर सकता।

नया समाधान (BaLoRA):
यह पेपर BaLoRA (बेयसियन लो-रैंक अडैप्टेशन) पेश करता है। BaLoRA को समझने के लिए, उन स्टिकी नोट्स को स्थिर कागज से स्मार्ट, जीवित होलोग्राम में अपग्रेड करने के रूप में देखें।

BaLoRA कैसे काम करता है, यहाँ सरल उपमाओं का उपयोग करके बताया गया है:

1. "कांपते हाथ" की उपमा (अनिश्चितता)

मानक LoRA में, नोट कहता है, "उत्तर निश्चित रूप से X है।"
BaLoRA में, नोट कहता है, "उत्तर संभवतः X है, लेकिन मैं इसके बारे में थोड़ा डगमगा रहा हूँ क्योंकि यह प्रश्न थोड़ा चालाकी भरा लग रहा है।"

BaLoRA स्टिकी नोट में संख्याओं को निश्चित तथ्यों के रूप में नहीं, बल्कि रैंडम वेरिएबल्स (यादृच्छिक चरों) के रूप में मानता है। कल्पना कीजिए कि नोट लिखने वाले व्यक्ति का हाथ थोड़ा कांप रहा है।

यदि प्रश्न आसान और परिचित है, तो उनका हाथ स्थिर है, और नोट स्पष्ट है।
यदि प्रश्न अजीब या भ्रमित करने वाला है, तो उनका हाथ अधिक कांपता है, और नोट अधिक "धुंधला" हो जाता है।
यह "धुंधलापन" ही अनिश्चितता है। यह आपको बताता है, "मैं यहाँ 100% सुनिश्चित नहीं हूँ, इसलिए सावधान रहें।" यह उन सुरक्षा-महत्वपूर्ण कार्यों के लिए महत्वपूर्ण है जहाँ आपको यह जानने की आवश्यकता होती है कि मॉडल कब अनुमान लगा रहा है।

2. "स्मार्ट शेकर" (इनपुट-एडेप्टिव नॉइज़)

पेपर का दावा है कि BaLoRA विशेष है क्योंकि "कांपना" (shaking) रैंडम नहीं है; यह स्मार्ट है।

मानक LoRA: बस हर चीज़ में एक निश्चित मात्रा में शोर (नॉइज़) जोड़ देता है।
BaLoRA: शोर की मात्रा इनपुट पर निर्भर करती है।
- उपमा: कल्पना कीजिए कि एक संगीतकार एक गाना बजा रहा है। यदि धुन सरल है, तो वे इसे पूरी तरह से बजाते हैं। यदि धुन जटिल और कठिन हो जाती है, तो वे विभिन्न संभावनाओं को तलाशने के लिए जानबूझकर थोड़ा "जैज़" या सुधार (शोर) जोड़ते हैं।
- BaLoRA में, जब मॉडल एक कठिन इनपुट देखता है, तो यह विशेष रूप से उन हिस्सों में अधिक "शोर" (अनिश्चितता) इंजेक्ट करता है जो सक्रिय हैं। यह मॉडल को अधिक मजबूती से सीखने के लिए मजबूर करता है, जैसे कि एक छात्र जो उन प्रश्नों पर अधिक अभ्यास करता है जिन्हें वे भ्रमित करने वाला पाते हैं। यह वास्तव में मॉडल को केवल अधिक सतर्क बनाने के बजाय अधिक स्मार्ट और सटीक बनाता है।

3. "लो-रैंक" का जादू (दक्षता)

आपको चिंता हो सकती है कि "कांपने" और "अनिश्चितता" को जोड़ने से नोट बहुत बड़ा और धीमा हो जाएगा।

पेपर का दावा: BaLoRA एक चतुर गणितीय ट्रिक ( "लो-रैंक लोकल रीपैरामीट्राइजेशन ट्रिक") का उपयोग करता है।
उपमा: विश्वकोश के हर शब्द के लिए कंपन (wobble) की गणना करने के बजाय (जो धीमा होगा), BaLoRA एक बहुत छोटे, संकुचित "बैकस्टेज" क्षेत्र में कंपन की गणना करता है और फिर उसे पृष्ठ पर प्रोजेक्ट करता है।
परिणाम: यह लगभग कोई अतिरिक्त वजन या गति का खर्च नहीं जोड़ता है। आप इसे पुराने LoRA की तरह ही उपयोग कर सकते हैं, लेकिन अनिश्चितता जानने के लाभ के साथ।

उन्होंने क्या सिद्ध किया?

लेखकों ने इस "स्मार्ट स्टिकी नोट" का तीन बहुत अलग दुनिया में परीक्षण किया:

भाषा (पहेलियाँ): उन्होंने सामान्य ज्ञान की पहेलियों को सुलझाने के लिए Llama मॉडल्स (AI चैटबॉट्स) पर परीक्षण किया।
- परिणाम: BaLoRA ने मानक LoRA से बेहतर स्कोर प्राप्त किया और अन्य उन्नत तरीकों को भी पीछे छोड़ दिया। इसने अनिश्चितता प्रशिक्षण के कारण कार्यों को बेहतर ढंग से सीखा।
विज़न (तस्वीरें): उन्होंने फूलों और पालतू जानवरों की पहचान करने के लिए तस्वीरों का परीक्षण किया।
- परिणाम: इसने पूरे पुस्तकालय को फिर से लिखने (फुल फाइन-ट्यूनिंग) की सटीकता का मुकाबला किया, लेकिन मेमोरी का एक बहुत छोटा हिस्सा उपयोग किया। इसने बेहतर "कॉन्फिडेंस स्कोर" भी दिए (इसे पता था कि यह कब अनिश्चित है)।
विज्ञान (सामग्री): उन्होंने मेटल-ऑर्गेनिक फ्रेमवर्क्स के लिए "बैंड गैप" (ऊर्जा भंडारण सामग्री का एक गुण) की भविष्यवाणी करने के लिए परीक्षण किया।
- परिणाम: यह एक कठिन वैज्ञानिक कार्य है। BaLoRA ने केवल मान की भविष्यवाणी नहीं की; इसकी "अनिश्चितता अनुमान" (uncertainty estimate) मानक LoRA मॉडल्स की एक पूरी टीम के काम करने के तरीके से भी बेहतर थी, जो यह बताने में सक्षम थी कि वह कब गलत होने वाला है। और इसने यह केवल एक ट्रेनिंग रन के साथ किया, जबकि टीम को कई दौरों की आवश्यकता थी।

निचोड़ (The Bottom Line)

BaLoRA विशाल AI मॉडल्स को नया कौशल जल्दी और सस्ते में सिखाने का एक तरीका है, लेकिन एक सुपरपावर के साथ: यह जानता है कि वह क्या नहीं जानता।

यह एक कठोर, "मुझे लगता है कि यह उत्तर है" वाले नोट को एक लचीले, "मुझे लगता है कि यह उत्तर है, लेकिन मुझे इस उत्तर पर कितना भरोसा है" वाले नोट में बदल देता है। और आश्चर्यजनक रूप से, मॉडल को उसकी अनिश्चितता के बारे में ईमानदार होने की शिक्षा देकर, यह वास्तव में उन मॉडलों की तुलना में कार्य में बेहतर हो जाता है जो केवल 100% सुनिश्चित होने का ढोंग करते हैं।

तकनीकी सारांश: BaLoRA (बेशियन लो-रैंक एडेप्टेशन)

1. समस्या विवरण

लो-रैंक एडेप्टेशन (LoRA) ने बड़े प्री-ट्रेन्ड मॉडल्स के पैरामीटर-एफिशिएंट फाइन-ट्यूनिंग (PEFT) के लिए खुद को एक मानक के रूप में स्थापित किया है, जो अपडेट्स को लो-रैंक स्ट्रक्चर तक सीमित करके कंप्यूटेशनल लागत को कम करता है। हालांकि, यह पेपर मानक LoRA और संबंधित डिटर्मिनिस्टिक (नियत) PEFT विधियों में तीन महत्वपूर्ण सीमाओं की पहचान करता है:

सीमित अभिव्यक्ति (Limited Expressiveness): लो-रैंक, पॉइंट-एस्टिमेट अपडेट्स अक्सर फुल फाइन-ट्यूनिंग (FT) की तुलना में एक निरंतर सटीकता अंतराल (accuracy gap) छोड़ देते हैं।
अनिश्चितता परिमाणीकरण का अभाव (Lack of Uncertainty Quantification): मानक LoRA में अनिश्चितता का अनुमान लगाने के लिए कोई अंतर्निहित तंत्र नहीं है, जो सुरक्षा-महत्वपूर्ण और डेटा-दुर्लभ डोमेन (जैसे सामग्री विज्ञान, मौसम पूर्वानुमान) में इसकी उपयोगिता को बाधित करता है।
लचीलेपन की कमी (Inflexibility): मौजूदा विधियाँ प्रशिक्षण प्रक्रिया के दौरान स्वाभाविक रूप से अनिश्चितता को एनकोड नहीं करती हैं, जिसके लिए अक्सर अनिश्चितता का अनुमान लगाने हेतु मॉडल्स के एनसेम्बल्स (जो मेमोरी और कंप्यूट बढ़ाते हैं) की आवश्यकता होती है।

2. कार्यप्रणाली: BaLoRA

BaLoRA एक बेयसियन विस्तार (Bayesian extension) पेश करता है जो लो-रैंक रिडक्शन मैट्रिक्स को केवल निश्चित पैरामीटर्स के रूप में नहीं, बल्कि रैंडम वेरिएबल्स के रूप में मानता है। मुख्य नवाचार LoRA रिडक्शन मैट्रिक्स ( $\theta_A$ ) का एक नया इनपुट-एडाप्टिव बेयसियन रीपैरामीट्राइजेशन है।

2.1 इनपुट-एडाप्टिव बेयसियन रीपैरामीट्राइजेशन

एक डिटर्मिनिस्टिक अपडेट $y = \theta_0 x + \theta_B \theta_A x$ के बजाय, BaLoRA इनपुट-डिपेंडेंट गॉसियन नॉइज़ के साथ रिडक्शन मैट्रिक्स $\theta_A$ के एंट्रीज को विक्षोभित (perturb) करता है:
$\omega_{A;ij} = \theta_{A;ij} + \sqrt{\alpha(x)\theta_{A;ij}^2} \epsilon_{ij}, \quad \epsilon_{ij} \sim \mathcal{N}(0, 1)$
यहाँ, $\alpha(x)$ एक हल्का इन्फरेंस नेटवर्क है जो इनपुट $x$ के आधार पर वेरिएंस स्केल को नियंत्रित करता है। यह फॉर्मूलेशन दर्शाता है कि बड़े परिमाण वाले वेट्स आनुपातिक रूप से अधिक अनिश्चितता वहन करते हैं, और अनिश्चितता इनपुट एक्टिवेशन्स के साथ स्केल होती है।

2.2 प्रशिक्षण उद्देश्य (Training Objective)

मॉडल को एविडेंस लोअर बाउंड (ELBO) को मैक्सिमाइज करने के लिए प्रशिक्षित किया जाता है, जो डेटा फिट और मॉडल कॉम्प्लेक्सिटी (पोस्टीरियर और एक वीकली इन्फॉर्म्ड प्रायर के बीच KL डाइवर्जेंस) के बीच संतुलन बनाता है। KL डाइवर्जेंस का एक क्लोज्ड-फॉर्म समाधान है जो केवल स्केलर $\alpha(x)$ और एक ड्रॉपआउट रेट हाइपरपैरामीटर $p$ पर निर्भर करता है, जिससे इसे मूल्यांकन करना कंप्यूटेशनल रूप से सस्ता हो जाता है।

2.3 लो-रैंक लोकल रीपैरामीट्राइजेशन ट्रिक

बेयसियन सैंपलिंग का एक साधारण अनुप्रयोग $O(k^2)$ आकार के पूर्ण आउटपुट कोवेरियेंस मैट्रिक्स को मैटेरियलाइज करने की मांग करेगा, जो कंप्यूटेशनल रूप से अत्यधिक महंगा है। BaLoRA LoRA अपडेट की लो-रैंक संरचना का लाभ उठाते हुए एक कुशल सैंपलिंग प्रक्रिया प्राप्त करता है।

शोर (noise) को हाई-डायमेंशनल आउटपुट स्पेस के बजाय लो-डायमेंशनल लेटेंट स्पेस ( $\mathbb{R}^r$ ) में सैंपल किया जाता है।
सटीक पोस्टीरियर प्रेडिक्टिव सैंपल को इस प्रकार कंप्यूट किया जाता है:
$y = \theta_0 x + \theta_B \theta_A x + \theta_B (\sqrt{d(x)} \odot \epsilon_d)$
जहाँ $d(x) = \alpha(x) \theta_A^2 x^2$ और $\epsilon_d \sim \mathcal{N}(0, I_r)$ है।
यह दृष्टिकोण मानक LoRA की कंप्यूटेशनल स्केलिंग ($O(Bkr)$) को बनाए रखता है और पूर्ण कोवेरियेंस मैट्रिक्स को मैटेरियलाइज करने से बचता है।

2.4 इन्फरेंस मोड

BaLoRA दो डिप्लॉयमेंट मोड का समर्थन करता है:

डिटर्मिनिस्टिक मोड (Deterministic Mode): एडेप्टर वेट्स को प्री-ट्रेन्ड वेट्स के साथ मर्ज किया जाता है ( $\theta = \theta_0 + \theta_B \theta_A$ ), जिससे मानक LoRA की तुलना में शून्य अतिरिक्त लेटेंसी आती है।
स्टोकेस्टिक (बेयसियन) मोड (Stochastic Mode): अनिश्चितता (मीन और वेरिएंस) का अनुमान लगाने के लिए मोंटे कार्लो सैंपलिंग के माध्यम से सैम्पल्ड वेट्स का उपयोग करके कई फॉरवर्ड पासेज किए जाते हैं।

3. प्रमुख योगदान

इम्प्लिसिट रेगुलराइजेशन के साथ स्टोकेस्टिक PEFT: BaLoRA एक ऐसी विधि प्रस्तावित करता है जहाँ इनपुट-डिपेंडेंट नॉइज़ इंजेक्शन एक इम्प्लिसिट रेगुलराइज़र के रूप में कार्य करता है। उच्च एक्टिवेशन वाली दिशाओं में विक्षोभ (perturbations) को केंद्रित करके, यह ओवरकॉन्फिडेंट अपडेट्स को रोकता है, जिससे बेहतर ऑप्टिमाइजेशन और टास्क परफॉरमेंस प्राप्त होती है।
कुशल लो-रैंक सैंपलिंग: लेखक एक कुशल लोकल रीपैरामीट्राइजेशन ट्रिक प्राप्त करते हैं जो लो-डायमेंशनल लेटेंट स्पेस में पोस्टीरियर प्रेडिक्टिव डिस्ट्रीब्यूशन के सटीक सैंपलिंग की अनुमति देता है, जो मानक LoRA की कंप्यूटेशनल दक्षता से मेल खाता है।
एकीकृत सटीकता और अनिश्चितता: यह विधि कॉमन सेंस रीजनिंग और इमेज क्लासिफिकेशन में स्टेट-ऑफ-द-आर्ट (SOTA) प्रदर्शन प्राप्त करती है और साथ ही कैलिब्रेटेड अनिश्चितता अनुमान प्रदान करती है, और यह सब एक ही फाइन-ट्यूनिंग रन के भीतर होता है (एनसेम्बल मेथड्स के विपरीत)।

4. प्रयोगात्मक परिणाम

पेपर तीन डोमेन में BaLoRA का मूल्यांकन करता है:

4.1 कॉमन सेंस रीजनिंग (NLP)

मॉडेल्स: Llama-2-7B और Llama-3-8B।
बेंचमार्क्स: 8 टास्क जिनमें BoolQ, PIQA, ARC-c, और WinoG शामिल हैं।
परिणाम: BaLoRA औसत ~2.9% (Llama-2) और ~5% (Llama-3) द्वारा मानक LoRA से बेहतर प्रदर्शन करता है। यह Llama-3-8B के लिए 8/8 बेंचमार्क्स में और Llama-2-7B के लिए 8/8 में से 5/8 में SOTA सटीकता प्राप्त करता है, जो DoRA, MoRA और HiRA जैसे डिटर्मिनिस्टिक प्रतिस्पर्धियों से आगे है।
रोबस्टनेस: प्रदर्शन प्रायर प्रोबेबिलिटी हाइपरपैरामीटर्स ( $p$ ) की एक विस्तृत रेंज में स्थिर रहता है।

4.2 विजुअल परसेप्शन (कंप्यूटर विजन)

मॉडल: ImageNet-21K पर प्री-ट्रेन्ड ViT-L/16।
बेंचमार्क्स: CIFAR-10, CIFAR-100, Oxford-IIIT Pets, Oxford Flowers-102।
परिणाम: BaLoRA लगातार PEFT विधियों में प्रथम स्थान प्राप्त करता है। विशेष रूप से, यह Oxford Flowers-102 पर फुल फाइन-ट्यूनिंग सटीकता (99.61%) से मेल खाता है और CIFAR-100 पर फुल फाइन-ट्यूनिंग से आगे निकल जाता है।
कैलिब्रेशन: BaLoRA 2/4 डेटासेट्स पर सबसे कम एक्सपेक्टेड कैलिब्रेशन एरर (ECE) प्राप्त करता है और अन्य पर दूसरा स्थान प्राप्त करता है, जो बिना पोस्ट-हॉक कैलिब्रेशन के LoRA और DoRA से बेहतर है।

4.3 मैटेरियल्स प्रॉपर्टी प्रेडिक्शन (वैज्ञानिक अनुप्रयोग)

टास्क: QMOF डेटासेट और MOFTransformer का उपयोग करके मेटल-ऑर्गेनिक फ्रेमवर्क्स (MOFs) के लिए बैंडगैप प्रेडिक्शन।
तुलना: BaLoRA बनाम LoRA मॉडल्स का एक एनसेम्बल (जिसके लिए कई ट्रेनिंग रन की आवश्यकता होती है)।
परिणाम: BaLo4 MAE 0.266 eV प्राप्त करता है, जो फुल फाइन-ट्यूनिंग (0.224 eV) के अंतर को कम करता है, जबकि केवल 6.75% ट्रेन करने योग्य पैरामीटर्स का उपयोग करता है।
अनिश्चितता: BaLoRA जीरो-शॉट अनिश्चितता अनुमान उत्पन्न करता है जो प्रशिक्षित LoRA एनसेम्बल मॉडल्स (0.309) की तुलना में मॉडल एरर के साथ अधिक मजबूती से सह-संबंधित (Spearman correlation 0.346) है, बावजूद इसके कि इसमें केवल एक सिंगल फाइन-ट्यूनिंग रन की आवश्यकता होती है। अनिश्चितता अनुमान टेस्ट टाइम पर मोंटे कार्लो स्टेप्स की संख्या के साथ मोनोटोनिक रूप से सुधरते हैं।

5. महत्व और दावे

पेपर दावा करता है कि BaLoRA PEFT में अभिव्यक्ति (expressiveness) और अनिश्चितता परिमाणीकरण की दोहरी चुनौतियों को संबोधित करता है। लो-रैंक एडेप्टर्स की ज्योमेट्री में बेयसियन इंडक्टिव बायस को एकीकृत करके, यह विधि विशुद्ध रूप से डिटर्मिनिस्टिक दृष्टिकोणों पर पूरक और योगात्मक लाभ (complementary and additive advantages) प्रदान करती है।

मुख्य दावों में शामिल हैं:

दक्षता: BaLoRA मानक LoRA की कंप्यूटेशनल स्केलिंग से मेल खाता है और डिटर्मिनिस्टिक मोड में कोई अतिरिक्त इन्फरेंस लेटेंसी नहीं लाता है।
प्रदर्शन: बेयसियन विस्तार भविष्यवाणी सटीकता में सुधार करता है, जो NLP और विजन कार्यों में फुल फाइन-ट्यूनिंग के अंतर को कम करता है, जो कि केवल बढ़ी हुई मॉडल क्षमता के बजाय सिद्धांत-आधारित अनिश्चितता मॉडलिंग द्वारा संचालित है।
वैज्ञानिक उपयोगिता: सामग्री विज्ञान में, BaLoRA विश्वसनीय अनिश्चितता अनुमान प्रदान करता है जो एरर के साथ सह-संबंधित है, जो सुरक्षा-महत्वपूर्ण अनुप्रयोगों के लिए महत्वपूर्ण है, और यह कम कंप्यूटेशनल ओवरहेड के साथ एनसेम्बल बेसलाइन्स से बेहतर प्रदर्शन करता है।
सामान्यीकरण (Generalizability): यह दृष्टिकोण डोमेन-विशिष्ट नहीं है, जो प्राकृतिक भाषा तर्क, दृश्य धारणा और वैज्ञानिक प्रतिगमन कार्यों में प्रभावशीलता प्रदर्शित करता है।

लेखक निष्कर्ष निकालते हैं कि BaLoRA उन सेटिंग्स में अनिश्चितता-जागरूक PEFT के व्यापक उपयोग को प्रोत्साहित करता है जहाँ सटीक भविष्यवाणियों के साथ-साथ विश्वसनीय भविष्यवाणियाँ भी उतनी ही महत्वपूर्ण हैं।