🤖 machine learning

LoCO: Low-rank Compositional Rotation Fine-tuning

LoCO एक नवीन पैरामीटर-कुशल फाइन-ट्यूनिंग विधि है जो प्रीट्रेन्ड रिप्रेजेंटेशन्स की ज्यामितीय संरचना को संरक्षित करते हुए विविध डोमेन में कुशल समानांतर गणना को सक्षम करने के लिए लो-रैंक स्केव-सिमेट्रिक मैट्रिसेस और कंपोजिशनल रोटेशन चेन्स का उपयोग करके ऑर्थोगोनल ट्रांसफॉर्मेशन का निर्माण करती है।

मूल लेखक: An Nguyen, Jaesik Choi, Anh Tong

प्रकाशित 2026-05-18

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: An Nguyen, Jaesik Choi, Anh Tong

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक विशाल, अविश्वसनीय रूप से बुद्धिमान रोबोट है जिसने पहले से ही हर भाषा बोलना, हर वस्तु को पहचानना और सुंदर चित्र बनाना सीख लिया है। यह रोबोट एक "फाउंडेशन मॉडल" की तरह है। यह इतना बड़ा और शक्तिशाली है कि इसे शून्य से प्रशिक्षित करने के लिए एक सुपरकंप्यूटर को वर्षों तक चलाने की आवश्यकता होगी।

अब, कल्पना कीजिए कि आप उस रोबट को एक विशिष्ट नया कौशल सिखाना चाहते हैं, जैसे शेक्सपियर की शैली में कविता लिखना या धुंधली तस्वीरों को ठीक करना। पुराना तरीका यह था कि पूरे रोबोट को "फाइन-ट्यून" किया जाए—यानी उसका पूरा मस्तिष्क ही फिर से लिखा जाए। यह एक 1,000 लोगों के समूह (क्वायर) को एक नया नृत्य सिखाने जैसा है, जिसमें हर एक व्यक्ति को नए कदम सीखने के लिए कहना पड़ता है। यह महंगा है, धीमा है, और इस बात का जोखिम है कि समूह अपने मूल गीतों को गाना भूल जाए।

वर्तमान "स्मार्ट" ट्रिक्स के साथ समस्या
समय बचाने के लिए, वैज्ञानिकों ने "पैरामीटर-एफिशिएंट फाइन-ट्यूनिंग" (PEFT) विकसित किया। पूरे मस्तिष्क को फिर से लिखने के बजाय, वे एक छोटा, हल्का "अडैप्टर" लेयर जोड़ देते हैं। इसे उस समूह को एक नया संगीत पत्र (शीट म्यूजिक) देने जैसा समझें जिसे वे गाते समय पकड़ कर रखते हैं।

हालाँकि, अधिकांश वर्तमान अडैप्टर गाने में नए नोट्स जोड़ने का काम करते हैं। यह लेख तर्क देता है कि केवल नोट्स जोड़ना थोड़ा अनाड़ीपन भरा हो सकता है। यदि आप केवल नोट्स जोड़ते हैं, तो आप अनजाने में मूल गीत के वॉल्यूम या लय को बदल सकते हैं, जिससे रोबोट की मूल समझ विकृत हो सकती है।

कुछ नए तरीके नोट्स जोड़ने के बजाय उन्हें घुमाने (रोटेट करने) का प्रयास करते हैं। कल्पना कीजिए कि आप समूह की संरचना को 90 डिग्री घुमा रहे हैं। यह हर गायक के बीच की दूरी को बिल्कुल समान रखता है, जिससे मूल सामंजस्य सुरक्षित रहता है। इसे "ऑर्थोगोनल फाइन-ट्यूनिंग" कहा जाता है।

द बॉटलनेक: "स्पिनिंग" की समस्या
यहाँ एक पेंच है: एक विशाल समूह (या एक उच्च-आयामी AI मॉडल) को घुमाना गणितीय रूप से बहुत भारी काम है। एक पूर्ण रोटेशन करने के लिए, आपको आमतौर पर एक बहुत बड़ी, जटिल पहेली को हल करना पड़ता है जिसमें बहुत समय और मेमोरी लगती है। यह एक छोटे कमरे में 1,000 लोगों के समूह को घुमाने जैसा है; आपको बहुत अधिक स्थान और समय की आवश्यकता होगी ताकि हर कोई एक-दूसरे से टकराए बिना हिल सके।

मौजूदा तरीकों ने इस समस्या को हल करने के लिए समूह को छोटे, अलग समूहों (ब्लॉक-डायगोनल) में तोड़ने या एक जटिल, चरण-दर-चरण नृत्य दिनचर्या (बटरफ्लाई फैक्टराइजेशन) का उपयोग करने का प्रयास किया। लेकिन इन तरीकों या तो उनकी रचनात्मकता को सीमित करते हैं या वे अभी भी बहुत धीमे हैं क्योंकि नर्तकों को तब तक इंतजार करना पड़ता है जब तक कि उनके सामने वाला व्यक्ति हिल न जाए।

समाधान: LoCO (लो-रैंक कंपोजिशनल ऑर्थोगोनल फाइन-ट्यूनिंग)
इस शोध पत्र के लेखक LoCO पेश करते हैं, जो रोबोट को सिखाने का एक नया तरीका है जो एक "जादुई स्पिनिंग ट्रिक" की तरह है।

द लो-रैंक शॉर्टकट: पूरे विशाल समूह को एक साथ घुमाने के बजाय, LoCO यह महसूस करता है कि पूरी संरचना की दिशा बदलने के लिए आपको केवल कुछ प्रमुख लोगों को हिलाने की आवश्यकता है। वे एक गणितीय ट्रिक (जिसे शेरमैन-मोरिसन-वुडबर्ड पहचान कहा जाता है) का उपयोग करते हैं जो उन्हें केवल कुछ मुट्ठी भर लोगों के लिए गणित करके पूरे समूह के रोटेशन की गणना करने की अनुमति देती है। यह एक पूरी आकाशगंगा के घूमने की गणना करने के लिए केवल कुछ सितारों को ट्रैक करने जैसा है।
द पैरेलल डांस: आमतौर पर, एक जटिल रोटेशन बनाने के लिए, आपको चरण-दर-चरण कार्य करना होता है (बाएं घूमें, फिर ऊपर घूमें, फिर दाएं घूमें)। LoCO एक चतुर अनुमान (approximation) का उपयोग करता है जो उन्हें ये सभी स्पिन एक साथ करने की अनुमति देता है। यह उस समूह को एक साथ अलग-अलग दिशाओं में घूमने के लिए कहने जैसा है, बजाय इसके कि लोगों की एक पंक्ति एक दूसरे को बैटन पास करने का इंतजार करे। यह इस प्रक्रिया को अविश्वसनीय रूप से तेज़ और कुशल बनाता है।
द टेम्परेचर नॉब: सबसे शानदार विशेषताओं में से एक LoCO का "तापमान" (टेम्परेचर) सेटिंग है। कल्पना कीजिए कि आपने समूह को एक नया नृत्य सिखाया है। कभी-कभी आप चाहते हैं कि वे सिखाए गए नृत्य को बिल्कुल वैसे ही करें; अन्य समय में, आप चाहते हैं कि वे अपने मूल स्टाइल के थोड़े अंश के साथ वह नृत्य करें। LoCO में एक सरल डायल (टेम्परेचर पैरामीटर) है जो आपको बिना मॉडल को फिर से प्रशिक्षित किए, "मूल रोबोट" और "नया प्रशिक्षित रोबोट" के बीच सहजता से स्लाइड करने की अनुमति देता है। यह नए कौशल के लिए एक वॉल्यूम नॉब की तरह है।

उन्होंने क्या पाया
टीम ने तीन अलग-अलग प्रकार के AI रोबोट पर LoCO का परीक्षण किया:

लैंग्वेज मॉडल्स: उन्हें व्याकरण समझने और गणित की समस्याओं को हल करने के लिए सिखाना।
डिफ्यूजन ट्रांसफॉर्मर्स: उन्हें टेक्स्ट या स्केच के आधार पर चित्र बनाने के लिए सिखाना।
विज़न ट्रांसफॉर्मर्स: उन्हें फोटो में वस्तुओं को पहचानने के लिए सिखाना।

हर परीक्षण में, LoCO ने मौजूदा तरीकों के बराबर या उनसे बेहतर प्रदर्शन किया। यह प्रशिक्षित होने में तेज़ था, इसने कम कंप्यूटर मेमोरी का उपयोग किया, और इसने रोबोट के मूल ज्ञान को विकृत नहीं किया।

संक्षेप में
LoCO विशाल AI मॉडल को नए कौशल सिखाने का एक नया, कुशल तरीका है। पूरे मस्तिष्क को फिर से लिखने या उसमें अनाड़ीपन से नए हिस्से जोड़ने के बजाय, यह उनके मौजूदा ज्ञान को एक तेज़, समानांतर गणितीय शॉर्टकट का उपयोग करके धीरे से "रोटेट" करता है। यह रोबोट की मूल बुद्धिमत्ता को सुरक्षित रखता है जबकि उसे तेज़ी से नए कार्य सीखने की अनुमति देता है, और यह आपको यह नियंत्रित करने के लिए एक डायल भी देता है कि आप नए कौशल का कितना उपयोग करना चाहते हैं।

तकनीकी सारांश: LoCO - लो-रैंक कंपोजिशनल रोटेशन फाइन-ट्यूनिंग (Low-rank Compositional Rotation Fine-tuning)

समस्या विवरण (Problem Statement)

पैरामीटर-कुशल फाइन-ट्यूनिंग (PEFT) बड़े पैमाने के फाउंडेशन मॉडल्स (जैसे, LLMs, विजन ट्रांसफॉर्मर्स, डिफ्यूजन ट्रांसफॉर्मर्स) को पूर्ण फाइन-ट्यूनिंग से जुड़ी अत्यधिक कम्प्यूटेशनल लागत और कैटास्ट्रॉफ़िक फॉरगेटिंग (catastrophic forgetting) के जोखिम के बिना, डाउनस्ट्रीम कार्यों के लिए अनुकूलित करने हेतु आवश्यक हो गया है। जबकि मौजूदा विधियाँ जैसे लो-रैंक अडैप्टेशन (LoRA), एडिटिव लो-रैंक अपडेट के माध्यम से दक्षता प्राप्त करती हैं, वे स्वाभाविक रूप से प्री-ट्रेन्ड रिप्रेजेंटेशन्स की ज्यामितीय संरचना (geometric structure) को संरक्षित नहीं करती हैं।

ऑर्थोगोनल फाइन-ट्यूनिंग विधियाँ इसे विशेष ऑर्थोगोनल समूह ($SO(d)$) के भीतर कंस्ट्रेंड मल्टीप्लिकेटिव ट्रांसफॉर्मेशन लागू करके संबोधित करती हैं, जो फीचरों के युग्म-कोणीय संबंधों (pairwise angular relationships) और हाइपरस्फेरिकल एनर्जी स्ट्रक्चर को संरक्षित करते हैं। हालाँकि, इन विधियों को एक मौलिक कम्प्यूटेशनल बाधा का सामना करना पड़ता है: सामान्य ऑर्थोगोनल मैट्रिसेस का निर्माण और अनुप्रयोग करने के लिए मैट्रिक्स इन्वर्जन या एक्सपोनेंशियल कंप्यूटेशन के कारण आमतौर पर $O(d^3)$ जटिलता की आवश्यकता होती है। पूर्ववर्ती समाधान, जैसे ब्लॉक-डायगोनल मैट्रिसेस (OFT) या बटरफ्लाई फैक्टराइजेशन (BOFT), संरचनात्मक बाधाएं लगाते हैं जो एक्सप्रेसिविटी को सीमित करती हैं या आधुनिक हार्डवेयर पर अक्षम मेमोरी एक्सेस पैटर्न का शिकार होती हैं। इसके अलावा, अनुक्रमिक कंपोजिशन (जैसे, हाउसहोल्डर रिफ्लेक्शन) पर आधारित विधियाँ पैरेललाइजेशन में बाधा डालती हैं, जिससे ट्रेनिंग थ्रूपुट सीमित हो जाता है।

कार्यप्रणाली (Methodology)

लेखक LoCO (Low-rank Compositional Orthogonal Fine-tuning) का प्रस्ताव करते हैं, जो समानांतर गणना (parallel computation) के लिए अनुकूलित, लो-रैंक स्केव-सिमेट्रिक मैट्रिसेस और कंपोजिशनल रोटेशन चेन्स का उपयोग करके ऑर्थोगोनल ट्रांसफॉर्मेशन का निर्माण करता है।

1. लो-रैंक स्केव-सिमेट्रिक पैरामीट्राइजेशन (Low-Rank Skew-Symmetric Parameterization)

LoCO इस गणितीय गुण का लाभ उठाता है कि विशेष ऑर्थोगोनल समूह $SO(d) $के टेंजेंट स्पेस में स्केव-सिमेट्रिक मैट्रिसेस ($ A^T = -A $) होते हैं। एक पूर्ण$ d \times d$ स्केव-सिमेट्रिक मैट्रिक्स सीखने के बजाय, LoCO इसे लो-रैंक आउटर प्रोडक्ट फॉर्म का उपयोग करके पैरामीटराइज करता है:
$A = UV^T - VU^T$
जहाँ $U, V \in \mathbb{R}^{d \times r}$ और $r \ll d$ है। इसे सहायक मैट्रिसेस $X = [U | -V]$ और $Y = [V | U]$ का उपयोग करके पुनर्गठित किया गया है ताकि $A = XY^T$ हो सके।

2. केली ट्रांसफॉर्म और वुडबरी आइडेंटिटी के माध्यम से कुशल गणना (Efficient Computation via Cayley Transform and Woodbury Identity)

स्केव-सिमेट्रिक मैट्रिक्स $A$ से रोटेशन मैट्रिक्स $R \in SO(d)$ उत्पन्न करने के लिए, LoCO केली ट्रांसफॉर्म का उपयोग करता है:
$R = (I - A)^{-1}(I + A)$
$(I - A)$ के $d \times d$ मैट्रिक्स का सीधा इन्वर्जन कम्प्यूटेशनल रूप से महंगा है। LoCO शेरमैन-मोरिसन-वुडबरी आइडेंटिटी का उपयोग करके इन्वर्जन जटिलता को कम करने के लिए करता है। $A = XY^T$ के रूप में प्रतिस्थापित करके, $d \times d$ मैट्रिक्स के इन्वर्जन को एक छोटे $2r \times 2r$ मैट्रिक्स के इन्वर्जन में परिवर्तित किया जाता है:
$R = I + 2X(I - Y^T X)^{-1}Y^T$
यह कम्प्यूटेशनल जटिलता को $O(d^3)$ से घटाकर $O(dr^2 + r^3)$ कर देता है, जो $r \ll d$ होने पर $O(dr^2)$ हो जाता है।

3. कंपोजिशनल रोटेशन चेन्स और पैरेलल एप्रोक्सिमेशन (Compositional Rotation Chains and Parallel Approximation)

एक्सप्रेसिविटी बढ़ाने के लिए, LoCO कई रोटेशन घटकों को कंपोज करता है: $R = R_1 R_2 \dots R_n$ । जबकि सटीक कंपोजिशन के लिए अनुक्रमिक मैट्रिक्स मल्टीप्लिकेशन की आवश्यकता होती है, LoCO एक फर्स्ट-ऑर्डर एप्रोक्सिमेशन पेश करता है जो पूरी तरह से पैरेलल गणना को सक्षम बनाता है:
$R \approx I + \sum_{i=1}^n 2X_i(I - Y_i^T X_i)^{-1}Y_i^T$
सैद्धांतिक विश्लेषण पुष्टि करता है कि फाइन-ट्यूनिंग परिदृश्यों में जहाँ पैरामीटर अपडेट छोटे होते हैं (जीरो इनिशियलाइजेशन के पास), उच्च-क्रम त्रुटि पद (higher-order error terms) नगण्य होते हैं ( $O(\epsilon^4)$ और उससे ऊपर)। यह एप्रोक्सिमेशन सभी रोटेशन घटकों को समानांतर में कंप्यूट और सम (sum) करने की अनुमति देता है, जिससे GPU पैरेललिज्म का पूर्ण उपयोग होता है और BOFT या HRA जैसी अनुक्रमिक बाधाओं से बचा जा सकता है।

4. टेस्ट-टाइम टेम्परेचर स्केलिंग (Test-Time Temperature Scaling)

LoCO एक स्केलर टेम्परेचर पैरामीटर $t$ पेश करता है जिसे इन्फरेंस के दौरान स्केव-सिमेट्रिक मैट्रिक्स $A$ पर लागू किया जाता है ( $R = (I - At)^{-1}(I + At)$ )। यह प्री-ट्रेन्ड व्यवहार ( $t=0$ ) और पूरी तरह से अनुकूलित व्यवहार ( $t=1$ ) के बीच स्मूथ इंटरपोलेशन प्रदान करता है, जिससे बिना रिट्रेनिंग के नियंत्रणीय अनुकूलन शक्ति (controllable adaptation strength) मिलती है।

मुख्य योगदान (Key Contributions)

नया PEFT आर्किटेक्चर: LoCO का प्रस्ताव, जो लो-रैंक स्केव-सिमेट्रिक मैट्रिसेस के माध्यम से ऑर्थोगोनल ट्रांसफॉर्मेशन का निर्माण करता है, जिससे उच्च-आयामी स्थानों में कुशल अनुकूलन संभव होता है।
पैरेललाइज़ेबल एप्रोक्सिमेशन: कंपोजिशनल रोटेशन चेन्स के लिए एक फर्स्ट-ऑर्डर एप्रोक्सिमेशन स्कीम का परिचय। यह बाउंडेड एप्रोक्सिमेशन एरर के साथ कई रोटेशन घटकों की पैरेलल गणना को सक्षम बनाता है, जो एक ऐसी विशेषता है जो पूर्ववर्ती अनुक्रमिक ऑर्थोगोनल विधियों में नहीं है।
नियंत्रणीय इन्फरेंस (Controllable Inference): एक टेस्ट-टाइम टेम्परेचर स्केलिंग तंत्र का विकास जो अनुकूलन शक्ति पर लचीला नियंत्रण प्रदान करता है, जो पिछले ऑर्थोगोनल तरीकों में उपयोग किए जाने वाले महंगे रेगुलाइजेशन स्कीम्स का एक विकल्प है।
अनुभवजन्य सत्यापन (Empirical Validation): विविध बेंचमार्क (GLUE, GSM8K, MATH, VTAB-1k, और कंट्रोलेबल डिफ्यूजन जनरेशन) पर अत्याधुनिक या प्रतिस्पर्धी प्रदर्शन का प्रदर्शन, जबकि OFT, BOFT और HRA की तुलना में कम मेमोरी फुटप्रिंट और उच्च ट्रेनिंग दक्षता बनाए रखी गई है।

प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने तीन डोमेन में LoCO का मूल्यांकन किया:

लार्ज लैंग्वेज मॉडल्स (NLU और रीजनिंग): GLUE बेंचमार्क पर, LoCO ने उच्चतम औसत स्कोर (87.75) प्राप्त किया, जिसने HRA (85.64) और OFT (87.63) को पीछे छोड़ते हुए कम पैरामीटर्स का उपयोग किया। गणितीय तर्क (LLaMA-2-7B पर GSM8K/MATH) में, LoCO ने सर्वश्रेष्ठ GSM8K स्कोर (50.19%) और प्रतिस्पर्धी MATH परिणाम प्राप्त किए, जो ब्लॉक-डायगोनल और हाउसहोल्डर-आधारित बेसलाइन से बेहतर है।
डिफ्यूजन ट्रांसफॉर्मर्स: FLUX.1 का उपयोग करते हुए कंडीशनल जनरेशन कार्यों (जैसे, एज-टू-इमेज, डेप्थ-टू-इमेज) में, LoCO ने LoRA और BOFT की तुलना में बेहतर एलाइनमेंट फिडेलिटी (CLIP इमेज स्कोर) और प्रतिस्पर्धी इमेज क्वालिटी मेट्रिक्स (FID, SSIM) प्रदर्शित किए। विशेष रूप से, टेम्परेचर स्केलिंग तंत्र ने विभिन्न अनुकूलन शक्तियों के बीच मजबूत जनरेशन क्वालिटी की अनुमति दी, जो LoRA में देखे गए भंगुर (brittle) स्केलिंग के विपरीत है।
विजन ट्रांसफॉर्मर्स (VTAB-1k): LoCO ने नेचुरल, स्पेशलाइज्ड और स्ट्रक्चर्ड टास्क ग्रुप्स में प्रतिस्पर्धी सटीकता प्राप्त की। इसने विशेष रूप से स्ट्रक्चर्ड टास्क (63.4% मीन एक्यूरेसी) पर अन्य ऑर्थोगोनल विधियों को पछाड़ दिया और मेडिकल इमेजिंग (Patch Camelyon: 88.1%) में मजबूत ट्रांसफर दिखाया।

दक्षता: LoCO ने स्पार्स OFT की ट्रेनिंग दक्षता का मिलान किया और डेंस मेथड्स (HRA, BOFT) की तुलना में स्टेप टाइम और मेमोरी उपयोग में काफी बेहतर प्रदर्शन किया। HRA और BOFT के कारण डेंस मैट्रिक्स मटेरियलइजेशन या अनुक्रमिक निर्भरताओं के कारण पर्याप्त मेमोरी ओवरहेड हुआ, जबकि LoCO के पैरेलल, इनपुट-सेंट्रिक डिज़ाइन ने स्थिर थ्रूपुट बनाए रखा।

महत्व और दावे (Significance and Claims)

पेपर का दावा है कि LoCO सफलतापूर्वक ऑर्थोगोनल फाइन-ट्यूनिंग के ज्यामितीय लाभों और आधुनिक उच्च-आयामी मॉडल्स के लिए आवश्यक कम्प्यूटेशनल दक्षता के बीच के अंतर को पाटता है। टेंजेंट स्पेस की लो-रैंक संरचना का लाभ उठाकर और एक पैरेललाइज़ेबल फर्स्ट-ऑर्डर एप्रोक्सिमेशन का उपयोग करके, LoCO मौजूदा ऑर्थोगोनल विधियों की क्यूबिक जटिलता और अनुक्रमिक बाधाओं से बचता है।

लेखक इस बात पर जोर देते हैं कि उनकी विधि प्री-ट्रेन्ड रिप्रेजेंटेशन्स की कोणीय संरचना (angular structure) को संरक्षित करती है—जो उन कार्यों के लिए एक महत्वपूर्ण गुण है जहाँ सिमेंटिक जानकारी मैग्नीट्यूड के बजाय कोणों में एनकोडेड होती है—जबकि व्यावहारिक लाभ जैसे कि नियंत्रणीय इन्फरेंस स्ट्रेंथ और बेहतर स्केलेबिलिटी भी प्रदान करती है। परिणाम बताते हैं कि लो-रैंक स्केव-सिमेट्रिक पैरामीट्राइजेशन, ब्लॉक-डायगोनल या हाउसहोल्डर रिफ्लेक्शन स्ट्रक्चर की तुलना में रीजनिंग पैटर्न और सिमेंटिक एलाइनमेंट को कैप्चर करने के लिए एक अधिक प्रभावी रणनीति है।

पेपर विनम्रता से समाप्त होता है, यह नोट करते हुए कि जबकि LoCO विशिष्ट परिदृश्यों के लिए स्केलेबिलिटी को संबोधित करता है, भविष्य के कार्य इष्टतम रोटेशन डिकंपोजिशन के लिए सैद्धांतिक अनुकूलन और मल्टीमॉडल मॉडल्स के विस्तार की खोज कर सकते हैं।