तकनीकी सारांश: SeqLoRA: निरंतर बहु-अवधारणा पीढ़ी के लिए द्विपद ऑर्थोगोनल अनुकूलन (Bilevel Orthogonal Adaptation)

1. समस्या विवरण

टेक्स्ट-टू-इमेज डिफ्यूजन मॉडल ने दृश्य सामग्री निर्माण में क्रांति ला दी है, और लो-रैंक एडेप्टेशन (LoRA) जैसे पैरामीटर-कुशल फाइन-ट्यूनिंग विधियों ने उपयोगकर्ताओं को कुछ ही डेटा के साथ विशिष्ट दृश्य अवधारणाओं (visual concepts) के साथ इन मॉडलों को व्यक्तिगत बनाने में सक्षम बनाया है। हालाँकि, एक महत्वपूर्ण चुनौती तब उत्पन्न होती है जब उपयोगकर्ता एक साथ कई व्यक्तिगत अवधारणाओं (जैसे, एक विशिष्ट कुत्ता और एक विशिष्ट कलात्मक शैली) वाली छवियां उत्पन्न करना चाहते हैं।

मुख्य वैज्ञानिक मुद्दा प्रतिनिधित्व हस्तक्षेप (representation interference) है। जब अवधारणाओं को अलग-अलग सीखा जाता है, तो उनके संगत LoRA एडेप्टेशन अक्सर मॉडल के पैरामीटर स्पेस में ओवरलैपिंग क्षेत्रों को घेर लेते हैं। अनुमान (inference) के समय, इन एडेप्टेशन को केवल जोड़ने से "क्रॉसटॉक" (crosstalk) होता है, जहाँ एक अवधारणा की विशेषताएं दूसरी में मिल जाती हैं, जिसके परिणामस्वरूप गुणों का उलझाव (attribute entanglement), कमजोर पहचान, या असंगत पीढ़ी होती है। यह समस्या उन अवधारणाओं के लिए और भी बढ़ जाती है जिनके सीखे गए वेट रेसिडुअल्स (weight residuals) लगभग एक ही सबस्पेस में स्थित होते हैं।

मौजूदा समाधान एक ट्रेड-ऑफ का सामना करते हैं:

• संयुक्त प्रशिक्षण/अनुकूलन-आधारित संलयन (Joint Training/Optimization-based Fusion): Mix-of-Show जैसे तरीके स्वतंत्र ट्यूनिंग की अनुमति देते हैं लेकिन हर नए संयोजन के लिए एडेप्टर को मर्ज करने के लिए महंगे, पोस्ट-हॉक अनुकूलन की आवश्यकता होती है, जो वास्तव में मॉड्यूलर संरचना को रोकता है।
• फ्रोजन बेसिस विधियाँ (Frozen Basis Methods): Orthogonal Adaptation और InfLoRA जैसे दृष्टिकोण एक साझा ऑर्थोगोनल बेसिस का नमूना लेकर और उसे प्रशिक्षण के दौरान फ्रीज करके ऑर्थोगोनैलिटी लागू करते हैं, और केवल कोएफिशिएंट मैट्रिक्स को अनुकूलित करते हैं। जबकि यह ऑर्थोगोनैलिटी की गारंटी देता है और तत्काल विलय की अनुमति देता है, बेसिस को फ्रीज करना अनुकूलन की अभिव्यक्ति (expressiveness) को सीमित कर देता है, जिससे प्रति-अवधारणा फिडेलिटी (fidelity) सीमित हो जाती है।

केंद्रीय चुनौती ऑर्थोगोनैलिटी (हस्तक्षेप को रोकने के लिए आवश्यक) और अभिव्यक्ति (उच्च-फिडेलिटी अनुकूलन के लिए आवश्यक) के बीच के तनाव को बिना किसी महंगे पोस्ट-हॉक फ्यूजन के हल करना है।

2. कार्यप्रणाली: SeqLoRA

लेखक सीक्वेंशियल रेगुलराइज्ड LoRA (SeqLoRA) प्रस्तावित करते हैं, जो एक नियंत्रित निरंतर शिक्षण (continual learning) ढांचा है जो सबस्पेस ऑर्थोगोनैलिटी को लागू करते हुए दोनों LoRA कारकों ($A_i$ और $B_i$) को संयुक्त रूप से अनुकूलित करता है।

2.1 नियंत्रित अनुकूलन सूत्रीकरण (Constrained Optimization Formulation)

अवधारणाओं के एक क्रमिक प्रवाह $\tau_1, \dots, \tau_T$ के लिए, जब अवधारणा $i$ आती है, तो विधि ऐसे LoRA कारकों $(A_i, B_i)$ की खोज करती है जो डीनॉइजिंग लॉस $L_i$ को न्यूनतम करते हैं, इस शर्त के अधीन कि नया बेसिस $B_i$ सभी पहले से सीखे गए बेसिस $\{B_j\}_{j<i}$ के ऑर्थोगोनल है:
$$\min_{A_i, B_i \in \mathcal{B}_i} L_i(A_i, B_i)$$
जहाँ $\mathcal{B}_i = \{B_i \in \mathbb{R}^{m \times r} \mid B_j^\top B_i = 0, \forall j < i\}$।

2.2 द्विपद अनुकूलन एल्गोरिदम (Bilevel Optimization Algorithm)

इस गैर-उत्तल (non-convex) समस्या को हल करने के लिए, SeqLoRA इसे एक द्विपद अनुकूलन (bilevel optimization) समस्या के रूप में पुनर्गठित करता है। साधारण अल्टरनेटिंग मिनिमाइजेशन (जिसे लेखक अत्यधिक आक्रामक और कपलिंग को मिस करने वाला बताते हैं) के बजाय, एल्गोरिदम:

1. लोअर लेवल (Lower Level): एक निश्चित बेसिस $B_i$ के लिए, इष्टतम कोएफिशिएंट्स $A_i^*(B_i)$ पाता है।
2. अपर लेवल (Upper Level): रिड्यूस्ड ऑब्जेक्टिव $\Phi_i(B_i) = L_i(A_i^*(B_i), B_i)$ को कम करने के लिए बेसिस $B_i$ को अनुकूलित करता है।

अपर-लेवल ऑब्जेक्टिव $\nabla_{B_i} \Phi_i$ का ग्रेडिएंट चेन रूल का उपयोग करके गणना किया जाता है, जिसमें एक क्रॉस-हेसियन टर्म ($\nabla^2_{B_i A_i} L_i$) शामिल है। यह टर्म दो वेरिएबल ब्लॉक्स के बीच कपलिंग को कैप्चर करता है, जो मानक अल्टरनेटिंग मिनिमाइजेशन की तुलना में एक समृद्ध डिसेंट दिशा प्रदान करता है।

2.3 क्लोज्ड-फॉर्म प्रोजेक्शन (Closed-Form Projection)

ऑर्थोगोनैलिटी को लागू करने के लिए, एल्गोरिदम एक क्लोज्ड-फॉर्म ज्योमेट्रिक प्रोजेक्शन करता है। $B_i$ के लिए एक ग्रेडिएंट स्टेप की गणना करने के बाद, अपडेट को पिछले सभी बेसिस के कॉलम स्पैन के नल स्पेस (null space) पर प्रोजेक्ट किया जाता है। यह निम्नलिखित माध्यम से प्राप्त किया जाता है:
$$B_i^{(k+1)} = \left[ I - B_{int} (B_{int}^\top B_{int})^{-1} B_{int}^\top \right] \tilde{B}_i$$
जहाँ $B_{int}$ सभी पिछले बेसिस को जोड़ता (concatenate) है। यह प्रोजेक्शन पिछले अवधारणाओं के साथ ओवरलैप होने वाले ग्रेडिएंट घटकों को हटा देता है, जिससे बिना किसी महंगे इटरेटिव फ्यूजन स्टेप के सटीक ऑर्थोगोनैलिटी सुनिश्चित होती है।

3. मुख्य योगदान

1. SeqLoRA फ्रेमवर्क: द्विपद अनुकूलन के माध्यम से दोनों LoRA कारकों को संयुक्त रूप से अनुकूलित करते हुए और सटीक सबस्पेस ऑर्थोगोनैलिटी को लागू करते हुए एक नियंत्रित निरंतर शिक्षण पद्धति का परिचय। यह अभिव्यक्ति-हस्तक्षेप (expressiveness-interference) के ट्रेड-ऑफ को हल करता है।
2. सैद्धांतिक गारंटी:
   • अभिसरण (Convergence): लेखक एक नियंत्रित समस्या के क्रिटिकल पॉइंट तक मोनोटोन डिसेंट और एसिम्प्टोटिक कन्वर्जेंस को सिद्ध करते हैं (थ्योरम 1)।
   • भूलने की सीमाएं (Forgetting Bounds): वे रेसिडुअल लेयर एक्टिवेशन को एक मैट्रिक्स सब-गौसियन प्रक्रिया के रूप में मॉडल करते हैं ताकि कैटास्ट्रोफिक फॉरगेटिंग (catastrophic forgetting) पर उच्च-संभाव्यता सीमाएं प्राप्त की जा सकें (थ्योरम 2)।
   • बेसिस इष्टतमता (Basis Optimality): वे सैद्धांतिक रूप से सिद्ध करते हैं कि डेटा से LoRA बेसिस सीखना फ्रोजन-बेसिस विधियों की तुलना में रेसिडुअल इंटरफेरेंस एनर्जी को अधिक प्रभावी ढंग से कम करता है (थ्योरम 7 और प्रपोजिशन 2)। विशेष रूप से, एक सीखा गया बेसिस फेसिबल कॉम्प्लिमेंट के भीतर टॉप प्रिंसिपल कंपोनेंट्स के साथ संरेखित होता है, जबकि रैंडम फ्रोजन बेसिस सब-ऑप्टिमल होते हैं जब तक कि फीचर स्पेस आइसोट्रोपिक न हो।
3. अनुभवजन्य स्केलेबिलिटी (Empirical Scalability): CustomConcept101 डेटासेट का उपयोग करते हुए बहु-अवधारणा पीढ़ी कार्यों पर 101 अवधारणाओं तक मूल्यांकन, जो प्रदर्शित करता है कि अन्य विधियाँ मेमोरी बाधाओं या फ्यूजन जटिलता के कारण विफल हो जाती हैं।

4. प्रयोगात्मक परिणाम

लेखकों ने Mix-of-Show, Orthogonal Adaptation, LoRACLR, और एक Continual Alternating वेरिएंट (बिना क्रॉस-हेसियन कपलिंग के) सहित बेसलाइनों के विरुद्ध CustomConcept101 डेटासेट पर SeqLoRA का मूल्यांकन किया।

• पहचान संरक्षण (Identity Preservation): SeqLoRA ने पहचान संरक्षण मेट्रिक्स (DINO, DINOv2, DINOv3) और समग्र दृश्य समानता (DreamSim) पर सभी बेसलाइनों को पछाड़ दिया। उदाहरण के लिए, 32-अवधारणा सेटिंग में, SeqLoRA ने $0.468 \pm 0.021$ का DINO स्कोर प्राप्त किया, जो Mix-of-Show ($0.436$) और Orthogonal Adaptation ($0.428$) से बेहतर था।
• स्केलेबिलिटी: विधि सफलतापूर्वक 101 अवधारणाओं तक स्केल हुई। इसके विपरीत, Mix-of-Show और LoRACLR जैसे समानांतर फ्यूजन-आधारित तरीकों को इस पैमाने पर आउट-ऑफ-मेमोरी (OOM) त्रुटियों का सामना करना पड़ा।
• दक्षता: हालांकि क्रॉस-हेसियन मूल्यांकन और अनुक्रमिक बाधाओं के कारण प्रति-अवधारणा प्रशिक्षण समय ($\sim660$s) के मामले में SeqLoRA का समय अधिक है, लेकिन यह महंगे पोस्ट-हॉक फ्यूजन स्टेप को समाप्त करता है। 32 अवधारणाओं के लिए, Mix-of-Show को फ्यूजन के लिए $\sim33$ मिनट की आवश्यकता थी, जबकि SeqLoRA के लिए कोई फ्यूजन स्टेप आवश्यक नहीं है, जो वास्तव में डेटा संचय के बिना निरंतर लाइफलॉन्ग लर्निंग को सक्षम बनाता है।
• भूलना (Forgetting): स्टेप-आधारित विश्लेषण ने दिखाया कि SeqLoRA, Continual Alternating बेसलाइन की तुलना में दृश्य फिडेलिटी मेट्रिक्स में तुलनीय या बेहतर स्थिरता बनाए रखता है, जो द्विपद अनुकूलन और क्रॉस-हेसियन कपलिंग के लाभ को उजागर करता है।

5. महत्व और दावे

पेपर दावा करता है कि SeqLoRA बहु-अवधारणा पीढ़ी की समस्या को एक नियंत्रित निरंतर शिक्षण कार्य के रूप में मानकर एक सिद्धांतपूर्ण समाधान प्रदान करता है। इसका महत्व इस प्रकार है:

• ट्रेड-ऑफ को हल करना: यह पहला तरीका है जो (अभिव्यक्ति सुनिश्चित करने के लिए) दोनों LoRA कारकों के मुक्त अनुकूलन (free optimization) और (हस्तक्षेप कम करने के लिए) सख्त सबस्पेस ऑर्थोगोनैलिटी को बिना किसी पोस्ट-हॉक फ्यूजन के एक साथ अनुमति देता है।
• सैद्धांतिक अंतर्दृष्टि: यह कार्य एक सैद्धांतिक औचित्य प्रदान करता है कि बेसिस को सीखना उसे फ्रीज करने से बेहतर क्यों है, यह दिखाता है कि सीखा गया बेसिस कैटास्ट्रिक फॉरगेटिंग को दबाने के लिए आवश्यक मैक्सिमल-एनर्जी सबस्पेस को स्पष्ट रूप से खोजता है।
• व्यावहारिक स्केलेबिलिटी: यह एक ही मॉडल में बड़ी संख्या में अवधारणाओं (101 तक) के संयोजन को सक्षम बनाता है, जो मौजूदा फ्यूजन-आधारित दृष्टिकोणों की मेमोरी और कम्प्यूटेशनल बाधाओं को पार करता है।

लेखक सीमाओं का उल्लेख करते हैं, जिसमें ऑर्थोगोनैलिटी बाधा द्वारा प्रति लेयर अवधारणाओं की संख्या को सीमित करना (हालांकि यह क्षमता व्यावहारिक परिदृश्यों के लिए पर्याप्त है) और सैद्धांतिक प्रमाणों के लिए मानक रेगुलैरिटी धारणाओं पर निर्भरता शामिल है। वे निष्कर्ष निकालते हैं कि SeqLoRA स्थापित डिफ्यूजन फ्रेमवर्क के भीतर व्यक्तिगत अनुकूलन की कंपोजेबिलिटी को आगे बढ़ाता है।