💻 computer science

Domain-Agnostic Feature Modulation for Semi-Supervised Domain Generalization

यह शोध पत्र एक फीचर मॉड्यूलेशन रणनीति के माध्यम से मजबूत, डोमेन-इनवेरिएंट (domain-invariant) प्रतिनिधित्व बनाने और डोमेन शोर को कम करने तथा छद्म-लेबल (pseudo-label) सटीकता में सुधार करने के लिए एक डायनेमिक लॉस-स्केलिंग फंक्शन का प्रस्ताव करके चुनौतीपूर्ण डोमेन-लेबल एगोस्टिक (domain-label agnostic) सेमी-सुपरवाइज्ड डोमेन जनरलाइजेशन कार्य को संबोधित करता है, जो डोमेन लेबल पर निर्भर हुए बिना प्रमुख बेंचमार्क पर महत्वपूर्ण प्रदर्शन लाभ प्राप्त करता है।

मूल लेखक: Venuri Amarasinghe (University of Moratuwa), Kalinga Bandara (University of Moratuwa), Isun Randila (University of Moratuwa), Asini Jayakody (University of Moratuwa), Chamuditha Jayanga Galappaththige

प्रकाशित 2026-05-29

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Venuri Amarasinghe (University of Moratuwa), Kalinga Bandara (University of Moratuwa), Isun Randila (University of Moratuwa), Asini Jayakody (University of Moratuwa), Chamuditha Jayanga Galappaththige (Queensland University of Technology), Ranga Rodrigo (University of Moratuwa)

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

बड़ी समस्या: "नया शहर" की चुनौती

कल्पना कीजिए कि आप एक रोबोट को जानवरों को पहचानना सिखा रहे हैं। आप उसे एक धूप वाले पार्क (Source Domain) में ली गई कुत्तों और बिल्लियों की हजारों तस्वीरें दिखाते हैं। रोबोट इसे पूरी तरह सीख जाता है।

लेकिन फिर, आप उस रोबोट को एक अंधेरे, बरसाती जंगल (Target Domain) में परीक्षण के लिए ले जाते हैं। रोशनी अलग है, पेड़ अलग दिख रहे हैं, और जानवर भी अलग हैं। रोबोट भ्रमित हो जाता है। वह शायद एक गीले कुत्ते को बिल्ली समझ सकता है क्योंकि "बरसाती जंगल" की विशेषताएं उसके दिमाग को खराब कर रही हैं।

इसे डोमेन शिफ्ट (Domain Shift) कहा जाता है। वास्तविक दुनिया में, हमारे पास हर नए वातावरण (जैसे बरसाती जंगल) के लिए सटीक, लेबल वाला डेटा नहीं होता है। हमारे पास थोड़ा सा लेबल वाला डेटा होता है और बहुत सारा बिना लेबल वाला डेटा (बिना नाम वाली तस्वीरें) होता है।

इस पेपर का लक्ष्य रोब melalui सिखाना है कि वह ज्यादातर बिना लेबल वाले डेटा का उपयोग करके इन नए, अनदेखे वातावरणों को कैसे संभाल सकता है, बिना यह जाने कि प्रत्येक तस्वीर वास्तव में किस वातावरण (डोमेन) से आई है।

दो मुख्य बाधाएं

लेखकों ने वर्तमान तरीकों में दो बड़ी समस्याओं की पहचान की:

"अनुमान लगाने का खेल" (Pseudo-Labeling): चूंकि हमारे पास नए डेटा के लिए लेबल नहीं हैं, इसलिए रोबोट को लेबल का अनुमान लगाना पड़ता है (जैसे, "मुझे 90% यकीन है कि यह एक कुत्ता है")। इन अनुमानों को स्यूडो-लेबल (Pseudo-Labels) कहा जाता है। यदि रोबोट "बरसाती जंगल" के बैकग्राउंड से भ्रमित है, तो वह गलत अनुमान लगाएगा। यदि आप रोबोट को गलत अनुमानों से सिखाते हैं, तो वह और भी खराब हो जाएगा।
"बहुत सख्त" नियम: गलत अनुमानों से बचने के लिए, वर्तमान तरीके बहुत सख्त होते हैं। वे केवल उन अनुमानों को सीखने की अनुमति देते हैं जहाँ रोबोट 95% सुनिश्चित होता है। इसका मतलब है कि वे 90% बिना लेबल वाले डेटा को फेंक देते हैं क्योंकि रोबोट पर्याप्त आश्वस्त नहीं है। यह एक ऐसे शिक्षक की तरह है जो केवल छात्रों को सबसे आसान प्रश्न पढ़ने देता है और बाकी को अनदेखा कर देता है।

समाधान: दो-चरणीय जादू का कमाल (A Two-Part Magic Trick)

लेखक एक नया तरीका प्रस्तावित करते हैं जिसे डोमेन-एग्नोस्टिक फीचर मॉड्यूलेशन (Domain-Agnostic Feature Modulation) कहा जाता है। इसे रोबोट के दिमाग को ठीक करने के लिए दो-चरणीय जादू के कमाल के रूप में समझें।

चरण 1: "ब्लेंडर" (Feature Modulation)

उपमा: कल्पना कीजिए कि आप किसी को कुत्ता पहचानना सिखा रहे हैं।

समस्या: "फोटो" की दुनिया में, कुत्तों के बाल (fur) होते हैं। "स्केच" की दुनिया में, कुत्ते केवल रेखाओं से बने होते हैं। यदि रोबोट "बालों" पर ध्यान केंद्रित करता है, तो वह स्केच की दुनिया में विफल हो जाता है। यदि वह "रेखाओं" पर ध्यान केंद्रित करता है, तो वह फोटो की दुनिया में विफल हो जाता है।
समाधान: लेखकों ने एक फीचर मॉड्यूलेटर (Feature Modulator) बनाया है। इसे एक ब्लेंडर की तरह समझें।
- वे तस्वीर की विशिष्ट विशेषताओं (बाल, रेखाएं) को लेते हैं।
- वे इसे एक "सिमिलर एवरेज रिप्रेजेंटेशन" (SAR) के साथ मिलाते हैं। कल्पना कीजिए कि SAR एक "सुपर-औसत कुत्ता" है जिसे सभी अलग-अलग दुनिया (फोटो, स्केच, कार्टून) के कुत्तों के बेहतरीन हिस्सों को मिलाकर बनाया गया है।
- ब्लेंडर उन हिस्सों को कम (dial down) कर देता है जो दुनियाओं के बीच बहुत अधिक बदलते हैं (जैसे बैकग्राउंड या लाइटिंग) और उन हिस्सों को बढ़ा (dial up) देता है जो समान रहते हैं (जैसे थूथन का आकार)।
परिणाम: रोबोट "बरसाती जंगल" के बैकग्राउंड को देखना बंद कर देता है और "कुत्ते के आकार" पर ध्यान केंद्रित करने लगता है। यह रोबोट के अनुमानों (स्यूडो-लेबल्स) को बहुत सटीक बनाता है।

चरण 2: "स्मार्ट वॉल्यूम नॉब" (Loss Scaling)

उपमा: अब जब रोबोट बेहतर अनुमान लगा रहा है, तो लेखकों ने महसूस किया कि वे कम सख्त हो सकते हैं।

पुराना तरीका: "केवल उन अनुमानों को सुनो जहाँ तुम 95% सुनिश्चित हो।" (यह बहुत सारे डेटा को अनदेखा करता है)।
नया तरीका: उन्होंने एक लॉस स्केलिंग (Loss Scaling) फंक्शन पेश किया है। एक वॉल्यूम नॉब की कल्पना करें।
- यदि रोबोट बहुत आश्वस्त है (95%), तो वॉल्यूम तेज़ (उच्च भार) है।
- यदि रोबोट कुछ हद तक आश्वस्त है (75%), तो वॉल्यूम कम है, लेकिन फिर भी सुनाई दे रहा है।
- महत्वपूर्ण रूप से, वे "अनिश्चितता" (रोबोट का हाथ कितना डगमगा रहा है) की भी जांच करते हैं। यदि रोब ोट डगमगा रहा है, तो वे वॉल्यूम को और कम कर देते हैं ताकि गलत चीज़ सीखने से बचा जा सके।
परिणाम: रोबोट अब अधिक डेटा (जिनमें "कुछ हद तक आश्वस्त" वाले अनुमान भी शामिल हैं) से सीख सकता है, बिना शोर (noise) से भ्रमित हुए।

यह क्यों महत्वपूर्ण है (परिणाम)

लेखकों ने इसका परीक्षण चार प्रमुख डेटासेट्स (जैसे PACS, OfficeHome, आदि) पर किया, जो छवियों के विभिन्न "ब्रह्मांडों" की तरह हैं।

डोमेन लेबल की आवश्यकता नहीं: अन्य तरीकों के विपरीत, जिन्हें यह बताने के लिए लेबल चाहिए कि "यह फोटो की दुनिया से है," यह तरीका बिना जाने काम करता है। इसे इस बात से फर्क नहीं पड़ता कि डेटा कहाँ से आया है।
बेहतर सटीकता: फीचर्स को साफ करके (चरण 1) और अधिक डेटा का समझदारी से उपयोग करके (चरण 2), उनके तरीके ने पिछले सर्वश्रेष्ठ तरीकों (जैसे FixMatch) को काफी बड़े अंतर (लगभग 3-6% सुधार) से पीछे छोड़ दिया।
"कीप रेट" (Keep Rate) की जीत: वे प्रशिक्षण चक्र (training loop) में अधिक डेटा को बनाए रखने में सफल रहे (उच्च कीप रेट) जबकि उनके अनुमान सटीक रहे। यह एक छात्र को बिना भ्रमित हुए 20% अधिक प्रश्नों को पढ़ने के लिए प्रेरित करने जैसा है।

एक वाक्य में सारांश

यह पेपर एक कंप्यूटर विज़न मॉडल को विभिन्न वातावरणों के "बैकग्राउंड शोर" को अनदेखा करने और मुख्य वस्तु पर ध्यान केंद्रित करने के लिए सिखाता है, जिससे वह बिना यह जाने कि वह डेटा वास्तव में कहाँ से आया है, बिना लेबल वाले डेटा के एक बड़े समूह से सीख सकता है।

तकनीकी सारांश: सेमी-सुपरवाइज्ड डोमेन जनरलाइजेशन के लिए डोमेन-एग्नोस्टिक फीचर मॉड्यूलेशन

समस्या विवरण (Problem Statement)
सेमी-सुपरवाइज्ड डोमेन जनरलाइजेशन (SSDG) का लक्ष्य लेबल किए गए डेटा के एक छोटे अंश के साथ प्रचुर मात्रा में अनलेबल डेटा का लाभ उठाकर अनदेखे लक्षित डोमेन (unseen target domains) में मॉडल की सामान्यीकरण क्षमता को सुधारना है। जबकि मौजूदा SSDG विधियाँ अक्सर अनलेबल डेटा के लिए छद्म-लेबलिंग (pseudo-labeling - PL) पर निर्भर करती हैं, वे अक्सर प्रशिक्षण के दौरान डोमेन लेबल तक पहुँच रखने की धारणा बनाती हैं—जो कि वास्तविक दुनिया के परिदृश्यों में हमेशा उपलब्ध नहीं होता है। इसके अलावा, डोमेन शिफ्ट "डोमेन शोर" (domain noise) उत्पन्न करते हैं, जिससे असंगत छद्म-लेबल बनते हैं जो मॉडल के प्रदर्शन को कम कर देते हैं। सेमी-सुपरवाइज्ड लर्निंग बेसलाइन से व्युत्पन्न विधियाँ अक्सर निम्न छद्म-लेबल सटीकता से ग्रस्त होती हैं, जो अनलेबल डेटा के प्रभावी उपयोग को सीमित करती हैं। एक मौलिक दुविधा मौजूद है: अनलेबल डेटा का अधिक उपयोग करने के लिए कॉन्फिडेंस थ्रेशोल्ड (confidence threshold) को कम करने से शोर बढ़ता है, जबकि उच्च थ्रेशोल्ड बनाए रखने से मूल्यवान डेटा का त्याग हो जाता है। यह शोध पत्र डोमेन-लेबल एग्नोस्टिक SSDG सेटिंग को संबोधित करता है, जहाँ प्रशिक्षण के दौरान अनलेबल डेटा के लिए डोमेन लेबल उपलब्ध नहीं होते हैं।

कार्यप्रणाली (Methodology)
प्रस्तावित दृष्टिकोण एक नवीन ढांचे को पेश करता है जिसमें चार प्रमुख घटक शामिल हैं: समान औसत प्रतिनिधित्व (Similar Average Representations - SAR), एक फीचर मॉड्यूलेटर (Feature Modulator), मॉड्यूलेटेड फीचर्स का उपयोग करके छद्म-लेबलिंग (Pseudo-Labeling), और अनिश्चितता अनुमान (uncertainty estimation) के साथ लॉस स्केलिंग फंक्शन (Loss Scaling function)।

समान औसत प्रतिनिधित्व (SAR):
डोमेन-विशिष्ट जानकारी के प्रभाव को कम करने के लिए, लेखक केवल क्लास लेबल के आधार पर क्लास प्रोटोटाइप ( $P_c$ ) को परिभाषित करते हैं, जो उन्हें डोमेन-एग्नोस्टिक बनाता है। डोमेन लेबल का उपयोग करके डोमेन के माध्यम से फीचर्स को औसत करने वाली विधियों के विपरीत, यह दृष्टिकोण कोसाइन सिमिलैरिटी (cosine similarity) के आधार पर क्लास प्रोटोटाइप को वेट (weight) देकर SAR ( $R_c$ ) की गणना करता है। यह एक ऐसा प्रतिनिधित्व बनाता है जो क्लास-विशिष्ट संकेतों पर जोर देता है जबकि डोमेन-संबंधित विविधताओं (जैसे बैकग्राउंड, टेक्सचर) को दबा देता है। SAR, फीचर मॉड्यूलेशन के लिए एक मजबूत लक्ष्य के रूप में कार्य करते हैं।
फीचर मॉड्यूलेशन (Feature Modulation):
एक सीखने योग्य (learnable) फीचर मॉड्यूलेटर मैट्रिक्स ( $M$ ) पेश किया गया है जो इंस्टेंस-विशिष्ट फीचर्स ( $z$ ) को SARs ( $R$ ) के साथ मिश्रित करता है। मॉड्यूलेटेड फीचर $Z_m$ की गणना इस प्रकार की जाती है:
$Z_m = M \odot Z + (1 - M) \odot R$
मैट्रिक्स $M$ को प्रत्येक क्लास के भीतर फीचर्स के वेरिएंस (variance) के आधार पर इनिशियलाइज़ किया जाता है (उच्च वेरिएंस वाले फीचर्स, जो संभवतः डोमेन-विशिष्ट हैं, उन्हें कम वेट दिया जाता है) और इसे प्रशिक्षण के दौरान एक डायगोनल लॉस फंक्शन के माध्यम से अपडेट किया जाता है। यह प्रक्रिया फीचर्स को उनके SARs की ओर स्थानांतरित करती है, जिससे फीचर एक्सट्रैक्टर को सघन रूप से क्लस्टर्ड, डोमेन-इनवेरिएंट (domain-invariant) प्रतिनिधित्व बनाने के लिए प्रोत्साहित किया जाता है और क्लासिफायर को साझा या डोमेन-विशिष्ट फीचर्स के बजाय अद्वितीय क्लास-विशिष्ट फीचर्स पर ध्यान केंद्रित करके निकट संबंधी क्लासेस के बीच अंतर करने के लिए मजबूर किया जाता है।
मॉड्यूलेटेड फीचर्स के साथ छद्म-लेबलिंग (Pseudo-Labeling with Modulated Features):
अधिक सटीक छद्म-लेबल उत्पन्न करने के लिए, अनलेबल नमूनों के फीचर्स को क्लासिफायर के माध्यम से गुजरने से पहले प्रत्येक क्लास के SAR की ओर मॉड्यूलेट किया जाता है। इन मॉड्यूलेटेड फीचर्स पर उच्चतम कॉन्फिडेंस स्कोर प्राप्त करने वाली क्लास को छद्म-लेबल के रूप में असाइन किया जाता है। यह रणनीति लेबलिंग प्रक्रिया के दौरान डोमेन हस्तक्षेप को कम करती है, जिसके परिणामस्वरूप उच्च-गुणवत्ता वाले छद्म-लेबल प्राप्त होते हैं।
अनिश्चितता अनुमान और लॉस स्केलिंग (Uncertainty Estimation and Loss Scaling):
छद्म-लेबल और लेबल शोर के बीच के ट्रेड-ऑफ को संबोधित करने के लिए, लेखक छद्म-लेबल्स की अनिश्चितता का अनुमान लगाने के लिए मोंटे कार्लो (MC) ड्रॉपआउट का उपयोग करते हैं। वे एक डायनेमिक लॉस स्केलिंग फंक्शन ( $l_{scale}$ ) पेश करते हैं जो प्रत्येक छद्म-लेबल के योगदान को उसके कॉन्फिडेंस ( $p_{max}$ ) और अनिश्चितता ( $\sigma$ ) के आधार पर समायोजित करता है। यह मॉडल को नियंत्रित तरीके से कम-कॉन्फिडेंस वाले छद्म-लेबल्स को शामिल करने की अनुमति देता है, जिससे बिना महत्वपूर्ण शोर पेश किए "कीप रेट" (उपयोग किए गए अनलेबल डेटा का अनुपात) को बढ़ाया जा सकता है।

प्रमुख योगदान (Key Contributions)

फीचर मॉड्यूलेटर: एक ऐसी रणनीति जो डोमेन लेबल पर निर्भर हुए बिना क्लास-डिस्क्रिमिनेटिव फीचर्स को बढ़ाती है और डोमेन-विशिष्ट जानकारी को दबाती है, जिससे अधिक सटीक छद्म-लेबल प्राप्त होते हैं।
लॉस स्केलिंग फंक्शन: एक तंत्र जो कॉन्फिडेंस और अनिश्चितता के आधार पर छद्म-लेबल्स के प्रभाव को गतिशील रूप से समायोजित करता है, जिससे लेबल शोर को कम करते हुए अनलेबल डेटा का उपयोग अनुकूलित किया जाता है।
डोमेन-लेबल एग्नोस्टिक सेटिंग: यह विधि SSDG समस्या को एक अधिक चुनौतीपूर्ण सेटिंग में संबोधित करती है जहाँ डोमेन लेबल अनुपलब्ध हैं, और चार प्रमुख बेंचमार्क पर प्रभावशीलता प्रदर्शित करती है।

प्रायोगिक परिणाम (Experimental Results)
विधि का मूल्यांकन चार मानक डोमेन जनरलाइजेशन बेंचमार्क: PACS, OfficeHome, VLCS, और DigitsDG पर, 5-लेबल और 10-लेबल सेटिंग्स के तहत किया गया।

प्रदर्शन: प्रस्तावित विधि (FM) ने मजबूत FixMatch बेसलाइन पर निरंतर सुधार प्राप्त किया, जिसमें सभी डेटासेट्स में औसत सटीकता में 3.3% (10-लेबल सेटिंग) और 4.3% (5-लेबल सेटिंग) की वृद्धि देखी गई।
विशिष्ट लाभ: OfficeHome (5 और 10 लेबल के लिए 57.2% और 61.0%), VLCS (75.5% और 75.3%), और DigitsDG (10 लेबल के लिए 73.0%) में उल्लेखनीय सुधार देखे गए।
घटक विश्लेषण (Component Analysis): एब्लेशन अध्ययनों ने पुष्टि की कि फीचर मॉड्यूलेटर छद्म-लेबल सटीकता में सुधार करता है, जबकि लॉस स्केलिंग फंक्शन 'कीप रेट' को महत्वपूर्ण रूप से बढ़ाता है। दोनों घटकों के संयोजन से सटीकता और डेटा उपयोगिता के बीच सर्वोत्तम संतुलन प्राप्त हुआ।
तुलना: विधि ने अन्य SOTA SSDG विधियों (जैसे StyleMatch, FBCSA, DGWM) को पछाड़ दिया, जिनमें से कई डोमेन लेबल पर निर्भर हैं और डोमेन-लेबल एग्नोस्टिक सेटिंग में अच्छा प्रदर्शन करने में विफल रहती हैं।

महत्व (Significance)
यह शोध पत्र दावा करता है कि यह सटीक छद्म-लेबल प्राप्त करने और अनलेबल डेटा के उपयोग को अधिकतम करने के बीच SSDG में मौजूद मौलिक दुविधा को हल करता है। फीचर्स को समान औसत प्रतिनिधित्व (Similar Average Representations) की ओर स्थानांतरित करके, मॉडल निकटता से क्लस्टर्ड क्लासेस के बीच अंतर करना और बिना स्पष्ट डोमेन पर्यवेक्षण के डोमेन-इनवेरिएंट प्रतिनिधित्व बनाना सीखता है। डायनेमिक लॉस स्केलिंग आगे कम-कॉन्फिडेंस वाले छद्म-लेबल्स के प्रभावी उपयोग को सक्षम बनाती है, जिन्हें आमतौर पर त्याग दिया जाता है। लेखक तर्क देते हैं कि ये नवाचार मॉडल को अनदेखे डोमेन में प्रभावी ढंग से सामान्य करने की अनुमति देते हैं, भले ही डोमेन लेबल अनुपस्थित हों, जो कि वास्तविक दुनिया के प्रतिबंधों को बेहतर ढंग से दर्शाता है।