Breaking Spurious Correlations via Generative Randomization and Cross-Variant Self-Supervised Learning
यह शोध पत्र GRSSL नामक एक दो-चरणीय ढांचे का प्रस्ताव करता है जो संदर्भ-परिवर्तित वस्तु वेरिएंट बनाने के लिए जनरेटिव इंटरवेंशन (generative intervention) को क्रॉस-वेरिएंट सेल्फ-सुपरवाइज्ड लर्निंग (Cross-Variant Self-Supervised Learning) के साथ जोड़ता है ताकि स्पष्ट रूप से बैकग्राउंड-इनवेरिएंट (background-invariant) निरूपणों को प्रशिक्षित किया जा सके, जिससे कई बेंचमार्क पर वितरण बदलावों (distribution shifts) के विरुद्ध अत्याधुनिक मजबूती प्राप्त होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बच्चे को विभिन्न प्रकार के पक्षियों की पहचान करना सिखा रहे हैं। आप उसे जलपक्षियों (जैसे बत्तख) और स्थलमार्गी पक्षियों (जैसे गौरैया) की तस्वीरें दिखाते हैं।
एक सामान्य कक्षा में, शिक्षक अनजाने में एक गलती कर सकता है: वे केवल बत्तखों को पानी पर और गौरैया को घास पर दिखाते हैं। बच्चा, जो बहुत बुद्धिमान लेकिन बहुत आलसी है, जल्दी ही एक शॉर्टकट सीख जाता है: "अगर मुझे पानी दिखता है, तो वह बत्तख है। अगर मुझे घास दिखती है, तो वह गौरैया है।" वह पक्षी के पंखों या चोंच को देखने के बजाय पृष्ठभूमि (background) को देखना शुरू कर देता है।
AI मॉडल के साथ भी बिल्कुल यही होता है। वे स्पूरियस कोरिलेशन (spurious correlations) यानी भ्रामक सहसंबंध सीख लेते हैं—मुख्य वस्तु के बजाय बैकग्राउंड को देखकर "चीटिंग" करते हैं। जब आप बाद में उन्हें घास के मैदान में बत्तख दिखाते हैं, तो AI भ्रमित हो जाता है और विफल हो जाता है क्योंकि वह बत्तख के बजाय पानी पर निर्भर था।
यह शोध पत्र इस "चीटिंग" व्यवहार को ठीक करने के लिए एक चतुर दो-चरणीय समाधान प्रस्तावित करता है।
चरण 1: "जादुई बैकग्राउंड चेंजर" (जेनरेटिव रैंडमाइजेशन)
सबसे पहले, शोधकर्ता एक विशेष AI टूल (एक डिफ्यूजन मॉडल) का उपयोग एक डिजिटल फोटो एडिटर के रूप में करते हैं।
- वे एक पक्षी की तस्वीर लेते हैं।
- वे पक्षी को बिना नुकसान पहुँचाए तस्वीर से बाहर निकालने के लिए एक "ज़ीरो-शॉट सेगमेंटेशन" टूल (इसे एक अत्यंत सटीक कैंची समझें) का उपयोग करते हैं।
- फिर, वे पक्षी के पीछे एक पूरी तरह से नया बैकग्राउंड पेंट करने के लिए AI का उपयोग करते हैं। वे एक झील को जंगल में, या एक रेगिस्तान को बर्फीले पहाड़ में बदल सकते हैं, जबकि पक्षी को बिल्कुल वैसा ही रखते हैं।
वे ऐसा इसलिए करते हैं ताकि एक ही पक्षी के कई "वेरिएंट्स" (रूप) पूरी तरह से अलग दुनिया में तैयार किए जा सकें।
चरण 2: "वही पक्षी, अलग दुनिया" वाला खेल (क्रॉस-वेरिएंट सेल्फ-सुपरवाइज्ड लर्निंग)
यहीं पर असली जादू होता है। आमतौर पर, जब AI सीखता है, तो वह इन नई तस्वीरों को केवल अतिरिक्त होमवर्क के रूप में देखता है। लेकिन यह शोध पत्र कहता है: "नहीं, आइए AI को एक खेल खिलाते हैं।"
वे AI से कहते हैं: "इस झील पर मौजूद बत्तख को देखो, और इस पहाड़ पर मौजूद उसी बत्तख को देखो। भले ही बैकग्राउंड पूरी तरह से अलग हो, लेकिन ये वही पक्षी हैं। तुम्हारा काम बैकग्राउंड को अनदेखा करना और केवल पक्षी पर ध्यान केंद्रित करना है।"
वे AI को यह सीखने के लिए मजबूर करते हैं कि परिवेश बदलने पर भी वस्तु की पहचान समान रहती है। इसे क्रॉस-वेरिएंट सेल्फ-सुपरवाइज्ड लर्निंग कहा जाता है। यह एक जासूस को प्रशिक्षित करने जैसा है कि वह संदिग्ध के चेहरे को पहचान सके, चाहे उसने टोपी पहनी हो, मास्क लगाया हो, या वह किसी दूसरे शहर में खड़ा हो।
अंतिम पॉलिश (फाइन-ट्यूनिंग)
एक बार जब AI ने इस "खेल" के माध्यम से बैकग्राउंड को अनदेखा करना सीख लिया, तो शोधकर्ता एक अंतिम दौर का प्रशिक्षण करते हैं ताकि यह सुनिश्चित हो सके कि वह वास्तविक दुनिया के लिए तैयार है। वे GroupDRO नामक तकनीक का उपयोग करते हैं, जो एक सख्त कोच की तरह काम करता है जो कहता है, "मुझे परवाह नहीं है कि तुमने 99% आसान सवालों के सही जवाब दिए हैं; मुझे परवाह है कि तुमने सबसे कठिन, दुर्लभ सवालों के भी सही जवाब दिए हैं।"
परिणाम
इस शोध पत्र ने तीन कठिन चुनौतियों का परीक्षण किया जहाँ AI आमतौर पर बैकग्राउंड के धोखे के कारण विफल हो जाता है:
- वॉटरबर्ड्स (Waterbirds): पानी बनाम जमीन पर पक्षियों के बीच अंतर करना।
- मेटाशिफ्ट (MetaShift): बदलते वातावरण का एक सामान्य परीक्षण।
- NICO++: एक अन्य जटिल वातावरण परीक्षण।
परिणाम:
इस "जादुई बैकग्राउंड चेंजर" और "वही पक्षी" वाले खेल का उपयोग करके, AI वस्तुओं को उनके स्थान की परवाह किए बिना पहचानने में बहुत बेहतर हो गया।
- वॉटरबर्ड्स टेस्ट पर, इसने सबसे कठिन मामलों में 92.5% सही उत्तर दिए (मानक तरीकों की तुलना में बहुत कम स्कोर के मुकाबले)।
- इसने "आसान" मामलों में भी उच्च स्कोर बनाए रखा, जिससे सिद्ध हुआ कि इसने अपना सामान्य ज्ञान खोया नहीं है।
सारांश में
यह शोध पत्र तर्क देता है कि केवल डेटासेट में अधिक चित्र जोड़ना पर्याप्त नहीं है। इसके बजाय, आपको AI को सक्रिय रूप से बैकग्राउंड को अनदेखा करना सिखाने की आवश्यकता है, उसे कई अलग-अलग, कृत्रिम रूप से बनाई गई दुनियाओं में एक ही वस्तु दिखाकर। AI को दृश्य (scenery) के बजाय स्वयं वस्तु पर ध्यान केंद्रित करने के लिए मजबूर करके, यह "चीटिंग" करना बंद कर देता है और वास्तविक दुनिया में बदलने पर बहुत अधिक विश्वसनीय बन जाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।