← नवीनतम पेपर
🤖 AI

Unsupervised Representation Learning - an Invariant Risk Minimization Perspective

यह शोधपत्र इनवेरिएंट रिस्क मिनिमाइजेशन (Invariant Risk Minimization) के लिए एक नवीन अनसुपरवाइज्ड फ्रेमवर्क प्रस्तावित करता है जो फीचर डिस्ट्रीब्यूशन अलाइनमेंट (feature distribution alignment) के माध्यम से इनवेरियंस को पुनर्परिभाषित करता है, और अनलेबल डेटा से मजबूत, एनवायरनमेंट-इनवेरिएंट रिप्रजेंटेशन सीखने के लिए लीनियर PICA और डीप जेनेरेटिव VIAE विधियों को पेश करता है।

मूल लेखक: Yotam Norman, Ron Meir

प्रकाशित 2026-03-05✓ Author reviewed
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Yotam Norman, Ron Meir

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने नहीं लिखा है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

एक बड़ी तस्वीर: रोबोट को "असली" चीज़ पहचानना सिखाना

कल्पना कीजिए कि आप एक रोबोट को बिल्लियों को पहचानना सिखाने की कोशिश कर रहे हैं।

  • परिदृश्य A (पुराना तरीका): आप रोबोट को बिल्लियों की 1,000 तस्वीरें दिखाते हैं। हर फोटो में, बिल्ली एक हरे घास के मैदान पर बैठी है। रोबोट सीखता है: "बिल्ली = हरा घास + बालों वाली चीज़।"
  • समस्या: जब आप रोबोट को घर के अंदर एक लाल कालीन पर बैठी बिल्ली दिखाते हैं, तो वह घबरा जाता है। वह कहता है, "यहाँ कोई बिल्ली नहीं है! घास गायब है!" वह विफल रहा क्योंकि उसने विषय (Subject) के बजाय बैकग्राउंड (वातावरण) को सीख लिया था।

AI की दुनिया में, इसे डिस्ट्रीब्यूशन शिफ्ट (Distribution Shift) कहा जाता है। "वातावरण" (घास बनाम कालीन) बदल गया, और रोबोट टूट गया।

इन्वेरिएंट रिस्क मिनिमाइजेशन (Invariant Risk Minimization - IRM) एक ऐसी तकनीक है जिसे इसे ठीक करने के लिए डिज़ाइन किया गया है। यह रोबोट को बैकग्राउंड को अनदेखा करने और केवल बिल्ली पर ध्यान केंद्रित करने के लिए प्रशिक्षित करने की कोशिश करता है। हालाँकि, पारंपरिक रूप से, IRM को काम करने के लिए लेबल्स (एक इंसान द्वारा रोबोट को बताना कि "हाँ, यह एक बिल्ली है") की आवश्यकता होती थी।

इस पेपर का बड़ा विचार:
लेखकों, योताम नॉर्मन और रॉन मेयर ने पूछा: "क्या होगा अगर हमारे पास लेबल्स न हों? क्या होगा अगर हमारे पास अलग-अलग वातावरणों से तस्वीरों का ढेर हो, और हमें यह भी न पता हो कि वे कौन से हैं?"

उन्होंने एक नया फ्रेमवर्क बनाया जो AI को बिना किसी शिक्षक के होमवर्क चेक किए (बिना लेबल के) यह सीखने की अनुमति देता है कि क्या "असली" (इनवेरिएंट) है और क्या सिर्फ "शोर" (एनवायरनमेंटल) है।


दो नए उपकरण

यह पेपर इस पहेली को सुलझाने के लिए दो तरीके पेश करता है, जो इस बात पर निर्भर करते हैं कि डेटा कितना जटिल है।

1. PICA: "गणितीय फ़िल्टर" (सरल डेटा के लिए)

उपमा: कल्पना कीजिए कि आपके पास मिश्रित रंग की कंचों (marbles) के दो जार हैं।

  • जार 1 (वातावरण A): ज्यादातर लाल कंचे, लेकिन कुछ नीले भी हैं।
  • जार 2 (वातावरण B): ज्यादातर नीले कंचे, लेकिन कुछ लाल भी हैं।

आप उस "सच्चे" पैटर्न को खोजना चाहते हैं जो दोनों जार में मौजूद है, यह तथ्य अनदेखा करते हुए कि एक जार लाल-प्रधान है और दूसरा नीला-प्रधान।

PICA (प्रिंसिपल इनवेरिएंट कंपोनेंट एनालिसिस) एक स्मार्ट छलनी की तरह है। यह कंचों के पीछे के गणित (विशेष रूप से, वे कैसे भिन्न होते हैं) को देखता है। यह गणना करता है:

  1. जार 1 और जार 2 के बीच क्या अंतर है? ("एनवायरनमेंटल" शोर)।
  2. क्या समान है? ("इनवेरिएंट" सिग्नल)।

इसके बाद यह अंतरों को फ़िल्टर कर देता है और केवल साझा दिशा को रखता है। यह वातावरण के "स्वाद" को हटाकर मूल सत्य को खोजने का एक रैखिक (linear), गणितीय तरीका है।

2. VIAE: "विभाजित मस्तिष्क वाला कलाकार" (जटिल डेटा के लिए)

उपमा: कल्पना कीजिए कि एक मास्टर शेफ (AI) को दो सामग्रियों के आधार पर एक व्यंजन (इमेज जनरेट करना) बनाना है:

  • सामग्री A (इनवेरिएंट): रेसिपी (जैसे, "यह एक बर्गर है")। यह समान रहनी चाहिए चाहे आप कहीं भी हों।
  • सामग्री B (एनवायरनमेंटल): स्थानीय मसाले (जैसे, "टेक्सास में बर्गर" बनाम "टोक्यो में बर्गर")। यह स्थान के आधार पर बदलता रहता है।

VIAE (वेरिएशनल इनवेरिएंट ऑटोएनकोडर) एक डीप लर्निंग मॉडल है जो एक विभाजित मस्तिष्क वाले शेफ की तरह कार्य करता है:

  • मस्तिष्क 1 (इनवेरिएंट एनकोडर): कच्चे डेटा को देखता है और केवल रेसिपी (बर्गर का आकार) निकालने की कोशिश करता है। यह मसालों को अनदेखा कर देता है।
  • मस्तिष्क 2 (एनवायरनमेंटल एनकोडर): हर वातावरण के लिए एक ऐसा मस्तिष्क होता है। वे डेटा को देखते हैं और केवल मसालों (टेक्सास स्टाइल बनाम टोक्यो स्टाइल) को निकालते हैं।
  • डिकोडर (रसोइया): रेसिपी + मसाले लेकर इमेज को फिर से बनाता है।

यह क्यों शानदार है?
क्योंकि "रेसिपी" वाला हिस्सा "मसालों" वाले हिस्से से अलग हो जाता है, आप जादू कर सकते हैं:

  • स्टाइल ट्रांसफर: आप एक "टेक्सास बर्गर" (इनपुट) की फोटो ले सकते हैं, उसमें से टेक्सास के मसाले निकाल सकते हैं, और "टोक्यो के मसाले" जोड़ सकते हैं। परिणाम एक "टोक्यो बर्गर" होगा जो मूल बर्गर जैसा ही दिखेगा, बस उसका अंदाज़ अलग होगा।
  • लेबल्स की आवश्यकता नहीं: AI यह पता लगा लेता है कि कौन सा हिस्सा रेसिपी है और कौन सा मसाला, केवल कई अलग-अलग वातावरणों को देखकर, बिना किसी के यह बताए कि "यह एक बर्गर है।"

उन्होंने इसका परीक्षण कैसे किया (प्रयोग)

टीम ने तीन प्रकार की पहेलियों पर अपने विचारों का परीक्षण किया:

  1. सिंथेटिक डेटा: काल्पनिक गणितीय समस्याएँ जहाँ उन्हें उत्तर पता था। PICA ने पूरी तरह से काम किया, जिससे साबित हुआ कि गणित सही है।
  2. SMNIST और SCMNIST (संशोधित अंक):
    • उन्होंने हस्तलिखित नंबरों (0-9) में कुछ नकली "स्पूरियस" (spurious) विशेषताएं जोड़ीं।
    • उदाहरण: वातावरण 1 में, सभी नंबरों के ऊपर-बाएँ कोने में एक सफेद वर्ग था। वातावरण 2 में, वह वर्ग नीचे-दाएँ कोने में था।
    • परिणाम: AI ने वर्ग की स्थिति को अनदेखा करना और केवल नंबर पर ध्यान केंद्रित करना सीख लिया। वह एक "7" को पहचान सका, भले ही वर्ग किसी ऐसी जगह हो जहाँ उसने पहले कभी नहीं देखा था।
  3. CelebA (सेलिब्रिटी चेहरे):
    • उन्होंने जेंडर (पुरुष/महिला) को "वातावरण" के रूप में और चेहरे की विशेषताओं (नाक का आकार, मुस्कान, अभिव्यक्ति) को "इनवेरिएंट" सत्य के रूप में माना।
    • परिणाम: AI एक आदमी की फोटो ले सकता है, उसके "पुरुष" पर्यावरणीय गुणों को हटा सकता है, और उन्हें "महिला" गुणों के साथ बदल सकता है, जिसके परिणामस्वरूप एक ऐसी महिला निकलती है जो मूल आदमी जैसा ही दिखता है (वही मुस्कान, वही चेहरे का आकार)। यह निष्पक्षता (fairness) के लिए बहुत बड़ा है, क्योंकि यह दिखाता है कि AI पहचान को लिंग जैसे संवेदनशील गुणों से अलग कर सकता है।

यह क्यों मायने रखता है?

  1. लेबल्स की आवश्यकता नहीं: आमतौर पर, AI को मजबूत बनाने के लिए आपको हजारों लेबल वाले उदाहरणों की आवश्यकता होती है। यह तरीका अनलेबल (unlabeled) डेटा के साथ काम करता है, जो प्राप्त करना बहुत सस्ता और आसान है।
  2. मजबूती (Robustness): यह AI को वास्तविक दुनिया में जीवित रहने में मदद करता है जहाँ स्थितियाँ बदल जाती हैं (जैसे, एक सेल्फ-ड्राइविंग कार धूप के बजाय बारिश में देखना, या एक मेडिकल स्कैनर का अलग मशीन का उपयोग करना)।
  3. निष्पक्षता (Fairness): "संवेदनशील" गुणों (जैसे जाति या लिंग) को "प्रासंगिक" गुणों (जैसे योग्यता या चिकित्सा लक्षण) से अलग करके, हम निष्पक्ष निर्णय लेने वाला AI बना सकते हैं।

निष्कर्ष

यह पेपर AI को एक्स-रे चश्मे देने जैसा है। सतह के उन विवरणों को देखने के बजाय जो जगह-जगह बदलते रहते हैं (वातावरण), AI उस अंतर्निहित ढांचे (skeleton) को सीखता है जो स्थिर रहता है (इनवेरिएंट सत्य)। यह यह सब बिना किसी इंसान के इशारा किए कि "वह कंकाल है!" खुद ही समझ लेता है।

यह अधिक स्मार्ट, निष्पक्ष और अनुकूलनीय AI के द्वार खोलता है जो बिना थके वास्तविक और जटिल दुनिया को संभाल सकता है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →