🤖 machine learning

Monotone and Separable Set Functions: Characterizations and Neural Models

यह शोध पत्र सेट समावेशन क्रम (set containment order) को संरक्षित करने के लिए मोनोटोनिक और सेपरेबल (MAS) सेट फलनों (set functions) को प्रस्तुत करता है, उनके अस्तित्व और आयामीता पर सैद्धांतिक सीमाएँ स्थापित करता है, अनंत ग्राउंड सेट्स (infinite ground sets) के लिए एक स्थिर "वीकली MAS" न्यूरल मॉडल प्रस्तावित करता है, और यूनिवर्सल एप्रोक्सिमेशन गारंटी एवं अनुभवजन्य परिणामों के माध्यम से सेट समावेशन कार्यों में उनकी प्रभावशीलता को प्रदर्शित करता है।

मूल लेखक: Soutrik Sarangi, Yonatan Sverdlov, Nadav Dym, Abir De

प्रकाशित 2026-05-18

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC0 1.0

मूल लेखक: Soutrik Sarangi, Yonatan Sverdlov, Nadav Dym, Abir De

मूल पेपर CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/) के तहत सार्वजनिक डोमेन को समर्पित है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास बक्सों का एक विशाल पुस्तकालय है। कुछ बक्से खाली हैं, कुछ में एक खिलौना है, और कुछ में खिलौनों का पूरा संग्रह है। इस शोध पत्र में, लेखक इन बक्सों के लिए एक विशेष प्रकार का स्मार्ट लेबल मेकर (smart label maker) बनाने की कोशिश कर रहे हैं।

उनका लक्ष्य एक ऐसा सिस्टम बनाना है जो दो बक्सों को देख सके, मान लीजिए बॉक्स A और बॉक्स B, और तुरंत आपको बता सके: "क्या बॉक्स A पूरी तरह से बॉक्स B के अंदर है?"

यहाँ उनके कार्य का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:

1. समस्या: "अंदर" का परीक्षण (The "Inside" Test)

आमतौर पर, यदि आप जानना चाहते हैं कि क्या बॉक्स A बॉक्स B के अंदर है, तो आपको उन्हें खोलना होगा और हर एक वस्तु को गिनना होगा। यह बहुत धीमा है। लेखक चाहते हैं कि हर बॉक्स एक संख्याओं की सूची (एक वेक्टर) में बदल जाए।

वे एक नियम चाहते हैं जहाँ:

यदि बॉक्स A, बॉक्स B के अंदर है, तो A के लिए संख्याओं की सूची B के लिए सूची से "छोटी" होनी चाहिए (एक विशिष्ट गणितीय तरीके से)।
यदि सूची A, सूची B से "छोटी" है, तो बॉक्स A निश्चित रूप से बॉक्स B के अंदर होना चाहिए।

वे इसे एक MAS फंक्शन (मोनोटोन और सेपरेटिंग) कहते हैं।

मोनोटोन (Monotone): यदि आप किसी बॉक्स में और खिलौने जोड़ते हैं, तो उसके लेबल पर संख्याएँ बढ़नी चाहिए (या समान रहनी चाहिए), कभी कम नहीं होनी चाहिए।
सेपरेटिंग (Separating): यदि बॉक्स A के लेबल की संख्याएँ बॉक्स B से कम हैं, तो यह गारंटी देता है कि बॉक्स A वास्तव में बॉक्स B के अंदर है। इसमें कोई अनुमान नहीं चलता।

2. बड़ी खोज: "आकार" की सीमा (The "Size" Limit)

लेखकों ने यह देखने के लिए कुछ गणितीय प्रयोग किए कि इन संख्या सूचियों को कितना बड़ा होने की आवश्यकता है।

सीमित दुनिया (The Finite World): यदि आपके पुस्तकालय में केवल खिलौनों के एक विशिष्ट, सीमित प्रकार (जैसे, केवल लाल गेंदें, नीली गेंदें और हरे ब्लॉक) हैं, तो उन्होंने पाया कि इसे पूरी तरह से काम करने के लिए आपको खिलियों के प्रकारों की संख्या के ठीक बराबर लंबी संख्या सूची की आवश्यकता होगी।
अनंत दुनिया (The Infinite World): लेकिन क्या होगा यदि आपके खिलौने कुछ भी हो सकते हैं? जैसे कि ब्रह्मांड में कोई भी आकार, रंग या आकार? लेखकों ने सिद्ध किया कि इस अनंत दुनिया के लिए एक आदर्श लेबल मेकर बनाना गणितीय रूप से असंभव है। आपकी संख्या सूची कितनी भी लंबी क्यों न हो, आप हर संभव "अंदर" के संबंध को पूरी तरह से कैप्चर नहीं कर सकते।

3. समाधान: "वीकली MAS" मॉडल (MASNET)

चूंकि अनंत दुनिया के लिए एक आदर्श लेबल मेकर बनाना असंभव है, इसलिए लेखकों ने एक "काफी अच्छा" संस्करण बनाया जिसे MASNET कहा जाता है।

MASNET को एक गिरगिट (chameleon) की तरह समझें।

एक निश्चित लेबल के बजाय, MASNET के पास एक "नॉब" (एक पैरामीटर) है जिसे आप घुमा सकते हैं।
नियम 1 (मोनोटोनिसिटी): आप नॉब को कैसे भी घुमाएं, यदि आप किसी बॉक्स में खिलौने जोड़ते हैं, तो संख्याएँ हमेशा बढ़ती हैं। यह हिस्सा सख्त है।
नियम 2 (सेपरेबिलिटी): यदि बॉक्स A, बॉक्स B के अंदर नहीं है, तो नॉब की कुछ सेटिंग्स ऐसी होंगी जहाँ संख्याएँ स्पष्ट रूप से अंतर दिखाएंगी। आपको बस सही सेटिंग ढूंढनी होगी।

उन्होंने लेबल मेकर के लिए विशिष्ट गणितीय "आकृतियाँ" (जिन्हें Hat Activations कहा जाता है) डिज़ाइन की हैं। इस टोपी (hat) जैसी आकृति को समझें: यह ऊपर जाती है और फिर वापस नीचे आती है। यह आकार महत्वपूर्ण है क्योंकि यह सिस्टम को उन चीजों को अनदेखा करने की अनुमति देता है जो प्रासंगिक नहीं हैं, जिससे यह उन बक्सों के बीच अंतर करने में मदद मिलती है जो समान दिखते हैं लेकिन वास्तव में एक-दूसरे के "अंदर" नहीं हैं।

4. स्थिरता: "फजी" परीक्षण (Stability: The "Fuzzy" Test)

वास्तविक दुनिया में, चीजें हमेशा पूर्ण नहीं होतीं। शायद बॉक्स A 99% बॉक्स B के अंदर है, लेकिन एक खिलौना थोड़ा बाहर निकला हुआ है।
लेखकों ने दिखाया कि उनका मॉडल स्थिर (stable) है। इसका मतलब है कि यदि बॉक्स A लगभग बॉक्स B के अंदर है, तो लेबल की संख्याएँ भी लगभग छोटी होंगी। यह टूटता नहीं है या केवल एक छोटी सी गलती के कारण पूरी तरह से गलत उत्तर नहीं देता है। यह एक तराजू की तरह है जो कहता है, "यह बहुत करीब है कि यह हल्का है," बजाय इसके कि केवल "भारी" या "हल्का" कहे।

5. परिणाम: क्या यह काम करता है?

उन्होंने MASNET का तीन प्रकार के कार्यों पर परीक्षण किया:

सिंथेटिक डेटा (Synthetic Data): यादृच्छिक खिलौनों वाले काल्पनिक बक्से। MASNET मानक AI मॉडल की तुलना में "अंदर" के संबंधों को पहचानने में बहुत बेहतर था।
टेक्स्ट (Text): वाक्यों को शब्दों के थैले (bags of words) के रूप में मानना। उन्होंने पूछा, "क्या इस छोटे वाक्य के शब्द इस लंबे लेख के शब्दों के सेट में शामिल हैं?" MASNET जीत गया।
पॉइंट क्लाउड्स (Point Clouds - 3D आकृतियाँ): यह जांचना कि क्या 3D ऑब्जेक्ट का एक छोटा हिस्सा (जैसे कार का दरवाजा) एक बड़े 3D ऑब्जेक्ट (पूरी कार) का हिस्सा है। MASNET अन्य मॉडलों की तुलना में अधिक सटीक था।

सारांश

शोध पत्र कहता है: "हमने सिद्ध किया है कि अनंत संभावनाओं के लिए एक आदर्श 'इनसाइड डिटेक्टर' बनाना संभव नहीं है। लेकिन, हमने एक नया AI मॉडल बनाया है जिसे MASNET कहा जाता है, जो एक विशेष 'टोपी के आकार' वाले गणितीय ट्रिक का उपयोग करता है। यह गारंटी देता है कि यदि आप आइटम जोड़ते हैं, तो स्कोर बढ़ता है, और यह बताने में बहुत अच्छा है कि क्या वस्तुओं का एक समूह दूसरे के अंदर है, भले ही डेटा अव्यवस्थित या अनंत हो।"

उन्होंने यह दावा नहीं किया कि यह चिकित्सा निदान या शेयर बाजार की भविष्यवाणी के लिए काम करता है; वे सख्ती से डेटा विज्ञान कार्यों में सेट कंटेनमेंट (set containment) (यह जांचना कि क्या एक समूह दूसरे के अंदर है) पर केंद्रित रहे।

तकनीकी सारांश: मोनोटोन और सेपरेबल सेट फंक्शन्स (Monotone and Separable Set Functions)

समस्या विवरण (Problem Statement)
यह शोध पत्र मल्टीसेट्स (multisets) के प्राकृतिक आंशिक क्रम (natural partial order) को संरक्षित करने में सक्षम 'सेट-टू-वेक्टर' फंक्शन डिजाइन करने की मौलिक चुनौती को संबोधित करता है। विशेष रूप से, दो मल्टीसेट्स $S$ और $T$ दिए जाने पर, लक्ष्य एक मैपिंग $F$ सीखना है जिससे वेक्टर असमानता $F(S) \leq F(T)$ (एलिमेंट-वाइज) सीधे सेट समावेशन संबंध (set containment relation) $S \subseteq T$ के पूर्णतः समतुल्य हो। वे फंक्शन जो मोनोटोनिसिटी ( $S \subseteq T \implies F(S) \leq F(T)$ ) और सेपरेबिलिटी ( $F(S) \leq F(T) \implies S \subseteq T$ ) दोनों को संतुष्ट करते हैं, उन्हें मोनोटोन एंड सेपरेटिंग (MAS) फंक्शन कहा जाता है। यह क्षमता सेट-कंटेनमेंट सर्च, रिकमेंडेशन सिस्टम और टेक्स्ट एंटेलमेंट जैसे अनुप्रयोगों के लिए महत्वपूर्ण है, जहाँ मानक सेट मॉडल अक्सर गलत पॉजिटिव या नेगेटिव के कारण सबसेट संबंधों के लिए सटीक बूलियन टेस्ट प्रदान करने में विफल रहते हैं।

कार्यप्रणाली और सैद्धांतिक लक्षण वर्णन (Methodology and Theoretical Characterization)
लेखक पहले MAS फंक्शन की सैद्धांतिक उपस्थिति और आयामी आवश्यकताओं (dimensionality requirements) को स्थापित करते हैं:

परिमित ग्राउंड सेट्स (Finite Ground Sets): आकार $n$ वाले एक परिमित ग्राउंड सेट $V$ के लिए, एक MAS फंक्शन तभी मौजूद होता है जब आउटपुट डायमेंशन $m \geq n$ हो। यदि इनपुट मल्टीसेट्स कार्डिनैलिटी $k$ द्वारा सीमित हैं, तो आवश्यक डायमेंशन $m$ को कम किया जा सकता है, जो $n$ के साथ लॉगरिदमिक रूप से स्केल करता है लेकिन $k$ के साथ एक्सपोनेंशियल रूप से ( $m \approx (k+2)^{k+2} \log n$ )।
अनंत ग्राउंड सेट्स (Infinite Ground Sets): अनंत ग्राउंड सेट्स (जैसे, $V = \mathbb{R}^d$ ) के लिए, यह शोध पत्र सिद्ध करता है कि किसी भी परिमित आउटपुट डायमेंशन $m$ के लिए सटीक MAS फंक्शन मौजूद नहीं होते हैं। ऐसा इसलिए है क्योंकि सभी जोड़ों के लिए सख्त सेपरेबिलिटी को बनाए रखते हुए सेटों के आंशिक क्रम को एक परिमित-आयामी वेक्टर स्पेस में एम्बेड नहीं किया जा सकता है।

अनंत डोमेन में गैर-अस्तित्व को संबोधित करने के लिए, लेखक वीकली MAS (Weakly MAS) फंक्शन्स का परिचय देते हैं। यह रिलैक्सेशन सभी पैरामीटर्स के लिए पॉइंटवाइज मोनोटोनिसिटी बनाए रखता है लेकिन सेपरेबिलिटी को पैरामीटर स्पेस पर एक अस्तित्व संबंधी स्थिति (existential condition) के रूप में मानता है: किसी भी $S \not\subseteq T$ के लिए, कम से कम एक पैरामीटर सेटिंग $w$ मौजूद है कि $F(S; w) \not\leq F(T; w)$ ।

न्यूरल आर्किटेक्चर: MASNET
सैद्धांतिक अंतर्दृष्टि के आधार पर, यह शोध पत्र MASNET नामक एक न्यूरल नेटवर्क आर्किटेक्चर प्रस्तावित करता है जिसे रचना (construction) द्वारा वीकीली MAS गुणों को संतुष्ट करने के लिए डिज़ाइन किया गया है। मॉडल एक DeepSets संरचना का अनुसरण करता है:
$\text{MASNET}(S) = M_{\theta_2} \left( \sum_{x \in S} \sigma (M_{\theta_1}(x)) \right)$
मुख्य डिज़ाइन विकल्प शामिल हैं:

मोनोटोनिसिटी (Monotonicity): नॉन-नेगेटिव एक्टिवेशन और मोनोटोन आउटर मैपिंग्स ( $M_{\theta_2}$ ) का उपयोग करके लागू की जाती है।
सेपरेबिलिटी (Separability): विशिष्ट एक्टिवेशन फंक्शन के माध्यम से प्राप्त की जाती है। लेखक पहचानते हैं कि मानक मोनोटोन एक्टिवेशन (जैसे ReLU) सिंगल-लेयर नेटवर्क में वीक सेपरेबिलिटी प्रदान करने में विफल रहते हैं। इसके बजाय, वे प्रस्तावित करते हैं:
- हैट एक्टिवेशंस (Hat Activations): नॉन-नेगेटिव, कॉम्पैक्टली सपोर्टेड, निरंतर फंक्शनों (जैसे त्रिकोणीय आकार) का एक वर्ग जो सिंगल-लेयर नेटवर्क में भी वीक सेपरेबिलिटी सुनिश्चित करता है।
- डीप ReLU नेटवर्क: दो-लेयर ReLU नेटवर्क Hat फंक्शन का अनुकरण कर सकते हैं, जिससे वीक सेपरेबिलिटी प्राप्त होती है।
स्थिरता (Stability): लेखक लोअर होल्डर सेपरेबिलिटी (Lower Hölder separability) को परिभाषित करते हैं, जो यह सुनिश्चित करता है कि यदि $S$ , $T$ का "लगभग" एक सबसेट है (एसिमेट्रिक अर्थ मूवर डिस्टेंस द्वारा मापा गया), तो $F(S)$ , $F(T)$ द्वारा "लगभग" डोमिनेट किया जाता है। वे सिद्ध करते हैं कि Hat एक्टिवेशन के साथ MASNET इस स्थिरता स्थिति को संतुष्ट करता है।

प्रमुख योगदान (Key Contributions)

MAS फंक्शन्स का औपचारिकीकरण: शोध पत्र औपचारिक रूप से मोनोटोन और सेपरेटिंग मल्टीसेट फंक्शन्स को परिभाषित करता है, जो कि सीखने योग्य, डिफरेंशिएबल मॉडल्स के संदर्भ में पहले अनफॉर्मलाइज्ड था।
अस्तित्व संबंधी सीमाएँ (Existential Bounds): यह MAS फंक्शन के लिए आवश्यक एम्बेडिंग डायमेंशन के टाइट लोअर और अपर बाउंड प्रदान करता है, और अनंत ग्राउंड सेट्स के लिए उनकी असंभवता को सिद्ध करता है।
वीकली MAS रिलैक्सेशन: यह वीकली MAS फंक्शन्स की अवधारणा पेश करता है और अनंत डोमेन के लिए उनके अस्तित्व को सिद्ध करता है, जो वास्तविक दुनिया के अनुप्रयोगों के लिए एक व्यावहारिक समाधान प्रदान करता है।
MASNET आर्किटेक्चर: यह एक न्यूरल मॉडल प्रस्तावित करता है जो मोनोटोनिसिटी और वीक सेपरेबिलिटी को इंडक्टिव बायस के रूप में शामिल करता है, और होल्डर निरंतरता (Hölder continuity) के माध्यम से इसकी स्थिरता को सिद्ध करता है।
यूनिवर्सैलिटी (Universality): शोध पत्र प्रदर्शित करता है कि MAS फंक्शन, मोनोटोन वेक्टर-टू-वेक्टर मैपिंग के साथ कंपोज होने पर, सभी मोनोटोन सेट-टू-वेक्टर फंक्शनों के लिए यूनिवर्सल एप्रोक्सिमेटर के रूप में कार्य कर सकते हैं।

प्रायोगिक परिणाम (Experimental Results)
लेखक सिंथेटिक डेटा, टेक्स्ट डेटासेट्स (MSWEB, MSNBC, Amazon), और पॉइंट क्लाउड डेटा (ModelNet40) पर MASNET का मूल्यांकन करते हैं।

सेट कंटेनमेंट: MAS-नेट वेरिएंट्स (दोनों ReLU-आधारित और Hat-आधारित) लगातार DeepSets और Set Transformers जैसे मानक बेसलाइन्स से बेहतर प्रदर्शन करते हैं। प्रदर्शन का अंतर लक्षित सेट की कार्डिनैलिटी बढ़ने के साथ बढ़ता जाता है, जो एक ऐसी स्थिति है जहाँ मानक मॉडल सेपरेबिलिटी के साथ संघर्ष करते हैं।
एप्रोक्सिमेशन: मोनोटोन फंक्शनों के एप्रोक्सिमेशन से जुड़े कार्यों में, MASNET बेसलाइन्स की तुलना में कम मीन एब्सोल्यूट एरर (MAE) प्राप्त करता है।
आर्किटेक्चर विश्लेषण: प्रयोग पुष्टि करते हैं कि ReLU एक्टिवेशन के साथ सिंगल-लेयर नेटवर्क प्रभावी ढंग से सेटों को अलग करने में विफल रहते हैं, जबकि Hat एक्टिवेशन या दो-लेयर ReLU नेटवर्क के साथ सिंगल-लेयर नेटवर्क मजबूती से प्रदर्शन करते हैं।

महत्व और दावे (Significance and Claims)
शोध पत्र का दावा है कि मोनोटोनिसिटी और सेपरेबिलिटी को इंडक्टिव बायस के रूप में एकीकृत करके, MASNET उन मानक सेट मॉडल्स की तुलना में सेट कंटेनमेंट कार्यों पर प्रदर्शन को काफी बढ़ाता है जिनमें इन संरचनात्मक बाधाओं का अभाव होता है। लेखक MAS फंक्शन को न केवल सेट कंटेनमेंट के उपकरण के रूप में बल्कि सभी यूनिवर्सल मोनोटोन मॉडल्स के निर्माण के लिए एक सामान्य अवधारणा के रूप में देखते हैं। वे सीमाओं को स्वीकार करते हुए कहते हैं कि वीक सेपरेबिलिटी के लिए उनके संभाव्य गारंटी (probabilistic guarantees) रैंडमाइज्ड सेटिंग (पैरामीटर इनिशियलाइजेशन) में लागू होते हैं, और यूनिवर्सैलिटी का परिणाम वर्तमान में केवल परिमित ग्राउंड सेट्स के लिए स्थापित किया गया है। यह कार्य सबग्राफ मैचिंग और अन्य ग्राफ-आधारित कंटेनमेंट समस्याओं में इन सिद्धांतों को लागू करने के लिए भविष्य की दिशाओं का सुझाव देता है।