🤖 machine learning

Bifurcation Models: Learning Set-Valued Solution Maps with Weight-Tied Dynamics

यह शोधपत्र द्विभाजन मॉडल (bifurcation models) प्रस्तुत करता है, जो एक वेट-टाइड डायनामिकल फ्रेमवर्क है जो एक एकल मनमाने ब्रांच के बजाय एक अट्रैक्टर लैंडस्केप को प्रदर्शित करके सेट-वैल्यूड सॉल्यूशन मैप्स सीखता है, जिससे मैनुअल सेलेक्टर्स की अनियमितता से बचा जा सके और फ्रस्ट्रेटेड आइसिंग मॉडल्स जैसी समस्याओं के लिए कई वैध इक्विलिब्रिया की खोज करने में बेहतर प्रदर्शन प्रदर्शित किया जा सके।

मूल लेखक: Caleb Jore, Jialin Liu

प्रकाशित 2026-05-11

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Caleb Jore, Jialin Liu

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को पहेली सुलझाना सिखाने की कोशिश कर रहे हैं। अधिकांश मानक मशीन लर्निंग में, हम यह मान लेते हैं कि हर पहेली के लिए केवल एक ही सही उत्तर होता है। यदि आप रोबोट को कुर्सी की तस्वीर दिखाते हैं, तो वह "कुर्सी" आउटपुट करना सीखता है। यदि आप उसे कुत्ते की तस्वीर दिखाते हैं, तो वह "कुत्ता" आउटपुट करता है। यह तब बहुत अच्छा काम करता है जब केवल एक ही सही उत्तर हो।

लेकिन विज्ञान और इंजीनियरिंग की वास्तविक दुनिया में, कई समस्याएँ एक ऐसी भूलभुलैया की तरह हैं जिसमें कई निकास (exits) होते हैं। एक ही इनपुट (जैसे चुम्बकों की एक विशिष्ट व्यवस्था या एक जटिल मौसम पैटर्न) के दस अलग-अलग, समान रूप से वैध समाधान हो सकते हैं।

"बाइफरकेशन मॉडल्स" (Bifurcation Models) नामक शोध पत्र इस समस्या से निपटता है कि कैसे AI को इन "कई-सही-उत्तरों" वाली स्थितियों को बिना भ्रमित हुए संभालना सिखाया जाए।

समस्या: "मनमाना शिक्षक" (The Arbitrary Teacher)

आमतौर पर, जब वैज्ञानिकों के पास कई समाधानों वाली कोई समस्या होती है, तो वे प्रशिक्षण के लिए उनमें से केवल एक को ही "सही" उत्तर के रूप में चुन लेते हैं। वे कह सकते हैं, "इस विशिष्ट चुंबक सेटअप के लिए, उत्तर समाधान A है," भले ही समाधान B और समाधान C भी उतने ही वैध हों।

लेखकों का तर्क है कि यह एक ऐसे शिक्षक की तरह है जो मनमाने ढंग से यह तय करता है कि स्टॉप साइन के लिए "लाल" एकमात्र सही रंग है, भले ही अलग संदर्भ में "नीला" भी उतना ही काम करता। यदि शिक्षक दिन के आधार पर यादृच्छिक रूप से "लाल" और "नीले" के बीच बदलता रहता है, तो छात्र (AI) भ्रमित हो जाता है। वह एक ऐसे पैटर्न को सीखने की कोशिश करता है जो मौजूद ही नहीं है, जिससे मॉडल कमजोर और त्रुटियों के प्रति संवेदनशील हो जाता है।

समाधान: "मैग्नेट लैंडस्केप" (The Magnet Landscape)

AI को एक ही उत्तर चुनने के लिए मजबूर करने के बजाय, लेखक सोचने का एक नया तरीका प्रस्तावित करते हैं जिसे बाइफरकेशन मॉडल्स कहा जाता है।

कल्पना कीजिए कि AI एक स्थिर कैलकुलेटर नहीं है, बल्कि एक पहाड़ी परिदृश्य (hilly landscape) में लुढ़कती एक गेंद है।

इनपुट: पहाड़ियों का आकार (वह समस्या जिसे आप हल कर रहे हैं)।
आउटपुट: वह स्थान जहाँ गेंद अंततः रुक जाती है (समाधान)।
ट्विस्ट: एक मानक मॉडल में, परिदृश्य में केवल एक घाटी होती है। इस नए मॉडल में, परिदृश्य में कई घाटियाँ (कई स्थिर स्थान जहाँ गेंद रुक सकती है) हैं।

मुख्य नवाचार वेट-टाइड डायनेमिक्स (Weight-Tied Dynamics) है। इसे ऐसे सोचें कि गेंद हर कदम उठाते समय जूतों की एक ही जोड़ी का उपयोग करती है। वह कितने भी कदम चले, वह अपने जूते नहीं बदलती। यह निरंतरता गेंद को पूरे परिदृश्य का पता लगाने की अनुमति देती है।

यदि आप गेंद को पहाड़ी के बाईं ओर से गिराते हैं, तो वह घाटी A में लुढ़क जाती है।
यदि आप उसे दाईं ओर से गिराते हैं, तो वह घाटी B में लुढ़क जाती है।

मॉडल को यह बताने की आवश्यकता नहीं है कि "घाटी A में जाओ।" उसे बस पहाड़ियों का आकार जानने की आवश्यकता है। अपनी शुरुआत (initialization) को बदलकर, मॉडल स्वाभाविक रूप से सभी वैध समाधानों की खोज कर लेता है।

तीन बड़ी खोजें

1. गणितीय रूप से 'स्मूथ' होना संभव है
लेखकों ने सिद्ध किया कि आप इस "बहु-घाटी" वाले परिदृश्य को इस तरह बना सकते हैं कि यह सुचारू (smooth) और अनुमानित हो। भले ही गेंद अलग-अलग जगहों पर समाप्त हो सकती है, लेकिन जिस पथ पर वह चलती है, उसमें अचानक या ऊबड़-खाबड़ बदलाव नहीं आते हैं। यह महत्वपूर्ण है क्योंकि AI तब बहुत बेहतर सीखता है जब नियम सुचारू होते। उन्होंने दिखाया कि यदि आप मॉडल को अपना रास्ता खोजने देते हैं, तो यह "व्यवहार कुशल" रहता है, जबकि इसे एक एकल उत्तर चुनने के लिए मजबूर करने से अक्सर "ऊबड़-खाबड़" नियम बनते हैं जिन्हें सीखना कठिन होता है।

2. "फ्रस्ट्रेटेड मैग्नेट" प्रयोग (Ising Model)
उन्होंने इसका परीक्षण चुम्बकों के एक सिस्टम (Ising models) पर किया जहाँ चुम्बक "फ्रस्ट्रेटेड" हैं—वे विपरीत दिशाओं में होना चाहते हैं, लेकिन ज्यामिति ऐसी है कि सभी का एक साथ खुश होना असंभव है। उन्हें व्यवस्थित करने के कई तरीके हैं जिनसे वे "खुश" (कम ऊर्जा वाले) हो सकें।

पुराना तरीका: AI को कंप्यूटर सॉल्वर द्वारा पाए गए एक विशिष्ट विन्यास (arrangement) की नकल करने के लिए प्रशिक्षित करना। AI उस एक पैटर्न की नकल करना सीखता है लेकिन अन्य को खोजने में विफल रहता है।
नया तरीका: AI को केवल ऊर्जा कम करने के लिए प्रशिक्षित करना। AI, अलग-अलग यादृच्छिक स्थानों से शुरू होकर, स्वाभाविक रूप से कई अलग-अलग वैध व्यवस्थाओं में लुढ़क जाता है। इसने औसतन 13.6 अलग-अलग समाधान खोजे, जबकि पुराने तरीके ने केवल 1 ही पाया।

3. "फेज चेंज" प्रयोग (Allen-Cahn)
उन्होंने फ्लुइड डायनेमिक्स की एक समस्या (Allen-Cahn equation) पर भी परीक्षण किया जहाँ एक पदार्थ अवस्था परिवर्तन (जैसे बर्फ का पानी बनना) करता है। यहाँ, परिदृश्य पेचीदा है।

आश्चर्य: बहु-घाटी वाले मॉडल के बावजूद, यदि आप केवल इसे किसी भी निम्न-ऊर्जा अवस्था को खोजने के लिए कहते हैं, तो यह अक्सर आलसी हो जाता है और हर बार उसी घाटी में लुढ़क जाता है, अन्य को अनदेखा कर देता है।
सुधार: उन्हें एक "विविधता दंड" (diversity penalty) जोड़ने की आवश्यकता थी। इसे ऐसे समझें कि एक कोच गेंद को कहता है, "अरे, हर बार एक ही घाटी में मत जाओ; किसी अलग घाटी को खोजने की कोशिश करो!"
समझौता (Trade-off): उन्होंने एक संतुलन पाया। यदि आप विविधता के लिए बहुत अधिक दबाव डालते हैं, तो समाधान थोड़े कम सटीक हो जाते हैं। यदि आप शुद्ध सटीकता के लिए दबाव डालते हैं, तो आपको केवल एक ही समाधान मिल सकता है। मॉडल वैज्ञानिकों को इस डायल को ट्यून करने की अनुमति देता है: "क्या मुझे सबसे सटीक उत्तर चाहिए, या क्या मैं संभावनाओं की एक विविधता देखना चाहता हूँ?"

निष्कर्ष (The Takeaway)

यह शोध पत्र सुझाव देता है कि जब किसी समस्या के कई सही उत्तर होते हैं, तो हमें AI को केवल एक चुनने के लिए मजबूर नहीं करना चाहिए। इसके बजाय, हमें ऐसे मॉडल बनाने चाहिए जो संभावनाओं के परिदृश्य की तरह कार्य करें। अलग-अलग स्थानों से शुरू करके, मॉडल स्वाभाविक रूप से सभी वैध समाधानों का पता लगा सकता है, बिना किसी इंसान द्वारा यह बताए कि उसे किसे चुनना चाहिए। यह AI को अधिक मजबूत, मनमाने निर्णयों से कम भ्रमित और भौतिक रूप से जो कुछ भी संभव है, उसकी पूरी सीमा खोजने में बेहतर बनाता है।

तकनीकी सारांश: लर्निंग सेट-वैल्यूड सोल्यूशन मैप्स के लिए बिफर्केशन मॉडल्स (Bifurcation Models)

1. समस्या विवरण (Problem Statement)

कई वैज्ञानिक और कॉम्बिनेटरियल समस्याएं, जैसे कि फ्रस्ट्रेटेड स्पिन सिस्टम्स (frustrated spin systems), नॉनलीनर पार्शियल डिफरेंशियल इक्वेशन्स (PDEs), और इनवर्स डिज़ाइन कार्य, एक ही इनपुट के लिए कई सही समाधानों को स्वीकार करती हैं। मानक सुपरवाइज्ड लर्निंग एक फंक्शनल रिलेशनशिप $y^\star = f(x)$ मानकर चलती है, जो मॉडल को एक एकल लेबल की भविष्यवाणी करने के लिए मजबूर करती है। मल्टी-सोल्यूशन सेटिंग्स में, इसके लिए स्वीकार्य समाधानों के सेट $F(x)$ में से एक समाधान शाखा (solution branch) का चयन करना आवश्यक होता है।

यह शोध पत्र इस दृष्टिकोण में एक गंभीर दोष की पहचान करता है: प्रशिक्षण लेबल उत्पन्न करने के लिए उपयोग किया जाने वाला "सेलेक्टर" (जैसे कि सॉल्वर इनिशियलाइजेशन, सिमेट्री-ब्रेकिंग कन्वेंशन, या मनमाने विकल्प) अक्सर छिपा हुआ, मनमाना और विच्छिन्न (discontinuous) होता है। ऐसे सेलेक्टर की नकल करने के लिए न्यूरल नेटवर्क को मजबूर करना लर्निंग समस्या में कृत्रिम अनियमितता (artificial irregularity) इंजेक्ट करता है, जिससे इसे मूल समाधान सेट की तुलना में सीखना कठिन हो सकता है। मुख्य प्रश्न यह है कि क्या मल्टी-सोल्यूशन समस्याओं को एक एकल शाखा चुनने के बजाय सीधे सेट-वैल्यूड मैप $F: K \Rightarrow Y$ को सीखकर संबोधित किया जाना चाहिए।

2. कार्यप्रणाली: वेट-टाइड बिफर्केशन मॉडल्स (Weight-Tied Bifurcation Models)

लेखक बिफर्केशन मॉडल्स का प्रस्ताव करते हैं, जो वेट-टाइड पैरामीटराइज्ड डायनेमिक्स पर आधारित एक ढांचा है। $x \to y$ मैपिंग करने वाले फीड-फॉरवर्ड नेटवर्क के बजाय, मॉडल एक पुनरावृत्ति अपडेट नियम (iterative update rule) को परिभाषित करता है:
$y_{t+1} = g_\theta(y_t, x)$
जहाँ पैरामीटर्स $\theta$ सभी टाइम स्टेप्स $t$ में साझा (shared) होते हैं। मॉडल एक एकल आउटपुट के बजाय एक अट्रैक्टर लैंडस्केप (attractor landscape) का प्रतिनिधित्व करता है। एक निश्चित इनपुट $x$ के लिए, अलग-अलग इनिशियलाइजेशन $y_0$ सेट $F(x)$ के भीतर विभिन्न स्थिर साम्यावस्थाओं (stable equilibria/branches) की ओर अभिसरित (converge) हो सकते हैं।

अट्रैक्टर सेट को इस प्रकार परिभाषित किया गया है:
$A_\theta(x) := \left\{ \lim_{t \to \infty} g_\theta^t(y_0, x) : y_0 \in Y \right\}$

कार्यप्रणाली तीन विशिष्ट प्रश्नों का समाधान करती है:

प्रतिनिधित्व (Representation): क्या वेट-टाइड डायनेमिक्स रेगुलर (Lipschitz) शाखाओं वाले व्यापक सेट-वैल्यूड मैप्स का प्रतिनिधित्व कर सकते हैं?
लेबल चयन (Label Selection): क्या डायनेमिक्स के माध्यम से सेट-वैल्यूड मैप को सीखना, मैन्युअल रूप से एक एकल शाखा चुनने की तुलना में बेहतर रेगुलैरिटी प्रदान करता है?
डिस्कवरी (Discovery): क्या ये डायनेमिक्स प्रशिक्षण के दौरान स्पष्ट ब्रांच लेबल के बिना कई समाधानों की खोज कर सकते हैं?

3. प्रमुख योगदान (Key Contributions)

सैद्धांतिक आधार (Theoretical Foundations)

सेट-वैल्यूड मैप्स का प्रतिनिधित्व: लेखक सिद्ध करते हैं कि ब्रॉड सेट-वैल्यूड मैप्स, जिनमें लोकली लिप्सचिट्ज़ (locally Lipschitz) शाखाएं होती हैं, उन्हें रेगुलर वेट-टाइड इक्विलिब्रियम डायनेमिक्स द्वारा प्रदर्शित किया जा सकता है। विशेष रूप से, वे एक ऑपरेटर $g$ का निर्माण करते हैं ताकि लगभग हर इनिशियलाइजेशन $y_0$ के लिए, प्रक्षेपवक्र (trajectory) $F(x)$ में एक वैध शाखा की ओर अभिसरित हो, और $y_0$ को बदलने से संपूर्ण सेट प्राप्त हो सके। यह गैर-कॉम्पैक्ट डोमेन पर भी लागू होता है, बशर्ते कि "अनस्टेबल कोलैप्स सेट" (जहाँ शाखाओं के इंटरसेक्शन की टोपोलॉजी बदलती है) को बाहर रखा जाए।
प्रेरित सेलक्टर्स की रेगुलैरिटी (Regularity of Induced Selectors): शोध पत्र दर्शाता है कि इक्विलिब्रियम डायनेमिक्स द्वारा प्रेरित सेलक्टर्स (एक $y_0$ को फिक्स करना और $x$ को बदलना) लगभग हर जगह (almost everywhere) लोकली लिप्सचिट्ज़ होते हैं। इसके विपरीत, मैन्युअल रूप से निर्मित सेलक्टर्स (प्रत्येक $x$ के लिए एक शाखा चुनना) मनमाने ढंग से विच्छिन्न (discontinuous) हो सकते हैं। थ्योरम 2.4 दिखाता है कि किसी भी वांछित विच्छिन्नता के माप $a$ के लिए, एक सेलेक्टर बनाया जा सकता है जिसमें ठीक उतना ही विच्छिन्नता का माप हो, जो मानक पाइपलाइनों में कृत्रिम शोर (artificial noise) के जोखिम को उजागर करता है।

अनुभवजन्य परिणाम (Empirical Results)

शोध पत्र इन दावों को दो प्राथमिक प्रयोगात्मक डोमेन के माध्यम से सत्यापित करता है:

1. फ्रस्ट्रेटेड आइसिंग मॉडल्स (लेबल के बिना डिस्कवरी)

सेटअप: मॉडल एंटीफेरोमैग्नेटिक आइसिंग ग्राफ्स के लिए लो-एनर्जी स्पिन कॉन्फ़िगरेशन खोजने के लिए सीखता है, जो एक डिजेनरेट एनर्जी लैंडस्केप वाली समस्या है।
प्रशिक्षण: एक अनसुपरवाइज्ड ऑब्जेक्टिव सीधे फिजिकल एनर्जी फंक्शनल को मिनिमाइज करता है, बिना किसी ब्रांच लेबल के।
निष्कर्ष:
- ऊर्जा-आधारित प्रशिक्षित रिकरेंट GNNs स्वाभाविक रूप से विविध लो-एनर्जी समाधानों (औसत ~13.6 समाधान प्रति ग्राफ) की खोज करते हैं।
- एक एकल सॉल्वर-चयनित लेबल (Guroy) पर प्रशिक्षित मॉडल एक एकल समाधान की ओर कोलैप्स हो जाते हैं और काफी अधिक टेस्ट एनर्जी और परटर्बेशन के प्रति संवेदनशीलता प्रदर्शित करते हैं।
- एनर्जी-बेस्ड ट्रेनिंग अधिक मजबूत सॉल्वर प्रदान करती है जो किसी विशिष्ट सॉल्वर के आउटपुट की अनियमितताओं को फिट करने से बचते हैं।

2. एलन–कैन समीकरण (Allen–Cahn Equation) (विविधता बनाम सटीकता)

सेटअप: एलन–कैन PDE को हल करना, जो एक ही फोर्सिंग फील्ड के लिए कई स्टेडी स्टेट्स को स्वीकार करता है।
निष्कर्ष:
- स्वचालन (Automaticity): आइसिंग केस के विपरीत, केवल ऊर्जा न्यूनीकरण (energy minimization) अपने आप विविधतापूर्ण समाधानों की ओर नहीं ले जाता है; मॉडल अक्सर कई इक्विलिब्रिया रखने की क्षमता के बावजूद एक प्रमुख शाखा की ओर कोलैप्स हो जाता है।
- स्पष्ट विविधता (Explicit Diversity): लॉस फंक्शन में एक विविधता-बढ़ाने वाले टर्म (diversity-promoting term) को शामिल करने से कई शाखाओं को सफलतापूर्वक पुनः प्राप्त किया गया।
- ट्रेडऑफ (Tradeoff): यहाँ एक स्पष्ट सटीकता–विविधता ट्रेडऑफ (accuracy–diversity tradeoff) है। भौतिक सटीकता (ऊर्जा-मात्र) को प्राथमिकता देने वाले मॉडल सबसे कम रेसिड्यूल्स प्राप्त करते हैं लेकिन केवल एक समाधान पाते हैं। विविधता के वजन (diversity weight) को बढ़ाने से अधिक विशिष्ट समाधान मिलते हैं, लेकिन उच्च रेसिड्यूल एरर और कम अनुकूल ऊर्जा मानों की कीमत पर।

4. महत्व और दावे (Significance and Claims)

यह शोध पत्र दावा करता है कि बिफर्केशन मॉडल्स मल्टी-सोल्यूशन समस्याओं के लिए एक सिद्धांत-आधारित विकल्प प्रदान करते हैं। सेट-वैल्यूड मैप को डायनेमिकल अट्रैक्टर्स के रूप में प्रस्तुत करके, यह दृष्टिकोण:

कृत्रिम अनियमितता से बचता है: यह मनमाने लेबल चयन की आवश्यकता को समाप्त करता है, जो ऐसे विच्छिन्नता (discontinuities) पेश कर सकता है जो सामान्यीकरण (generalization) में बाधा डालते हैं।
अनसुपरवाइज्ड डिस्कवरी को सक्षम बनाता है: अनुकूल परिस्थितियों में (जैसे फ्रस्ट्रेटेड आइसिंग मॉडल्स), डायनेमिक्स स्पष्ट पर्यवेक्षण (supervision) के बिना कई वैध भौतिक समाधानों की खोज कर सकते हैं।
ट्यूनेबल कंट्रोल प्रदान करता है: उन मामलों में जहाँ विविधता स्वचालित नहीं है (जैसे एलन–कैन), यह ढांचा अभ्यासकर्ताओं को भौतिक सटीकता और समाधान विविधता के बीच ट्रेडऑफ को स्पष्ट रूप से ट्यून करने की अनुमति देता है।

लेखक इस कार्य को एक नए आर्किटेक्चर के रूप में नहीं, बल्कि मल्टी-सोल्यूशन समस्याओं को दर्शाने और सीखने के तरीके में एक मौलिक बदलाव के रूप में प्रस्तुत करते हैं, जो "एक शाखा चुनने" से "लैंडस्केप को सीखने" की ओर बढ़ता है।