🤖 machine learning

Symmetric Equilibrium Propagation for Thermodynamic Diffusion Training

यह शोध पत्र "सिमेट्रिक इक्विलिब्रियम प्रोपेगेशन" (Symmetric Equilibrium Propagation) का प्रस्ताव करता है, जो एक स्थानीय, ऊर्जा-कुशल प्रशिक्षण पद्धति है जो एनालॉग सबस्ट्रेट्स को ग्रेडिएंट बायस को कम करने के लिए सिमेट्रिक नजिंग (symmetric nudging) का उपयोग करके सीधे ऑन-चिप डिफ्यूजन मॉडल को प्रशिक्षित करने की अनुमति देती है, जिससे जीपीयू (GPU) की तुलना में $10^3$ से $10^4$ गुना अनुमानित ऊर्जा लाभ प्राप्त होता है।

मूल लेखक: Aditi De

प्रकाशित 2026-04-28

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Aditi De

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक विशाल, जटिल ऑर्केस्ट्रा को एक आदर्श सिम्फनी बजाना सिखाने की कोशिश कर रहे हैं।

वर्तमान में, हम यह एक "डिजिटल कंडक्टर" (जैसे कि GPU) का उपयोग करके करते हैं। यह कंडक्टर अविश्वसनीय रूप से सटीक है, लेकिन वह एक सूक्ष्म प्रबंधक (micromanager) भी है। वायलिन विभाग की एक छोटी सी गलती को ठीक करने के लिए, कंडक्टर को सभी को रोकना पड़ता है, हर एक संगीतकार की हरकत का एक विशाल स्प्रेडशीट चलाना पड़ता है, यह गणना करनी पड़ती है कि उस एक गलती ने बांसुरी (flute) को कैसे प्रभावित किया, और फिर हर व्यक्ति को एक मेमो भेजना पड़ता है। इसमें बिजली और समय की एक अपार मात्रा खर्च होती है।

यह शोध पत्र प्रस्तावित करता है कि ऑर्केस्ट्रा को एक सूक्ष्म प्रबंधक के बजाय "सामंजस्य के भौतिकी" (The Physics of Harmony) का उपयोग करके कैसे सिखाया जाए।

1. समस्या: ऊर्जा का भूखा (The Energy Hog)

आधुनिक AI (विशेष रूप से "डिफ्यूजन मॉडल", जो चित्र और वीडियो बनाते हैं) को 'बैकप्रोपैगेशन' (backpropagation) नामक एक प्रक्रिया का उपयोग करके प्रशिक्षित किया जाता है। इसे एक विशाल, वैश्विक "त्रुटि-सुधार" (error-correction) लूप के रूप में समझें। इसके लिए कंप्यूटर चिप के आर-पार भारी मात्रा में डेटा को आगे-पीछे ले जाने की आवश्यकता होती है। यह "डेटा ट्रैफिक जाम" ही है जो अत्यधिक बिजली की खपत करता है—इतनी कि पूरे शहरों को बिजली दी जा सके।

2. समाधान: "कंपन करती हुई डोरी" विधि (Equilibrium Propagation)

डिजिटल कंडक्टर द्वारा मेमो भेजने के बजाय, शोधकर्ता एक ऐसे भौतिक तंत्र का सुझाव देते हैं जो एक स्थान पर "स्थिर" (settle) हो जाता है, जैसे कि गिटार की डोरी या जेली का एक कटोरा।

कल्पना कीजिए कि आपके पास जेली का एक कटोरा है। यदि आप इसे चुभाते हैं, तो यह डगमगाती है। यदि आप इसे एक विशिष्ट तरीके से चुभाते हैं, तो यह अंततः एक नए आकार में स्थिर हो जाती है।

"फ्री फेज" (The Free Phase): आप जेली को स्वाभाविक रूप से स्थिर होने देते हैं। यह AI के "सोचने" या "कल्पना करने" का प्रतिनिधित्व करता है।
"द नज़" (The Nudge): आप जेली को एक छोटा सा, कोमल झटका (एक "नज़") देते हैं ताकि उसे बताया जा सके, "हे, तुम लक्ष्य से थोड़ा अलग हो।"
सीखना (The Learning): यह देखकर कि झटका देने से पहले और झटका देने के बाद जेली कैसे स्थिर हुई, सिस्टम यह पता लगा सकता है कि अगली बार बेहतर होने के लिए उसे अपना आकार कैसे बदलना चाहिए।

जादू यह है कि सीखना स्थानीय स्तर पर होता है। जेली के प्रत्येक हिस्से को केवल यह जानने की आवश्यकता है कि उसके निकटतम पड़ोसी क्या कर रहे हैं। यहाँ कोई वैश्विक कंडक्टर स्प्रेडशीट नहीं चला रहा है।

3. गुप्त सूत्र: "सिमेट्रिक नजिंग" (Symmetric Nudging)

शोधकर्ताओं ने पाया कि एक समस्या है: यदि आप जेली को केवल एक दिशा में धकेलते हैं, तो गणित "धुंधला" (इसे 'बायस' कहा जाता है) हो जाता है। यह एक मेज को संतुलित करने के प्रयास जैसा है जहाँ आप केवल एक पैर पर दबाव डालते हैं—आप इसे गलत दिशा में झुका सकते हैं!

उन्होंने इसे "सिमेट्रिक नजिंग" के साथ हल किया। केवल एक धक्का देने के बजाय, वे दो छोटे, विपरीत धक्के (एक "धक्का" और एक "खिंचाव") देते हैं। यह धुंधलेपन को रद्द कर देता है और सीखने को अविश्वसनीय रूप से सटीक और तीक्ष्ण बनाता है। यह अपने काम की जाँच करने जैसा है कि एक वाक्य को आगे से पढ़ें और फिर पीछे से पढ़ें ताकि यह सुनिश्चित हो सके कि वह अभी भी सही अर्थ रखता है।

4. "बाइलीनियर" शॉर्टकट: कुशल वायरिंग

एक सामान्य AI में, हर "संगीतकार" एक तार द्वारा दूसरे संगीतकार से जुड़ा होता है। यह वायरिंग का एक ऐसा "स्पैगेटी जाल" बनाता है जिसे भौतिक रूप से बनाना असंभव है।

शोधकर्ता "बाइलीनियर कपलिंग" (Bilinear Coupling) नामक एक तरकीब का उपयोग करते हैं। अरबों तारों के बजाय, वे एक चतुर गणितीय शॉर्टकट का उपयोग करते हैं जो विभिन्न समूहों को कुछ "साझा चैनलों" के माध्यम से एक-दूसरे को प्रभावित करने की अनुमति देता है। यह प्रत्येक अनुभाग के नेताओं के एक छोटे समूह जैसा है जो एक साझा इंटरकॉम के माध्यम से संवाद करते हैं, बजाय इसके कि प्रत्येक व्यक्ति के पास सभी के लिए एक निजी फोन लाइन हो।

5. बड़ा परिणाम: 1,000x से 10,000x अधिक कुशल

क्योंकि यह विधि (गणित करने के लिए) भौतिकी के प्राकृतिक नियमों (ऊष्मागतिकी/thermodynamics) का उपयोग करती है, इसलिए इसे प्रकृति के विरुद्ध लड़ने की आवश्यकता नहीं है; यह प्रकृति के साथ बहती है।

शोध पत्र अनुमान लगाता है कि यह विधि वर्तमान तरीके की तुलना में 1,000 से 10,000 गुना अधिक ऊर्जा-कुशल हो सकती है।

संक्षेप में: हम AI को "एक विशाल डिजिटल कैलकुलेटर पर हर एक गणितीय समीकरण की गणना करके सिखाने" से बदलकर "AI को सामंजस्य की एक भौतिक अवस्था में स्थिर होने देकर सिखाने" की ओर बढ़ रहे हैं। यह एक अरब छोटे स्क्रू के साथ गगनचुंबी इमारत बनाने बनाम गुरुत्वाकर्षण और तनाव के माध्यम से इमारत को अपना स्वयं का संतुलन खोजने देने के बीच का अंतर है।

तकनीकी सारांश: थर्मोडायनामिक डिफ्यूजन ट्रेनिंग के लिए सिमेट्रिक इक्विलिब्रियम प्रोपेगेशन (Symmetric Equilibrium Propagation)

1. समस्या विवरण

स्कोर-आधारित डिफ्यूजन मॉडल का प्रशिक्षण वर्तमान में कम्प्यूटेशनल रूप से अस्थिर है, जिसका मुख्य कारण डिजिटल एक्सीलरेटरों पर ग्लोबल ग्रेडिएंट रूटिंग (बैकप्रोपैगेशन) की विशाल ऊर्जा खपत है। जबकि पूर्व शोध ने यह प्रदर्शित किया था कि इन्फरेंस चरण (रिवर्स डिफ्यूजन प्रक्रिया) को ओवरडैम्प्ड लैंग्विन डायनेमिक्स (overdamped Langevin dynamics) का उपयोग करके कम-शक्ति वाले, द्विपक्षीय रूप से युग्मित (bilinearly-coupled) एनालॉग सबस्ट्रेट्स पर भौतिक रूप से साकार किया जा सकता है, लेकिन ट्रेनिंग लूप एक बाधा बना हुआ था। विशेष रूप से, इन मॉडलों को उसी एनालॉग सबस्ट्रेट पर स्थानीय रूप से प्रशिक्षित करने का कोई ज्ञात तरीका नहीं था बिना ग्रेडिएंट्स को बाहरी डिजिटल प्रोसेसर तक वापस रूट किए, जो एनालॉग हार्डवेयर के ऊर्जा लाभ को समाप्त कर देता।

2. कार्यप्रणाली (Methodology)

यह शोध पत्र एक सिमेट्रिक इक्विलिब्रियम प्रोपेगेशन (EqProp) फ्रेमवर्क प्रस्तावित करता है जो एक द्विपक्षीय रूप से युग्मित (bilinearly-coupled) ऊर्जा परिदृश्य के लिए अनुकूलित है।

सबस्ट्रेट आर्किटेक्चर: मॉडल एक द्विपक्षीय रूप से युग्मित ऊर्जा फलन $E_\theta(x)$ का उपयोग करता है, जहाँ डेंस स्किप कनेक्शन (जो U-Nets में सामान्य हैं) को लो-रैंक इंटर-मॉड्यूल कपलिंग ( $W_{mm'} = U_{mm'}V_{mm'}^\top$ ) द्वारा प्रतिस्थापित किया गया है। यह वायरिंग जटिलता को $O(D^2)$ से घटाकर $O(Dk)$ कर देता है।
EqProp प्रोटोकॉल: बैकप्रोपैगेशन के बजाय, सिस्टम दो चरणों वाली रिलैक्सेशन प्रक्रिया का उपयोग करता है:
1. फ्री-फेज (Free-phase): सिस्टम अनपर्टर्बड ऊर्जा $E_\theta$ के तहत एक स्थिर इक्विलिब्रियम अवस्था $x_0^\star$ तक रिलैक्स होता है।
2. नज्ड-फेज (Nudged-phase): आउटपुट यूनिट्स पर एक कमजोर "नज" ( $\beta$ ) एक कॉस्ट फंक्शन $C(x_O)$ के माध्यम से लागू किया जाता है, और सिस्टम एक नई अवस्था $x_\beta^\star$ तक रिलैक्स होता है।
सिमेट्रिक नजिंग (Symmetric Nudging): बायस (bias) को कम करने के लिए, लेखक एक सिमेट्रिक एस्टिमेटर लागू करते हैं जो पॉजिटिव नज ( $+\beta$ ) और नेगेटिव नज ( $-\beta$ ) दोनों से प्राप्त ग्रेडिएंट्स का औसत निकालता है।
गणितीय ढांचा: लेखक इम्पलिसिट फंक्शन थ्योरम (implicit function theorem) और ऊर्जा परिदृश्य के तीसरे क्रम के विस्तार (third-order expansions) का उपयोग करके भौतिक रिलैक्सेशन और वास्तविक डिनोइजिंग स्कोर-मैचिंग ग्रेडिएंट के बीच संबंध को व्युत्पन्न करते हैं।

3. प्रमुख योगदान

यह शोध पत्र चार प्राथमिक सैद्धांतिक प्रमाण (Theorems) और एक व्यावहारिक कोरोलरी (Corollary) प्रदान करता है:

थ्योरम 1 (Unbiasedness): सिद्ध करता है कि शून्य नज ( $\beta \to 0$ ) की सीमा में, EqProp डिनोइजिंग स्कोर-मैचिंग ग्रेडिएंट का एक अनबायस्ड एस्टिमेटर प्रदान करता है।
थ्योरम 2 (Bias Bound): स्थापित करता है कि परिमित (finite) नजिंग के लिए, बायस को सबस्ट्रेट स्टिफनेस (stiffness), स्थानीय वक्रता (curvature), और लॉस-ग्रेडिएंट नॉर्म द्वारा नियंत्रित किया जाता है।
कोरोलरी 3 (Bilinear Simplification): एक महत्वपूर्ण निष्कर्ष जो दिखाता है कि कपलिंग की द्विपक्षीय संरचना के कारण कपलिंग-पैरामीटर अपडेट के लिए एक अग्रणी तृतीय-क्रम बायस टर्म (leading third-order bias term) स्वतः ही शून्य हो जाता है।
थ्योरम 4 (Symmetric Upgrade): सिद्ध करता है कि सिमेट्रिक नजिंग अग्रणी-क्रम बायस को $O(\beta)$ से सुधारकर $O(\beta^2)$ कर देती है, जिससे परिमित नज के लिए सटीकता काफी बढ़ जाती है।
इष्टतम ऑपरेटिंग पॉइंट (Optimal Operating Point): बायस और वेरिएंस के बीच संतुलन बनाकर इष्टतम नजिंग गुणांक ( $\beta^\dagger_{sym}$ ) का एक क्लोज्ड-फॉर्म समाधान प्रदान करता है।

4. परिणाम

इस कार्य को एक द्विपक्षीय रूप से युग्मित सबस्ट्रेट पर संख्यात्मक सिमुलेशन के माध्यम से मान्य किया गया:

ग्रेडिएंट अलाइनमेंट: पाया गया कि वन-साइडेड (one-sided) EqProp परिमित रिलैक्सेशन त्रुटियों के कारण एंटी-कोरिलेटेड ग्रेडिएंट्स (कोसाइन सिमिलरिटी $\approx -0.73$ ) उत्पन्न करता है। इसके विपरीत, सिमेट्रिक EqProp ने सुव्यवस्थित ग्रेडिएंट्स (कोसाइन सिमिलरिटी $\approx +0.77$ ) दिए, जो भौतिक हार्डवेयर के लिए सिमेट्रिक दृष्टिकोण की आवश्यकता की पुष्टि करता है।
बायस स्केलिंग: एक्सपेरिमेंटल लॉग-लॉग प्लॉट्स ने सैद्धांतिक भविष्यवाणी की पुष्टि की: वन-साइडेड EqProp $O(\beta)$ पर स्केल करता है जबकि सिमेट्रिक EqProp $O(\beta^2)$ पर स्केल करता है।
ट्रेनिंग डायनेमिक्स: सिमेट्रिक EqProp ने लॉस ट्राजेक्टरीज को सफलतापूर्वक कम किया, जिसमें ट्रेनिंग प्रक्रिया के दौरान ग्रेडिएंट अलाइनमेंट $0.6 $से सुधरकर$ 0.9$ हो गया।
ऊर्जा दक्षता: फिजिकल-यूनिट अकाउंटिंग एक मैच किए गए GPU बेसलाइन की तुलना में प्रति ट्रेनिंग स्टेप $10^3$ से $10^4\times$ ऊर्जा लाभ का अनुमान लगाती है।

5. महत्व

यह कार्य जेनरेटिव AI के लिए थर्मोडायनामिक कंप्यूटिंग के चक्र को "पूरा" (closes the loop) करता है। एक स्थानीय, रीडआउट-ओनली ट्रेनिंग नियम प्रदान करके जो सबस्ट्रेट के लो-रैंक कपलिंग को सुरक्षित रखता है, लेखकों ने एक ऐसे पथ की ओर कदम बढ़ाया है जहाँ इन्फरेंस और ट्रेनिंग दोनों अत्यंत कम-शक्ति वाले एनालॉग हार्डवेयर पर हो सकते हैं। यह फ्रेमवर्क सबस्ट्रेट-स्वतंत्र (substrate-agnostic) है और उन ऊर्जा-गहन डिजिटल बैकप्रोपैगेशन का एक स्केलेबल विकल्प प्रदान करता है जो वर्तमान में फ्रंटियर डिफ्यूजन मॉडल्स के लिए आवश्यक है।