🤖 AI

Boundary Mass and the Soft-to-Hard Limit in Mixture-of-Experts

यह शोधपत्र स्थापित करता है कि ज़ीरो-टेम्परेचर लिमिट में सॉफ्टमैक्स-रूटेड मिक्सचर-ऑफ़-एक्सपर्ट्स मॉडल्स का सिंगुलर व्यवहार रूटिंग इंटरफेस के पास स्थित "बाउंड्री मास" द्वारा नियंत्रित होता है, जो मात्रात्मक जोखिम सीमाएँ (क्वांटिटेटिव रिस्क बाउंड्स), $\Gamma$ -कन्वर्जेंस परिणाम, और टीचर-स्टूडेंट सेटिंग्स में लैंडस्केप ट्रांसफर और सिमेट्री ब्रेकिंग के अंतर्दृष्टि प्रदान करता है।

मूल लेखक: Reza Rastegar

प्रकाशित 2026-05-06

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Reza Rastegar

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक व्यस्त कॉल सेंटर चला रहे हैं। आपके पास विशेषज्ञों की एक टीम है (जिन्हें हम "विशेषज्ञ" कह सकते हैं) और एक स्मार्ट डिस्पैचर (जिसे "राउटर" कहा जाता है) जो यह तय करता है कि आने वाली प्रत्येक कॉल को कौन सा विशेषज्ञ संभालेगा।

वास्तविक दुनिया में, यह डिस्पैचर आमतौर पर बहुत निर्णायक होता है। यदि कॉल "बिलिंग" के बारे में है, तो यह सीधे बिलिंग विशेषज्ञ के पास जाती है। यदि यह "टेक सपोर्ट" के बारे में है, तो यह टेक विशेषज्ञ के पास जाती है। यह एक हार्ड रूटिंग (Hard Routing) प्रणाली है: स्पष्ट सीमाएँ, कोई भ्रम नहीं।

हालाँकि, आधुनिक AI मॉडल में, डिस्पैचर अक्सर थोड़ा हिचकिचाता है। यह निर्णय लेने के लिए एक "तापमान" (temperature) सेटिंग का उपयोग करता है।

उच्च तापमान (High Temperature): डिस्पैचर अनिर्णायक है। वह बिलिंग कॉल को बिलिंग विशेषज्ञ के पास भेज सकता है (80% संभावना) लेकिन सुरक्षा के तौर पर कॉल का एक छोटा हिस्सा (20% संभावना) टेक विशेषज्ञ को भी दे सकता है। यह सॉफ्ट रूटिंग (Soft Routing) है।
कम तापमान (Low Temperature): डिस्पैचर अधिक निर्णायक हो जाता है। जैसे-जैसे तापमान शून्य की ओर गिरता है, 20% की संभावना लगभग समाप्त हो जाती है, और सिस्टम एक निर्णायक हार्ड रूटिंग सिस्टम की तरह दिखने लगता है।

समस्या:
गणितज्ञों को पता था कि जैसे-जैसे तापमान कम होता है, सॉफ्ट सिस्टम को बिल्कुल हार्ड सिस्टम की तरह व्यवहार करना चाहिए। लेकिन एक पेच है। क्या होता है जब कोई कॉल सीमा पर होती है? क्या होगा यदि कोई कॉल आधी बिलिंग और आधी टेक से संबंधित है? बहुत कम तापमान के बावजूद, सॉफ्ट सिस्टम अभी भी कॉल को दो विशेषज्ञों के बीच विभाजित कर सकता है, जबकि हार्ड सिस्टम एक एकल विकल्प चुनने के लिए मजबूर करता है।

यह शोध पत्र पूछता है: यह "सीमावर्ती भ्रम" (borderline confusion) वास्तव में मॉडल के प्रदर्शन को कितना नुकसान पहुँचाता है?

मुख्य खोज: "धुंधली सीमा" (The Foggy Border)

लेखकों ने पाया कि भ्रम हर जगह नहीं होता है। यह केवल निर्णय रेखाओं के ठीक आसपास एक बहुत ही पतली, "धुंधली" परत में होता है जहाँ विशेषज्ञों के क्षेत्र मिलते हैं।

उपमा: एक मानचित्र की कल्पना करें जहाँ उत्तर और दक्षिण क्षेत्र एक नदी द्वारा अलग किए गए हैं। अधिकांश भूमि स्पष्ट रूप से उत्तर या स्पष्ट रूप से दक्षिण है। लेकिन नदी के किनारे एक संकीर्ण पट्टी में धुंध है जहाँ यह पहचानना कठिन है कि आप किस ओर हैं।
निष्कर्ष: शोध पत्र सिद्ध करता है कि इस धुंधली पट्टी में गिरने वाले डेटा का "द्रव्यमान" (या प्रायिकता/probability) बहुत कम है। यह सीधे तौर पर उस पट्टी की चौड़ाई के समानुपाती है। जैसे-जैसे तापमान गिरता है, पट्टी पतली होती जाती है, और भ्रमित होने वाले डेटा की मात्रा रैखिक रूप से (linearly) घटती जाती है।
सीख: सॉफ्ट और हार्ड सिस्टम के बीच का अंतर पूरी तरह से इस पतली धुंधली परत द्वारा नियंत्रित होता है। बाकी दुनिया (स्पष्ट उत्तर और दक्षिण) पूरी तरह से ठीक काम करती है।

AI प्रशिक्षण के लिए इसका क्या अर्थ है

यह शोध पत्र इस ज्यामितीय अंतर्दृष्टि का उपयोग दो प्रमुख बिंदुओं को समझाने के लिए करता है:

1. "हार्ड" लक्ष्य की ओर "स्मूथ" मार्ग
लेखक सिद्ध करते हैं कि यदि आप धीरे-धीरे तापमान कम करते हैं (सिस्टम को ठंडा करते हैं), तो सॉफ्ट मॉडल का प्रदर्शन सॉफ्ट मॉडल के प्रदर्शन में सुचारू रूप से परिवर्तित (converge) हो जाता है। यह कोई अराजक उछाल नहीं है; यह एक स्थिर फिसलन है।

गारंटी: वे इस फिसलन के लिए एक गणितीय "गति सीमा" (speed limit) प्रदान करते हैं। वे दिखाते हैं कि एक हार्ड राउटर के बजाय सॉफ्ट राउटर का उपयोग करने से उत्पन्न त्रुटि छोटी और अनुमानित है, बशर्ते निर्णय रेखाएं अजीब तरह से सपाट या अव्यवized न हों।

2. AI मॉडल विशेषज्ञता क्यों सीखते हैं
AI के सबसे बड़े रहस्यों में से एक यह है कि: एक मॉडल यह कैसे तय करता है कि किस कार्य को कौन सा विशेषज्ञ संभालना चाहिए? यदि आप एक ऐसे मॉडल से शुरू करते हैं जहाँ सभी विशेषज्ञ समान हैं और राउटर अनिर्णायक है, तो वह सही विभाजन को कैसे समझेगा?

शोध पत्र एक "शिक्षक-छात्र" (Teacher-Student) स्पष्टीकरण देता है:

शिक्षक: एक पूर्ण, पूर्व-मौजूद मानचित्र कि किसे क्या करना चाहिए (वह "हार्ड" सत्य)।
छात्र: वह AI मॉडल जो सीखने की कोशिश कर रहा है।
तंत्र: शोध पत्र दिखाता है कि यदि "हार्ड" मानचित्र में एक स्पष्ट, स्थिर संरचना है, तो "सॉफ्ट" मॉडल (कम तापमान पर) स्वाभाविक रूप से उस संरचना को विरासत में प्राप्त कर लेगा।
"सिमेट्री ब्रेकिंग" (Symmetry Breaking) प्रयोग: लेखकों ने एक सरल दो-विशेषता वाले मॉडल के साथ एक विशिष्ट गणितीय प्रयोग चलाया। उन्होंने दिखाया कि यदि विशेषज्ञों के पास उनके कौशल में थोड़ी सी भी आकस्मिक भिन्नता है, तो राउटर (भले ही वह संतुलित होने के लिए बना हो) सहज रूप से सही निर्णय रेखा की ओर झुक जाएगा। यह एक सपाट पहाड़ी पर रखी गेंद की तरह है; यदि आप इसे थोड़ा सा धकेलते हैं, तो यह सही तरफ लुढ़क जाती है। "धुंधली सीमा" वह स्थान है जहाँ यह धक्का काम करता है, और गणित सिद्ध करता है कि गेंद सही दिशा में ही लुढ़केगी।

यह शोध पत्र क्या दावा नहीं करता

सीमाओं को स्पष्ट करने के लिए:

यह वादा नहीं करता है कि यह सभी AI प्रशिक्षण समस्याओं को हल कर देगा।
यह इंजीनियरों के कोड करने के लिए कोई नया एल्गोरिदम प्रदान नहीं करता है।
यह यह दावा नहीं करता कि सभी AI परिदृश्य (landscapes) आसान हैं।
यह पूरी तरह से इस बात पर केंद्रित है कि "सॉफ्ट" और "हार्ड" सिस्टम एक-दूसरे से कैसे संबंधित हैं, इसकी गणितीय ज्यामिति पर।

संक्षेप में

यह शोध पत्र एक ऐसे मानचित्रकार की तरह है जो देशों के बीच की धुंधली सीमाओं का अध्ययन कर रहा है। वे सिद्ध करते हैं कि:

धुंध बहुत पतली है।
धुंध के कारण होने वाला भ्रम छोटा और अनुमानित है।
यदि आपके पास एक स्पष्ट मानचित्र ("हार्ड" समाधान) है, तो एक थोड़ा धुंधला मानचित्र ("सॉफ्ट" समाधान) अंततः उसी आकार में स्थिर हो जाएगा, बशर्ते धुंध बहुत घनी न हो।
यह "धुंधली सीमा" वास्तव में वह इंजन है जो AI मॉडल को विशेषज्ञता सीखने में मदद करती है, न कि वह बग जो उनके सीखने को रोकता है।

यह शोध पत्र अनिवार्य रूप से हमें एक पैमाना देता है जिससे हम ठीक से माप सकें कि हम कितनी "सॉफ्टनेस" (कोमलता) को सहन कर सकते हैं इससे पहले कि हमारा AI मॉडल अपना रास्ता भटकने लगे, और यह हमें आश्वस्त करता है कि अधिकांश व्यावहारिक मामलों के लिए, "सॉफ्ट" संस्करण, "हार्ड" सत्य तक पहुँचने का एक सुरक्षित और विश्वसनीय मार्ग है।

तकनीकी सारांश: बाउंड्री मास और मिक्सचर-ऑफ-एक्सपर्ट्स में सॉफ्ट-टू-हार्ड लिमिट

1. समस्या विवरण (Problem Statement)

मिक्सचर-ऑफ-एक्सपर्ट्स (MoE) मॉडल इनपुट डेटा के आधार पर विशेषज्ञों (experts) के एक उपसमुच्चय (subset) को सशर्त रूप से सक्रिय करने के लिए एक राउटर (गेटिंग नेटवर्क) का उपयोग करते हैं। व्यवहार में, इन राउटर्स को अक्सर एक तापमान पैरामीटर $\tau > 0$ के साथ एक सॉफ्टमैक्स फंक्शन का उपयोग करके लागू किया जाता है। जैसे-जैसे $\tau \to 0$ होता है, सॉफ्टमैक्स राउटिंग एक "हार्ड" राउटिंग तंत्र (उच्चतम लॉजिट वाले एकल विशेषज्ञ का चयन करना) की ओर बढ़ती है।

जबकि मौजूदा साहित्य ने MoE मॉडलों के सांख्यिकीय और कम्प्यूटेशनल लाभों को स्थापित किया है, तापमान को शून्य की ओर ले जाने से उत्पन्न होने वाली सिंगुलर परटर्बेशन (singular perturbation) की एक कठोर समझ का अभाव रहा है। विशेष रूप से, यह स्पष्ट नहीं है कि सॉफ्ट ऑब्जेक्टिव (परिमित $\tau$ ) जनसंख्या स्तर पर हार्ड ऑब्जेक्टिव ( $\tau = 0$ ) के साथ कैसे अभिसरित (converge) होता है। यह संक्रमण इनपुट स्पेस में एकसमान नहीं है; यह "राउटिंग टाइज" (routing ties) के पास सिंगुलर है जहाँ शीर्ष दो राउटर स्कोर आपस में बहुत करीब होते हैं। यह शोध प्रश्न को संबोधित करता है: एक सॉफ्ट-रूटेड MoE मॉडल का जनसंख्या जोखिम (population risk), $\tau \downarrow 0$ होने पर एक हार्ड-रूटेड मॉडल के जोखिम के प्रति कैसे दृष्टिकोण करता है, और इनपुट स्पेस के कौन से ज्यामितीय गुण इस अभिसरण को नियंत्रित करते हैं?

2. कार्यप्रणाली और ढांचा (Methodology and Framework)

2.1. मुख्य अवधारणा: बाउंड्री मास (Boundary Mass)

यह शोध पत्र बाउंड्री मास को एक महत्वपूर्ण मात्रा के रूप में पहचानता है जो सॉफ्ट-टू-हार्ड लिमिट को निर्धारित करती है। एक राउटर पैरामीटर $\phi$ के लिए, $\Delta(x; \phi)$ को इनपुट $x$ के लिए सबसे बड़े और दूसरे सबसे बड़े राउटर लॉजिट्स (स्कोर) के बीच का मार्जिन मान लें। बाउंड्री मास को इस प्रकार परिभाषित किया गया है:
$\text{BM}(w) = P(\Delta(X; \phi) \leq w)$
लेखक तर्क देते हैं कि सॉफ्ट रिस्क $L_\tau$ और हार्ड रिस्क $L_0$ के बीच का अंतर, राउटिंग इंटरफेस (जहाँ $\Delta(x; \phi) \approx 0$ ) के आसपास $O(\tau)$ चौड़ाई वाली "स्लैब्स" (slabs) में स्थित इनपुट मास द्वारा डोमिनेट होता है।

2.2. ज्यामितीय विश्लेषण (को-एरिया अनुमान - Coarea Estimates)

राउटर लॉजिट्स की सुगमता (smoothness) और इनपुट डेंसिटी की नियमितता (regularity) की धारणाओं के तहत, शोध पत्र इन पतली स्लैब्स के प्रायिकता द्रव्यमान (probability mass) का अनुमान लगाने के लिए को-एरिया फॉर्मूला (coarea formula) का उपयोग करता है।

बाइनरी केस: $K=2$ के लिए, एक मार्जिन $w$ के भीतर गिरने की प्रायिकता $w$ के सापेक्ष रैखिक (linear) दिखाई देती है। अग्रणी स्थिरांक (leading constant) निर्णय सीमा (decision boundary) पर एक सतह समाकल (surface integral) है:
$P(\Delta \leq w) \approx w \cdot C \cdot \int_{\text{Interface}} \frac{p_X(x)}{\|\nabla \Delta(x)\|} d\mathcal{H}^{d-1}(x)$
सामान्य केस: $K > 2$ के लिए, बाउंड्री मास को युग्मवार (pairwise) स्लैब प्रायिकताओं के योग द्वारा सीमित किया गया है, जो इनपुट डेंसिटी और इनवर्स ग्रेडिएंट नॉर्म्स द्वारा भारित राउटिंग इंटरफेस के कुल सतही क्षेत्रफल के संदर्भ में एक रैखिक ऊपरी सीमा प्रदान करता है।

2.3. वेरिएशनल विश्लेषण ( $\Gamma$ -अभिसरण)

शोध पत्र यह स्थापित करने के लिए $\Gamma$ -convergence का उपयोग करता है कि हार्ड-राउटिंग ऑब्जेक्टिव, सॉफ्ट ऑब्जेक्टिव्स का सही वेरिएशनल लिमिट है। इसके लिए आवश्यक है:

यूनिफॉर्म मार्जिन कंट्रोल: मार्जिन डिस्ट्रीब्यूशन $P(\Delta \leq t) \leq C t^\alpha$ पर एक टेल बाउंड।
बाउंडेडनेस (Boundedness): विशेषज्ञ आउटपुट और रिस्पॉन्स पर यूनिफॉर्म बाउंड्स।
कॉम्पैक्टनेस (Compactness): कॉम्पैक्ट पैरामीटर स्पेस।

2.4. कंडीशनल लैंडस्केप ट्रांसफर (Conditional Landscape Transfer)

एक टीचर-स्टूडेंट सेटिंग में, शोध पत्र इस बात की जांच करता है कि क्या एक "प्रोफाइल्ड" हार्ड-राउटिंग समस्या (जहाँ विशेषज्ञों को एक निश्चित विभाजन के लिए अनुकूलित किया गया है) के अनुकूल ज्यामितीय गुण (पहचान क्षमता, वक्रता) कम $\tau$ पर सॉफ्ट ऑब्जेक्टिव में स्थानांतरित होते हैं। इसमें शामिल हैं:

शेप डेरिवेटिव्स (Shape Derivatives): यह विश्लेषण करना कि राउटर सीमा को हिलाने से जोखिम (risk) कैसे प्रभावित होता है।
ग्रेडिएंट/हेसियन ट्रांसफर: यह मानते हुए कि सॉफ्ट ऑब्जेक्टिव के डेरिवेटिव्स क्रिटिकल पॉइंट्स के पास हार्ड ऑब्जेक्टिव के डेरिवेटिव्स का अनुमान लगाते हैं।

2.5. सिमेट्री ब्रेकिंग मैकेनिज्म (Symmetry Breaking Mechanism)

विशेषज्ञता (specialization) की शुरुआत को मॉडल करने के लिए एक घटा हुआ टू-एक्सपर्ट गाऊसीयन (Gaussian) कैलकुलेशन किया गया है। एक सिमेट्रिक स्टेट (जहाँ विशेषज्ञ समान हैं और राउटर संतुलित है) के आसपास राउटर डायनेमिक्स को लीनियरलाइज करके, लेखक एक प्रभावी ऑपरेटर $M$ प्राप्त करते हैं जो स्थिरता (stability) को नियंत्रित करता है।

3. प्रमुख योगदान और परिणाम (Key Contributions and Results)

3.1. मात्रात्मक सॉफ्ट-टू-हार्ड रिस्क बाउंड्स

शोध पत्र नियमितता की शर्तों के तहत, सॉफ्ट और हार्ड रिस्क के बीच के अंतर को $\tau$ के रैखिक रूप में सिद्ध करता है:
$|L_\tau(\theta, \phi) - L_0(\theta, \phi)| \leq C \tau$
अधिक सामान्य रूप से, यदि मार्जिन डिस्ट्रीब्यूशन एक टेल बाउंड $P(\Delta \leq t) \leq C t^\alpha$ का पालन करता है, तो त्रुटि (error) $O(\tau^\alpha)$ के रूप में स्केल करती है। यह पुष्टि करता है कि हार्ड-लिमिट सन्निकटन (approximation) में बाधा पूर्ण इनपुट डाइमेंशन नहीं है, बल्कि $O(\tau)$ बाउंड्री लेयर्स का प्रायिकता द्रव्यमान है।

3.2. सॉफ्ट ऑब्जेक्टिव्स का $\Gamma$ -अभिसरण

थ्योरम 4.7 स्थापित करता है कि सॉफ्ट रिस्क फंकशनल्स $L_\tau$ , $\tau \to 0$ होने पर $L_0$ की ओर $\Gamma$ -कन्वर्ज करते हैं।

निहितार्थ: लगभग-न्यूनतम (almost-minimizers) की कोई भी अनुक्रम (sequence) जो सॉफ्ट ऑब्जेक्टिव की है, उसके क्लस्टर पॉइंट्स हार्ड ऑब्जेक्टिव के मिनिमाइज़र होते हैं। यह हार्ड राउटिंग के प्रॉक्सी के रूप में सॉफ्ट राउटिंग का उपयोग करने के लिए एक कठोर वेरिएशनल औचित्य प्रदान करता है।

3.3. कंडीशनल लैंडस्केप-ट्रांसफर प्रिंसिपल

थ्योरम 5.17 टीचर-स्टूडेंट सेटिंग के लिए एक कंडीशनल गारंटी प्रदान करता है। यदि:

प्रोफाइलड हार्ड-राउटिंग समस्या में अनुकूल ज्यामिति (जैसे, गैर-टीचर-इक्विवेलेंट विभाजनों के लिए स्ट्रिक्ट सैडल्स) है।
सॉफ्ट ऑब्जेक्टिव के प्रथम और द्वितीय डेरिवेटिव्स बाउंड्री-लेयर स्केल पर हार्ड ऑब्जेक्टिव में ट्रांसफर होते हैं।
एक "स्पेशलाइजेशन गैप" है जो गलत विशेषज्ञों को बड़े सेटों पर टीचर की नकल करने से रोकता है।

तब, पर्याप्त छोटे $\tau$ के लिए:

ग्लोबल मिनिमाइजर्स: सॉफ्ट ऑब्जेक्टिव के ग्लोबल मिनिमाइज़र (परम्यूटेशन तक) टीचर पार्टीशन और विशेषज्ञों को रिकवर करते हैं, जिनकी त्रुटियां बाउंड्री मास और स्पेशलाइजेशन गैप द्वारा नियंत्रित होती हैं।
स्ट्रिक्ट सैडल्स (Strict Saddles): क्रिटिकल पॉइंट्स जो टीचर पार्टीशन के अनुरूप नहीं हैं, वे स्ट्रिक्ट सैडल्स (ऋणात्मक वक्रता वाले) होते हैं, जिससे ग्रेडिएंट-आधारित विधियों के माध्यम से पलायन (escape) संभव होता है।

3.4. लोकल सिमेट्री ब्रेकिंग

प्रपोजिशन 6.3 विशेषज्ञता के लिए एक स्थानीय तंत्र प्रदर्शित करता है। टू-एक्सपर्ट गाऊसीयन सेटिंग में, यदि विशेषज्ञ टीचर सेपरेटर के साथ संरेखित (aligned) एक छोटा कंट्रास्ट विकसित करते हैं, तो सिमेट्रिक राउटर स्टेट ( $u=0$ ) लीनियरली अनस्टेबल हो जाता है। अस्थिरता की दिशा टीचर सेपरेटर के साथ सह-संबंधित (correlated) है, और इस अस्थिरता का प्रवर्धन कारक (amplification factor) $1/\tau$ के साथ स्केल करता है। यह सुझाव देता है कि कम तापमान सिमेट्री को तोड़ने और राउटर को वास्तविक डेटा संरचना के साथ संरेखित करने की प्रक्रिया को तेज करता है।

4. महत्व और दायरा (Significance and Scope)

यह शोध पत्र एक ज्यामितीय मॉड्यूल (geometric module) के रूप में खुद को स्थापित करता है जो सॉफ्टमैक्स-गेटेड MoE थ्योरी और हार्ड-राउटिंग अंतर्ज्ञान के बीच के अंतर को पाटता है।

यह क्या स्थापित करता है: यह तापमान पैरामीटर द्वारा उत्पन्न सिंगुलर परटर्बेशन को अलग करता है। यह सिद्ध करता है कि सॉफ्ट राउटिंग की "लागत" निर्णय सीमाओं के आसपास एक पतली ज्यामितीय परत में केंद्रित है, जिसे बाउंड्री मास द्वारा मापा जाता है। यह एक कठोर वेरिएशनल लिमिट ( $\Gamma$ -convergence) और एक कंडीशनल ट्रांसफर प्रिंसिपल प्रदान करता है।
यह क्या दावा नहीं करता है:
- यह विशिष्ट सांख्यिकीय MoE परिवारों के लिए नए फाइनाइट-सैंपल रेट्स को सिद्ध नहीं करता है।
- यह लोकल लीनियरलाइजेशन सेक्शन के अलावा विशिष्ट ट्रेनिंग एल्गोरिदम (जैसे, SGD डायनेमिक्स) का विश्लेषण नहीं करता है।
- यह कोई नया एक्सप्रेसिविटी थ्योरम स्थापित नहीं करता है।
- यह दावा नहीं करता है कि सभी MoE लैंडस्केप अनुकूल हैं; लैंडस्केप ट्रांसफर परिणाम हार्ड-राउटिंग समस्या के अनुकूल ज्यामिति होने पर ही सशर्त (conditional) हैं।

निष्कर्ष: शोध पत्र निष्कर्ष निकालता है कि ज़ीरो-टेम्परेचर लिमिट राउटिंग इंटरफेस की ज्यामिति द्वारा नियंत्रित होती है, न कि एम्बिएंट डाइमेंशन द्वारा। MoE थ्योरी के लिए प्राथमिक शेष चुनौती स्वयं सीमित हार्ड-राउटिंग समस्या की संरचना को समझना है; एक बार जब वह समझ लिया जाता है, तो यहाँ वर्णित बाउंड्री-मास अनुमान सॉफ्ट राउटिंग द्वारा पेश की गई त्रुटि को सटीक रूप से मापते हैं।