🤖 AI

Learning with Boolean threshold functions

यह शोध पत्र सख्ती से $\pm 1$ बूलियन मानों और भार (weights) वाले न्यूरल नेटवर्क को प्रशिक्षित करने के लिए 'रिफ्लेक्ट-रिफ्लेक्ट-रिलैक्स' एल्गोरिदम का उपयोग करते हुए एक प्रोजेक्शन-आधारित बाधा संतुष्टि विधि प्रस्तुत करता है, जो डिस्क्रीट कार्यों पर मानक ग्रेडिएंट-आधारित दृष्टिकोणों से बेहतर प्रदर्शन करने वाले स्पार्स, व्याख्या योग्य लॉजिकल गेट नेटवर्क की खोज को सक्षम बनाता है।

मूल लेखक: Veit Elser, Manish Krishan Lal

प्रकाशित 2026-08-25

📖 8 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Veit Elser, Manish Krishan Lal

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

आधुनिक कृत्रिम बुद्धिमत्ता के विशाल परिदृश्य में, कंप्यूटर को पैटर्न पहचानने के लिए सिखाने की प्रमुख विधि 'बैक-प्रोपैगेशन' नामक एक तकनीक पर निर्भर करती है। यह दृष्टिकोण सीखने को क्रमिक शोधन (gradual refinement) की एक प्रक्रिया के रूप में मानता है, जहाँ परस्पर जुड़े नोड्स का एक नेटवर्क सूक्ष्म त्रुटियों की गणना करके और उन्हें लाखों चरणों में सुचारू बनाकर अपने आंतरिक कनेक्शनों को समायोजित करता है। यह एक शक्तिशाली उपकरण है, लेकिन यह निरंतर संख्याओं (continuous numbers) की दुनिया में काम करता है, जहाँ मान शून्य से अनंत तक कुछ भी हो सकते हैं, और जहाँ अंतिम परिणाम अक्सर फ्लोटिंग-पॉइंट दशमलव का एक जटिल, अपारदर्शी जाल होता है। हालाँकि इसने छवि और वाक् पहचान में उल्लेखनीय उपलब्धियां हासिल की हैं, लेकिन यह तब एक अंतराल छोड़ देता है जब समस्या स्वयं मौलिक रूप से विविक्त (discrete) हो, जिसमें सख्त हाँ-या-ना के निर्णय या बाइनरी लॉजिक शामिल हो। उन कार्यों के लिए जिनमें डिजिटल सर्किट की सटीकता या तार्किक नियम की स्पष्टता की आवश्यकता होती है, मानक प्रशिक्षण की सहज, संभाव्य प्रकृति ऐसी महसूस हो सकती है जैसे गीली रेत से पत्थर की दीवार बनाने की कोशिश करना।

शोधकर्ताओं की एक टीम ने एक अलग पथ प्रस्तावित किया है, जो त्रुटि को कम करने के विचार को छोड़कर सख्त तार्किक बाधाओं (logical constraints) को संतुष्ट करने पर ध्यान केंद्रित करता है। इसके बजाय कि वे कंप्यूटर से समाधान की ओर धीरे-धीरे बढ़ने के लिए कहें, वे उससे यह पूछते हैं कि एक ऐसी स्थिति खोजें जहाँ प्रत्येक नियम को एक साथ पूरी तरह से माना जाए। यह विधि न्यूरल नेटवर्क को एक ऐसे सिस्टम के रूप में नहीं देखती जो उत्तरों का अनुमान लगाता है, बल्कि स्विचों के एक संग्रह के रूप में देखती है जिन्हें या तो पूरी तरह से चालू होना चाहिए या पूरी तरह से बंद। इन कठोर शर्तों का पालन करने के लिए मजबूर करके, शोधकर्ताओं ने मशीनों को सटीक तार्किक सर्किट सीखने के लिए प्रशिक्षित करने का एक तरीका विकसित किया है, जिससे वे डेटा के अंतर्निहित नियमों को उस स्पष्टता के साथ खोज पाते हैं जिसे पारंपरिक विधियाँ प्राप्त करने में संघर्ष करती हैं।

इस नए दृष्टिकोण का मूल आधार 'बूलियन थ्रेशोल्ड फंक्शन' (Boolean threshold function) नामक एक विशिष्ट प्रकार की निर्णय लेने वाली इकाई में निहित है। एक ऐसे न्यूरॉन की कल्पना करें जो एक अस्पष्ट "शायद" या 0.5 जैसा मान आउटपुट नहीं देता, बल्कि एक निर्णायक विकल्प चुनता है: आउटपुट या तो धनात्मक एक (+1) है या ऋणात्मक एक (-1)। यह सुनिश्चित करने के लिए कि निर्णय पूरे विश्वास के साथ लिया जाए, शोधकर्ता यह नियम लागू करते हैं कि आंतरिक गणना शून्य से पर्याप्त दूर होनी चाहिए ताकि किसी भी अस्पष्टता से बचा जा सके। यह निश्चितता का एक "मार्जिन" (margin) बनाता है। जब एक नेटवर्क को इन शर्तों के तहत प्रशिक्षित किया जाता है, तो यह केवल एक अच्छा फिट नहीं ढूंढ रहा होता; बल्कि यह एक ऐसी संरचना की खोज कर रहा होता है जहाँ प्रत्येक नोड का निर्णय उसके इनपुट के आधार पर गणितीय रूप से सही होने की गारंटी हो। शोधकर्ताओं ने पाया कि इस सख्ती को लागू करके, नेटवर्क स्वाभाविक रूप से खुद को सरल बना लेता है। कनेक्शनों का जटिल जाल एक विरल (sparse) संरचना में सिमट जाता है जहाँ केवल कुछ आवश्यक लिंक शेष रहते हैं, और उन लिंक्स पर भार (weights) सरल पूर्णांक, या तो धनात्मक या ऋणात्मक एक बन जाते हैं।

इस कठिन पहेली को हल करने के लिए, शोधकर्ताओं ने "डिवाइड एंड कंकूर" (divide and concur) नामक रणनीति का उपयोग किया। उन्होंने पूरे नेटवर्क को प्रशिक्षित करने की विशाल समस्या को दो छोटे, प्रबंधनीय हिस्सों में तोड़ दिया। पहला हिस्सा, "डिवाइड" (विभाजन) चरण, प्रत्येक न्यूरॉन को अलग से देखता है, यह सुनिश्चित करता है कि उसके विशिष्ट इनपुट और भार सख्त तार्किक नियम को संतुष्ट करते हैं। दूसरा हिस्सा, "कंकूर" (सहमति) चरण, पूरे नेटवर्क को एक समग्र इकाई के रूप में देखता है, यह सुनिश्चित करता है कि एक न्यूरॉन का आउटपुट अगले के इनपुट से मेल खाता है, और कि सभी डेटा उदाहरणों में एक ही सेट के भारों का लगातार उपयोग किया गया है। एल्गोरिदम फिर इन दोनों दृष्टिकोणों के बीच बारी-बारी से काम करता है, प्रतिबिंब (reflection) और विश्राम (relaxation) की एक ज्यामितीय प्रक्रिया का उपयोग करके अलग-अलग निर्णयों और वैश्विक संरचना के बीच सामंजस्य बिठाता है। यह सुलह की एक प्रक्रिया है, जहाँ एल्गोरिदम पुनरावृत्ति के माध्यम से अपने आंतरिक राज्य को तब तक समायोजित करता है जब है जब स्थानीय नियम और वैश्विक वास्तुकला पूरी तरह से संरेखित हो जाते हैं।

इस पद्धति को लागू करने के परिणाम आश्चर्यजनक हैं, विशेष रूप से मानक ग्रेडिएंट-आधारित दृष्टिकोणों की तुलना में। प्रयोगों की एक श्रृंखला में, शोधकर्ताओं ने नेटवर्क को विभिन्न तार्किक पहेलियों के पीछे के नियमों को सीखने का कार्य सौंपा। एक उदाहरण में, उन्होंने सिस्टम को दो बाइनरी संख्याओं को गुणा करने वाले सर्किट को खोजने के लिए कहा। जबकि मानक प्रशिक्षण विधियाँ बड़ी मात्रा में डेटा के साथ भी पूर्ण सटीकता तक पहुँचने के लिए संघर्ष करती रहीं, इस बाधा-आधारित पद्धति ने सटीक समाधान खोज लिया। नेटवर्क ने गुणन के लिए आवश्यक सटीक लॉजिक गेट्स को पुनर्गठित किया, जिससे एक ऐसा सर्किट प्रकट हुआ जो सरल AND और OR गेट्स से बना था। सेलुलर ऑटोमेटा (cellular automata) से संबंधित एक अन्य परीक्षण में, जो एक ऐसा सिस्टम है जहाँ कोशिकाएं अपने पड़ोसियों की स्थिति के आधार पर अपनी अवस्था बदलती हैं, इस पद्धति ने सिस्टम के विकास को नियंत्रित करने वाले जटिल नियम को सफलतापूर्वक सीखा। इसने सामान्यीकरण (generalization) के उस स्तर के साथ ऐसा किया जिसने इसे उस डेटा पर सिस्टम के व्यवहार की भविष्यवाणी करने में सक्षम बनाया जिसे इसने पहले कभी नहीं देखा था, एक ऐसा कार्य जिसे मानक विधियाँ समान विश्वसनीयता के साथ दोहराने में विफल रहीं।

इस कार्य के सबसे सम्मोहक पहलुओं में से एक इसके परिणामों की व्याख्यात्मकता (interpretability) है। क्योंकि नेटवर्क को केवल सरल, बाइनरी भारों का उपयोग करने के लिए मजबूर किया गया है, अंतिम मॉडल पारदर्शी है। एक शोधकर्ता प्रशिक्षित नेटवर्क को देख सकता है और तुरंत समझ सकता है कि कौन से कनेक्शन सक्रिय हैं और प्रत्येक नोड कौन सा तार्किक कार्य कर रहा है। यह अनुमान लगाने की आवश्यकता नहीं है कि एक "ब्लैक बॉक्स" क्या सोच रहा है; तर्क स्पष्ट रूप से सामने है। उदाहरण के लिए, गुणन कार्य में, नेटवर्क ने खुलासा किया कि गुणनफल का सबसे कम महत्वपूर्ण बिट (least significant bit) वास्तव में कारकों के सबसे कम महत्वपूर्ण बिट्स का तार्किक AND है, एक मौलिक गणितीय सत्य जिसे एल्गोरिदम ने सीधे खोजा और एनकोड किया। यह स्पष्टता नेटवर्क की संरचना तक विस्तृत है, जो अक्सर मानक विधियों द्वारा आवश्यक संरचना से बहुत सरल हो जाती है, और समान या बेहतर परिणाम प्राप्त करने के लिए कम कनेक्शन और कम परतों का उपयोग करती है।

शोधकर्ताओं ने यह भी पता लगाया कि यह विधि गैर-बाइनरी या शोर युक्त (noisy) डेटा, जैसे हस्तलिखित अंकों की छवियों को कैसे संभालती है। भले ही इनपुट डेटा एनालॉग और शोर युक्त था, यह पद्धति मजबूत साबित हुई। मार्जिन बाधा (margin constraint) की सख्ती को समायोजित करके, वे यह नियंत्रित कर सकते थे कि नेटवर्क को एक आदर्श समाधान से कितना विचलन करने की अनुमति दी जाए। जब मार्जिन को बहुत बड़ा रखा गया, जिससे नेटवर्क अत्यधिक निर्णायक होने के लिए मजबूर हुआ, तो इसने छोटे मार्जिन की तुलना में टेस्ट डेटा पर उच्च सटीकता प्राप्त की। यह सुझाव देता है कि स्पष्ट, आत्मविश्वासी निर्णय लेने का दबाव एक शक्तिशाली रेगुलराइज़र (regularizer) के रूप में कार्य करता है, जो नेटवर्क को प्रशिक्षण डेटा के शोर के प्रति ओवरफिट होने से रोकता है और इसे वास्तविक अंतर्निहित पैटर्न सीखने में मदद करता है।

यह कार्य पिछले चालीस वर्षों में निर्मित डीप लर्निंग के विशाल पारिस्थितिकी तंत्र को बदलने का दावा नहीं करता है। इसके बजाय, यह समस्याओं के एक विशिष्ट वर्ग के लिए एक अलग विकल्प प्रदान करता है जहाँ उत्तर एक संभावना नहीं, बल्कि एक तथ्य है। यह सुझाव देता है कि तर्क, तर्कशक्ति और विविक्त संरचनाओं से जुड़े कार्यों के लिए, बुद्धिमत्ता का मार्ग त्रुटियों को कम करने में नहीं, बल्कि बाधाओं की कठोर संतुष्टि में मिल सकता है। यह विधि दर्शाती है कि प्रश्न को "हम त्रुटि को कैसे कम कर सकते हैं?" से बदलकर "हम नियमों को कैसे संतुष्ट कर सकते हैं?" करने से, ऐसी मशीनें बनाना संभव है जो उस सटीकता और पारदर्शिता के साथ सीखती हैं जो लंबे समय से मायावी रही है। शोधकर्ताओं ने दिखाया है कि यह बाधा-आधारित दृष्टिकोण केवल एक सैद्धांतिक जिज्ञासा नहीं है, बल्कि स्पष्ट, तार्किक रूप से सोचने वाले न्यूरल सिस्टम को प्रशिक्षित करने के लिए एक व्यवहार्य और शक्तिशाली उपकरण है।

तकनीकी सारांश: बूलियन थ्रेशोल्ड फंक्शन्स के साथ सीखना

समस्या विवरण
यह शोध पत्र सख्ती से बूलियन डेटा पर न्यूरल नेटवर्क को प्रशिक्षित करने की चुनौती को संबोधित करता है, जहाँ सभी नोड मान $\pm 1$ तक सीमित होते हैं। मानक ग्रेडिएंट-आधारित अनुकूलन विधियाँ (बैकप्रोपैगेशन) डिफरेंशिएबल एक्टिवेशन फंक्शन्स (जैसे सिग्मॉइड्स) और निरंतर वेट्स (continuous weights) पर निर्भर करती हैं। हालांकि ये विधियाँ बूलियन व्यवहार का अनुमान लगा सकती हैं, लेकिन वे अक्सर सख्त बाइनरी आउटपुट या स्पार्स (sparse), व्याख्या योग्य वेट स्ट्रक्चर (जैसे कि $\pm 1$ वाले वेट्स) उत्पन्न करने में विफल रहती हैं। इसके अलावा, उन परिदृश्यों में जिनमें सीमित डेटा से उच्च सामान्यीकरण (generalization) या सख्त तार्किक बाधाओं की आवश्यकता होती है, ग्रेडिएंट डिसेंट अक्सर सटीक समाधान खोजने में संघर्ष करता है या ऐसे निरूपणों (representations) की ओर अभिसरित (converge) होता है जिनमें व्याख्यात्मकता का अभाव होता है (जैसे कि $0.5$ जैसे मान वाले वेट्स)। लेखक एक वैकल्पिक ढांचे का प्रस्ताव करते हैं जो न्यूरल नेटवर्क प्रशिक्षण को लॉस फंक्शन के न्यूनीकरण (minimization) के रूप में नहीं, बल्कि एक बाधा संतुप्ति समस्या (constraint satisfaction problem) के रूप में मानता है।

कार्यप्रणाली
मुख्य कार्यप्रणाली लॉस न्यूनीकरण के स्थान पर बूलियन थ्रेशोल्ड फंक्शन्स (BTFs) का उपयोग करके एक गैर-कन्वेक्स (non-convex) बाधा संरचना (constraint formulation) को प्रतिस्थापित करती है।

बूलियन थ्रेशोल्ड फंक्शन्स (BTFs):
प्रत्येक नोड एक फलन $y = \text{sgn}(w \cdot x)$ को लागू करता है, जहाँ इनपुट $x$ और आउटपुट $y$ सख्ती से $\pm 1$ होते हैं। महत्वपूर्ण रूप से, यह विधि एक मार्जिन बाधा (margin constraint) लागू करती है: $|w \cdot x| \ge \mu$ । यह सुनिश्चित करता है कि नेटवर्क "दृढ़ विश्वास" के साथ निर्णय ले, जिससे शून्य के पास का "ग्रे एरिया" (gray area) समाप्त हो जाए। मार्जिन $\mu$ को $\mu_m = \sqrt{m/\sigma}$ के रूप में परिभाषित किया गया है, जहाँ $m$ इनपुट्स की संख्या है और $\sigma$ एक सपोर्ट हाइपरपैरामीटर है। यह बाधा सीखे गए निरूपणों को स्पार्स बनाने के लिए मजबूर करती है; विशेष रूप से, यदि $\sigma$ छोटा है (जैसे $\sigma=3$ ), तो BTFs समान परिमाण ( $\pm 1$ ) वाले सरल लॉजिकल गेट्स (Copy, AND, OR, Majority) के समकक्ष सिद्ध होते हैं।
डिवाइड-एंड-कंकर फ्रेमवर्क (Divide-and-Concur Framework):
प्रशिक्षण समस्या को दो पूरक बाधाओं, $A$ और $B$ में विभाजित किया जाता है, जिन्हें रिफ्लेक्ट-रिफ्लेक्ट-रिलैक्स (RRR) प्रोजेक्शन एल्गोरिदम का उपयोग करके हल किया जाता है:

बाधा A (डिवाइड): प्रत्येक BTF के लिए स्थानीय निरंतरता (local consistency) को लागू करता है। प्रत्येक न्यूरॉन और प्रत्येक डेटा इंस्टेंस के लिए, ट्रिपलेट (वेट्स, इनपुट्स, आउटपुट) को BTF परिभाषा और मार्जिन बाधा को संतुष्ट करना चाहिए। इस बाधा को प्रत्येक नोड और डेटा आइटम के लिए स्वतंत्र रूप से माना जाता है।
बाधा B (कंकर): वास्तुशिल्प निरंतरता (architectural consistency) को लागू करता है। यह एक न्यूरॉन के आउटपुट को अगले न्यूरॉन के इनपुट के बराबर बनाता है ( $y_{out} = x_{in}$ ) और, महत्वपूर्ण रूप से, यह सुनिश्चित करता है कि नेटवर्क के सभी डेटा इंस्टेंशिएशन में वेट वेक्टर्स समान हों।
डेटा बाधाएं: इनपुट डेटा को इनपुट नोड्स पर प्रोजेक्ट किया जाता है (बाधा A), और आउटपुट टारगेट्स को आउटपुट नोड्स पर प्रोजेक्ट किया जाता है (बाधा B)।

RRR एल्गोरिदम:
एल्गोरिदम सिस्टम स्टेट $z$ को सेट $A$ और $B$ पर पुनरावृत्ति (iteratively) के माध्यम से प्रोजेक्ट करता है। अपडेट नियम $z' = z + \beta(P_B(R_A(z)) - P_A(z))$ है, जहाँ $R_A$ एक रिफ्लेक्शन है और $\beta$ एक स्टेप साइज है। ग्रेडिएंट डिसेंट के विपरीत, जो एक स्केलर लॉस को कम करता है, RRR $A \cap B$ के प्रतिच्छेदन (intersection) में एक बिंदु खोजने का प्रयास करता है। यदि प्रतिच्छेदन खाली (infeasible) है, तो एल्गोरिदम एक "प्रॉक्सिमल पेयर" (proximal pair) की ओर अभिसरित होता है जिसका न्यूनतम अंतर $\Delta = \|z_A - z_B\|$ है।
मेट्रिक ऑटो-ट्यूनिंग:
अभिसरण (convergence) में सुधार के लिए, यह विधि प्रत्येक न्यूरॉन और डेटा आइटम के लिए स्थानीय गैप साइज के आधार पर मेट्रिक गुणांकों ( $g_{qi}$ ) को समायोजित करने के लिए एक ह्यूरिस्टिक का उपयोग करती है, जिससे ठहराव (stagnation) से बचने के लिए वेरिएबल परिवर्तनों को पुनर्वितरित किया जाता है।

प्रमुख योगदान

बाधा-आधारित लर्निंग (Constraint-Based Learning): डिस्क्रीट सिस्टम के लिए ग्रेडिएंट डिसेंट के एक कठोर विकल्प का प्रस्ताव करता है, जो लर्निंग को लॉस लैंडस्केप के न्यूनीकरण के बजाय ज्यामितीय बाधाओं के प्रतिच्छेदन में एक व्यवहार्य बिंदु खोजने के रूप में फ्रेम करता है।
सिद्ध स्पार्स और व्याख्या योग्य मॉडल: यह प्रदर्शित करता है कि मार्जिन हाइपरपैरामीटर $\sigma$ को ट्यून करके, यह विधि नेटवर्क को $\pm 1$ वेट्स वाले सरल लॉजिक गेट्स के समकक्ष स्पार्स स्ट्रक्चर अपनाने के लिए मजबूर करती है। यह स्पर्सिटी प्राप्त करने के लिए पोस्ट-हॉक प्रूनिंग या रेगुलराइजेशन की आवश्यकता को समाप्त करता है।
डिस्क्रीट डोमेन में सटीक समाधान: दिखाता है कि बूलियन-नेटिव कार्यों के लिए, यह विधि उन स्थानों पर भी सटीक समाधान (जीरो गैप) पा सकती है जहाँ ग्रेडिएंट-आधारित विधियाँ 100% सटीकता तक पहुँचने में विफल रहती हैं।
मॉडल बायस के माध्यम से सामान्यीकरण: तर्क देता है कि बाधा दृष्टिकोण स्वाभाविक रूप से मजबूत इंडक्टिव बायस (स्पर्सिटी, बूलियन लॉजिक) को शामिल करता है जो बहुत छोटे डेटासेट से पूर्ण सामान्यीकरण (जैसे कि 256 उदाहरणों से एक लॉजिक सर्किट सीखना) की अनुमति देता है।

प्रायोगिक परिणाम
लेखकों ने छह अनुप्रयोगों में पद्धति को मान्य किया है:

मल्टीप्लायर सर्किट डिस्कवरी: पद्धति ने ट्रुथ टेबल्स से सटीक 2-बिट और 3-बिट मल्टीप्लायर सर्किट को सफलतापूर्वक पुनर्निर्मित किया। इसने सही लॉजिक गेट्स (AND, OR, NOT) और टोपोलॉजी की पहचान की। इसके विपरीत, ग्रेडिएंट डिसेंट व्यापक पुनरावृत्तियों के बाद भी 100% टेस्ट सटीकता तक पहुँचने में विफल रहा।
बाइनरी ऑटोएनकोडिंग: पद्धति ने $k=3,4,5$ बिट्स के लिए वास्तविक बाइनरी एनकोडिंग-डिकोडिंग (आउटपुट सख्ती से $\pm 1$ ) प्राप्त की, जबकि सिग्मॉइड्स के साथ मानक बैकप्रोपैगेशन ने गैर-बाइनरी मान (जैसे $0.5$) उत्पन्न किए।
MNIST जनरेशन (4s): 1-हॉट कोड का उपयोग करते हुए, पद्धति ने 1024 उदाहरणों से अंक '4' की 16 "आर्केटाइप" छवियां उत्पन्न कीं। हालाँकि यह समस्या अप्राप्य (infeasible) थी (कोई भी पूर्ण BTF जनरेटर इस डेटा के लिए मौजूद नहीं है), एल्गोरिदम ने एक प्रॉक्सिमल पेयर खोजा जिसने डेटा को 81% पुनर्निर्माण सटीकता के साथ 16 उपसमूहों में क्लस्टर किया, जो बाइनरी k-मोड्स के तुलनीय है।
MNIST क्लासिफिकेशन (एनालॉग डेटा): 8x8 डाउनसैंपल किए गए MNIST अंकों पर लागू करते हुए, पद्धति ने दिखाया कि एक बड़ा मार्जिन लागू करना (समस्या को अप्राप्य बनाना) वास्तव में छोटे मार्जिन की तुलना में सामान्यीकरण सटीकता में सुधार करता है, जो बताता है कि "कठोर" बाधाएं वर्गों को अलग करने में मदद करती हैं।
लॉजिक सर्किट इन्फरेंस: पद्धति ने इनपुट-आउटपुट जोड़ों से रैंडम 5-लेयर लॉजिक सर्किट (AND/OR या मेजॉरिटी गेट्स) को सीखा। इसने इनपुट-आउटपुट जोड़ों से एक सैद्धांतिक सूचना-सैद्धांतिक सीमा (लगभग 132–176 उदाहरण) से अधिक होने पर 100% टेस्ट सटीकता की ओर एक तीव्र संक्रमण (sharp transition) प्रदर्शित किया, जो ग्रेडिएंट डिसेंट में नहीं देखा गया।
सेलुलर ऑटोमेटा (Rule 30): पद्धति ने इनपुट-आउटपुट पैटर्न से Rule 30 सेलुलर ऑटोमेटा नियम को सीखा। इसने अंतर्निहित तार्किक संरचना (जो विशिष्ट AND/OR/Majority गेट्स के संयोजन के बराबर है) को सफलतापूर्वक पहचाना। स्पर्सिटी पेनल्टी के साथ ग्रेडिएंट डिसेंट इसी कार्य पर 100% सटीकता प्राप्त करने के लिए संघर्ष करता रहा।

महत्व और दावे
शोध पत्र का दावा है कि प्रोजेक्शन-आधारित बाधा संतुप्ति डिस्क्रीट न्यूरल सिस्टम में सीखने के लिए एक "व्यवहार्य और वैचारिक रूप से भिन्न आधार" प्रदान करती है।

व्याख्यात्मकता (Interpretability): परिणामी मॉडल स्वाभाविक रूप से $\pm 1$ वेट्स वाले सरल लॉजिकल गेट्स के नेटवर्क के रूप में व्याख्या योग्य हैं, जो निरंतर वेट्स की "ब्लैक बॉक्स" प्रकृति को समाप्त करते हैं।
दक्षता (Efficiency): $\pm 1$ वेट्स के साथ इन्फरेंस के लिए केवल पूर्णांक जोड़ (integer addition) की आवश्यकता होती है, जो डेटा सेंटरों में बिजली की खपत को कम कर सकता है।
डेटा दक्षता: पद्धति प्रदर्शित करती है कि मजबूत संरचनात्मक बाधाएं (बूलियन लॉजिक, स्पर्सिटी) बहुत कम उदाहरणों से जटिल नियमों को सीखने की अनुमति देती हैं, जो "पॉवर्टी ऑफ स्टिमुलस" (poverty of stimulus) वाले परिदृश्यों में ग्रेडिएंट-आधारित विधियों से बेहतर प्रदर्शन करती हैं।
सैद्धांतिक रुख: लेखक स्वीकार करते हैं कि हालांकि गैर-कंवरक्स बाधा संतुप्ति के लिए एक कठोर "लर्निंग थ्योरम" मिलना कठिन है (जैसा कि बैकप्रोपैगेशन के साथ ऐतिहासिक चुनौतियां रही हैं), विविध कार्यों में RRR गैप के गायब होने की अनुभवजन्य निरंतरता यह सुझाव देती है कि दृष्टिकोण मजबूत है। वे इसे सभी ग्रेडिएंट-आधारित लर्निंग के प्रतिस्थापन के रूप में नहीं, बल्कि बूलियन-नेटिव समस्याओं और सख्त व्याख्यात्मकता की मांग करने वाले परिदृश्यों के लिए एक विशेष, शक्तिशाली उपकरण के रूप में देखते हैं।

शोध पत्र भविष्य के कार्यों की रूपरेखा के साथ समाप्त होता है, जिसमें वितरित प्रसंस्करण (distributed processing), पायथन इंटरफेस, और निरंतर-वेट समाधानों को समकक्ष $\pm 1$ वेट नेटवर्क में बदलने के लिए मॉडल इंटरप्रेटर्स का विकास शामिल है।

इसी तरह के और पेपर