🤖 machine learning

A Held-Out Transition-Pair Falsifier for Long-Horizon Non-Abelian State Tracking

यह शोध पत्र एक होल्ड-आउट ट्रांजिशन-पेयर फासिफायर (held-out transition-pair falsifier) प्रस्तुत करता है जो यह प्रदर्शित करता है कि एक प्रोजेक्टेड रिकरेंट स्टेट मॉडल, जिसे विशिष्ट वर्जित जनरेटर युग्मों (forbidden generator pairs) के साथ लघु अनुक्रमों पर प्रशिक्षित किया गया है, दस लाख से अधिक टोकन तक पूर्ण दीर्घ-क्षितिज गैर-अबेलियन (non-Abelian) स्टेट ट्रैकिंग प्राप्त करता है, जबकि मानक आर्किटेक्चर उन्हीं कठोर स्थितियों के तहत विफल हो जाते हैं क्योंकि वे स्पष्ट गैर-क्रमविनिमेय (non-commutative) स्टेट कंपोजिशन सीखने में असमर्थ होते हैं।

मूल लेखक: Jeonghoon Lee

प्रकाशित 2026-06-08✓ Author reviewed ⓘ

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Jeonghoon Lee

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने नहीं लिखा है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ सरल भाषा और रचनात्मक उपमाओं का उपयोग करके शोध पत्र (paper) का स्पष्टीकरण दिया गया है।

बड़ी तस्वीर: "अनुवाद में खो जाने" की समस्या (The "Lost in Translation" Problem)

कल्पना कीजिए कि आप फर्नीचर का एक टुकड़ा बनाने के लिए बहुत लंबे, जटिल निर्देशों का पालन कर रहे हैं। निर्देश केवल चरणों की एक सूची नहीं हैं; वे ऐसे कदमों की एक श्रृंखला हैं जहाँ क्रम (order) मायने रखता है। यदि आप दाएँ पैर से पहले बायाँ पैर लगाते हैं, तो मेज खड़ी रहती है। यदि आप इसे उल्टा करते हैं, तो वह गिर जाती है।

अधिकांश आधुनिक AI मॉडल (जैसे वे जो चैटबॉट्स को शक्ति देते हैं) उनके द्वारा पढ़े गए सारांश बनाने में बहुत अच्छे हैं। यदि आप उनसे पूछते हैं, "टेक्स्ट ने क्या कहा?" तो वे उत्कृष्ट हैं। लेकिन यदि आप उनसे पूछते हैं, "1 मिलियन चरणों के बाद सिस्टम की वर्तमान स्थिति क्या है?" तो वे अक्सर भटक जाते हैं। वे घटनाओं के विशिष्ट क्रम को भूल जाते हैं और केवल इस आधार पर अनुमान लगाते हैं कि आमतौर पर क्या होता है।

यह शोध पत्र एक नया तरीका पेश करता है जिससे यह परीक्षण किया जा सके कि क्या एक AI वास्तव में बहुत लंबे समय तक एक जटिल, क्रम-संवेदनशील स्थिति (order-sensitive state) को ट्रैक कर सकता है, और यह एक विशेष प्रकार के AI को दिखाता है जो इसे पूरी तरह से कर सकता है।

परीक्षण: "वर्जित कदम" की चुनौती (The "Forbidden Move" Challenge)

यह साबित करने के लिए कि AI केवल शॉर्टकट याद नहीं कर रहा है, शोधकर्ताओं ने एक विशेष परीक्षण बनाया जिसे "होल्ड-आउट ट्रांज़िशन-पेयर फासीफायर" (Held-Out Transition-Pair Falsifier) कहा जाता है।

उपमा: गुप्त कोड का खेल
कल्पना कीजिए कि एक खेल है जहाँ आपको तिजोरी खोलने के लिए प्रतीकों (जैसे अक्षरों) को जोड़ना होता है।

नियम: जिस क्रम में आप अक्षरों को जोड़ते हैं, उससे परिणाम बदल जाता है। A फिर B तिजोरी खोलता है। B फिर A उसे मजबूती से लॉक कर देता है।
जाल: आमतौर पर, यदि आप एक AI को छोटे अनुक्रमों (sequences) पर प्रशिक्षित करते हैं, तो वह केवल यह याद रख सकता है कि "जब मैं A देखता हूँ, तो मुझे अगले में B की उम्मीद करनी चाहिए।" यह एक छात्र की तरह है जो गणित समझने के बजाय किसी विशिष्ट क्विज़ के उत्तर रट लेता है।

शोधकर्ताओं की चाल:
उन्होंने एक प्रशिक्षण सेट बनाया जहाँ उन्होंने एक विशिष्ट जोड़ी के कदमों को वर्जित (forbid) कर दिया (उदाहरण के लिए, उन्होंने AI को प्रशिक्षण के दौरान कभी भी A के तुरंत बाद B नहीं देखने दिया)।
फिर, परीक्षण में, उन्होंने AI को उस सटीक वर्जित जोड़ी (A के बाद B) का सामना करने के लिए मजबूर किया जो प्रशिक्षण अनुक्रमों की तुलना में 1,00,000 गुना लंबी थी।

यदि AI ने केवल पैटर्न याद किए होते: तो वह तुरंत विफल हो जाता क्योंकि उसने पहले कभी वह विशिष्ट जोड़ी नहीं देखी थी।
यदि AI वास्तव में तर्क समझता: तो वह पहेली को हल कर लेता, क्योंकि वह प्रतीकों के संयोजन के अंतर्निहित नियम को समझता है, न कि केवल उन विशिष्ट जोड़ियों को जो उसने देखी थीं।

परिणाम: "मैजिक प्रोजेक्टर" बनाम "मानक मॉडल"

शोधकर्ताओं ने इस चुनौती पर तीन प्रकार के AI मॉडल का परीक्षण किया:

मानक मॉडल (The "Bag" and "GRU"): ये सामान्य, शक्तिशाली AI आर्किटेक्चर हैं।
- परिणाम: वे बुरी तरह विफल रहे। उनका स्कोर शून्य के करीब था। वे वर्जित जोड़ी को संभालने में असमर्थ थे, जिससे सिद्ध हुआ कि वे केवल याद किए गए पैटर्न पर निर्भर थे और पैटर्न बदलने पर भ्रमित हो गए।
"मैजिक प्रोजेक्टर" मॉडल (प्रस्तावित समाधान): यह एक विशेष मॉडल है जिसे एक विशिष्ट "इंडक्टिव बायस" (एक अंतर्निहित संरचनात्मक प्राथमिकता) के साथ डिज़ाइन किया गया है।
- यह कैसे काम करता है: केवल अगला शब्द अनुमान लगाने के बजाय, यह मॉडल एक छिपा हुआ "स्टेट" (state) बनाए रखता है जो एक गणितीय काउंटर की तरह कार्य करता है। यह अंत में एक प्रोजेक्शन (projection) चरण का उपयोग करता है ताकि अपने आंतरिक गणित को सही प्रतीकात्मक उत्तर में वापस लाया जा सके।
- परिणाम: परफेक्ट स्कोर। जब अनुक्रम 1 मिलियन टोकन लंबा था (जबकि प्रशिक्षण केवल 8 टोकन लंबा था), तब भी इसने 100% बार सही उत्तर दिया।

"टेम्परेचर" चेक: यह क्यों काम करता है

शोधकर्ताओं ने केवल जीत को तथ्य के रूप में नहीं लिया; वे जानना चाहते थे कि मॉडल इसे कैसे हल कर रहा है। उन्होंने मॉडल के मस्तिष्क के अंदर क्या हो रहा है, यह देखने के लिए एक "तापमान" (temperature) डायल का उपयोग किया।

हार्ड प्रोजेक्शन (ठंडा/Cold): जब मॉडल को सटीक होने के लिए मजबूर किया जाता है (ठंडा), तो यह एक आदर्श गणितज्ञ की तरह कार्य करता है। यह स्टेट को सटीक रूप से ट्रैक करता है, और उत्तर हमेशा सही होता है।
सॉफ्ट प्रोजेक्शन (गर्म/Warm): जब उन्होंने मॉडल को "सॉफ्ट" या अधिक रिलैक्स्ड बनाया, तो इसका प्रदर्शन तुरंत गिर गया। यह अनुमान लगाने लगा।

इसने सिद्ध किया कि मॉडल केवल "भाग्यशाली" या "धुंधली याददाश्त" का उपयोग नहीं कर रहा था। यह सक्रिय रूप से एक सटीक, नॉन-कम्यूटेटिव (क्रम-संवेदनशील) गणना कर रहा था। जब आप सटीकता को कम करते हैं, तो तर्क टूट जाता है।

"क्लीन रूम" सत्यापन

यह सुनिश्चित करने के लिए कि AI डेटा में किसी छिपे हुए शॉर्टकट को ढूंढकर धोखाधड़ी नहीं कर रहा है (जैसे प्रशिक्षण सेट में गलती से उत्तर देख लेना), शोधकर्ताओं ने एक "लीकेज ऑडिट" चलाया।

उन्होंने जांचा कि प्रशिक्षण डेटा और परीक्षण डेटा के बीच शून्य ओवरलैपिंग पैटर्न थे।
उन्होंने पुष्टि की कि "वर्जित" जोड़ियाँ वास्तव में मॉडल के लिए नई थीं।
निष्कर्ष: मॉडल ने वास्तव में नियम सीखा, न कि कोई ट्रिक।

यह पेपर क्या नहीं कहता

यह महत्वपूर्ण है कि हम जो दावा किया गया है उसी तक सीमित रहें:

यह नहीं कहता कि यह मॉडल कविता लिखने, कोडिंग करने या मनुष्यों के साथ चैट करने में बेहतर है।
यह नहीं कहता कि यह AI की सभी दीर्घकालिक स्मृति (long-term memory) समस्याओं को हल करता है।
यह नहीं कहता कि यह हर संभावित गणितीय समस्या के लिए काम करता है।

यह पेपर बहुत विशिष्ट है: यह दिखाता है कि एक विशिष्ट प्रकार के तर्क (एक परिमित समूह में नॉन-कम्यूटेटिव स्टेट को ट्रैक करना) के लिए, एक विशिष्ट "प्रोजेक्टेड" संरचना वाला मॉडल लाखों चरणों तक क्रम को पूरी तरह से ट्रैक कर सकता है, जबकि मानक मॉडल विफल हो जाते हैं।

मुख्य निष्कर्ष (The Takeaway)

इस पेपर को एक 'प्रूफ ऑफ कॉन्सेप्ट' के रूप में देखें। यह प्रदर्शित करता है कि यदि आप चाहते हैं कि एक AI एक जटिल, क्रम-निर्भर स्थिति को बहुत लंबे समय तक ट्रैक करे, तो आप केवल मानक "अनुमान लगाने वाले" मॉडलों पर भरोसा नहीं कर सकते। आपको एक ऐसे मॉडल की आवश्यकता है जिसे विशेष रूप से एक गणितीय वस्तु के रूप में व्यवहार करने के लिए बनाया गया हो जो एक विशिष्ट, गैर-प्रतिवर्ती (non-reversible) तरीके से विकसित होती है।

"मैजिक प्रोजेक्टर" मॉडल वहां सफल हुआ जहां अन्य विफल रहे क्योंकि इसने केवल अगले शब्द का अनुमान लगाना बंद कर दिया और वास्तव में अनुक्रम की गणित करने लगा।

तकनीकी सारांश: दीर्घ-क्षितिज गैर-आबेली अवस्था ट्रैकिंग के लिए एक होल्ड-आउट ट्रांजिशन-पेयर फाल्सिफायर (Falsifier)

1. समस्या विवरण

वर्तमान अनुक्रम मॉडल (sequence models) लंबी-संदर्भ (long-context) परिदृश्यों में एक गंभीर सीमा का सामना करते हैं: वे अक्सर एक व्यवस्थित लेटेंट स्टेट (latent state) बनाए रखने में विफल रहते हैं जब प्रासंगिक संकेत देखे गए टोकन का सारांश नहीं बल्कि गैर-क्रमविनिमेय (non-commutative) ऑपरेशनों का एक संयोजन होता है। वर्कफ़्लो नियंत्रण या एजेंट रीजनिंग जैसे सेटिंग्स में, सिस्टम को एक ऐसी अवस्था को ट्रैक करना होता है जो ऐसे ऑपरेशनों के माध्यम से विकसित होती है जहाँ क्रम महत्वपूर्ण होता है ( $a \cdot b \neq b \cdot a$ )।

मानक मूल्यांकन विधियाँ, जो टोकन-स्तरीय भविष्यवाणी या इन-कॉन्टेक्स्ट लर्निंग पर ध्यान केंद्रित करती हैं, अक्सर उन मॉडलों को पुरस्कृत करती हैं जो दृश्यमान टोकनों का अच्छा सारांश देते हैं। हालाँकि, ये विधियाँ वास्तविक गैर-क्रमविनिमेय अवस्था संयोजन (non-commutative state composition) और "स्थानीय-टेम्पलेट मेमोराइजेशन" (local-template memorization) के बीच अंतर करने में विफल रहती हैं। एक मॉडल देखे गए स्थानीय संक्रमण पैटर्न (जैसे, $(a_i, a_j) \to \text{अगला स्टेट}$ ) से इंटरपोलेशन करके लंबे अनुक्रम लंबाई तक विस्तार करने का आभास दे सकता है, बिना वास्तव में आवश्यक बीजगणितीय संयोजन (algebraic composition) किए। यह शोध पत्र एक ऐसे प्रोटोकॉल की पहचान करता है जो वास्तविक अवस्था-ट्रैकिंग क्षमताओं का परीक्षण करने के लिए सीधे मेमोराइजेशन मार्गों को स्पष्ट रूप से बाधित करता है।

2. कार्यप्रणाली

2.1 होल्ड-आउट ट्रांजिशन-पेयर फाल्सिफायर (The Held-Out Transition-Pair Falsifier)

मुख्य योगदान एक विशिष्ट डेटा-स्प्लिट प्रोटोकॉल है जिसे स्थानीय-टेम्पलेट मेमोराइजेशन पर निर्भर मॉडलों को गलत सिद्ध (falsify) करने के लिए डिज़ाइन किया गया है:

लक्ष्य कार्य (Target Task): एक परिमित गैर-आबेली समूह $G$ में संचित उत्पाद $H_L = a_{t_1} \cdot a_{t_2} \cdot \dots \cdot a_{t_L}$ को ट्रैक करना।
विभाजन (The Split): प्रोटोकॉल वर्जित क्रमिक जनरेटर जोड़ों (forbidden ordered generator pairs) का एक सेट $P_{forbid}$ $P_{f or bi d}$ परिभाषित करता है।
- प्रशिक्षण (Training): अनुक्रम इस तरह से उत्पन्न किए जाते हैं कि किसी भी प्रशिक्षण अनुक्रम में $P_{forbid}$ का कोई भी जोड़ा क्रमिक जनरेटरों के रूप में मौजूद नहीं है।
- मूल्यांकन (Evaluation): प्रत्येक मूल्यांकन अनुक्रम में $P_{forbid}$ में से प्रत्येक जोड़े की कम से कम एक उपस्थिति सुनिश्चित है।
निहितार्थ: यदि कोई मॉडल विशिष्ट स्थानीय संक्रमण टेम्पलेट $(a_i, a_j) \to \text{स्टेट}$ को याद रखकर कार्य को हल करने का प्रयास करता है, तो वह विफल हो जाएगा, क्योंकि आवश्यक टेम्पलेट प्रशिक्षण के दौरान कभी देखा ही नहीं गया था। इस प्रोटोकॉल के तहत सफलता वास्तविक अवस्था संयोजन करने के बजाय वास्तविक अवस्था-ट्रैकिंग क्षमताओं को दर्शाती है।

2.2 बेंचमार्क: $S_3 \times S_3$

प्राथमिक प्रयोग दो सिमेट्रिक समूहों के डायरेक्ट प्रोडक्ट, $G = S_3 \times S_3$ का उपयोग करते हैं, जिसमें स्टेट स्पेस का आकार 36 है।

जनरेटर्स (Generators): $\Sigma = \{a_0, a_1, a_2, a_3\}$ , जहाँ $\{a_0, a_1\}$ पहले $S_3$ कारक को जनरेट करते हैं और $\{a_2, a_3\}$ दूसरे को।
गैर-आबेली गुण (Non-Abelian Property): जबकि विभिन्न कारकों से संबंधित तत्व क्रमविनिमेय (commute) होते हैं, एक ही कारक के भीतर के तत्व क्रमविनिमेय नहीं होते हैं। कार्य के लिए पूरे अनुक्रम में क्रम को बनाए रखना आवश्यक है।
होल्ड-आउट पेयर्स (Held-Out Pairs): मुख्य प्रयोग $P_{forbid} = \{(a_0, a_2), (a_2, a_0)\}$ का उपयोग करता है। ये जोड़े विभिन्न कारकों से जुड़े हैं (जो तत्व-वार क्रमविनिमेय हैं), यह सुनिश्चित करता है कि फाल्सिफायर स्थानीय टेम्पलेट को लक्षित करता है न कि आसन्न जोड़े की गैर-क्रमविनिमेयता को। मजबूती की जाँच के लिए एक ही कारक के भीतर के जोड़ों (जैसे, $\{(a_0, a_1), (a_1, a_0)\}$ ) का भी उपयोग किया जाता है।

2.3 मॉडल आर्किटेक्चर: प्रोजेक्टेड रिकरेंट स्टेट (Projected Recurrent State)

प्रस्तावित मॉडल को एक कैरियर-एग्नोस्टिक इंटरफेस द्वारा परिभाषित किया गया है:

निरंतर हिडन स्टेट (Continuous Hidden State): एक निरंतर-मूल्य वाला रिकरेंट स्टेट $s_t$ बनाए रखता है।
एसोसिएटिव कंपोजिशन (Associative Composition): अपडेट्स एक एसोसिएटिव, गैर-क्रमविनिमेय संयोजन नियम का पालन करते हैं ( $s_t = s_{t-1} \odot u_t$ ), जिससे स्कैन-पैरेलल गणना संभव होती है।
प्रोजेक्शन रीडआउट (Projection Readout): एक प्रोजेक्शन ऑपरेटर $\pi: S \to G$ $π : S \to G$ निरंतर स्टेट को परिमित समूह के एक प्रतीकात्मक तत्व में मैप करता है।
- हार्ड प्रोजेक्शन ( $T \to 0$ ): निकटतम समूह तत्व लौटाता है (प्रतीकात्मक आउटपुट)।
- सॉफ्ट प्रोजेक्शन ( $T > 0$ ): समूह तत्वों पर एक संभाव्यता वितरण (probability distribution) लौटाता है।

2.4 डायग्नोस्टिक फ्रेमवर्क (Diagnostic Framework)

तंत्र को सत्यापित करने के लिए, शोध पत्र चार डायग्नोस्टिक्स पेश करता है जिन्हें प्रोजेक्शन तापमान ( $T$ ) के स्वीप के दौरान मूल्यांकित किया जाता है:

फाइनल-टोकन एक्यूरेसी (Final-token Accuracy): सही समूह तत्व की भविष्यवाणी करने की संभाव्यता।
एक्ज़ैक्ट होमोमोर्फिज्म एरर (Exact Homomorphism Error): मापता है कि क्या $\pi(s(uv)) \approx \pi(s(u)) \cdot \pi(s(v))$ है।
स्टेट-कंसिस्टेंसी ड्रिफ्ट (State-Consistency Drift): कैरियर के बाधा मैनिफोल्ड (constraint manifold) से विचलन को मापता है।
कम्यूटेटर गैप (Commutator Gap): कम्यूटेटर $[x, y]$ और आइडेंटिटी के बीच के अलगाव को मापता है।

2.5 बेसलाइन्स (Baselines)

अध्ययन प्रस्तावित मॉडल की तुलना निम्नलिखित से करता है:

नेटिव रीडआउट बेसलाइन्स: बैग-ऑफ-टोकन्स, GRU, और एक स्ट्रक्चर्ड स्टेट-स्पेस मॉडल (SSM) जिसमें मानक निरंतर रीडआउट का उपयोग किया गया है।
प्रोजेक्शन-मैच्ड बेसलाइन्स: समान प्रोटोटाइप प्रोजेक्शन के साथ प्रशिक्षित समान आर्किटेक्चर (GRU, SSM, Bag) जो ठीक उसी होल्ड-आउट स्प्लिट का उपयोग करते हैं। यह इस संभावना को नियंत्रित करता है कि प्रस्तावित मॉडल की सफलता केवल रीडआउट तंत्र का परिणाम तो नहीं है।

3. मुख्य परिणाम

3.1 लॉन्ग-होरिजन परफॉरमेंस (गेट B)

प्रशिक्षण (Training): लंबाई $L_{train} = 8$ के अनुक्रम।
मूल्यांकन (Evaluation): $L_{eval} = 1,048,576$ तक के क्षितिज (एक विस्तार अनुपात $\approx 10^5$ )।
प्रस्तावित मॉडल: हार्ड-प्रोजेक्टेड मॉडल ने सभी पांच सीड्स में सभी मूल्यांकन क्षितिजों पर, एक मिलियन-टोकन सीमा सहित, 100% सटीकता (250/250) प्राप्त की।
बेसलाइन्स:
- नेटिव-रीडआउट बेसलाइन्स फ्लोर (0.00–0.05 सटीकता) के पास रहे।
- प्रोजेक्शन-मैच्ड बेसलाइन्स (प्रोटोटाइप रीडआउट के साथ GRU, SSM, Bag) भी संयोग (1/36 $\approx$ 0.0278) के करीब रहे, जिनकी अधिकतम सटीकता लगभग 0.06 थी।
निष्कर्ष: सफलता केवल प्रोजेक्शन रीडआउट के कारण नहीं है; इसके लिए विशिष्ट गैर-क्रमविनिमेय अवस्था संयोजन इंटरफेस की आवश्यकता है।

3.2 मैकेनिज्म डायग्नोस्टिक्स (गेट C)

प्रोजेक्शन तापमान $T \approx 0.5$ पर एक सुसंगत सीमा की पहचान की गई:

हार्ड प्रोजेक्शन ( $T=0.25$ ): मॉडल लगभग शून्य होमोमोर्फिज्म एरर, कम स्टेट-कंसिस्टेंसी ड्रिफ्ट और एक बड़ा कम्यूटेटर गैप प्रदर्शित करता है। यह इंगित करता है कि निरंतर अवस्था एक समूह होमोमोर्फिज्म के रूप में व्यवहार करती है।
सॉफ्ट प्रोजेक्शन ( $T \ge 0.5$ ): फाइनल-टोकन एक्यूरेसी संयोग के स्तर तक गिर जाती है। होमोमोर्फिज्म एरर कई गुना बढ़ जाता है, और कम्यूटेटर गैप शून्य के करीब पहुँच जाता है।
निहितार्थ: अवस्था को ट्रैक करने की मॉडल की क्षमता हार्ड प्रोजेक्शन शासन से अटूट रूप से जुड़ी हुई है जहाँ प्रतिनिधित्व लगभग समूह-होमोमोर्फिक व्यवहार के करीब होता है।

3.3 मजबूती और लीकेज चेक (Robustness and Leakage Checks)

सेम-फैक्टर रोबस्टनेस (Same-Factor Robustness): जब होल्ड-आउट जोड़े एक ही गैर-आबेली कारक (जैसे, $a_0, a_1$ ) से लिए गए थे, तो हार्ड-प्रोजेक्टेड मॉडल ने 100% सटीकता बनाए रखी, जबकि बेसलाइन्स विफल रहे। यह पुष्टि करता है कि परिणाम क्रॉस-फैक्टर टेम्पलेट चयन का आर्टिफैक्ट नहीं है।
लीकेज ऑडिट (गेट E): प्रशिक्षण और मूल्यांकन सेटों के बीच शून्य वर्बेटिम रिड्यूस्ड-वर्ड ओवरलैप और शून्य स्ट्रक्चरल-टेम्पलेट ओवरलैप को सत्यापित किया गया। डेटा जेनरेशन प्रक्रिया यह सुनिश्चित करती है कि होल्ड-आउट जोड़े प्रशिक्षण के दौरान वास्तव में अनदेखे रहे।
प्रारंभिक $S_5$ स्ट्रेस टेस्ट: गैर-सुलभ (non-solvable) समूह $S_5$ ( $|G|=120$ ) पर एक प्रारंभिक परीक्षण ने दिखाया कि हार्ड-प्रोजेक्टेड मॉडल 65,536 टोकन तक 100% सटीकता प्राप्त करता है, जबकि बेसलाइन्स संयोग के करीब रहे। लेखक नोट करते हैं कि यह प्रारंभिक है और एक गैर-रिलीज़्ड कैरियर कार्यान्वयन पर निर्भर है।

4. महत्व और दावे

यह शोध पत्र एक जानबूझकर संकीर्ण लेकिन ठोस योगदान देता है:

फाल्सिफायर प्रोटोकॉल: यह एक "होल्ड-आउट ट्रांजिशन-पेयर फाल्सिफायर" पेश करता है जो सबसे प्रत्यक्ष स्थानीय-टेम्पलेट मेमोराइजेशन मार्ग को प्रभावी ढंग से ब्लॉक करता है। इस प्रोटोकॉल के तहत, मानक अनुक्रम मॉडल (GRU, SSM, Bag) विस्तार करने में विफल रहते हैं, भले ही उन्हें मिलान वाले प्रोजेक्शन रीडआउट से लैस किया गया हो।
इंडक्टिव बायस (Inductive Bias): यह प्रदर्शित करता है कि एक स्पष्ट प्रोजेक्टेड गैर-क्रमविनिमेय अवस्था संयोजन इंटरफेस दीर्घ-क्षितिज छिपी हुई अवस्था ट्रैकिंग के लिए एक उपयोगी इंडक्टिव बायस के रूप में कार्य करता है।
मैकेनिज्म वेरिफिकेशन: यह प्रमाण प्रदान करता है कि सफलता मॉडल के समूह-होमोमोर्फिक प्रतिनिधित्व सीखने से प्रेरित है, जैसा कि प्रोजेक्शन को नरम (soften) करने पर सटीकता और होमोमोर्फिज्म मेट्रिक्स के पतन से सत्यापित होता है।

सीमाएँ और दायरा:

परिणाम नियंत्रित परिमित-समूह बेंचमार्क ( $S_3 \times S_3$ और प्रारंभिक $S_5$ ) तक सीमित हैं।
यह पेपर खुले-अंत वाले प्राकृतिक भाषा या कोड कार्यों पर ट्रांसफॉर्मर या अन्य आर्किटेक्चर की सामान्य श्रेष्ठता का दावा नहीं करता है।
सटीक निरंतर कैरियर निर्माण का खुलासा नहीं किया गया है; दावे इसके इंटरफेस और प्रोटोकॉल के बारे में हैं।
सफलता हार्ड प्रोजेक्शन पर निर्भर करती है; सॉफ्ट या अनप्रोजेक्टेड वेरिएंट इसी मॉडल के साथ भी विफल हो जाते हैं।

संक्षेप में, यह शोध पत्र तर्क देता है कि जब अवस्था 'क्रम' (order) होती है, तो एक स्पष्ट प्रोजेक्टेड गैर-क्रमविनिमेय संरचना, यदि मूल्यांकन प्रोटोकॉल सरल टेम्पलेट मेमोराइजेशन को रोकता है, तो मिलियन-टोकन क्षितिज पर सटीक अवस्था ट्रैकिंग को सक्षम कर सकती है।