📊 statistics

Self-Attention as Transport: Limits of Symmetric Spectral Diagnostics

यह शोध पत्र सिद्ध करता है कि सममित स्पेक्ट्रल डायग्नोस्टिक्स (symmetric spectral diagnostics) मौलिक रूप से अटेंशन फ्लो (attention flow) की दिशा के प्रति ओरिएंटेशन-ब्लाइंड (orientation-blind) होते हैं, और एक बाइपार्टाइट-चीगर क्षमता मीट्रिक (bipartite-Cheeger capacity metric) तथा एक एसिमेट्री गुणांक (asymmetry coefficient) को संयोजित करने वाला एक द्वि-अक्षीय ढांचा प्रस्तुत करता है जो बड़े भाषा मॉडलों (large language models) में विशिष्ट विफलता मोड को सफलतापूर्वक अलग करने और भविष्यवाणी करने में सक्षम है।

मूल लेखक: Dominik Dahlem, Diego Maniloff, Mac Misiura

प्रकाशित 2026-05-07

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Dominik Dahlem, Diego Maniloff, Mac Misiura

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

एक लार्ज लैंग्वेज मॉडल (LLM) की कल्पना एक विशाल, हाई-स्पीड लाइब्रेरी के रूप में करें जहाँ एक लाइब्रेरियन ("अटेंशन मैकेनिज्म") यह तय करता है कि सवाल का जवाब देने के लिए शेल्फ से कौन सी किताबें (शब्द) निकालनी हैं। कभी-कभी, यह लाइब्रेरियन गलतियाँ करता है, जिससे "हैलुसिनेशन" (बनाई गई बातें) होती हैं।

यह शोध पत्र तर्क देता है कि सभी लाइब्रेरियन की गलतियाँ एक जैसी नहीं होतीं। कुछ लाइब्रेरियन बहुत अधिक चयनात्मक (picky) होते हैं, जो केवल एक या दो किताबें उठाते हैं और बाकी संदर्भ (context) को अनदेखा कर देते हैं। अन्य बहुत अधिक बिखरे हुए (scattered) होते हैं, जो इतनी सारी किताबें उठा लेते हैं कि महत्वपूर्ण जानकारी शोर में खो जाती है।

लेखकों ने एक नया "डायग्नोस्टिक टूलकिट" बनाया है ताकि यह पता लगाया जा सके कि लाइब्रेरियन वास्तव में कैसे विफल हो रहा है, जिसमें गणित का उपयोग किया गया है जो सूचना के प्रवाह को परिवहन यातायात (transportation traffic) की तरह मानता है।

यहाँ उनके निष्कर्षों का रोजमर्रा की भाषा में विवरण दिया गया है:

1. यातायात जाम के दो प्रकार

यह पेपर सूचना के "यातायात" के टूटने के दो अलग-अलग तरीकों की पहचान करता है:

द बॉटलनेक (बहुत संकीर्ण/Too Narrow): लाइब्रेरियन लाइब्रेरी के एक बहुत छोटे कोने पर इतना अधिक ध्यान केंद्रित करता है कि वह पास की प्रासंगिक किताबों को भी चूक जाता है। यह एक फायरहोस (firehose) से स्ट्रॉ (straw) के जरिए पानी पीने की कोशिश करने जैसा है।
द डिफ्यूज (बहुत विस्तृत/Too Wide): लाइब्रेरियन अपना ध्यान पूरी लाइब्रेरी में इतना फैला देता है कि वह किसी भी विशिष्ट, महत्वपूर्ण विवरण को पकड़ नहीं पाता। यह एक भीड़ भरे स्टेडियम में फुसफुसाहट सुनने की कोशिश करने जैसा है।

समस्या: अधिकांश मौजूदा उपकरण लाइब्रेरियन के ध्यान के "आकार" को देखते हैं और इन दोनों विफलताओं के बीच अंतर नहीं कर पाते। वे पुराने उपकरणों के गणितीय रूप से समान दिखते हैं, भले ही उनके कारण विपरीत हों।

2. "वन-वे स्ट्रीट" का अंधा मोड़ (Blind Spot)

लेखकों ने हमारी इस गलती को मापने में एक मौलिक सीमा की खोज की है।

सिमेट्रिक व्यू (अंधा मोड़): कई वर्तमान उपकरण लाइब्रेरियन के मानचित्र के "सिमेट्रिक" हिस्से को देखते हैं। यह एक सड़क मानचित्र को ऊपर से देखने जैसा है जिसमें यह नहीं पता कि उत्तर दिशा कौन सी है। आप सड़कें तो देख सकते हैं, लेकिन यह नहीं बता सकते कि यातायात आगे जा रहा है या पीछे। इस कारण, ये उपकरण "ओरिएंटेशन-ब्लाइंड" (दिशा-अंधे) होते हैं। वे यह तो बता सकते हैं कि कितना यातायात चल रहा है (क्षमता), लेकिन यह नहीं कि वह कहाँ जा रहा है (दिशा)।
एसिमेट्रिक व्यू (कंपास): इसे ठीक करने के लिए, लेखकों ने एसिमेट्री (G) नामक एक नया माप पेश किया है। यह एक कंपास की तरह काम करता है। यह पता लगाता है कि क्या लाइब्रेरियन अतीत को अनदेखा कर रहा है (एक "टेम्पोरल आइसोलेशन" विफलता)।
- उपमा: यदि एक लाइब्रेरियन केवल उस किताब पर ध्यान देता है जिसे वह वर्तमान में पकड़े हुए है और उन सभी चीजों को अनदेखा कर देता है जो उसने पांच मिनट पहले पढ़ी थीं, तो "कंपास" पागलों की तरह घूमेगा। यदि वह सामान्य रूप से पढ़ रहा है, तो कंपास स्थिर रहेगा।

3. अच्छे व्यवहार का "फ्लोर" (आधार)

टीम ने एक सैद्धांतिक "फ्लोर" की गणना की कि एक स्वस्थ लाइब्रेरियन को कैसा प्रदर्शन करना चाहिए।

उन्होंने पाया कि एक पूरी तरह से स्वस्थ, मानक लाइब्रेरियन के पास दक्षता का एक न्यूनतम स्तर (एक "कंडक्टेंस फ्लोर") होता है।
ट्विस्ट: जब एक लाइब्रेरियन विफल होता है, तो वे सीधे रेखा में "बदतर" नहीं होते। वे विशिष्ट आकृतियों में नियमों को तोड़ते हैं।
- कुछ मॉडल बॉटलनेक (ट्रैफिक जाम) में फंसकर नियम तोड़ते हैं।
- अन्य डिफ्यूज (बहुत अधिक फैलकर) होकर नियम तोड़ते हैं।
महत्वपूर्ण रूप से, पेपर दिखाता है कि विभिन्न मॉडलों (जैसे GPT-2 बनाम Pythia) के अलग-अलग "आर्किटेक्चरल सिग्नेचर" होते हैं। कुछ स्वाभाविक रूप से बॉटलनेक के प्रति प्रवृत्त होते हैं, जबकि अन्य बहुत अधिक फैल जाने (diffuse) के प्रति प्रवृत्त होते हैं।

4. "पोलैरिटी रिवर्सल" की खोज

लेखकों ने अपने टूल्स का परीक्षण विभिन्न डेटासेट्स पर किया:

डेटासेट A (HaluEval) पर, मॉडल बहुत संकीर्ण (बॉटलनेक) होकर विफल हुए।
डेटासेट B (MedHallu) पर, वही मॉडल बहुत विस्तृत (डिफ्यूज) होकर विफल हुए।

रूपक: एक थर्मामीटर की कल्पना करें। ठंडे दिन पर, पारा नीचे गिरता है। गर्म दिन पर, यह ऊपर उठता है। यदि आपके पास केवल एक ऐसा उपकरण हो जो यह कहे कि "यह खराब है" बिना यह बताए कि कैसे खराब है, तो आप भ्रमित होंगे। लेखकों का नया उपकरण एक स्मार्ट थर्मामीटर की तरह काम करता है जो कहता है, "यह इसलिए खराब है क्योंकि यह बहुत ठंडा है" या "यह इसलिए खराब है क्योंकि यह बहुत गर्म है," स्थिति के आधार पर।

5. लंबाई का महत्व ("लॉन्ग बनाम शॉर्ट" का जाल)

पेपर चेतावनी देता है कि कई पिछले अध्ययन उत्तरों की लंबाई से भ्रमित हो गए थे।

यदि कोई मॉडल बहुत लंबा उत्तर देता है, तो वह स्वाभाविक रूप से "डिफ्यूज" दिखता है क्योंकि वहां अधिक शब्द होते हैं।
यदि वह छोटा उत्तर देता है, तो वह "कन्सेंट्रेटेड" (केंद्रित) दिखता है।
लेखकों ने एक सख्त "लेंथ-कंट्रोल्ड" टेस्ट बनाया। उन्होंने यह सुनिश्चित किया कि वे सेब की तुलना सेब से कर रहे हैं (छोटे उत्तर बनाम छोटे उत्तर, लंबे बनाम लंबे)। एक बार जब उन्होंने ऐसा किया, तो उनके नए उपकरण अभी भी काम करते रहे, जिससे यह साबित हुआ कि वे वास्तविक संरचनात्मक विफलताओं का पता लगा रहे थे, न कि केवल शब्दों को गिन रहे थे।

टूलकिट का सारांश

लेखक AI हैलुसिनेशन के निदान के लिए एक दो-अक्ष (two-axis) डैशबोर्ड का प्रस्ताव करते हैं:

कैपेसिटी गेज (कंडक्टेंस): बताता है कि लाइब्रेरियन बहुत कम जानकारी ले जा रहा है (बॉटलनेक) या बहुत अधिक बिखरी हुई जानकारी ले जा रहा है (डिफ्यूज)।
डायरेक्शन कंपास (एसिमेट्री): बताता है कि क्या लाइब्रेरियन समय के प्रवाह (जैसे, पहले कही गई बातों को भूल जाना) को अनदेखा कर रहा है।

मुख्य निष्कर्ष:
आप ट्रैफिक जाम को तब तक ठीक नहीं कर सकते जब तक आपको यह न पता हो कि यह एक रोडब्लॉक (बॉटलनेक) के कारण है या लेन की कमी (डिफ्यूज) के कारण। यह पेपर उन दो प्रकार की विफलताओं के बीच स्पष्ट अंतर करने वाला पहला मानचित्र प्रदान करता है, जो यह दर्शाता है कि उनके लिए अलग-अलग निदान की आवश्यकता होती है और मानक उपकरण अक्सर यातायात की दिशा के प्रति "अंधे" होते हैं।

तकनीकी सारांश: परिवहन के रूप में सेल्फ-अटेंशन: सममित स्पेक्ट्रल डायग्नोस्टिक्स की सीमाएँ

समस्या विवरण

लार्ज लैंग्वेज मॉडल्स (LLMs) विशिष्ट रूटिंग विकृतियों (pathologies) के माध्यम से मतिभ्रम (hallucination) उत्पन्न करते हैं: बॉटलनेक विफलताएं (bottleneck failures), जहाँ अटेंशन कुछ चुनिंदा स्थितियों पर अत्यधिक केंद्रित हो जाता है, और डिफ्यूज़ विफलताएं (diffuse failures), जहाँ अटेंशन इतना अधिक फैल जाता है कि प्रासंगिकता कम हो जाती है। जबकि ये मोड मानक स्पेक्ट्रल लेंस के तहत मात्रात्मक रूप से समान दिखाई देते हैं, वे यांत्रिक रूप से विपरीत हैं। मौजूदा स्पेक्ट्रल डायग्नोस्टिक्स (जैसे, LLM-Check, EigenTrack, LapEigvals) अक्सर उन्हें अलग करने या क्षमता विफलताओं को दिशात्मक विफलताओं के साथ मिलाने में विफल रहते हैं। इसके अलावा, कई स्पेक्ट्रल विशेषताएं अनुक्रम लंबाई (sequence length) पर भ्रमित करने वाली निर्भरताएं विरासत में लेती हैं, जो अटेंशन रूटिंग के वास्तविक संरचनात्मक संकेत को धुंधला कर देती हैं। यह शोध पत्र उन संरचनात्मक सीमाओं को चरित्रित करने का प्रयास करता है जो अटेंशन-आधारित डायग्नोस्टिक्स माप सकते हैं और नहीं माप सकते, विशेष रूप से सूचना-प्रवाह की दिशा का पता लगाने में सममित स्पेक्ट्रल विधियों की सीमाओं को संबोधित करता है।

कार्यप्रणाली (Methodology)

लेखक अटेंशन हेड्स को क्वेरीज़ और कीज़ (queries and keys) के बीच डिग्री-नॉर्मलाइज्ड बाइटिकिएट ट्रांसपोर्ट ऑपरेटर्स ( $M$ ) के रूप में औपचारिक रूप देते हैं। यह प्रतिनिधित्व एक स्केल-इनवेरिएंट ऑपरेटर प्रदान करता जिसके स्पेक्ट्रल गुण रूटिंग की गुणवत्ता को कूटबद्ध करते हैं। कार्यप्रणाली तीन स्तंभों पर आधारित है:

ऑर्थोगोनल डिकंपोजिशन (Orthogonal Decomposition): ट्रांसपोर्ट ऑपरेटर $M$ को हिल्बर्ट-श्मिट (Hilbert–Schmidt) इनर प्रोडक्ट के तहत एक सममित घटक ( $M_{sym}$ ) में विभाजित किया जाता है जो ट्रांसपोर्ट क्षमता को नियंत्रित करता है, और एक विषम (antisymmetric) घटक ( $M_{asym}$ ) में जो ट्रांसपोर्ट दिशा को नियंत्रित करता है।
स्पेक्ट्रल डायग्नोस्टिक्स:
- कंडक्टेंस ( $\phi$ ): सममित घटक से प्राप्त, चीर असमानता (Cheeger inequality) के माध्यम से, $\phi$ सूचना परिवहन की दक्षता को मापता है। कम $\phi$ बॉटलनेक को दर्शाता है; उच्च $\phi$ डिफ्यूज़ मिक्सिंग को दर्शाता है।
- एसिमेट्री कोएफिशिएंट ( $G$ ): $M$ की सममित सबस्पेस से नॉर्मलाइज्ड फ्रोबेनियस दूरी के रूप में परिभाषित, $G = \|M_{asym}\|_F / (\|M\|_F + \epsilon)$ , वह न्यूनतम पूरक है जो सममित सारांशों द्वारा खोई गई दिशात्मक जानकारी को पुनः प्राप्त करने के लिए आवश्यक है।
- स्पेक्ट्रल गैप ( $1-\sigma_2$ ): $M$ का दूसरा सिंगुलर मान कंडक्टेंस के प्रॉक्सी के रूप में कार्य करता है।
लंबाई-नियंत्रित मूल्यांकन (Length-Controlled Evaluation): भ्रम (confounding) को संबोधित करने के लिए, लेखक एक लेंथ-कंट्रोल्ड AUROC (LC-AUROC) प्रोटोकॉल पेश करते हैं। इसमें प्रतिक्रिया लंबाई को बिनों (bins) में विभाजित करना, बिन के भीतर लंबाई के विरुद्ध स्कोर को रेसिडुअलाइज (residualize) करना, और पेयर-वेटेड AUROC के माध्यम से एकत्रित करना शामिल है। यह संरचनात्मक रूटिंग संकेतों को लंबाई-निर्भर आर्टिफैक्ट्स से अलग करता है।
सैद्धांतिक बेंचमार्क: यह शोध पत्र कैनोनिकल कॉज़ल आर्किटेक्चर (यूनिफॉर्म कॉज़ल, विंडो अटेंशन) के लिए क्लोज्ड-फॉर्म कंडक्टेंस लैंडस्केप को व्युत्पन्न करता है ताकि आर्किटेक्चरल "फ्लोर" और अपेक्षित विफलता-मोड आकृतियों को स्थापित किया जा सके।

मुख्य योगदान

1. सममित डायग्नोस्टिक्स की संरचनात्मक सीमाएं (ओरिएंटेशन ब्लाइंडनेस)

यह शोध पत्र थ्योरम 4 (ओरिएंटेशन ब्लाइंडनेस) को सिद्ध करता है: कोई भी स्पेक्ट्रल डायग्नोस्टिक जो केवल अटेंशन ऑपरेटर के सिंगुलर मानों या सममित घटक पर निर्भर है, वह ट्रांसपोज़-इनवेरिएंट (transpose-invariant) है। फलस्वरूप, ऐसे डायग्नोस्टिक्स संरचनात्मक रूप से "ओरिएंटेशन-ब्लाइंड" हैं और ऑपरेटर और उसके ट्रांसपोज़ के बीच अंतर नहीं कर सकते, जिससे वे सूचना-प्रवाह की दिशा का पता लगाने में अक्षम हो जाते हैं। एक मात्रात्मक विलोम (प्रपोजिशन 6) स्थापित करता है कि कोई भी लिप्सचिट्ज (Lipschitz) डायग्नोस्टिक जो दिशा के प्रति संवेदनशील है, उसे विषम घटक पर निर्भर होना चाहिए, जिसकी संवेदनशीलता $\|M_{asym}\|_F$ द्वारा सीमित है।

2. टू-साइडेड कंडक्टेंस थ्योरी

केवल एक विफलता मोड का पता लगाने वाले मेट्रिक्स के विपरीत, कंडक्टेंस फ्रेमवर्क एक दो-तरफा डायग्नोस्टिक प्रदान करता है:

बॉटलनेक्स: कम कंडक्टेंस ( $\phi$ ) अत्यधिक केंद्रित रूटिंग को प्रमाणित करता है।
डिफ्यूज़ मिक्सिंग: आर्किटेक्चरल बेसलाइन के सापेक्ष असामान्य रूप से उच्च कंडक्टेंस (उच्च $\phi$ ) कम-केंद्रित रूटिंग को प्रमाणित करता है।
लेखक यूनिफॉर्म कॉज़ल अटेंशन के लिए एक क्लोज्ड-फॉर्म बाइटिकिएट-चीर लैंडस्केप व्युत्पन्न करते हैं, जो $\phi \ge 1/5$ के $n$ -स्वतंत्र फ्लोर को सिद्ध करता है, जिसमें $t^*/n \approx 0.32$ पर सबसे खराब स्थिति वाला कट (worst-case cut) होता है। दिखाया गया है कि विंडो अटेंशन $O(w/n)$ के रूप में इस फ्लोर को भेद देता है।

3. डिग्री पर्याप्तता और कपलिंग संरचना

थ्योरम 2 (डिग्री पर्याप्तता) यह औपचारिक रूपकर स्पष्ट करती है कि कब कपलिंग संरचना डिग्री विषमता (heterogeneity) से परे स्पेक्ट्रल गुणों में योगदान देती है। यह स्थापित करता है कि लगभग-रेगुलर अटेंशन ( $\kappa \approx 1$ ) के लिए, स्पेक्ट्रल गैप पूरी तरह से डिग्री वितरण द्वारा समझाया जाता है। केवल जब डिग्री विषमता महत्वपूर्ण रूप से विचलित होती है, तभी कपलिंग संरचना स्वतंत्र सिग्नल प्रदान करती है।

4. एम्पिरिकल पोलैरिटी प्रेडिक्शन

फ्रेमवर्क एक परीक्षण योग्य भविष्यवाणी प्रदान करता है: बॉटलनेक-डोमिनेटेड और डिफ्यूज़-डोमिनेटेड बेंचमार्क कंडक्टेंस स्कोर में विपरीत ध्रुवीयता (polarity) प्रदर्शित करने चाहिए।

HaluEval: मतिभ्रम (hallucinations) कम-कंडक्टेंस (बॉटलनेक) शासन में क्लस्टर होते हैं।
MedHallu: मतिभ्रम उच्च-कंडक्टेंस (डिफ्यूज़) शासन में क्लस्टर होते हैं।
यह पोलैरिटी रिवर्सल de length-controlled evaluation के तहत अनुभवजन्य रूप से देखा गया है, जो दो-तरफा सिद्धांत को मान्य करता है।

अनुभवजन्य परिणाम (Empirical Results)

डायग्नोस्टिक प्रदर्शन: LC-AUROC के तहत, ट्रांसपोर्ट फीचर्स 8B पैरामीटर्स तक के मॉडल्स पर व्याख्या योग्य सिग्नल (0.62–0.84) बनाए रखते हैं।
- कंडक्टेंस ( $\phi$ ): क्षमता विफलताओं को पकड़ता है। डोमिनेंट सिग्नल मॉडल स्केल के साथ बदलता है: 70M पैरामीटर्स पर, लोकेशन स्टैटिस्टिक्स (मीन) हावी होते हैं (यूनिफॉर्म डिप्रेशन); 1.4B पर, स्प्रेड स्टैटिस्टिक्स (std) हावी होते हैं (रूटिंग विषमता)।
- एसिममेट्री ( $G$ ): डिकोडर-ओनली मॉडल्स में आम तौर पर विरल (संभाव्यता के करीब) होता है, जो यह दर्शाता है कि कंटेंट-डिपेंडेंट डायरेक्शनल रूटिंग प्राथमिक विफलता मोड नहीं है। अपवादों में Flan-T5 (जहाँ $G$ क्रॉस-अटेंशन ग्राउंडिंग विफलताओं का पता लगाता है) और Pythia (जहाँ $G$ RoPE-प्रेरित पोजीशनल डिके से विचलन का पता लगाता है) शामिल हैं।
बेसलाइन तुलना:
- हिडन-स्टेट प्रोब्स (LLM-Check): मजबूत सामान्य डिटेक्शन (0.62–0.72 LC-AUROC) प्राप्त करते हैं लेकिन संरचनात्मक रूप से विफलता मोड के प्रति उदासीन हैं और मध्यम लंबाई भ्रम (length confounding) दिखाते हैं।
- सुपरवाइज्ड स्पेक्ट्रल क्लासिफायर (EigenTrack): मामूली सिग्नल और खराब सामान्यीकरण दिखाते हैं, जो संभवतः डेटासेट-विशिष्ट स्पेक्ट्रल हस्ताक्षरों और एस्पेक्ट रेश्यो के माध्यम से अपरिहार्य लंबाई निर्भरता के कारण ओवरफिटिंग के कारण है।
स्केलिंग: ट्रांसपोर्ट डायग्नोस्टिक्स Pythia स्केल्स (70M से 1.4B) और LLaMA 3.1 8B में बने रहते हैं, हालांकि मॉडल क्षमता बढ़ने के साथ सिग्नल को कैप्चर करने के लिए एकत्रीकरण विधि को मीन-आधारित से वेरिएंस-आधारित में बदलने की आवश्यकता होती है।

महत्व और दावे

यह शोध पत्र एक एकल "सर्वश्रेष्ठ" मतिभ्रम डिटेक्टर प्रस्तावित करने के बजाय अटेंशन डायग्नोस्टिक्स के लिए एक संरचनात्मक सीमा स्थापित करने का दावा करता है। इसका प्राथमिक महत्व निम्नलिखित में निहित है:

डिकंपोजिशन: रूटिंग विफलताओं को ऑर्थोगोनल अक्षों (क्षमता बनाम दिशा) में विभाजित करना (औपचारिक गारंटी - चीर असमानता, ओरिएंटेशन ब्लाइंडनेस थ्योरम के साथ)।
व्याख्यात्मकता (Interpretability): यह प्रदान करना कि क्यों विभिन्न डेटासेट अलग-अलग विफलता मोड (बॉटलनेक बनाम डिफ्यूज़) प्रदर्शित करते हैं, कंडक्टेंस लैंडस्केप के आकार के आधार पर एक यांत्रिक स्पष्टीकरण।
पद्धतिगत कठोरता: यह प्रदर्शित करना कि लंबाई का भ्रम (length confounding) कच्चे AUROC को 0.28 अंक तक बढ़ा सकता है और संरचनात्मक संकेतों को अलग करने के लिए एक प्रोटोकॉल (LC-AUROC) स्थापित करना।
आर्किटेक्चरल अंतर्दृष्टि: यह दिखाना कि डिकोडर-ओनली मॉडल्स में दिशात्मक संकेतों की "विरलता" ( $G$ ) एक आर्किटेक्चरल गुण है (पोजीशनल स्ट्रक्चर का कंटेंट-डिपेंडेंट डायरेक्शन पर प्रभुत्व), न कि डायग्नोस्टिक की विफलता।

लेखक इस बात पर जोर देते हैं कि जबकि फ्रेमवर्क यह लक्षणित करता है कि अटेंशन रूटिंग कैसे विफल होती है, यह सभी मामलों में (जैसे, रूटिंग पैथोलॉजी के बिना ज्ञान अंतराल) मतिभ्रम का पता लगाने का समाधान करने का दावा नहीं करता है। योगदान स्पेक्ट्रल अटेंशन विश्लेषण की संरचनात्मक सीमाओं को समझने के लिए एक सिद्धांतवादी फ्रेमवर्क है।