💻 computer science

Predicting Functions, Not Features: KANs with Function-Space Joint-Embedding Predictive Learning for Medical Image Segmentation

यह शोध पत्र फंक्शन-स्पेस जॉइंट-एम्बेडिंग प्रेडिक्टिव लर्निंग (FS-JEPA) को प्रस्तुत करता है, जो एक नवीन ढांचा है जो मेडिकल इमेज सेगमेंटेशन के लिए कोलमोगोरोव-आर्नोल्ड नेटवर्क्स (KANs) को एक मास्क्ड सेल्फ-सुपरवाइज्ड तरीके से व्यक्तिगत एज फंक्शन्स के स्ट्रक्चर्ड मल्टी-रेडियस सिग्नेचर की भविष्यवाणी करके उन्नत बनाता है, जिससे पांच बेंचमार्क में अत्याधुनिक प्रदर्शन प्राप्त होता है।

मूल लेखक: Yungeng Liu, Xuanzi Fang, Yuge Zhang, Shuqi Ren, Haijin Zeng, Yongyong Chen

प्रकाशित 2026-08-13

📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Yungeng Liu, Xuanzi Fang, Yuge Zhang, Shuqi Ren, Haijin Zeng, Yongyong Chen

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को एक्स-रे से दिल का चित्र बनाना सिखाने की कोशिश कर रहे हैं। यह मेडिकल इमेज सेगमेंटेशन (medical image segmentation) की दुनिया है, जो आर्टिफिशियल इंटेलिजेंस की एक शाखा है जहाँ कंप्यूटर अंगों, ट्यूमर या ऊतकों (tissues) के चारों ओर सटीक रूपरेखा खींचना सीखते हैं। यह एक कठिन काम है क्योंकि मेडिकल इमेज अक्सर धुंधली होती हैं, स्वस्थ और बीमार ऊतकों के बीच की सीमाएं अस्पष्ट होती हैं, और रोबोट को डॉक्टरों की मदद करने के लिए अविश्वसनीय रूप से सटीक होना पड़ता है।

इसे करने के लिए, आधुनिक AI "न्यूरल नेटवर्क" का उपयोग करता है, जो गणितीय कनेक्शनों के विशाल जाल की तरह होते हैं। लंबे समय तक, इन नेटवर्कों ने निश्चित नियमों (जैसे एक लाइट स्विच जो हमेशा चालू या बंद रहता है) का उपयोग किया। लेकिन, एक नया और अधिक आकर्षक प्रकार का नेटवर्क जिसे कोल्मोगोरोव-आर्नोल्ड नेटवर्क (Kolmogorov–Arnold Network - KAN) कहा जाता है, सामने आया है। निश्चित नियमों के बजाय, KANs हर एक कनेक्शन पर "सीखने योग्य फलनों" (learnable functions) का उपयोग करते हैं। इसे ऐसे समझें: एक सामान्य नेटवर्क में, हर तार एक कठोर पाइप की तरह है। KAN में, हर तार एक लचीला, आकार बदलने वाला रबर बैंड है जिसे नेटवर्क अपनी जरूरत के अनुसार टेढ़ा-मेढ़ा, सीधा या घुमावदार बना सकता है। बड़ा सवाल जो शोधकर्ता पूछ रहे हैं वह है: हम इन रबर बैंडों को सही तरीके से खींचना कैसे सिखाएं?

यहीं से एक नया अध्ययन आता है। शोधकर्ताओं ने पाया कि हालांकि KANs शक्तिशाली हैं, लेकिन उन्हें प्रशिक्षित करने का मानक तरीका एक संगीतकार को केवल पूरे ऑर्केस्ट्रा की अंतिम ध्वनि के आधार पर आंकने जैसा है, बिना व्यक्तिगत वायलिन वादकों को सुने। उन्होंने महसूस किया कि "रबर बैंड" (फलन/functions) को इस बारेगत पर्याप्त विशिष्ट फीडबैक नहीं मिल रहा था कि वे उनके आपस में मिलने से पहले कैसे व्यवहार कर रहे हैं। इसे ठीक करने के लिए, उन्होंने एक नई प्रशिक्षण तकनीक विकसित की जिसे FS-JEPA कहा जाता है। केवल अंतिम परिणाम को देखने के बजाय, उन्होंने AI को प्रत्येक रबर बैंड के व्यवहार के "आकार" (shape) की पहले से भविष्यवाणी करने के लिए प्रेरित किया। इस पद्धति को पांच अलग-अलग मेडिकल इमेज डेटासेट्स पर परीक्षण करके, उन्होंने दिखाया कि यह विधि पिछले KAN-आधारित तरीकों की तुलना में AI को बहुत अधिक स्पष्ट और सटीक रूपरेखा खींचने में मदद करती है, जिससे औसत सटीकता स्कोर में 2.25 प्रतिशत अंक का सुधार हुआ।

समस्या: "ऑर्केस्ट्रा" बनाम "सोलोइस्ट"

आइए इसकी कार्यप्रणाली को समझते हैं। एक मानक KAN में, नेटवर्क परतों (layers) से बना होता है। प्रत्येक परत इनपुट लेती है और इन विशेष "रबर बैंड" फलनों के माध्यम से आउटपुट बनाने के लिए उन्हें पास करती है। समस्या यह है कि नेटवर्क को आमतौर पर अंतिम आउटपुट—"ऑर्केस्ट्रा" के गीत—को देखकर प्रशिक्षित किया जाता है। यदि गीत अच्छा लगता है, तो नेटवर्क को एक गोल्ड स्टार मिलता है। यदि यह बुरा लगता है, तो उसे रेड लाइट मिलती है।

लेकिन यहाँ एक पेंच है: रबर बैंडों के कई अलग-अलग संयोजन एक ही अंतिम गीत उत्पन्न कर सकते हैं। हो सकता है कि एक रबर बैंड बहुत अधिक खिंच गया हो, लेकिन दूसरा ठीक उसी तरह दब गया हो ताकि वह उसे संतुलित कर सके। नेटवर्क को गोल्ड स्टार मिलता है, लेकिन व्यक्तिगत रबर बैंडों को कभी यह नहीं पता चलता कि वे उस तरह क्यों खिंचे थे। वे बिना किसी स्पष्ट लक्ष्य के अनुमान लगाते रहते हैं। यह एक कंडक्टर को एक वायलिन वादक से यह कहने जैसा है, "संगीत अच्छा लग रहा है," बिना यह बताए कि उसका विशिष्ट नोट सुर में था या नहीं।

समाधान: रबर बैंड के "आकार" की भविष्यवाणी करना

इस शोध के लेखकों ने, जिनका नेतृत्व युंगेंग लुओ (Yungeng Liu) और जुआनज़ी फांग (Xuanzi Fang) ने किया, खेल को बदलने का निर्णय लिया। उन्होंने पूछा: "क्या होगा यदि हम AI को प्रत्येक रबर बैंड के अंतिम गीत में मिलने से पहले उसके व्यवहार की भविष्यवाणी करना सिखा सकें?"

उन्होंने फंक्शन-स्पेस जॉइंट-एम्बेडिंग प्रेडिक्टिव लर्निंग (Function-Space Joint-Embedding Predictive Learning - FS-JEPA) नामक एक प्रणाली बनाई। यह कैसे काम करती है, इसके लिए एक मनोरंजक उपमा का उपयोग करते हैं:

कल्पना कीजिए कि आपके पास एक जादुई रबर बैंड (एक KAN एज फंक्शन) है। पुराने तरीके में, आप रबर बैंड को केवल तभी देखते थे जब वह एक विशिष्ट बिंदु तक खिंच जाता था। लेकिन एक रबर बैंड उस बिंदु के थोड़ा बाएँ या दाएँ भी बहुत अलग व्यवहार कर सकता है। शायद वह वहां सख्त है, या शायद वह बहुत लचीला है।

नई विधि, FS-JEPA, केवल एक बिंदु को नहीं देखती है। यह AI से एक "मल्टी-रेडियस सिग्नेचर" (multi-radius signature) की भविष्यवाणी करने के लिए कहती है। इसे रबर बैंड के आकार की केवल केंद्र पर ही नहीं, बल्कि उसके आसपास छह अलग-अलग स्थानों पर (जैसे एक छोटा हेलो/आभामंडल माप) स्नैपशॉट लेने के रूप में सोचें। यह "सिग्नेचर" AI को बताता है कि रबर बैंड स्थानीय रूप से (locally) कैसे व्यवहार कर रहा है।

प्रशिक्षण प्रक्रिया "आकार का अनुमान लगाने" के खेल की तरह काम करती है:

मास्क्ड ऑनलाइन ब्रांच (The Masked Online Branch): AI को रबर बैंड के व्यवहार का एक "मास्क्ड" संस्करण दिखाया जाता है (कुछ हिस्से छिपे हुए होते हैं)। इसे पूरा "सिग्नेचर" (छह स्थानों पर आकार) का अनुमान लगाना होता है।
टारगेट ब्रांच (The Target Branch): एक "टीचर" संस्करण का AI (जो धीरे-धीरे और स्थिरता से चलता है, जैसे एक शांत गुरु) पूर्ण, अनमास्क्ड रबर बैंड को देखता है और सही सिग्नेचर बनाता है।
मैच (The Match): छात्र AI, शिक्षक के सिग्नेचर से मेल खाने की कोशिश करता है। यदि वह आकार को सही पहचान लेता है, तो वह सीखता है।

महत्वपूर्ण रूप से, AI केवल आकार का अनुमान नहीं लगाता है; यह इस बात का भी ध्यान रखता है कि वह किस रबर बैंड को देख रहा है। चूंकि हजारों रबर बैंड होते हैं, इसलिए सिस्टम "निर्देशांकों" (coordinates) का उपयोग करता है ताकि यह सुनिश्चित हो सके कि छात्र उसी रबर बैंड के आकार का अनुमान लगा रहा है जिसे शिक्षक दिखा रहा है। यह सुनिश्चित करता है कि सीखना सटीक हो और चीजें आपस में न मिलें।

परिणाम: स्पष्ट रूपरेखा, बेहतर स्कोर

शोधकर्ताओं ने स्तन के घावों, थायराइड स्कैन और हिस्टोलॉजी छवियों सहित पांच अलग-अलग मेडिकल इमेज डेटासेट्स पर इस नई विधि का परीक्षण किया। उन्होंने इसकी तुलना सबसे अच्छे मौजूदा KAN-आधारित मॉडलों और अन्य मानक मेडिकल AI मॉडलों से की।

परिणाम स्पष्ट थे:

बेहतर सटीकता: FS-JEPA पद्धति ने सभी पांच डेटासेट्स में उच्चतम औसत Dice स्कोर 83.37% और IoU 75.04% प्राप्त किया।
प्रतिस्पर्धा को पछाड़ना: इसने सबसे मजबूत प्रतिस्पर्धी KAN-आधारित विधि (UUEKAN) को Dice स्कोर में +2.25 प्रतिशत अंक से पीछे छोड़ दिया।
कोई अतिरिक्त लागत नहीं: सबसे अच्छी बात यह है कि यह "अनुमानित लर्निंग" केवल प्रशिक्षण के दौरान होती है। एक बार जब AI प्रशिक्षित हो जाता है, तो अतिरिक्त "अनुमान लगाने वाले" हिस्सों को हटा दिया जाता है। अंतिम मॉडल का आकार और गति मूल मॉडल के समान ही होती है, लेकिन यह अधिक स्मार्ट होता है क्योंकि इसने अपने प्रशिक्षण के दौरान बेहतर आदतें सीखी हैं।

यह क्यों महत्वपूर्ण है

यह शोध पत्र सुझाव देता है कि सीखने के लक्ष्य को अंतिम "ऑर्केस्ट्रा" की ध्वनि से हटाकर प्रत्येक व्यक्तिगत वाद्य यंत्र के विशिष्ट "आकार" पर ले जाकर, हम इन लचीले नेटवर्कों को बहुत अधिक प्रभावी ढंग से प्रशिक्षित कर सकते हैं। लेखकों ने पाया कि केवल एक बिंदु की भविष्यवाणी करना पर्याप्त नहीं था; AI को वास्तव में फलन (function) को समझने के लिए "स्थानीय विविधताओं" (local variations/multi-radius signature) को देखने की आवश्यकता थी।

प्रयोगों में, उन्होंने अन्य विचारों को भी खारिज किया, जैसे कि केवल अंतिम विशेषता की भविष्यवाणी करना या रबर बैंड से एक एकल प्रतिक्रिया की भविष्यवाणी करना। वे तरीके उतने अच्छे से काम नहीं कर पाए, जिससे पता चलता है कि फलन के स्थानीय व्यवहार को पकड़ना ही KANs की पूरी क्षमता को अनलॉक करने की कुंजी है।

अंततः, यह शोध दिखाता है कि हमें बेहतर परिणाम प्राप्त करने के लिए अपने मेडिकल AI मॉडलों को बड़ा या अधिक जटिल बनाने की आवश्यकता नहीं है। इसके बजाय, यह बदलकर कि हम उन्हें कैसे सिखाते हैं—उन्हें अपने स्वयं के आंतरिक फलनों के विस्तृत आकार की भविष्यवाणी करने के लिए कहकर—हम उन्हें चिकित्सा में सबसे महत्वपूर्ण चीजों के चारों ओर अधिक स्पष्ट और सटीक सीमाएं खींचने में मदद कर सकते हैं।

तकनीकी सारांश: फलनों (Functions) का पूर्वानुमान, विशेषताओं (Features) का नहीं – KANs के साथ फंक्शन-स्पेस जॉइंट-एम्बेडिंग प्रेडिक्टिव लर्निंग

समस्या विवरण

मेडिकल इमेज सेगमेंटेशन (चिकित्सा छवि विभाजन) में कमजोर कंट्रास्ट, अस्पष्ट सीमाएं और बड़े स्वरूप परिवर्तन जैसी चुनौतियां आती हैं। जबकि एनकोडर-डिकोडर आर्किटेक्चर (जैसे U-Net वेरिएंट्स) मल्टी-स्केल फ्यूजन के माध्यम से इनका समाधान करते हैं, वे स्केलर वेट्स और फिक्स्ड एक्टिवेशन्स पर निर्भर करते हैं, जिससे नॉनलीनियर ट्रांसफॉर्मेशन केवल निहित (implicitly) रूप से परिभाषित रह जाते हैं।

कोल्मोगोरोव-आर्नोल्ड नेटवर्क (KANs) एक स्पष्ट कार्यात्मक प्रतिनिधित्व (explicit functional representation) प्रदान करते हैं, जो नेटवर्क किनारों (edges) को सीखने योग्य एकचर फलनों ( $\phi_{j,i}$ ) के रूप में पैरामीटराइज़ करते हैं। हालांकि, मौजूदा KAN-आधारित सेगमेंटेशन मॉडल (जैसे U-KAN) इन एज-फंक्शन्स को केवल एज एग्रीगेशन के बाद परिभाषित उद्देश्यों के माध्यम से अनुकूलित करते हैं। यह दो प्राथमिक सीमाएं पैदा करता है:

स्पष्ट प्री-एग्रीगेशन लक्ष्यों का अभाव: सुपरविजन एग्रीगेशन के बाद आने वाले रिस्पॉन्स के योग को सीमित करता है, जिससे विभिन्न एज-फंक्शन कॉन्फ़िगरेशन समान नोड आउटपुट उत्पन्न कर सकते हैं। फलस्वरूप, एग्रीगेशन से पहले व्यक्तिगत एज फंक्शन्स के पास कोई स्पष्ट लर्निंग टारगेट नहीं होता है।
स्थानीय व्यवहार का अपर्याप्त लक्षण वर्णन: फॉरवर्ड पास के दौरान, एक फलन का मूल्यांकन केवल एक एकल इनपुट-डिपेंडेंट एंकर पर किया जाता है। उस बिंदु पर समान रिस्पॉन्स वाले फलन पास के क्षेत्रों में भिन्न स्थानीय व्यवहार प्रदर्शित कर सकते हैं, फिर भी ये भिन्नताएं डाउनस्ट्रीम कार्य द्वारा केवल निहित रूप से ही सीमित रहती हैं।

मौजूदा जॉइंट-एंबेडिंग प्रेडिक्टिव लर्निंग (JEPA) विधियां फीचर, टोकन या इमेज एम्बेडिंग्स पर कार्य करती हैं, लेकिन वे सीखने योग्य न्यूरल फंक्शन्स को प्रेडिक्शन टारगेट के रूप में नहीं देखती हैं। JEPA को KAN फंक्शन स्पेस तक विस्तारित करना गैर-तुच्छ (non-trivial) है क्योंकि एक एकल एज रिस्पॉन्स स्थानीय व्यवहार को चित्रित नहीं कर सकता, और सैम्पल्ड एडजेस को दोनों शाखाओं के बीच स्पष्ट रूप से संरेखित रहना चाहिए।

कार्यप्रणाली: FS-JEPA

लेखक फंक्शन-स्पेस जॉइंट-एम्बेडिंग प्रेडिक्टिव लर्निंग (FS-JEPA) प्रस्तावित करते हैं, एक ऐसा फ्रेमवर्क जो प्रेडिक्टिव लर्निंग को KANs के प्री-एग्रीगेशन फंक्शन स्पेस में स्थानांतरित करता है।

मुख्य फ्रेमवर्क

आर्किटेक्चर में एक मानक U-आकार का KAN सेगमेंटेशन नेटवर्क और एक केवल प्रशिक्षण के लिए उपयोग होने वाला प्रेडिक्टिव ब्रांच शामिल है।

टारगेट ब्रांच: एक फुल-कॉन्टेक्स्ट एक्सपोनेंशियल मूविंग एवरेज (EMA) ब्रांच टारगेट सिग्नेचर जेनरेट करती है।
ऑनलाइन ब्रांच: एक मास्क किया हुआ ब्रांच आंशिक रूप से मास्क किए गए टोकन सीक्वेंस प्राप्त करता है और टारगेट सिग्नेचर का पूर्वानुमान लगाता है।
एज कॉरेस्पोंडेंस: दोनों शाखाएं समान सैम्पल्ड एज इंडेक्स साझा करती हैं ताकि यह सुनिश्चित हो सके कि भविष्यवाणियां समान इनपुट-आउटपुट एज फंक्शन्स से संबंधित हैं।

मुख्य घटक

1. एज सैंपलिंग और चयन
सभी $O(BN d_{in} d_{out})$ एडजेस के रिस्पॉन्स की गणना करने की अत्यधिक लागत से बचने के लिए, फ्रेमवर्क $K$ इनपुट-आउटपुट एज पेयर्स को रैंडमली सैंपल करता है। एक सिलेक्टेड-एज ऑपरेटर ( $\Phi_S$ ) केवल इन विशिष्ट एडजेस को उनके स्प्लाइन पैरामीटर्स और नॉट ग्रिड्स को इकट्ठा करके इवैल्यूएट करता है, जिससे सहायक एक्टिवेशन लागत $O(BNK)$ तक कम हो जाती है।

2. मल्टी-रेडियस एज फंक्शन सिग्नेचर
एक अलग आइसोलेटेड रिस्पॉन्स का पूर्वानुमान लगाने के बजाय, यह विधि प्रत्येक सैम्पल्ड एज फंक्शन को एक मल्टी-रेडियस सिग्नेचर का उपयोग करके प्रस्तुत करती है।

एक एज के लिए एंकर इनपुट $u$ के लिए, ऑफसेट्स का एक सेट $\mathcal{D} = \{-0.10, -0.05, -0.025, 0.025, 0.05, 0.10\}$ परिभाषित किया गया है।
सिग्नेचर $s_e$ इन ऑफसेट्स पर फलन इवैल्यूएशन का वेक्टर है: $s_e = [\phi_e(u+\Delta)]_{\Delta \in \mathcal{D}}$ ।
यह स्ट्रक्चर्ड रिप्रेजेंटेशन उन स्थानीय कार्यात्मक विविधताओं को कैप्चर करता है जिन्हें एकल बिंदु इवैल्यूएशन कैप्चर नहीं कर सकता।

3. डिटरमिनिस्टिक एज कॉरेस्पोंडेंस
स्टोकेस्टिक सैंपलिंग समस्या को हल करने के लिए, एक सैम्पल्ड एज $(i, j)$ के सोर्स और टारगेट नोड पोजीशंस को डिटरमिनिस्टिक कोऑर्डिनेट्स $(p_i, p_j)$ के रूप में एनकोड किया जाता है। ये कोऑर्डिनेट्स फंक्शन सिग्नेचर के साथ कॉन्कैटिनेट किए जाते हैं और सिग्नेचर प्रेडिक्टर को कंडीशंस के रूप में प्रदान किए जाते हैं, जिससे बिना किसी लर्नबल पैरामीटर के सुसंगत पत्राचार सुनिश्चित होता है।

4. जॉइंट ऑप्टिमाइजेशन
फ्रेमवर्क सेगमेंटेशन लॉस ( $L_{seg}$ ) और फंक्शन-स्पेस प्रेडिक्टिव लॉस ( $L_{sig}$ ) को जॉइंटली ऑप्टिमाइज़ करता है।

प्रेडिक्टिव लॉस: $L_{sig} = \text{SmoothL1}(\hat{s}_e, s^+_e)$ के रूप में परिभाषित है, जहाँ $\hat{s}_e$ ऑनलाइन ब्रांच से प्रेडिक्शन है और $s^+_e$ EMA ब्रांच से टारगेट है।
ट्रेनिंग: कुल लॉस $L_{total} = L_{seg} + \lambda_{deep}L_{deep} + \lambda_{sig}\sum L^{(b)}_{sig}$ है।
इन्फरेंस: सभी प्रेडिक्टिव कंपोनेंट्स (ऑनलाइन ब्रांच, EMA ब्रांच, सिग्नेचर प्रेडिक्टर) को हटा दिया जाता है, जिससे मूल सेगमेंटेशन पाथवे अपरिवर्तित रहता है।

मुख्य योगदान

फंक्शन-स्पेस JEPA: KANs के नेटिव प्री-एग्रीगेशन फंक्शन स्पेस में जॉइंट-एम्बेडिंग प्रेडिक्टिव लर्निंग का फॉर्मूलेशन, जो प्रेडिक्शन टारगेट को फीचर एम्बेडिंग्स से बदलकर स्ट्रक्चर्ड एज-फंक्शन सिग्नेचर्स में ले जाता है।
मल्टी-रेडियस सिग्नेचर रिप्रेजेंटेशन: एक ऐसा प्रतिनिधित्व जो KAN एज फंक्शन्स के स्थानीय कार्यात्मक व्यवहार को कैप्चर करता है, जिससे फंक्शन-स्पेस लर्निंग के लिए एक प्रभावी प्रेडिक्शन टारगेट मिलता है।
ट्रेनिंग-ओनली प्रेडिक्टिव फ्रेमवर्क: एक विधि जो रैंडम इनिशियलाइजेशन से KAN एज-फंक्शन सिग्नेचर्स और सेगमेंटेशन रिप्रेजेंटेशन को जॉइंटली सीखती है, साथ ही एज कॉरेस्पोंडेंस को बनाए रखती है, जिसमें इन्फरेंस के समय कोई अतिरिक्त पैरामीटर्स या कंप्यूटेशनल लागत नहीं होती है।

प्रयोगात्मक परिणाम

विधि का मूल्यांकन पांच मेडिकल इमेज सेगमेंटेशन बेंचमार्क पर किया गया: BUSI (अल्ट्रासाउंड), DDTI (अल्ट्रासाउंड), TN3K (थायराइड), CVC-ClinicDB (पॉलिप्स), और GlaS (ग्लैंड्स)।

परफॉरमेंस: FS-JEPA ने पांचों डेटासेट्स पर उच्चतम औसत डाइस (Dice) स्कोर (83.37%) और IoU (75.04%) प्राप्त किया।
तुलना: इसने सबसे मजबूत प्रतिस्पर्धी KAN-आधारित विधि (UUEKAN) को डाइस में +2.25 प्रतिशत अंक से पीछे छोड़ दिया।
एब्लेशन (Ablation):
- मैचड स्कैफोल्ड (जो बिना FS-JEPA के प्रशिक्षित था) की तुलना में, प्रस्तावित विधि ने औसत डाइस में 0.85 प्रतिशत अंक का सुधार किया।
- प्रेडिक्टिव टारगेट्स पर एब्लेशन ने दिखाया कि मल्टी-रेडियस एज-फंक्शन सिग्नेचर्स (0.7926 Dice) का पूर्वानुमान लगाना, सिंगल एज रिस्पॉन्स (0.7771 Dice) या टोकन/नोड फीचर्स की तुलना में काफी बेहतर प्रदर्शन करता है।
- मैकेनिस्टिक विश्लेषण ने पुष्टि की कि FS-JEPA एक स्पष्ट प्री-एग्रीगेशन लर्निंग सिग्नल प्रदान करता है जो सीधे KAN एज-फंक्शन रिप्रेजेंटेशन को नया आकार देता है, जिससे वे उन एज-लेवल विविधताओं के प्रति संवेदनशील हो जाते हैं जिन्हें स्टैंडर्ड सेगमेंटेशन लॉस मिस कर देता है।

महत्व और दावे

पेपर का दावा है कि FS-JEPA पारंपरिक फीचर एम्बेडिंग्स से परे सीखने योग्य न्यूरल फंक्शन्स के स्ट्रक्चर्ड रिप्रेजेंटेशन तक प्रेडिक्टिव लर्निंग को विस्तारित करने की प्रभावशीलता को प्रदर्शित करता है। स्ट्रक्चर्ड फंक्शन सिग्नेचर्स का पूर्वानुमान लगाकर, यह विधि KAN एज फंक्शन्स पर प्रत्यक्ष रिप्रेजेंटेशन लर्निंग को सक्षम बनाती है। लेखक दावा करते हैं कि प्रदर्शन में सुधार मॉडल की क्षमता बढ़ने के कारण नहीं, बल्कि फंक्शन-स्पेस प्रेडिक्टिव सुपरविजन के कारण है, क्योंकि इन्फरेंस-टाइम पैरामीटर काउंट बेसलाइन स्कैफोल्ड के समान ही रहता है। यह फ्रेमवर्क मौजूदा KAN-आधारित विजन मॉडल्स की एक मौलिक सीमा को संबोधित करते हुए, व्यक्तिगत KAN एडजेस के कार्यात्मक व्यवहार को स्पष्ट रूप से बाधित (constrain) करने का एक तरीका प्रदान करता है।