Semantic Space Search Trajectory Networks

कल्पना कीजिए कि आप एक रोबोट को बिल्ली पहचानना सिखाने की कोशिश कर रहे हैं। आप उसे हजारों तस्वीरें दिखाते हैं, और वह अनुमान लगाना शुरू करता है। लेकिन वह वास्तव में सीखता कैसे है? क्या वह बस अंधेरे में बिना सोचे-समझे हाथ-पैर मार रहा है, या वह किसी छिपे हुए नक्शे का अनुसरण कर रहा है? दशकों से, वैज्ञानिक रोबोट के "मस्तिष्क" (इसके आंतरिक नंबरों और वेट्स) को देखकर इसका उत्तर देने की कोशिश कर रहे हैं। लेकिन यह एक ऑर्केस्ट्रा बजते समय एक अकेले वायलिन वादक के शीट म्यूजिक को घूरकर पूरी सिम्फनी को समझने की कोशिश करने जैसा है; यह अव्यवस्थित, भ्रमित करने वाला है और इसमें बड़ी तस्वीर छूट जाती है।

इस बात को समझने के लिए, शोधकर्ता एक उपकरण का उपयोग करते हैं जिसे सर्च ट्राजेक्टरी नेटवर्क (STN) कहा जाता है। एक STN को सीखने की प्रक्रिया के सबवे मैप (मेट्रो मानचित्र) के रूप में सोचें। रोबोट द्वारा उठाए गए हर छोटे कदम को ट्रैक करने के बजाय, यह समान क्षणों को "स्टेशनों" (नोड्स) में समूहित करता है और रेखाएं (एजेस) खींचता है जो यह दिखाती हैं कि रोबोट एक स्टेशन से दूसरे स्टेशन तक कैसे जाता है। यह हमें यह देखने में मदद करता है कि क्या रोबोट उत्तर तक पहुँचने के लिए एक सीधा हाईवे ले रहा है या एक भूलभुलैया में खो गया है। समस्या यह है कि पारंपरिक सबवे मैप केवल सरल, कम-आयामी (low-dimensional) समस्याओं के लिए काम करते हैं। जब रोबोट जटिल हो जाता है (जैसे कि एक आधुनिक AI), तो नक्शा इतना भीड़भाड़ वाला और उच्च-आयामी हो जाता है कि सारी रेखाएं आपस में मिल जाती हैं, जिससे इसे पढ़ना असंभव हो जाता है।

यहीं पर सिमेंटिक स्पेस (Semantic Space) की अवधारणा आती है। रोबोट के आंतरिक गियर को देखने के बजाय, हम यह देखते हैं कि वह क्या कहता है। यदि रोबोट एक बिल्ली की तस्वीर देख रहा है, तो क्या वह कहता है "कुत्ता"? क्या वह कहता है "बिल्ली"? क्या वह कहता है "कार"? परीक्षण चित्रों के एक सेट पर उसके सभी अनुमानों का संग्रह एक "सिमेंटिक वेक्टर" बनाता है। यह रोबोट की वर्तमान समझ के फिंगरप्रिंट की तरह है। उसके आंतरिक गियर के बजाय इन फिंगरप्रिंट्स के माध्यम से उसकी यात्रा को मैप करके, हम सबसे जटिल AI के लिए भी एक स्पष्ट, पठनीय नक्शा बना सकते हैं। यह पेपर पूछता है: क्या हम इन "फिंगरप्रिंट मैप्स" का उपयोग विभिन्न प्रकार के लर्निंग एल्गोरिदम के सोचने के तरीके की तुलना करने के लिए कर सकते हैं, और क्या वे हमें बता सकते हैं कि एक AI वास्तव में सीख रहा है या केवल रट (memorize) रहा है?

---

पेपर का बड़ा विचार: गियरबॉक्स नहीं, यात्रा को मैप करना

लेखक, जूलियन अगुएडो और उनकी टीम, इन सबवे मैप्स बनाने का एक नया तरीका पेश करते हैं, जिसे वे सिमेंटिक स्पेस सर्च ट्राजेक्टरी नेटवर्क कहते हैं। उनका मुख्य लक्ष्य यह देखना है कि विभिन्न मशीन लर्निंग एल्गोरिदम (जैसे न्यूरल नेटवर्क, डिसीजन ट्री और सिम्बोलिक रिग्रेशन) समस्याओं को हल करते समय कैसे "सोचते" हैं।

आमतौर पर, एक न्यूरल नेटवर्क की तुलना एक डिसीजन ट्री से करना एक रेस कार की तुलना एक साइकिल से करने जैसा है; उनके इंजन और पुर्जे अलग होते हैं, इसलिए आप आसानी से यह नहीं देख सकते कि कौन तेज़ है या वे कैसे नेविगेट करते हैं। लेकिन लेखकों ने महसूस किया कि आप चाहे किसी भी तरह की मशीन का उपयोग करें, वे सभी एक ही चीज़ पैदा करते हैं: अनुमान (predictions)। उनके आंतरिक तंत्र को अनदेखा करके और केवल अनुमानों (सिमेंटिक वेक्टर्स) पर ध्यान केंद्रित करके, वे इन सभी विभिन्न एल्गोरिदम को एक ही धरातल पर ला सकते हैं।

उन्होंने नक्शा कैसे बनाया

इन निरंतर अनुमानों को एक पठनीय मानचित्र में बदलने के लिए, टीम को एक पेचीदा समस्या को हल करना था: जब लाखों अनुमान हों, तो आप समान अनुमानों को एक साथ कैसे समूहबद्ध करते हैं?

1. डिसक्रेटाइजेशन (नंबरों को श्रेणियों में बदलना): रिग्रेशन कार्यों के लिए (घर की कीमतों जैसे नंबरों की भविष्यवाणी करना), उन्होंने निरंतर रेंज को 10 "बिन्स" (bins) में विभाजित किया (क्वांटाइल्स के आधार पर)। वर्गीकरण (classification) के लिए (जैसे "बिल्ली" या "कुत्ता" जैसे लेबल का अनुमान लगाना), उन्होंने सीधे अंतिम लेबल का उपयोग किया। इसने डेटा के एक बिखरे हुए, निरंतर बादल को विशिष्ट, गणनीय श्रेणियों के सेट में बदल दिया।
2. क्लस्टरिंग (स्टेशनों को समूहबद्ध करना): उन्होंने एग्लोमेरेटिव क्लस्टरिंग (agglomerative clustering) नामक विधि का उपयोग किया। कल्पना कीजिए कि आपके पास रेत के कणों का ढेर है (प्रत्येक कण एक प्रेडिक्शन स्टेट है)। आप हर कण को अपना स्वयं का द्वीप मानकर शुरुआत करते हैं। फिर, आप धीरे-धीरे दो सबसे करीबी द्वीपों को एक साथ मिलाते हैं। आप तब तक जोड़ते रहते हैं जब तक कि किन्हीं दो शेष द्वीपों के बीच की दूरी बहुत अधिक न हो जाए (जिसे $\tau$ नामक थ्रेशोल्ड द्वारा नियंत्रित किया जाता है)। अंतिम द्वीप आपके सबवे मैप के "स्टेशन" बन जाते हैं।
3. रेखाएं खींचना: जैसे-जैसे एल्गोरिदम सीखता है, वह एक प्रेडिक्शन स्टेट से दूसरे में जाता है। उन्होंने इन गतिविधियों को ट्रैक किया और संबंधित स्टेशनों के बीच तीर खींचे। तीर जितना मोटा होगा, उतनी ही बार विभिन्न ट्रेनिंग रन ने उस विशिष्ट पथ का अनुसरण किया होगा।

उन्होंने क्या पाया: "फनल" बनाम "स्टार"

टीम ने कई डेटासेट्स पर इस पद्धति का परीक्षण किया, जिसमें हस्तलिखित अंकों (MNIST), फैशन आइटम (Fashion-MNIST) और कार की कीमतों की भविष्यवाणी करना शामिल था। उन्होंने तीन बहुत अलग एल्गोरिदम की तुलना की: MLPs (न्यूरल नेटवर्क), XGBoost (एक शक्तिशाली ट्री-आधारित विधि), और सिम्बोलिक रिग्रेशन (जो गणितीय सूत्र खोजने की कोशिश करता है)।

खोज:
जब एल्गोरिदम वास्तविक डेटा पर सीख रहे थे (जहाँ खोजने के लिए एक वास्तविक पैटर्न मौजूद है), तो नक्शे काफी हद तक समान दिखे, चाहे एल्गोरिदम कोई भी हो। वे एक "फनल" (कीप) आकार बनाते थे।

• फनल (The Funnel): यात्रा कई अलग-अलग बिंदुओं (रैंडम शुरुआती अनुमानों) से शुरू हुई, लेकिन रास्ते जल्दी ही कुछ सामान्य "हाईवे" में मिल गए और एक एकल, सघन क्लस्टर "सर्वश्रेष्ठ" स्टेशनों में सिमट गए। यह बताता है कि जब कोई वास्तविक पैटर्न सीखने के लिए होता है, तो विभिन्न एल्गोरिदम समान मध्यवर्ती चरणों की खोज करते हैं और एक ही समाधान पर अभिसरण (converge) करते हैं।
• अंतर: हालांकि समग्र आकार समान था, लेकिन "ट्रैफिक" अलग दिखता था। न्यूरल नेटवर्क एक "बेसिन ऑफ अट्रैक्शन" में फंसते हुए प्रतीत हुए जहाँ वे सेटल होने से पहले थोड़ा इधर-उधर भटकते रहे, जबकि XGBoost अधिक सीधा था, लगभग एक लालची रोबोट की तरह जो बस उत्तर पर अपनी पकड़ मजबूत करता रहता है। सिम्बोलिक रिग्रेशन, हालांकि, सबसे अलग था; यह फनल की तरह नीचे नहीं आया। इसने मानचित्र को कई दिशाओं में एक्सप्लोर किया, शायद ही कभी एक एकल पथ पर अभिसरण हुआ, जो सूत्रों की तलाश करने वाले इसके स्वभाव से मेल खाता है।

"मेमोराइजेशन" टेस्ट: क्या नक्शा धोखाधड़ी को उजागर करता है?

इस पेपर का सबसे रोमांचक हिस्सा Zhang et al. (2017) का एक प्रसिद्ध प्रयोग है, जिसने दिखाया कि न्यूरल नेटवर्क रैंडम डेटा को भी उतनी ही अच्छी तरह से "याद" (memorize) कर सकते हैं जितना कि वास्तविक डेटा को। यदि आप लेबल को बदल देते हैं (AI को बताते हैं कि बिल्ली की तस्वीर वास्तव में एक "कुत्ता" है), तो AI अभी भी ट्रेनिंग सेट पर सटीक भविष्यवाणी करने में सक्षम हो सकता है, लेकिन नए डेटा पर यह बुरी तरह विफल हो जाता है। यह "मेमोराइजेशन" शासन (regime) है।

लेखकों ने यह देखने के लिए अपने सिमेंटिक स्पेस STN का उपयोग किया कि क्या सीखने की यात्रा का ढांचा सीखने (सामान्यीकरण/generalization) और रटने (रैंडम अनुमान लगाने) के बीच अंतर बता सकता है।

• वास्तविक लेबल (सीखना): नक्शा घना, कुशल और केंद्रित था। यह एक व्यस्त शहर की तरह था जहाँ एक केंद्रीय केंद्र है जहाँ सब मिलते हैं। रास्ते आपस में जुड़े हुए थे, जो यह सुझाव देते हैं कि एल्गोरिदम एक संरचित समझ बना रहा है।
• बदले हुए लेबल (रटना): नक्शा एक "स्टार" (तारे) की तरह था। रास्ते अलग-थलग, बिखरे हुए और छितरे हुए थे। कोई केंद्रीय केंद्र नहीं था। प्रत्येक ट्रेनिंग रन अपने स्वयं के अकेले कोने में समाप्त हुआ, जो कभी एक-दूसरे से नहीं मिला।

निष्कर्ष:
पेपर सुझाव देता है कि सीखने की यात्रा की संरचना सच्चाई को प्रकट करती है। जब एक AI वास्तव में एक पैटर्न सीख रहा होता है, तो रास्ते आपस में जुड़ते हैं और अभिसरित होते हैं। जब वह केवल शोर (noise) को रट रहा होता है, तो रास्ते अलग-थलग रहते हैं। उन्होंने इसे ग्लोबल एफिशिएंसी और डेंसिटी जैसे ग्राफ मेट्रिक्स का उपयोग करके मापा। उदाहरण के लिए, "Bioresponse" डेटासेट पर, "रियल लेबल" मैप का घनत्व 0.0157 था, जबकि "शफल लेबल" मैप बहुत विरल 0.0049 पर था।

उन्होंने यह भी परीक्षण किया कि क्या होता है यदि आप डेटा को धीरे-धीरे दूषित करते हैं, यानी 20%, 40%, से लेकर 100% तक लेबल को रैंडम शोर के साथ बदलते हैं। जैसे-जैसे भ्रष्टाचार (corruption) बढ़ा, "फनल" धीरे-धीरे टूट गया, बदलकर "स्टार" आकार में आ गया। ग्राफ मेट्रिक्स (जैसे ग्लोबल एफिशिएंसी) लगातार गिरे, जो सीखने से रटने की ओर एक सहज संक्रमण को दर्शाते हैं।

यह क्यों मायने रखता है

यह कार्य सुझाव देता है कि हमें यह समझने के लिए कि क्या कोई न्यूरल नेटवर्क सीख रहा है या केवल रट रहा है, उसके ब्लैक बॉक्स के अंदर देखने की आवश्यकता नहीं है। हमें बस उसके भविष्यवाणियों के नक्शे को देखने की आवश्यकता है। यदि नक्शा एक जुड़ा हुआ, कुशल नेटवर्क है, तो AI संभवतः कुछ वास्तविक सीख रहा है। यदि यह अलग-अलग रास्तों का एक बिखरा हुआ संग्रह है, तो वह शायद केवल रट रहा है।

लेखक सावधानी से नोट करते हैं कि यह एक सिमुलेशन-आधारित अवलोकन और विश्लेषण के लिए एक गुणात्मक उपकरण है, न कि कोई जादुई समाधान जो सामान्यीकरण (generalization) के रहस्य को हल करता है। वे सुझाव देते हैं कि यह पद्धति एक नया, व्यवहारिक दृष्टिकोण प्रदान करती है जो मौजूदा सिद्धांतों के पूरक के रूप में कार्य करती है। यह एक नया चश्मा है जो हमें बुद्धिमत्ता के "आकार" को देखने की अनुमति देता है, जो हमें दिखाता है कि चाहे आप एक न्यूरल नेटवर्क हों या डिसीजन ट्री, यदि आप सत्य सीख रहे हैं, तो आपकी यात्रा एक जैसी ही दिखती है।