When Graph-JEPA Learns the Wrong Thing: Diagnosing and Repairing Category-Conditional Collapse
यह शोध पत्र Graph-JEPA में एक महत्वपूर्ण विफलता मोड को उजागर करता है जहाँ लीनियर प्रोबिंग और प्रभावी रैंक जैसे मानक मेट्रिक्स झूठा संकेत देते हैं कि सीखना सफल रहा है, जबकि मॉडल वास्तव में एक अपभ्रष्ट समाधान (डिजेनरेट सोल्यूशन) की ओर ढह जाता है जो संरचनात्मक जानकारी की उपेक्षा करता है, जिससे अनसपोर्टिव और नियतात्मक लक्ष्यों पर प्रशिक्षण को रोकने के लिए वेरिएंस एलोकेशन विश्लेषण और रिड्यूसिबिलिटी ऑडिट से जुड़े एक नए नैदानिक ढांचे की आवश्यकता होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस के तेजी से विकसित होते क्षेत्र में, शोधकर्ता लगातार कंप्यूटर को बिना मानव शिक्षकों के जटिल जानकारी समझने के लिए प्रशिक्षित करने की कोशिश कर रहे हैं। एक लोकप्रिय विधि में मशीन को पहेली का एक टुकड़ा दिखाना और उससे गायब हिस्से का अनुमान लगाने के लिए कहना शामिल है। यदि मशीन इस अनुमान लगाने के खेल में माहिर हो जाती है, तो वैज्ञानिक यह मान लेते हैं कि उसने डेटा की एक गहरी, उपयोगी समझ विकसित कर ली है। यह जांचने के लिए कि क्या यह सीखना वास्तविक है, वे दो मानक परीक्षणों का उपयोग करते हैं: एक यह मापता है कि मशीन डेटा को ज्ञात श्रेणियों में कितनी अच्छी तरह वर्गीकृत कर सकती है, और दूसरा यह जांचता है कि क्या मशीन की आंतरिक स्मृति कई अलग-अलग विचारों को रखने के लिए पर्याप्त विविध है। वर्षों तक, यदि कोई मशीन दोनों परीक्षणों में पास हो जाती थी, तो वैज्ञानिकों का मानना था कि उसने सामग्री को सफलतापूर्वक सीख लिया है।
शोधकर्ताओं की एक टीम ने हाल ही में इस धारणा को परीक्षण की कसौटी पर रखने का निर्णय लिया। उन्होंने वैज्ञानिक लेखों का एक विशाल संग्रह लिया। उन्होंने एक ऐसी प्रणाली बनाई जो शोध पत्रों की तार्किक संरचना को समझने के लिए डिज़ाइन की गई थी, जिसमें प्रत्येक लेख को उसके मुख्य घटकों में विभाजित किया गया था: मुख्य दावा (claim), उपयोग की गई विधियाँ (methods), प्राप्त परिणाम (results), और उनका समर्थन करने वाले साक्ष्य (evidence)। उन्होंने अपने सिस्टम को अन्य घटकों के आधार पर एक गायब घटक की भविष्यवाणी करने के लिए प्रशिक्षित किया, जो यह परीक्षण करने के लिए एक आदर्श कार्य प्रतीत होता था कि क्या एक AI वैज्ञानिक तर्कों के बारे में तर्क कर सकता है। हालाँकि, परिणामों ने मशीन इंटेलिजेंस को मापने के तरीके में एक चौंकाने वाली खामी को उजागर किया। सिस्टम ने सभी मानक स्वास्थ्य जाँचों को शानदार तरीके से पास कर लिया, फिर भी इसने लेखों की वास्तविक सामग्री के बारे में बिल्कुल कुछ नहीं सीखा था।
शोधकर्ताओं ने लगभग 58,000 वैज्ञानिक शोध पत्रों के एक विशाल नेटवर्क का निर्माण करके शुरुआत की। इस नेटवर्क में, प्रत्येक शोध पत्र जुड़े हुए विचारों का एक छोटा समूह था। कंप्यूटर का काम शोध पत्र के दृश्य भागों को देखना और छिपे हुए भाग की भविष्यवाणी करना था। जब टीम ने सिस्टम का परीक्षण किया, तो इसने मानक जाँचों पर उत्कृष्ट प्रदर्शन किया। यह उच्च सटीकता के साथ सही ढंग से पहचान सकता था कि एक शोध पत्र किस वैज्ञानिक क्षेत्र से संबंधित है, और इसकी आंतरिक स्मृति समृद्ध और विविध दिखाई दी। सभी पारंपरिक मानकों के अनुसार, सिस्टम एक सफलता थी। लेकिन जब शोधकर्ताओं ने सिस्टम से 58,000 विकल्पों के पुस्तकालय में से एक विशिष्ट शोध पत्र के सही छिपे हुए हिस्से को खोजने के लिए कहा, तो वह पूरी तरह से विफल रहा। इसने बिल्कुल वैसा ही प्रदर्शन किया जैसा कि तब होता यदि वह केवल रैंडम अंदाज़े लगा रहा होता।
यह पूर्ण विफलता कंप्यूटिंग शक्ति की कमी या खराब डिज़ाइन किए गए कार्य के कारण नहीं थी। शोधकर्ताओं ने सिद्ध किया कि जानकारी खोजने के लिए उपलब्ध थी। जब उन्होंने उसी रिट्रीवल (retrieval) कार्य को करने के लिए सरल, बिना लर्निंग वाले तरीकों का उपयोग किया, तो वे लगभग पूरी तरह से सफल रहे। एक बुनियादी टेक्स्ट-मैचिंग टूल, जो केवल सामान्य शब्दों को खोजता था बिना अर्थ समझे, लगभग हर बार सही उत्तर खोज सकता था। यहाँ तक कि उपलब्ध टेक्स्ट भागों का एक साधारण औसत भी इस जटिल AI से बेहतर काम कर गया। इसका अर्थ यह था कि समस्या यह नहीं थी कि कार्य बहुत कठिन था या डेटा खराब था; समस्या यह थी कि AI ने एक ऐसी चाल (trick) सीख ली थी जिसने वास्तविक काम को दरकिनार कर दिया था।
वह चाल जिसे AI ने खोजा था, वह थी प्रत्येक शोध पत्र के अद्वितीय विवरणों को अनदेखा करना और इसके बजाय गायब हिस्से की सामान्य श्रेणी पर ध्यान केंद्रित करना। क्योंकि कार्य में यह पूछा गया था कि गायब हिस्सा एक "दावा" है, "विधि" है, या "परिणाम" है, तो कंप्यूटर ने महसूस किया कि वह यह अनुमान लगाकर जीत सकता है कि उस स्थान के लिए सबसे संभावित श्रेणी क्या है, चाहे वह विशिष्ट शोध पत्र किसी भी विषय के बारे में हो। उसने यह सीखने के बजाय कि वह परिणाम वास्तव में क्या कहता है, यह कहना सीख लिया कि "यह एक परिणाम है" हर उस पेपर के लिए जिसमें रिजल्ट का स्लॉट था। मानक परीक्षण इसे पकड़ने में विफल रहे क्योंकि उन्हें पूर्ण भ्रम या पूर्ण शून्यता को देखने के लिए डिज़ाइन किया गया था, न कि इस प्रकार की आंशिक अंधापन के लिए जहाँ मशीन श्रेणी तो जानती है लेकिन उदाहरण (instance) को भूल जाती है।
शोधकर्ताओं ने फिर खेल के नियम बदलकर सिस्टम को ठीक करने की कोशिश की ताकि श्रेणी का अनुमान लगाना अब पर्याप्त न रहे। जब उन्होंने ऐसा किया, तो सिस्टम अचानक रिट्रीवल कार्य में बहुत अच्छा हो गया, और उसने लगभग उस पूरी जानकारी को पुनः प्राप्त कर लिया जिसे उसने पहले अनदेखा कर दिया था। हालाँकि, इस सफलता ने एक और गहरी खोज की ओर इशारा किया। शोधकर्ताओं को एहसास हुआ कि कार्य ही त्रुटिपूर्ण था। जिस तरह से उन्होंने वैज्ञानिक पत्रों का नेटवर्क बनाया था, उसमें लेख के विभिन्न हिस्सों के बीच संबंध सामग्री के आधार पर नहीं बल्कि केवल इस तथ्य से निर्धारित थे कि कुछ प्रकार के नोड्स मौजूद थे। यह एक ऐसी पहेली की तरह था जहाँ टुकड़ों का आकार इस आधार पर तय होता था कि वहां कितने टुकड़े हैं, न कि उन पर बनी तस्वीर के आधार पर। इस कारण से, ग्राफ की संरचना में सीखने योग्य कोई वास्तविक जानकारी नहीं थी; कंप्यूटर केवल एक ऐसे पैटर्न को याद कर रहा था जो पहले से ही स्पष्ट था।
इस निष्कर्ष ने आर्टिफिशियल इंटेलिजेंस के मूल्यांकन में एक गंभीर कमजोरी को उजागर किया। शोधकर्ताओं ने दिखाया कि एक सिस्टम सभी सामान्य परीक्षणों को पास कर सकता है, उच्च स्कोर प्राप्त कर सकता है, और फिर भी अपने इच्छित उद्देश्य के लिए पूरी तरह से बेकार हो सकता है। उन्होंने प्रदर्शित किया कि लर्निंग को मापने के मानक उपकरण इस विशिष्ट प्रकार की विफलता के प्रति अंधे हैं। इससे भी बदतर, उन्होंने पाया कि जब उन्होंने टेक्स्ट से स्वचालित रूप से निकाले गए डेटा का उपयोग करके एक नया कार्य बनाने की कोशिश की, तो डेटा स्वयं त्रुटियों और डुप्लिकेट्स से भरा था, जिससे यह जानना असंभव हो गया कि कंप्यूटर सीख रहा है या केवल गलतियों को याद कर रहा है।
अध्ययन यह निष्कर्ष निकालता है कि हम केवल मानक स्कोर पर भरोसा नहीं कर सकते। एक उच्च स्कोर यह गारंटी नहीं देता कि मशीन ने तर्क करना या संरचना को समझना सीख लिया है। शोधकर्ता तर्क देते हैं कि हमें अपने सिस्टम में बेहतर जाँच बनानी चाहिए, जो यह सत्यापित करे कि क्या कार्य वास्तव में हल करने योग्य है और क्या डेटा में वास्तविक जानकारी है। उन्होंने अपने टूल्स और विधियों को जारी किया है ताकि अन्य लोग अपने सिस्टम को इन नए मानकों के विरुद्ध टेस्ट कर सकें। सबक स्पष्ट है: स्मार्ट मशीनें बनाने की दौड़ में, हमें एक चतुर चाल को वास्तविक समझ समझने की गलती करने से बचना चाहिए, और हमें यह सुनिश्चित करना चाहिए कि हम कंप्यूटरों से जो प्रश्न पूछ रहे हैं, वे वास्तव में पूछने योग्य हों।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।