Agentic Graph Token Reasoning
यह शोध पत्र "एजेंटिक ग्राफ टोकन रीजनिंग" (Agentic Graph Token Reasoning) प्रस्तुत करता है, जो एक नवीन ढांचा है जो ग्राफ टोकेनाइजेशन को एक स्थिर, सिंगल-शॉट प्रक्रिया से बदलकर एक गतिशील, चरण-दर-चरण तर्क क्षमता में परिवर्तित कर देता है जहाँ लार्ज लैंग्वेज मॉडल्स मांग पर ग्राफ व्यूज को सक्रिय रूप से चुनते और एनकोड करते हैं, जो विविध डोमेन में मौजूदा बेसलाइन्स से काफी बेहतर प्रदर्शन करता है और अनदेखे कार्यों के लिए ज़ीरो-शॉट ट्रांसफर को सक्षम बनाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रहस्य को सुलझाने की कोशिश कर रहे हैं, लेकिन आपके पास केवल एक सुराग नहीं, बल्कि कनेक्शनों का एक विशाल, उलझा हुआ जाल है। डेटा साइंस की दुनिया में, इस जाल को ग्राफ (graph) कहा जाता है। एक ग्राफ को एक विशाल सोशल नेटवर्क की तरह समझें जहाँ हर व्यक्ति एक "नोड" (node) है और हर दोस्ती उन्हें जोड़ने वाली एक "रेखा" (line) है। लेकिन यहाँ एक मोड़ है: कई वास्तविक दुनिया के ग्राफ में, ये लोग (या नोड्स) केवल बिंदु नहीं हैं; वे समृद्ध कहानियाँ भी रखते हैं, जैसे कि एक वैज्ञानिक का शोध पत्र, किसी उत्पाद का विवरण, या किसी प्रोटीन का कार्य।
लंबे समय तक, कंप्यूटर इन जालों को पढ़ने में संघर्ष करते रहे क्योंकि वे उन नोड्स से जुड़े टेक्स्ट की भाषा नहीं समझते थे। यहाँ प्रवेश होता है लार्ज लैंग्वेज मॉडल्स (LLMs) का—वे सुपर-स्मार्ट AI चैटबॉट्स जो निबंध लिख सकते हैं और पहेलियाँ सुलझा सकते हैं। इन AI बॉट्स को ग्राफ समझाने के लिए, शोधकर्ताओं ने ग्राफ टोकन (graph tokens) का आविष्कार किया। एक ग्राफ टोकन को एक "जादुई सारांश कार्ड" की तरह समझें। पूरे बिखरे हुए जाल को AI को खिलाने के बजाय, एक विशेष टूल ग्राफ के एक छोटे से हिस्से (जैसे एक व्यक्ति और उसके दोस्त) को कोड के एक छोटे, घने ब्लॉक में संकुचित कर देता है जिसे AI तुरंत पढ़ सकता है। यह एक पूरी लाइब्रेरी को एक एकल, सटीक बुकमार्क में बदलने जैसा है।
लेकिन एक समस्या थी। पुराने तरीके से इन जादुвिली कार्डों का उपयोग करना एक ऐसे जासूस की तरह था जो एक सुराग चुनता है, उसे एक बॉक्स में बंद करता है, और फिर उस बॉक्स को बिना कभी खोले पूरे रहस्य को सुलझाने की कोशिश करता है। यदि पहला सुराग पर्याप्त नहीं था, तो जासूस फंस जाता था। AI यह नहीं पूछ सकता था, "रुको, मुझे पड़ोसी के पड़ोसी की ज़रूरत है!" क्योंकि सिस्टम पत्थर की लकीर की तरह तय था। यह शोध एक सरल लेकिन क्रांतिकारी प्रश्न पूछता है: क्या होगा अगर AI एक वास्तविक जासूस की तरह व्यवहार कर सके, जो कदम-दर-कदम ठीक वही सुराग चुने जिन्हें उसे देखना है, और केवल तभी जानकारी प्राप्त करे जब उसे उसकी आवश्यकता हो?
वह जासूस जो अपने सुराग खुद चुनता है
यह शोध एजेंटिक ग्राफ टोकन रीजनिंग (Agentic Graph Token Reasoning) नामक सोचने के एक नए तरीके को पेश करता है। हांगकांग यूनिवर्सिटी ऑफ साइंस एंड टेक्नोलॉजी के लेखक, ज़ुओयी पेंग और यी यांग का प्रस्ताव है कि AI को एक स्थिर स्नैपशॉट में ग्राफ को देखने के लिए मजबूर करने के बजाय, हमें AI को एक "एजेंट" बनने देना चाहिए जो सक्रिय रूप से साक्ष्य की तलाश करता है।
पुराने तरीके में (जिसे पेपर "सिंगल-शॉट" कहता है), सिस्टम AI को सवाल दिखाने से पहले ही यह तय कर लेता है कि ग्राफ के किस हिस्से का सारांश बनाना है। यह एक लाइब्रेरियन द्वारा आपकी पसंद का अनुमान लगाकर आपको एक किताब थमाने जैसा है, और फिर आपको उस किताब के बारे में जवाब देना पड़ता है बिना कवर खोले या दूसरी किताब माँग सके। यदि अनुमान गलत था, तो AI विफल हो जाता है।
नया तरीका, AGT, खेल को पूरी तरह बदल देता है। यह कैसे काम करता है:
- सवाल: आप AI से किसी विशिष्ट नोड के बारे में सवाल पूछते हैं (जैसे "क्या यह प्रोटीन खतरनाक है?")।
- चुनाव: AI रुकता है और सोचता है, "मेरे पास अभी पर्याप्त जानकारी नहीं है। मुझे अपने निकटतम पड़ोसियों को देखने की आवश्यकता है।" वह उस विशिष्ट दृश्य (view) को प्राप्त करने के लिए एक कमांड जारी करता है।
- जादुई कार्ड: एक ग्राफ एनकोडर तुरंत उस विशिष्ट दृश्य को एक ताज़ा "ग्राफ टोकन" (एक जादुई सारांश कार्ड) में बदल देता है और उसे AI की मेमोरी में डाल देता है।
- लूप: AI इस नए कार्ड को पढ़ता है, फिर से सोचता है, और निर्णय ले सकता है, "ठीक है, अब मुझे उस पूरे समुदाय को देखने की आवश्यकता है जिससे यह व्यक्ति जुड़ा है।" वह एक और कार्ड प्राप्त करता है।
- जवाब: यह चक्र तब तक दोहराया जाता है जब तक कि AI को आत्मविश्वास से उत्तर देने के लिए पर्याप्त साक्ष्य महसूस न हो जाएं।
लेखकों ने महसूस किया कि ग्राफ समस्या के लिए आवश्यक "साक्ष्य" शुरू में ही स्पष्ट नहीं होते हैं। कभी उत्तर नोड के अपने टेक्स्ट में होता है; कभी यह उन लोगों में होता है जिनसे वह जुड़ा है; कभी-कभी यह पूरे क्लस्टर में होता है। मांग पर दृश्य (view) चुनने की अनुमति देकर, सिस्टम समस्या की कठिनाई के अनुसार खुद को ढाल लेता है। आसान समस्याओं के लिए एक त्वरित नज़र; कठिन समस्याओं के लिए एक गहरी खोज।
तीन-चरणीय प्रशिक्षण प्रशिक्षण शिविर (Three-Step Training Bootcamp)
AI को यह सिखाना आसान नहीं था। लेखकों ने पाया कि यदि आप केवल एक AI को ग्राफ से बात करने देते हैं, तो वह ग्राफ टोकन को अनदेखा करने लगता है और केवल टेक्स्ट के आधार पर अनुमान लगाने लगता है, क्योंकि टेक्स्ट समझना आसान होता है। इसे ठीक करने के लिए, उन्होंने तीन चरणों वाला प्रशिक्षण पाइपलाइन बनाया:
- चरण 1: पढ़ना सीखना। सबसे पहले, उन्होंने AI को सिखाया कि "जादुic कार्ड" (ग्राफ टोकन) वास्तव में क्या अर्थ रखते हैं। उन्होंने स्व-पर्यवेक्षित (self-supervised) कार्यों का उपयोग किया जहाँ AI को केवल टोकन को देखकर एक नोड के टेक्स्ट को पुनर्गठित करना था या यह अनुमान लगाना था कि दो नोड्स आपस में जुड़े हैं या नहीं। इसने यह सुनिश्चित किया कि AI वास्तव में ग्राफ डेटा को समझे, न कि केवल शब्दों को।
- चरण 2: मजबूत जासूस। इसके बाद, उन्होंने AI को सुरागों के पीछे भागना सिखाया। उन्होंने ऐसी स्थितियाँ बनाईं जहाँ ग्राफ डेटा को थोड़ा खराब कर दिया गया था (जैसे कुछ कनेक्शन हटा दिए गए थे) ताकि AI को छोटे बदलावों से भ्रमित होने के बजाय टोकन की सामग्री पर निर्भर रहने के लिए मजबूर किया जा सके। इसने AI की तर्क क्षमता को "मजबूत" (robust) बनाया।
- चरण 3: सत्य की परीक्षा। अंत में, उन्होंने "पसंदीदा अनुकूलन" (preference optimization) नामक तकनीक का उपयोग किया। उन्होंने AI को दो रास्ते दिखाए: एक जहाँ ग्राफ के साक्ष्य और टेक्स्ट के साक्ष्य सहमत थे, और दूसरा जहाँ टेक्स्ट को दूषित किया गया था ताकि वह ग्राफ से असहमत हो जाए। AI को उस पथ को चुनने के लिए पुरस्कृत किया गया जहाँ ग्राफ और टेक्स्ट सहमत थे, जिससे उसे भ्रामक टेक्स्ट के बजाय ग्राफ संरचना पर भरोसा करना सिखाया गया।
परिणाम: स्मार्ट, तेज़ और ज़ीरो-शॉट
इस नए दृष्टिकोण का परीक्षण सात अलग-अलग प्रकार के ग्राफों पर किया गया, जिसमें उद्धरण नेटवर्क (एक पेपर द्वारा दूसरे पेपर को उद्धृत करना) से लेकर प्रोटीन इंटरेक्शन और ऑनलाइन शॉपिंग की आदतें तक शामिल थीं।
परिणाम प्रभावशाली थे। नया AGT मॉडल मौजूदा तरीकों से बड़े अंतर से बेहतर प्रदर्शन करता है। उदाहरण के लिए, अकादमिक पत्रों (ogbn-arxiv) के एक डेटासेट पर, उनके मॉडल के 3-बिलियन-पैरामीटर वाले संस्करण ने 73.0% स्कोर किया, जो अगले सबसे अच्छे समान-आकार के मॉडल को 9 अंक से अधिक से पीछे छोड़ गया। उत्पाद नेटवर्क पर, इसने 76.8% तक पहुँच प्राप्त की।
लेकिन असली जादू ज़ीरो-शॉट ट्रांसफर (zero-shot transfer) में हुआ। शोधकर्ताओं ने मॉडल को एक प्रकार के ग्राफ (अकादमिक पेपर) पर प्रशिक्षित किया और फिर इसे पूरी तरह से अलग ग्राफों पर टेस्ट किया जिन्हें उसने पहले कभी नहीं देखा था, जैसे कि सोशल नेटवर्क या प्रोटीन श्रृंखलाएं, बिना किसी अतिरिक्त प्रशिक्षण के। AGT मॉडल केवल जीवित ही नहीं रहा; वह फल-फूल गया। प्रोटीन डेटासेट (STRING-db) पर, इसने ज़ीरो-शॉट सेटिंग में 37.4% सटीकता हासिल की, जबकि अन्य तरीके 20% से ऊपर जाने के लिए संघर्ष कर रहे थे।
लेखकों ने यह भी पता लगाया कि यह इतना अच्छा क्यों काम कर रहा था। उन्होंने अपने "ग्राफ टोकन" दृष्टिकोण की तुलना एक ऐसे संस्करण से की जहाँ AI को ग्राफ को सादे टेक्स्ट के रूप में पढ़ना था (जैसे नामों की एक लंबी सूची पढ़ना)। ग्राफ टोकन वाला संस्करण बहुत बेहतर था, विशेष रूप से नए, अनदेखे डेटा पर। यह सुझाव देता है कि "ग्राफ टोकन" प्रारूप ग्राफ के संरचनात्मक आकार को उस तरह से सुरक्षित रखता है जैसा कि सादा टेक्स्ट नहीं कर सकता। टेक्स्ट संस्करण कनेक्शनों के "आकार" को खो देता है, जबकि टोकन संस्करण इसे बरकरार रखता है, जिससे AI संरचना के बारे में तर्क करने में सक्षम होता है।
यह क्यों मायने रखता है
यह कार्य जटिल डेटा के लिए AI के उपयोग में एक बदलाव का सुझाव देता है। ग्राफ को स्थिर चित्रों के रूप में मानने के बजाय जिन्हें हमें एक बार में सारांशित करना होता है, हम उन्हें इंटरैक्टिव वातावरण के रूप में मान सकते हैं जहाँ AI कदम-दर-कदम अन्वेषण करता है। पेपर का तर्क है कि तर्क का "माध्यम" उतना ही महत्वपूर्ण है जितना कि स्वयं तर्क। सब कुछ शब्दों में अनुवाद करने के बजाय, ग्राफ की भाषा (टोकन) में तर्क को बनाए रखकर, AI डेटा की वास्तविक संरचना में स्थिर रहता है।
लेखक निष्कर्ष निकालते हैं कि यह "एजेंटिक" दृष्टिकोण ग्राफ विश्लेषण के लिए लार्ज लैंग्वेज मॉडल्स की पूर्ण क्षमता को खोल देता है, जो हमें एक ऐसी दुनिया से दूर ले जाता है जहाँ AI पूर्व-चयनित सारांश के निष्क्रिय पाठक के रूप में है, और एक ऐसे सक्रिय खोजकर्ता की ओर ले जाता है जिसे पता है कि उसे किन सुरागों का पीछा करना है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।