LLMs Can Annotate Attribution Graphs
यह शोधपत्र एक ऐसे पाइपलाइन का परिचय देता है जो सर्किट ट्रेसिंग के लिए सुविधाओं (features) को सुपरनोड्स में स्वचालित रूप से समूहित करने के लिए लार्ज लैंग्वेज मॉडल्स का लाभ उठाता है, जो यह प्रदर्शित करता है कि यह स्वचालन मानव-स्तर की व्याख्यात्मकता प्राप्त करता है और मल्टी-हॉप कार्यों में मध्यवर्ती तर्क चरणों को प्रभावी ढंग से पुनर्प्राप्त करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एआई के मस्तिष्क का गुप्त जीवन
कल्पना कीजिए कि आपके पास एक सुपर-स्मार्ट रोबोट है जो इंसानों की तरह कहानियाँ लिख सकता है, गणित की समस्याओं को हल कर सकता है और सवालों के जवाब दे सकता है। लेकिन एक पेच है: वह रोबोट एक "ब्लैक बॉक्स" है। आप उसमें एक सवाल टाइप करते हैं, और वह एक जवाब टाइप करके बाहर निकाल देता है, लेकिन आपको पता नहीं चलता कि A से B तक पहुँचने के लिए उसके दिमाग के अंदर क्या हुआ। यह एक जादूगर को टोपी से खरगोश निकालते हुए देखने जैसा है, जहाँ आप गुप्त कमरों या छिपे हुए धागों को नहीं देख सकते।
"मैकेनिस्टिक इंटरप्रिटेबिलिटी" (mechanistic interpretability) का अध्ययन करने वाले वैज्ञानिक इस पर्दे को हटाने की कोशिश कर रहे हैं। वे देखना चाहते हैं कि एआई के भीतर गियर कैसे घूम रहे हैं। ऐसा करने के लिए, वे सर्किट ट्रेसिंग (circuit tracing) नामक तकनीक का उपयोग करते हैं। एक एआई को लाखों छोटे श्रमिकों (जिन्हें न्यूरॉन्स या फीचर्स कहा जाता है) वाले एक विशाल शहर के रूप में सोचें जो एक-दूसरे को नोट्स पास कर रहे हैं। जब एआई किसी सवाल का जवाब देता है, तो इनमें से केवल कुछ ही श्रमिक वास्तव में भारी काम करते हैं। सर्किट ट्रेसिंग एक मानचित्र बनाने जैसा है जो यह उजागर करता है कि कौन से श्रमिक सक्रिय थे और उन्होंने अंतिम उत्तर बनाने के लिए नोट्स कैसे पास किए।
हालाँकि, ये मानचित्र अव्यवस्थित होते हैं। वे हजारों व्यक्तिगत श्रमिकों को दिखाते हैं, और एक इंसान के लिए 500 छोटे नोट्स की सूची को देखकर बड़ी तस्वीर को समझना अविश्वसनीय रूप से कठिन है। आमतौर पर, एक मानव शोधकर्ता को इन छोटे श्रमिकों को "टीमों" (जिन्हें सुपरनोड्स कहा जाता है) में समूहबद्ध करने के लिए घंटों बिताने पड़ते हैं, जो एक सामान्य काम साझा करती हैं, जैसे कि "टीम राजधानी शहर" या "टीम गणित जोड़ने वाले"। यह मैन्युअल काम धीमा, उबाऊ और महंगा है। बड़ा सवाल यह है: क्या हम कंप्यूटर को हमारे लिए यह ग्रुपिंग करने के लिए सिखा सकते हैं?
पेपर का बड़ा विचार: एआई को खुद को व्यवस्थित करने दें
"LLMs Can Annotate Attribution Graphs" शीर्षक वाला यह पेपर एक चतुर और आश्चर्यजनक रूप से सरल समाधान प्रस्तावित करता है: एआई से अपने ही मस्तिष्क को व्यवस्थित करने के लिए कहें।
शोधकर्ताओं ने एक पाइपलाइन बनाई है जो एक डिजिटल फॉरेंसिक टीम की तरह काम करती है। एक मानव द्वारा सक्रिय न्यूरॉन्स के अव्यवस्थित मानचित्र को देखने के बजाय, वे एक शक्तिशाली लैंग्वेज मॉडल (एक एआई) को छंटनी करने देते हैं। यहाँ उनका "रोबोट लाइब्रेरियन" कैसे काम करता है:
- विवरण (The Description): सबसे पहले, सिस्टम एक विशिष्ट न्यूरॉन को देखता है और पूछता है, "यह चीज़ क्या करती है?" यह उस टेक्स्ट को देखता है जिसने उस न्यूरॉन को सक्रिय किया और एक संक्षिप्त, मानव-पठनीय विवरण उत्पन्न करता है, जैसे "यह न्यूरॉन तब सक्रिय होता है जब यह 'राजधानी' शब्द देखता है।"
- समूहीकरण (The Grouping): इसके बाद, सिस्टम इन विवरणों की एक सूची एक दूसरे एआई (द "जज") को भेजता है। जज को यह सूची पढ़ने और उन्हें तार्किक टीमों में समूहबद्ध करने के लिए कहा जाता है। वह कह सकता है, "ठीक है, ये पाँच विवरण सभी अमेरिकी राज्यों के बारे में हैं, इसलिए चलिए इन्हें 'स्टेट नेम्स' टीम में रखते हैं," या "ये तीन 'of' या 'the' कहने के बारे में हैं, इसलिए वे 'ग्रामर हेल्पर' टीम में जाते हैं।"
- सफाई (The Cleanup): अंत में, एआई डुप्लिकेट टीमों को मिलाने और उन टीमों को हटाने के लिए एक त्वरित समीक्षा करता है जो समझ में नहीं आतीं।
परिणाम? एआई के आंतरिक विचारों का एक साफ, व्यवस्थित मानचित्र, जो पूरी तरह से मशीनों द्वारा बनाया गया है, कुछ ही सेकंडों में।
उन्होंने क्या पाया: रोबोट लाइब्रेरियन अपने काम में अच्छा है
टीम ने इस पद्धति का परीक्षण करने के लिए कि क्या यह वास्तव में मानव विशेषज्ञों की जगह ले सकती है। उन्होंने "टू-हॉप कैपिटल्स" (Two-Hop Capitals) चुनौती नामक एक विशिष्ट कार्य का उपयोग किया। कल्पना कीजिए कि एआई से पूछा जा रहा है: "डलास वाले राज्य की राजधानी क्या है?"
इसे करने के लिए, एआई को अपने दिमाग में दो कदम उठाने होंगे:
- हॉप 1: यह पता लगाना कि डलास टेक्सास में है।
- हॉप 2: यह पता लगाना कि टेक्सास की राजधानी ऑस्टिन है।
शोधकर्ताओं ने इस परीक्षण को 100 बार चलाया। उनके स्वचालित पाइपलाइन ने 100 में से 97 मामलों में "टेक्सास" टीम को सफलतापूर्वक खोज लिया। यह 97% सफलता दर है! जब उन्होंने अन्य 3 मामलों की जाँच की, तो उन्होंने पाया कि अन्य दो मामलों में, "टेक्सास" टीम वास्तव में वहाँ थी, लेकिन एआई ने इसे पूरी तरह से समूहित नहीं किया था, और एक मामले में, टीम वहाँ थी ही नहीं।
उन्होंने अपने एआई-जनित समूहों की तुलना मानव शोधकर्ताओं द्वारा बनाए गए समूहों से भी की। यह मापने के लिए स्वचालित परीक्षणों का उपयोग करते हुए कि उनके समूह कितने "व्याख्यात्मक" (interpretable) थे, उन्होंने पाया कि एआई के समूह मानव-निर्मित समूहों के जितने अच्छे थे, उतने ही अच्छे और कभी-कभी उनसे थोड़े बेहतर भी थे।
लागत और सीमाएँ
इस खोज का सबसे शानदार हिस्सा इसकी कम लागत है। शोधकर्ताओं ने गणना की कि एक एकल, मध्यम रूप से जटिल मानचित्र के लिए फीचर्स को समूहबद्ध करने की लागत लगभग 3 से 6 सेंट (छोटे मानचित्रों के लिए) या 61 सेंट (बड़े, घने मानचित्रों के लिए) तक है। एक मानव द्वारा वही काम करने में बिताए गए घंटों की तुलना में यह एक बहुत छोटी कीमत है।
हालाँकि, पेपर सावधानी बरतते हुए यह दावा नहीं करता है कि यह एक पूर्ण, जादुई समाधान है। शोधकर्ता स्वीकार करते हैं कि उनकी पद्धति की कुछ सीमाएँ हैं:
- यह विशिष्ट इनपुट पर ध्यान केंद्रित करता है: एआई यह नहीं देखता है कि न्यूरॉन्स मस्तिष्क में कहाँ स्थित हैं (जैसे कि कौन सा लेयर या पोजीशन), जिसका उपयोग मनुष्य कभी-कभी सुराग के रूप में करते हैं।
- यह बहुत अस्पष्ट हो सकता है: जब उन्होंने गणित की समस्याओं (जैसे संख्याओं को जोड़ना) पर सिस्टम का परीक्षण किया, तो एआई ने न्यूरॉन्स को "संख्याओं" या "अंकों" जैसे बहुत व्यापक श्रेणियों में समूहित किया। इसने गणित करने के लिए एआई द्वारा उपयोग किए जाने वाले विशिष्ट, चतुर तरीकों को मिस कर दिया, जैसे कि "एक हासिल लेना" (carrying the one) या "आकार का अनुमान लगाना"। यह सुझाव देता है कि जबकि एआई स्पष्ट अवधारणाओं को समूहबद्ध करने में महान है, यह अभी भी आंतरिक सूक्ष्म, जटिल मशीनरी को मिस कर सकता है।
- यह एक प्रूफ ऑफ कॉन्सेप्ट है: टीम ने इस पद्धति का उपयोग 1,000 रैंडम विकिपीडिया प्रॉम्प्ट्स को स्कैन करने के लिए किया और कुछ "दिलचस्प" ग्राफ पाए जिन्हें मानव आगे अध्ययन करना चाह सकते हैं। यह दिखाता है कि यह पद्धति "ओपन-एंडेड एक्सप्लोरेशन" के लिए तैयार है, जो वैज्ञानिकों को एआई मस्तिष्क में ऐसी अजीब और अद्भुत चीजें खोजने में मदद करती है जिन्हें वे खोजने के लिए नहीं जानते थे।
यह क्यों महत्वपूर्ण है
यह पेपर यह दावा नहीं करता है कि इसने एआई चेतना के रहस्य को सुलझा लिया है या अस्तित्व के हर एक न्यूरॉन का मानचित्र बना लिया है। इसके बजाय, यह एक व्यावहारिक, कम लागत वाला उपकरण प्रदान करता है जो एआई अनुसंधान में एक बड़ी बाधा को दूर करता है। न्यूरॉन्स को समूहबद्ध करने के उबाऊ, समय लेने वाले काम को स्वचालित करके, यह मानव वैज्ञानिकों को वास्तव में दिलचस्प सवालों पर ध्यान केंद्रित करने के लिए मुक्त करता है: एआई इस तरह से क्यों सोचता है? क्या यह योजना बना रहा है? क्या यह तथ्य गढ़ रहा है?
लेखक सुझाव देते हैं कि भले ही यह एक "सरल" स्वचालन हो, यह सार्थक परिणाम दे सकता है, जो यह समझने के लिए अधिक तेज़ और व्यापक अन्वेषण के द्वार खोलता है कि ये डिजिटल मस्तिष्क वास्तव में कैसे काम करते हैं। यह ब्लैक बॉक्स को एक स्पष्ट कांच की खिड़की में बदलने की दिशा में एक छोटा कदम है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।