Explaining Attention with Program Synthesis
यह शोध पत्र एक स्केलेबल पाइपलाइन का प्रस्ताव करता है जो ट्रांसफॉर्मर अटेंशन हेड्स को मानव-पठनीय, निष्पादन योग्य पायथन प्रोग्रामों के साथ अनुमानित करने के लिए प्रोग्राम सिंथेसिस का उपयोग करता है, यह प्रदर्शित करते हुए कि ये प्रतीकात्मक सरोगेट्स (symbolic surrogates) सटीकता से अटेंशन पैटर्न को पुनरुत्पादित कर सकते हैं और मॉडल के प्रदर्शन पर न्यूनतम प्रभाव के साथ न्यूरल हेड्स के एक महत्वपूर्ण हिस्से को प्रतिस्थापित कर सकते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक आधुनिक भाषा मॉडल (जैसे कि इस चैट के पीछे का AI) की कल्पना एक विशाल, जटिल ऑर्केस्ट्रा के रूप में करें। इस ऑर्केस्ट्रा के भीतर हजारों संगीतकार (जिन्हें "अटेंशन हेड्स" कहा जाता है) अलग-अलग वाद्य यंत्र बजा रहे हैं। प्रत्येक संगीतकार अन्य संगीतकारों और शीट संगीत (इनपुट टेक्स्ट) को सुनता है ताकि यह तय कर सके कि कब ज़ोर से बजाना है, कब धीमे बजाना है, और कौन से सुर लगाने हैं।
लंबे समय से, वैज्ञानिक समझने की कोशिश कर रहे हैं कि प्रत्येक संगीतकार क्या कर रहा है, लेकिन उनके स्पष्टीकरण अस्पष्ट रहे हैं। वे कह सकते हैं, "यह संगीतकार संज्ञाओं (nouns) को पसंद करता है," या "वह वाक्य की शुरुआत पर ध्यान केंद्रित करता है।" ये किसी सिम्फनी का वर्णन करने जैसा है कि "यह सुखद लगता है," या "यह दुखद लगता है।" यह मददगार तो है, लेकिन यह आपको यह नहीं बताता कि संगीत वास्तव में कैसे बनता है।
नया दृष्टिकोण: शीट संगीत लिखना
यह शोध पत्र ऑर्केस्ट्रा को समझने का एक अलग तरीका प्रस्तावित करता है। केवल संगीत का वर्णन करने के बजाय, शोधकर्ताओं ने वास्तविक "शीट संगीत" (एग्जीक्यूटेबल कोड) लिखने की कोशिश की जो प्रत्येक संगीतकार को ठीक से बता सके कि उसे क्या करना है।
उन्होंने इसे इस प्रकार किया, चरण-दर-चरण:
- संगीतकारों को देखना: सबसे पहले, उन्होंने AI मॉडल को हजारों वाक्य पढ़ते हुए देखा और रिकॉर्ड किया कि प्रत्येक "संगीतकार" (अटेंशन हेड) ने वास्तव में कैसी प्रतिक्रिया दी। उन्होंने नोट किया कि प्रत्येक हेड किन शब्दों पर ध्यान दे रहा था।
- एक घोस्ट राइटर (Ghost Writer) से पूछना: उन्होंने इन रिकॉर्डिंग्स को लिया और एक अन्य, बहुत बुद्धिमान AI (एक "प्रोग्राम सिंथेसिस" एजेंट) से एक सरल पायथन प्रोग्राम लिखने के लिए कहा जो उन प्रतिक्रियाओं की नकल कर सके। इसे ऐसे समझें जैसे किसी घोस्ट राइटर से यह देखने के लिए कहना कि एक संगीतकार का प्रदर्शन कैसा था और फिर उन सटीक नियमों को लिखना जिनका वह पालन कर रहा था, जैसे: "यदि पिछला शब्द एक पूर्ण विराम (period) है, तो अगले शब्द को देखें। यदि शब्द एक नाम है, तो क्रिया (verb) को देखें।"
- घोस्ट राइटर का परीक्षण करना: उन्होंने जो कोड घोस्ट राइटर ने तैयार किया था, उसे लिया और नए वाक्यों पर चलाया ताकि यह देखा जा सके कि क्या यह मूल AI के व्यवहार से मेल खाता है। उन्होंने यह देखने के लिए एक स्कोरिंग सिस्टम (समानता परीक्षण की तरह) का उपयोग किया कि कोड वास्तविक चीज़ के कितने करीब है।
- बड़ा बदलाव (The Big Swap): यह सबसे रोमांचक हिस्सा है। उन्होंने मूल, जटिल न्यूरल "संगीतकारों" को ऑर्केस्ट्रा से बाहर निकाला और उन्हें उस सरल, मानव-पठनीय कोड से बदल दिया जो उन्होंने अभी-अभी लिखा था। वे यह देखना चाहते थे कि क्या ऑर्केस्ट्रा अभी भी उसी तरह बजता है।
उन्होंने क्या पाया
परिणाम आश्चर्यजनक रूप से सफल रहे:
- कई संगीतकार सरल नियमों का पालन करते हैं: उन्होंने पाया कि AI के अटेंशन हेड्स में से एक बड़ी संख्या वास्तव में बहुत तार्किक, प्रतीकात्मक नियमों का पालन कर रही थी। उदाहरण के लिए, कुछ हेड्स केवल "वाक्य के पहले शब्द को देखने" के लिए प्रोग्राम किए गए थे, जबकि अन्य "कोमा (comma) की तलाश करने" या "नए वाक्य शुरू करने वाले शब्दों को खोजने" के लिए थे।
- ऑर्केस्ट्रा अभी भी बजता है: जब उन्होंने जटिल न्यूरल संगीतकारों के 25% से 40% हिस्से को इन सरल कोड स्क्रिप्टों से बदल दिया, तो ऑर्केस्ट्रा (AI मॉडल) ने बिना किसी रुकावट के अपना प्रदर्शन जारी रखा। प्रश्नों के उत्तर देने या कहानियों को समझने की मॉडल की क्षमता लगभग वैसी ही बनी रही।
- बड़े मॉडल डिकोड करने में आसान होते हैं: दिलचस्प बात यह है कि जितना बड़ा और उन्नत मॉडल (जैसे Llama-3B) था, इन सरल कोड नियमों को खोजना उतना ही आसान था। ऐसा लगता है कि जैसे-जैसे मॉडल बड़े होते जाते हैं, वे अधिक व्यवस्थित हो जाते हैं, जहाँ प्रत्येक संगीतकार के पास एक बहुत ही विशिष्ट, आसानी से समझ में आने वाला काम होता है।
निष्कर्ष (The Takeaway)
यह शोध पत्र दिखाता है कि हमें हमेशा AI को एक रहस्यमय "ब्लैक बॉक्स" के रूप में देखने की आवश्यकता नहीं है। इसके काम करने के एक महत्वपूर्ण हिस्से के लिए, हम वास्तव में जटिल, न समझ में आने वाले गणित को सरल, मानव-पठनीय कंप्यूटर कोड से बदल सकते हैं।
यह यह महसूस करने जैसा है कि एक जटिल जादू का खेल वास्तव में जादू नहीं है; यह केवल निर्देशों का एक विशिष्ट सेट है जिसे कोई भी लिख सकता है और पालन कर सकता है। शोधकर्ताओं ने साबित कर दिया कि आधुनिक AI के कई हिस्सों के लिए, हम "जादू" को "निर्देशों" से बदल सकते हैं बिना शो को खराब किए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।