Do LLMs Experience an Internal Polylogue? Investigating Reasoning through the Lens of Personas
यह शोध पत्र एलएलएम (LLM) तर्क के दौरान हिडन एक्टिवेशन्स (hidden activations) के साथ पर्सोना वेक्टर्स (persona vectors) के गतिशील संरेखण का विश्लेषण करने के लिए "पॉलीलॉग" (polylogue) की अवधारणा प्रस्तुत करता है, जो यह प्रदर्शित करता है कि इन टाइम-सीरीज़ फीचर्स की निगरानी करना व्याख्यात्मक, स्टेज-अवेयर हस्तक्षेपों को सक्षम बनाता है जो जटिल तर्क कार्यों पर मॉडल की सटीकता में सुधार करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि एक लार्ज लैंग्वेज मॉडल (LLM) एक एकल, अखंड मस्तिष्क नहीं है, बल्कि एक समस्या को हल करने के लिए मिलकर काम करने वाले विशेषज्ञों की एक टीम है।
यह शोध पत्र, जिसका शीर्षक "Do LLMs Experience an Internal Polylogue?" है, इस बात की जांच करता है कि जब AI सोच रहा होता है, तो उस कमरे के भीतर क्या होता है। लेखक प्रस्ताव देते हैं कि भले ही AI टेक्स्ट की एक निरंतर धारा आउटपुट करता है, लेकिन इसकी आंतरिक "मस्तिष्क तरंगें" वास्तव में समस्या को हल करने के चरणों के दौरान विभिन्न परसोना (या चरित्र भूमिकाओं) के बीच बदलती रहती हैं।
यहाँ उनके निष्कर्षों का सरल उपमाओं का उपयोग करके विवरण दिया गया है:
1. "पॉलीलॉग" (Polylogue): वास्तविक समय में एक टीम मीटिंग
लेखक इस आंतरिक प्रक्रिया को पॉलीलॉग (जिसका अर्थ है "कई आवाजें") कहते हैं। वे सुझाव देते हैं कि जैसे-जैसे एक AI लंबा उत्तर लिखता है, वह केवल एक सामान्य तरीके से "सोच" नहीं रहा होता है। इसके बजाय, वह विशिष्ट भूमिकाओं के माध्यम से चक्रित होता है, ठीक वैसे ही जैसे एक टीम मीटिंग होती है:
- द इंटरप्रेटर (व्याख्याकार): प्रश्न को पढ़ता है और सुनिश्चित करता है कि सभी नियमों को समझ लें।
- द एनालिस्ट (विश्लेषक): समस्या को टुकड़ों में तोड़ता है।
- द प्लानर (योजनाकार):ately: इसे हल करने के तरीके का एक नक्शा बनाता है।
- द सॉल्वर (समाधानकर्ता): वास्तविक गणित या तर्क का कार्य करता है।
- द एक्सप्लोरर (अन्वेषक): विभिन्न विचारों या "क्या होगा अगर" वाले परिदृश्यों को आज़माता है।
- द वेरीफायर (सत्यापनकर्ता): गलतियों के लिए काम की जाँच करता है।
- द मॉनिटर (निरीक्षक): घड़ी और टीम के फोकस पर नज़र रखता है।
- द आर्बिटर (मध्यस्थ): अंतिम निर्णय लेता है और उत्तर चिल्लाकर बताता है।
खोज: शोधकर्ताओं ने पाया कि ये भूमिकाएँ यादृच्छिक (random) नहीं हैं। वे एक विशिष्ट क्रम में होती हैं।
- उत्तर की शुरुआत में: इंटरप्रेटर मुखर और सक्रिय होता है।
- बीच में: सॉल्वर और एक्सप्लोरर नेतृत्व करते हैं।
- अंत में: आर्बिटर अंतिम निर्णय लेने के लिए हस्तक्षेप करता है।
उन्होंने यह सिद्ध किया कि ये भूमिकाएँ यादृच्छिक नहीं हैं। वे एक विशिष्ट क्रम में होती हैं।
- उत्तर की शुरुआत में: इंटरप्रेटर मुखर और सक्रिय होता है।
- बीच में: सॉल्वर और एक्सप्लोरर नेतृत्व करते हैं।
- अंत में: आर्बिटर अंतिम निर्णय लेने के लिए हस्तक्षेप करता है।
उन्होंने यह साबित करने के लिए कि ये भूमिकाएँ यादृच्छिक नहीं हैं, AI के "हिडन एक्टिवेशन्स" (कंप्यूटर के भीतर के विद्युत संकेत) को देखा और देखा कि कौन सा "भूमिका" वर्तमान में चालू था।
2. "आंतरिक एकालाप" बनाम "बाहरी पटकथा"
एक बड़ा सवाल यह था: क्या AI वास्तव में भूमिका बदलने जैसा महसूस करता है, या यह केवल वही है जो वह लिखता है?
लेखकों ने तुलना की कि AI ने क्या टेक्स्ट लिखा (पटकथा) और आंतरिक संकेतों (मस्तिष्क गतिविधि) के बीच।
- निष्कर्ष: वे आश्चर्यजनक रूप से मेल खाते हैं। जब टेक्स्ट ऐसा लगता था जैसे AI "योजना बना" रहा है, तो आंतरिक संकेतों ने दिखाया कि "प्लानर" परसोना सक्रिय था। जब टेक्स्ट "तथ्यों की जाँच" कर रहा था, तो "वेरीफायर" सक्रिय हुआ।
- सावधानी: यह एक आदर्श 1-से-1 मिलान नहीं था। कभी-कभी AI जटिल आंतरिक कार्य कर रहा था जो उसके द्वारा लिखे गए शब्दों में स्पष्ट रूप से नहीं दिखता था। लेकिन सामान्य तौर पर, "आंतरिक बैठक" "बाहरी प्रस्तुति" से मेल खाती थी।
3. सफलता की भविष्यवाणी करना: कमरे को पढ़ना
शोधकर्ताओं ने पूछा: क्या हम यह देखकर बता सकते हैं कि AI सही उत्तर देने वाला है या नहीं कि कौन से "परसोना" सक्रिय हैं?
उन्होंने एक सरल डिटेक्टर बनाया जो "पॉलीलॉग" (भूमिकाओं के अनुक्रम) को देखता था।
- परिणाम: हाँ! यदि AI बिल्कुल अंत में भी "मॉनिटर" (खुद पर संदेह करने वाला) की तरह व्यवहार कर रहा था, तो इसके गलत होने की संभावना अधिक थी।
- अच्छा संकेत: यदि AI ने एक स्पष्ट पथ का पालन किया—समझने से शुरू होकर, समाधान की ओर बढ़ना, और एक आत्मविश्वासी "आर्बिटर" के रूप में निर्णय लेने के साथ समाप्त होना—तो इसके सही होने की संभावना बहुत अधिक थी।
अनिवार्य रूप से, उन्होंने पाया कि आंतरिक टीम मीटिंग की लय यह भविष्यवाणी करती है कि टीम सफल होगी या नहीं।
4. "रिमोट कंट्रोल" प्रयोग
इस शोध पत्र का सबसे रोमांचक हिस्सा यह है कि उन्होंने केवल देखा ही नहीं; उन्होंने टीम को निर्देशित करने का प्रयास भी किया।
कल्पित कीजिए कि आप इस AI टीम के प्रबंधक हैं। आप देखते हैं कि जब टीम अटक जाती है, तो वे उत्तर देने के लिए "प्रतिबद्ध" (commit) करना भूल जाते हैं। इसलिए, आप ठीक उसी क्षण जब टीम समाप्त करने वाली होती है, आर्बिटर (निर्णय लेने वाला) के सिग्नल को बढ़ाने के लिए एक रिमोट कंट्रोल का उपयोग करते हैं।
- प्रयोग: उन्होंने AI के आंतरिक संकेतों को लिया और उन्हें विशिष्ट समय पर विशिष्ट परसोना की ओर धीरे से धकेला (जैसे, "बीच में अधिक एक्सप्लोरर बनें," या "अंत में आर्बिटर बनें")।
- परिणाम: परीक्षण किए गए चार में से तीन AI मॉडलों में, इस "धकेलने" (nudging) ने AI को अधिक स्मार्ट और सटीक बनाया।
- अपवाद: एक मॉडल (Phi-4) वास्तव में बदतर हो गया। यह सुझाव देता है कि हर AI टीम एक ही प्रबंधन शैली के प्रति अच्छी प्रतिक्रिया नहीं देती है; कुछ को अलग दृष्टिकोण की आवश्यकता हो सकती है।
सारांश
यह शोध पत्र तर्क देता है कि हम AI की तर्क प्रक्रिया को अलग-अलग समय पर मंच पर आने वाले विभिन्न पात्रों के एक गतिशील नाटक की तरह मान सकते हैं। यह देखकर कि कौन सा पात्र मंच पर है (पॉलीलॉग), हम:
- भविष्यवाणी कर सकते हैं कि AI के सही या गलत होने की संभावना है।
- हस्तक्षेप कर सकते हैं, AI को सही समय पर सही पात्र निभाने के लिए धीरे से धकेल कर उसके प्रदर्शन में सुधार कर सकते हैं।
यह AI की सोच के "ब्लैक बॉक्स" को कुछ ऐसा बना देता है जिसे हम देख सकते हैं, समझ सकते हैं और यहाँ तक कि निर्देशित भी कर सकते हैं, जैसे एक निर्देशक किसी दृश्य के माध्यम से अभिनेताओं का मार्गदर्शन करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।