PRISM: A Dual View of LLM Reasoning through Semantic Flow and Latent Computation
PRISM एक नवीन ढांचा है जो टोकन-स्तर के अर्थ संबंधी संक्रमणों और लेयर-स्तर की लेटेंट गणनाओं के विश्लेषण को एकीकृत करता है ताकि LLMs में व्यवस्थित तर्क पैटर्न का निदान किया जा सके, जिससे यह प्रकट होता है कि ओवरथिंकिंग (overthinking) और प्रीमैच्योर कमिटमेंट (premature commitment) जैसी विफलताएं कैसे उभरती हैं और प्रॉम्प्टिंग केवल सटीकता मेट्रिक्स से परे आंतरिक कम्प्यूटेशनल व्यवहारों को कैसे नया रूप देती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक जटिल रहस्य सुलझाते हुए एक प्रतिभाशाली जासूस को देख रहे हैं। आप जासूस को नोट्स लिखते, चीजों को काटते हुए और अंत में यह घोषणा करते हुए देख सकते हैं, "बटलर ने यह किया!"
आमतौर पर, जब हम AI मॉडल का परीक्षण करते हैं (जैसे इस पेपर में), तो हमें केवल अंतिम निर्णय की परवाह होती है: क्या जासूस को सही उत्तर मिला? यदि हाँ, तो हम उसे एक गोल्ड स्टार देते हैं। यदि नहीं, तो हम उसे एक लाल 'X' देते हैं।
लेकिन यह पेपर, PRISM, एक बहुत ही गहरा सवाल पूछता है: "जासूस वास्तव में कैसे सोच रहा था?"
लेखकों ने महसूस किया कि AI के तर्क (reasoning) को वास्तव में समझने के लिए, हमें रहस्य को एक ही समय में दो अलग-अलग कोणों से देखने की आवश्यकता है:
1. PRISM के दो लेंस
AI के मस्तिष्क को एक बहु-मंजिला इमारत के रूप में सोचें।
"क्या" (स्पष्ट दृश्य/Explicit View): यह जासूस की नोटबुक है। यह उन शब्दों का क्रम है जो AI लिखता है।
- सादृश्य: क्या जासूस अपराध स्थल तैयार कर रहा है? (सेटअप)
- क्या वह गणित कर रहा है? (कम्प्यूटेशन)
- क्या वह खुद पर संदेह कर रहा है? (सत्यापन/Verification)
- क्या वह अंतिम उत्तर दे रहा है? (निष्कर्ष)
- PRISM ट्रैक करता है कि जासूस नोटबुक में इन "कमरों" के बीच कैसे कूदता है।
"कैसे" (अंतर्निहित दृश्य/Implicit View): यह लिखते समय जासूस की मस्तिष्क गतिविधि है।
- सादृश्य: भले ही जासूस केवल "मैं सोच रहा हूँ" लिख रहा हो, उनका मस्तिष्क विशिष्ट पैटर्न में सक्रिय होता है। PRISM AI की परतों के भीतर अदृश्य विद्युत संकेतों को देखता है कि क्या मस्तिष्क "शांत गणना मोड" में है या "घबराहट मोड" में है।
PRISM एक ऐसा टूल है जो इन दोनों दृश्यों को जोड़ता है। यह केवल नोटबुक को नहीं पढ़ता; यह उस नोटबुक को लिखते समय होने वाली मस्तिष्क तरंगों (brainwaves) को भी सुनता है।
2. PRISM ने क्या खोजा (अहा! क्षण)
इस दोहरी-लेंस दृष्टिकोण का उपयोग करके, शोधकर्ताओं ने पाया कि AI कभी-कभी क्यों विफल होता है, इसके बारे में कुछ दिलचस्प पैटर्न मिले:
🕸️ "लूप में फंसने" का जाल (The "Stuck in the Loop" Trap)
जब कोई AI उत्तर गलत देता है, तो वह अक्सर एक विशिष्ट लूप में फंस जाता है।
- पैटर्न: वह कुछ गणित करता है, फिर डर जाता है कि उसने कोई गलती की है, इसलिए वह "चेक" करना शुरू कर देता है (सत्यापन)। लेकिन गणित को ठीक करने के बजाय, वह बस बार-बार उसी चीज़ को चेक करता रहता है।
- रूपक: कल्पना कीजिए कि एक ड्राइवर रास्ता भटक गया है। नक्शा देखने या नया मोड़ लेने के बजाय, वह बस गोल-गोल घूमता रहता है, अपने रियरव्यू मिरर को देखता रहता है, इस विश्वास के साथ कि वह सही रास्ते पर है लेकिन बस उसे "अभी तक देख नहीं पा रहा है।" वे खुद को एक डेड एंड (बंद गली) में धकेलने के लिए जरूरत से ज्यादा सोच (overthinking) रहे हैं।
⚡ "जल्दबाजी में निर्णय लेना" (The "Rush to Judgment")
कभी-कभी, AI इसलिए विफल होता है क्योंकि वह बहुत जल्दी हार मान लेता है।
- पैटर्न: वह एक संभावित उत्तर देखता है, उत्साहित होता है, और तुरंत उस पर टिक जाता है, जिससे आगे की सारी सोच रुक जाती है।
- रूपक: यह उस छात्र की तरह है जो परीक्षा में देखते ही पहले परिचित लगने वाले उत्तर को भर देता है, बिना यह जांचे कि क्या अन्य विकल्प बेहतर हो सकते थे। यह असामयिक प्रतिबद्धता (premature commitment) है।
🧩 "गुप्त संकेत" (The "Secret Handshake")
पेपर ने पाया कि AI की "मस्तिष्क अवस्था" (छिपे हुए संकेत) इस बात पर निर्भर करती है कि वह सफल होने वाला है या विफल होने वाला है।
- रूपक: यह एक संगीतकार की तरह है। जब एक संगीतकार एक सटीक नोट बजाने वाला होता है, तो उनकी उंगलियां एक विशिष्ट, सहज तरीके से चलती हैं। जब वे गलती करने वाले होते हैं, तो उनकी उंगलियां एक अलग पैटर्न में तन जाती हैं। PRISM गलत नोट बजने से पहले ही उस तनाव को "सुन" सकता है।
3. प्रॉम्प्ट्स गेम को कैसे बदलते हैं
शोधकर्ताओं ने यह भी परीक्षण किया कि निर्देश (प्रॉम्प्ट्स) बदलने से AI की सोचने की शैली कैसे प्रभावित होती है।
- "संक्षिप्त रहें" (Be Concise): जब उन्होंने AI को संक्षिप्त होने के लिए कहा, तो उसने लंबी, गहरी गणनाएं करना बंद कर दिया। वह एक तेज गति से पढ़ने वाले (speed reader) की तरह बन गया जो पैराग्राफ छोड़ देता है। वह "सोचने" और "चेक करने" के बीच तेजी से आगे बढ़ा, लेकिन उसकी सोच उथली (shallower) हो गई।
- "कई रास्तों का अन्वेषण करें" (Explore Multiple Paths): जब उन्होंने AI को पहले कई समाधान आज़माने के लिए कहा, तो वह प्रयोग करने वाले वैज्ञानिक की तरह बन गया। वह एक रास्ता आजमाएगा, उसे चेक करेगा, वापस जाएगा, एक नया रास्ता आजमाएगा और उसे भी चेक करेगा। इसने सोचने और सत्यापित करने के बीच एक स्वस्थ "पिंग-पोंग" बनाया, जिसने वास्तव में कठिन समस्याओं को हल करने में मदद की।
यह क्यों मायने रखता है?
PRISM से पहले, यदि कोई AI गणित के सवाल में गलत होता था, तो हम बस इतना जानते थे कि वह "गणित में खराब" है।
अब, PRISM के साथ, हम कह सकते हैं:
"यह AI गणित में खराब नहीं है। वास्तव में यह यह जानने में खराब है कि अपने काम को कब चेक करना बंद करना है। यह संदेह के लूप में फंस जाता है।"
या:
"यह AI बहुत जल्दबाज (impulsive) है। इसे सिखाने की जरूरत है कि किसी उत्तर को चुनने से पहले धीमा हो जाए और अधिक विकल्पों का अन्वेषण करे।"
निचोड़ (The Bottom Line)
PRISM AI की सोच के लिए एक हाई-टेक एक्स-रे की तरह है। यह हमें न केवल अंतिम उत्तर, बल्कि पूरी यात्रा को देखने की अनुमति देता है—संदेह, लूप, जल्दबाजी, और वे छिपे हुए मस्तिष्क पैटर्न जो सफलता या विफलता की ओर ले जाते हैं। यह हमें केवल परिणाम को नहीं, बल्कि प्रक्रिया को ठीक करके बेहतर AI बनाने में मदद करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।