Reasoning Promotes Robustness in Theory of Mind Tasks
यह शोधपत्र यह प्रदर्शित करता है कि तर्क-उन्मुख (reasoning-oriented) लार्ज लैंग्वेज मॉडल्स, थ्योरी ऑफ माइंड कार्यों पर बेहतर प्रदर्शन मुख्य रूप से प्रॉम्प्ट विविधताओं और व्यवधानों के प्रति बढ़ी हुई सुदृढ़ता (robustness) के माध्यम से प्राप्त करते हैं, न कि मौलिक रूप से नए सामाजिक-संज्ञानात्मक तर्क के रूपों को विकसित करके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान छात्र है जो एक ऐसी परीक्षा दे रहा है जो इस बारे में है कि लोग कैसे सोचते हैं, महसूस करते हैं और चीजों में विश्वास करते हैं। इसे "थ्योरी ऑफ माइंड" (Theory of Mind) टेस्ट कहा जाता है। लंबे समय तक, ये टेस्ट AI कंप्यूटरों के लिए कठिन रहे। कभी-कभी AI सही उत्तर तो दे देता था, लेकिन अगर आप प्रश्न की शब्दावली में थोड़ा सा भी बदलाव कर देते—जैसे कि एक शब्द बदल देना या वाक्यों का क्रम बदल देना—तो AI अचानक गलत हो जाता था। यह उस छात्र की तरह था जिसने एक विशिष्ट अभ्यास परीक्षण (प्रैक्टिस टेस्ट) के उत्तर रट लिए थे लेकिन वास्तव में अवधारणाओं को नहीं समझा था।
हाल ही में, एक नए प्रकार के AI का उदय हुआ है। ये "रीज़निंग मॉडल्स" (Reasoning Models) हैं। इन छात्रों के बारे में सोचें जिन्हें उत्तर देने के लिए हाथ उठाने से पहले ज़ोर से सोचने के लिए प्रशिक्षित किया गया है। उन्हें रुकने, समस्या को तोड़ने और अपना तर्क चरण-दर-चरण समझाने (एक प्रक्रिया जिसे "चेन ऑफ थॉट" कहा जाता है) के लिए सिखाया जाता है, इससे पहले कि वे अंतिम उत्तर दें।
यह शोध पत्र एक सरल प्रश्न पूछता है: क्या यह नया "ज़ोर से सोचने" का स्वभाव AI को लोगों के मन को समझने में बेहतर बनाता है, या यह केवल उन्हें भ्रमित होने से बचने में बेहतर बनाता है?
प्रयोग: "ट्रिकी क्वेश्चन" टेस्ट
शोधकर्ताओं ने इन नए "सोचने वाले" AI को मनोवैज्ञानिक परीक्षणों की एक श्रृंखला के माध्यम से परखा, जो मानव बच्चों के लिए उपयोग किए जाने वाले परीक्षणों के समान हैं।
- क्लासिक टेस्ट: उन्होंने "सली और ऐनी" जैसी प्रसिद्ध कहानियों का उपयोग किया, जहाँ एक पात्र एक खिलौने को छिपाता है और दूसरा उसे कहीं और ले जाता है। AI को यह अनुमान लगाना होता है कि पहला पात्र खिलौने के बारें में क्या सोचता है, भले ही AI जानता हो कि वह वास्तव में कहाँ है।
- "ट्विस्ट" टेस्ट: उन्होंने सरल प्रश्नों को लिया और जानबूझकर उन्हें बिगाड़ दिया। उन्होंने शब्दावली को बदल दिया, भ्रमित करने वाले विवरण जोड़ दिए, या परिदृश्य को उलट दिया। अतीत में, ये छोटे बदलाव पुराने AI को पूरी तरह से विफल कर देते थे।
- "थिंकिंग" स्विच: क्लॉड (Claude) मॉडल के लिए, शोधकर्ता "सोचने" वाले फीचर को चालू और बंद कर सकते थे। यह एक ही छात्र से एक ही टेस्ट को एक बार तब लेने जैसा था जब वह अपने तर्क को बोलकर समझा रहा था, और दूसरी बार तब जब वह तुरंत उत्तर देने की कोशिश कर रहा था।
निष्कर्ष: मजबूती (Robustness), जादू नहीं
यहाँ शोधकर्ताओं ने पाया, जिसका उपयोग हम कुछ सरल उपमाओं के माध्यम से कर सकते हैं:
- "सुपर-स्टेबल" दिशा सूचक यंत्र (Compass): नए रीज़निंग मॉडल्स ने अनिवार्य रूप से मानवीय भावनाओं के बारे में सोचने का कोई बिल्कुल नया तरीका नहीं खोजा। इसके बजाय, वे अविश्वसनीय रूप से मजबूत (robust) हो गए। एक दिशा सूचक यंत्र (कम्पास) की कल्पना करें। पुराने AI एक ऐसे कम्पास की तरह थे जो चुंबक के पास जाने पर बेतहाशा घूमने लगता था (एक ट्रिकी प्रॉम्प्ट)। नए रीज़निंग मॉडल्स एक हाई-टेक कम्पास की तरह हैं जो चुंबक को अनदेखा करता है और उत्तर दिशा की ओर संकेत करना जारी रखता है। उन्होंने कोई नई दिशा नहीं सीखी; उन्होंने बस विकर्षणों से भ्रमित होना बंद कर दिया।
- "सोचने" का लाभ: जब शोधकर्ताओं ने क्लॉड मॉडल के लिए "सोचने" वाले फीचर को बंद कर दिया, तो ट्रिकी और घुमावदार प्रश्नों पर इसके प्रदर्शन में काफी गिरावट आई। जब उन्होंने इसे वापस चालू किया, तो मॉडल भ्रम को पार कर गया और सही उत्तर तक पहुँच गया। यह उस छात्र के बीच के अंतर की तरह है जो प्रश्न की शब्दावली बदलने पर घबरा जाता है बनाम वह छात्र जो कहता है, "रुको, मुझे निर्देश फिर से पढ़ने दो," और उसे सुलझा लेता है।
- दृश्य बनाना (Visualizing the Scene): एकमात्र समय जब नए AI संघर्ष करते थे, जब प्रश्न के लिए उनके मन में एक दृश्य को "चित्रित" करने की आवश्यकता होती थी (जैसे कि एक पारदर्शी बॉक्स या वस्तुओं के बीच एक विशिष्ट संबंध को विज़ुअलाइज़ करना)। अपनी सुपर-पावरफुल थिंकिंग के बावजूद, यदि वे किसी सेटअप को मानसिक रूप से "देख" नहीं पाते थे, तो वे कभी-कभी चूक जाते थे। यह सुझाव देता है कि हालांकि वे तर्क में माहिर हैं, फिर भी उन्हें पूरी तरह से समझने के लिए दुनिया को "देखने" की आवश्यकता होती है।
बड़ा निष्कर्ष
यह शोध पत्र तर्क देता है कि ये नए AI मॉडल अचानक "मानव-समान" किसी जादुई, दार्शनिक अर्थ में नहीं बन गए हैं। उन्होंने आत्मा प्राप्त नहीं की है या चेतना की गहरी, मौलिक समझ विकसित नहीं की है।
इसके बजाय, वे बहुत अधिक विश्वसनीय हो गए हैं।
"रीज़निंग" प्रशिक्षण एक सुरक्षा जाल (safety net) की तरह कार्य करता है। यह AI को शोर को फ़िल्टर करने, प्रश्न के भ्रमित करने वाले धोखों को अनदेखा करने और सही उत्तर के तार्किक पथ पर टिके रहने में मदद करता है। शोध पत्र सुझाव देता है कि इन मॉडल्स की "सुपरपावर" यह नहीं है कि वे अलग तरह से सोच सकते हैं, बल्कि यह है कि वे बिना विचलित हुए अधिक निरंतरता के साथ सोच सकते हैं।
संक्षेप में: AI अनिवार्य रूप से एक नए तरीके से "स्मार्ट" नहीं हुआ है; यह बस बहुत कठिन है उसे धोखा देना।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।