Theory of Mind in Action: The Instruction Inference Task in Dynamic Human-Agent Collaboration
यह शोध पत्र 'इंस्ट्रक्शन इन्फरेंस टास्क' और 'टॉमकेट' (Tomcat) का परिचय देता है, जो एक LLM-आधारित एजेंट है जिसे अस्पष्ट निर्देशों से अनकही मंशाओं का अनुमान लगाकर 'थ्योरी ऑफ माइंड' का अभ्यास करने के लिए डिज़ाइन किया गया है, जो यह प्रदर्शित करता है कि 'फ्यू-शॉट चेन-ऑफ-थॉट रीजनिंग' का उपयोग करने वाले वेरिएंट गतिशील मानव-एजेंट सहयोग में मानव-तुलनीय प्रदर्शन प्राप्त करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट साथी के साथ एक वीडियो गेम खेल रहे हैं। आप एक लाल दरवाजे की ओर इशारा करते हैं और कहते हैं, "क्या तुम उसे ले सकते हो?"
एक पारंपरिक रोबोट शायद जम जाएगा। वह "उसे ले लो" सुनता है, लेकिन उसे नहीं पता कि "वह" क्या है। क्या वह दरवाजा है? उसके पीछे की चाबी है? या उसके अंदर का खजाना है? क्योंकि वह आपकी बातों को शाब्दिक रूप से लेता है, वह शायद खुद दरवाजे को उठाने की कोशिश करेगा, विफल होगा, और गेम खत्म हो जाएगा।
एक मानव साथी, हालांकि, "थ्योरी ऑफ माइंड" (Theory of Mind) का उपयोग करता है। वह सोचता है: "ओह, वह लाल दरवाजे की ओर इशारा कर रहा है, जो बंद है। शायद वह उस लाल चाबी को चाहता है जिससे वह इसे खोल सके ताकि हम इसके पीछे वाले रत्न को प्राप्त कर सकें।" वह आपके शब्दों को नहीं, बल्कि आपके इरादे को समझता है।
यह शोध पत्र इस बारे में है कि लार्ज लैंग्वेज मॉडल्स (LLMs - जैसे कि वह AI जिससे आप अभी बात कर रहे हैं) को उस स्मार्ट मानव साथी की तरह बनने के लिए कैसे सिखाया जाए, तब भी जब आप उन्हें अस्पष्ट या अधूरे निर्देश देते हैं।
समस्या: "शाब्दिक रोबोट" बनाम "मन की बात पढ़ने वाला"
शोधकर्ताओं ने पाया कि जबकि AI कविता लिखने और कोडिंग करने में बहुत अच्छा है, यह वास्तविक समय की टीमवर्क में अक्सर संघर्ष करता है जब निर्देश धुंधले होते हैं। यदि आप हर एक विवरण विस्तार से नहीं बताते हैं, तो AI अक्सर खो जाता है क्योंकि उसमें यह अनुमान लगाने की क्षमता की कमी होती है कि आप क्या सोच रहे हैं।
इसे टेस्ट करने के लिए, उन्होंने "डोर्स, कीज़ एंड जेम्स" (Doors, Keys, and Gems) नामक एक गेम बनाया।
- लक्ष्य: एक चमकदार रत्न (gem) इकट्ठा करना।
- चुनौती: रास्ता बंद दरवाजों द्वारा बाधित है।
- कार्य: आप (मानव) AI (एजेंट) को निर्देश देते हैं। कभी-कभी आप कहते हैं, "चाबी लाओ" (स्पष्ट)। कभी-कभी आप कहते हैं, "क्या तुम उसे ले सकते हो?" जबकि आप एक विशिष्ट दरवाजे की ओर बढ़ रहे होते हैं (अस्पष्ट)।
AI को यह समझना होता है:
- आप वास्तव में कौन सी चाबी चाहते हैं?
- आपका अंतिम लक्ष्य (रत्न) क्या है?
- इसे पाने के लिए सबसे कुशल रास्ता क्या है?
समाधान: "टॉमकेट" (Tomcat) और सोचने के दो तरीके
शोधकर्ताओं ने "टॉमकेट" नामक एक AI एजेंट बनाया। उन्होंने टॉमकेट को सोचने में मदद करने के लिए दो अलग-अलग तरीकों का परीक्षण किया:
"कॉमन सेंस" (सामान्य ज्ञान) दृष्टिकोण (CP):
- उपमा: कल्पना कीजिए कि आप टॉमकेट को एक नियम पुस्तिका दे रहे हैं जिसमें लिखा है, "यदि कोई बंद दरवाजे की ओर चलता है, तो वह संभवतः चाबी चाहता है।"
- यह कैसे काम करता है: AI सामान्य ज्ञान और बुनियादी तर्क पर निर्भर करता है।
- परिणाम: यह ठीक-ठाक है, लेकिन अक्सर पेचीदा स्थितियों में भ्रमित हो जाता है। यह उस छात्र की तरह है जिसने पाठ्यपुस्तक रट ली है लेकिन उसने वास्तविक परीक्षा नहीं देखी है।
"सिर्फ बताओ मत, करके दिखाओ" दृष्टिकोण (Fs-CoT):
- उपमा: कल्पना कीजिए कि आप टॉमकेट को 7 हल किए गए उदाहरणों वाला एक स्टडी गाइड दे रहे हैं। "यहाँ एक व्यक्ति की तस्वीर है जो लाल दरवाजे की ओर जा रहा है। यहाँ उसने क्या कहा। यहाँ इसने उनकी मदद करने के लिए बिल्कुल क्या किया।"
- यह कैसे काम करता है: इसे फ्यू-शॉट चेन-ऑफ-थॉट (Few-Shot Chain-of-Thought) कहा जाता है। AI केवल अनुमान नहीं लगाता; वह उदाहरणों को देखता है और चरण-दर-चरण तर्क प्रक्रिया की नकल करता है। यह कार्य करने से पहले "ज़ोर से सोचने" के लिए सीखता है।
- परिणाम: यही असली जादू था। उदाहरणों को देखकर, AI ने समस्याओं को हल करने का तरीका सीखना शुरू कर दिया।
प्रयोग: AI बनाम मानव
उन्होंने 52 वास्तविक मनुष्यों और कई संस्करणों वाले टॉमकेट (जो GPT-4o, DeepSeek-R1 और Gemma जैसे विभिन्न AI दिमागों द्वारा संचालित है) को टेस्ट के लिए रखा।
- मानव: उन्होंने बहुत अच्छा काम किया। उन्होंने स्वाभाविक रूप से "थ्योरी ऑफ माइंड" का उपयोग किया ताकि दूसरे व्यक्ति की इच्छा का अनुमान लगाया जा सके।
- "कॉमन सेंस" AI: संघर्ष करता रहा। इसने अक्सर निर्देशों को बहुत शाब्दिक रूप से लिया और आगे की योजना बनाने में विफल रहा।
- "सिर्फ बताओ मत, करके दिखाओ" वाला AI (Fs-CoT): यह बड़ी जीत थी।
- GPT-4o और DeepSeek-R1 वाले टॉमकेट वर्ज़न, जब उन्हें "स्टडी गाइड" (Fs-CoT) दिया गया, तो उन्होंने इतने ही अच्छे प्रदर्शन किए जितने कि इंसानों ने।
- वे "उसे ले लो" जैसे अस्पष्ट निर्देश को देख सकते थे, देख सकते थे कि मानव लाल दरवाजे की ओर बढ़ रहा है, और सही ढंग से निष्कर्ष निकाल सकते थे: "ठीक है, मुझे लाल चाबी लेनी होगी, उसे उनके पास लाना होगा, और फिर वे रत्न पाने के लिए दरवाजा खोल सकेंगे।"
कुछ AI क्यों विफल हुए?
सभी AI दिमाग एक समान नहीं होते।
- GPT-4o और DeepSeek-R1: ये उन स्मार्ट छात्रों की तरह हैं जो, एक बार उदाहरण देखने के बाद, तर्क को पूरी तरह से लागू कर सकते हैं। वे उत्कृष्ट टीममेट बन गए।
- Gemma-3-27B: यह मॉडल छोटा है (जैसे कम क्षमता वाला छात्र)। स्टडी गाइड मिलने के बावजूद, यह जटिल, बहु-चरणीय योजनाओं के लिए सभी कड़ियों को जोड़ने में संघर्ष करता रहा। यह सरल निर्देशों का पालन कर सकता था लेकिन "बड़ी तस्वीर" (big picture) में खो जाता था।
मुख्य निष्कर्ष
यह शोध पत्र सिद्ध करता है कि AI एक अच्छा टीममेट बनना सीख सकता है, लेकिन इसे सही प्रकार के प्रशिक्षण की आवश्यकता होती है।
- AI को केवल नियम न दें।
- इसे सोचने के उदाहरण दें।
जब आप एक AI को दिखाता है कि वह किसी समस्या के माध्यम से कैसे तर्क करता है (सफल टीमवर्क के उदाहरण दिखाकर), तो वह एक शाब्दिक रोबोट बनना बंद कर देता है और एक ऐसे साथी की तरह व्यवहार करने लगता है जो आपके अनकहे इरादों को समझता है। यह हमारे साथ उन वास्तविक दुनिया की स्थितियों में काम करने वाले AI सहायकों की दिशा में एक बड़ा कदम है जहाँ हम हमेशा पूरी तरह से स्पष्ट नहीं बोल पाते।
संक्षेप में: यदि आप चाहते हैं कि एक AI आपको समझे, तो उसे केवल यह न बताएं कि क्या करना है। उसे दिखाएं कि आपने पहले एक समान समस्या को कैसे हल किया था, और वह आपके मन को पढ़ना सीख जाएगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।