PICTURE: Enhancing Theory-of-Mind in Large Language Models by Revealing, Not Hiding, Characters' Lack of Knowledge

कल्पना कीजिए कि आप एक भीड़भाड़ वाले कमरे में बैठे हैं और एलेक्स और जेमी नामक दो दोस्तों की एक कहानी सुन रहे हैं। आप पूरा सच जानते हैं: आपने जेमी को जार में एक कुकी छिपाते हुए देखा, और फिर आपने एलेक्स को चुपके से आकर उस कुकी को एक बॉक्स में रखते हुए देखा। लेकिन यहाँ पेचीदा बात यह है कि सवाल यह नहीं पूछ रहा कि आप क्या जानते हैं। सवाल यह है, "एलेक्स कुकी के लिए कहाँ देखेगा?" इसे सही ढंग से उत्तर देने के लिए, आपको वह करना होगा जो इंसान स्वाभाविक रूप से करते हैं लेकिन जो आश्चर्यजनक रूप से कठिन है: आपको यह भूलने का नाटक करना होगा कि आप क्या जानते हैं। आपको एलेक्स के जूतों में कदम रखना होगा, बॉक्स को भूल जाना होगा, और केवल जार को याद रखना होगा। यह मानसिक महाशक्ति "थ्योरी ऑफ माइंड" (Theory of Mind) कहलाती है। यह समझने की क्षमता है कि अन्य लोगों के अपने विचार, विश्वास और रहस्य होते हैं जो आपके अपने से अलग हो सकते हैं।

लंबे समय से, वैज्ञानिक आर्टिफिशियल इंटेलिजेंस (विशेष रूप से, लार्ज लैंग्वेज मॉडल्स या LLMs) को यह सिखाने की कोशिश कर रहे हैं। ये AI मॉडल उन सुपर-स्मार्ट छात्रों की तरह हैं जिन्होंने इंटरनेट पर लगभग सब कुछ पढ़ लिया है, लेकिन जब बात किसी दूसरे के विचारों का अनुमान लगाने की आती है, तो वे अक्सर गलत हो जाते हैं। वे "वास्तविक" सत्य (कुकी बॉक्स में है) के आधार पर उत्तर देने के बजाय चरित्र के "गलत" विश्वास (कुकी जार में है) के आधार पर उत्तर देने की गलती करते हैं। यह शोध पत्र इस समस्या को हल करने के लिए एक नया तरीका खोजने पर काम करता है जिससे ये AI मॉडल वास्तविक सत्य का उपयोग करने से बच सकें और कहानी के एक पात्र की तरह सोच सकें।

समस्या: "हाइड एंड सीक" (लुका-छिपी) का जाल

अतीत में, शोधकर्ताओं ने इस AI समस्या को ठीक करने के लिए कहानी के साथ "हाइड एंड सीक" का खेल खेलने की कोशिश की। वे AI से कहेंगे: "ठीक है, प्रश्न का उत्तर देने से पहले, कहानी के हर उस वाक्य को हटा दें जिसे पात्र ने नहीं देखा।" यदि पात्र कमरे से बाहर चला गया, तो AI को वह सब कुछ मिटा देना चाहिए जो उनके जाने के दौरान हुआ था। इसे "इवेंट हाइडिंग" (घटना छिपाना) कहा जाता है।

इसे एक शिक्षक की तरह समझें जो छात्र से उसकी परीक्षा वापस ले लेता है और कहता है, "इस पन्ने को मत देखो, इसमें वह उत्तर है जिसे तुम्हें अनदेखा करने की आवश्यकता है।" विचार यह था कि यदि AI सत्य को देख नहीं पाएगा, तो वह उसका उपयोग करने के लिए प्रलोभित नहीं होगा। लेकिन इस दृष्टिकोण में एक बड़ी खामी थी। इसने AI को बहुत सख्त नियमों का पालन करने के लिए मजबूर किया, जैसे कि अपने विचारों को एक विशिष्ट कोड या एक कठोर सूची में लिखना। यह एक रचनात्मक लेखक को यह कहने जैसा था, "आप अपनी कहानी केवल बुलेट पॉइंट्स और बिना विशेषणों के लिख सकते हैं।" इस सख्ती ने अक्सर AI को भ्रमित कर दिया, जिससे उसने केवल इसलिए गलतियाँ कीं क्योंकि वह स्वरूपण (फॉर्मेटिंग) के नियमों का पालन करने की बहुत अधिक कोशिश कर रहा था। कभी-कभी, AI गलती से गलत वाक्य हटा देता या अपने विचारों को एक ऐसे बॉक्स में फिट करने में फंस जाता जो बहुत छोटा था।

नया विचार: "छिपाएं नहीं, प्रकट करें"

इस शोध पत्र के लेखक, ओजिन जों और सांगकिन ली ने एक पूरी तरह से अलग दृष्टिकोण अपनाने का निर्णय लिया। AI से सत्य छिपाने के बजाय, उन्होंने तय किया कि AI सब कुछ देखेगा—लेकिन फिर, वे उससे स्पष्ट रूप से पूछेंगे कि पात्र क्या नहीं जानता है।

कल्पना कीजिए कि आप एक खेल खेल रहे हैं जहाँ आपको अपने दोस्त के विचारों का अनुमान लगाना है। अपने दोस्त की आँखों को ढंकने के बजाय ताकि वह सुराग न देख सके, आप अपने दोस्त से कहते हैं: "मुझे पता है कि कुकी बॉक्स में है, लेकिन तुम्हें यह नहीं पता। तुम केवल यह जानते हो कि यह जार में है।" इसे ज़ोर से बोलकर, आप अपने दोस्त को बॉक्स को अनदेखा करने की याद दिलाते हैं।

शोधकर्ता उनके नए तरीके को PICTURE कहते हैं। इसका अर्थ है "परिप्रेक्ष्य लेना और चेन-ऑफ-थॉट रीजनिंग में उत्पन्न ज्ञान के अभाव का उपयोग करना" (Perspective-taking with Generated Lack of Knowledge in Chain-of-Thought Reasoning)। यह काफी लंबा नाम है, तो आइए इसे तोड़ते हैं:

1. कोई छिपाव नहीं: AI को पूरी कहानी मिलती है, जिसमें सभी रहस्य और चालें शामिल होती हैं।
2. "ज्ञान का अभाव" चरण: उत्तर देने से पहले, AI को एक मुक्त-रूप व्याख्या (एक सामान्य बातचीत की तरह) लिखने के लिए कहा जाता है जहाँ वह ठीक से सूचीबद्ध करता है कि पात्र क्या जानता है और, महत्वपूर्ण रूप से, वह क्या नहीं जानता है।
3. "स्टॉप" साइन: "लियाम को यह नहीं पता कि ओवेन ने मूली को हटाया है" लिखकर, AI एक मानसिक "स्टॉप" साइन बनाता है। यह खुद को बताता है, "ठीक है, मैं इस घटना को देख रहा हूँ, लेकिन लियाम को नहीं पता, इसलिए मैं उत्तर देने के लिए इसका उपयोग नहीं कर सकता।"

उन्होंने क्या पाया

टीम ने कई अलग-अलग कहानी पहेलियों पर इस विचार का परीक्षण किया, जिसमें वे कहानियाँ भी शामिल थीं जहाँ पात्र वस्तुओं को हिलाते हैं, कमरे छोड़ देते हैं, या बातचीत करते हैं। उन्होंने अपने नए "PICTURE" तरीके की तुलना पुराने "हाइड एंड सीक" तरीकों और कुछ मानक AI ट्रिक्स से की।

परिणाम काफी उत्साहजनक रहे। औसतन, PICTURE का उपयोग करने वाले AI ने "फॉल्स-बलीफ" (गलत विश्वास) पहेलियों (उन पहेलियों में जहाँ पात्र सत्य के बारे में गलत होता है) पर पुराने तरीकों की तुलना में 7.3% अधिक प्रश्न सही किए। AI अनुसंधान की दुनिया में यह एक बड़ी बात है।

इससे भी महत्वपूर्ण बात यह है कि यह शोध पत्र सुझाव देता है कि यह इसलिए काम करता है क्योंकि यह AI को एक कौशल सिखाता है जिसे "इनहिबिटरी कंट्रोल" (निषेधात्मक नियंत्रण) कहा जाता है। मनोविज्ञान में, यह अपने सामने मौजूद किसी चीज़ पर प्रतिक्रिया देने से खुद को रोकने की क्षमता है, भले ही वह चीज़ वहाँ मौजूद हो। उदाहरण के लिए, एक प्रसिद्ध परीक्षण में, यदि आप नीली स्याही में लिखा शब्द "RED" देखते हैं, और आपसे स्याही के रंग को बताने के लिए कहा जाता है, तो आपको "RED" शब्द को पढ़ने से खुद को रोकना होगा। शोध पत्र दिखाता है कि पात्र के ज्ञान के अंतराल को स्पष्ट रूप से बताते हुए, AI उस "वास्तविक" उत्तर का उपयोग करने की अपनी इच्छा को रोकने (inhibit) में सक्षम होता है और इसके बजाय पात्र के परिप्रेक्ष्य पर टिका रहता है।

यह क्यों मायने रखता है

यह शोध पत्र सुझाव देता है कि हमें लोगों को समझने में स्मार्ट बनाने के लिए AI को सत्य से अंधा करने की आवश्यकता नहीं है। वास्तव में, सत्य को छिपाना चीजों को बदतर बना सकता है क्योंकि यह AI को कठोर, भ्रमित करने वाले प्रारूपों में धकेल देता है। इसके बजाय, AI को सब कुछ देखने देकर और फिर पात्र के ज्ञान के अंतराल को स्पष्ट रूप से व्यक्त करने के लिए कहकर, हम इसे स्वयं जानकारी को फ़िल्टर करने में मदद करते हैं।

लेखकों ने पाया कि यह तरीका विभिन्न प्रकार के AI मॉडल में अच्छी तरह काम करता है, छोटे ओपन-सोर्स मॉडल से लेकर विशाल, शक्तिशाली मॉडलों तक। हालाँकि AI अभी भी गलतियाँ करता है (विशेष रूप से कई पात्रों वाली बहुत जटिल कहानियों में), PICTURE तरीका एक महत्वपूर्ण प्रगति प्रतीत होता है। यह दिखाता है कि कभी-कभी, मशीन को मानव मन को समझने के लिए सिखाने का सबसे अच्छा तरीका उसे पूरी तस्वीर देखने देना है, और फिर धीरे से उसे यह याद दिलाना है कि उस तस्वीर में प्रत्येक व्यक्ति के पास किस चीज़ की कमी है।