CoSToM:Causal-oriented Steering for Intrinsic Theory-of-Mind Alignment in Large Language Models
यह शोध पत्र CoSToM को प्रस्तुत करता है, जो एक ऐसा ढांचा (framework) है जो क्रिटिकल इंटरनल लेयर्स की पहचान करने के लिए कॉज़ल ट्रेसिंग (causal tracing) का उपयोग करके और आंतरिक ज्ञान को स्थिर, उच्च-गुणवत्ता वाले सामाजिक तर्क व्यवहारों के साथ संरेखित करने के लिए लक्षित एक्टिवेशन स्टीयरिंग (targeted activation steering) लागू करके लार्ज लैंग्वेज मॉडल्स की अंतर्निहित थ्योरी-ऑफ-माइंड (Theory-of-Mind) क्षमताओं को बढ़ाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ COSTOM पेपर का सरल भाषा और रचनात्मक उपमाओं (analogies) के साथ विवरण दिया गया है।
बड़ी समस्या: "रोबोट अभिनेता" बनाम "असली विचारक"
कल्प Imagine कीजिए कि आप मंच पर एक बहुत ही प्रतिभाशाली अभिनेता को देख रहे हैं। स्क्रिप्ट कहती है, "पात्र दुखी है," और अभिनेता तुरंत रोना शुरू कर देता है। वह बिल्कुल सटीक दिखता है। लेकिन यदि आप उनसे मंच के पीछे पूछें, "आप क्यों दुखी हैं?" तो वे कह सकते हैं, "मुझे नहीं पता, स्क्रिप्ट ने बस मुझे रोने के लिए कहा था।"
यह वर्तमान में कई लार्ज लैंग्वेज मॉडल्स (LLMs) की थ्योरी ऑफ माइंड (ToM) के संबंध में स्थिति है। ToM मनुष्य की वह क्षमता है जिससे वह समझ पाता है कि अन्य लोगों के अपने विचार, विश्वास और इच्छाएं होती हैं जो आपसे अलग हो सकती हैं।
वर्तमान AI मॉडल इस व्यवहार की नकल करने में बहुत अच्छे हैं जब आप उन्हें एक विशिष्ट प्रॉम्प्ट देते हैं जैसे, "एक ऐसे वार्ताकार (negotiator) की तरह व्यवहार करें जो दूसरे व्यक्ति की भावनाओं को समझता है।" लेकिन यदि आप उस प्रॉम्प्ट को हटा दें और बस कहें, "मेरे साथ बातचीत करो," तो AI अक्सर सब कुछ भूल जाता है। वह दूसरे व्यक्ति की भावनाओं के बारे में सोचना बंद कर देता है और बेतुके या अशिष्ट उत्तर देने लगता है।
शोधकर्ता पूछते हैं: क्या AI वास्तव में अपने दिमाग के भीतर गहराई से "जानता" है कि दूसरा व्यक्ति क्या सोच रहा है, या वह केवल आदेश पर अभिनय कर रहा है?
समाधान: COSTOM (द "माइंड-स्टीयरिंग" सिस्टम)
लेखकों ने COSTOM (Causal-oriented Steering for ToM) नामक एक फ्रेमवर्क बनाया है। इसे AI के मस्तिष्क को ट्यून करने के एक तरीके के रूप में समझें ताकि वह केवल दिखावा करने के बजाय वास्तव में दूसरे लोगों की भावनाओं के बारे में सोचे।
उन्होंने इसे तीन चरणों में किया:
1. जासूसी कार्य: "एम्पैथी स्विच" (सहानुभूति का स्विच) को खोजना
सबसे पहले, उन्हें यह खोजने की आवश्यकता थी कि AI के विशाल मस्तिष्क में "दूसरे लोगों की भावनाओं" की अवधारणा कहाँ रहती है।
- उपमा: एक विशाल पुस्तकालय (AI) की कल्पना करें जिसमें लाखों किताबें (डेटा के स्तर/layers) हैं। आप उस विशिष्ट शेल्फ को खोजना चाहते हैं जहाँ "सहानुभूति" (Empathy) की किताबें रखी हैं।
- खोज: कॉज़ल ट्रेसिंग (Causal Tracing) नामक तकनीक का उपयोग करके, उन्होंने जासूसों की तरह काम किया। उन्होंने AI के मस्तिष्क के विभिन्न हिस्सों में एक 'प्रोब' लगाया जबकि वह एक बातचीत पढ़ रहा था। उन्होंने पाया कि AI भावनाओं को समझता तो है, लेकिन यह उसके प्रोसेसिंग के बहुत शुरुआती चरणों में होता है—जैसे किसी किताब के पहले कुछ पन्ने। यदि आप किताब के अंत तक (गहरे लेयर्स तक) प्रतीक्षा करते हैं, तो AI भावनाओं को भूल जाता है और केवल वाक्य पूरा करने पर ध्यान केंद्रित करता है।
2. ट्यूनिंग: मस्तिष्क को "स्टीयर" करना (दिशा देना)
एक बार जब उन्होंने "एम्पैथी स्विच" (शुरुआती लेयर्स) को खोज लिया, तो वे पूरे पुस्तकालय को फिर से नहीं बनाना चाहते थे। वे केवल उस विशिष्ट शेल्फ को थोड़ा सुधारना चाहते थे।
- उपमा: एक कार इंजन की कल्पना करें। आमतौर पर, कार को तेज़ चलाने के लिए, आप पूरे इंजन को फिर से बनाने की कोशिश कर सकते हैं (Full Fine-Tuning)। लेकिन COSTOM केवल एयर इनटेक वाल्व में एक छोटा, सटीक टर्बोचार्जर जोड़ने जैसा है।
- यह कैसे काम करता है: उन्होंने एक "ग्रेडिएंट ब्रिज" (Gradient Bridge) का उपयोग किया। एक शिक्षक की कल्पना करें जो AI के बगल में खड़ा है। जब AI किसी भावना के बारे में सोचता है, तो शिक्षक जाँचता है कि क्या वह सही है। यदि AI गलत है, तो शिक्षक मस्तिष्क के माध्यम से पीछे की ओर एक संकेत भेजता है, लेकिन केवल उन विशिष्ट "एम्पैथी स्विच" लेयर्स तक जो चरण 1 में मिले थे। यह AI को उन भावनाओं को सक्रिय और मजबूत बनाए रखने के लिए "स्टीयर" करता है, भले ही वह प्रतिक्रिया उत्पन्न करने के बाद के चरणों में बढ़ रहा हो।
3. परिणाम: एक स्वाभाविक बातचीत करने वाला
अंत में, उन्होंने ट्यून किए गए AI का वास्तविक बातचीत (जैसे लकड़ी के लिए मोलभाव करना या किसी को वायलिन खरीदने के लिए राजी करना) में परीक्षण किया।
- परिणाम: COSTOM से पहले, AI एक ऐसे रोबोट की तरह था जिसे विनम्र होने के लिए याद दिलाने की आवश्यकता होती थी। COSTOM के बाद, AI एक स्वाभाविक मानव की तरह बन गया। उसे "सहानुभूतिपूर्ण बनें" जैसा प्रॉम्प्ट देने की आवश्यकता नहीं थी। वह स्वाभाविक रूप से समझ गया कि दूसरे व्यक्ति को क्या चाहिए और प्रभावी ढंग से बातचीत या मोलभाव किया।
- जादू: यह केवल "गणित में बेहतर" नहीं था। यह सामाजिक व्यवहार में बेहतर था। वह भ्रमित हुए या अशिष्ट हुए बिना एक सुसंगत, मैत्रीपूर्ण और रणनीतिक बातचीत बनाए रखने में सक्षम था।
यह क्यों महत्वपूर्ण है
पिछले अधिकांश तरीकों ने AI को बेहतर निर्देश देकर (Prompting) या पूरे मॉडल को फिर से प्रशिक्षित करके (Fine-tuning) ठीक करने की कोशिश की।
- प्रॉम्प्टिंग (Prompting) एक छात्र को यह बताने जैसा है, "याद रखना कि विनम्र रहना है!" यह एक सेकंड के लिए काम करता है, लेकिन वे भूल सकते हैं।
- फुल फाइन-ट्यूनिंग (Full Fine-tuning) एक छात्र को केवल विनम्र होने के लिए पूरा स्कूल पाठ्यक्रम फिर से सीखने के लिए मजबूर करने जैसा है। यह महंगा और धीमा है।
COSTOM छात्र को सहानुभूति की एक स्थायी, आंतरिक आदत देने जैसा है। यह AI के सोचने के तरीके को मौलिक स्तर पर बदल देता है, यह सुनिश्चित करता है कि दूसरे लोगों के मन को समझना उसकी पर्सनैलिटी का एक स्थिर हिस्सा बन जाए, न कि केवल एक ट्रिक जो वह पूछे जाने पर करता है।
एक वाक्य में सारांश
शोधकर्ताओं ने AI मस्तिष्क के भीतर विशिष्ट "एम्पैथी सर्किट्स" खोजे, उन्हें सक्रिय रहने के लिए एक हल्का सा धक्का दिया, और रोबोटिक अभिनेताओं को वास्तविक सामाजिक विचारकों में बदल दिया जो स्वाभाविक रूप से मोलभाव और राजी कर सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।