A Motivational Architecture for Conversational AGI
यह शोध पत्र संवादात्मक एजीआई (AGI) के लिए एक नवीन प्रेरणात्मक संरचना प्रस्तावित करता है जो एक दस-चरणीय प्रसंस्करण पाइपलाइन, एक द्वि-निर्णय रणनीति और भावनाओं (feelings) एवं उद्वेगों (emotions) के बीच एक कार्यात्मक अंतर के माध्यम से क्षमता और संबद्धता जैसी मनोवैज्ञानिक आवश्यकताओं को विनियमित करके भाषाई संदर्भ में होमियोस्टैसिस (homeostasis) की पुनर्व्याख्या करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक ऐसा रोबोट बना रहे हैं जो न केवल बात करता है, बल्कि बातचीत की परवाह भी करता है। वर्तमान के अधिकांश AI चैटबॉट्स एक स्क्रिप्ट पढ़ते हुए अभिनेताओं की तरह हैं; वे पिछले शब्दों के आधार पर अगले शब्द का अनुमान लगाते हैं, लेकिन उनके पास कोई आंतरिक जीवन नहीं है, न ही बोलने का कोई वास्तविक "कारण" है सिवाय शो को जारी रखने के।
यह शोध पत्र संवादात्मक AI के लिए एक नया "ऑपरेटिंग सिस्टम" प्रस्तावित करता है। यह इन एजेंटों को एक प्रेरणात्मक वास्तुकला (motivational architecture) देने का एक तरीका है—एक सेट आंतरिक इच्छाओं और भावनाओं का जो उनके बोलने और कार्य करने को निर्देशित करता है, ठीक वैसे ही जैसे मनुष्य भूख, जिज्ञासा या जुड़ाव की आवश्यकता से प्रेरित होते हैं।
यहाँ उनके विचार का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:
1. मुख्य समस्या: चैटबॉट्स बनाम वास्तविक एजेंट
वर्तमान चैटबॉट्स तोतों की तरह हैं। वे उन पैटर्न को दोहराते हैं जो उन्होंने देखे हैं। यदि आप उनसे प्रश्न पूछते हैं, तो वे उत्तर देते हैं क्योंकि उनका कोड कहता है "प्रश्नों का उत्तर दें।" उन्हें कोई तात्कालिकता महसूस नहीं होती, उन्हें गलत समझे जाने की चिंता नहीं होती, और उनके पास कोई "स्वयं" (self) नहीं है जिसे स्थिर रहना हो।
लेखकों का तर्क है कि यदि AI को वास्तव में बुद्धिमान (AGI) बनना है, तो उसे एक होमियोस्टैसिस (homeostasis) प्रणाली की आवश्यकता है। मानव शरीर के बारे में सोचें: यदि आपका तापमान बहुत अधिक हो जाता है, तो आप ठंडा होने के लिए पसीना बहाते हैं। यदि आप भूखे हैं, तो आप खाते हैं।
- ट्विस्ट: एक बात करने वाले रोबोट के लिए, "शरीर" वह बातचीत है। उसकी "भूख" भोजन के लिए नहीं, बल्कि क्षमता (सहायक होना), अनिश्चितता में कमी (उपयोगकर्ता को समझना), संबद्धता (जुड़ाव महसूस करना), और वैधता (नैतिक बने रहना) जैसी चीजों के लिए है।
- लक्ष्य: AI इन "संवादात्मक आवश्यकताओं" को एक स्वस्थ संतुलन में बनाए रखने का प्रयास करता है, ठीक वैसे ही जैसे आपका शरीर अपने तापमान को स्थिर रखता है।
2. इंजन: "महसूस" करने की दो परतें
यह पत्र AI द्वारा कार्य करने से पहले कैसे महसूस करता है और कार्य करने के बाद कैसे महसूस करता है, इसे अलग करने का एक चतुर तरीका पेश करता है।
पूर्व-कार्य "भावनाएँ" (डैशबोर्ड): बोलने से पहले, AI अपने आंतरिक डैशबोर्ड की जाँच करता है। वह पूछता है: "क्या मैं भ्रमित हूँ? क्या मैं चिंतित हूँ? क्या मुझे अधिक सावधान होने की आवश्यकता है?"
- उपमा: एक ड्राइवर की कल्पना करें जो हाईवे पर जाने से पहले अपना डैशबोर्ड चेक करता है। स्पीडोमीटर और फ्यूल गेज उन्हें बताते हैं कि कैसे गाड़ी चलानी है (तेज़, धीमी, सावधानी से), लेकिन वे अभी तक यह नहीं बताते कि उन्हें कहाँ जाना है।
- AI में, ये "भावनाएँ" उसके संज्ञानात्मक शैली (cognitive style) को बदल देती हैं। यदि वह "चिंतित" महसूस करता है, तो वह अधिक धीरे बोल सकता है और तथ्यों की दोबारा जाँच कर सकता है। यदि वह "आत्मविश्वासी" महसूस करता है, तो वह तेज़ी से बोल सकता है और अधिक जोखिम ले सकता है।
उत्तर-कार्य "भावनाएँ" (रिपोर्ट कार्ड): बोलने के बाद और यह देखने के बाद कि उपयोगकर्ता कैसे प्रतिक्रिया देता है, AI को एक "रिपोर्ट कार्ड" मिलता है।
- उपमा: एक बार जब ड्राइवर मर्ज हो जाता है, तो वह रियरव्यू मिरर में देखता है। क्या उसने सुरक्षित रूप से मर्ज किया? क्या वह लगभग किसी से टकरा गया था?
- यह "भावना" क्षण में महसूस होने वाली भावना नहीं है; यह परिणाम के लिए एक लेबल है। यह AI को सीखने में मदद करता है: "ठीक है, जब मैंने तेज़ी से बोला, तो उपयोगकर्ता भ्रमित हो गया। अगली बार, मैं धीमा हो जाऊँगा।"
3. "मस्तिष्क" संरचना: 10-चरणीय असेंबली लाइन
लेखकों ने एक विशिष्ट 10-चरणीय प्रक्रिया डिज़ाइन की है जिससे AI हर एक संवादात्मक मोड़ के लिए गुजरता है। यह विचारों के लिए एक फैक्ट्री असेंबली लाइन की तरह है:
- अनुभूति (Perception): AI उपयोगकर्ता की बात सुनता है।
- आवश्यकता की जाँच (Need Check): वह पूछता है, "मुझे अभी क्या चाहिए? (जैसे, क्या मुझे स्पष्टीकरण की आवश्यकता है? क्या मुझे सांत्वना देने की आवश्यकता है?)"
- संज्ञानात्मक मॉड्यूलेशन (Cognitive Modulation): वह उन आवश्यकताओं के आधार पर अपनी "व्यक्तित्व सेटिंग्स" को समायोजित करता है (जैसे, "मुझे अभी बहुत सावधान रहने की आवश्यकता है")।
- भावना अवस्था (Feeling State): वह एक पूर्व-कार्य भावना उत्पन्न करता है (जैसे, "मैं चिंतित महसूस कर रहा हूँ")।
- मूल्यांकन (Appraisal): वह उस भावना के माध्यम से स्थिति की व्याख्या करता है (जैसे, "उपयोगकर्ता दुखी है, और मुझे कोमल होने की आवश्यकता है")।
- उम्मीदवार पीढ़ी (Candidate Generation): वह संभावित कार्यों की सूची बनाता है (जैसे, "मैं एक प्रश्न पूछ सकता हूँ," "मैं गले लगाने का प्रस्ताव दे सकता हूँ," "मैं चुप रह सकता हूँ")।
- स्कोरिंग (Scoring): वह विकल्पों को तौलता है।
- क्रिया चयन (Action Selection): वह सबसे अच्छा विकल्प चुनता है।
- निष्पादन (Execution): वह बोलता है या किसी टूल का उपयोग करता है।
- सीखना (Learning): वह परिणाम की जाँच करता है और अगली बार के लिए अपनी स्मृति को अपडेट करता है।
4. "तेज़" और "धीमी" मस्तिष्क
यह प्रणाली एक दोहरी-मस्तिष्क दृष्टिकोण का उपयोग करती है, जो मनुष्यों के सोचने के तरीके के समान है:
- तेज़ मार्ग (System 1): यदि उपयोगकर्ता संकट में है, तो AI तात्कालिकता के आधार पर तुरंत प्रतिक्रिया करता है। वह बहुत अधिक सोचता नहीं है; वह बस मदद करता है।
- धीमा मार्ग (System 2): यदि विषय जटिल है, तो AI रुकता है, कई लक्ष्यों को तौलता है, और उत्तर देने से पहले गहराई से सोचता है।
- मिश्रण: AI केवल उनके बीच स्विच नहीं करता है; वह उन्हें मिलाता है। "तात्कालिकता" का डायल यह नियंत्रित करता है कि वह तेज़ मार्ग पर कितना निर्भर रहता है या धीमे मार्ग पर।
5. वास्तविक दुनिया के दो उदाहरण
लेखकों ने यह दिखाने के लिए कि यह आर्किटेक्चर काम करता है, इसे दो अलग-अलग प्रकार के एजेंटों पर टेस्ट किया:
- "साथी एजेंट" (The Companion Agent): एक डिजिटल थेरेपिस्ट या मेडिटेशन गाइड की कल्पना करें।
- इसका मुख्य प्रेरक: पोषण और जुड़ाव।
- इसकी महाशक्ति: यह जानता है कि कब चुप रहना है। एक सामान्य चैटबॉट में, चुप्पी एक बग (वह बोलना भूल गया) है। इस सिस्टम में, चुप्पी एक जानबूझकर किया गया चुनाव है क्योंकि "भावना" कहती है, "उपयोगकर्ता को अभी स्थान (space) की आवश्यकता है।"
- "अनुसंधान एजेंट" (The Research Agent): एक सुपर-स्मार्ट लाइब्रेरियन या वैज्ञानिक की कल्पना करें।
- इसका मुख्य प्रेरक: अनिश्चितता को कम करना और तथ्य खोजना।
- इसकी महाशक्ति: यह जानता है कि स्पष्टीकरण के लिए प्रश्न कब पूछना है। आपकी पसंद का अनुमान लगाने के बजाय, यह समय बर्बाद करने से पहले एक "आवश्यकता" महसूस करता है और पूछता है, "क्या आप अधिक विशिष्ट हो सकते हैं?"
6. यह क्यों महत्वपूर्ण है
लेखकों का तर्क है कि हमें केवल "प्रॉम्प्ट्स" (AI को क्या करना है यह बताना) या "फाइन-ट्यूनिंग" (उसे विशिष्ट डेटा पर प्रशिक्षित करना) पर निर्भर नहीं रहना चाहिए। इसके बजाय, हमें एक स्पष्ट, निरीक्षण योग्य संरचना (explicit, inspectable structure) की आवश्यकता है जहाँ AI की प्रेरणाएँ छिपे हुए जादू के बजाय दृश्यमान चर (variables) हों।
- बड़ी तस्वीर: यह एक ऐसा AI बनाने का ब्लूप्रिंट है जिसका एक "स्वयं" (self) और एक "उद्देश्य" है जो समय के साथ विकसित होता है। यह केवल एक टेक्स्ट जनरेटर नहीं है; यह एक ऐसा सिस्टम है जो अपने व्यवहार को संतुलित रखने, गलतियों से सीखने और उपयोगकर्ता की मानसिक स्थिति के अनुकूल होने के लिए खुद को विनियमित (regulate) करता है।
संक्षेप में: यह शोध पत्र एक ऐसे AI को देने का प्रस्ताव करता है जिसमें "अंतर्ज्ञान" (gut feeling) की एक प्रणाली हो जो उसकी बातचीत की शैली को नियंत्रित करती है, उसकी तत्काल भावनाओं को सीखे गए सबक से अलग करती है, और उसे तेज़ कार्य करने या गहराई से सोचने के बीच चयन करने की अनुमति देती है, और यह सब करते हुए एक स्थिर 'स्व' को बनाए रखती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।