← नवीनतम पेपर
💬 प्राकृतिक भाषा प्रसंस्करण

Stop Training Against Soft Users: Mentalized Adversarial Self-Play for Proactive Dialogue

यह शोध पत्र MASP को प्रस्तुत करता है, जो एक मेंटलाइज़्ड एडवर्सरियल सेल्फ-प्ले (Mentalized Adversarial Self-Play) ढांचा है जो प्रोएक्टिव संवाद को BDI-आधारित मानसिक अवस्था वाले एक तर्कसंगत रूप से प्रतिरोध करने वाले उपयोगकर्ता के विरुद्ध एक आंशिक रूप से अवलोकन योग्य खेल के रूप में मॉडल करता है, जिससे एजेंटों को कठिन, गैर-अनुपालन वाले उपयोगकर्ताओं के विरुद्ध भी मजबूत कार्य सफलता और दक्षता प्राप्त करने के लिए प्रशिक्षित किया जाता है।

मूल लेखक: Zanwu Liu, Dan Zhang, Xiaodi Wang, Yongbo Mao, Xiaoyang Guo, Yonglin Wu, Peiyue Jiang, Yangyang Wei, Zecheng Lin

प्रकाशित 2026-10-16✓ Author reviewed ⓘ
📖 9 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Zanwu Liu, Dan Zhang, Xiaodi Wang, Yongbo Mao, Xiaoyang Guo, Yonglin Wu, Peiyue Jiang, Yangyang Wei, Zecheng Lin

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने नहीं लिखा है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

आर्टिफिशियल इंटेलिजेंस की दुनिया में, एक ऐसे चैटबॉट और जो केवल आपकी बातों का उत्तर देता है और एक ऐसे चैटबॉट के बीच एक स्पष्ट अंतर है जो सक्रिय रूप से किसी विशिष्ट लक्ष्य की ओर बातचीत का मार्गदर्शन करता है, के बीच एक भिन्नता है। यह दूसरा प्रकार, जिसे 'प्रोएक्टिव डायलॉग' (सक्रिय संवाद) के रूप में जाना जाता है, उन डिजिटल सहायकों के पीछे का इंजन है जो आपको दान करने के लिए मनाने, संकट के समय आपको शांत करने में मदद करने, या किसी पुरानी वस्तु की कीमत के लिए बातचीत करने का प्रयास करते हैं। इन प्रणालियों के काम करने के लिए, उन्हें केवल प्रवाहपूर्ण वाक्य बनाने से कहीं अधिक करना होगा; उन्हें यह अनुमान लगाना होगा कि उनके शब्द एक लंबी बातचीत के दौरान आपके विचारों, आपकी भावनाओं और आपके इरादों को कैसे बदलेंगे। चुनौती हमेशा यह रही है कि सबसे उन्नत एआई मॉडल अक्सर एक शून्य (वैक्यूम) में प्रशिक्षित होते हैं, जहाँ वे उन कंप्यूटर प्रोग्रामों के विरुद्ध अपने कौशल का अभ्यास करते हैं जो बहुत अधिक प्रसन्न करने के लिए उत्सुक होते हैं। ये प्रोग्राम, या सिम्युलेटर, अत्यधिक आज्ञाकारी छात्रों की तरह कार्य करते हैं जो हर बात से सहमत हो जाते हैं, जिससे एआई को उच्च अंक प्राप्त करने का मौका मिलता है, लेकिन वह कभी भी उस वास्तविक व्यक्ति से निपटने का तरीका नहीं सीख पाता जो संशयवादी, प्रतिरोधी, या बस अपना मन बदलने वाला हो सकता है।

डोंगचेज़ू टेक्नोलॉजी और बेइहांग यूनिवर्सिटी के शोधकर्ताओं की एक टीम ने इस दोष को ठीक करने के लिए डिज़ाइन की गई एक नई प्रशिक्षण पद्धति पेश की है। वे अपने दृष्टिकोण को MASP कहते हैं, जिसका अर्थ है 'मेंटलाइज्ड एडवर्सरियल सेल्फ-प्ले' (मानसिकता आधारित प्रतिस्पर्धी आत्म-खेल)। एआई को एक नरम, आसान लक्ष्य पर अभ्यास करने देने के बजाय, शोधकर्ताओं ने एक ऐसा प्रशिक्षण मैदान तैयार किया है जहाँ एआई एक डिजिटल प्रतिद्वंद्वी के खिलाफ खेलता है जिसे तर्कसंगत लेकिन कठिन होने के लिए डिज़ाइन किया गया है। इस सेटअप में, एआई को उपयोगकर्ता की छिपी हुई मानसिक स्थिति को पढ़ना सीखना होगा—कि वे क्या मानते हैं, वे क्या चाहते हैं, और उनका इरादा क्या है—और उसके अनुसार अपनी रणनीति को समायोजित करना होगा। प्रणाली को न केवल जीतने के लिए पुरस्कृत किया जाता है, बल्कि उपयोगकर्ता को अच्छी तरह से समझने के लिए भी पुरस्कृत किया जाता है ताकि तब भी प्रगति की जा सके जब उपयोगकर्ता विरोध कर रहा हो। यह विधि एआई को एक अनुपालन करने वाली स्क्रिप्ट के विरुद्ध जीतने का तरीका रटने के बजाय, जटिल मानवीय अंतःक्रियाओं को नेविगेट करने की एक मजबूत क्षमता विकसित करने के लिए मजबूर करती है।

इस कार्य के पीछे मूल विचार यह है कि एक एआई संवाद का मार्गदर्शन करना नहीं सीख सकता यदि वह कभी वास्तविक प्रतिरोध का सामना नहीं करता। पिछले तरीकों में, एआई एक निश्चित उपयोगकर्ता मॉडल के विरुद्ध प्रशिक्षित होता था जो या तो स्थिर था या हेरफेर करने के लिए बहुत आसान था। शोधकर्ताओं ने पाया कि इससे "सॉफ्ट यूजर" (कोमल उपयोगकर्ता) की समस्या पैदा हुई, जहाँ एआई परीक्षणों में सफल दिखाई देता था लेकिन एक वास्तविक व्यक्ति के सामने विफल हो जाता था जिसके अपने विकसित होते विचार थे। इसे हल करने के लिए, शोधकर्ताओं ने एक प्रशिक्षण लूप बनाया जहाँ एआई और एक उपयोगकर्ता सिम्युलेटर एक निरंतर खेल में एक-दूसरे के विरुद्ध खेलते हैं। उपयोगकर्ता सिमulator केवल एक यादृच्छिक अवरोधक नहीं है; इसे एक तर्कसंगत तरीके से एआई के सुझावों का विरोध करने के लिए प्रशिक्षित किया गया है। यदि एआई एक अच्छा तर्क देता है, तो उपयोगकर्ता सहमत हो सकता है। यदि एआई एक कमजोर तर्क देता है, तो उपयोगकर्ता विरोध करेगा। यह गतिशीलता एआई को भाग्यशाली मौकों या अत्यधिक सरल युक्तियों पर निर्भर रहने के बजाय, कदम-दर-कदम एक ठोस मामला बनाने के लिए मजबूर करती है।

इस प्रणाली का एक महत्वपूर्ण हिस्सा यह है कि यह उपयोगकर्ता की आंतरिक स्थिति को कैसे ट्रैक करती है। शोधकर्ता विश्वासों, इच्छाओं और इरादों पर आधारित एक ढांचे का उपयोग करते हैं। एक छिपे हुए मानचित्र की कल्पना करें जिसे एआई पढ़ने की कोशिश करता है, जो दिखाता है कि उपयोगकर्ता वर्तमान में क्या सोचता है, वह क्या हासिल करने की आशा करता है, और वह आगे क्या करने की योजना बनाता है। एआई इस मानचित्र को सीधे नहीं देखता है; वह केवल उपयोगकर्ता द्वारा कहे गए शब्दों को देखता है और बातचीत से मानचित्र का अनुमान लगाता है। यह सुनिश्चित करने के लिए कि एआई सही ढंग से अनुमान लगाना सीखे, प्रशिक्षण सेटअप एक "शिक्षक" और एक "छात्र" दृष्टिकोण का उपयोग करता है। एक फ्रोजन (स्थिर) शिक्षक मॉडल, जिसे बड़ी मात्रा में डेटा पर पूर्व-प्रशिक्षित किया गया है, उपयोगकर्ता की वास्तविक छिपी हुई स्थिति को जानता है। एआई, छात्र के रूप में कार्य करते हुए, उस स्थिति के केवल एक अनुमान को देखता है। एआई को लक्ष्य की ओर प्रगति करने के लिए पुरस्कृत किया जाता है और साथ ही तब दंडित किया जाता है जब उपयोगकर्ता के मन का उसका अनुमान गलत होता है। यह सुनिश्चित करता है कि एआई केवल उन शब्दों को नहीं, बल्कि उस व्यक्ति को समझने के लिए सीखता है जिससे वह बात कर रहा है।

शोधकर्ताओं ने दान करने के लिए मनाने, भावनात्मक सहायता प्रदान करने, सहानुभूति दिखाने और कीमतों के लिए बातचीत करने सहित कई अलग-अलग प्रकार की बातचीत में इस पद्धति का परीक्षण किया। उन्होंने अपने नए तरीके की तुलना दो अन्य सामान्य दृष्टिकोणों से की: एक जहाँ एआई को बिना किसी विशेष रणनीति के मानव बातचीत पर प्रशिक्षित किया जाता है, और दूसरा जहाँ एआई एक प्लानर का उपयोग करता है लेकिन फिर भी एक आसान उपयोगकर्ता के विरुद्ध प्रशिक्षित होता है। परिणामों ने दिखाया कि नया तरीका लगातार अन्य तरीकों से बेहतर प्रदर्शन करता है। अनुनय (persuasion) परीक्षणों में, एआई ने आसान उपयोगकर्ताओं के विरुद्ध लगभग 86 प्रतिशत और कठिन उपयोगकर्ताओं के विरुद्ध 79 प्रतिशत की सफलता दर हासिल की, जबकि अन्य तरीके कठिन उपयोगकर्ताओं के साथ काफी संघर्ष करते रहे। नया तरीका लक्ष्य तक पहुँचने के लिए आवश्यक चरणों की संख्या को भी कम करता है, जिसका अर्थ है कि बातचीत अधिक कुशल थी। शायद सबसे महत्वपूर्ण बात यह है कि इस पद्धति से प्रशिक्षित एआई एक तर्कसंगत बातचीत बनाए रखने में बेहतर था, जिससे ऐसी स्थितियाँ टल गईं जहाँ वह उपयोगकर्ता को भ्रमित या परेशान करके जीत हासिल करता।

अध्ययन ने यह भी देखा कि जब उपयोगकर्ता विशेष रूप से जिद्दी था तो एआई ने कैसा प्रदर्शन किया। इन कठिन परिदृश्यों में, नए तरीके ने उच्च सफलता दर बनाए रखी, जबकि अन्य तरीकों के प्रदर्शन में भारी गिरावट आई। यह सुझाव देता है कि एआई ने एक अधिक लचीली और लचीली रणनीति सीखी। इसने केवल एक विशिष्ट प्रकार के उपयोगकर्ता के विरुद्ध जीतना नहीं सीखा; इसने मानवीय व्यवहारों की एक विस्तृत श्रृंखला के अनुकूल होना सीखा। शोधकर्ताओं ने नोट किया कि एआई की सफलता केवल तेज़ या आक्रामक होने के बारे में नहीं थी, बल्कि कमरे के माहौल को पढ़ने और उपयोगकर्ता की बदलती मानसिक स्थिति के आधार पर अपने दृष्टिकोण को समायोजित करने के बारे में थी। जब उपयोगकर्ता प्रतिरोधी था, तो एआई रुक जाता था और अधिक जानकारी एकत्र करता था। जब उपयोगकर्ता खुलेपन के संकेत दिखाता था, तो एआई अपनी चाल चलता था।

एक प्रमुख निष्कर्ष यह था कि एआई की सफलता उसकी उपयोगकर्ता की तर्कसंगता को समझने की क्षमता से जुड़ी थी। शोधकर्ताओं ने सफलता को मापने का एक नया तरीका पेश किया जो केवल तभी जीत गिनता था जब उपयोगकर्ता किसी तार्किक कारण से सहमत होता था, न कि केवल दबाव के कारण हार मान लेता था। इस सख्त मानदंड के तहत भी, नया तरीका विकल्पों की तुलना में बेहतर प्रदर्शन करता है। यह इंगित करता है कि एआई केवल उपयोगकर्ता को सहमत होने के लिए धोखा नहीं दे रहा था; वह वास्तव में उन्हें एक ऐसे निष्कर्ष की ओर ले जा रहा था जो उनके लिए समझ में आता था। प्रशिक्षण प्रक्रिया, जिसमें हजारों सिम्युलेटेड बातचीत शामिल थीं जहाँ एआई और उपयोगकर्ता एक-दूसरे के विरुद्ध खेलते थे, ने सिस्टम को समय के साथ अपनी रणनीति को परिष्कृत करने की अनुमति दी। एआई ने सीखा कि जीतने का सबसे अच्छा तरीका विश्वास बनाना और अपने सुझावों के लिए स्पष्ट, ईमानत कारण प्रदान करना है।

शोधकर्ताओं ने विस्तार से विश्लेषण भी किया कि सिस्टम कहाँ विफल हुआ। जिन मामलों में एआई सफल नहीं हुआ, वह अक्सर इसलिए था क्योंकि उपयोगकर्ता के पास एक मजबूत वित्तीय बाधा या विश्वास की गहरी कमी थी जिसे एआई सीमित चरणों में दूर नहीं कर सका। ये विफलताएं एआई के भ्रमित या आक्रामक होने के कारण नहीं थीं, बल्कि इसलिए थीं क्योंकि उपयोगकर्ता की आंतरिक स्थिति दिए गए समय सीमा के भीतर परिवर्तन के लिए बहुत प्रतिरोधी थी। इस विश्लेषण ने शोधकर्ताओं को सिस्टम की सीमाओं को समझने में मदद की और पुष्टि की कि एआई विफलता में भी तर्कसंगत व्यवहार कर रहा था। इसने दान के लिए पूछना जारी नहीं रखा जब उपयोगकर्ता ने स्पष्ट रूप से मना कर दिया था; इसके बजाय, इसने गतिरोध को पहचाना और रुक गया।

यह कार्य एआई एजेंटों को अधिक प्राकृतिक और प्रभावी तरीके से मनुष्यों के साथ बातचीत करने में सक्षम बनाने की दिशा में एक महत्वपूर्ण कदम है। एक तर्कसंगत लेकिन कठिन प्रतिद्वंद्वी के विरुद्ध एआई को प्रशिक्षित करके, शोधकर्ताओं ने एक ऐसी प्रणाली बनाई है जो वास्तविक मानवीय बातचीत की जटिलताओं के लिए बेहतर रूप से तैयार है। यह पद्धति जादू या जटिल युक्तियों पर निर्भर नहीं है; यह इस सरल लेकिन शक्तिशाली विचार पर निर्भर करती है कि समझाने का तरीका सीखने के लिए, आपको पहले सुनना और समझना सीखना होगा। परिणाम बताते हैं कि इस दृष्टिकोण को कई अन्य क्षेत्रों में लागू किया जा सकता है जहाँ एआई को मानव व्यवहार को निर्देशित करने की आवश्यकता होती है, जैसे मानसिक स्वास्थ्य सहायता से लेकर ग्राहक सेवा तक। अध्ययन इस निष्कर्ष पर पहुँचता है कि एआई को वास्तविक दुनिया में वास्तव में सफल होने के लिए, उपयोगकर्ता को प्रशिक्षण प्रक्रिया में एक सक्रिय, तर्कसंगत भागीदार के रूप में मानना आवश्यक है।

शोधकर्ता सावधानीपूर्वक नोट करते हैं कि उनकी प्रणाली अभी भी एक सिमुलेशन है और अभी तक वास्तविक लोगों के साथ लाइव सेटिंग में परीक्षण नहीं की गई है। वर्णित सफलता दर और व्यवहार कंप्यूटर प्रोग्रामों के बीच होने वाली अंतःक्रियाओं पर आधारित हैं। हालाँकि, विभिन्न प्रकार की बातचीत में परिणामों की निरंतरता और कठिन उपयोगकर्ताओं के विरुद्ध प्रणाली की मजबूती इस बात का पुख्ता प्रमाण देती है कि यह पद्धति काम करती है। टीम सिस्टम को और अधिक परिष्कृत करने और अंततः इसे वास्तविक उपयोगकर्ताओं के साथ परीक्षण करने की योजना बना रही है ताकि यह देखा जा सके कि यह सिमुलेशन के नियंत्रित वातावरण के बाहर कैसा प्रदर्शन करता है। फिलहाल, अध्ययन हमें मशीनों को हमसे बात करना सिखाने के लिए एक नया और सम्मोहक दिशा प्रदान करता है, जो सरल पैटर्न मिलान से हटकर मानव विचार की गहरी, रणनीतिक समझ की ओर बढ़ता है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →