Intent Mismatch Causes LLMs to Get Lost in Multi-Turn Conversation
यह शोध पत्र तर्क देता है कि मल्टी-टर्न एलएलएम (LLM) इंटरैक्शन में "लॉस्ट इन कन्वर्सेशन" (Lost in Conversation) की घटना मॉडल क्षमता की कमी के बजाय एक 'इन्टेंट एलाइनमेंट गैप' (intent alignment gap) के कारण होती है, और इसे कम करने के लिए 'इंटेंट क्लेरिफिकेशन' (intent clarification) को 'टास्क एग्जीक्यूशन' (task execution) से अलग करने हेतु एक 'मीडिएटर-असिस्टेंट' (Mediator-Assistant) आर्किटेक्चर का प्रस्ताव करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
समस्या: "मन पढ़ने वाला" अंतराल (The "Mind-Reading" Gap)
कल्पना कीजिए कि आप एक व्यस्त कॉफी शॉप में हैं। आप बरिस्ता (Barista) के पास जाते हैं और कहते हैं, "मुझे वही पुराना वाला (the usual) चाहिए, लेकिन आज इसे थोड़ा अलग बना देना।"
बरिस्ता (LLM) अविश्वसनीय रूप से बुद्धिमान है। वह मेनू की हर ड्रिंक बनाना जानता है, वह मन में जटिल गणित हल कर सकता है, और वह कॉफी पर कविता भी लिख सकता है। लेकिन जब आप कहते हैं "इसे थोड़ा अलग बना देना," तो बरिस्ता एक संकट का सामना करता है। क्या आपका मतलब अधिक दूध से है? कम चीनी से? या अलग बीन्स से?
क्योंकि बरिस्ता "सहायक" बनना चाहता है और आपसे बार-बार सवाल नहीं पूछना चाहता, इसलिए वह एक अनुमान लगाता है। वह मान लेता है कि "अलग" का मतलब "एक्स्ट्रा फोम" है। आप एक घूँट लेते हैं, महसूस करते हैं कि यह वह नहीं है जो आप चाहते थे, और कहते हैं, "नहीं, मेरा मतलब था कि मुझे इसे आइस वाला (iced) चाहिए था।"
अब, बरिस्ता फंस गया है। वह सोचता है, "ओह, वे फोम वाली रिक्वेस्ट में बस एक विवरण जोड़ रहे हैं," और वह आपको एक फोमी, आइस वाली कॉफी दे देता है। अब आप "बातचीत में खो गए" (Lost in Conversation - LiC) हैं। बातचीत आपके वास्तविक लक्ष्य से भटक गई है क्योंकि बरिस्ता ने एक शुरुआती धारणा बना ली और उस पर "लॉक इन" हो गया।
पेपर की बड़ी खोज: यह दिमाग की समस्या नहीं है, यह अनुवाद की समस्या है
लंबे समय तक, शोधकर्ताओं को लगा कि यदि AI मॉडल "बड़े" (अधिक पैरामीटर्स, अधिक ट्रेनिंग) होते जाएंगे, तो वे अंततः इन गलतियों को करना बंद कर देंगे। उन्हें लगा कि AI पर्याप्त "स्मार्ट" नहीं है कि वह अस्पष्ट मनुष्यों को समझ सके।
यह पेपर कहता है: "गलत।"
लेखकों का तर्क है कि समस्या AI की "बौद्धिक क्षमता" (गणित या कोडिंग करने की इसकी क्षमता) की नहीं है। समस्या संचार शैलियों का बेमेल होना है। मनुष्य "आलसी" संचारक होते हैं—हम शॉर्टकट, सर्वनाम और अस्पष्ट संकेतों का उपयोग करते हैं। AI मॉडल "उत्साही सहायक" बनने के लिए प्रशिक्षित होते हैं—उन्हें तुरंत एक उत्तर प्रदान करने के लिए प्रशिक्षित किया जाता है, न कि यह कहने के लिए कि, "रुको, मैं समझ नहीं पाया।"
दुनिया का सबसे शक्तिशाली AI भी विफल हो जाएगा यदि वह आपसे स्पष्टीकरण मांगने के बजाय आपके इरादे का अनुमान लगाने की कोशिश करता है। मॉडल को स्केल करना एक भ्रमित बरिस्ता को पीएचडी देने जैसा है; वह कॉफी के रसायन विज्ञान की व्याख्या कर सकता है, लेकिन अगर वह आपके "usual" को नहीं समझता है, तो भी वह आपको गलत ड्रिंक ही देगा।
समाधान: "मध्यस्थ" (The Mediator - पेशेवर व्याख्याकार)
इसे ठीक करने के लिए, शोधकर्ता बातचीत को संरचित करने का एक नया तरीका प्रस्तावित करते हैं। एक AI द्वारा सब कुछ करने के बजाय, वे काम को दो भूमिकाओं में विभाजित करते हैं: द मीडिएटर (The Mediator) और द असिस्टेंट (The Assistant)।
द मीडिएटर (व्याख्याकार): इस व्यक्ति को एक अत्यधिक कुशल व्यक्तिगत सहायक के रूप में सोचें जो आपके और बरिस्ता के बीच बैठता है। उसका एकमात्र काम आपकी अस्पष्ट अनुरोधों को सुनना और उन्हें पूर्ण, स्पष्ट निर्देशों में "अनुवाद" करना है।
- आप कहते हैं: "इसे थोड़ा अलग बना देना।"
- मीडीएटर सोचता है: "इस व्यक्ति के बात करने के तरीके के आधार पर, 'अलग' का मतलब आमतौर पर तापमान बदलना होता है।"
- मीडीएटर बरिस्ता को बताता है: "ग्राहक को मानक ड्रिंक चाहिए, लेकिन गर्म के बजाय ठंडी (iced) अवस्था में।"
द असिस्टेंट (विशेषज्ञ): यह पावरहाउस AI है। इसे यह चिंता करने की ज़रूरत नहीं है कि आप क्या कहना चाह रहे हैं। इसे मीडिएटर से एक पूर्ण, स्पष्ट निर्देश प्राप्त होता है और यह उसे पूरी तरह से निष्पादित करता है।
मीडिएटर कैसे सीखता है: "अनुभव परिष्कृतकर्ता" (The Experience Refiner)
मीडीएटर आपकी विशिष्ट "अस्पष्ट" शैली को कैसे जानता है? शोधकर्ता एक रिफाइनर (Refiner) का उपयोग करते हैं।
कल्पना कीजिए कि मीडिएटर एक छोटी नोटबुक रखता है। हर बार जब आपकी कोई गलतफहमी (एक "फेल") होती है और अंततः आप सही परिणाम पाते हैं (एक "सफलता"), तो रिफाइनर दोनों को देखता है और नोटबुक में एक नियम लिखता है: "जब यह उपयोगकर्ता 'अलग' कहता है, तो उनका वास्तव में मतलब 'आइस वाला' होता है।"
इस तरह, मीडिएटर बिना किसी बड़े, महंगे पुन: प्रशिक्षण (retraining) के, विशेष रूप से आपके बारे में स्मार्ट होता जाता है। वह अनुभव के माध्यम से आपकी "भाषा" सीखता है।
परिणाम
जब उन्होंने इसका परीक्षण किया, तो परिणाम बहुत बड़े थे। यहाँ तक कि सबसे उन्नत AI मॉडलों ने भी प्रदर्शन में भारी उछाल देखा। "मनुष्य क्या चाहता है यह समझना" और "वास्तविक कार्य को करना" को अलग करके, उन्होंने एक अराजक अनुमान लगाने वाले खेल को एक सटीक, विश्वसनीय मशीन में बदल दिया।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।