Knowledge-Graph-Gated Defactualization for Style-Controllable and Fact-Preserving Generation in Agentic Conversational AI
यह शोध पत्र डिफैक्चुअलाइज-स्टीयर-रीहाइड्रेट (DSR) प्रस्तुत करता है, जो एक फाइन-ट्यूनिंग-मुक्त ढांचा है जो एक्टिवेशन स्टीयरिंग को सैलिएंस-वेटेड नॉलेज ग्राफ के साथ जोड़ता है ताकि एंटिटी एक्सट्रैक्शन, प्लेसहोल्डर सब्स्टिट्यूशन और डिटर्मिनिस्टिक रीहाइड्रेशन के माध्यम से तथ्यात्मक सटीकता को व्यवस्थित रूप से संरक्षित करते हुए एजेंटिक LLMs में स्टाइल-कंट्रोलेबल जनरेशन को सक्षम बनाया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की दुनिया में, लार्ज लैंग्वेज मॉडल्स (LLMs) बातचीत के शक्तिशाली उपकरण बन गए हैं, जो ईमेल लिखने, सवालों के जवाब देने और सलाह देने में सक्षम हैं। हालाँकि, जब इन प्रणालियों को ग्राहक सहायता (कस्टमर सपोर्ट) जैसे वास्तविक परिवेश में तैनात किया जाता है, तो उन्हें एक कठिन संतुलन बनाए रखना पड़ता है। उन्हें एक विशिष्ट लहजा अपनाना होता है, जैसे कि एक परेशान कॉल करने वाले के प्रति सहानुभूति रखना या किसी गंभीर शिकायत के दौरान औपचारिक होना, जबकि साथ ही उन्हें सटीक, सत्यापन योग्य तथ्यों जैसे कि ऑर्डर नंबर, उत्पाद के नाम और ग्राहकों की पहचान को थामे रखना होता है। यदि मॉडल वांछित लहजे में बहुत अधिक खो जाता है, तो वह अनजाने में तथ्यों को बदल सकता है, जिसे शोधकर्ता 'सिमेंटिक लीकेज' (semantic leakage) कहते हैं। उदाहरण के लिए, एक मॉडल जो बहुत सहानुभूतिपूर्ण दिखने की कोशिश कर रहा है, वह अनजाने में ग्राहक के ऑर्डर नंबर को किसी दूसरे नंबर से बदल सकता है, या किसी ऐसे उत्पाद का आविष्कार कर सकता है जिसका उल्लेख कभी नहीं किया गया था। यह एक ऐसा जोखिम पैदा करता है जहाँ AI मददगार तो लगता है लेकिन गलत जानकारी प्रदान करता है। इस समस्या को हल करने के लिए, वैज्ञानिकों ने मॉडल को पुन: प्रशिक्षित (retraining) किए बिना उसके व्यवहार को निर्देशित करने के तरीके विकसित किए हैं, जो अनिवार्य रूप से उसकी आंतरिक विचार प्रक्रिया को एक विशिष्ट शैली की ओर धकेलते हैं। फिर भी, ये 'नज' (nudges) अक्सर शैली और सार के बीच की रेखा को धुंधला कर देते हैं, जिससे तथ्यों को शुद्ध रखते हुए मूड बदलना कठिन हो जाता है।
भारतीय प्रौद्योगिकी संस्थान भिलाई के शोधकर्ताओं की एक टीम ने एक नया ढांचा पेश किया है जिसे 'डीफैक्चरलाइज-स्टीयर-रीहाइड्रेट' (Defactualize-Steer-Rehydrate) या DSR कहा जाता है, जो इस समस्या को केवल गणितीय समायोजन के बजाय सूचना प्रबंधन के एक सावधानीपूर्ण मामले के रूप में देखता है। मॉडल को पूर्ण बनाने के सिखाने के बजाय, यह प्रणाली एक द्वारपाल (gatekeeper) के रूप में कार्य करती है जो बोलने से पहले ही तथ्यों को भावनाओं से अलग कर देती है। यह प्रक्रिया ग्राहक के संदेश का विश्लेषण करके और नाम तथा ऑर्डर विवरण जैसे महत्वपूर्ण सूचनाओं को एक संरचित सूची में निकालकर शुरू होती है। इसके बाद सिस्टम इन विशिष्ट तथ्यों को जेनेरिक प्लेसहोल्डर्स (generic placeholders), जैसे कि "ग्राहक का नाम" या "ऑर्डर आईडी", से बदल देता है, जिससे प्रभावी रूप से मूल डेटा को टेक्स्ट से हटा दिया जाता है। इस साफ-सुथरे संस्करण को फिर आर्टिफिशियल इंटेलिजेंस को दिया जाता है, जिसे एक विशिष्ट शैली में प्रतिक्रिया उत्पन्न करने का निर्देश दिया जाता है, जैसे कि गर्मजोशी और समझदारी भरा या ठंडा और पेशेवर। चूंकि वास्तविक तथ्य हटा दिए गए हैं, इसलिए मॉडल गलती से उन्हें बदल नहीं सकता; वह केवल लहजे और बातचीत के प्रवाह पर ध्यान केंद्रित कर सकता है।
एक बार जब मॉडल अपनी प्रतिक्रिया उत्पन्न कर लेता है, तो सिस्टम अंतिम और महत्वपूर्ण चरण: 'रीहाइड्रेशन' (rehydration) करता है। यह मूल सूची की ओर वापस देखता है जिससे उसने तथ्य निकाले थे और नियत रूप से (deterministically) उन जेनेरिक प्लेसहोल्डर्स को ग्राहक के संदेश से प्राप्त सटीक, सत्यापित मूल्यों के साथ बदल देता है। इसका अर्थ यह है कि अंतिम आउटपुट में वांछित भावनात्मक लहजा होता है लेकिन इसमें ग्राहक द्वारा दिए गए सटीक तथ्य होते हैं, जिसमें मॉडल के भ्रमित होने (hallucinate) या उन्हें बदलने की कोई गुंजाइश नहीं रहती। शोधकर्ताओं ने इस दृष्टिकोण का परीक्षण एक लोकप्रिय AI मॉडल परिवार के छह विभिन्न संस्करणों पर किया, जो छोटे से लेकर बड़े आकार तक विस्तृत थे, जिसमें छह सौ सिम्युलेटेड ग्राहक सहायता मामले शामिल थे। उन्होंने पाया कि यह विधि केवल स्टाइल-स्टीयरिंग (style-steering) का उपयोग करने की तुलना में अंतिम प्रतिक्रिया में सही तथ्यों को संरक्षित करने की दर में काफी सुधार करती है। हालांकि सुधार सांख्यिकीय रूप से स्पष्ट था, लेकिन रिकवर किए गए तथ्यों की पूर्ण संख्या अभी भी मामूली थी, जो सुझाव देती है कि यह प्रणाली मदद तो करती है लेकिन अभी तक हर एक मामले में पूर्ण सटीकता की गारंटी नहीं देती है। महत्वपूर्ण रूप से, अध्ययन ने दिखाया कि इस प्रक्रिया ने शैली की गुणवत्ता को कम नहीं किया; प्रतिक्रियाएं उतनी ही सहानुभूतिपूर्ण या औपचारिक रहीं जितनी कि इरादा था, जो यह सिद्ध करता है कि दोनों लक्ष्यों को एक-दूसरे को बिगाड़े बिना स्वतंत्र रूप से पूरा किया जा सकता है।
शोध से यह भी पता चला कि इस पद्धति की सफलता AI मॉडल के आकार पर बहुत अधिक निर्भर नहीं करती है। चाहे सिस्टम ने एक बिलियन पैरामीटर्स वाला छोटा मॉडल इस्तेमाल किया हो या तेरह बिलियन वाला बड़ा मॉडल, तथ्यों को सुरक्षित रखने की क्षमता सुसंगत रही, और शैली नियंत्रण सभी स्तरों पर समान रूप से काम करता रहा। यह सुझाव देता है कि इसका मूल्य मॉडल की कच्ची शक्ति से नहीं, बल्कि सूचना को अलग करने और पुनर्संयोजित करने की संरचित प्रक्रिया से आता है। टीम ने यह भी पाया कि सिस्टम त्रुटियों के प्रति मजबूत (robust) है; एक हजार से अधिक उत्पन्न प्रतिक्रियाओं में, तंत्र कभी भी तथ्यों को बहाल करने में विफल नहीं हुआ, और इसने अंतिम टेक्स्ट में कभी भी कोई प्लेसहोल्डर टोकन दृश्यमान नहीं छोड़ा। यह विश्वसनीयता दर्शाती है कि यह विधि व्यावहारिक उपयोग के लिए पर्याप्त स्थिर है, भले ही यह मॉडल द्वारा की जाने वाली हर संभावित त्रुटि को हल न करे।
इस अध्ययन के सबसे दिलचस्प निष्कर्षों में से एक इस बात से संबंधित है कि कैसे सिस्टम एक विशिष्ट शैली के लिए कितना जोर देता है और कितनी बार गलतियाँ करता है। शोधकर्ताओं ने देखा कि कुछ मॉडलों के लिए, शैली संबंधी निर्देश की शक्ति बढ़ाने से त्रुटियों में लगातार वृद्धि नहीं हुई। इसके बजाय, एक विशिष्ट रेंज थी जहाँ सिस्टम तथ्यों पर अपनी पकड़ को तुरंत कुर्बान किए बिना अपने लहजे में अधिक अभिव्यंजक हो सकता था। यह खोज एक पहले से अज्ञात ऑपरेटिंग ज़ोन की ओर इशारा करती है जहाँ शैली और सटीकता पहले की तुलना में अधिक सहजता से सह-अस्तित्व में रह सकते हैं। इन अंतःक्रियाओं को मैप करके, शोधकर्ताओं ने इन प्रणालियों को वास्तविक दुनिया के उपयोग के लिए ट्यून करने का एक स्पष्ट चित्र प्रदान किया है।
यह कार्य प्रदर्शित करता है कि हमें इन मॉडलों को अधिक विश्वसनीय बनाने के लिए विशाल AI मॉडल्स को मौलिक रूप से पुन: प्रशिक्षित करने की आवश्यकता नहीं है। इसके बजाय, एक संरचित ज्ञान इंजीनियरिंग (knowledge engineering) की परत जोड़कर जो एक फिल्टर और एक रिस्टोरर के रूप में कार्य करती है, हम इन प्रणालियों को विनम्र और सटीक दोनों होने के लिए निर्देशित कर सकते हैं। यह दृष्टिकोण एक सरल लेकिन शक्तिशाली विचार पर आधारित है: यदि आप सोचने से पहले तथ्यों को भावनाओं से अलग कर देते हैं, तो आप तथ्यों को खोए बिना भावनाओं को नियंत्रित कर सकते हैं। यह तरीका ऐसे AI सहायकों के निर्माण की दिशा में एक मार्ग प्रदान करता है जो न केवल मानवीय भावनाओं को समझने में सक्षम हैं, बल्कि हमारे दैनिक जीवन के महत्वपूर्ण विवरणों को संभालने के लिए भरोसेमंद भी हैं। शोधकर्ताओं ने अपना कोड और डेटा सार्वजनिक रूप से उपलब्ध करा दिया है, जिससे अन्य लोग इन परिणामों को सत्यापित कर सकें और सोचने के इस नए तरीके पर आगे बढ़ सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।