Conversational Control with Ontologies for Large Language Models: A Lightweight Framework for Constrained Generation
यह शोध पत्र एक हल्का, मॉडल-अज्ञेय (model-agnostic) ढांचा प्रस्तावित करता है जो विशिष्ट संवादात्मक लक्ष्यों जैसे कि दक्षता स्तर और ध्रुवीयता (polarity) के लिए मॉड्यूलर, व्याख्यात्मक और बेहतर नियंत्रण प्राप्त करने हेतु ऑन्टोलॉजिकल परिभाषाओं को बाधाओं के रूप में और एक हाइब्रिड फाइन-ट्यूनिंग प्रक्रिया का उपयोग करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक अविश्वसनीय रूप से प्रतिभाशाली, सर्वज्ञ रोबोट शेफ (लार्ज लैंग्वेज मॉडल, या LLM) है। यह शेफ कुछ भी शून्य से बना सकता है। हालाँकि, क्योंकि यह शेफ बहुत बुद्धिमान है और इसने दुनिया की हर रेसिपी चखी है, इसलिए कभी-कभी यह बहुत अधिक रचनात्मक हो जाता है। आप इससे एक साधारण ग्रिल्ड चीज़ सैंडविच मांग सकते हैं, लेकिन यह आपको ट्रफल ऑयल के साथ 12-कोर्स का गोर्मे मील परोस सकता है, या इससे भी बुरा, यह गलती से आपको तीखा भोजन परोस सकता है जब आपने हल्का स्वाद मांगा था।
समस्या यह है कि यह "ब्लैक बॉक्स" शेफ हमेशा आपकी विशिष्ट निर्देशों को नहीं सुनता कि उसे कैसे खाना बनाना चाहिए।
यह पेपर एक समाधान प्रस्तावित करता है: एक "रेसिपी बुक" (ऑन्टोलॉजी) और एक "किचन मैनेजर" (द फ्रेमवर्क) जो इस रोबोट शेफ को हर बार ठीक वैसा ही खाना बनाने में मदद करेगा जैसा आप चाहते हैं।
यहाँ उनके विचार का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:
1. समस्या: "ब्लैक बॉक्स" शेफ
वर्तमान AI चैटबॉट्स उसी प्रतिभाशाली रोबोट शेफ की तरह हैं। वे बात करने में अद्भुत हैं, लेकिन अप्रत्याशित हैं।
- समस्या: यदि आप चाहते हैं कि AI एक पांचवीं कक्षा के छात्र की तरह बात करे, तो यह गलती से बड़े शब्दों का उपयोग कर सकता है। यदि आप चाहते हैं कि यह विनम्र रहे, तो यह गुस्सा हो सकता है। क्योंकि AI एक "ब्लका बॉक्स" है, हम वास्तव में यह नहीं जानते कि इसने उन शब्दों को क्यों चुना, जिससे इसे नियंत्रित करना कठिन हो जाता है।
2. समाधान: "ऑन्टोलॉजी" (नियमों की किताब)
लेखकों ने एक विशेष नियम पुस्तिका (जिसे ऑन्टोलॉजी कहा जाता है) बनाई है। इसे केवल एक शब्दकोश के रूप में न देखें, बल्कि बातचीत के लिए सख्त यातायात नियमों के एक सेट के रूप में देखें।
- डिस्क्रिप्टर्स (संकेत): नियम पुस्तिका AI द्वारा कही जाने वाली विशिष्ट "संकेतों" या श्रेणियों को परिभाषित करती है। उदाहरण के लिए, इसमें "सरल अंग्रेजी" बनाम "जटिल अंग्रेजी," या "खुश मिजाज" बनाम "दुखी मिजाज" के संकेत हैं।
- रणनीति (ट्रैफिक पुलिस): नियम पुस्तिका AI को यह भी बताती है कि कैसे गाड़ी चलानी है। उदाहरण के लिए: "यदि उपयोगकर्ता सरल अंग्रेजी में बोलता है, तो आपको सरल अंग्रेजी में उत्तर देना चाहिए। यदि उपयोगकर्ता क्रोधित होता है, तो आपको शांत और तटस्थ रहना चाहिए।"
3. जादुई ट्रिक: "लेबल रैपिंग" (शेफ को सिखाना)
आप रोबोट शेफ को इस नियम पुस्तिका का पालन करना कैसे सिखाते हैं? आप उसे केवल बताते नहीं हैं; आप उसे दिखाते हैं।
- विधि: लेखकों ने बातचीत के हजारों उदाहरण लिए और उन्हें टैग्स में "लपेटा" (wrap किया), जैसे किसी पैकेज पर स्टिकर लगाना।
- उदाहरण:
[Simple English] यहाँ एक सैंडविच है। [/Simple English]
- उदाहरण:
- प्रशिक्षण: उन्होंने इन "स्टिकर वाले" उदाहरणों को AI को खिलाया। उन्होंने एक हल्के प्रशिक्षण तरीके (जैसे एक त्वरित, कुशल रिफ्रेशर कोर्स जिसे LoRA कहा जाता है) का उपयोग किया ताकि AI स्टिकर को पहचान सके और उनसे मेल खाने वाला टेक्स्ट तैयार कर सके।
- परिणाम: AI ने केवल शब्दों को याद नहीं किया; इसने स्टिकर की अवधारणा (concept) को सीखा। अब, जब आप इसे एक नया प्रॉम्प्ट स्टिकर के साथ देते हैं, तो यह जानता है कि किस शैली का उपयोग करना है।
4. दो वास्तविक दुनिया के परीक्षण (मेन्यू)
अपने सिस्टम को सिद्ध करने के लिए, उन्होंने दो विशिष्ट "मेन्यू" पर इसका परीक्षण किया:
परीक्षण A: "भाषा स्तर" मेन्यू (प्रवीणता नियंत्रण)
- लक्ष्य: AI को ठीक उसी अंग्रेजी स्तर पर बोलने के लिए बनाना जिसे उपयोगकर्ता समझ सके।
- परिदृश्य: कल्पना कीजिए कि एक उपयोगकर्ता अंग्रेजी सीख रहा है। वह एक सरल प्रश्न पूछता है। AI इसे पहचान लेता है और "लेवल A1" (बहुत सरल शब्द) में उत्तर देता है। यदि उपयोगकर्ता कठिन प्रश्न पूछता है, तो AI "लेवल B2" (अधिक जटिल शब्द) में अपग्रेड हो जाता है।
- नियम: AI को प्रोग्राम किया गया है कि वह उपयोगकर्ता से सरल कभी नहीं बोलेगा, लेकिन यदि उपयोगकर्ता चाहे तो वह कठिन हो सकता है। यह एक ऐसे डांस पार्टनर की तरह है जो आपके कदमों से मेल खाता है लेकिन आपको लड़खड़ाने नहीं देता।
परीक्षण B: "मूड" मेन्यू (पोलैरिटी नियंत्रण)
- लक्ष्य: बातचीत के भावनात्मक स्वर को नियंत्रित करना।
- परिदृश्य: यदि कोई उपयोगकर्ता शिकायत कर रहा है (नकारात्मक मूड), तो AI को सहायक होने के लिए प्रशिक्षित किया गया है लेकिन अत्यधिक भावुक नहीं। यदि उपयोगकर्ता खुश है, तो यह उस खुशी से मेल खाता है।
- ट्विस्ट: लेखकों ने बहस को प्रोत्साहित करने के लिए एक रणनीति बनाई। यदि कोई उपयोगकर्ता किसी विवादास्पद विषय पर बहुत सकारात्मक है, तो AI को आलोचनात्मक सोच को बढ़ावा देने के लिए धीरे से एक जवाबी तर्क (नकारात्मक पोलैरिटी) पेश करने का निर्देश दिया जाता है, लेकिन बिना बुरा लगे। यह एक मैत्रीपूर्ण डिबेट क्लब मॉडरेटर की तरह है।
5. यह एक बड़ी बात क्यों है
- यह हल्का (Lightweight) है: उन्हें पूरे रोबोट शेफ को फिर से बनाने की आवश्यकता नहीं थी। उन्होंने बस उसे एक त्वरित, कुशल प्रशिक्षण सत्र दिया।
- यह व्याख्या योग्य (Explainable) है: क्योंकि उन्होंने एक नियम पुस्तिका (ऑन्टोलॉजी) का उपयोग किया, हम जानते हैं कि AI ने जो कहा वह क्यों कहा। यह जादू नहीं है; यह नियमों का पालन कर रहा है।
- यह छोटे मॉडल्स पर भी काम करता है: इस प्रशिक्षण के बाद छोटे, कम शक्तिशाली AI मॉडल्स भी निर्देशों का पालन करने में बहुत बेहतर हो गए।
निष्कर्ष
यह पेपर AI को एक जीपीएस और एक नियम पुस्तिका देने के बारे में है। AI को बिना किसी दिशा के भटकने देने और यह उम्मीद करने के बजाय कि वह सही बात कहेगा, हम उसे एक नक्शा (ऑन्टोलॉजी) देते हैं और उसे संकेतों का पालन करना सिखाते हैं। यह AI बातचीत को सुरक्षित, अधिक अनुमानित और बहुत अधिक उपयोगी बनाता है, जैसे कि भाषा सिखाने या ग्राहक सहायता प्रबंधित करने के लिए, जहाँ आपको आवश्यकता होती है कि AI एक बहुत ही विशिष्ट तरीके से व्यवहार करे।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।