Factuality on Demand: Controlling the Factuality-Informativeness Trade-off in Text Generation
यह शोध पत्र फैक्टुअलिटी-कंट्रोल्ड जनरेशन (FCG) को प्रस्तुत करता है, जो एक ऐसा ढांचा है जो उपयोगकर्ताओं को सटीकता और सूचनात्मकता के बीच संतुलन बनाने के लिए टेक्स्ट जनरेशन में तथ्यात्मकता संबंधी बाधाओं को निर्दिष्ट करने की अनुमति देता है, और यह प्रदर्शित करता है कि सिंथेटिक डेटा पर प्रशिक्षण इन प्रतिस्पर्धी उद्देश्यों को संतुलित करने की मॉडल की क्षमता को महत्वपूर्ण रूप से बढ़ाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, विद्वान रोबोट सहायक है। यह रोबोट बहुत कुछ जानता है, लेकिन इसका व्यक्तित्व थोड़ा पेचीदा है: कभी-कभी यह किसी तथ्य के बारे में 100% निश्चित होता है, और कभी-कभी यह केवल अंदाज़ा लगा रहा होता है या दिलचस्प दिखने के लिए कुछ मनगढ़ंत बातें बना रहा होता है।
जब आप रोबोट से कोई प्रश्न पूछते हैं, तो यह एक दुविधा का सामना करता है:
- विकल्प A: यह आपको एक बहुत छोटा, उबाऊ उत्तर दे सकता है जो 100% सत्य है, लेकिन इसमें दिलचस्प विवरण छूट सकते हैं।
- विकल्प B: यह आपको एक लंबा, रोमांचक और विस्तृत उत्तर दे सकता है, लेकिन इसमें कुछ विवरण गलत या मनगढ़ंत होने का जोखिम रहता है।
आमतौर पर, रोबोट इनमें से कोई एक चुन लेता है, और आप इसे बता नहीं सकते कि, "हे, मुझे 90% सच उत्तर चाहिए," या "चाहे कितना भी छोटा हो, मुझे बस 100% तथ्य ही दो।"
समस्या: रोबोट बात नहीं सुन रहा है
शोधकर्ताओं ने इस समस्या को हल करने की कोशिश की कि बस रोबोट को कह दिया जाए, "कृपया अधिक तथ्यात्मक बनें!" या "मुझे 80% सटीक उत्तर दें!"
दुर्भाग्य से, रोबोट ने उनकी बात नहीं मानी। यह वैसा ही है जैसे किसी बातूनी मित्र को कहानी सुनाते समय "संक्षेप में रहने" के लिए कहना; वे बस बोलते रहते हैं। यहाँ तक कि जब शोधकर्ताओं ने रोबोट को बहुत सख्त (100% सटीक) होने के लिए कहा, तब भी वह विश्वसनीय रूप से ऐसा नहीं कर सका। या तो वह गलत उत्तर देता या पूरी तरह से चुप हो जाता।
समाधान: "फैक्ट फ़िल्टर" के साथ रोबोट को प्रशिक्षित करना
टीम ने एक नया सिस्टम बनाया जिसे फैक्टुअलिटी-कंट्रोल्ड जनरेशन (FCG) कहा गया। केवल रोबोट से विनम्रता से पूछने के बजाय, उन्होंने इसे एक छात्र की तरह प्रशिक्षित (Train) करने का निर्णय लिया।
उन्होंने इसे एक सरल उपमा (Analogy) का उपयोग करके समझाया है:
1. "ड्राफ्टिंग" चरण:
सबसे पहले, उन्होंने रोबोट को बिना किसी नियम के किसी प्रसिद्ध व्यक्ति की एक लंबी, विस्तृत जीवनी लिखने के लिए कहा। रोबोट ने एक बहुत बड़ी कहानी लिखी।
2. "कॉन्फिडेंस चेक" (विश्वास की जाँच):
इसके बाद, उन्होंने रोबोट से उसके द्वारा लिखे गए हर वाक्य को देखने और यह रेटिंग देने के लिए कहा कि वह उस वाक्य के सच होने के बारे में कितना आश्वस्त है।
- वाक्य: "चंद्रमा पनीर से बना है।" -> रोबोट कहता है: "मुझे 0% यकीन है कि यह सच है।"
- वाक्य: "चंद्रमा पृथ्वी की परिक्रमा करता है।" -> रोबोट कहता है: "मुझे 100% यकीन है कि यह सच है।"
3. "एडिटिंग" (संपादन) चरण:
अब, उन्होंने एक विशिष्ट नियम बनाया। उन्होंने रोबोट से कहा: "यदि आप मुझे 80% सटीक उत्तर देना चाहते हैं, तो आपको उन वाक्यों को तब तक हटाना होगा जिनके बारे में आप सबसे कम आश्वस्त हैं, जब तक कि आप 80% के निशान तक न पहुँच जाएँ।"
उन्होंने यह गणितीय रूप से किया। यदि रोबोट को 80% सटीक उत्तर देने के लिए कहा गया था, तो उन्होंने उसके लंबे ड्राफ्ट में से "अस्थिर" तथ्यों को काट दिया, और केवल "ठोस" तथ्यों को रखा। उन्होंने अलग-अलग स्तरों (80%, 90%, 100%) के लिए ऐसा ही किया।
4. "स्टडी" (अध्ययन) चरण:
उन्होंने इन संपादित उदाहरणों (प्रश्न + "80% सटीक बनो" + संपादित उत्तर) को लिया और इनका उपयोग रोबोट को पुनः प्रशिक्षित (Re-train) करने के लिए किया। उन्होंने रोबोट को सिखाया: "जब तुम संख्या 80 देखो, तो तुम्हें पता होना चाहिए कि अपने विचारों को उस लक्ष्य तक पहुँचाने के लिए उन्हें ठीक से कैसे संपादित करना है।"
परिणाम: एक रोबोट जो खुद को नियंत्रित कर सकता है
प्रशिक्षण के बाद: रोबोट निर्देशों का पालन करने में बहुत बेहतर हो गया।
- प्रशिक्षण से पहले: यदि आपने 100% सटीकता के लिए पूछा, तो रोबốt अक्सर विफल हो जाता या खाली उत्तर देता।
- प्रशिक्षण के बाद: जब 100% सटीकता के लिए पूछा गया, तो उसने सफलतापूर्वक ऐसे उत्तर दिए जो पूरी तरह से सत्य थे। जब 80% सटीकता के लिए पूछा गया, तो उसने लंबे, दिलचस्प उत्तर दिए जो काफी हद तक सही थे।
"ट्रेड-ऑफ" (सौदा) रूपक:
रोबोट के आउटपुट को एक फ्रूट सलाद की तरह समझें।
- तथ्यात्मकता (Factuality) यह है कि कितने फल ताजे और असली हैं।
- सूचनात्मकता (Informativeness) यह है कि फलों का कटोरा कितना बड़ा है।
आमतौर पर, यदि आप 100% ताजे फलों का कटोरा चाहते हैं, तो आपको लगभग सब कुछ फेंकना होगा, जिससे एक बहुत छोटा कटोरा बचेगा। यदि आप फलों का एक बड़ा कटोरा चाहते हैं, तो आपको उसमें कुछ खराब या संदिग्ध फल भी शामिल करने होंगे।
शोधकर्ताओं ने पाया कि उनके नए प्रशिक्षण पद्धति ने रोबोट को बड़ा कटोरा (अधिक जानकारी) बनाने की अनुमति दी, जबकि उसी स्तर की ताजगी (तथ्यात्मकता) बनाए रखी जो पहले थी। इसने सीमा को बदल दिया, जिससे खराब फलों के बिना अधिक स्वादिष्ट फ्रूट सलाद संभव हो सका।
सारांश
यह शोध पत्र दिखाता है कि आप केवल एक बुद्धिमान AI को "अधिक तथ्यात्मक होने" के लिए नहीं कह सकते और उम्मीद नहीं कर सकते कि वह काम करेगा। इसके बजाय, आपको उसे अपने उत्तरों को विशिष्ट सटीकता लक्ष्यों को पूरा करने के लिए संपादित करने के उदाहरण दिखाने होंगे। इस तरह प्रशिक्षित होने के बाद, रोबोट एक डायल (Dial) की तरह काम कर सकता है: आप नॉब को "उच्च सटीकता, कम विवरण" या "मध्यम सटीकता, उच्च विवरण" पर घुमा सकते हैं, और वह विश्वसनीय रूप से वही देगा जो आपने मांगा है।
नोट: शोधकर्ताओं ने विशेष रूप से लोगों की जीवनी लिखने पर इसका परीक्षण किया। उन्होंने इस शोध पत्र में चिकित्सा सलाह, कानूनी दस्तावेजों या अन्य विशिष्ट वास्तविक दुनिया के अनुप्रयोगों पर इसका परीक्षण नहीं किया।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।