Aligning LLM Uncertainty with Human Disagreement in Subjectivity Analysis
यह शोध पत्र डिसएग्रीमेंट परसेप्शन एंड अनसर्टेन्टी एलाइनमेंट (DPUA) फ्रेमवर्क का प्रस्ताव करता है, जो एक दो-चरणीय दृष्टिकोण है जो मानव असहमति को स्पष्ट रूप से मॉडल करके बड़े भाषा मॉडलों के व्यक्तिपरक विश्लेषण को बढ़ाता है ताकि मॉडल की अनिश्चितता को वास्तविक दुनिया के निर्णय विविधताओं के साथ संरेखित किया जा सके, जिससे अति-आत्मविश्वास कम होता है और सामान्यीकरण में सुधार होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ शोध पत्र "Aligning LLM Uncertainty with Human Disagreement in Subjectivity Analysis" का सरल भाषा और रचनात्मक उपमाओं के साथ विवरण दिया गया है।
मुख्य समस्या: "अति-आत्मविश्वासी विशेषज्ञ" (The Overconfident Expert)
कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान रोबोट (एक लार्ज लैंग्वेज मॉडल, या LLM) से एक चुटकुले पर निर्णय लेने के लिए कहते हैं।
- रोबोट का पुराना तरीका: रोबोट को उन हजारों उदाहरणों को देखकर प्रशिक्षित किया गया था जहाँ इंसानों ने वोट दिया था कि कोई चीज़ "मजेदार" थी या "नहीं"। यदि 90% इंसानों ने कहा कि यह "मजेदार" है, तो रोबोट ने सीखा कि यह 100% मजेदार है। यदि 51% ने कहा कि यह "मजेदार" है, तो भी रोबोट ने सीखा कि यह "मजेदार" है, लेकिन वह ऐसे व्यवहार करता है जैसे कि वह 100% निश्चित हो।
- खामी: व्यक्तिपरक कार्यों (जैसे व्यंग्य, अपमानजनक भाषा, या भावना का पता लगाना) में, इंसान अक्सर असहमत होते हैं। एक व्यक्ति को कोई टिप्पणी अपमानजनक लग सकती है, जबकि दूसरे को वह मजेदार लग सकती है। जब हम रोबोट को केवल एक उत्तर चुनने के लिए मजबूर करते हैं, तो वह इस तथ्य को अनदेखा कर देता है कि इंसान भ्रमित हैं। परिणाम? रोबोट अति-आत्मविश्वासी (overconfident) हो जाता है। वह एक पेचीदा सवाल पर एक निश्चित उत्तर देता है, भले ही वह सवाल खुद अस्पष्ट हो। यह एक मौसम पूर्वानुमानकर्ता की तरह है जो कहता है "निश्चित रूप से बारिश होगी" जबकि आसमान में बादल और धूप का मिश्रण है।
समाधान: DPUA (द "हंबल डिटेक्टिव" - विनम्र जासूस)
लेखकों ने DPUA (Disagreement Perception and Uncertainty Alignment) नामक एक नया ढांचा प्रस्तावित किया है। रोबोट को केवल यह सिखाने के बजाय कि उत्तर क्या है, वे उसे यह भी सिखाते हैं कि जब इंसान असहमत हों तो उसे कितना अनिश्चित होना चाहिए।
DPUA को दो विशिष्ट चरणों में एक जासूस को प्रशिक्षित करने के रूप में समझें:
चरण 1: "धुंध" को पहचानना सीखना (Disagreement Perception)
इस चरण में, रोबोट यह पहचानना सीखता है कि कब स्थिति "धुंधली" (अस्पष्ट) है।
- उपमा: एक शिक्षक की कल्पना करें जो निबंधों को ग्रेड दे रहा है। स्पष्ट निबंधों (उच्च सहमति) के लिए, शिक्षक सीधे 'A' ग्रेड देता है। लेकिन उन निबंधों के लिए जहाँ छात्र का इरादा स्पष्ट नहीं है (कम सहमति), शिक्षक केवल ग्रेड नहीं देता; बल्कि एक नोट लिखता है, "यह पेचीदा है। कुछ लोग इसे X देख सकते हैं, अन्य इसे Y देख सकते हैं।"
- यह कैसे काम करता है: रोबोट को इन "धुंधले" मामलों पर विशेष ध्यान देने के लिए प्रशिक्षित किया जाता है। वह एक "तर्क" (विवरण) उत्पन्न करना सीखता है जो स्वीकार करता है कि, "मैं देख सकता हूँ कि कुछ लोग इसे अपमानजनक क्यों मान सकते हैं, लेकिन मैं यह भी देख सकता हूँ कि अन्य ऐसा क्यों नहीं मान सकते।" वह अव्यवस्थित डेटा पर एक एकल, कठोर उत्तर थोपने की कोशिश करना बंद कर देता है।
चरण 2: "कॉन्फिडेंस डायल" को ट्यून करना (Uncertainty Alignment)
इस चरण में, रोबोट अपने "कॉन्फिडेंस डायल" (आत्मविश्वास के स्तर) को इस तरह समायोजित करना सीखता है कि वह इंसानों के बीच वास्तविक असहमति से मेल खा सके।
- उपमा: एक पैमाने की कल्पना करें जो मापता है कि आप कितने निश्चित हैं।
- यदि 100 लोग किसी बात को सच मानते हैं, तो रोबक अपने डायल को 100% पर घुमा देता है।
- यदि केवल 51 लोग सहमत हैं (और 49 असहमत हैं), तो रोबोट अपने डायल को नीचे घुमाकर 55% कर देता है।
- यदि इंसान 50/50 विभाजित हैं, तो रोबोट अपने डायल को 50% (जो कि न्यूनतम है) पर ले आता है, जिसका अर्थ है, "मुझे नहीं पता, और यह ठीक है।"
- यह कैसे काम करता है: शोधकर्ता एक विशेष पुरस्कार प्रणाली (जैसे वीडियो गेम स्कोर) का उपयोग करते हैं ताकि यदि रोबोट भ्रमित होने पर भी बहुत अधिक आत्मविश्वासी व्यवहार करे तो उसे दंडित किया जा सके, और यदि वह अव्यवस्थित डेटा के समय सतर्क व्यवहार करे तो उसे पुरस्कृत किया जा सके।
उन्होंने क्या पाया?
उन्होंने तीन कार्यों पर इसका परीक्षण किया: व्यंग्य का पता लगाना, अपमानजनक भाषा को पहचानना और भावना (सकारात्मक/नकारात्मक) का विश्लेषण करना।
- उसने अपनी बुद्धिमत्ता नहीं खोई: रोबोट सही उत्तर देने में कमज़ोर नहीं हुआ। वास्तव में, वह लेबल की भविष्यवाणी करने में उतना ही अच्छा रहा।
- वह अधिक ईमानदार बन गया: रोबोट ने तब तक निश्चित होने का नाटक करना बंद कर दिया जब उसे नहीं होना चाहिए था। पेचीदा "सीमावर्ती" मामलों (जहाँ इंसान असहमत होते हैं) में, रोबोट का आत्मविश्वास स्कोर मानव भ्रम के अनुरूप गिर गया।
- उसने बेहतर सामान्यीकरण (Generalization) किया: जब रोबोट का परीक्षण उन नए प्रकार के व्यक्तिपरक समस्याओं पर किया गया जिन्हें उसने पहले नहीं देखा था, तो उसने उन्हें पुराने मॉडलों की तुलना में बेहतर तरीके से संभाला। उसने "यह जानना कि वह क्या नहीं जानता" का एक सामान्य कौशल सीखा।
निष्कर्ष (The Takeaway)
यह शोध पत्र तर्क देता है कि व्यक्तिपरक कार्यों के लिए, अनिश्चितता एक त्रुटि (bug) नहीं है; यह एक विशेषता (feature) है।
AI को मानवीय असहमति को दर्शाने वाले तरीके से अनिश्चितता व्यक्त करना सिखाकर, हमें अधिक विश्वसनीय मॉडल मिलते हैं। एक ऐसे रोबोट के बजाय जो पेचीदा चुटकुले पर आत्मविश्वास के साथ गलत उत्तर देता है, हमें एक ऐसा रोबोट मिलता है जो कहता है, "यह संभवतः एक चुटकुला है, लेकिन मैं देख सकता हूँ कि कुछ लोग इससे आहत हो सकते हैं, इसलिए मैं केवल 60% निश्चित हूँ।" यह AI को जटिल और सूक्ष्म निर्णय लेने में मनुष्यों के लिए एक बेहतर साथी बनाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।