Generalization of Fine-Tuned Uncertainty Communication and Metacognition in Large Language Models
यह शोध पत्र प्रदर्शित करता है कि सुपरवाइज्ड फाइन-ट्यूनिंग बड़े भाषा मॉडलों की अनिश्चितता व्यक्त करने की क्षमता और सटीकता के साथ आत्मविश्वास को संरेखित करने की क्षमता में सुधार कर सकती है, हालांकि ये मेटाकॉग्निटिव लाभ विभिन्न कॉन्फिडेंस असेसमेंट फॉर्मेट्स की तुलना में विभिन्न डोमेन में बेहतर तरीके से सामान्यीकृत होते हैं, जिसमें मल्टीटास्क ट्रेनिंग सबसे सुदृढ़ सामान्यीकरण प्रदान करती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपका एक बहुत ही बुद्धिमान, विद्वान रोबोट मित्र है जो आपसे पूछे गए लगभग किसी भी प्रश्न का उत्तर दे सकता है। समस्या यह है कि वह कभी-कभी गलत होता है, लेकिन वह कभी अपनी गलती स्वीकार नहीं करता। वह फ्रांस की राजधानी के बारे में बात कर रहा हो या अंतरिक्ष के एलियंस के बारे में किसी काल्पनिक तथ्य के बारे में, वह एक ही दमदार, आत्मविश्वास भरी आवाज़ में जवाब देता है। यह खतरनाक है क्योंकि यदि आप उसकी आत्मविश्वासी आवाज़ पर भरोसा करते हैं, तो आप गलत निर्णय ले सकते हैं।
यह शोध पत्र पूछता है: क्या हम इस रोबोट को यह सिखा सकते हैं कि वह "मुझे यकीन नहीं है," या "मैं काफी आश्वस्त हूँ," इस तरह से कहे कि वह वास्तव में उसकी सटीकता से मेल खाता हो?
शोधकर्ताओं ने इस रोबोट (विशेष रूप से, दो लोकप्रिय AI मॉडल) को इस आत्म-जागरूकता में बेहतर होने के लिए "प्रशिक्षित" करने का प्रयास किया। यहाँ उन्होंने क्या पाया, जिसे सरल भाषा में समझाया गया है:
1. "आत्म-जागरूकता" को परखने के दो तरीके
यह देखने के लिए कि क्या रोबोट सीख रहा है, शोधकर्ताओं ने दो अलग-अलग खेलों का उपयोग किया:
- "कॉन्फिडेंस स्कोर" (विश्वास स्कोर) का खेल: रोबोट एक प्रश्न का उत्तर देता है और यह बताने के लिए 0 से 100% तक एक संख्या देता है कि वह कितना आश्वस्त है।
- लक्ष्य: यदि रोबोट कहता है "90% आश्वस्त हूँ," तो उसे 90% बार सही होना चाहिए।
- "कौन सा वाला?" का खेल: रोबोट को दो प्रश्न दिखाए जाते हैं। उसे उस एक को चुनना होता है जिसे वह सही ढंग से हल कर सकता है।
- लक्ष्य: उसे उस प्रश्न को चुनना चाहिए जिसका उत्तर उसे पता है, और उस प्रश्न को छोड़ देना चाहिए जिस पर वह केवल अनुमान लगा रहा है।
2. प्रशिक्षण विधि: "अभ्यास ही पूर्णता लाता है"
शोधकर्ताओं ने केवल रोबोट को यह नहीं बताया, "ईमानदार बनो।" इसके बजाय, उन्होंने उसे अभ्यास के लिए भारी मात्रा में समस्याएँ दीं।
- उन्होंने रोबोट से एक ही प्रश्न 10 बार पूछा।
- यदि रोबोट ने 10 में से 9 बार एक ही उत्तर दिया, तो उन्होंने उसे सिखाया: "तुम सुसंगत हो, इसलिए तुम्हें उच्च आत्मविश्वास होना चाहिए।"
- यदि रोबोट ने 10 अलग-अलग उत्तर दिए, तो उन्होंने उसे सिखाया: "तुम भ्रमित हो, इसलिए तुम्हारा आत्मविश्वास कम होना चाहिए।"
- फिर उन्होंने रोबोट से इस पैटर्न के आधार पर अपने आत्मविश्वास का अनुमान लगाने के लिए कहा।
3. अच्छी खबर: इसने ईमानदार होना सीख लिया (ज्यादातर)
इस प्रशिक्षण के बाद, रोबोट अपने आत्मविश्वास को अपनी वास्तविक सटीकता के साथ मिलाने में बहुत बेहतर हो गया।
- प्रशिक्षण से पहले: रोबोट एक ऐसे अति-आत्मविश्वासी छात्र की तरह था जिसे टेस्ट में हमेशा "A" ग्रेड मिलता था लेकिन वास्तव में उसे आधा ही विषय पता था। वह तब भी "95% आश्वस्त" कहता था जब वह गलत होता था।
- प्रशिक्षण के बाद: रोबोट एक सतर्क विशेषज्ञ की तरह बन गया। जब वह उत्तर जानता था, तो वह कहता था "90% आश्वस्त हूँ।" जब वह अनुमान लगा रहा होता था, तो वह कहता था "40% आश्वस्त हूँ।"
- जादू: यह कौशल केवल उन विषयों तक सीमित नहीं रहा जिन पर उसने अभ्यास किया था (जैसे गणित या सामान्य ज्ञान)। इसने रोबोट को नए, कठिन विषयों, जैसे कि चिकित्सा सलाह और कानूनी प्रश्नों के बारे में भी अधिक ईमानदार होने में मदद की। यह एक बड़ी बात है क्योंकि इसका मतलब है कि रोबोट को गंभीर स्थितियों में अधिक भरोसेमंद बनाया जा सकता है, भले ही उसे उन विशिष्ट मामलों के लिए प्रशिक्षित न किया गया हो।
4. बुरी खबर: कौशल हमेशा ट्रांसफर नहीं होते
यहीं पर मामला जटिल हो जाता है। शोधकर्ताओं ने पाया कि एक खेल में अच्छा होने से रोबोट दूसरे खेल में अपने आप अच्छा नहीं हो जाता।
- "स्कोर" बनाम "चुनाव": यदि उन्होंने रोबोट को एक संख्या (जैसे, "75%") देने के लिए प्रशिक्षित किया, तो वह संख्या देने में बहुत अच्छा हो गया। लेकिन जब उन्होंने उसे "कौन सा वाला?" खेल खेलने के लिए कहा, तो वह इसमें बहुत बेहतर नहीं हुआ।
- इसका उल्टा: यदि उन्होंने उसे "कौन सा वाला?" खेल खेलने के लिए प्रशिक्षित किया, तो वह सही प्रश्न चुनने में तो अच्छा हो गया, लेकिन जब उससे पूछा गया तो वह अभी भी एक अच्छा नंबर (संख्या) नहीं दे सका।
उपमा: कल्पना कीजिए कि एक बास्केटबॉल खिलाड़ी फ्री थ्रो (नंबर देना) मारने में माहिर है। आप उसे विशेष रूप से फ्री थ्रो के लिए प्रशिक्षित करते हैं। वह फ्री थ्रो में अद्भुत हो जाता है। लेकिन यदि आप उसे डिफेंस (सही प्रतिद्वंद्वी को गार्ड करना चुनना) खेलने के लिए कहते हैं, तो वह इसमें बेहतर नहीं होता। कौशल संबंधित तो हैं, लेकिन वे अलग-अलग मांसपेशियाँ हैं।
5. समाधान: "ऑल-राउंडर" प्रशिक्षण
शोधकर्ताओं ने एक और चीज़ आज़माई: उन्होंने रोबोट को एक ही समय में दोनों खेलों पर प्रशिक्षित किया।
- परिणाम: यह बहुत बेहतर काम कर गया। रोबोट ने एक प्रकार की "सामान्य आत्म-जागरूकता" सीखी जो उसे नंबर वाले खेल और चुनाव वाले खेल दोनों में मदद करती थी। वह दोनों क्षेत्रों में अधिक लचीला और विश्वसनीय विचारक बन गया।
मुख्य निष्कर्ष (The Bottom Line)
- क्या हम AI को यह सिखा सकते हैं कि वह कब अनुमान लगा रहा है? हाँ।
- क्या यह नए विषयों पर काम करता है? हाँ, यह AI को चिकित्सा और कानूनी प्रश्नों के बारे में अधिक ईमानदार होने में मदद करता है, भले ही इसे मुख्य रूप से सामान्य ज्ञान और गणित पर प्रशिक्षित किया गया हो।
- क्या यह पूर्ण है? नहीं। AI को कॉन्फिडेंस स्कोर देना सिखाने से यह स्वतः ही उसे दो प्रश्नों की तुलना करना नहीं सिखाता, और इसके विपरीत भी।
- सुधार: सर्वोत्तम परिणाम प्राप्त करने के लिए, आपको AI को एक साथ कई प्रकार के "स्व-जांच" कार्यों पर प्रशिक्षित करना होगा।
संक्षेप में, यह शोध पत्र दिखाता है कि AI अपने ज्ञान का बेहतर निर्णयकर्ता बनना सीख सकता है, लेकिन प्रभावी ढंग से ऐसा करने के लिए उसे प्रशिक्षण के विविध आहार की आवश्यकता होती है। यह केवल तथ्यों को याद करने के बारे में नहीं है; यह यह सीखने के बारे में है कि कैसे कहना है, "मैं यह जानता हूँ," या "मुझे यकीन नहीं है," एक ऐसे तरीके से जिसे मनुष्य वास्तव में भरोसा कर सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।