💬 NLP

Self-Evaluation Is Already There: Eliciting Latent Judge Calibration in Base LLMs with Minimal Data

यह शोध पत्र प्रदर्शित करता है कि बेस लार्ज लैंग्वेज मॉडल्स में पहले से ही बाहरी जज के स्कोर का पूर्वानुमान लगाने की एक अंतर्निहित क्षमता मौजूद है, जिसे प्रस्तावित सेल्फ-इवैल्यूएशन एलिसिटेशन (SEE) पद्धति के माध्यम से न्यूनतम डेटा का उपयोग करके प्रभावी रूप से अनलॉक और एक हस्तांतरणीय स्व-मूल्यांकन कौशल में परिष्कृत किया जा सकता है।

मूल लेखक: XiuYu Zhang, Yi Shan, Junfeng Fang, Zhenkai Liang

प्रकाशित 2026-06-04

📖 2 मिनट में पढ़ें☕ कॉफ़ी ब्रेक में पढ़ें

CC BY 4.0

मूल लेखक: XiuYu Zhang, Yi Shan, Junfeng Fang, Zhenkai Liang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

एक बड़े लैंग्वेज मॉडल (LLM) की कल्पना एक प्रतिभाशाली लेकिन थोड़े शर्मीले छात्र के रूप में करें जिसने पहले से ही किताबों का एक विशाल पुस्तकालय पढ़ लिया है (प्री-ट्रेनिंग)। शोध पत्र यह सवाल पूछता है: क्या यह छात्र अनुमान लगा सकता है कि एक सख्त शिक्षक उनके निबंध को ग्रेड देने से पहले ही उसे कैसे ग्रेड देगा?

शोधकर्ताओं ने पाया कि छात्र को वास्तव में उत्तर पहले से ही पता है। विशेष प्रशिक्षण के बिना भी, मॉडल "महसूस" कर सकता है कि उसका अपना लेखन कितना अच्छा है, हालांकि उसके अनुमान थोड़े धुंधले और अति-आत्मविश्वासी होते हैं।

इसे ठीक करने के लिए, उन्होंने एक विधि खोजी जिसे सेल्फ-इवैल्यूएशन इलिसिटेशन (SEE) कहा जाता है। इसे दो चरणों वाले अध्ययन सत्र के रूप में समझें जिसमें बहुत कम समय लगता है:

अभ्यास दौर (RL): छात्र एक निबंध लिखता है और फिर तुरंत उसे ग्रेड देने की कोशिश करता है। एक "शिक्षक" (एक बाहरी AI जज) भी इसे ग्रेड देता है। छात्र को न केवल एक अच्छा निबंध लिखने के लिए अंक मिलते हैं, बल्कि खुद को सटीकता से ग्रेड देने के लिए भी अंक मिलते हैं।
लक्षित सुधार (डिस्टिलेशन): यह सबसे चतुर हिस्सा है। शोधकर्ता छात्र के अभ्यास निबंधों को लेते हैं और कहते हैं, "आपने निबंध बिल्कुल सही लिखा है, इसलिए इसमें एक शब्द भी न बदलें। लेकिन आपका स्वयं का ग्रेड गलत था। आइए बस आपका ग्रेड मिटा दें और उसके स्थान पर शिक्षक का सही ग्रेड लिख दें।"

इस चक्र को केवल 160 बार दोहराकर (आमतौर पर आवश्यक हजारों डेटा की तुलना में बहुत कम), मॉडल उच्च सटीकता के साथ शिक्षक के स्कोर का अनुमान लगाना सीख जाता है।

मुख्य निष्कर्ष:
शोध पत्र का तर्क है कि गुणवत्ता का आकलन करने की क्षमता ऐसी चीज़ नहीं है जिसे हमें शुरू से सिखाने की आवश्यकता हो। यह एक छिपी हुई मांसपेशी की तरह है जो मॉडल के पास पहले से ही है; हमें बस कुछ हल्के व्यायाम करने की आवश्यकता है ताकि इसे "इलिसिट" (बाहर निकाला) जा सके। एक बार प्रशिक्षित होने के बाद, मॉडल विश्वसनीय रूप से अनुमान लगा सकता है कि उसके उत्तर कितने अच्छे हैं, बिना हर बार शिक्षक की मदद मांगे।

इसी तरह के और पेपर