Human-Alignment, Calibration, and Activation Patterns in Large Language Model Uncertainty
यह शोध पत्र इस बात की जांच करता है कि बड़े भाषा मॉडल (लार्ज लैंग्वेज मॉडल्स) अपने प्रत्यक्ष व्यवहार और आंतरिक सक्रियणों (इंटरनल एक्टिवेशन्स) दोनों में किस हद तक मानव-समान अनिश्चितता संकेतों को प्रदर्शित करते हैं, और विभिन्न डेटासेट्स पर इस "अनिश्चितता संरेखण" (अनसर्टेन्टी अलाइनमेंट) एवं पारंपरिक अंशांकन मेट्रिक्स (कैलिब्रेशन मेट्रिक्स) के बीच संबंध और निर्देश फाइन-ट्यूनिंग के प्रभाव का परीक्षण करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान, लेकिन कभी-कभी अति-आत्मविश्वासी, रोबोट दोस्त के साथ "उत्तर का अनुमान लगाओ" (Guess the Answer) खेल रहे हैं। आप उससे एक सवाल पूछते हैं, और वह एक उत्तर देता है। कभी-कभी, वह सही होता है। कभी-कभी, वह गलत होता है। लेकिन यहाँ पेचीदा बात यह है: रोबोट को कैसे पता चलता है कि वह अनिश्चित है?
यह शोध पत्र (paper) ठीक इसी सवाल की जांच करने वाली एक जासूसी कहानी की तरह है। शोधकर्ता जानना चाहते थे: क्या लार्ज लैंग्वेज मॉडल्स (LLMs) अनिश्चितता को उसी तरह महसूस करते हैं जैसे इंसान करते हैं? और यदि वे ऐसा करते हैं, तो क्या हम इसे उनके "मस्तिष्क" (आंतरिक कोड) में देख सकते हैं या केवल उनके "मुँह" (उनके द्वारा टाइप किए गए शब्द) में?
यहाँ उनकी जांच का विवरण दिया गया है, सरल उपमाओं (analogies) का उपयोग करते हुए:
1. बड़ा सवाल: क्या रोबोट हमारे जैसे हैं?
जब इंसान किसी उत्तर के बारे में अनिश्चित होते हैं, तो वे हिचकिचा सकते हैं, कह सकते हैं "मुझे लगता है कि यह है, लेकिन मैं 100% निश्चित नहीं हूँ," या उत्तर देने में अधिक समय ले सकते हैं। हमारे पास एक स्वाभाविक "अनिश्चितता संकेत" (uncertainty signal) होता है।
शोधकर्ताओं ने पूछा: क्या AI मॉडल्स के पास भी ऐसा ही संकेत है?
- उपमा: कल्पना कीजिए कि एक इंसान और एक रोबोट एक साथ क्विज़ दे रहे हैं। जब इंसान को उत्तर नहीं पता होता, तो वह अपना सिर खुजला सकता है। शोधकर्ता यह देखना चाहते थे कि क्या रोबोट "सिर खुजलाता है" (आंतरिक भ्रम दिखाता है) या क्या वह बस आत्मविश्वास के साथ गलत अनुमान लगाता है (भ्रम/hallucinates)।
2. दो मुख्य परीक्षण
शोधकर्ताओं ने दो विशिष्ट चीजों को देखा:
- कैलिब्रेशन (The "Honesty" Test - ईमानदारी का परीक्षण): यह पूछता है, "जब रोबोट कहता है कि वह 80% निश्चित है, तो क्या वह वास्तव में 80% बार सही होता है?"
- उपमा: यदि कोई मौसम ऐप कहता है "80% बारिश की संभावना है," तो क्या वास्तव में 10 में से 8 बार बारिश होती है? यदि हाँ, तो यह अच्छी तरह से कैलिब्रेटेड है।
- अलाइनमेंट (The "Human-Like" Test - मानव जैसा परीक्षण): यह पूछता है, "क्या रोबोट उन्हीं सवालों के बारे में भ्रमित होता है जिनमें इंसान भ्रमित होते हैं?"
- उपमा: यदि किसी इंसान को कोई पहेली कठिन लगती है और उसे हल करने में लंबा समय लगता है, तो क्या रोबोट भी उसी पहेली के लिए संघर्ष करता है? यदि वे दोनों एक ही चीजों के लिए संघर्ष करते हैं, तो वे "अलाइन" (aligned) हैं।
3. प्रयोग: 30 रोबोट, कई सवाल
टीम ने विभिन्न आकारों के 30 अलग-अलग AI मॉडल्स (जैसे LLaMa, Mistral, और Gemma) का परीक्षण किया। उन्होंने उन्हें चार अलग-अलग "क्विज़ किताबों" से प्रश्न पूछे:
- बहुविकल्पीय (Multiple Choice): मानक सामान्य ज्ञान।
- मुक्त-अंत वाले (Open-Ended): "एक कहानी सुनाएं" या "राजधानी क्या है?" बिना विकल्पों के।
- मानव डेटा (Human Data): महत्वपूर्ण रूप से, उनके पास इन्हीं सवालों पर वास्तविक मनुष्यों ने कैसे उत्तर दिए, इसका डेटा था। वे जानते थे कि कौन से सवाल इंसानों को कठिन लगते थे (इस आधार पर कि कितने लोगों ने गलत उत्तर दिया या उन्हें कितना समय लगा)।
4. बड़ी खोजें
A. "इंस्ट्रक्ट" का जाल (The "Instruct" Trap)
कई AI मॉडल दो संस्करणों में आते हैं:
- बेस मॉडल (Base Model): मूल, अप्रशिक्षित संस्करण।
- इंस्ट्रक्ट मॉडल (Instruct Model): वह संस्करण जिसे मानवीय निर्देशों का पालन करने और चैट करने के लिए प्रशिक्षित किया गया है।
निष्कर्ष: शोधकर्ताओं ने पाया कि रोबोट को "अच्छा छात्र" बनने के लिए प्रशिक्षित करना (Instruct) वास्तव में उसे यह जानने में बदतर बना देता था कि वह कब अनिश्चित है।
- रूपक: कल्पना कीजिए कि एक छात्र जो स्वाभाविक रूप से गणित में अच्छा है, लेकिन घबरा जाता है जब शिक्षक उसे "एक शिक्षक की तरह व्यवहार करने" के लिए कहते हैं। "इंस्ट्रक्ट" प्रशिक्षण ने रोबोट्स को अधिक आत्मविश्वासी बनाया, लेकिन उनकी अपनी उलझन के बारे में कम ईमानदार बना दिया। वे "अति-आत्मविश्वासी" हो गए और अनिश्चित होने पर मनुष्यों से कम मिलते-जुलते रहे।
B. "मस्तिष्क" बनाम "मुँह"
यह सबसे आश्चर्यजनक हिस्सा है। शोधकर्ताओं ने AI के "मस्तिष्क" (इसके आंतरिक विद्युत संकेतों, जिन्हें एक्टिवेशन्स कहा जाता है) के अंदर देखा और इसकी तुलना उस चीज़ से की जो AI ने वास्तव में कही (इसका आउटपुट)।
निष्कर्ष: AI के "मस्तिष्क" ने मानव जैसे अनिश्चितता के बहुत मजबूत संकेत दिखाए, जबकि उसके "मुँह" ने नहीं।
- रूपक: कल्पना कीजिए कि एक व्यक्ति जो मकड़ी से डरा हुआ है लेकिन शांत दिखने की कोशिश करता है और कहता है, "मैं ठीक हूँ।"
- मुँह (आउटपुट): कहता है "मैं ठीक हूँ।" (आत्मविश्वासी दिखता है)।
- मस्तिष्क (एक्टिवेशन्स): दिल तेजी से धड़क रहा है, पुतलियाँ फैली हुई हैं। (वास्तव में डरा हुआ है)।
- शोधकर्ताओं ने पाया कि AI का "दिल तेजी से धड़क रहा था" (आंतरिक संकेत) बहुत अधिक स्पष्ट रूप से दिखाया कि वह कब भ्रमित था, भले ही उसकी "आवाज़" आत्मविश्वासी लग रही थी। मानव-समान अनिश्चितता कोड के भीतर गहराई में छिपी हुई थी, न कि अंतिम उत्तर में।
C. समूह बनाम व्यक्तिगत
शोधकर्ताओं ने यह भी पाया कि AI व्यक्तियों की तुलना में समूहों की नकल करने में बेहतर था।
- रूपक: AI यह जानने में अच्छा है कि, "औसत रूप से, लोग इस सवाल को कठिन पाते हैं।" लेकिन वह यह जानने में उतना अच्छा नहीं है कि, "यह विशेष व्यक्ति अभी भ्रमित है।"
5. इसका क्या अर्थ है? (पूरी तरह से पेपर के अनुसार)
पेपर निष्कर्ष निकालता है कि:
- AI अनिश्चितता वास्तविक है लेकिन कमजोर है: यह मौजूद है, लेकिन यह मानव अनिश्चितता का सटीक दर्पण नहीं है।
- प्रशिक्षण ईमानदारी को नुकसान पहुँचाता है: AI मॉडल्स को निर्देश पालन करने के लिए प्रशिक्षित करना (Instruct Fine-Tuning) उनकी अनिश्चितता को दर्शाने की क्षमता को तोड़ता हुआ प्रतीत होता है, चाहे वह उनके व्यवहार में हो या उनके कैलिब्रेशन में।
- बॉक्स के अंदर देखें: यदि आप जानना चाहते हैं कि क्या कोई AI वास्तव में अनिश्चित है, तो आप केवल यह सुनकर नहीं जान सकते कि वह क्या कहता है। आपको इसके आंतरिक "मस्तिष्क तरंगों" (एक्टिवेशन्स) को देखना होगा, जहाँ मानव-समान संकेत बहुत अधिक मजबूत होते हैं।
संक्षेप में: पेपर सुझाव देता है कि हालांकि AI मॉडल मानव संदेह का पूर्ण दर्पण नहीं हैं, फिर भी उनमें एक "छिपी हुई तंत्रिका प्रणाली" (hidden nervous system) है जो मनुष्यों की तरह भ्रम के प्रति प्रतिक्रिया करती है। हालाँकि, हम उन्हें जितना अधिक सहायक चैटबॉट बनने के लिए प्रशिक्षित करते हैं, वे उतना ही अधिक उस घबराहट को आत्मविश्वास के मुखौटे के पीछे छिपाते जाते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।