Graded Entity-Familiarity Readouts in Language Models: Polish Adaptation, Cross-Language Robustness, and Refusal Steering
यह शोध पत्र प्रदर्शित करता है कि भाषा मॉडल, विशेष रूप से पोलिश के लिए अनुकूलित, संस्थागत परिचितता (entity familiarity) के क्रमिक आंतरिक रीडआउट (graded internal readouts) रखते हैं जो प्रॉम्प्ट भाषा के प्रति सुदृढ़ हैं और इनकार व्यवहार (refusal behaviors) को नियंत्रित करने के लिए प्रभावी ढंग से निर्देशित किए जा सकते हैं, हालांकि ये पूर्व-उत्पादन संकेत (pre-generation signals) अंतिम परहेज निर्णयों (abstention decisions) को नियंत्रित करने वाली नीतियों से भिन्न रहते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक रोबोट का आंतरिक एकालाप: वह कब जानता है कि वह नहीं जानता?
कल्पना कीजिए कि आप एक बहुत बुद्धिमान रोबोट से एक सवाल पूछ रहे हैं। कभी-कभी, रोबोट उत्तर जानता है और आत्मविश्वास के साथ बोलता है। अन्य समय में, यह एक कहानी बना सकता है क्योंकि वास्तव में इसे सच्चाई का पता नहीं होता, एक ऐसी गलती जिसे हम "हैलुसिनेशन" (hallucinating) कहते हैं। वैज्ञानिक लंबे समय से सोच रहे हैं: क्या रोबोट टाइप करना शुरू करने से पहले ही यह अंतर कर सकता है कि "मैं यह जानता हूँ" और "मैं केवल अनुमान लगा रहा हूँ"?
इसे समझने के लिए, हमें रोबोट के मस्तिष्क के भीतर देखना होगा, जो "एक्टिवेशन्स" (activations) नामक गणितीय कनेक्शन की परतों से बना है। इन एक्टिवेशन्स को मानव मस्तिष्क में बिजली के संकेतों की तरह समझें जब आप किसी चेहरे को देखते हैं। यदि आप किसी मित्र को देखते हैं, तो संकेत मजबूत और विशिष्ट होता है; यदि आप किसी अजनबी को देखते हैं, तो यह कमजोर या धुंधला होता है। शोधकर्ताओं ने पाया है कि इन विद्युत संकेतों में अक्सर एक छिपा हुआ "कॉन्फिडेंस मीटर" (विश्वास का मीटर) होता है। यदि रोबोट से ऐसी चीज़ के बारे में पूछा जाता है जिसे उसने अपने प्रशिक्षण डेटा में कई बार देखा है, तो सिग्नल अलग दिखता है बजाय इसके कि उसे किसी ऐसी चीज़ के बारे में पूछा जाए जो पूरी तरह से मनगढ़ंत है। बड़ा सवाल यह है: क्या हम इस मीटर को पढ़ सकते हैं ताकि रोबोट एक भी शब्द बोलने से पहले झूठ बोलने से रुक जाए?
पोलिश जासूस और "परिचितता" का मीटर
यह शोध पत्र एक जासूसी कहानी की तरह है, लेकिन अपराध सुलझाने के बजाय, लेखक, ग्रेगोर्ज़ ब्रज़ेज़िंका (Grzegorz Brzezinka), यह जांच रहे हैं कि बारह अलग-अलग AI मॉडल पोलिश नामों और स्थानों के बारे में कैसा "महसूस" करते हैं। लक्ष्य यह देखना था कि क्या इन मॉडलों में एक अंतर्निहित "परिचितता मीटर" (familiarity meter) है जो उन्हें बताता है कि वे किसी इकाई (entity) को कितनी अच्छी तरह जानते हैं, और क्या वह मीटर तब भी काम करता है जब प्रश्न किसी अन्य भाषा में पूछा जाता है।
सेटअप: पोलिश नामों का एक पुस्तकालय
इस परीक्षण के लिए, लेखक ने 1,440 पोलिश संस्थाओं (entities) का एक विशेष परीक्षण सेट बनाया। एक पुस्तकालय की कल्पना करें जिसमें चार खंड हैं: एथलीट, शहर, लेखक और संगीतकार। प्रत्येक खंड में वास्तविक लोग और स्थान हैं, जो अति-प्रसिद्ध सितारों (जैसे सबसे अधिक देखे जाने वाले विकिपीडिया पेजों के शीर्ष 10%) से लेकर गुमनाम स्थानीय लोगों (निचले 10%) तक विस्तृत हैं। महत्वपूर्ण रूप से, लेखक ने 240 नकली नाम भी बनाए जो बिल्कुल असली पोलिश नामों की तरह लगते और सुनाई देते थे लेकिन उनका अस्तित्व नहीं था। यह कंट्रोल ग्रुप था: यदि रोबोट नकली नाम से भ्रमित हो जाता है, तो वह झूठा है; यदि वह अंतर जानता है, तो वह ईमानदार है।
निष्कर्ष 1: मीटर एक स्विच नहीं, बल्कि एक डायल है
पहली बड़ी खोज यह है कि परिचितता केवल एक लाइट स्विच (On/Off) नहीं है। यह एक डिमर स्विच (dimmer switch) है। अध्ययन में पाया गया कि विशेष रूप से पोलिश के लिए अनुकूलित मॉडलों (जैसे Bielik और PLLuM परिवार) के लिए, "परिचितता स्कोर" सहजता से बढ़ता है जैसे-जैसे इकाई अधिक लोकप्रिय होती जाती है।
- उपमा: वॉल्यूम नॉब की कल्पना करें। एक सुपर-फेमस गायक के लिए, नॉब पूरा ऊपर की ओर है। एक स्थानीय बैंड के लिए, यह आधा है। एक मनगढ़ंत नाम के लिए, यह शून्य पर है।
- आश्चर्य: यह "डिमर" प्रभाव बड़े, सामान्य-उद्देश्य वाले मॉडलों (जैसे Gemma-4 या Qwen3) की तुलना में पोलिश-अनुकूलित मॉडलों में बहुत अधिक मजबूत था। भले ही सामान्य मॉडल बड़े थे (उनमें अधिक "पैरामीटर्स" थे), उनके पास बेहतर परिचितता मीटर नहीं था। यह स्पष्ट है कि विशेष रूप से पोलिश सीखना इस कौशल के लिए केवल मॉडल को बड़ा बनाने से अधिक महत्वपूर्ण था। पोलिश-अनुकूलित मॉडलों ने लोकप्रियता और उनकी आंतरिक धारणा के बीच एक स्पष्ट सहसंबंध (0.28 और 0.57 के बीच) दिखाया, जबकि अन्य लगभग शून्य के करीब थे।
निष्कर्ष 2: मीटर भाषाओं के पार काम करता है
लेखक ने फिर एक पेचीदा सवाल पूछा: क्या यह मीटर पोलिश शब्दों को पढ़ रहा है या वास्तविक इकाई को? इसका परीक्षण करने के लिए, उन्होंने एक प्रसिद्ध पोलिश एथलीट के बारे में प्रश्न लिया और उसे पोलिश ("Kim jest...?") के बजाय अंग्रेजी ("Who is...?") में पूछा।
- परिणाम: मीटर में कोई खास हलचल नहीं हुई। भाषा बदलने पर मॉडल अपनी सटीकता का 96% से 101% तक बनाए रखते हैं। यह सुझाव देता है कि रोबोट केवल पोलिश व्याकरण को नहीं पहचान रहा है; वह वास्तव में प्रश्न के भीतर मौजूद व्यक्ति को पहचान रहा है, चाहे उसके बारे में पूछने के लिए किसी भी भाषा का उपयोग किया जाए।
निष्कर्ष 3: हम "रिफ्यूज़ल" (अस्वीकार करने वाले) बटन को हैक कर सकते हैं
यह कहानी का सबसे नाटकीय हिस्सा है। Gemma-4-12B नामक एक मॉडल की एक आदत थी कि जब वह अनिश्चित होता था तो "मुझे नहीं पता" (मना करना) कहता था। लेखक ने यह देखने का निर्णय लिया कि क्या वे रोबोट के मस्तिष्क को "स्टीयर" (steer) करके इस व्यवहार को नियंत्रित कर सकते हैं।
- प्रयोग: उन्होंने मॉडल के मस्तिष्क में एक विशिष्ट गणितीय दिशा पाई जो "परिचितता" का प्रतिनिधित्व करती थी। इस दिशा में एक छोटा सा धक्का देकर, वे रोबोट को अपना मन बदलने के लिए मजबूर कर सकते थे।
- जादू:
- यदि उन्होंने रोबोट को एक प्रसिद्ध व्यक्ति के प्रति कम परिचित महसूस करने के लिए प्रेरित किया, तो इनकार (refusal) की दर 24% से बढ़कर 100% हो गई। रोबोट अचानक तय करने लगा कि वह उत्तर नहीं जानता, भले ही वह जानता था।
- यदि उन्होंने रोबोट को एक नकली नाम के प्रति अधिक परिचित महसूस करने के लिए प्रेरित किया, तो इनकार की दर 73% से गिरकर 0% हो गई। रोबोट ने उन लोगों के लिए जीवन परिचय (biographies) बनाने के लिए आत्मविश्वास से लिखना शुरू कर दिया जो अस्तित्व में ही नहीं थे।
- सीख: यह साबित करता है कि परिचितता का संकेत केवल एक निष्क्रिय अवलोकन नहीं है; यह एक कारणत्मक लीवर (causal lever) है। यदि आप "परिचितता" बटन को दबाते हैं, तो रोबोट का बोलने या चुप रहने का निर्णय तुरंत बदल जाता है।
निष्कर्ष 4: "प्री-फ्लाइट" चेक
अंत में, शोध पत्र ने पूछा: क्या हम इस मीटर का उपयोग रोबोट को उत्तर उत्पन्न करने से पहले झूठ बोलने से रोकने के लिए कर सकते हैं?
- तुलना: लेखक ने अपने "वन-पास" मीटर (जो उत्तर लिखे जाने से पहले प्रश्न की जांच करता है) की तुलना अन्य तरीकों से की जो त्रुटियों की जांच के लिए उत्तर समाप्त होने तक प्रतीक्षा करते हैं।
- फैसला: प्री-फ्लाइट मीटर नकली नामों को पकड़ने में उत्कृष्ट था, जिसने लगभग सभी अन्य तरीकों को पीछे छोड़ दिया। हालाँकि, यह भविष्यवाणी करना कि उत्तर तथ्यात्मक रूप से गलत होगा या नहीं, अधिक कठिन था। मीटर पोलिश मॉडलों के लिए अच्छा काम कर रहा था, लेकिन उस मॉडल के लिए जिसने उत्तर देने से मना कर दिया (Gemma-4), परिणाम जटिल थे क्योंकि मॉडल की "मुझे नहीं पता" कहने की अपनी आदत ने त्रुटि गणना (error count) को प्रभावित किया।
- बड़ी तस्वीर: अध्ययन निष्कर्ष निकालता है कि हालांकि रोबोट के मस्तिष्क में एक क्रमिक परिचितता संकेत (graded familiarity signal) होता है, लेकिन सभी रोबोट इसका उपयोग यह तय करने के लिए नहीं करते कि बोलना है या नहीं। पोलिश मॉडलों के पास संकेत था लेकिन उन्होंने उत्तर देने से मना नहीं किया। Gemma मॉडल ने मना किया, लेकिन उसका संकेत कम सटीक था। शोध पत्र सुझाव देता है कि हमें एक बाहरी "गेटकीपर" बनाने की आवश्यकता हो सकती है जो इस संकेत को पढ़े और यह तय करे कि रोबोट को उत्तर देना चाहिए या जानकारी ढूँढनी चाहिए, विशेष रूप से अस्पष्ट, लंबी पूंछ (long-tail) वाले प्रश्नों के लिए।
यह क्यों महत्वपूर्ण है
यह शोध बताता है कि AI मॉडलों के पास एक छिपा हुआ "अंतर्मन" (gut feeling) होता है कि वे क्या जानते हैं, और हम इसे पढ़ सकते हैं। यह केवल मॉडलों को बड़ा बनाने के बारे में नहीं है; यह इस बारे में है कि उन्हें कैसे प्रशिक्षित किया जाता है। यदि हम मॉडलों को इस आंतरिक मीटर पर भरोसा करना सिखा सकें, या ऐसे उपकरण बना सकें जो इसे सुन सकें, तो हम उन्हें उन चीजों के बारे में आत्मविश्वास से मनगढ़ंत बातें बनाने से रोक पाएंगे जिन्हें उन्होंने कभी देखा ही नहीं है। यह AI को न केवल स्मार्ट, बल्कि उसकी अपनी सीमाओं के प्रति अधिक ईमानदार बनाने की दिशा में एक कदम है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।