🤖 AI

The Silent Vote: Improving Zero-Shot LLM Reliability by Aggregating Semantic Neighborhoods

यह शोध पत्र 'सिमेंटिक सॉफ्टमैक्स' (Semantic Softmax) को प्रस्तुत करता है, जो एक इन्फरेंस-टाइम विधि है जो ज़ीरो-शॉट LLM वर्गीकरण में 'रीनॉर्मलाइज़ेशन बायस' (Renormalization Bias) और उसके परिणामस्वरूप होने वाले "साइलेंट वोट" (Silent Vote) को कम करने के लिए सिमेंटिक पड़ोस से स्कोर को एकत्रित करती है, जिससे कई बेंचमार्क पर मॉडल के कैलिब्रेशन और विभेदक प्रदर्शन में महत्वपूर्ण सुधार होता है।

मूल लेखक: Sanket Badhe, Priyanka Tiwari, Deep Shah

प्रकाशित 2026-05-12

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC0 1.0

मूल लेखक: Sanket Badhe, Priyanka Tiwari, Deep Shah

मूल पेपर CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/) के तहत सार्वजनिक डोमेन को समर्पित है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ "द साइलेंट वोट" (The Silent Vote) पेपर का सरल भाषा और रोज़मर्रा के उदाहरणों के साथ विवरण दिया गया है।

समस्या: "साइलेंट वोट" और "जबरदस्ती का चुनाव" (The Forced Choice)

कल्पना कीजिए कि आप एक टैलेंट शो में जज हैं। आपके पास चुनने के लिए तीन विशिष्ट श्रेणियाँ (categories) हैं: खुशी (Joy), उदासी (Sadness), या गुस्सा (Anger)।

आप एक प्रदर्शन देखते हैं जो "उत्साह" (excitement) और "गर्व" (pride) का मिश्रण महसूस होता है। आपके मन में, आप जानते हैं कि "उत्साह" और "गर्व" "खुशी" के बहुत करीबी रिश्तेदार हैं। वास्तव में, आपका मस्तिष्क उन "रिश्तेदार" शब्दों को थोड़ा सा "वोट" देता है क्योंकि वे उस भावना से बहुत अच्छी तरह मेल खाते हैं।

हालाँकि, इस विशेष टैलेंट शो के नियम सख्त हैं: आपको केवल तीन आधिकारिक श्रेणियों में से ही एक को लिखने की अनुमति है। आप "उत्साह" या "गर्व" नहीं लिख सकते।

पारंपरिक तरीका (खामी):
वर्तमान AI सिस्टम में, जब मॉडल को आधिकारिक सूची में से केवल एक चुनने के लिए मजबूर किया जाता है, तो वह एक ऐसे जज की तरह व्यवहार करता है जो उन सभी "रिश्तेदार" वोटों को अनदेखा कर देता है। वह "उत्साह" और "गर्व" के सबूतों को फेंक देता है और कहता है, "चूँकि मैं उन्हें चुन नहीं सकता, और 'खुशी' ही एकमात्र विकल्प है जो इसके करीब है, इसलिए मुझे 100% यकीन है कि यह खुशी ही है!"

पेपर इसे रीनॉर्मलाइजेशन बायस (Renormalization Bias) कहता है। इन "साइलेंट वोट्स" (समानार्थी शब्दों और संबंधित शब्दों) को फेंककर, AI बनावटी रूप से अति-आत्मविश्वासी (overconfident) हो जाता है। उसे लगता है कि वह 99% निश्चितता के साथ उत्तर जानता है, भले ही उत्तर वास्तव में थोड़ा अस्पष्ट हो। यह खतरनाक है क्योंकि AI को यह नहीं पता होता कि वह कब अनुमान लगा रहा है।

समाधान: "सिमेंटिक सॉफ्टमैक्स" (पड़ोस की निगरानी)

लेखक एक नई विधि प्रस्तावित करते हैं जिसे सिमेंटिक सॉफ्टमैक्स (Semantic Softmax) कहा जाता है। रिश्तेदारों को अनदेखा करने के बजाय, यह विधि एक स्मार्ट 'नेबरहुड वॉच' (पड़ोस की निगरानी) की तरह काम करती है।

यह कैसे काम करता है:

पूरे पड़ोस को देखें: AI को केवल एक लेबल चुनने के लिए मजबूर करने से पहले, यह उन शीर्ष 50 शब्दों को देखता है जिनके बारे में AI सोच रहा था, भले ही वे आधिकारिक सूची में न हों।
वोट इकट्ठा करें: यह पूछता है, "क्या 'उत्साह' शब्द 'खुशी' जैसा दिखता है? क्या 'गर्व' शब्द 'खुशी' जैसा दिखता है?"
सबूतों को जोड़ें: यदि AI "उत्साह" और "गर्व" के बारे में सोच रहा था, तो यह उन "वोटों" को "खुशी" के ढेर में जोड़ देता है।
परिणाम: यह कहने के बजाय कि "मुझे 100% यकीन है कि यह खुशी है," AI कह सकता है, "यह ज्यादातर खुशी है, लेकिन इसकी संभावना है कि यह इससे संबंधित कुछ और भी हो सकता है, इसलिए मैं केवल लगभग 75% निश्चित हूँ।"

यह AI को कैलिब्रेटेड (calibrated) बनाता है। यह स्वीकार करता है कि वह अनिश्चित है, जो वास्तविक दुनिया के उपयोग के लिए बहुत अधिक विश्वसनीय है।

उपमा: एक भीड़भाड़ वाला कमरा

AI के दिमाग को लोगों (शब्दों) से भरे एक भीड़भाड़ वाले कमरे के रूप में सोचें।

पुराना तरीका: आप AI को कहते हैं, "केवल उन्हीं लोगों की बात सुनो जिन्होंने लाल, नीले या हरे रंग की टोपी पहनी है।" यदि कमरे में मौजूद व्यक्ति जिसने बैंगनी (Purple) टोपी पहनी है (एक समानार्थी शब्द) वह सबसे ज़ोर से चिल्ला रहा है, तो AI उसे अनदेखा कर देता है। फिर, वह लाल टोपी वाले व्यक्ति को देखता है और कहता, "चूँकि बैंगनी गायब है, इसलिए लाल ही सबसे तेज़ है!" AI अपने आप से झूठ बोल रहा है कि लाल वास्तव में कितना तेज़ है।
नया तरीका (सिमेंटिक सॉफ्टमैक्स): AI बैंगनी टोपी वाले व्यक्ति को सुनता है, महसूस करता है कि वे लाल टोपी वाले व्यक्ति के बारे में ही बात कर रहे हैं, और उनकी आवाज़ को लाल समूह में जोड़ देता है। अब, AI सटीक रूप से माप सकता है कि "लाल" समूह वास्तव में कितना तेज़ है, जिसमें वे सभी आवाज़ें भी शामिल हैं जो किनारे से उसका समर्थन कर रही थीं।

शोध में क्या पाया गया

शोधकर्ताओं ने दो लोकप्रिय AI मॉडलों (Qwen-3 और Phi-4-mini) पर दो अलग-अलग डेटासेट का उपयोग करके इसका परीक्षण किया:

GoEmotions: मानव भावनाओं के बारे में एक डेटासेट (जैसे "प्रशंसा", "गर्व", "खुशी")।
Civil Comments: जहरीली टिप्पणियों (toxic comments) के बारे में एक डेटासेट, जहाँ इंसान अक्सर इस बात पर असहमत होते हैं कि कोई चीज़ जहरीली है या नहीं (अस्पष्ट मामले)।

परिणाम:

कम अति-आत्मविश्वास: नए तरीके ने "एक्सपेक्टेड कैलिब्रेशन एरर" (एक स्कोर जो यह मापता है कि AI कितनी बार अपनी धारणा के बारे में गलत होता है) को काफी कम कर दिया। सरल शब्दों में, AI ने जीनियस होने का ढोंग करना बंद कर दिया जब वह वास्तव में केवल अनुमान लगा रहा था।
बेहतर सटीकता: आश्चर्यजनक रूप से, अनिश्चितता को स्वीकार करके, AI वास्तव में सही लेबल चुनने में बेहतर हो गया। इसने विभिन्न श्रेणियों के बीच अंतर करने की अपनी क्षमता में सुधार किया।
मानव जैसी अनिश्चितता: उन मामलों में जहाँ इंसानों के बीच असहमति थी (जैसे, "क्या यह टिप्पणी अपमानजनक है या सिर्फ स्पष्ट है?"), इस विधि का उपयोग करने वाला AI एक ऐसा स्कोर देता है जो औसत मानव राय से मेल खाता है, न कि किसी कठोर "हाँ" या "नहीं" पर ज़ोर देता है।

महत्वपूर्ण सीमाएँ (जो पेपर कहता है)

लेखक सावधानीपूर्वक यह नोट करते हैं कि यह विधि क्या नहीं करती है:

यह पूर्वाग्रह (bias) के लिए जादुई समाधान नहीं है: यदि AI का दिमाग कुछ समूहों के प्रति पक्षपाती है, तो यह विधि उसे ठीक नहीं करेगी। यह केवल AI को उसकी अनिश्चितता के बारे में अधिक ईमानदार बनाती है।
यह "ज़ीरो-शॉट" कार्यों के लिए है: यह उन स्थितियों के लिए डिज़ाइन किया गया है जहाँ आप AI से एक सूची में से एक लेबल चुनने के लिए कहते हैं बिना उसे फिर से प्रशिक्षित (retrain) किए। यह लंबी कहानियाँ या निबंध बनाने के लिए नहीं है।
इसमें थोड़ा समय लगता है: इस विधि के लिए AI को "पड़ोस" के शब्दों को खोजने के लिए थोड़ी अतिरिक्त गणित करने की आवश्यकता होती है, जिससे यदि आप एक साथ लाखों शब्दों को प्रोसेस कर रहे हैं तो यह थोड़ा धीमा हो सकता है।
इसे अच्छे "मानचित्रों" की आवश्यकता है: यह विधि इस बात पर निर्भर करती है कि AI के पास शब्द एक-दूसरे से कैसे संबंधित हैं, इसकी अच्छी समझ हो। यदि AI का भाषा का आंतरिक मानचित्र अव्यवस्थित है, तो यह विधि भ्रमित हो सकती है।

निष्कर्ष

पेपर का तर्क है कि जब हम AI को एक छोटी सूची से एक एकल लेबल चुनने के लिए मजबूर करते हैं, तो हम अनजाने में उसे इस बारे में झूठ बोलने के लिए मजबूर करते हैं कि वह कितना आश्वस्त है। समान शब्दों के "साइलेंट वोट्स" को गिनने देकर, हम AI को अधिक ईमानदार, अधिक सटीक और यह जानने में बेहतर बना सकते हैं कि वह कब नहीं जानता।

तकनीकी सारांश: द साइलेंट वोट (The Silent Vote)

समस्या की परिभाषा: रीनॉर्मलाइजेशन बायस (Renormalization Bias) और द साइलेंट वोट

यह शोध पत्र लार्ज लैंग्वेज मॉडल्स (LLMs) में एक व्यवस्थित विश्वसनीयता संबंधी समस्या की पहचान करता है, जिसका उपयोग ज़ीरो-शॉट क्लासिफायर के रूप में किया जाता है, जिसे रीनॉर्मलाइजेशन बायस (Renormalization Bias) कहा गया है। मानक कंस्ट्रेंड डिकोडिंग (constrained decoding) में, मॉडल्स को लक्षित लेबल के एक छोटे सेट (जैसे, विशिष्ट भावना श्रेणियां) तक सीमित कर दिया जाता है। इसे लागू करने के लिए, सॉफ्टमैक्स ऑपरेशन केवल उन टोकन पर लागू किया जाता है जो इन लेबलों का प्रतिनिधित्व करते हैं, जिससे शेष शब्दावली को प्रभावी रूप से मास्क (mask) कर दिया जाता है।

लेखक तर्क देते हैं कि यह प्रक्रिया "साइलेंट वोट" (Silent Vote) को त्याग देती है: वह संभाव्यता द्रव्यमान (probability mass) जो उन अर्थ संबंधी समानार्थी शब्दों (semantic synonyms) और संबंधित अवधारणाओं को दिया जाता है जो बाधित लेबल सेट के बाहर मौजूद हैं लेकिन इनपुट के लिए अर्थपूर्ण रूप से प्रासंगिक हैं। क्योंकि LLMs वितरित प्रतिनिधित्व (distributed representations) में सीखते हैं जहाँ अर्थ समानार्थी शब्दों के एक सघन पड़ोस में फैला होता है, इसलिए गणना करने से पहले केवल चुनिंदा टोकनों को चुनने के लिए मजबूर करना कृत्रिम अति-आत्मविश्वास (artificial overconfidence) की ओर ले जाता है। मॉडल एक लक्षित लेबल को लगभग निश्चित संभाव्यता प्रदान करता है क्योंकि वह एकमात्र अनुमत टोकन है जिसकी गैर-नगण्य आत्मीयता (affinity) है, भले ही पूर्ण अर्थ संबंधी संरेखण (semantic alignment) कमजोर हो। इसके परिणामस्वरूप खराब अंशांकन (calibration) होता है, जहाँ अनुमानित आत्मविश्वास वास्तविक सटीकता से काफी अधिक हो जाता है, और यह अस्पष्ट इनपुट में निहित एलीओरेटिक अनिश्चितता (aleatoric uncertainty) को मापने में विफल रहता है।

कार्यप्रणाली: सिमेंटिक सॉफ्टमैक्स (Semantic Softmax)

खोई हुई जानकारी को पुनः प्राप्त करने और रीनॉर्मलाइजेशन बायस को कम करने के लिए, लेखक सिमेंटिक सॉफ्टमैक्स (Semantic Softmax) का प्रस्ताव करते हैं, जो एक हल्का, प्रशिक्षण-मुक्त इन्फरेंस लेयर है। मानक कंस्ट्रेंड डिकोडिंग के विपरीत, जो शब्दावली को मास्क करता है, सिमेंटिक सॉफ्टमैक्स प्रत्येक लक्षित लेबल के आसपास के अर्थ संबंधी पड़ोस से संभाव्यता द्रव्यमान को एकत्रित करता है।

यह ढांचा इस प्रकार कार्य करता है:

अनकन्स्ट्रेंड डिस्ट्रीब्यूशन (Unconstrained Distribution): मॉडल पूरी शब्दावली पर रॉ लॉजिट्स (raw logits) उत्पन्न करता है।
टॉप-K चयन: मास्किंग के बजाय, यह विधि अनकन्स्ट्रेंड डिस्ट्रीब्यूशन से शीर्ष $K$ टोकन ( $V_{topK}$ ) पर विचार करती है।
सिमेंटिक कर्नेल (Semantic Kernel): मॉडल के आउटपुट एम्बेडिंग्स का उपयोग करके प्रत्येक अनकन्स्ट्रेंड टोकन $v$ और एक लक्षित लेबल $l$ के बीच एक सिमेंटिक वेट $w(v, l)$ की गणना की जाती है। यह वेट एक थ्रेशोल्ड किए गए कोसाइन सिमिलरिटी (cosine similarity) से प्राप्त होता है:
$w(v, l) = \max\left(0, \frac{E_v \cdot E_l}{\|E_v\|\|E_l\|} - \tau\right)$
जहाँ $\tau$ एक हाइपरपैरामीटर थ्रेशोल्ड है जो शोर फिल्टर (noise filter) के रूप में कार्य करता है।
एग्रीगेटेड प्रोबेबिलिटी (Aggregated Probability): लक्षित लेबल के लिए अंतिम संभाव्यता, सभी लक्षित लेबलों के बीच सामान्यीकृत (normalized) टॉप $K$ टोकन की संभाव्यताओं का एक भारित योग (weighted sum) है:
$P_{sem}(l|x) = \frac{\sum_{v \in V_{topK}} P(v) \cdot w(v, l)}{\sum_{l' \in L} \sum_{v \in V_{topK}} P(v) \cdot w(v, l')}$

यह दृष्टिकोण मॉडल को अपनी आंतरिक अनिश्चितता को प्रतिबिंबित करने की अनुमति देता; यदि अर्थ संबंधी साक्ष्य विभिन्न वर्गों से जुड़े टोकन में वितरित हैं, तो परिणामी संभाव्यता वितरण स्वाभाविक रूप से 'सॉफ्ट' हो जाता है, न कि कृत्रिम रूप से अत्यधिक केंद्रित (peaked) रहता है।

प्रयोगात्मक सेटअप और परिणाम

लेखकों ने Qwen-3-1.7B और Phi-4-mini (3.8B) मॉडल्स का उपयोग करके दो डेटासेट्स पर सिमेंटिक सॉफ्टमैक्स का मूल्यांकन किया:

GoEmotions: 58,000 रेडिट कमेंट्स का एक डेटासेट जिसमें 28 सूक्ष्म भावना श्रेणियां हैं, जिसे लेबलों के बीच भारी अर्थ संबंधी ओवरलैप के लिए चुना गया था।
Civil Comments (Ambiguous Subset): एलीओरेटिक अनिश्चितता को संभालने का मूल्यांकन करने के लिए, जिसमें हार्ड लेबल्स के बजाय एनोटेटर असहमति स्कोर का उपयोग किया गया।

मुख्य परिणाम:

अंशांकन सुधार (Calibration Improvement): सिमेंटिक सॉफ्टमैक्स ने एक्सपेक्टेड कैलिब्रेशन एरर (ECE) को नाटकीय रूप से कम कर दिया। GoEmotions पर, Qwen-3 के लिए ECE 0.574 से गिरकर 0.069 हो गया और Phi-4 के लिए 0.421 से गिरकर 0.065 हो गया, जो मानक बेसलाइन्स की तुलना में 8.5 गुना तक का सुधार दर्शाता है। Civil Comments पर भी समान कमी (औसतन 75% से अधिक) देखी गई।
ब्रायर स्कोर (Brier Score): विधि ने लगातार ब्रायर स्कोर को कम किया, जो अनुमानित संभाव्यता और वास्तविक परिणामों के बीच माध्य वर्ग अंतर (mean squared difference) में कमी को दर्शाता है।
विभेदक प्रदर्शन (Discriminative Performance): इस धारणा के विपरीत कि अंशांकन सुधारों से सटीकता में समझौता हो सकता है, सिमेंटिक सॉफ्टमैक्स ने साथ ही साथ विभेदक शक्ति (discriminative power) को भी बढ़ाया। सभी परीक्षण कॉन्फ़िगरेशन में AUROC और मैक्रो-F1 स्कोर में वृद्धि हुई।
कॉन्फिडेंस डिस्ट्रीब्यूशन: रिलायबिलिटी डायग्राम ने दिखाया कि मानक डिकोडिंग में व्यवस्थित अति-आत्मविश्वास (नीचे की ओर वक्र) प्रदर्शित हुआ, जबकि सिमेंटिक सॉफ्टमैक्स आदर्श अंशांकन वक्र का बारीकी से पालन करता है। अस्पष्ट इनपुट पर, मानक मॉडल्स ने चरम संभाव्यता (>0.9) को थोपा, जबकि सिमेंटिक सॉफ्टमैक्स ने मानव सहमति के अनुरूप स्कोर दिए।

मुख्य योगदान

यह शोध पत्र तीन प्राथमिक योगदान देता है:

रीनॉर्मलाइजेशन बायस का औपचारिकीकरण: लेखकों ने लक्षित टोकनों तक नॉर्मलाइजेशन को प्रतिबंधित करने से होने वाले व्यवस्थित विरूपण को परिभाषित और औपचारिक रूप दिया, इसे एंटरप्राइज LLM परिनियोजन में अति-आत्मविश्वास के चालक के रूप में पहचाना।
सिमेंटिक सॉफ्टमैक्स फ्रेमवर्क: उन्होंने एक ऑपरेशनल रूप से व्यवहार्य, गणितीय रूप से आधारित विधि पेश की जो पैरामीटर अपडेट या संरचनात्मक मॉडल परिवर्तनों की आवश्यकता के बिना कंस्ट्रेंड इन्फरेंस के दौरान वितरित अर्थ संबंधी साक्ष्य को एकत्रित करती है।
अनुभवजन्य सत्यापन (Empirical Validation): GoEmotions और Civil Comments पर प्रयोगों के माध्यम से, वे प्रदर्शित करते हैं कि यह विधि अंशांकन त्रुटि और ब्रायर स्कोर को कम करती है, साथ ही अस्पष्ट परिदृश्यों में मानव असहमति के साथ संरेखण को बेहतर बनाती है और समग्र विभेदक प्रदर्शन को बढ़ाती है।

महत्व और सीमाएं

यह शोध पत्र सिमेंटिक सॉफ्टमैक्स को मौजूदा सर्विंग इंफ्रास्ट्रक्चर के लिए एक "प्लग-एंड-प्ले" समाधान के रूप में प्रस्तुत करता है जो भाषाई बारीकियों को ध्यान में रखकर ज़ीरो-शॉट वर्गीकरण की विश्वसनीयता में सुधार करता है। यह विषाक्तता (toxicity) का पता लगाने और भावना वर्गीकरण जैसे कार्यों के लिए एक अधिक कैलिब्रेटेड विकल्प प्रदान करता है।

हालाँकि, लेखक अपने दावों के संबंध में एक सीमित दायरा बनाए रखते हैं:

दायरा (Scope): यह विधि विशेष रूप से "LLM as a Classifier" प्रतिमान के लिए डिज़ाइन की गई है जिसमें कंस्ट्रेंड डिकोडिंग का उपयोग होता है।
आर्किटेक्चर: सत्यापन कुशल, छोटे आर्किटेक्चर (1.7B–3.8B पैरामीटर्स) तक सीमित था; बड़े फाउंडेशन मॉडल्स के लिए स्केलिंग लॉ (scaling laws) स्थापित नहीं किए गए हैं।
कंप्यूटेशनल लागत: यह विधि डायनेमिक टॉप-k सर्च और सिमिलरिटी गणनाओं के कारण इन्फरेंस-टाइम ओवरहेड पेश करती है, जिससे यह उन लंबे-फॉर्म डिकोडिंग कार्यों के लिए कम उपयुक्त हो जाती है जहाँ लेटेंसी संचयी (cumulative) होती है।
एम्बेडिंग निर्भरता: इसकी प्रभावकारिता अंतर्निहित एम्बेडिंग स्पेस की गुणवत्ता पर निर्भर करती; एनिसोट्रोपिक (anisotropic) एम्बेडिंग्स या खराब सिमेंटिक क्लस्टरिंग सैद्धांतिक रूप से शोर पैदा कर सकती है।
भाषा: मूल्यांकन वर्तमान में अंग्रेजी बेंचमार्क तक सीमित है।

नैतिक नोट: लेखक इस बात पर जोर देते हैं कि हालांकि यह विधि अनिश्चितता मात्रा निर्धारण (uncertainity quantification) में सुधार करती है, यह बेस मॉडल्स में निहित सामाजिक पूर्वाग्रहों को समाप्त नहीं करती है। वे संवेदनशील मॉडरेशन कार्यों के लिए केवल स्वचालित निर्णयों पर भरोसा करने के बजाय उच्च-अनिश्चितता वाले आउटपुट को 'ह्यूमन-इन-द-लूप' समीक्षा के लिए ट्रिगर के रूप में उपयोग करने की सलाह देते हैं।