← नवीनतम पेपर
💬 NLP

LLMs as Signal Detectors: Sensitivity, Bias, and the Temperature-Criterion Analogy

यह पूर्व-पंजीकृत अध्ययन सिग्नल डिटेक्शन थ्योरी (Signal Detection Theory) को लार्ज लैंग्वेज मॉडल्स पर लागू करता है, जो यह प्रकट करता है कि तापमान एक शुद्ध क्राइटेरियन शिफ्ट के बजाय संवेदनशीलता और पूर्वाग्रह दोनों के दोहरे-मॉड्यूलेटर के रूप में कार्य करता है, और यह प्रदर्शित करता है कि पूर्ण पैरामीट्रिक एसडीटी फ्रेमवर्क उन महत्वपूर्ण नैदानिक अंतरों को उजागर करता है जिन्हें पारंपरिक कैलिब्रेशन मेट्रिक्स पकड़ने में विफल रहते हैं।

मूल लेखक: Jon-Paul Cacioli

प्रकाशित 2026-03-17
📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Jon-Paul Cacioli

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

मुख्य विचार: क्या LLMs को पता है कि वे क्या जानते हैं?

कल्पना कीजिए कि आप एक परीक्षा दे रहे हैं। आप एक प्रश्न का उत्तर देते हैं, और फिर आपको कहना होता है, "मुझे 90% यकीन है कि यह सही है।"

  • समस्या: कभी-कभी, एक छात्र (या एक AI) बहुत आत्मविश्वासी हो सकता है लेकिन पूरी तरह से गलत हो सकता है। अन्य समय में, वे सही हो सकते हैं लेकिन इतना संकोच कर सकते हैं कि बता न पाएं।
  • वर्तमान उपकरण: वैज्ञानिक आमतौर पर इसे "कैलिब्रेशन एरर" (Calibration Error) नामक मीट्रिक का उपयोग करके मापते हैं। यह यह जांचने जैसा है कि क्या छात्र का आत्मविश्वास उसके वास्तविक स्कोर से मेल खाता है। लेकिन यह उपकरण धुंधला है। यह दो अलग-अलग चीजों को मिला देता है:
    1. संवेदनशीलता (Sensitivity): छात्र वास्तव में सही और गलत उत्तरों के बीच अंतर जानने में कितना अच्छा है?
    2. पक्षपात (Bias): क्या छात्र स्वाभाविक रूप से अति-आत्मविश्वासी (एक "बड़बोला") है या कम आत्मविश्वासी (एक "विनम्र व्यक्ति")?

यह पेपर तर्क देता है कि AI को वास्तव में समझने के लिए, हमें इन दोनों चीजों को अलग करने की आवश्यकता है। ऐसा करने के लिए, लेखक मानव मनोविज्ञान के एक ढांचे का उपयोग करता है जिसे सिग्नल डिटेक्शन थ्योरी (SDT) कहा जाता है।


उपमा: समुद्र तट पर मेटल डिटेक्टर

एक LLM (लार्ज लैंग्वेज मॉडल) को समुद्र तट पर एक मेटल डिटेक्टर के रूप में सोचें।

  • सिग्नल (Signal): जमीन में दबा हुआ खजाने का संदूक (सही उत्तर)।
  • शोर (Noise): सोडा का कैन या कचरे का टुकड़ा (गलत उत्तर)।
  • ऑपरेटर (Operator): AI स्वयं।

ऑपरेटर के पास दो सेटिंग्स होती हैं:

  1. संवेदनशीलता (The "Ear" - कान): डिटेक्टर खजाने और सोडा के कैन के बीच अंतर को कितनी अच्छी तरह सुन सकता है? यदि डिटेक्टर खराब है, तो वह चाहे जो भी हो, उनमें अंतर नहीं कर पाएगा।
  2. मानदंड (The "Threshold" - सीमा): ऑपरेटर को खुदाई करने से पहले बीप कितनी तेज होनी चाहिए?
    • एक कठोर (Strict) ऑपरेटर केवल तभी खुदाई करता है जब उसे 100% यकीन हो कि यह सोना है (वह कुछ सोना मिस कर देता है लेकिन बहुत कम कचरा खोदता है)।
    • एक उदार (Liberal) ऑपरेटर हर छोटी बीप पर खुदाई करता है (वह सारा सोना ढूंढ लेता है, लेकिन बहुत सारे सोडा के कैन भी खोद देता है)।

पेपर का लक्ष्य: लेखक यह देखना चाहता था कि क्या AI पर "टेम्परेचर" (Temperature) सेटिंग बदलना, ऑपरेटर के थ्रेशोल्ड (मानदंड) को बदलने जैसा है।


बड़ा आश्चर्य: "टेम्परेचर" का तरीका वैसा काम नहीं करता जैसा हमने सोचा था

मानव मनोविज्ञान प्रयोगों में, यदि आप किसी व्यक्ति को बताते हैं, "यदि आपको सोना मिलता है, तो आपको 100मिलेंगे;यदिआपकोकचरामिलताहै,तोआप100 मिलेंगे; यदि आपको कचरा मिलता है, तो आप 1 खो देंगे," तो वे अपना थ्रेशोल्ड बदल देंगे। वे अधिक खुदाई करेंगे। लेकिन उनकी संवेदनशीलता (धातु सुनने की उनकी क्षमता) बिल्कुल वैसी ही रहती है।

लेखक ने परिकल्पना की थी कि AI के टेम्परेचर (जो रैंडमनेस को नियंत्रित करता है) को बदलना भी इसी तरह काम करेगा।

  • कम टेम्परेचर (Low Temperature): AI रूढ़िवादी है (कठोर थ्रेशोल्ड)।
  • उच्च टेम्परेचर (High Temperature): AI उदार है (ढीला थ्रेशोल्ड)।

परिणाम: यह उपमा टूट गई
जब लेखक ने टेम्परेचर बढ़ाया, तो AI ने केवल अपना थ्रेशोल्ड नहीं बदला। उसने वास्तव में सही और गलत उत्तरों के बीच अंतर को पहचानने में बेहतर प्रदर्शन किया (संवेदनशीलता बढ़ गई), लेकिन वह वास्तव में सही उत्तर देने में भी खराब हो गया (सटीकता गिर गई)।

क्यों?
एक मानव प्रयोग में, "खजाना" (प्रश्न) वही रहता है। लेकिन एक AI में, "टेम्परेचर" सेटिंग यह बदल देती है कि AI उत्तर कैसे बनाता है

  • उच्च तापमान पर, AI एक अलग रास्ते पर जा सकता है और पूरी तरह से अलग वाक्य बना सकता है।
  • यह नया वाक्य AI के लिए ऐसा हो सकता है कि उसे "महसूस" हो कि यह सही है (भले ही वह गलत हो), या यह एक बहुत ही आत्मविश्वास से भरा झूठ हो सकता है।
  • रूपक: यह मेटल डिटेक्टर को एक नई बैटरी देने जैसा है जो बीप को तेज और स्पष्ट बनाती है, लेकिन साथ ही डिटेक्टर को गलत जगहों पर खुदाई करने के लिए भी मजबूर करती है। आप "सुनने की क्षमता" को "खुदाई करने के निर्णय" से अलग नहीं कर सकते क्योंकि सेटिंग ने स्वयं उपकरण को ही बदल दिया।

मुख्य निष्कर्ष (सरल भाषा में)

1. "बहादुरी" बनाम "समझदारी" का अंतर

अध्ययन में पाया गया कि दो AI मॉडल का "कैलिब्रेशन स्कोर" बिल्कुल समान हो सकता है (कागज पर समान रूप से अच्छे दिखना), लेकिन वे अंदर से पूरी तरह से अलग हो सकते हैं।

  • मॉडल A सही और गलत के बीच अंतर करने में बहुत स्मार्ट हो सकता है लेकिन वह यह कहने में बहुत शर्मीला है कि "मुझे यह पता है।"
  • मॉडल B सही और गलत के बीच अंतर करने में बुरा हो सकता है लेकिन वह एक शोर मचाने वाला बड़बोना है।
  • सीख: मानक मेट्रिक्स इसे छिपा देते हैं। SDT इसे उजागर करता है। यदि आपके पास एक "शर्मीला" मॉडल है, तो आपको बस उसे प्रोत्साहित करने की आवश्यकता है (थ्रेशोल्ड को एडजस्ट करें)। यदि आपके पास एक "मूर्ख" मॉडल है, तो आपको उसे फिर से प्रशिक्षित करने की आवश्यकता है।

2. "असमान विचरण" (Unequal Variance) का रहस्य

अध्ययन में पाया गया कि AI का आंतरिक "आत्मविश्वास" समान रूप से फैला हुआ नहीं है।

  • मानव स्मृति: जब हम चीजें याद करते हैं, तो सही उत्तरों के प्रति हमारा आत्मविश्वास आमतौर पर गलत उत्तरों के प्रति हमारे आत्मविश्वास की तुलना में थोड़ा अधिक फैला हुआ होता है।
  • AI मॉडल: AI का "फैलाव" अत्यधिक असमान है।
    • जब AI पक्का होता है कि वह सही है, तो वह बहुत ज्यादा पक्का होता है (बहुत उच्च आत्मविश्वास)।
    • जब वह गलत होता है, तो अक्सर वह बस "ठीक-ठाक" (मध्यम आत्मविश्वास) होता है।
    • ट्विस्ट: "इंस्ट्रक्शन ट्यून्ड" (Instruction Tuned) मॉडल (जिन्हें इंसानों के साथ चैट करने के लिए प्रशिक्षित किया गया है) बेस मॉडल्स की तुलना में और भी अधिक चरम हैं। वे ऐसे छात्र की तरह हैं जो उन चीजों के लिए चिल्लाते हैं जिन्हें वे जानते हैं, "मैं सही हूँ!", लेकिन उन चीजों के लिए चुप रहते हैं या बुदबुदाते हैं जिन्हें वे नहीं जानते।

3. "प्रवाह" (Fluency) का जाल

अध्ययन ने एक पेचीदा समस्या की खोज की: AI अपने उत्तरों का मूल्यांकन इस आधार पर करता है कि वे कितने सुचारू (Smooth) हैं, न कि केवल इस आधार पर कि वे सत्य हैं या नहीं।

  • यदि AI एक आत्मविश्वास से भरा झूठ बनाता है, तो उसे खुद के लिए "सुचारू" लगता है।
  • यदि सही उत्तर अजीब तरीके से लिखा गया है, तो AI को लग सकता है कि यह "अटक रहा है" और गलत है।
  • परिणाम: AI अक्सर अपने स्वयं के आत्मविश्वास से भरे झूठ को वास्तविक सत्य से बेहतर समझता है। यही कारण है कि अध्ययन में "संवेदनशीलता" के नंबर थोड़े कम (वास्तविकता में होने की तुलना में) हैं।

यह क्यों मायने रखता है?

यह पेपर AI शोधकर्ताओं को एक नया चश्मा देने जैसा है।

  • पहले: वे एक AI को देखते थे और कहते थे, "यह 80% कैलिब्रेटेड है। अच्छा काम किया।"
  • अब: वे कह सकते हैं, "यह AI वास्तव में सच जानने में बहुत स्मार्ट है, लेकिन यह बस बहुत सावधान है। आइए इसके सेटिंग्स को थोड़ा बदलें ताकि यह खुलकर बोल सके।" या, "यह AI अति-आत्मविश्वासी है और वास्तव में यह नहीं जानता कि सही और गलत के बीच क्या अंतर है। हमें इसे फिर से प्रशिक्षित करने की आवश्यकता है।"

निचोड़:
आप AI के आत्मविश्वास के स्कोर को देखकर उसका निर्णय नहीं ले सकते। आपको यह समझना होगा कि वह आत्मविश्वासी क्यों है। क्या इसलिए क्योंकि वह उत्तर जानता है (संवेदनशीलता), या सिर्फ इसलिए क्योंकि उसे साहसी होने के लिए प्रोग्राम किया गया है (पक्षपात)? यह पेपर हमें इन दोनों के बीच अंतर करने के लिए गणित देता है, जो चिकित्सा या कानून जैसे उच्च-जोखिम वाले क्षेत्रों में AI का उपयोग करने के लिए महत्वपूर्ण है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →