Condence, Calibration, and Abstention in Small Open-Weight Language Models on Psychiatric Knowledge Questions: A Cross-Domain Replication
यह पायलट अध्ययन प्रदर्शित करता है कि मनोरोग संबंधी ज्ञान संबंधी प्रश्नों पर लागू किए जाने वाले छोटे, ओपन-वेट भाषा मॉडल खराब आत्मविश्वास अंशांकन (कॉन्फिडेंस कैलिब्रेशन), डोमेन-निर्भर सटीकता रैंकिंग प्रदर्शित करते हैं, और जब कठोर युग्मित सांख्यिकी (पेयर्ड स्टैटिस्टिक्स) के साथ मूल्यांकन किया जाता है, तो उन्हें उत्तर देने से बचने के लिए प्रेरित करना प्रदर्शन को सुधारने के बजाय उसे कम कर देता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखक ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक चिकित्सा के शांत कोनों में, एक नए प्रकार के उपकरण का उदय हो रहा है: छोटे, आत्मनिर्भर कंप्यूटर प्रोग्राम जो मानव स्वास्थ्य के बारे में पढ़ने और प्रश्नों के उत्तर देने में सक्षम हैं। विशाल, क्लाउड-आधारित प्रणालियों के विपरीत, जिन्हें शक्तिशाली इंटरनेट कनेक्शन की आवश्यकता होती है और जो गोपनीयता संबंधी चिंताएं पैदा करती हैं, ये छोटे मॉडल एक एकल स्थानीय कंप्यूटर पर चल सकते हैं, जिससे संवेदनशील रोगी डेटा इंटरनेट से दूर रहता है। इस क्षमता ने मनोरोग विज्ञान (साइकियाट्री) में उनके उपयोग के लिए आशा जगाई है, एक ऐसा क्षेत्र जहाँ डॉक्टर निर्णय लेने के लिए अक्सर रक्त परीक्षणों या स्कैन के बजाय व्यक्तिपरक रिपोर्टों पर भरोसा करते हैं। हालाँकि, किसी भी ऐसे उपकरण के लिए एक महत्वपूर्ण प्रश्न बना हुआ है जो चिकित्सा सलाह देता है: क्या वह जानता है कि वह कब गलत है? यदि कोई कंप्यूटर प्रोग्राम आश्वस्त है लेकिन गलत है, तो इसके परिणाम गंभीर हो सकते हैं। शोधकर्ता लंबे समय से इस बात का अध्ययन कर रहे हैं कि क्या ये प्रणालियाँ अपनी निश्चितता का सटीक आकलन कर सकती हैं, लेकिन उस कार्य का अधिकांश हिस्सा विशाल, निजी स्वामित्व वाली प्रणालियों या सामान्य चिकित्सा ज्ञान पर केंद्रित रहा है। मनोरोग विज्ञान के सूक्ष्म, व्यक्तिपरक प्रश्नों का सामना करते समय छोटे, स्थानीय रूप से चलने वाले मॉडलों का विशिष्ट व्यवहार एक रहस्य बना हुआ है।
एक हालिया पायलट अध्ययन ने मनोरोग संबंधी ज्ञान के 150 बहुविकल्पीय प्रश्नों के एक विशिष्ट सेट पर चार अलग-अलग छोटे भाषा मॉडलों का परीक्षण करके इस अंतर को भरने का प्रयास किया। शोधकर्ता यह देखना चाहते थे कि क्या ये मॉडल न केवल सही उत्तर दे सकते हैं, बल्कि यह भी पहचान सकते हैं कि उन्हें कब कहना चाहिए, "मुझे नहीं पता।" उन्होंने मनोरोग संबंधी प्रश्नों पर अपने प्रदर्शन की तुलना सामान्य चिकित्सा प्रश्नों पर अपने प्रदर्शन से की ताकि यह देखा जा सके कि कौन सा मॉडल "सर्वश्रेष्ठ" था, इसकी रैंकिंग समान रहती है या नहीं। अध्ययन ने एक सामान्य सुरक्षा विचार की भी जांच की: कि मॉडल को अनिश्चित महसूस होने पर उत्तर देने से बचने का विकल्प देने से वह स्वतः ही अधिक सुरक्षित और सटीक हो जाएगा। टीम ने यह परीक्षण पूरी तरह से एक स्थानीय वर्कस्टेशन पर किया, यह सुनिश्चित करते हुए कि कोई भी डेटा मशीन से बाहर न जाए, और मॉडलों को प्रश्न छोड़ने की अनुमति देने से पहले और बाद के परिणामों की तुलना करने के लिए कठोर सांख्यिकीय विधियों का उपयोग किया।
परिणामों से पता चला कि इन छोटे मॉडलों का परिदृश्य एक सरल "सर्वश्रेष्ठ" और "सबसे खराब" प्रदर्शन करने वालों की सूची से कहीं अधिक जटिल है। जब मॉडलों का परीक्षण सामान्य चिकित्सा ज्ञान पर किया गया, तो एक विशिष्ट मॉडल चार में से तीसरे स्थान पर रहा। फिर भी, जब उसी मॉडल का सामना मनोरोग संबंधी प्रश्नों से हुआ, तो इसका प्रदर्शन काफी गिर गया और यह अंतिम स्थान पर आ गया। यह सुझाव देता है कि एक मॉडल का कौशल एक स्थिर गुण नहीं है जो आसानी से एक चिकित्सा विशेषज्ञता से दूसरी में स्थानांतरित हो जाता है; जो सामान्य चिकित्सा के लिए अच्छा काम करता है वह मनोरोग विज्ञान के लिए आवश्यक रूप से अच्छा काम नहीं करता है। इसके अलावा, अध्ययन में पाया गया कि मॉडल लगातार अति-आत्मविश्वासी थे। औसतन, उन्होंने अपने उत्तरों के बारे में 90 से सेप्ट 95 प्रतिशत आश्वस्त होकर कहा, भले ही उनकी वास्तविक सटीकता केवल 57 से 75 प्रतिशत के बीच थी। घोषित आत्मविश्वास और वास्तविक शुद्धता के बीच यह अंतर बड़े, वाणिज्यिक सिस्टमों में देखी गई तुलना में बहुत अधिक था।
शायद सबसे आश्चर्यजनक निष्कर्ष उस विचार के बारे में था कि मॉडलों को उन प्रश्नों को छोड़ने की अनुमति देना जिनके बारे में वे अनिश्चित थे। उन प्रश्नों पर एक सरसरी नज़र, जिन्हें मॉडलों ने उत्तर देने के लिए चुना, ने सुझाव दिया कि छोड़ना उनके स्कोर में सुधार कर सकता है। हालाँकि, जब शोधकर्ताओं ने ठीक उन्हीं प्रश्नों को दोनों स्थितियों के तहत देखा—उत्तर देने के लिए मजबूर बनाम छोड़ने की अनुमति—तो उन्हें एक अलग कहानी मिली। चार में से तीन मॉडलों के लिए, छोड़ने की क्षमता से सटीकता में वास्तविक सुधार नहीं हुआ। वास्तव में, सर्वश्रेष्ठ प्रदर्शन करने वाले मॉडल के लिए, छोड़ने के निर्णय के कारण उसने उन प्रश्नों को छोड़ दिया जिन्हें वह मजबूर होने पर सही उत्तर देता। जिस मॉडल में अपनी निश्चितता को रैंक करने की सर्वोत्तम क्षमता थी, वह भी यह निर्णय लेने में विफल रहा कि उसे कब रुकना चाहिए।
केवल एक मॉडल ही ऐसा था जिसने प्रश्न छोड़ने की अनुमति मिलने पर स्पष्ट परिवर्तन दिखाया, और वह परिवर्तन नकारात्मक था। जब इस छोटे मॉडल को "मुझे नहीं पता" कहने का विकल्प दिया गया, तो इसकी समग्र सटीकता काफी कम हो गई। यह परिणाम कोई इत्तेफाक नहीं था; इसने सामान्य चिकित्सा प्रश्नों पर एक अलग परीक्षण में पाए गए समान गिरावट को भी प्रतिबिंबित किया, जो इस विशेष छोटे मॉडल के अनिश्चितता को संभालने के तरीके में एक विशिष्ट कमजोरी का सुझाव देता है। अध्ययन निष्कर्ष निकालता है कि केवल "मुझे नहीं पता" का विकल्प जोड़ना एक जादुय सुरक्षा स्विच नहीं है। इन छोटे, स्थानीय मॉडलों के लिए, त्याग करने का निर्देश त्रुटियों को विश्वसनीय रूप से फ़िल्टर नहीं करता है और कभी-कभी प्रदर्शन को बदतर बना सकता है। शोधकर्ता इस बात पर जोर देते हैं कि ये निष्कर्ष इस छोटे समूह के मॉडलों और इस प्रकार के परीक्षा प्रश्नों के लिए विशिष्ट हैं, जो नैदानिक उपयोग के लिए अंतिम नियम के बजाय भविष्य के बड़े अध्ययनों के लिए एक परिकल्पना के रूप में कार्य करते हैं। मुख्य सीख यह है कि छोटे, स्थानीय AI के क्षेत्र में, आत्मविश्वास अक्सर एक भ्रम होता है, और यह जानना कि कब रुकना है, सुनिश्चित नहीं है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।