Evaluating Epistemic Uncertainty: Beyond OOD Detection and Active Learning
यह शोध पत्र पारंपरिक प्रॉक्सी कार्यों के बजाय पछतावा न्यूनीकरण (regret minimization) पर आधारित एपिस्टेमिक अनिश्चितता का मूल्यांकन करने के लिए एक निर्णय-सैद्धांतिक ढांचे का प्रस्ताव करता है, जो यह प्रदर्शित करता है कि मानक सहसंबंध मेट्रिक्स परिचालन उपयोगिता की भविष्यवाणी करने में विफल रहते हैं और निर्णय-सैद्धांतिक एवं प्रॉक्सी-कार्य रैंकिंग के बीच महत्वपूर्ण विसंगतियों को प्रकट करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक अंतरिक्ष यान के कप्तान हैं जो एक अराजक नेबुला (nebula) के बीच से रास्ता बना रहे हैं। आपके जहाज का कंप्यूटर अविश्वसनीय रूप से स्मार्ट है, लेकिन इसे दो अलग-अलग प्रकार की "अनिश्चितता" (uncertainty) की रिपोर्ट करने की आवश्यकता है। पहली है एलेयटोरिक अनिश्चितता (aleatoric uncertainty): यह "युद्ध के कोहरे" (fog of war) की तरह है। यह सेंसरों में शोर, रेडियो पर स्टेटिक, और यह तथ्य है कि नेबुला खुद बहुत अव्यवस्थित और अप्रत्याशित है। चाहे आपका कंप्यूटर कितना भी अच्छा क्यों न हो जाए, यह शोर हमेशा वहां रहेगा; यह ब्रह्मांड की अपरिहार्य अराजकता है। दूसरी है एपिस्टेमिक अनिश्चितता (epistemic uncertainty): यह कंप्यूटर का "अज्ञानता" का अहसास है। यह वह भावना है जो कंप्यूटर को तब होती है जब वह अंतरिक्ष के ऐसे हिस्से को देखता है जिसे उसने पहले कभी नहीं देखा है और सोचता है, "मुझे नहीं पता कि वहां क्या है क्योंकि मैंने अभी तक इस क्षेत्र का अध्ययन नहीं किया है।" इस तरह की अनिश्चितता कम करने योग्य है; यदि कंप्यूटर अधिक सीखता है, तो यह डर चला जाता है।
लंबे समय से, बेहतर AI बनाने की कोशिश कर रहे वैज्ञानिक इस बात को लेकर जुनूनी रहे हैं कि कंप्यूटर को अपने "कोहरे" और अपनी "अज्ञानता" के बीच अंतर करना कैसे सिखाया जाए। क्यों? क्योंकि यदि कंप्यूटर जानता है कि वह अज्ञानी है, तो वह कह सकता है, "मुझे नहीं पता, मुझसे मत पूछो," और एक खतरनाक गलती करने से बच सकता है। लेकिन यहाँ पेचीदा हिस्सा है: यह परीक्षण करने का तरीका कि क्या कंप्यूटर वास्तव में अपनी अज्ञानता को पहचानने में अच्छा है, क्या है? पारंपरिक रूप से, शोधकर्ताओं ने दो मुख्य "प्रॉक्सी टेस्ट" (proxy tests) का उपयोग किया है। एक है आउट-ऑफ-डिस्ट्रीब्यूशन (OOD) डिटेक्शन, जो पूछता है, "क्या तुम बता सकते हो कि तुम कुछ ऐसा देख रहे हो जो बिल्कुल अजीब है जिसे तुमने पहले कभी नहीं देखा?" दूसरा है एक्टिव लर्निंग (Active Learning), जो पूछता है, "यदि तुम अध्ययन करने के लिए एक नया डेटा चुन सकते, तो वह कौन सा होता जो तुम्हें सबसे अधिक सिखाता?" बड़ा सवाल यह है कि क्या ये परीक्षण वास्तव में हमें यह बताते हैं कि कंप्यूटर अपनी अज्ञानता को पहचानने में कितना अच्छा है, या वे कुछ और ही चीज़ का परीक्षण कर रहे हैं?
यह शोध पत्र, जिसका शीर्षक है "इवैल्यूएटिंग एपिस्टेमिक अनसर्टेन्टी: बियॉन्ड ओओडी डिटेक्शन एंड एक्टिव लर्निंग," तर्क देता है कि हम गलत खेल खेल रहे हैं। लेखकों का एक समूह, जो प्राग, गेन्ट और म्यूनिख के विश्वविद्यालयों के शोधकर्ता हैं, ने खोजा कि अजीब डेटा (OOD) को पहचानने या सबसे अच्छे अध्ययन सामग्री को चुनने के लिए गणितीय "परफेक्ट उत्तर" वास्तव में उस "परफेक्ट उत्तर" से पूरी तरह अलग है जो अज्ञानता (Regret) को पहचानने के लिए चाहिए।
इसे समझने के लिए, कल्पना कीजिए कि आप एक छात्र को ग्रेड दे रहे शिक्षक हैं।
- OOD टेस्ट एक शिक्षक से यह पूछने जैसा है: "क्या आप बता सकते हैं कि क्या यह प्रश्न किसी एलियन द्वारा लिखा गया था?" इसका परफेक्ट उत्तर केवल इस पर निर्भर करता है कि प्रश्न कैसा दिखता है, न कि इस पर कि छात्र को उत्तर पता है या नहीं।
- एक्टिव लर्निंग टेस्ट एक शिक्षक से यह पूछने जैसा है: "अगला प्रश्न हमें क्या पूछना चाहिए जिससे छात्र सीखने में सबसे अधिक मदद मिले?" इसका परफेक्ट उत्तर इस पर निर्भर करता है कि छात्र का भविष्य का ज्ञान कितना सुधरेगा।
- द रिग्रेट टेस्ट (एपिस्टेमिक अनसर्टेन्टी) इस विशिष्ट प्रश्न के लिए पूछना है: "इस विशेष प्रश्न के लिए, छात्र के गलत होने की कितनी संभावना है क्योंकि उसे बस सामग्री का ज्ञान नहीं है?"
यह पत्र गणितीय रूप से सिद्ध करता है कि ये तीन "परफेक्ट उत्तर" अक्सर पूरी तरह से अलग दिशाओं की ओर इशारा करते हैं। एक कंप्यूटर अजीब प्रश्नों (OOD) को पहचानने में अद्भुत हो सकता है लेकिन यह जानने में बहुत बुरा हो सकता है कि वह एक विशिष्ट गणित की समस्या में विफल होने वाला है (Regret)। वास्तव में, लेखकों ने एक सरल, एक-आयामी "सैंडबॉक्स" दुनिया बनाई (जो रोसेलिनी फंक्शन नामक फंक्शन से प्रेरित है) यह दिखाने के लिए कि OOD डिटेक्शन के लिए सबसे अच्छी रणनीति आपको एक विशिष्ट क्षेत्र को अस्वीकार करने के लिए कह सकती है, जबकि रिग्रेट को कम करने की सबसे अच्छी रणनीति आपको उसी क्षेत्र को स्वीकार करने के लिए कह सकती है। वे मौलिक रूप से मिसअलाइंड (misaligned) हैं।
इस मिसमैच के कारण, लेखक तर्क देते हैं कि कंप्यूटर की अपनी अज्ञानता को समझने की क्षमता को आंकने के लिए OOD डिटेक्शन या एक्टिव लर्निंग का उपयोग करना त्रुटिपूर्ण है। वे दिखाते हैं कि जो तरीके OOD टेस्ट में नंबर 1 रैंक करते हैं, वे रिग्रेट टेस्ट में नंबर 10 पर हो सकते हैं, और इसके विपरीत भी। उदाहरण के लिए, CIFAR-10H डेटासेट (मानवीय विचारों के संग्रह वाली छवियों का एक सेट) पर उनके परीक्षणों में, "एविडेंशियल नेटवर्क्स" (Evidential Networks) अजीब डेटा (OOD) को पकड़ने में बहुत खराब था लेकिन वह यह पहचानने में सर्वश्रेष्ठ था कि वह कब अज्ञानी है और गलती करने की संभावना है। इसके विपरीत, "डीप एंसेम्बल्स" (Deep Ensembles) अजीब डेटा को पकड़ने में बहुत अच्छे थे लेकिन रिग्रेट को कम करने में विफल रहे।
यह पत्र एक लोकप्रिय विचार को भी संबोधित करता है जिसे "डिसेंटैंगलमेंट" (disentanglement) कहा जाता है। हाल ही में, कुछ शोधकर्ताओं ने तर्क दिया कि यदि कंप्यूटर का "कोहरा" स्कोर और "अज्ञानता" स्कोर अत्यधिक सहसंबंधित (correlated) हैं (वे साथ-साथ ऊपर और नीचे जाते हैं), तो कंप्यूटर दोनों अवधारणाओं को अलग करने में विफल रहा है। लेखक इस पर चुनौती देते हैं। वे दिखाते हैं कि भले ही उनके स्कोर अत्यधिक सहसंबंधित हों, फिर भी कंप्यूटर सटीक निर्णय लेने में सक्षम हो सकता है। केवल उनके स्कोर के सहसंबंध को जांचने के बजाय, वे एक नया, अधिक व्यावहारिक परीक्षण प्रस्तावित करते हैं: पारेटो-गैप (Pareto-gap)।
पारेटो-गैप को एक "निर्णय मानचित्र" (decision map) के रूप में सोचें। एक 3D ग्राफ की कल्पना करें जहाँ आप कितने प्रश्नों का उत्तर देते हैं (कवरेज), आप कितनी गलतियाँ करते हैं (रिस्क), और आप कितनी "अज्ञानता" से बचते हैं (रिग्रेट) के बीच ट्रेड-ऑफ कर सकते हैं। "परफेक्ट" कंप्यूटर इस मानचित्र पर एक चिकनी, आदर्श वक्र (curve) खींचता है। लेखक एक वास्तविक कंप्यूटर के वक्र को उस आदर्श रेखा से कितनी दूर है, इसके आधार पर मापते हैं। उन्होंने पाया कि उच्च सहसंबंध वाले तरीकों (जिन्हें कुछ लोग बुरा मानते थे) के पास भी वास्तव में बहुत सटीक वक्र हो सकते थे, जिसका अर्थ है कि वे ऑपरेशनल रूप से उपयोगी थे।
संक्षेप में, लेखक सिद्ध करते हैं कि हम केवल यह देखकर कि एक मॉडल अजीब डेटा को कितनी अच्छी तरह पहचानता है या अध्ययन विषयों को चुनता है, यह नहीं जान सकते कि वह अपनी अज्ञानता को समझता है या नहीं। वे एक नया ढांचा प्रदान करते हैं जो अनिश्चितता को बेहतर निर्णय लेने के एक उपकरण के रूप में देखता है, यह दिखाते हुए कि पुराने परीक्षण के तरीके अक्सर हमें गलत निष्कर्षों की ओर ले जा रहे हैं कि कौन से AI मॉडल वास्तव में सुरक्षित और विश्वसनीय हैं। उनके निष्कर्ष कठोर गणितीय प्रमाणों और वास्तविक दुनिया के डेटासेट पर व्यापक बेंचमार्क पर आधारित हैं, जो सुझाव देते हैं कि क्षेत्र को इन सुविधाजनक लेकिन भ्रामक प्रॉक्सी टेस्ट पर निर्भर करना बंद करना चाहिए और वास्तविक रिग्रेट के आधार पर अनिश्चितता को मापना शुरू करना चाहिए जिसे वे टालने में मदद करती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।