🤖 machine learning

Epistemic Uncertainty Quantification for Pre-trained VLMs via Riemannian Flow Matching

यह शोध पत्र REPVLM प्रस्तुत करता है, जो प्री-ट्रेन्ड विजन-लैंग्वेज मॉडल एम्बेडिंग्स के हाइपरस्फेरिकल मैनिफोल्ड पर प्रायिकता घनत्व (प्रोबेबिलिटी डेंसिटी) की गणना करने के लिए रिमानियन फ्लो मैचिंग का लाभ उठाता है, जिससे प्रभावी एपिस्टेमिक अनसर्टेंटी क्वांटिफिकेशन, आउट-ऑफ-डिस्ट्रीब्यूशन डिटेक्शन और स्वचालित डेटा क्यूरेशन सक्षम होता है।

मूल लेखक: Li Ju, Mayank Nautiyal, Andreas Hellander, Ekta Vats, Prashant Singh

प्रकाशित 2026-05-21

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Li Ju, Mayank Nautiyal, Andreas Hellander, Ekta Vats, Prashant Singh

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ शोध पत्र "REPVLM: Epistemic Uncertainty Quantification for Pre-trained VLMs via Riemannian Flow Matching" का सरल भाषा और रचनात्मक उपमाओं के साथ विवरण दिया गया है।

बड़ी समस्या: "अति-आत्मविश्वासी" रोबोट

कल्पना कीजिए कि आपके पास एक सुपर-स्मार्ट रोबोट है (एक विजन-लैंग्वेज मॉडल या VLM) जिसने इंटरनेट पर मौजूद लगभग हर किताब पढ़ ली है और लगभग हर तस्वीर देख ली है। वह बिल्ली या सूर्यास्त की फोटो का सटीक वर्णन कर सकता है।

हालाँकि, इसमें एक छिपा हुआ दोष है: रोबोट अति-आत्मविश्वासी (overconfident) है।

यदि आप उसे एक ऐसी तस्वीर दिखाते हैं जो बिल्ली जैसी दिखने वाली टोस्टर है, या कोई ऐसा वाक्य दिखाते जिसका कोई अर्थ नहीं निकलता, तो भी रोबोट आपको 100% निश्चितता के साथ उत्तर देगा। वह यह नहीं जानता कि उसे क्या नहीं पता है। AI की दुनिया में, इसे एपिस्टेमिक अनसर्टेंटी (Epistemic Uncertainty) या "मॉडल की अज्ञानता" की कमी कहा जाता है। रोबोट को यह कहने का एक तरीका चाहिए कि, "मैं इस बारे में निश्चित नहीं हूँ," ताकि इंसान हस्तक्षेप कर सकें और जाँच कर सकें।

समाधान: "भीड़भाड़ वाली पार्टी" की उपमा

लेखकों ने इस समस्या को ठीक करने के लिए REPVLM नामक एक नई विधि प्रस्तावित की है। इसे समझने के लिए, कल्पना करें कि रोबोट का मस्तिष्क एक विशाल, अदृश्य पार्टी रूम (एक गणितीय स्थान जिसे "हाइपरस्फीयर" कहा जाता है) है।

भीड़ (The Crowd): जब रोबोट को प्रशिक्षित किया गया था, तो उसने सामान्य चीजों (बिल्लियाँ, कुत्ते, कारें, "नमस्ते") के बारे में सीखा। हमारी पार्टी की उपमा में, ये सामान्य चीजें भीड़भाड़ वाले डांस फ्लोर की तरह हैं। हर कोई एक साथ घने समूहों में नाच रहा है।
खाली कोने (The Empty Corners): यदि आप रोबốt को कुछ अजीब दिखाते हैं (जैसे टोस्टर-बिल्ली या निरर्थक टेक्स्ट), तो उस इनपुट को कमरे के ऐसे स्थान पर मैप किया जाता है जहाँ कोई नाच नहीं रहा है। यह एक खाली, अकेला कोना है।
अंतर्दृष्टि (The Insight): शोध पत्र का तर्क है कि यदि कोई इनपुट भीड़भाड़ वाले क्षेत्र में आता है, तो रोबोट आश्वस्त होता है। यदि वह एक खाली क्षेत्र में आता है, तो वह अनिश्चित होता है और उसे अनिश्चितता दिखानी चाहिए।

जादुई उपकरण: "फ्लो मैचिंग" (Flow Matching)

यह मापना कि एक विशिष्ट स्थान वास्तव में कितना भीड़भाड़ वाला है, एक कठिन काम है। आप लोगों को गिनकर ऐसा नहीं कर सकते क्योंकि कमरा बहुत बड़ा और जटिल है।

लेखक रिमानियन फ्लो मैचिंग (Riemannian Flow Matching) नामक एक गणितीय ट्रिक का उपयोग करते हैं। यहाँ इसकी उपमा दी गई है:

पानी का प्रवाह (The Water Flow): कल्पना करें कि कमरे के खाली कोने पानी से भरे हैं और भीड़भाड़ वाले डांस फ्लोर द्वीप (islands) हैं।
धारा (The Current): REPVLM पानी की "धारा" को सीखता है। यह सीखता है कि पानी खाली स्थानों से भीड़भाड़ वाले द्वीपों की ओर स्वाभाविक रूप से कैसे बहता है।
मापन (The Measurement): पानी की एक बूंद का पीछा करके यह देखने के लिए कि वह कहाँ से आई थी, सिस्टम यह गणना कर सकता है कि वह क्षेत्र कितना "सघन" (dense/crowded) है।
- यदि पानी एक घनी भीड़ से आसानी से बहता है, तो इनपुट सुरक्षित है।
- यदि पानी को एक खाली शून्य से एक लंबी, अकेली दूरी तय करनी पड़ती है, तो इनपुट "अनिश्चित" (uncertain) है।

यह विधि विशेष है क्योंकि यह कमरे के आकार का सम्मान करती है। अधिकांश गणित सीधी रेखा में दूरी मापने की कोशिश करता है (एक स्केल की तरह), लेकिन यह कमरा एक गेंद की तरह घुमावदार है। REPVлоम सटीक दूरी मापने के लिए जियोडेसिक्स (geodesics) (एक घुमावदार सतह पर सबसे छोटा रास्ता, जैसे ग्लोब पर उड़ान का पथ) का उपयोग करता है।

उन्होंने क्या पाया (परिणाम)

टीम ने अपने इस नए "क्राउड-मीटर" का परीक्षण कई मानक परीक्षणों पर किया:

गलतियों को पकड़ना: जब उन्होंने रोबोट को अपने सबसे "अनिश्चित" उत्तरों (जो खाली कोनों में थे) को अनदेखा करने के लिए कहा, तो बचे हुए उत्तर लगभग हमेशा सही थे। यह विधि यह पहचानने में लगभग पूर्ण थी कि रोबोट कब भ्रमित था।
अजीब चीजों को ढूँढना: उन्होंने इसे "आउट-ऑफ-डिस्ट्रीब्यूशन" डेटा (ऐसी छवियां जो रोबोट के प्रशिक्षण से बिल्कुल अलग हैं) पर परखा। REPVLM ने सफलतापूर्वक इन्हें "कम घनत्व" (खाली कोने) के रूप में चिह्नित किया और कहा, "मुझे यह नहीं पता।"
डेटा की सफाई: उन्होंने दिखाया कि यह विधि विशाल डेटासेट में खराब, धुंधली या निरर्थक छवियों को स्वचालित रूप से ढूंढ सकती है, जिससे भविष्य के रोबोट को प्रशिक्षित करने से पहले डेटा को साफ करने के लिए एक फिल्टर के रूप में काम किया जा सके।

यह क्यों महत्वपूर्ण है

रोबोट को अनिश्चितता स्वीकार करने के लिए बनाने वाले पिछले तरीके या तो बहुत धीमे थे (जिसके लिए रोबोट को 100 बार एक ही परीक्षण करने की आवश्यकता होती थी) या इन विशिष्ट प्रकार के मॉडलों के लिए ठीक से काम नहीं करते थे।

REPVLM है:

तेज़: इसे रोबोट को कई बार चलाने की आवश्यकता नहीं है।
नेटिव (Native): यह रोबोट को फिर से बनाए बिना सीधे उसके मस्तिष्क के आकार पर काम करता है।
सटीक: यह "कम भीड़ घनत्व" और "उच्च त्रुटि" के बीच एक लगभग पूर्ण संबंध बनाता है।

सीमाओं पर एक नोट

लेखक अपनी सीमाओं के बारे में ईमानदार हैं:

प्रॉक्सी की समस्या (The Proxy Problem): "भीड़" कहाँ है यह सीखने के लिए, सिस्टम को डेटा के एक नमूने (प्रॉक्सी) की आवश्यकता होती है जो वैसा ही दिखे जैसा रोबोट मूल रूप से प्रशिक्षित किया गया था। यदि रोबोट को साफ डेटा पर प्रशिक्षित किया गया था, लेकिन आप इसका उपयोग गंदे डेटा पर करने की कोशिश करते हैं, तो "क्राउड मैप" थोड़ा गलत हो सकता है।
निष्पक्षता चेतावनी (Fairness Warning): क्योंकि सिस्टम "दुर्लभ" चीजों को "अनिश्चित" के रूप में चिह्नित करता है, यह अनजाने में वैध लेकिन दुर्लभ चीजों (जैसे कम प्रतिनिधित्व वाले समूहों की छवियां) को केवल इसलिए "त्रुटि" के रूप में चिह्नित कर सकता है क्योंकि वे प्रशिक्षण डेटा में कम सामान्य हैं। लेखक सुझाव देते हैं कि इन चिह्नित वस्तुओं को स्वचालित रूप से हटाने के बजाय मनुष्यों द्वारा समीक्षा की जानी चाहिए।

सारांश

संक्षेप में, REPVLM एक सुपर-स्मार्ट रोबोट को "अंतर्ज्ञान" (gut feeling) देता है। यह रोबोट के ज्ञान को एक भीड़भाड़ वाली पार्टी रूम में मैप करके ऐसा करता है। यदि रोबोट एक भीड़भाड़ वाले स्थान पर है, तो वह आश्वस्त है। यदि वह एक खाली स्थान पर है, तो वह जानता है कि वह अनभिज्ञ है। यह हमें रोबोट पर अधिक भरोसा करने की अनुमति देता है क्योंकि हम जानते हैं कि वह कब केवल अनुमान लगा रहा है।

तकनीकी सारांश: REPVLM – रिमानियन फ्लो मैचिंग के माध्यम से प्री-ट्रेंड VLMs के लिए एपिस्टेमिक अनसर्टेंटी क्वांटिफिकेशन (ज्ञान संबंधी अनिश्चितता का निर्धारण)

1. समस्या विवरण (Problem Statement)

प्री-ट्रේन्ड विजन-लैंग्वेज मॉडल्स (VLMs) जैसे कि CLIP, BLIP, और SigLIP ने बड़े पैमाने पर कंट्रास्टिव प्री-ट्रेनिंग के माध्यम से क्रॉस-मोडल रिप्रेजेंटेशन लर्निंग में उल्लेखनीय सफलता प्राप्त की है। हालाँकि, ये मॉडल स्वाभाविक रूप से डिटरमिनिस्टिक (निश्चित) होते हैं, जो इनपुट्स को एक उच्च-आयामी एम्बेडिंग स्पेस में एकल, निश्चित बिंदुओं पर मैप करते हैं। इस आर्किटेक्चर में एपिस्टेमिक अनसर्टेंटी (मॉडल की अपनी रिप्रेजेंटेशन के बारे में अज्ञानता या ज्ञान की कमी) को मापने के लिए कोई अंतर्निहित तंत्र नहीं है।

यद्यपि VLMs के लिए मौजूदा अनसर्टेंटी क्वांटिफिकेशन (UQ) फ्रेमवर्क मौजूद हैं, वे मुख्य रूप से एलियटोरिक अनसर्टेंटी (डेटा अस्पष्टता) को संबोधित करते हैं, जो संभाव्य एम्बेडिंग्स (probabilistic embeddings) सीखते हैं। एपिस्टेमिक अनसर्टेंटी के लिए डिज़ाइन किए गए तरीके, जैसे कि डीप एन्सेम्बल्स या मोंटे कार्लो ड्रॉपआउट, बड़े पैमाने के प्री-ट्रेंड मॉडल्स के लिए कम्प्यूटेशनल रूप से अत्यधिक खर्चीले हो सकते हैं या सब-ऑप्टिमल, बैच-डिपेंडेंट अनुमान प्रदान कर सकते हैं। एक ऐसे स्केलेबल, अंतर्निहित मेट्रिक की महत्वपूर्ण आवश्यकता है जो बिना महंगे रिट्रेनिंग या पैरामीटर-स्पेस सैंपलिंग के, सीधे तौर पर अपने रिप्रेजेंटेशन में मॉडल के आत्मविश्वास को माप सके।

2. कार्यप्रणाली: REPVLM

लेखक REPVLM प्रस्तावित करते हैं, जो उनके नेटिव मैनिफोल्ड (मूल मैनिफोल्ड) पर सीधे VLM एम्बेडिंग्स के प्रोबेबिलिटी डेंसिटी (संभाव्यता घनत्व) का अनुमान लगाकर एपिस्टेमिक अनसर्टेंटी को मापता है।

सैद्धांतिक प्रेरणा (Theoretical Motivation)
पेपर तीन चरणों वाली एक श्रृंखला के माध्यम से एम्बेडिंग डेंसिटी और एपिस्टेमिक अनसर्टेंटी के बीच एक सैद्धांतिक संबंध स्थापित करता है:

कोवेरिएंस से जैकोबियन नॉर्म तक: मानक बेयसियन धारणाओं और लोकल लिनियरिटी के तहत, उच्च एपिस्टेमिक अनसर्टेंटी एक बड़े पैरामीटर-जैकोबियन नॉर्म के अनुरूप होती है, जो पैरामीटर परम्यूटेशन (परिवर्तन) के प्रति संवेदनशीलता को दर्शाती है।
जैकोबियन नॉर्म से डेटा डेंसिटी तक: ट्रेनिंग डेटा के उच्च-घनत्व वाले क्षेत्रों में, एनकोडर का जैकोबियन नॉर्म छोटा होता है (स्मूथनेस), जबकि कम-घनत्व (Out-of-Distribution) वाले क्षेत्रों में, यह अनियंत्रित रहता है।
डेटा डेंसिटी से एम्बेडिंग डेंसिटी तक: कंट्रास्टिव लर्निंग में एलाइनमेंट-एंड-यूनिफॉर्मिटी डायनेमिक्स से प्रेरित होकर, लेखक यह अनुभवजन्य धारणा रखते हैं कि इनपुट डेटा का घनत्व $p(x)$ हाइपरस्फीयर पर परिणामी एम्बेडिंग्स के घनत्व $p(z)$ के साथ सह-संबंधित है।
परिणामस्वरूप, नेगेटिव लॉग-लाइक्लीहुड, $-\log p(z)$ , एक सिद्धांतपूर्ण प्रॉक्सी के रूप में कार्य करता है: कम-घनत्व वाले क्षेत्र मॉडल की अज्ञानता को दर्शाते हैं।

रिमानियन फ्लो मैचिंग (Riemannian Flow Matching - RFM)
हाइपरस्फीयर $S^{d-1}$ (जहाँ $\ell_2$ -नॉर्मलाइज्ड VLM एम्बेडिंग्स निवास करते हैं) पर $p(z)$ को कुशलतापूर्वक कंप्यूट करने के लिए, REPVLM कंडीशनल रिमानियन फ्लो मैचिंग (CRFM) का उपयोग करता है:

मैनिफोल्ड-नेटिव मॉडलिंग: मानक यूक्लिडियन फ्लो मैचिंग के विपरीत, REPVLM सीधे हाइपरस्फीयर पर कार्य करता है। यह एक वेक्टर फील्ड $v_t$ सीखता है जो एक सरल यूनिफॉर्म बेस डिस्ट्रीब्यूशन $P_0 = \text{Unif}(S^{d-1})$ को एम्पिरिकल मोडैलिटी-विशिष्ट डिस्ट्रीब्यूशन $P_1$ (इमेज और टेक्स्ट) में ट्रांसपोर्ट करता है।
जियोडेसिक इंटरपोलेशन: प्रोबेबिलिटी पाथ को स्ट्रेट लाइन्स के बजाय जियोडेसिक्स (ग्रेट सर्कल्स) के साथ बनाया जाता है, जो सिमेंटिक स्पेस की आंतरिक ज्यामिति का सम्मान करता है।
यूनिफाइड कंडीशनल फ्रेमवर्क: एक सिंगल न्यूरल नेटवर्क मोडैलिटी ( $c \in \{\text{image}, \text{text}\}$ ) के आधार पर कंडीशन होकर वेक्टर फील्ड सीखता है, जिससे टास्क-एग्नोस्टिक अनसर्टेंटी एस्टीमेशन संभव होता है।
लाइक्लीहुड कंप्यूटेशन: सटीक लॉग-डेंसिटी को रिवर्स ODE ट्रजेक्टरी के साथ सीखे गए वेक्टर फील्ड के डायवर्जेंस को इंटीग्रेट करके कंप्यूट किया जाता है। उच्च-आयामी एम्बेडिंग्स को कुशलतापूर्वक संभालने के लिए, लेखक न्यूनतम कम्प्यूटेशनल ओवरहेड के साथ डायवर्जेंस को अनुमानित करने के लिए मैनिफोल्ड-कंस्ट्रेंड हचिनसन ट्रेस एस्टीमेटर का उपयोग करते हैं।

3. प्रमुख योगदान (Key Contributions)

सैद्धांतिक प्रेरणा: पेपर यह प्रदर्शित करने के लिए एक औपचारिक व्युत्पत्ति प्रदान करता है कि $-\log p(z)$ कंट्रास्टिव एनकोडर्स में एपिस्टेमिक अनसर्टेंटी का एक मोनोटोनिक प्रॉक्सी है, जो बेयसियन अनसर्टेंटी को एम्बेडिंग डेंसिटी से जोड़ता है।
मैनिफोल्ड-नेटिव मेथड (REPVLM): लेखक एक स्केलेबल UQ मेथड पेश करते हैं जो VLM एम्बेडिंग स्पेस के लिए रिमानियन फ्लो मैचिंग का विस्तार करता है, जिससे प्री-ट्रेंड बैकबोन को संशोधित किए बिना दोनों विजुअल और टेक्स्टुअल मोडैलिटीज के लिए अंतर्निहित प्रोबेबिलिटी डेंसिटी कंप्यूटेशन सक्षम होता है।
अनुभवजन्य सत्यापन (Empirical Validation): विधि को कई डाउनस्ट्रीम बेंचमार्क्स पर सत्यापित किया गया है, जो प्रेडिक्शन एरर और अनसर्टेटी स्कोर के बीच लगभग पूर्ण सहसंबंध (correlation) प्रदर्शित करता है, और सेलेक्टिव क्लासिफिकेशन एवं OOD डिटेक्शन में मौजूदा बेसलाइन्स को काफी पीछे छोड़ देता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने तीन अलग-अलग प्रॉक्सी डेटासेट्स (Conceptual Captions, DataComp-1B, LAION-2B) का उपयोग करके छह डाउनस्ट्रीम बेंचमार्क्स (ImageNet-1K, Food101, CIFAR-100, ObjectNet, ImageNet-R, ImageNet-Sketch) पर REPVLM का मूल्यांकन किया।

सेलेक्टिव क्लासिफिकेशन (Selective Classification): REPVLM ने मानक बेंचमार्क्स पर अनसर्टेटी और प्रेडिक्शन एरर के बीच लगभग पूर्ण स्पीयरमैन कोरिलेशन ( $S \ge 0.988$ ) प्राप्त किया। इसने मॉडल एरर्स की पहचान करने में ProbVLM, मोंटे कार्लो ड्रॉपआउट और एम्बेडिंग नॉर्म जैसे बेसलाइन्स को लगातार पछाड़ दिया।
डिस्ट्रीब्यूशन शिफ्ट के प्रति मजबूती (Robustness to Distribution Shift): डिस्ट्रीब्यूशन-शिफ्टेड डेटासेट्स (ObjectNet, ImageNet-R, ImageNet-Sketch) पर, REPVLM एकमात्र ऐसा तरीका था जिसने सभी शिफ्ट सेल्स में $S=1.000$ प्राप्त किया, जबकि अन्य तरीकों (जैसे ProbVLM, GMM) ने हाई वेरिएंस या नेगेटिव कोरिलेशन दिखाया।
अनुप्रयोग (Applications):
- OOD डिटेक्शन: अनसर्टेटी स्कोर ने इन-डिस्ट्रीब्यूशन (ID) डेटा को नियर-OOD और फार-OOD डेटा से प्रभावी ढंग से अलग किया, जिससे उच्च ROC और प्रिसिजन-रिकॉल कर्व्स प्राप्त हुए।
- स्वचालित डेटा क्यूरेशन: REPVLM द्वारा फ्लैग किए गए हाई-अनसर्टेटी सैंपल्स शोर वाले (noisy), धुंधले या निरर्थक इनपुट्स के अनुरूप थे, जो बड़े पैमाने के वेब डेटासेट्स को साफ करने में इसकी उपयोगिता को दर्शाता है।
दक्षता (Efficiency): REPVLM को बैकबोन के अलावा केवल ~0.55 GFLOPs का अतिरिक्त ओवरहेड आवश्यक है, जो इसे मोंटे कार्लो ड्रॉपआउट (जिसके लिए ~10 फॉरवर्ड पासेज की आवश्यकता होती है) की तुलना में काफी अधिक कुशल बनाता है, जबकि यह ProbVLM की तुलना में अधिक विश्वसनीय एपिस्टेमिक अनुमान प्रदान करता है।

5. महत्व और सीमाएं (Significance and Limitations)

महत्व
पेपर तर्क देता है कि प्री-ट्रेंड VLMs में एपिस्टेमिक अनसर्टेटी के लिए ऑन-मैनिफोल्ड एम्बेडिंग डेंसिटी ही मुख्य मात्रा है। रिमानियन फ्लो मैचिंग के माध्यम से एम्बेडिंग स्पेस की ज्यामितीय संरचना का लाभ उठाकर, REPVLM एक स्केलेबल, अंतर्निहित और अत्यधिक विश्वसनीय कॉन्फिडेंस मेट्रिक प्रदान करता है। यह एनसेम्बल मेथड्स की कम्प्यूटेशनल लागत के बिना ऑटोमेटेड डेटा क्यूरेशन और रोबस्ट OOD डिटेक्शन जैसे व्यावहारिक अनुप्रयोगों को सक्षम बनाता है।

सीमाएं
लेखक स्पष्ट रूप से कई सीमाओं को स्वीकार करते हैं:

सैद्धांतिक प्रॉक्सी: बेयसियन एपिस्टेमिक अनसर्टेटी और एम्बेडिंग डेंसिटी के बीच का लिंक एक अनुभवजन्य धारणा (विशेष रूप से नॉन-इनवर्टिबल कंट्रास्टिव एनकोडर्स में डेंसिटी प्रिजर्वेशन के संबंध में) पर आधारित एक मोटिवेटिंग प्रॉक्सी तर्क है, न कि एक औपचारिक पहचान (formal identity)।
प्रॉक्सी डिपेंडेंसी: सभी पोस्ट-हॉक मेथड्स की तरह, REPVLM को लक्षित VLM के प्री-ट्रेनिंग डोमेन का प्रतिनिधित्व करने वाले प्रॉक्सी डेटासेट की आवश्यकता होती है। विशेषीकृत VLMs के लिए विशिष्ट इन-डोमेन प्रॉक्सी की आवश्यकता हो सकती है।
ज्यामितीय धारणाएं: सिद्धांत $\ell_2$ -नॉर्मलाइज्ड एम्बेडिंग्स पर आधारित है जो कोसाइन-सिमिलैरिटी-ट्रेन्ड एनकोडर्स (जैसे CLIP) से आते हैं। लेखक नोट करते हैं कि परिणाम अलग-अलग ज्योमेट्री वाले मॉडल्स (जैसे SigLIP, जिसने टेक्सचर-ड्रिवन डेंसिटी वेरिएशंस के कारण इन-डिस्ट्रीब्यूशन बेंचमार्क्स पर खराब प्रदर्शन दिखाया) पर सामान्यीकृत नहीं हो सकते हैं।
निष्पक्षता जोखिम (Fairness Risks): लेखक चेतावनी देते हैं कि डेंसिटी-आधारित अनसर्टेटी 'दुर्लभता' (rarity) को 'अज्ञानता' (ignorance) के साथ मिला देती है। दुर्लभ लेकिन वैध इनपुट्स (जैसे, कम प्रतिनिधित्व वाले समूहों से) को हाई-अनसर्टेटी आउटलेयर्स के रूप में फ्लैग किया जा सकता है। सुरक्षा-महत्वपूर्ण सेटिंग्स में, ऐसे नमूनों को स्वचालित रूप से हटाने के बजाय मानव समीक्षा के लिए उम्मीदवार माना जाना चाहिए।