📊 statistics

Bayesian uncertainty-aware deep learning with noisy labels: Tackling annotation ambiguity in EEG seizure detection

यह शोध पत्र BUNDL को प्रस्तुत करता है, जो एक नवीन, मॉडल-अज्ञेय (model-agnostic) बेयसियन डीप लर्निंग एल्गोरिदम है जो EEG दौरे का पता लगाने में लेबल शोर (label noise) को संभालने के लिए एक KL-डाइवर्जेंस-आधारित लॉस फंक्शन का उपयोग करता है, जिससे बिना अतिरिक्त पैरामीटर जोड़े मॉडल की मजबूती और सामान्यीकरण क्षमता में सुधार होता है।

मूल लेखक: Deeksha M. Shama, Archana Venkataraman

प्रकाशित 2026-06-25

📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Deeksha M. Shama, Archana Venkataraman

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

मुख्य समस्या: "खराब पाठ्यपुस्तक" के साथ पढ़ाना

कल्पना कीजिए कि आप एक शिक्षक हैं जो एक छात्र (एक AI कंप्यूटर प्रोग्राम) को मस्तिष्क की तरंगों (EEG) से मिर्गी के दौरों (epileptic seizures) को पहचानना सिखाने की कोशिश कर रहे हैं। ऐसा करने के लिए, आप छात्र को दौरों और सामान्य मस्तिष्क गतिविधि के उदाहरणों से भरी एक पाठ्यपुस्तक देते हैं।

हालाँकि, एक बड़ी समस्या है: पाठ्यपुस्तक उन मनुष्यों द्वारा लिखी गई है जो गलतियाँ करते हैं।

चिकित्सा जगत में, डॉक्टर इन जटिल मस्तिष्क तरंगों को देखते हैं और निशान लगाते हैं कि दौरा कहाँ शुरू होता है और कहाँ समाप्त होता है। लेकिन क्योंकि संकेत शोर-शराबे वाले और पढ़ने में कठिन होते हैं, इसलिए डॉक्टर अक्सर असहमत होते हैं। कभी-कभी वे दौरे को वास्तव में शुरू होने से पहले ही चिह्नित कर देते हैं (over-segmentation), या वे सटीक समाप्ति समय को मिस कर देते हैं। इसे "लेबल नॉइज़" (label noise) कहा जाता है।

यदि आप अपने AI छात्र को इस अपूर्ण पाठ्यपुस्तक का उपयोग करके पढ़ाते हैं, तो छात्र गलतियाँ भी सीख जाएगा। वह सोचेगा कि "शोर" (noise) दौरे का हिस्सा है, या वह इस बात को लेकर भ्रमित हो जाएगा कि वास्तव में दौरा कब हुआ। यह AI को अविश्वसनीय बना देता है।

समाधान: BUNDL (एक "संशयी छात्र")

लेखकों ने BUNDL (Bayesian Uncertainty-aware Deep Learning) नामक एक नई प्रशिक्षण पद्धति बनाई है।

BUNDL को एक नए प्रकार के छात्र के रूप में नहीं, बल्कि एक नई शिक्षण रणनीति के रूप में देखें जो छात्र को यह समझने में स्मार्ट बनाती है कि उसे पाठ्यपुस्तक पर कब भरोसा करना चाहिए।

यह कैसे काम करता है, इसके लिए एक उपमा (analogy) का उपयोग करें:

"विश्वास की जाँच" (Monte Carlo Dropout):
सामान्यतः, जब AI मस्तिष्क की तरंग को देखता है, तो वह एक उत्तर देता है: "यह एक दौरा है।"
BUNDL के साथ, AI को उसी मस्तिष्क तरंग को कई बार देखने के लिए मजबूर किया जाता है, लेकिन हर बार वह अपने स्वयं के मस्तिष्क के एक यादृच्छिक (random) हिस्से को अनदेखा करता है (एक तकनीक जिसे ड्रॉपआउट कहा जाता है)।
- यदि AI हर बार कहता है "दौरा", तो वह आत्मविश्वासी (confident) है।
- यदि AI कभी "दौरा" कहता है और कभी "सामान्य" कहता है, तो वह अनिश्चित (uncertain) है।
"ट्रस्ट मीटर" (शोर के रूप में अनिश्चितता):
लेखकों ने महसूस किया कि जब AI किसी विशेष मस्तिष्क तरंग के बारे में अनिश्चित होता है, तो इसका कारण आमतौर पर यह होता है कि पाठ्यपुस्तक में दिया गया मानव लेबल गलत या अस्पष्ट है।
- उच्च विश्वास (High Confidence): AI पाठ्यपुस्तक के लेबल पर भरोसा करता है।
- उच्च अनिश्चितता (High Uncertainty): AI सोचता है, "रुको, मैं भ्रमित हूँ। पाठ्यपुस्तक कहती है कि यह एक दौरा है, लेकिन मेरा अपना विश्लेषण संदिग्ध है। पाठ्यपुस्तक यहाँ गलत हो सकती है।"
"स्मार्ट सुधार" (The Loss Function):
पाठ्यपुस्तक के उत्तर को आँख मूंदकर स्वीकार करने के बजाय, BUNDL पाठ को समायोजित करने के लिए एक गणितीय सूत्र का उपयोग करता है।
- यदि AI अनिश्चित है, तो वह मानव के लेबल पर कम निर्भर होता है और अपने स्वयं के पैटर्न रिकग्निशन पर अधिक निर्भर होता है।
- यह मूल रूप से कहता है, "मैं इस उदाहरण से सीखूँगा, लेकिन मैं मानव के टाइमस्टैम्प पर 100% भरोसा नहीं करूँगा क्योंकि डेटा अव्यवस्थित दिख रहा है।"

यह अन्य तरीकों से बेहतर क्यों है?

खराब पाठ्यपुस्तकों को संभालने के अन्य तरीके भी हैं, लेकिन उनके नुकसान हैं:

"संपादक" दृष्टिकोण (Pruning): कुछ तरीके शिक्षण से पहले पाठ्यपुस्तक के "खराब" पन्नों को फेंक देने की कोशिश करते हैं। लेकिन EEG डेटा में, यह जानना कठिन है कि कौन से पन्ने वास्तव में खराब हैं, इसलिए आप महत्वपूर्ण जानकारी भी खो सकते हैं।
"अनुवादक" दृष्टिकोण (Noise Layers): कुछ तरीके AI में एक जटिल अतिरिक्त परत जोड़ते हैं ताकि शोर वाले लेबलों को साफ लेबलों में "अनुवादित" किया जा सके। यह AI को बहुत बड़ा, धीमा और बनाने में कठिन बनाता है।

BUNDL अलग है क्योंकि:

यह हल्का (Lightweight) है: यह AI में कोई नए भाग नहीं जोड़ता है। यह बस यह बदल देता है कि AI मौजूदा डेटा से कैसे सीखता है।
यह सार्वभौमिक (Universal) है: इसे लगभग किसी भी मौजूदा AI मॉडल में लगाया जा सकता है (एक यूनिवर्सल अडैप्टर की तरह)।
यह कुशल (Efficient) है: इसके लिए भारी मात्रा में पिछला डेटा स्टोर करने या कई अलग-अलग प्रशिक्षण चरणों को चलाने की आवश्यकता नहीं होती है।

परिणाम: क्या यह काम कर गया?

शोधकर्ताओं ने BUNDL का परीक्षण तीन चीजों पर किया:

नकली डेटा (Fake Data): उन्होंने कंप्यूटर-सिम्युलेटेड मस्तिष्क तरंगें बनाईं जहाँ उन्हें पता था कि त्रुटियां कहाँ हैं।
वास्तविक अस्पताल डेटा (TUH और CHB-MIT): उन्होंने दो अलग-अलग अस्पतालों के वास्तविक रोगी रिकॉर्ड का उपयोग किया।
अनदेखा डेटा (Siena): उन्होंने परीक्षण किया कि क्या AI तीसरे अस्पताल के डेटा पर काम कर सकता है जिसे उसने पहले कभी नहीं देखा था।

निष्कर्ष:

कम गलत अलार्म (Fewer False Alarms): सबसे बड़ी जीत यह थी कि BUNDL ने फॉल्स पॉजिटिव्स (False Positsives) को काफी कम कर दिया। चिकित्सा के संदर्भ में, इसका अर्थ है कि AI ने तब "भेड़िया आया" चिल्लाना बंद कर दिया जब कोई दौरा नहीं था। यह महत्वपूर्ण है क्योंकि डॉक्टर गलत अलार्म से परेशान होकर जागना पसंद नहीं करते।
बेहतर स्थानीयकरण (Better Localization): AI दौरे की शुरुआत कहाँ हुई (Seizure Onset Zone) इसे सटीक रूप से पहचानने में बेहतर हो गया। यह उन सर्जनों के लिए महत्वपूर्ण है जिन्हें यह जानने की आवश्यकता होती है कि मस्तिष्क के किस हिस्से पर ऑपरेशन करना है।
मजबूती (Robustness): भले ही मानव लेबल बहुत अव्यवस्थित (over-segmented) थे, BUNDL ने AI को अच्छा प्रदर्शन करने में सक्षम बनाया, जबकि अन्य तरीके संघर्ष कर रहे थे।

सीमाएं (जो पेपर स्वीकार करता है)

यह एक प्रशिक्षण उपकरण है, नया मस्तिष्क नहीं: BUNDL कोई नया AI मॉडल नहीं है; यह मौजूदा मॉडलों को बेहतर ढंग से प्रशिक्षित करने का एक तरीका है।
संवेदनशीलता का समझौता (Sensitivity Trade-off): कुछ मामलों में, गलत अलार्म के प्रति इतना सावधान रहने के कारण, AI ने कुछ वास्तविक दौरों को मिस कर दिया (कम संवेदनशीलता)। लेखक कहते हैं कि यह संभवतः इसलिए है क्योंकि मानव लेबल स्वयं अनिश्चित थे, इसलिए AI का संशय में रहना सही था।
कंप्यूटेशनल लागत: क्योंकि AI को अपनी विश्वास गणना की जांच करने के लिए डेटा को कई बार देखना पड़ता है, इसलिए प्रशिक्षण में मानक तरीकों की तुलना में थोड़ा अधिक समय लगता है। हालाँकि, एक बार प्रशिक्षित होने के बाद, AI सामान्य गति से चलता है।

सारांश

कल्पना कीजिए कि आप एक ऐसे GPS से गाड़ी चलाना सीख रहे हैं जो कभी-कभी गलत दिशा निर्देश देता है।

पुराना तरीका: आप GPS पर अंधा विश्वास करते हैं और दुर्घटनाग्रस्त हो जाते हैं।
अन्य नए तरीके: आप पहले GPS से बहस करने के लिए दूसरा GPS किराए पर लेते हैं (महंगा और धीमा)।
BUNDL तरीका: आप यह पहचानना सीखते हैं कि GPS कब हिचकिचा रहा है या अस्पष्ट निर्देश दे रहा है। जब वह हिचकिचाता है, तो आप अपनी आँखों और सड़क के संकेतों पर अधिक भरोसा करते हैं। आपको दूसरे GPS की आवश्यकता नहीं है; आपको बस यह जानने की आवश्यकता है कि पहले वाले पर कब भरोसा करना है।

BUNDL मौजूदा AI को फिर से बनाए बिना, अधिक विश्वसनीय दौरे का पता लगाने के लिए AI को "संशयी" बनाता है।

तकनीकी सारांश: शोर वाले लेबल के साथ ईईजी (EEG) सीज़र डिटेक्शन के लिए बेयसियन अनसर्टेन्टी-अवेयर डीप लर्निंग

समस्या विवरण
स्वचालित मिर्गी के दौरे (seizure) का पता लगाने और उनके आरंभ क्षेत्र (onset zone) के स्थानीयकरण के लिए डीप लर्निंग मॉडल उच्च गुणवत्ता वाले एनोटेटेड प्रशिक्षण डेटा पर बहुत अधिक निर्भर करते हैं। हालाँकि, स्कैल्प ईईजी सिग्नल जटिल और आर्टिफैक्ट-प्रवण (artifact-prone) होते हैं, जिससे दौरे के समय और विशेषताओं के संबंध में नैदानिक एनोटेशन (clinical annotations) अनिश्चित हो जाते हैं। यह "लेबल नॉइज़" एक महत्वपूर्ण चुनौती पेश करता है, क्योंकि क्लिनिशियनों के बीच अंतर-रेटर सहमति (inter-rater agreement) अक्सर कम (लगभग 60%) होती है, और क्लिनिशियन अक्सर घटनाओं को मिस करने के जोखिम को कम करने के लिए दौरों को ओवर-सेगमेंट (over-segment) करते हैं। मानक सुपरवाइज्ड लर्निंग प्रतिमान, जो शोर वाले "ग्राउंड ट्रुथ" लेबल के विरुद्ध क्रॉस-एन्ट्रॉपी लॉस को कम करते हैं, मॉडल को भ्रामक फीचर्स सीखने के लिए प्रेरित करते हैं, जिसके परिणामस्वरूप खराब सामान्यीकरण (generalizability) और प्रदर्शन में ठहराव आता है। लेबल नॉइज़ को संभालने वाले मौजूदा तरीकों के लिए या तो आर्किटेक्चरल बदलाव की आवश्यकता होती है जो महत्वपूर्ण पैरामीटर्स जोड़ते हैं, वे उपलब्ध पूर्व जानकारी पर निर्भर करते हैं, या वे रैखिक डेटा विविधताओं (linear data variations) को मानते हैं जो जटिल ईईजी डेटा के लिए मान्य नहीं हैं।

कार्यप्रणाली: BUNDL फ्रेमवर्क
लेखक बेयसियन अनसर्टेन्टी-अवेयर डीप लर्निंग (BUNDL) पेश करते हैं, जो एक मॉडल-एग्नोस्टिक प्रशिक्षण रणनीति है जो मौजूदा न्यूरल नेटवर्क आर्किटेक्चर में पैरामीटर्स जोड़े बिना, लेबल अस्पष्टता को संभालने के लिए एक बेयसियन ढांचे के भीतर डोमेन ज्ञान को एकीकृत करती है।

संभाव्यता सूत्रीकरण (Probabilistic Formulation): BUNDL देखे गए शोर वाले लेबल ( $y_n$ ) और अनदेखे स्वच्छ लेबल ( $y_c$ ) के बीच अंतर करता है। यह स्वच्छ लेबल पोस्टीरियर वितरण $p(y_c|x)$ को एक बरनौली वितरण (Bernoulli distribution) के रूप में मॉडल करता है जो क्लिनिशियन द्वारा प्रदान किए गए लेबल ( $p_{y_n}$ ) और मॉडल के अपने प्रेडिक्शन ( $f_\theta(x)$ ) के बीच संतुलन बनाता है, जिसे अनरिलेबिलिटी मेजर $z_{x y_n}$ द्वारा भारित (weighted) किया जाता है।
अनसर्टेन्टी क्वांटिफिकेशन (Uncertainty Quantification): मुख्य नवाचार $z_{x y_n}$ का अनुमान लगाना है, जो इनपुट डेटा और दिए गए लेबल की अविश्वसनीयता को मापता है। लेखक यह परिकल्पना करते हैं कि लेबल नॉइज़ मॉडल के आउटपुट के एंट्रॉपी (entropy) को बढ़ाता है क्योंकि "मेमोराइजेशन इफेक्ट" (जहाँ मॉडल पहले स्वच्छ नमूनों को फिट करता है और फिर शोर वाले नमूनों के प्रति अनिश्चित रहता है) होता है। BUNDL इस अनसर्टेन्टी का अनुमान लगाने के लिए प्रशिक्षण के दौरान मोंटे कार्लो (MC) ड्रॉपआउट का उपयोग करता है। भविष्यवाणियों के औसत एंट्रॉपी की गणना करने के लिए यह कई फॉरवर्ड पासेस ( $N=20$ ) करता है। उच्च एंट्रॉपी (उच्च $z_{x y_n}$ ) इंगित करती है कि मॉडल को शोर वाले लेबल के बजाय अपने स्वयं के प्रेडिक्शन पर भरोसा करना चाहिए; निम्न एंट्रॉपी इंगित करती है कि लेबल विश्वसनीय होने की संभावना है।
लॉस फंक्शन (Loss Function): फ्रेमवर्क एक नया KL-डाइवर्जेंस-आधारित लॉस फंक्शन व्युत्पन्न करता है। शोर वाले लेबल और प्रेडिक्शन्स के बीच की दूरी को कम करने के बजाय, यह नेटवर्क के प्रेडिक्शन डिस्ट्रीब्यूशन और अनुमानित स्वच्छ लेबल पोस्टीरियर के बीच KL डाइवर्जेंस को कम करता है। यह मॉडल को प्रशिक्षण के दौरान एनोटेशन को एडैप्टिव रूप से ठीक करने की अनुमति देता है।
प्रशिक्षण रणनीति (Training Strategy): विधि में उच्च आत्मविश्वास वाले नमूनों (स्पष्ट रूप से दौरा या बेसलाइन) पर एक प्रीट्रेनिंग चरण शामिल है ताकि बेसलाइन अनसर्टेन्टी अनुमान स्थापित किया जा सके, इसके बाद BUNDL लॉस का उपयोग करके फाइन-ट्यूनिंग की जाती है। यह दृष्टिकोण पूरी तरह से स्वचालित है और इसके लिए केवल क्लिनिशियन-प्रदान किए गए लेबल की आवश्यकता होती है।

प्रमुख योगदान

अनसर्टेन्टी-ड्रिवन लेबल करेक्शन: एक संभाव्यता प्रशिक्षण ढांचा जो बिना किसी आर्किटेक्चरल संशोधन के विभिन्न प्रकार के लेबल नॉइज़ (सिमेट्रिक और एसिमेट्रिक) को संभालने के लिए अनसर्टेन्टी-इंफॉर्म्ड लेबल ट्रांजिशन को मॉडल करता है।
मॉडल-एग्नोस्टिक एल्गोरिदम: एल्गोरिदम जिन्हें किसी भी डीप न्यूरल नेटवर्क (DeepSOZ, TGCN, और CNN आर्किटेक्चर पर परीक्षण किया गया) में एकीकृत किया जा सकता है, जिसमें विभिन्न नॉइज़ सेटिंग्स के तहत मजबूती दिखाने वाले कन्वर्जेंस विश्लेषण शामिल हैं।
सिम्युलेटेड ईईजी बेंचमार्क: नियंत्रित, ज्ञात लेबल नॉइज़ (सिमेट्रिक, ओवर-सेगमेंटेशन, और अंडर-सेगमेंटेशन) के साथ सिम्युलेटेड ईईजी डेटा उत्पन्न करने के लिए एक मानकीकृत पाइपलाइन बनाने के लिए SEREEGA फ्रेमवर्क का उपयोग किया गया है, जो ग्राउंड ट्रुथ के विरुद्ध कठोर मूल्यांकन को सक्षम बनाता है।
व्यापक मूल्यांकन: सिम्युलेटेड डेटा और तीन वास्तविक दुनिया के डेटासेट्स (TUH, CHB-MIT, और Siena) पर सत्यापन, जिसमें क्रॉस-साइट सामान्यीकरण और सीज़र ऑनसेट ज़ोन (SOZ) लोकलाइजेशन पर प्रभाव का विश्लेषण शामिल है।

परिणाम

सिम्युलेटेड डेटा: BUNDL ने सभी शोर स्थितियों (सिमेट्रिक, 10%/30% ओवर-सेगमेंटेशन, और 10%/30% अंडर-सेगमेंटेशन) में बेसलाइन विधियों (सेल्फ-एडैप्टिव लर्निंग, नॉइजी एडैप्टेशन लेयर, और स्टैंडर्ड क्रॉस-एन्ट्रॉपी लॉस) को लगातार पछाड़ दिया। इसने सर्वश्रेष्ठ एरिया अंडर द रिसीवर ऑपरेटिंग कैरेक्टरिस्टिक कर्व (AUROC) और एरिया अंडर द प्रिसिजन-रिकॉल कर्व (AUPRC) प्राप्त किया और फॉल्स पॉजिटिव रेट (FPR) को काफी कम कर दिया। एब्लेशन स्टडीज ने पुष्टि की कि MC Dropout-आधारित अनसर्टेन्टी, लेबल मिसमैच की पहचान करने के लिए एन्सेम्बल मेथड्स, टेस्ट-टाइम ऑग्मेंटेशन, या लॉस-आधारित मेट्रिक्स की तुलना में अधिक प्रभावी थी।
रियल-वर्ल्ड डेटा (TUH और CHB-MIT): BUNDL ने सभी परीक्षण किए गए डीप नेटवर्क्स में सबसे कम फॉल्स पॉजिटिव रेट प्राप्त किया। TUH डेटासेट पर, BUNDL के साथ DeepSOZ ने 2.3 min/hour का FPR प्राप्त किया, जो बेसलाइन्स से काफी कम है। CHB-MIT डेटासेट पर, BUNDM के साथ CNN ने 0.8 min/hour का FPR प्राप्त किया। जबकि सेंसिटिविटी (sensitivity) भिन्न रही, BUNDL ने उन तरीकों की तुलना में लेटेंसी और मजबूती में निरंतर सुधार किया जिन्होंने लेबल नॉइज़ को ध्यान में नहीं रखा था।
क्रॉस-साइट जनरलाइजेशन: अनदेखे Siena डेटासेट पर, BUNDL ने सभी विधियों में सबसे कम FPR प्राप्त किया, जो डिस्ट्रीब्यूशन शिफ्ट के प्रति मजबूती प्रदर्शित करता है, हालांकि सेंसिटिविटी में गिरावट आई, जो आउट-ऑफ-डिस्ट्रीब्यूशन टेस्टिंग और लक्षित डेटासेट में संभावित लेबल ओवर-सेगमेंटेशन को दर्शाता है।
SOZ लोकलाइजेशन: सीज़र डिटेक्शन के लिए BUNDL को शामिल करने से TUH डेटासेट में सीज़र ऑनसेट ज़ोन लोकलाइजेशन की सटीकता में सुधार हुआ (पेशेंट लेवल पर सटीकता 0.591 से बढ़कर 0.620 हो गई), जो सुझाव देता है कि स्वच्छ डिटेक्शन लेबल बेहतर लोकलाइजेशन प्रदर्शन की ओर ले जाते हैं।
कंप्यूटेशनल लागत: BUNDL के लिए कोई अतिरिक्त पैरामीटर आवश्यक नहीं हैं। हालांकि इसमें MC Dropout के कारण कई फॉरवर्ड पासेस के कारण कंप्यूटेशनल लागत आती है, लेकिन यह NAL जैसे मल्टी-स्टेज ट्रेनिंग मेथड्स की तुलना में अधिक कुशल है और इसे सेल्फ-एडैप्टिव लर्निंग की तरह पिछले प्रेडिक्शंस को स्टोर करने की आवश्यकता नहीं है।

महत्व
यह पेपर दावा करता है कि BUNDL शोर वाले लेबल के साथ डीप न्यूरल नेटवर्क को प्रशिक्षित करने के लिए एक विश्वसनीय, संसाधन-कुशल और मॉडल-एग्नोस्टिक विधि प्रस्तुत करता है। बेयसियन अनसर्टेंटी क्वांटिफिकेशन (MC Dropout के माध्यम से) का लाभ उठाकर, यह मॉडल को अविश्वसनीय एनोटेशन को स्पष्ट रूप से पहचानने और अपनी सीखने की प्रक्रिया को समायोजित करने की अनुमति देता है, जिससे स्वचालित सीज़र डिटेक्शन सिस्टम की मजबूती और सामान्यीकरण क्षमता बढ़ती है। लेखक इस बात पर जोर देते हैं कि इस दृष्टिकोण को मौजूदा क्लिनिकल डीप लर्निंग पाइपलाइनों में निर्बाध रूप से एकीकृत किया जा सकता है, जिससे अतिरिक्त मैनुअल एनोटेशन प्रयास या जटिल आर्किटेक्चरल परिवर्तनों के बिना मिगी मूल्यांकन के लिए अधिक भरोसेमंद मॉडल को प्रशिक्षित करना संभव हो जाता है।