🤖 machine learning

Improving Detection of Rare Nodes in Hierarchical Multi-Label Learning

यह शोध पत्र एक भारित हानि उद्देश्य (weighted loss objective) प्रस्तावित करता है जो पदानुक्रमित बहु-लेबल वर्गीकरण (hierarchical multi-label classification) में दुर्लभ नोड्स के पता लगाने में सुधार करने के लिए एन्सेम्बल अनिश्चितताओं (ensemble uncertainties) पर आधारित फोकल वेटिंग के साथ नोड-वार असंतुलन वेटिंग को जोड़ता है, जिसके परिणामस्वरूप रिकॉल और $F_{1}$ स्कोर में महत्वपूर्ण लाभ प्राप्त होता है।

मूल लेखक: Isaac Xu, Martin Gillis, Ayushi Sharma, Benjamin Misiuk, Craig J. Brown, Thomas Trappenberg

प्रकाशित 2026-06-11

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Isaac Xu, Martin Gillis, Ayushi Sharma, Benjamin Misiuk, Craig J. Brown, Thomas Trappenberg

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

समस्या: डेटा का "गहरा जंगल" (Deep Forest)

कल्पना कीजिए कि आप एक विशाल पुस्तकालय को व्यवस्थित करने की कोशिश कर रहे हैं। प्रवेश द्वार पर, आपके पास "विज्ञान" या "इतिहास" जैसे व्यापक खंड हैं। जैसे-जैसे आप पुस्तकालय में गहराई से अंदर जाते हैं, अलमारियाँ अधिक विशिष्ट होती जाती हैं: "जीव विज्ञान," फिर "समुद्री जीव विज्ञान," फिर "गहरे समुद्र के मूंगे (Deep Sea Corals)," और अंत में, एक बहुत ही दुर्लभ, विशिष्ट प्रकार का मूंगा जो केवल एक ही स्थान पर पाया जाता है।

मशीन लर्निंग में, इस संरचना को पदानुक्रम (Hierarchy) कहा जाता है। व्यापक श्रेणियां "जनक" (parents) हैं, और विशिष्ट, विस्तृत श्रेणियां "संतान" (children) हैं।

शोधकर्ताओं ने जिस समस्या की पहचान की है वह यह है कि AI मॉडल पुस्तकालय के बिल्कुल पीछे छिपे उन "बच्चों" को खोजने में बहुत खराब हैं। क्यों?

दुर्लभता (Rarity): उस विशिष्ट मूंगे पर बहुत कम किताबें हैं।
जनक का जाल (The Parent Trap): AI देखता है कि "विज्ञान" और "जीव विज्ञान" हर जगह मौजूद हैं। यह आलसी हो जाता है। यह सोचता है, "मैं बस 'जीव विज्ञान' की भविष्यवाणी कर दूँगा और काम खत्म कर दूँगा।" यह दुर्लभ, विशिष्ट विवरणों को अनदेखा कर देता है क्योंकि वे कठिन हैं और ट्रेनिंग डेटा में अक्सर दिखाई नहीं देते।

इसे रेयर नोड प्रॉब्लम (Rare Node Problem) कहा जाता है। मॉडल सतह के स्तर पर ही रुक जाता है और सूक्ष्म विवरणों के लिए गहराई तक जाने में विफल रहता है।

समाधान: दो विशेष "स्पॉटलाइट्स" (Two Special "Spotlights")

लेखक AI को प्रशिक्षित करने का एक नया तरीका प्रस्तावित करते हैं, जिसमें एक विशेष गणितीय सूत्र (एक "लॉस फंक्शन") का उपयोग किया जाता है जो दो अलग-अलग स्पॉटलाइट की तरह काम करता है ताकि मॉडल को दुर्लभ वस्तुओं पर अधिक ध्यान देने के लिए मजबूर किया जा सके।

स्पॉटलाइट 1: "निष्पक्षता" का भार (Imbalance Weighting)

सामान्यतः, यदि कोई AI किसी सामान्य विषय (जैसे "जीव विज्ञान") पर गलती करता है, तो उसे छोटी सी डांट मिलती है। यदि वह किसी दुर्लभ विषय (जैसे "दुर्लभ मूंगा") पर गलती करता है, तो भी उसे छोटी सी डांट ही मिलती है। यह अनुचित है क्योंकि दुर्लभ विषय को सीखना कठिन होता है।

शोधकर्ता नियमों को बदलते हैं। वे AI को दुर्लभ नोड को मिस करने पर बहुत बड़ा दंड (penalty) देते हैं।

उपमा (Analogy): कल्पना कीजिए कि एक शिक्षक एक दुर्लभ पक्षी को पहचानने के लिए अतिरिक्त क्रेडिट देता है, लेकिन कबूतर को पहचानने के लिए केवल सामान्य क्रेडिट देता है। अब छात्र (AI) को दुर्लभ पक्षी को खोजने के लिए बारीकी से देखने के लिए प्रेरित किया जाता है क्योंकि इनाम (या उसे मिस करने का दंड) अधिक है।
ट्विस्ट: वे केवल डेटा पॉइंट्स को नहीं देखते; वे स्वयं नोड्स (श्रेणियों) को देखते हैं। यह AI को इस बात से भ्रमित होने से रोकता है कि दुर्लभ पक्षी अक्सर सामान्य कबूतरों के साथ तस्वीरों में दिखाई देते हैं।

स्पॉटलाइट 2: "भ्रम" का भार (Focal Weighting)

दूसरा स्पॉटलाइट अनिश्चितता (Uncertainty) पर केंद्रित है। मशीन लर्निंग में, "अनिश्चितता" का अर्थ है कि AI अपने उत्तर के बारे में अनिश्चित है।

शोधकर्ता एक तकनीक का उपयोग करते हैं जिसे एन्सेम्बल (Ensemble) कहा जाता है। एक AI मस्तिष्क के बजाय, वे एक ही छवि को देख रहे 10 AI मस्तिष्क की एक टीम का उपयोग करते हैं।

यदि सभी 10 मस्तिष्क सहमत हैं, तो AI आश्वस्त (confident) है।
यदि मस्तिष्क असहमत हैं, तो AI अनिश्चित है।

नया तरीका AI को कहता है: "उन नोड्स पर विशेष ध्यान दें जहाँ आप भ्रमित हैं।"

उपमा: परीक्षा के लिए पढ़ाई करने की कल्पना करें। आप उन प्रश्नों पर समय बर्बाद नहीं करते जिन्हें आप पहले से ही पूरी तरह जानते हैं। आप अपनी पूरी ऊर्जा उन प्रश्नों पर लगाते हैं जो आपको भ्रमित करते हैं। यह विधि AI को प्रशिक्षण की ऊर्जा उन हिस्सों पर केंद्रित करने के लिए मजबूर करती है जिन्हें वह अभी तक नहीं समझ पाया है, जो आमतौर पर दुर्लभ, गहरे स्तर की श्रेणियां होती हैं।

उन्होंने इसका परीक्षण कैसे किया

उन्होंने इस पद्धति का परीक्षण दो प्रकार के डेटा पर किया:

जीन उत्पाद (Gene Products): जटिल जैविक डेटा जिसमें हजारों श्रेणियां हैं (जैसे एक बहुत गहरा पुस्तकालय)।
पानी के नीचे की छवियां (Underwater Images): समुद्री जीवों (जैसे स्टारफिश और सी अर्चिन जैसे इचिनोडर्म्स) की तस्वीरें।

परिणाम

परिणाम काफी प्रभावशाली थे, विशेष रूप से दुर्लभ वस्तुओं के लिए:

रिकॉल बूस्ट (Recall Boost): "रिकॉल" यह मापता है कि AI ने वास्तव में कितने दुर्लभ आइटम खोजे। नई विधि ने मानक तरीकों की तुलना में रिकॉल को पाँच गुना तक सुधार दिया। दूसरे शब्दों में, AI ने पाँच गुना अधिक दुर्लभ, गहरे-स्तर की श्रेणियों को खोजा।
बेहतर सटीकता (Better Accuracy): समग्र स्कोर (F1 स्कोर) भी महत्वपूर्ण रूप से सुधरा।
खराब डेटा के साथ मददगार: यह विधि विशेष रूप से तब मददगार रही जब डेटा अव्यवस्थित था या जब AI की "आंखें" (इमेज एनकोडर) बहुत अच्छी नहीं थीं। इसने AI को तब भी गहराई तक खोदने में मदद की जब शुरुआती स्थितियां खराब थीं।

यह क्यों महत्वपूर्ण है (पेपर के अनुसार)

पेपर नोट करता है कि समुद्र विज्ञान या चिकित्सा जैसे क्षेत्रों में, "दुर्लभ" वस्तुएं अक्सर सबसे महत्वपूर्ण होती हैं।

समुद्र विज्ञान (Oceanography): एक दुर्लभ प्रजाति के मूंगे का पता लगाना महत्वपूर्ण पर्यावरणीय परिवर्तनों का संकेत दे सकता है।
चिकित्सा (Medicine): एक दुर्लभ जीन उत्पाद की पहचान करना बीमारी के निदान में मदद कर सकती है।

AI को पदानुक्रम में गहराई से देखने में मदद करके, यह विधि यह सुनिश्चित करती है कि ये महत्वपूर्ण, दुर्लभ विवरण केवल इसलिए अनदेखा न किए जाएं क्योंकि वे असामान्य हैं।

एक वाक्य में सारांश

शोधकर्ताओं ने एक प्रशिक्षण पद्धति बनाई है जो AI को दुर्लभ श्रेणियों को मिस करने के लिए अधिक दंडित करती है और उसे उन हिस्सों पर ध्यान केंद्रित करने के लिए मजबूर करती है जहाँ वह सबसे अधिक भ्रमित है, जिसके परिणामस्वरूप एक ऐसा AI प्राप्त होता है जो जटिल डेटा में विशिष्ट, कठिन-से-खोजने वाले विवरणों को पहचानने में बहुत बेहतर है।

तकनीकी सारांश: पदानुक्रमित बहु-लेबल लर्निंग में दुर्लभ नोड्स का पता लगाने में सुधार

समस्या विवरण
यह शोध पत्र पदानुक्रमित बहु-लेबल (Hierarchical Multi-Label - HML) वर्गीकरण कार्यों में दुर्लभ, सूक्ष्म-स्तरीय वर्गों (नोड्स) का पता लगाने की चुनौती को संबोधित करता है। HML में, डेटा एक निर्देशित अचक्रीय ग्राफ (DAG) या ट्री के रूप में संरचित होता है, जहाँ चाइल्ड नोड्स (child nodes) अपने पैरेंट नोड्स (parent nodes) के उपसमुच्चय होते हैं। यह संरचना स्वाभाविक रूप से क्लास इम्बैलेंस (वर्ग असंतुलन) उत्पन्न करती है, क्योंकि पैरेंट नोड्स आमतौर पर उनके वंशजों (descendants) की तुलना में अधिक बार देखे जाते हैं। मौजूदा विधियाँ अक्सर गहरे, दुर्लभ नोड्स की भविष्यवाणी करने में विफल रहती हैं, जो विस्तृत वैज्ञानिक अंतर्दृष्टि (जैसे, समुद्री तल वर्गीकरण में दुर्लभ प्रजातियों या चिकित्सा डोमेन में विशिष्ट जीन उत्पादों की पहचान करना) के लिए महत्वपूर्ण हैं। लेखक तर्क देते हैं कि मानक अवलोकन-आधारित रीसैंपलिंग (observation-based resampling) तकनीकें उप-इष्टतम हैं क्योंकि वे दुर्लभ चाइल्ड नोड्स के लिए नमूना लेने के दौरान सामान्य पैरेंट नोड्स पर अत्यधिक जोर देने का जोखिम उठाती हैं, जो पदानुक्रमित एनोटेशन की संयुक्त प्रकृति के कारण होता है।

कार्यप्रणाली
लेखक एक न्यूरल नेटवर्क के लिए एक भारित लॉस ऑब्जेक्टिव (weighted loss objective) प्रस्तावित करते हैं जो मानक पदानुक्रमित बाधा हानि (विशेष रूप से कोहेरेंट हिरार्किकल मल्टी-लेबल क्लासिफिकेशन न्यूरल नेटवर्क, C-HMCNN से "मैक्स कंस्ट्रेंट लॉस") को दो विशिष्ट वेटिंग घटकों के साथ बढ़ाता है:

नोड-वार असंतुलन वेटिंग (Node-wise Imbalance Weighting): अवलोकन आवृत्ति के आधार पर वेटिंग करने के बजाय, यह विधि नोड आवृत्ति के आधार पर भार आवंटित करती है। एक नोड के लिए भार उसकी उपस्थिति आवृत्ति (उसके वंशजों सहित) के व्युत्क्रमानुपाती होता है। सामान्य नोड्स को नगण्य ग्रेडिएंट्स योगदान करने से रोकने के लिए, इन भारों को शून्य निचली सीमा और एक न्यूनतम भार पैरामीटर ( $\tilde{w}_0$ ) लागू करने के लिए पुन: स्केल किया जाता है। महत्वपूर्ण रूप से, ये भार केवल सकारात्मक एनोटेशन (जहाँ नोड मौजूद है) पर लागू किए जाते हैं, क्योंकि नकारात्मक एनोटेशन को वेट करने से प्रदर्शन में सुधार नहीं हुआ।
अनिश्चितता के माध्यम से फोकल वेटिंग (Focal Weighting via Uncertainty): फोकल लॉस से प्रेरित होकर, यह घटक उन नोड्स पर जोर देता है जहाँ मॉडल अनिश्चित होता है। लेखक अनिश्चितता को मापने के लिए मॉडलों के एक एन्सेम्बल (ensemble) का उपयोग करते हैं, उनका तर्क है कि मानक कॉन्फिडेंस मेट्रिक्स ( $p(y|x;\theta)$ ) अविश्वसनीय हैं। वे चार अनिश्चितता मापों का अन्वेषण करते हैं:
- बाइनरी बायेसियन मॉडल एवरेज (bBMA): एन्सेम्बल के औसत भविष्यवाणियों के वेरिएंस (variance) पर आधारित।
- गेटेड मार्जिन अनसर्टेन्टी (GMU): एक सिग्नल-टू-नॉइज़ अनुपात मीट्रिक जो एन्सेम्बल के सदस्यों के बीच सहमति और वेरिएंस को कैप्चर करता है।
- एपिस्टेमिक अनसर्टेन्टी (Epistemic Uncertainty): एन्सेम्बल में मॉडल के जोड़ों के बीच अपेक्षित क्लालबैक-लीब्लर (KL) या जेन्सन-शैनन (JS) डाइवर्जेंस का उपयोग करके गणना की जाती है।
अंतिम लॉस फंक्शन इन पदों को जोड़ता है: $L_{focal} = (\tilde{w}_0 + \tilde{W}(Y, f)) \cdot (U_0 + U(\Theta(X))^k) \cdot L_{MC}$ , जहाँ $L_{MC}$ मैक्स कंस्ट्रेंट लॉस है। एन्सेम्बल कोलैप्स से बचने के लिए अनिश्चितता पद की गणना बिना ग्रेडिएंट के की जाती है।

प्रमुख योगदान

असंतुलन वेटिंग: पेपर इस बात का प्रमाण प्रदान करता है कि नोड-वार वेटिंग, जो अवलोकन आवृत्ति से स्वतंत्र है, अवलोकन-आधारित रीसैंपलिंग की तुलना में पदानुक्रमित वर्गीकरण में सुधार करने के लिए अधिक प्रभावी है, विशेष रूप से दुर्लभ नोड्स के लिए।
फोकल वेटिंग: लेखक यह प्रदर्शित करते हैं कि फोकल लॉस टर्म में आधुनिक अनिश्चितता परिमाणीकरण (विशेष रूप से bBMA और GMU) को शामिल करने से अनिश्चित भविष्यवाणियों पर ध्यान केंद्रित करके दुर्लभ नोड्स का पता लगाने में महत्वपूर्ण सुधार होता है।

परिणाम
इस दृष्टिकोण का मूल्यांकन 16 जीन उत्पाद डेटासेट्स (फंक्शनल कैटलॉग और जीन ऑन्कोलॉजी पदानुक्रमों का उपयोग करके) और एक बेंटिक इमेजरी डेटासेट (BenthicNet-E) पर किया गया।

जीन उत्पाद डेटा: प्रस्तावित विधि ने बेसलाइन (बिना वेटिंग, LPROS रीसैंपलिंग, HROS-PD रीसैंपलिंग) की तुलना में काफी बेहतर प्रदर्शन किया। विशेष रूप से, दुर्लभ नोड्स के लिए रिकॉल (recall) कंट्रोल की तुलना में पांच गुना तक सुधर गया। असंतुलन वेटिंग को bBMA या GMU फोकल वेटिंग के साथ मिलाने से उच्चतम F1 स्कोर प्राप्त हुआ। एपिस्टेमिक अनसर्टेन्टी मेट्रिक्स, bBMA और GMU की तुलना में कम प्रभावी रहे, संभवतः इसलिए क्योंकि अच्छी तरह से प्रशिक्षित मॉडलों में एलियटोरिक अनसर्टेन्टी (aleatoric uncertainty) हावी रहती है।
विज़न डेटा (एकिनोडर्म्स): पद्धति ने चुनौतीपूर्ण परिदृश्यों में महत्वपूर्ण लाभ दिखाया, जैसे कि सब-ऑप्टिमल (शोर वाले/अनट्रेन्ड) एनकोडर्स या सीमित प्रशिक्षण डेटा का उपयोग करते समय। जैसे-जैसे एनकोडर की गुणवत्ता में सुधार हुआ या डेटा की उपलब्धता बढ़ी, वेटिंग विधियों का सापेक्ष लाभ कम होता गया, जो इस परिकल्पना का समर्थन करता है कि यह दृष्टिकोण कठिन, असंतुलित कार्यों के लिए सबसे अधिक फायदेमंद है।
एब्लेशन स्टडीज (Ablation Studies): लेखकों ने पाया कि जीन उत्पाद डेटासेट्स पर प्रिसिजन (precision) और रिकॉल दोनों को सिनर्जिस्टिक रूप से बढ़ावा देकर F1 स्कोर को और बेहतर बनाने के लिए असंतुलन वेटिंग को LPROS रीसैंपलिंग के साथ जोड़ना प्रभावी रहा। हालांकि, प्रशिक्षण के दौरान वेटेड से अनवेटेड लॉस में संक्रमण करने वाले डायनेमिक शेड्यूलर प्रिसिजन को बनाए रखने में काफी हद तक असफल रहे।

महत्व और दावे
पेपर का दावा है कि उनका नोड-आधारित वेटिंग दृष्टिकोण HML में दुर्लभ नोड डिटेक्शन की निरंतर समस्या को प्रभावी ढंग से संबोधित करता है, जिसे अक्सर मौजूदा विधियों द्वारा अनदेखा कर दिया जाता है। नोड एम्फेसिस को अवलोकन वितरण से अलग करके और एन्सेम्बल अनसर्टेन्टी का लाभ उठाकर, यह पद्धति मॉडलों को अधिक गहरे और व्यापक भविष्यवाणियां करने में सक्षम बनाती है। लेखक इस बात पर जोर देते हैं कि उनका दृष्टिकोण विशेष रूप से उन वैज्ञानिक डोमेन के लिए मूल्यवान है जहाँ सूक्ष्म-स्तरीय, दुर्लभ वर्गीकरण महत्वपूर्ण हैं, और जहाँ डेटा सीमित या एनकोडर्स सब-ऑप्टिमल हो सकते हैं। पुनरुत्पादकता (reproducibility) को सुगम बनाने के लिए कोड उपलब्ध कराया गया है।