💻 computer science

Beyond Static Costs: Learning-Dynamics Aware Loss Functions for Long-Tailed Classification

यह शोध पत्र लर्निंग-डायनामिक्स अवेयर लॉस (LDAL) को प्रस्तुत करता है, जो एक नवीन ऑब्जेक्टिव फंक्शन है जो लॉन्ग-टेल्ड क्लासिफिकेशन कार्यों में स्टैटिक रीवेटिंग विधियों से बेहतर प्रदर्शन करने के लिए रीयल-टाइम फीचर रिप्रेजेंटेशन स्ट्रेंथ, प्रेडिक्शन एंट्रॉपी और इंटर-इपोक स्टेबिलिटी के आधार पर डायनामिक रूप से क्लास वेट्स को समायोजित करता है।

मूल लेखक: Varad Shinde, Nikhil Kumar Shrey, Magesh Rajasekaran, Md Saiful Islam Sajol, Harshil Bhargava, Subhajit Sidanta, Supratik Mukhopadhyay, Yimin Zhu

प्रकाशित 2026-07-29

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Varad Shinde, Nikhil Kumar Shrey, Magesh Rajasekaran, Md Saiful Islam Sajol, Harshil Bhargava, Subhajit Sidanta, Supratik Mukhopadhyay, Yimin Zhu

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को फोटो एल्बम में जानवरों को पहचानना सिखाने की कोशिश कर रहे हैं। आप चाहते हैं कि वह हर चीज़ का विशेषज्ञ बने, आम पालतू बिल्लियों से लेकर दुर्लभ और मायावी हिम तेंदों (snow leopards) तक। लेकिन यहाँ एक पेंच है: एल्बम बहुत असंतुलित है। इसमें बिल्लियों की हज़ारों तस्वीरें हैं, लेकिन हिम तेंदुओं की केवल कुछ ही हाथ भर तस्वीरें हैं। आर्टिफिशियल इंटेलिजेंस की दुनिया में, इसे "लॉन्ग-टेल्ड" (long-tailed) समस्या कहा जाता। अधिकांश वास्तविक दुनिया का डेटा ऐसा ही होता है: कुछ लोकप्रिय चीजें बार-बार होती हैं, जबकि कई दुर्लभ चीजें बहुत कम बार होती हैं।

कंप्यूटर को सिखाने के लिए, हम एक चीज़ का उपयोग करते हैं जिसे "लॉस फंक्शन" (loss function) कहा जाता है। इसे एक सख्त शिक्षक के रूप में समझें जो रोबोट के होमवर्क को ग्रेड दे रहा है। यदि रोबोट गलत अनुमान लगाता है, तो शिक्षक उसे एक "पेनल्टी" (खराब ग्रेड) देता है। लक्ष्य इन पेनल्टी को कम करना है ताकि रोबोट सीख सके। पारंपरिक रूप से, यह शिक्षक थोड़ा कठोर रहा है। वे क्लास लिस्ट देखते हैं और कहते हैं, "तुमने 1,000 बिल्ली वाले सवालों के गलत जवाब दिए? यह एक बड़ी पेनल्टी है! तुमने केवल 2 हिम तेंदुआ वाले सवाल गलत किए? यह एक छोटी सी पेनल्टी है।" शिक्षक यह मान लेते हैं कि क्योंकि हिम तेंदुओं की संख्या कम है, इसलिए रोबोट को बस थोड़ा और कठिन प्रयास करने की आवश्यकता है। लेकिन यह दृष्टिकोण अक्सर विफल हो जाता है क्योंकि यह हर गलती को समान मानता है, चाहे वह विषय रोबोट के समझने के लिए कितना भी कठिन क्यों न हो।

यहीं पर एक नया शोध पत्र आता है जो एक स्मार्ट और अधिक गतिशील तरीके से ग्रेड देने का प्रस्ताव देता है। शोधकर्ताओं ने, जिनका नेतृत्व वराद शिंदे और सहयोगियों ने किया था, एक नया तरीका प्रस्तावित किया जिसे लर्निंग-डायनेमिक्स अवेयर लॉस (LDAL) कहा जाता है। केवल यह गिनने के बजाय कि रोबोट कितनी बार किसी तस्वीर को देखता है, LDAL एक कोच की तरह काम करता है जो वास्तविक समय में यह देखता है कि रोबोट कैसे सीख रहा है। यह पूछता है: "क्या रोबोट हिम तेंदुए को लेकर वास्तव में भ्रमित हो रहा है, या इसने इसे पहले ही समझ लिया है?"

शोध पत्र का तर्क है कि ग्रेड देने का पुराना तरीका बहुत स्थिर (static) है। यह प्रशिक्षण की शुरुआत में निश्चित संख्याओं पर निर्भर करता है और कभी अपना विचार नहीं बदलता। लेखक सुझाव देते हैं कि सीखना एक यात्रा है। कुछ कक्षाएं "सीखने में आसान" (जैसे कि एक विशिष्ट आकार वाला हवाई जहाज) होती हैं, जबकि अन्य "सीखने में कठिन" (जैसे कि एक कुत्ता, जो हजारों अलग-अलग आकारों और प्रकारों में आता है) होती हैं, चाहे आपके पास उनकी कितनी भी तस्वीरें क्यों न हों।

LDAL इस समस्या को ठीक करने के लिए एक तीन-भाग वाली प्रणाली पेश करता है:

"कॉन्फिडेंस चेक" (विश्वास की जाँच): यह मापता है कि रोबोट अपने उत्तरों के बारे में कितना आश्वस्त है। यदि रोबोट बेतरतीब ढंग से अनुमान लगा रहा है (उच्च अनिश्चितता), तो शिक्षक को पता चलता है कि वह श्रेणी कठिन है और उसे अधिक ध्यान देने की आवश्यकता है। यदि रोबोट आश्वस्त है, तो वह जानता है कि वह श्रेणी आसान है और वह थोड़ा आराम कर सकता है।
"फीचर स्ट्रेंथ" (विशेषता की शक्ति) चेक: यह देखता है कि किसी विशिष्ट जानवर की रोबोट की स्मृति कितनी मजबूत है। यदि रोबोट ने "बिल्ली" की एक मजबूत मानसिक तस्वीर बना ली है, तो उसे एक गलती के लिए उतनी कड़ी सजा की आवश्यकता नहीं है जितनी कि एक "हिम तेंदुए" के लिए होगी जिसे वह मुश्किल से समझ पाता है।
"स्टेबिलिटी कोच" (स्थिरता कोच): यह एक विशेष नियम है जो यह जाँचता है कि क्या रोबोट कहीं अटक तो नहीं गया है। कभी-कभी, रोबोट आम बिल्लियों को पहचानने में इतना अच्छा हो जाता है कि वह दुर्लभ हिम तेंदों को सीखना पूरी तरह से छोड़ देता है। LDAL एक हल्का सा धक्का (nudge) देता है ताकि यह सुनिश्चित हो सके कि रोबोट दुर्लभ श्रेणियों का अभ्यास करना जारी रखे, भले ही वह सामान्य श्रेणियों का विशेषज्ञ बन गया हो।

शोधकर्ताओं ने अपने नए "कोच" का परीक्षण कई मानक डेटासेट्स पर किया, जिसमें रोजमर्रा की वस्तुओं की छवियां (CIFAR-10 और CIFAR-100) और वास्तविक दुनिया की तस्वीरों के विशाल संग्रह (ImageNet-LT और iNaturalist-2018) शामिल थे। उन्होंने पाया कि LDAL ने कई मौजूदा स्थिर तरीकों से काफी बेहतर प्रदर्शन किया। उदाहरण के लिए, अत्यधिक असंतुलन वाले CIFAR-100 डेटासेट पर, LDAL ने 52.72% की सटीकता प्राप्त की, जिसने पिछले शीर्ष तरीके (AREA) को पछाड़ दिया जो 51.77% पर था। विशाल ImageNet-LT डेटासेट पर, इसने 50.10% तक पहुँचकर एक बड़ी छलांग लगाई, जो बेसलाइन के 38.88% और AREA (49.53%) से काफी अधिक है। हालाँकि, iNaturalist-2018 डेटासेट पर, जबकि LDAL ने बेसलाइन में लगभग 10% का सुधार किया, इसे LDAM-DRW (68.00% बनाम 67.10%) द्वारा थोड़ा पीछे छोड़ दिया गया था, जो अंतिम इपोक (epochs) में एक विशेष लर्निंग रेट शेड्यूल का उपयोग करता है।

महत्वपूर्ण रूप से, यह शोध पत्र दिखाता है कि यह केवल एक भाग्यशाली अनुमान नहीं है। लेखकों ने प्रयोगों को कई बार चलाया और पाया कि उनके परिणाम बहुत स्थिर थे, जिसमें विभिन्न रन के दौरान मानक विचलन (standard deviation) 1% से कम था। उन्होंने यह भी साबित किया कि उनका तरीका रोबोट की सीखने की प्रक्रिया को "सुनकर" काम करता है; जैसे-जैसे रोबोट बुनियादी बातों में बेहतर होता जाता है, सिस्टम स्वचालित रूप से अपना ध्यान कठिन और पेचीदा श्रेणियों की ओर स्थानांतरित कर देता है।

शोध पत्र स्पष्ट रूप से इस विचार को खारिज करता है कि हमें रोबोट के मस्तिष्क (आर्किटेक्चर) को बदलने या उसे अधिक नकली तस्वीरें खिलाने (डेटा ऑग्मेंटेशन) की आवश्यकता है। इसके बजाय, वे दिखाते हैं कि केवल होमवर्क ग्रेड करने के तरीके को बदलना ही बहुत बेहतर परिणाम प्राप्त करने के लिए पर्याप्त है। हालांकि यह विधि अत्यधिक प्रभावी है, लेखक नोट करते हैं कि यह एक "प्लग-एंड-प्ले" टूल है, जिसका अर्थ है कि इसे मौजूदा सिस्टम में बिना किसी पूर्ण बदलाव के जोड़ा जा सकता है। वे सुझाव देते हैं कि भविष्य में, इस गतिशील दृष्टिकोण का उपयोग वीडियो में वस्तुओं को खोजने जैसे अन्य कार्यों या नए प्रकार के AI मॉडल के लिए किया जा सकता है, लेकिन फिलहाल, उन्होंने सिद्ध कर दिया है कि यह इमेज क्लासिफिकेशन के लिए असाधारण रूप से अच्छा काम करता है।

संक्षेप में, यह शोध पत्र सुझाव देता है कि रोबोट को दुर्लभ चीजों के बारे में सिखाने का सबसे अच्छा तरीका उसे बार-बार उन्हें दिखाना नहीं है, बल्कि यह समझना है कि वह उन्हें कैसे सीख रहा है और उसके अनुसार पाठ की कठिनाई को समायोजित करना है। सीखने की प्रक्रिया पर ध्यान देकर, हम अधिक स्मार्ट, निष्पक्ष और सटीक AI बना सकते हैं।

तकनीकी सारांश: लॉन्ग-टेल्ड क्लासिफिकेशन के लिए लर्निंग-डायनामिक्स अवेयर लॉस फंक्शन्स

समस्या विवरण

कंप्यूटर विजन में डीप लर्निंग मॉडल अक्सर लॉन्ग-टेल्ड डेटासेट्स (long-tailed datasets) के साथ संघर्ष करते हैं, जहाँ कुछ बहुसंख्यक वर्ग (head) हावी होते हैं जबकि कई अल्पसंख्यक वर्ग (tail) गंभीर रूप से कम प्रतिनिधित्व वाले होते हैं। यह असंतुलन पक्षपाती मॉडलों की ओर ले जाता है जो टेल वर्गों (tail classes) पर खराब प्रदर्शन करते हैं, जो दुर्लभ प्रजातियों की पहचान, मेडिकल इमेजिंग और विनिर्माण दोष का पता लगाने जैसे वास्तविक दुनिया के परिदृश्यों में एक महत्वपूर्ण मुद्दा है।

मौजूदा समाधान आम तौर पर तीन श्रेणियों में आते हैं: सूचना संवर्धन (Information Augmentation - IA), मॉड्यूल सुधार (Module Improvement - MI), और क्लास री-बैलेंसिंग (Class Re-balancing)।

IA और MI विधियाँ (जैसे डेटा ओवरसैंपलिंग, डिकपल्ड ट्रेनिंग, एन्सेम्बल लर्निंग) अक्सर नए पूर्वाग्रह पेश करती हैं, जटिल आर्किटेक्चरल परिवर्तनों की आवश्यकता होती है, या महत्वपूर्ण कम्प्यूटेशनल लागत लगती है।
क्लास री-बैलेंसिंग विधियाँ, विशेष रूप से जो स्थिर क्लास फ्रीक्वेंसी (जैसे बैलेंस्ड सॉफ्टमैक्स, फोकल लॉस) पर निर्भर करती हैं, वे स्थिर डेटा सांख्यिकी के आधार पर त्रुटियों को दंडित करती हैं। पेपर का तर्क है कि ये स्थिर स्कीमें लर्निंग की गतिशील प्रकृति (dynamic nature of learning) को समझने में विफल रहती हैं; वे इस तथ्य की अनदेखी करती हैं कि किसी वर्ग को सीखने की आंतरिक कठिनाई समय के साथ बदलती रहती है; कुछ टेल वर्ग कम सैंपल काउंट के बावजूद "सीखने में आसान" (Easy-to-Learn - ETL) हो सकते हैं, जबकि कुछ हेड वर्ग "सीखने में कठिन" (Difficult-to-Learn - DTL) हो सकते हैं। स्थिर प्रायर (static priors) इन बारीकियों के अनुकूल नहीं हो सकते, जिससे सब-ऑप्टिमल जनरलाइजेशन होता है।

कार्यप्रणाली: लर्निंग-डायनामिक्स अवेयर लॉस (LDAL)

लेखक LDAL का प्रस्ताव करते हैं, जो एक नवीन ऑब्जेक्टिव फंक्शन है जो ध्यान को स्थिर सैंपल काउंट से हटाकर गतिशील लर्निंग प्रोग्रेस (dynamic learning progress) पर केंद्रित करता है। LDAL शुद्ध रूप से लॉस स्तर पर कार्य करता है, जिसके लिए किसी आर्किटेक्चरल संशोधन या मल्टी-स्टेज ट्रेनिंग पाइपलाइन की आवश्यकता नहीं होती है। यह स्टैंडर्ड क्रॉस-एन्ट्रॉपी लॉस के साथ एकीकृत होता है और तीन मुख्य घटकों से बना है:

1. डायनेमिक क्लास इम्पॉर्टेंस ( $\gamma_i$ )

फिक्स्ड वेट्स के बजाय, LDAL प्रति एपॉक गणना किए गए दो रियल-टाइम मेट्रिक्स के आधार पर डायनेमिक इम्पॉर्टेंस वेट असाइन करता है:

सिमेंटिक स्केल ( $S_i$ ): यह एक क्लास के सीखे गए फीचर रिप्रेजेंटेशन की स्ट्रेंथ को मापता है, जिसे संचित लॉजिट वेक्टर्स के स्क्वेर्ड मीन मैग्नीट्यूड के रूप में परिभाषित किया गया है।
लर्निंग डिफिकल्टी ( $H_i$ ): इसे एक क्लास के लिए मॉडल के प्रेडिक्शन के शैनन एंट्रॉपी (Shannon entropy) द्वारा निर्धारित किया जाता है। उच्च एंट्रॉपी अनिश्चितता (DTL) को दर्शाती है, जबकि कम कॉन्फिडेंस यह दर्शाता है कि क्लास अच्छी तरह से सीखी जा चुकी है (ETL)।

वेट $\gamma_i$ को इस प्रकार तैयार किया गया है:
$\gamma_i = \min\left( \frac{S_i}{1 + \max_j(S_j) \cdot H_i}, \tau \right)$
यह फॉर्मूलेशन सुनिश्चित करता है कि उच्च एंट्रॉपी (सीखने में कठिन) वाले वर्गों को कम वेट मिले, जिससे अत्यधिक दंड (penalization) को रोका जा सके, जबकि मजबूत फीचर्स और कम एंट्रॉपी वाले वर्गों (अच्छी तरह से सीखे गए) को उच्च वेट मिले ताकि मॉडल शेष कठिन वर्गों पर ध्यान केंद्रित करने के लिए मजबूर हो सके।

2. सॉफ्ट प्रेडिक्शन काउंट ( $\tilde{N}_i$ )

LDAL हार्ड 'argmax' काउंट के बजाय एक डिफरेंशिएबल सॉफ्ट प्रेडिक्शन काउंट का उपयोग करता है। यह कम्प्यूटेशनल ग्राफ को बनाए रखता है, जिससे ऑप्टिमाइज़र न्यूमरेटर के माध्यम से बैकप्रोपैगेट कर सकता है और ग्रेडिएंट फ्लो को तोड़े बिना हेड क्लासेज के ओवर-प्रेडिक्शन को सक्रिय रूप से दंडित कर सकता है।

3. इंटर-एपॉक रेगुलराइज़र ( $r_i$ )

हेड क्लासेज द्वारा डोमिनेटेड लोकल मिनिमा में समय से पहले अभिसरण (convergence) को रोकने के लिए, LDAL एक हल्का पेनल्टी टर्म पेश करता है जो लक्षित अल्पसंख्यक वर्गों के लिए क्रमिक एपॉक्स के बीच प्रेडिक्शन शिफ्ट को ट्रैक करता है।

यदि पिछले एपॉक की तुलना में एक अल्पसंख्यक वर्ग के लिए संचयी हार्ड प्रेडिक्शन काउंट कम होता है, तो एक पॉजिटिव पेनल्टी लगाई जाती है।
यदि काउंट बढ़ता है, तो एक नेगेटिव रिवॉर्ड दिया जाता है।
यह स्थिर ऑप्टिमाइजेशन को लागू करता है और सुनिश्चित करता है कि मॉडल टेल क्लासेज पर स्थिर न हो जाए।

कुल लॉस फंक्शन स्टैंडर्ड क्रॉस-एन्ट्रॉपी ( $L_{CE}$ ) के साथ LDAL पेनल्टी ( $L_{LDAL}$ ) को जोड़ता है:
$L = L_{CE} + \frac{1}{C} \sum_{i=1}^{C} \frac{(\gamma_i \tilde{N}_i + r_i)^2}{\frac{1}{BC}\sum_{b,k} (sg(z^{(b)}_k) - (e_i)_k)^2 + \epsilon}$

मुख्य योगदान

LDAL फ्रेमवर्क: एक नवीन लॉस फंक्शन जो रनिंग प्रेडिक्शन फ्रीक्वेंसी, सिमेंटिक स्केल और एंट्रॉपी-आधारित डिफिकल्टी के आधार पर डायनेमिकली क्लास वेट्स को एडजस्ट करता है, जो पारंपरिक स्टैटिक वेटिंग से आगे बढ़ता है।
इंटर-एपॉक रेगुलराइज़र: एक लाइटवेट टर्म जो हेडर क्लास-डोमिनेटेड लोकल मिनिमा में सेटल होने से रोकने के लिए क्रमिक ट्रेनिंग एपॉक्स को जोड़ता है।
प्लग-एंड-प्ले इंटीग्रेशन: यह विधि शुद्ध रूप से ऑब्जेक्टिव लेवल पर कार्य करती है, जिसमें नगण्य कम्प्यूटेशनल ओवरहेड होता है और यह मौजूदा आर्किटेक्चर और अन्य क्लासिफिकेशन लॉस के साथ सहजता से एकीकृत हो जाती है।
व्यापक मूल्यांकन: व्यापक बेंचमार्किंग जो प्रदर्शित करती है कि LDAL स्टेट-ऑफ-द-आर्ट क्लास-सेंसिटिव लॉस फंक्शन्स को पीछे छोड़ देता है।

प्रयोगात्मक परिणाम

लेखकों ने विभिन्न इमबैलेंस रेश्यो ( $\rho$ ) वाले कई बेंचमार्क डेटासेट्स पर LDAL का मूल्यांकन किया: CIFAR-10-LT, CIFAR-100-LT, ImageNet-LT, और iNaturalist-2018।

प्योर क्लास-सेंसिटिव लर्निंग (CSL) तुलना:
- CIFAR-100-LT ( $\rho=100$ ) पर, LDAL ने 49.79% टॉप-1 एक्यूरेसी हासिल की, जो पिछले स्टेट-ऑफ-द-आर्ट CSL मेथड AREA (48.83%) से बेहतर है, और बेसलाइन जैसे CE+CB (45.32%) से काफी बेहतर प्रदर्शन करती है।
- CIFAR-10-LT ( $\rho=100$ ) पर, LDAL 80.19% तक पहुँचा, जिसने AREA (78.88%) और Meta-Weight-Net (80.06%) को पीछे छोड़ दिया।
लार्ज-स्केल डेटासेट्स:
- ImageNet-LT पर, LDAL ने 50.10% प्राप्त किया, जो AREA (49.53%) से अधिक है और बेसलाइन क्रॉस-एन्ट्रॉपी की तुलना में +11.22% का सुधार दिखाता है।
- iNaturalist-2018 पर, LDAL 67.10% तक पहुँचा, जो CE बेसलाइन से +9.8% बेहतर है। हालांकि यह LDAM-DRW (68.00%) से थोड़ा कम है, लेखक नोट करते हैं कि LDAM-DRW एक विशेष डिफर्ड रीवेटिंग (DRW) शेड्यूल का उपयोग करता है, जबकि LDAL मानक ट्रेनिंग स्थितियों के साथ प्रतिस्पर्धी परिणाम प्राप्त करता है।
एब्लेशन स्टडीज (Ablation Studies):
- किसी भी घटक (एंट्रॉपी, सिमेंटिक स्केल, या रेगुलराइज़र) को हटाने से प्रदर्शन में गिरावट आई, जो तीनों की आवश्यकता की पुष्टि करता है।
- ग्रेडिएंट फ्लो विश्लेषण ने पुष्टि की कि सॉफ्ट-काउंट फॉर्मूलेशन पूरे ट्रेनिंग के दौरान नॉन-जीरो ग्रेडिएंट्स को सुरक्षित रखता है।
- सेंसिटिविटी एनालिसिस ने दिखाया कि रेगुलराइज़र स्ट्रेंथ ( $\alpha$ ) डेटासेट्स में रोबस्ट है, जहाँ $\alpha=1.0$ इष्टतम परिणाम देता है।

महत्व और दावे

पेपर का दावा है कि LDAL सटीकता और जनरलाइजेबिलिटी के बीच एक इष्टतम ट्रेड-ऑफ प्रदान करता है क्योंकि यह नेटवर्क की डायनेमिक लर्निंग प्रोग्रेस की मौलिक सीमा को संबोधित करता है।

दक्षता (Efficiency): उन मॉड्यूल-हैवी अप्रोच (जैसे एन्सेम्बल लर्निंग या डिकपल्ड ट्रेनिंग) के विपरीत जिनके लिए जटिल पाइपलाइन की आवश्यकता होती है, LDAL एक लाइटवेट, ऑब्जेक्टिव-लेवल सॉल्यूशन प्रदान करता है जो बिना हाइपरपैरामीटर ट्यूनिंग के बड़े, जटिल डेटासेट्स तक प्रभावी ढंग से स्केल करता है।
मजबूती (Robustness): इंटर-एपॉक रेगुलराइज़र स्थिर अभिसरण सुनिश्चित करता है, जिससे मॉडल को हेड-क्लास-डोमिनेटेड लोकल मिनिमा में फंसने से रोका जा सकता है।
सैद्धांतिक अंतर्दृष्टि (Theoretical Insight): यह कार्य प्रमाणित करता है कि शैनन एंट्रॉपी सैंपल काउंट से स्वतंत्र, आंतरिक क्लास डिफिकल्टी का एक मजबूत प्रॉक्सी है, जिससे मॉडल "दुर्लभ लेकिन आसान" और "सामान्य लेकिन कठिन" वर्गों के बीच अंतर करने में सक्षम होता है।

लेखक निष्कर्ष निकालते हैं कि LDAL लॉन्ग-टेल्ड क्लासिफिकेशन के लिए शुद्ध लॉस फंक्शन्स के लिए एक अत्यधिक प्रतिस्पर्धी बेसलाइन स्थापित करता है, जो जटिल आर्किटेक्चरल बदलावों के कम्प्यूटेशनल बोझ के बिना वास्तविक दुनिया के असंतुलित डेटा के लिए मजबूत मॉडल की ओर एक व्यावहारिक मार्ग प्रदान करता है। भविष्य के कार्य के रूप में इस मैकेनिज्म को ऑब्जेक्ट डिटेक्शन और ट्रांसफार्मर-आधारित बैकबोन तक विस्तारित करने का प्रस्ताव दिया गया है।

तकनीकी सारांश: लॉन्ग-टेल्ड क्लासिफिकेशन के लिए लर्निंग-डायनामिक्स अवेयर लॉस फंक्शन्स

समस्या विवरण

कार्यप्रणाली: लर्निंग-डायनामिक्स अवेयर लॉस (LDAL)

1. डायनेमिक क्लास इम्पॉर्टेंस (γi\gamma_iγi​)

2. सॉफ्ट प्रेडिक्शन काउंट (N~i\tilde{N}_iN~i​)

3. इंटर-एपॉक रेगुलराइज़र (rir_iri​)