🤖 machine learning

Mitigating Negative Flips via Margin Preserving Training

यह शोध पत्र एक नवीन प्रशिक्षण ढांचे का प्रस्ताव करता है जो लॉजिट कैलिब्रेशन (logit calibration) के माध्यम से मूल मॉडल मार्जिन को संरक्षित करते हुए और पुराने एवं नए दोनों वर्गों पर उच्च सटीकता बनाए रखने के लिए डबल-सोर्स फोकल डिस्टिलेशन (double-source focal distillation) का उपयोग करते हुए, विकसित होते इमेज क्लासिफिकेशन सिस्टम में होने वाले नेगेटिव फ्लिप्स (negative flips) को कम करता है।

मूल लेखक: Simone Ricci, Niccolò Biondi, Federico Pernici, Alberto Del Bimbo

प्रकाशित 2026-08-10

📖 10 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Simone Ricci, Niccolò Biondi, Federico Pernici, Alberto Del Bimbo

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक मास्टर शेफ हैं जिन्होंने वर्षों तक अपने मेनू को निखारने में बिताया है। आपके ग्राहक जानते हैं कि उन्हें क्या उम्मीद रखनी चाहिए: "स्पाइसी टोफू" हमेशा तीखा होगा, और "क्रीमी मशरूम" हमेशा क्रीमी होगा। फिर, आप मेनू का विस्तार करने का निर्णय लेते हैं। आप "ड्रैगन फ्रूट सोर्बेट" और "वासाबी आइसक्रीम" जैसे रोमांचक नए व्यंजन जोड़ते हैं। यह सुनने में बहुत अच्छा लगता है, लेकिन इसमें एक पेंच है। इन नए स्वादों के लिए जगह बनाने की जल्दबाजी में, आपने अनजाने में पुराने पसंदीदा व्यंजनों की रेसिपी में बदलाव कर दिया। अचानक, स्पाइसी टोफू थोड़ा फीका लगने लगा, या क्रीमी मशरूम में एक अजीब सा स्वाद आ गया। आपके वफादार ग्राहक भ्रमित और नाखुश हैं, भले ही नया मेनू कागज़ पर तकनीकी रूप से "बेहतर" हो। यह आर्टिफिशियल इंटेलिजेंस (AI) का दैनिक संघर्ष है। जैसे-जैसे AI सिस्टम नई चीजें सीखते हैं, वे अक्सर पुरानी चीजों को सही ढंग से करना भूल जाते हैं। कंप्यूटर विज्ञान की दुनिया में, इस विशिष्ट प्रकार के भ्रम को—जहाँ एक AI उस काम में बदतर हो जाता है जिसे वह पहले सही ढंग से करता था—"नेगेटिव फ्लिप" (negative flip) कहा जाता है। यह एक निराशाजनक गड़बड़ी है जहाँ एक अपडेट उस चीज़ को खराब कर देता है जो पहले से ठीक थी।

जिस शोध पत्र को आप पढ़ने जा रहे हैं, वह इसी समस्या पर केंद्रित है। शोधकर्ताओं ने इमेज क्लासिफिकेशन (कंप्यूटर को बिल्ली, कुत्ते, कारों आदि की तस्वीरें पहचानना सिखाना) पर काम करते हुए देखा कि जब उन्होंने AI के मस्तिष्क में नए वर्ग (categories) जोड़े, तो पुराने और नए के बीच खींची गई "निर्णय रेखाएं" (decision lines) बहुत भीड़भाड़ वाली हो गईं। यह एक छोटे कमरे में बहुत अधिक लोगों को फिट करने जैसा था; हर कोई एक-दूसरे से टकराने लगा, और AI भ्रमित हो गया कि कौन कौन है। इसे ठीक करने के लिए, उन्होंने एक नई प्रशिक्षण विधि विकसित की जिसे मार्जिन प्रिजर्विंग ट्रेनिंग (MPT) कहा जाता है। इसे ऐसे समझें कि आप AI को उसके पुराने दोस्तों के व्यक्तिगत स्थान (personal space) का सम्मान करना सिखा रहे हैं, जबकि नए लोगों के लिए भी जगह बना रहे हैं। सब कुछ बस एक साथ ठूंस देने के बजाय, वे एक विशेष "बायस" (bias) का उपयोग करते हैं ताकि पुराने वर्गों को सुरक्षित रखा जा सके और एक "डबल-टीचर" प्रणाली का उपयोग करते हैं ताकि यह सुनिश्चित हो सके कि नए वर्ग पीछे न छूट जाएं। उनके प्रयोगों से पता चलता है कि यह विधि उन परेशान करने वाली गलतियों को रोकने में सफल रही है जो पुराने कार्यों पर होती हैं, और साथ ही यह नए कार्यों को भी पहले की तरह ही अच्छी तरह सीख लेती है।

समस्या: जब "बेहतर" होने का मतलब "बदतर" होना हो

AI की तेज़ रफ्तार दुनिया में, मॉडल लगातार अपडेट किए जाते हैं। डेवलपर्स एक नया AI संस्करण प्रशिक्षित करते हैं, इस उम्मीद में कि यह स्मार्ट, तेज़ और अधिक चीजों को पहचानने में सक्षम होगा। आमतौर पर, यह बहुत अच्छा काम करता है। लेकिन कभी-कभी, एक अजीब बात होती है। एक AI जो "गोल्डन रिट्रीवर" की पहचान करने में एकदम सटीक था, अपडेट के बाद अचानक उसे "लैब्राडोर" कहने लगता है। या, यह एक "स्टॉप साइन" को "स्पीड लिमिट साइन" समझ सकता है, जो वह पहले नहीं करता था।

इस घटना को नेगेटिव फ्लिप कहा जाता है। यह एक "पॉजिटिव फ्लिप" के विपरीत है, जहाँ एक AI अंततः उस चीज़ को पहचानना सीख जाता है जिसे वह पहले गलत पहचानता था। जबकि पॉजिटिव फ्लिप लक्ष्य होते हैं, नेगेटिव फ्लिप प्रगति की छिपी हुई कीमत हैं। वे विशेष रूप से खतरनाक हैं क्योंकि वे वास्तविक दुनिया के सिस्टम में अप्रत्याशित व्यवहार का कारण बन सकते हैं, जैसे कि एक सेल्फ-ड्राइविंग कार का अचानक जाने-पहचाने सड़क संकेत को गलत पहचान लेना।

शोधकर्ताओं ने पाया कि ये नेगेटिव फ्लिप सबसे अधिक तब होते हैं जब AI को अधिक क्लासेज (वर्गों) को सीखने के लिए कहा जाता है। कल्पना कीजिए कि एक कक्षा है जहाँ शिक्षक को 10 छात्रों के बीच अंतर करना है। यह आसान है। अब, कल्पना कीजिए कि 100 छात्र अंदर आते हैं। शिक्षक को उन सभी को एक ही कमरे में समाना पड़ता है। उन सभी को फिट करने के लिए, प्रत्येक छात्र के बीच का "व्यक्तिगत स्थान" (या मार्जिन) छोटा हो जाता है। AI के संदर्भ में, "मार्जिन" वह सुरक्षा बफर है जिसे मॉडल विभिन्न श्रेणियों के बीच बनाए रखता है। जब आप नए वर्ग जोड़ते हैं, तो मॉडल सभी के लिए जगह को अधिकतम करने के लिए सब कुछ एक साथ दबाने की कोशिश करता है, लेकिन यह अक्सर पुराने वर्गों को किनारे के बहुत करीब धकेल देता है, जिससे उन्हें भ्रमित करना आसान हो जाता है।

समाधान: MPT के साथ शांति बनाए रखना

लेखक एक नई विधि प्रस्तावित करते हैं जिसे मार्जिन प्रिजर्विंग ट्रेनिंग (MPT) कहा जाता है। उनका लक्ष्य सरल है: AI को नई चीजें सीखने के लिए अपडेट करना, बिना उन चीजों के सुरक्षा बफर को कम किए जिन्हें वह पहले से जानता है।

वे इसे दो मुख्य तरीकों से हल करते हैं, जो एक सुव्यवस्थित मशीन की तरह मिलकर काम करते हैं:

1. "वीआईपी पास" (मार्जिन-कैलिब्रेटेड लॉस)
सबसे पहले, वे प्रशिक्षण के दौरान नए वर्गों को थोड़ी "हेड स्टार्ट" देते हैं। कल्पना कीजिए कि आप छात्रों की एक कक्षा को पढ़ा रहे हैं। पुराने छात्र (पुराने वर्ग) पहले से ही अपनी सीटों पर बैठे हैं। नए छात्र (नए वर्ग) दरवाजे पर खड़े हैं। यदि आप बस सबको बैठने के लिए कहते हैं, तो पुराने छात्रों को जगह बनाने के लिए उनकी कुर्सियों से धकेला जा सकता है।

इसे रोकने के लिए, शोधकर्ता नए छात्रों को एक "वीआईपी पास" (एक पॉजिटिव लॉजिट बायस) देते हैं। यह पास AI को बताता है, "हे, ये नए लोग महत्वपूर्ण हैं, इन्हें अपनी सीटें खोजने के लिए थोड़ा अतिरिक्त स्थान दें।" प्रशिक्षण के दौरान नए वर्गों के लिए आत्मविश्वास को कृत्रिम रूप से बढ़ाकर, AI को पुराने वर्गों से निर्णय सीमाओं (decision boundaries) को दूर धकेलने के लिए मजबूर किया जाता है। यह सुनिश्चित करता है कि पुराने वर्ग अपने विस्तृत, सुरक्षित "मार्जिन" बनाए रखें और दब न जाएं। यह AI को यह बताने जैसा है कि, "अभी नए stuff की ज्यादा चिंता मत करो; सुनिश्चित करो कि पुराना stuff सुरक्षित रहे।"

2. "डबल-टीचर" प्रणाली (डबल-सोर्स फोकल डिस्टिलेशन)
वीआईपी पास के साथ एक समस्या है। यदि आप नए वर्गों को बहुत अधिक हेड स्टार्ट देते हैं, तो वे बहुत अधिक आत्मविश्वासी हो सकते हैं और छवि की वास्तविक विशेषताओं को अनदेखा कर सकते हैं, जिससे नए वर्गों पर गलतियाँ हो सकती हैं। AI नए वर्गों को खराब तरीके से सीख सकता है क्योंकि वह पुराने वर्गों की रक्षा करने में बहुत व्यस्त था।

इसे ठीक करने के लिए, शोधकर्ता एक दूसरा शिक्षक पेश करते हैं।

टीचर A (पुराना मॉडल): यह शिक्षक पुराने वर्गों को पूरी तरह से जानता है। यह नए मॉडल को यह याद रखने में मदद करता है कि पुराने डेटा को कैसे संभालना है।
टीचर B (एक नया मॉडल): यह एक बिल्कुल नया मॉडल है जिसे बिना किसी विशेष बायस के सभी वर्गों (पुराने और नए) पर स्क्रैच से प्रशिक्षित किया गया है। यह जानता है कि नए वर्गों को सही ढंग से कैसे संभालना है।

नया मॉडल एक ही समय में दोनों शिक्षकों से सीखता है। वह पुराने वर्गों को सुरक्षित रखने के लिए टीचर A की बात सुनता है और यह सुनिश्चित करने के लिए टीचर B की बात सुनता है कि वह नए वर्गों के साथ गड़बड़ न करे। यह "डबल-सोर्स" दृष्टिकोण एक आदर्श संतुलन सुनिश्चित करता है: पुराने वर्ग सुरक्षित रहते हैं, और नए वर्गों को भी सटीक रूप से सीखा जाता है।

उन्होंने क्या पाया

शोधकर्ताओं ने अपने विचार का परीक्षण दो प्रसिद्ध इमेज डेटासेट्स पर किया: CIFAR100 (छोटी छवियों के 100 वर्ग) और ImageNet1K (बड़ी, अधिक जटिल छवियों के 1,000 वर्ग)। उन्होंने अपनी विधि की तुलना अन्य लोकप्रिय तकनीकों से की जिनका उपयोग नेगेटिव फ्लिप को ठीक करने के लिए किया जाता है।

परिणाम उत्साहजनक थे। उनकी विधि, MPT, ने लगातार नेगेटिव फ्लिप की संख्या को कम किया।

CIFAR100 पर, एक मानक ResNet-18 मॉडल का उपयोग करते हुए, उनके सबसे अच्छे संस्करण (MPT-KL) ने नेगेटिव फ्लिप रेट (NFR) को 9.26% तक कम कर दिया, जबकि बिना किसी उपचार वाले मॉडल के लिए यह 14.04% था।
ImageNet1K पर, सुधार और भी स्पष्ट था। NFR गिरकर 6.09% हो गया, जिसने अगले सबसे अच्छे तरीके (ELODI) को हरा दिया, जिसका NFR 7.61% था।

महत्वपूर्ण रूप से, उन्होंने केवल नेगेटिव फ्लिप ही नहीं रोके; उन्होंने समग्र सटीकता (accuracy) का भी त्याग नहीं किया। मॉडल अभी भी नई चीजों को सही ढंग से पहचान रहे थे। वास्तव में, ImageNet1K पर, उनकी विधि ने पुराने वर्गों पर समग्र त्रुटि दर को 28.40% (बिना उपचार के) से घटाकर 24.68% कर दिया।

उन्होंने यह देखने के लिए एक "क्या-अगर" प्रयोग (एब्लेशन स्टडी) भी चलाया कि उनके नुस्खे का गुप्त घटक क्या था। उन्होंने पाया कि यदि वे "वीआईपी पास" (मार्जिन बायस) को हटा देते, तो नेगेटिव फ्लिप वापस बढ़ जाते। यदि वे "डबल-टीचर" प्रणाली को हटा देते, तो मॉडल नए वर्गों के साथ संघर्ष करता। यह साबित हुआ कि सर्वोत्तम परिणाम प्राप्त करने के लिए आपको वास्तव में इन दोनों हिस्सों की एक साथ आवश्यकता थी।

जादू को विज़ुअलाइज़ करना

यह वास्तव में देखने के लिए कि क्या हो रहा था, शोधकर्ताओं ने एक विज़ुअल मैप बनाया कि AI छवियों को कैसे "देखता" है। उन्होंने AI के भीतर की जटिल गणित को एक साधारण 2D ड्राइंग में बदल दिया।

उनके तरीके के बिना: पुराने वर्गों (जैसे "बिल्लियाँ") और नए वर्गों (जैसे "कुत्ते") के क्लस्टर आपस में दबे हुए थे। उनके बीच की रेखाएं पतली और अस्थिर थीं। एक "बिल्ली" गलती से "कुत्ते" के क्षेत्र में जा सकती थी।
उनके तरीके के साथ: पुराने वर्ग अपने स्वयं के व्यवस्थित, विशाल घेरों में रहे। नए वर्गों ने पुराने लोगों को परेशान किए बिना अपने स्थान पा लिए। "निर्णय रेखाएं" चौड़ी और स्पष्ट बनी रहीं, ठीक वैसे ही जैसे मूल मॉडल में थीं।

निष्कर्ष

यह शोध पत्र सुझाव देता है कि AI को बिना तोड़े अपडेट करने की कुंजी वह है जो वह पहले से जानता है, उसके "व्यक्तिगत स्थान" का सम्मान करती है। पुराने वर्गों के निर्णय मार्जिन को स्पष्ट रूप से सुरक्षित करके और नए वर्गों को निर्देशित करने के लिए एक स्मार्ट, दोहरे-शिक्षक प्रणाली का उपयोग करके, हम AI मॉडल को अधिक सुरक्षित रूप से अपडेट कर सकते हैं।

लेखक नोट करते हैं कि उनके तरीके के लिए एक अतिरिक्त "रेफरेंस" मॉडल को प्रशिक्षित करने की आवश्यकता होती है, जिसमें थोड़ी अधिक कंप्यूटर शक्ति लगती है, लेकिन यह उन अन्य जटिल तरीकों की तुलना में बहुत सस्ता है जिनके लिए मॉडलों के बड़े समूहों की आवश्यकता होती है। वे यह भी जोर देते हैं कि "वीआईपी पास" की शक्ति (बायस वैल्यू) को विभिन्न डेटासेट्स के लिए सावधानीपूर्वक ट्यून करने की आवश्यकता है।

संक्षेप में, MPT एक तरीका प्रदान करता है जिससे AI के मस्तिष्क को उसकी याददाश्त को छोटा किए बिना बढ़ाया जा सकता है। यह AI सिस्टम को निरंतर सीखने, अनुकूल होने और अतीत के सबक भूलने के बिना नए संसारों के अनुकूल होने की दिशा में एक कदम है।

तकनीकी सारांश: मार्जिन प्रिजर्विंग ट्रेनिंग के माध्यम से नेगेटिव फ्लिप्स को कम करना

समस्या की परिभाषा
यह शोधपत्र मशीन लर्निंग सिस्टम में "नेगेटिव फ्लिप्स" (negative flips) की घटना को संबोधित करता है, जिसे उन उदाहरणों के रूप में परिभाषित किया गया है जहाँ एक अपडेटेड मॉडल उन टेस्ट सैंपल्स का गलत वर्गीकरण कर देता है जिन्हें पुराने संस्करण द्वारा सही ढंग से वर्गीकृत किया गया था। जबकि मॉडल अपडेट अक्सर समग्र त्रुटि दरों (error rates) को कम करने या नए डेटा को शामिल करने के उद्देश्य से किए जाते हैं, वे अक्सर विशिष्ट मामलों में प्रतिगमन (regression) उत्पन्न करते हैं। यह समस्या इमेज क्लासिफिकेशन कार्यों में अधिक स्पष्ट है जहाँ समय के साथ प्रशिक्षण वर्गों (training classes) की संख्या बढ़ती जाती है। लेखक तर्क देते हैं कि नए श्रेणियों को जोड़ने से आस-पास के वर्गों के बीच निर्णय मार्जिन (decision margin) कम हो जाता है और हस्तक्षेप करने वाले फीचर्स (interfering features) आ जाते हैं, जिससे नेगेटिव ट्रांसफर होता है। फलस्वरूप, पहले से सीखे गए वर्गों पर उच्च-विश्वास वाले भविष्यवाणियाँ भी निर्णय सीमाओं (decision boundaries) में बदलाव के कारण गलत हो सकती हैं, जिससे डाउनस्ट्रीम प्रक्रियाओं और उपयोगकर्ता के विश्वास में व्यवधान आता है।

कार्यप्रणाली: मार्जिन प्रिजर्विंग ट्रेनिंग (MPT)
प्रस्तावित समाधान, मार्जिन प्राइविंग ट्रेनिंग (MPT), दो प्राथमिक घटकों से मिलकर बना है जिसे पुराने वर्ग के प्रदर्शन को संरक्षित करने और नए वर्गों को सीखने के बीच संतुलन बनाने के लिए डिज़ाइन किया गया है:

मार्जिन-कैलिब्रेटेड सॉफ्टमैक्स क्रॉस-एंट्रॉपी लॉस (Margin-Calibrated Softmax Cross-Entropy Loss):
नए वर्गों को पेश करने पर मार्जिन की स्वाभाविक कमी का मुकाबला करने के लिए, लेखक विशेष रूप से नए पेश किए गए वर्गों ( $Y_{new}$ ) के लिए एक लॉजिट बायस टर्म ( $\Delta_i$ ) पेश करते हैं।

प्रशिक्षण के दौरान नए वर्गों के लॉजिट्स पर एक सकारात्मक बायस $k > 0$ लागू किया जाता है।
यह एक स्पष्ट पूर्वग्रह (prior) के रूप में कार्य करता है जो निर्णय सीमाओं को पहले से सीखे गए वर्गों ( $Y_{old}$ ) के पक्ष में झुकाता है, जिससे उनके मूल निर्णय मार्जिन को प्रभावी रूप से संरक्षित किया जाता है।
अनुमान (inference) के समय, इस बायस को हटा दिया जाता है। क्योंकि मॉडल को पुराने वर्गों के लिए बिना बायस के प्रशिक्षित किया गया था, इसलिए यह कृत्रिम पूर्वग्रह की कमी की भरपाई करने के लिए उनके लिए व्यापक और अधिक मजबूत निर्णय मार्जिन सीखने के लिए मजबूर होता है।
लॉस फंक्शन को $L_\Delta = -\log \frac{e^{z_y + \Delta_y}}{\sum_{i=1}^C e^{z_i + \Delta_i}}$ के रूप में परिभाषित किया गया है, जहाँ $\Delta_i = k$ यदि $i \in Y_{new}$ है और अन्यथा $0$ है।

डबल-सोर्स फोकल डिस्टिलेशन (Double-Source Focal Distillation):
लेखक नोट करते हैं कि केवल मार्जिन-कैलिब्रेटेड लॉस, प्रेरित बायस के कारण नए वर्गों के अंडरफिटिंग (underfitting) का कारण बन सकता है। इसे संबोधित करने के लिए, वे एक डिस्टिलेशन रणनीति प्रस्तावित करते हैं जो दो संदर्भ मॉडलों का लाभ उठाती है:

$\phi_{old}$ : मूल मॉडल जो $Y_{old}$ पर प्रशिक्षित है।
$\phi_{new}$ : एक नया मॉडल जो मानक क्रॉस-एंट्रॉपी का उपयोग करके वर्गों के पूर्ण सेट ( $Y_{all}$ ) पर स्वतंत्र रूप से प्रशिक्षित है।
स्टूडेंट मॉडल को एक फोकल डिस्टिलेशन लॉस ( $L_{FD}$ ) का उपयोग करके प्रशिक्षित किया जाता है जो दोनों संदर्भों से ज्ञान स्थानांतरित करता है। यह लॉस दूरी मीट्रिक के रूप में कुलबैक-लीब्लर (KL) डाइवर्जेंस या लॉजिट मैचिंग (LM) का उपयोग करके, संदर्भ मॉडलों द्वारा सही ढंग से वर्गीकृत किए गए उदाहरणों पर चुनिपूर्वक जोर देता है।
अंतिम ऑब्जेक्टिव मार्जिन-कैलिब्रेटेड लॉस को डिस्टिलेशन टर्म्स के साथ जोड़ता है: $\min_\phi L_\Delta + \lambda L_{FD}(\phi, \phi_{old}) + \lambda L_{FD}(\phi, \phi_{new})$ ।

प्रमुख योगदान

नया दृष्टिकोण: यह शोधपत्र MPT पेश करता है, एक ऐसी विधि जो नेगेटिव फ्लिप्स को कम करने के लिए इनकमेंटल अपडेट के दौरान पहले से सीखे गए वर्गों के निर्णय मार्जिन को विशेष रूप से संरक्षित करने पर ध्यान केंद्रित करती है।
डबल-सोर्स फोकल डिस्टिलेशन: एक रणनीति प्रस्तावित की गई है जो मार्जिन कैलिब्रेशन के कारण होने वाली नए वर्गों की संभावित अंडरफिटिंग का मुकाबला करने के लिए, संतुलित प्रदर्शन सुनिश्चित करने हेतु पुराने मॉडल और एक नए प्रशिक्षित स्वतंत्र मॉडल दोनों से ज्ञान का उपयोग करती है।
अनुभवजन्य सत्यापन (Empirical Validation): व्यापक प्रयोगों से पता चलता है कि यह विधि समग्र सटीकता को बनाए रखते हुए या उसमें सुधार करते हुए लगातार नेगेटिव फ्लिप रेट को कम करती है।

प्रायोगिक परिणाम
लेखकों ने ResNet-18 और ResNet-50 आर्किटेक्चर के साथ CIFAR100 और ImageNet1K डेटासेट पर MPT का मूल्यांकन किया, साथ ही CIFAR100 पर फाइन-ट्यून किया गया ViT-B/32 भी शामिल किया।

नेगेटिव फ्लिप रेट (NFR): MPT वेरिएंट (MPT-KL और MPT-LM) ने PCT वेरिएंट और ELODI (एक एन्सेम्बल-आधारित डिस्टिलेशन विधि) सहित बेसलाइन्स की तुलना में लगातार सबसे कम NFR प्राप्त किया।
समग्र सटीकता (Overall Accuracy): विधि ने पुराने और नए दोनों वर्गों पर प्रतिस्पर्धी एरर रेट (ER) बनाए रखा। उन परिदृश्यों में जहाँ नए मॉडल में अधिक शक्तिशाली आर्किटेक्चर (ResNet-50 बनाम ResNet-18) का उपयोग किया गया, MPT ने समग्र सटीकता से समझौता किए बिना नेगेटिव फ्लिप्स को कम करने में बेसलाइन्स को पछाड़ दिया।
गुणात्मक विश्लेषण (Qualitative Analysis): एम्बेडिंग स्पेस के विज़ुअलाइज़ेशन ने दिखाया कि जबकि मानक अपडेट ("No Treatment") के कारण क्लास क्लस्टर ड्रिफ्ट और इंटरसेक्ट (मार्जिन श्रिंकेज) हुए, MPT ने नए वर्गों को उचित रूप से समायोजित करते हुए पुराने वर्गों के अलगाव को सफलतापूर्वक बनाए रखा।
एब्लेशन स्टडीज (Ablation Studies): मार्जिन कैलिब्रेशन या डबल-सोर्स डिस्टिलेशन में से किसी एक को हटाने से उच्च नेगेटिव फ्लिप रेट या नए वर्गों पर कम सटीकता देखी गई, जो दोनों घटकों की आवश्यकता की पुष्टि करती है।

महत्व और दावे
शोधपत्र का दावा है कि नेगेटिव फ्लिप्स को कम करने वाले मौजूदा दृष्टिकोण अक्सर नए वर्गों को जोड़ने के साथ क्लास मार्जिन के क्रमिक न्यूनीकरण की अनदेखी करते हैं। लॉजिट बायस के माध्यम से इन मार्जिन को स्पष्ट रूप से संरक्षित करके और डबल-सोर्स डिस्टिलेशन के माध्यम से लर्निंग प्रक्रिया को संतुलित करके, MPT एन्सेम्बल विधियों (जिन्हें अनुमान के लिए कई मॉडलों की आवश्यकता होती है) का एक कम्प्यूटेशनल रूप से कुशल विकल्प प्रदान करता है और प्रतिगमन को रोकने में बेहतर प्रदर्शन करता है। लेखक अपने कार्य को इनकमेंटल लर्निंग सेटिंग्स में विशेष रूप से नेगेटिव फ्लिप्स के न्यूनीकरण के लिए निर्णय मार्जिन संरक्षण को व्यवस्थित रूप से संबोधित करने वाली पहली विधि के रूप में प्रस्तुत करते हैं। वे स्वीकार करते हैं कि इस विधि के लिए एक अतिरिक्त संदर्भ मॉडल को प्रशिक्षित करने और मार्जिन बायस पैरामीटर $k$ को ट्यून करने की आवश्यकता है, लेकिन वे दावा करते हैं कि एन्सेम्बल-आधारित दृष्टिकोणों की तुलना में कम्प्यूटेशनल ओवरहेड मामूली है।

समस्या: जब "बेहतर" होने का मतलब "बदतर" होना हो

समाधान: MPT के साथ शांति बनाए रखना

उन्होंने क्या पाया

जादू को विज़ुअलाइज़ करना

निष्कर्ष

इसी तरह के और पेपर