🤖 machine learning

FairSAM: Fair Classification on Corrupted Image Data Through Sharpness-Aware Minimization

यह शोध पत्र FairSAM को प्रस्तुत करता है, जो एक ऐसा ढांचा है जो दूषित इमेज डेटा को वर्गीकृत करते समय जनसांख्यिकीय उपसमूहों (demographic subgroups) के बीच मजबूती (robustness) और निष्पक्षता (fairness) को प्रभावी ढंग से संतुलित करने के लिए शार्पनेस-अवेयर मिनिमाइजेशन (Sharpness-Aware Minimization) में निष्पक्षता-उन्मुख रणनीतियों को एकीकृत करता है।

मूल लेखक: Yucong Dai, Jie Ji, Xiaolong Ma, Yongkai Wu

प्रकाशित 2026-06-23

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Yucong Dai, Jie Ji, Xiaolong Ma, Yongkai Wu

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपने एक बहुत ही स्मार्ट रोबोट बनाया है जो तस्वीरों में लोगों को पहचानने में माहिर है। आपने इसे एक परफेक्ट, साफ-सुथरे स्टूडियो में प्रशिक्षित किया है जहाँ रोशनी एकदम सही थी। लेकिन वास्तविक दुनिया में, तस्वीरें शायद ही कभी एकदम सटीक होती हैं। वे धुंधली हो सकती हैं, उन पर बर्फ जमी हो सकती है, उनमें स्टैटिक (static) के कारण दानेदार प्रभाव हो सकता है, या उन्हें हिलते हुए हाथों से लिया गया हो सकता है।

जब यह रोबोट इन "विकृत" (corrupted) तस्वीरों को देखता है, तो यह केवल थोड़ा सा खराब प्रदर्शन नहीं करता; बल्कि यह भ्रमित हो जाता है। और डरावनी बात यह है: यह अलग-अलग लोगों के लिए अलग-अलग तरह से भ्रमित होता है।

उदाहरण के लिए, रोबोट बर्फबारी वाली फोटो में एक युवा पुरुष को लगभग पूरी तरह से पहचान सकता है, लेकिन वही रोबोट उसी बर्फबारी वाली फोटो में एक वृद्ध महिला को पहचानने में पूरी तरह विफल हो सकता है। यह एक अनुचित स्थिति पैदा करता है जहाँ रोबोट कुछ समूहों के लिए बहुत अच्छा काम करता है लेकिन दूसरों के लिए विफल हो जाता है, जिससे मौजूदा पूर्वाग्रह (biases) और बढ़ जाते हैं।

यह शोध पत्र, जिसका शीर्षक FairSAM है, इन रोबोट्स को प्रशिक्षित करने का एक नया तरीका पेश करता है ताकि वे केवल "मजबूत" न बनें, बल्कि सभी के लिए समान रूप से मजबूत बनें।

समस्या: "एक-आकार-सभी-के-लिए" वाला कवच काम नहीं करता

लेखकों ने बताया कि पिछले तरीकों ने SAM (Sharpness-Aware Minimization) नामक तकनीक का उपयोग करके रोबोट को खराब तस्वीरों के प्रति "रोबस्ट" (मजबूत) बनाने की कोशिश की थी।

उपमा: कल्पना कीजिए कि SAM एक छात्र को शोर भरी लाइब्रेरी में पढ़ाई करना सिखाने जैसा है। यह छात्र को शोर को अनदेखा करने और अच्छे ग्रेड प्राप्त करने में मदद करता है।
खामी: जबकि छात्र का औसत ग्रेड सुधर जाता है, यह तरीका यह जाँच नहीं करता कि क्या छात्र अपने अध्ययन साथियों की समान रूप से मदद कर रहा है। वास्तविक दुनिया में, इसका मतलब है कि रोबक समग्र रूप से बेहतर हो जाता है, लेकिन "वंचित" समूह (जैसे वृद्ध लोग या विशिष्ट लिंग) तब भी अधिक पीड़ित होते हैं जब फोटो खराब होती है। रोबोट मजबूत तो हो जाता है, लेकिन निष्पक्ष नहीं।

समाधान: FairSAM (निष्पक्षता-जागरूक कवच)

लेखक FairSAM का प्रस्ताव करते हैं, जो एक नया प्रशिक्षण तरीका है जो SAM की "शोर से लड़ने" की शक्ति को एक निष्पक्षता नियम के साथ जोड़ता है।

इसे एक कोच की तरह समझें जो एक स्पोर्ट्स टीम को बारिश में खेले जाने वाले खेल के लिए प्रशिक्षित कर रहा है।

पुराना तरीका (SAM): कोच पूरी टीम को बारिश में दौड़ने के लिए प्रशिक्षित करता है। टीम समग्र रूप से तेज हो जाती है। लेकिन, कोच यह ध्यान नहीं देता कि छोटे खिलाड़ी लंबे खिलाड़ियों की तुलना में बहुत अधिक फिसल रहे हैं।
FairSAM: कोच को एहसास होता है कि छोटे खिलाड़ी संघर्ष कर रहे हैं। इसलिए, कोच अपने प्रशिक्षण को समायोजित करता है। वे पूरे दल को प्रशिक्षित करने के साथ-साथ छोटे खिलाड़ियों को अतिरिक्त ध्यान और विशिष्ट अभ्यास देते हैं। वे यह सुनिश्चित करते हैं कि जब बारिश शुरू हो, तो कोई भी किसी अन्य की तुलना में काफी अधिक न फिसले।

यह कैसे काम करता है (सरल भाषा में प्रक्रिया)

यह शोध पत्र "Corrupted Degradation Disparity" नामक एक नई माप पद्धति पेश करता है।

मेट्रिक: केवल यह पूछने के बजाय कि, "रोबोट ने कितनी तस्वीरें सही पहचानीं?", वे पूछते हैं, "समूह A की तुलना में समूह B के लिए रोबोट के प्रदर्शन में कितनी गिरावट आई?"
लक्ष्य: वे चाहते हैं कि प्रदर्शन में गिरावट सभी के लिए समान हो। यदि रोबोट समूह A को पहचानने में 10% खराब हो जाता है, तो उसे समूह B के लिए भी केवल 10% ही खराब होना चाहिए।

इसे प्राप्त करने के लिए, FairSAM दो मुख्य चीजें करता है:

संघर्षों को महत्व देना (Weighting the Struggles): प्रशिक्षण के दौरान, यह उन "कठिन" उदाहरणों और उन समूहों पर विशेष ध्यान देता है जिन्हें अक्सर पीछे छोड़ दिया जाता है। यह उन छात्रों को टेस्ट में अतिरिक्त अंक देने जैसा है जो सबसे अधिक संघर्ष कर रहे हैं, जिससे शिक्षक को उनकी विशिष्ट कमजोरियों को ठीक करने पर ध्यान केंद्रित करने में मदद मिलती है।
बैच प्रोसेसिंग (Batch Processing): यह इसे कुशलतापूर्वक करता है। हर एक फोटो को व्यक्तिगत रूप से जाँचने के बजाय (जिसमें बहुत समय लगेगा), यह तस्वीरों के समूहों की एक साथ जाँच करता है, जिससे प्रशिक्षण तेज़ रहता है।

उन्होंने क्या पाया

शोधकर्ताओं ने वास्तविक दुनिया के फोटो डेटासेट्स (जैसे सेलिब्रिटी चेहरे और मेडिकल एक्स-रे) पर विभिन्न प्रकार के "शोर" (बर्फ, धुंधलापन, स्टैटिक) के साथ इसका परीक्षण किया।

परिणाम: FairSAM ने केवल रोबोट को मजबूत ही नहीं बनाया; इसने ताकत को समान रूप से वितरित किया।
समझौता (Trade-off): आमतौर पर, किसी सिस्टम को निष्पक्ष बनाने से उसकी समग्र सटीकता थोड़ी कम हो जाती है। हालाँकि, FairSAM ने विभिन्न समूहों के लिए इसके प्रदर्शन के अंतर को नाटकीय रूप से कम करते हुए समग्र सटीकता को उच्च बनाए रखा।
प्रमाण: उनके परीक्षणों में, FairSAM का "अनुचितता स्कोर" (Corrupted Degradation Disparity) सभी अन्य तरीकों की तुलना में सबसे कम था, जिसका अर्थ है कि जब तस्वीरें खराब थीं, तो रोबोट का प्रदर्शन सभी के लिए समान रूप से गिरा।

मुख्य निष्कर्ष

यह शोध पत्र तर्क देता है कि वास्तविक दुनिया में, जहाँ डेटा अक्सर अव्यवस्थित होता है, हम केवल "मजबूत" AI नहीं बना सकते। हमें ऐसा AI बनाना चाहिए जो सभी के लिए मजबूत हो। FairSAM एक ऐसा उपकरण है जो यह सुनिश्चित करता है कि जब "मौसम" (डेटा) खराब हो जाए, तो AI कुछ समूहों को पीछे न छोड़ दे। यह तराजू को संतुलित करता है ताकि मजबूती और निष्पक्षता साथ-साथ चल सकें।

तकनीकी सारांश: FairSAM: दूषित इमेज डेटा पर शार्पनेस-अवेयर मिनिमाइजेशन के माध्यम से निष्पक्ष वर्गीकरण

समस्या विवरण

स्वच्छ डेटा (clean data) पर प्रशिक्षित डीप न्यूरल नेटवर्क अक्सर दूषित परीक्षण डेटा (जैसे कि इम्पल्स नॉइज़, गॉसियन नॉइज़, मौसम के प्रभाव, या मोशन ब्लर से प्रभावित चित्र) पर तैनात होने पर प्रदर्शन में तीव्र गिरावट का शिकार होते हैं। हालिया निष्कर्षों से संकेत मिलता है कि यह गिरावट समान नहीं होती है; यह विशिष्ट जनसांख्यिकीय उपसमूहों (demographic subgroups) को असमान रूप से प्रभावित करती है, जिससे एल्गोरिदम संबंधी पूर्वाग्रह (algorithmic bias) बढ़ जाता है। जबकि शार्पनेस-अवेयर मिनिमाइजेशन (SAM) जैसी मौजूदा सुदृढ़ता (robustness) विधियाँ समग्र सामान्यीकरण और शोर के प्रति लचीलापन में सुधार करती हैं, वे जनसांख्यिकीय समूहों के बीच प्रदर्शन गिरावट के असमान वितरण को संबोधित करने में विफल रहती हैं। इसके विपरीत, मानक निष्पक्षता-जागरूक (fairness-aware) विधियाँ अक्सर डेटा भ्रष्टाचार के तहत सुदृढ़ता बनाए रखने में संघर्ष करती हैं। यह दूषित वातावरण में सुदृढ़ता और निष्पक्षता सुनिश्चित करने के बीच एक अंतर्निहित तनाव पैदा करता है।

कार्यप्रणाली: FairSAM

इस तनाव को संबोधित करने के लिए, लेखक FairSAM का प्रस्ताव करते हैं, जो SAM अनुकूलन प्रक्रिया में निष्पक्षता-उन्मुख रणनीतियों को एकीकृत करता है। इस कार्यप्रणाली में तीन मुख्य घटक शामिल हैं:

1. नई निष्पक्षता मीट्रिक: दूषित क्षरण विषमता (Corrupted Degradation Disparity - $\Delta p$ )

लेखक एक मीट्रिक पेश करके इस समस्या को औपचारिक रूप देते हैं जो विशेष रूप से प्रदर्शन गिरावट के संबंध में निष्पक्षता को मापता है।

दूषित क्षरण ( $\Delta p_s$ ): इसे एक विशिष्ट जनसांख्यिकीय उपसमूह $s$ के लिए स्वच्छ प्रशिक्षण डेटा ( $D_T$ ) और दूषित परीक्षण डेटा ( $D_C$ ) के बीच प्रदर्शन मेट्रिक्स के पूर्ण अंतर के रूप में परिभाषित किया गया है: $\Delta p_s = |M(D_T^{s}, f) - M(D_C^{s}, f)|$ ।
दूषित क्षरण विषमता ( $\Delta p$ ): लाभान्वित ( $s^+$ ) और वंचित ( $s^-$ ) समूहों के बीच क्षरण का पूर्ण अंतर: $\Delta p = |\Delta p_{s^+} - \Delta p_{s^-}|$ ।
एक कम $\Delta p$ यह दर्शाता है कि मॉडल की सुदृढ़ता उपसमूहों के बीच अधिक समान रूप से वितरित है।

2. इंस्टेंस-रीवेटेड SAM (Instance-Reweighted SAM)

मानक SAM मापदंडों के एक पड़ोस के भीतर अधिकतम हानि (loss) को कम करता है लेकिन सभी नमूनों के साथ समान व्यवहार करता है, जिससे अक्सर बहुसंख्यक समूह अनुकूलन पर हावी हो जाते हैं। FairSAM ग्रेडिएंट योगदान को संतुलित करने के लिए एक रीवेटिंग तंत्र (reweighting mechanism) पेश करता है:

समूह बाधाएं (Group Constraints): यह विधि प्रत्येक जनसांख्यिकीय समूह के भीतर नमों के भार के योग को एक स्थिरांक $c$ तक सीमित करती है, जिससे यह सुनिश्चित होता है कि आकार की परवाह किए बिना प्रत्येक समूह उद्देश्य में समान योगदान दे।
शार्पनेस-आधारित रीवेटिंग: प्रत्येक समूह के भीतर, उच्च प्रति-इंस्टेंस शार्पनेस (परिवर्तन के तहत बड़ा अधिकतम नुकसान) वाले नमूनों को उच्च भार प्राप्त होता है। यह प्रत्येक समूह के भीतर "कठिन" उदाहरणों को प्राथमिकता देता है जबकि समूह-स्तरीय संतुलन बनाए रखता है।

3. कुशल प्रति-बैच व्यवधान (Efficient Per-Batch Perturbation)

प्रत्येक नमूने के लिए व्यक्तिगत प्रतिकूल व्यवधान (adversarial perturbation) की गणना करने की कम्प्यूटेशनल लागत (जिसके लिए प्रति बैच $N$ फॉरवर्ड पास की आवश्यकता होगी) से बचने के लिए, FairSAM एक कुशल सन्निकटन (approximation) व्युत्पन्न करता है:

यह दूसरे क्रम के टेलर विस्तार (second-order Taylor expansion) का उपयोग करके भारित प्रति-इंस्टेंस उद्देश्य का अनुमान लगाता है।
यह एक भारित बैच लॉस $\ell_b(w) = \sum g_i \ell_i(w)$ का निर्माण करता है, जहाँ भार $g_i$ समूह सदस्यता बाधाओं और इंस्टेंस शार्पनेस दोनों को समाहित करते हैं।
इस भारित बैच लॉस के ग्रेडिएंट के आधार पर एक एकल प्रति-बैच व्यवधान $\epsilon^*$ की गणना की जाती है, जो निष्पक्षता बाधाओं को लागू करते हुए SAM की कम्प्यूटेशनल दक्षता को बनाए रखता है।

मुख्य योगदान

समस्या का सूत्रीकरण: शोध पत्र इमेज क्लासिफिकेशन में डेटा भ्रष्टाचार के तहत "सुदृढ़ता पूर्वाग्रह" (robustness bias) की चुनौती की पहचान और औपचारिकीकरण करता है, यह उजागर करते हुए कि मानक सुदृढ़ता विधियाँ अनजाने में निष्पक्षता विषमताओं को बदतर बना सकती हैं।
मीट्रिक प्रस्ताव: प्रदर्शन क्षरण की निष्पक्षता का मूल्यांकन करने के लिए दूषित क्षरण विषमता (Corrupted Degradation Disparity) का परिचय, जो एक-बार की निष्पक्षता धारणाओं से भिन्न है।
फ्रेमवर्क विकास: SAM में निष्पक्षता रणनीतियों को एकीकृत करने वाले पहले फ्रेमवर्क के रूप में FairSAM का प्रस्ताव। यह सुदृढ़ता और निष्पक्षता दोनों को बढ़ावा देने के लिए इंस्टेंस रीवेटिंग और प्रति-बैच व्यवधान का उपयोग करता है।
अनुभवजन्य सत्यापन (Empirical Validation): विभिन्न भ्रष्टाचार प्रकारों (बर्फ, गॉसियन नॉइज़, ब्लर) और गंभीरता स्तरों के तहत कई वास्तविक दुनिया के डेटासेट (CelebA, FairFace, LFW, CheXpert) पर FairSAM का व्यापक मूल्यांकन।

प्रयोगात्मक परिणाम

लेखकों ने विभिन्न भ्रष्टाचार प्रकारों (बर्फ, गॉसियन नॉइज़, ब्लर) और गंभीरता स्तरों के तहत कई वास्तविक दुनिया के डेटासेट (CelebA, FairFace, LFW, CheXpert) पर FairSAM का मूल्यांकन किया।

प्रदर्शन बनाम निष्पक्षता ट्रेड-ऑफ: असंतुलित (CelebA) और संतुलित (FairFace) डेटासेट में, FairSAM ने वैनिला SAM, GroupSAM, FairReg और GroupDRO सहित सभी बेसलाइन की तुलना में लगातार सबसे कम दूषित क्षरण विषमता ( $\Delta p$ ) प्राप्त की।
सटीकता संरक्षण: कुछ निष्पक्षता विधियों के विपरीत जो समग्र सटीकता का त्याग करती हैं, FairSAM प्रतिस्पर्धी या बेहतर दूषित सटीकता बनाए रखता है। उदाहरण के लिए, गॉसियन नॉइज़ के साथ CelebA पर, FairSAM ने $\Delta p$ (0.0073) को न्यूनतम करते हुए उच्चतम दूषित सटीकता (0.9291) प्राप्त की।
असममिति के प्रति सुदृढ़ता (Robustness to Asymmetry): उन प्रयोगों में जहाँ विशेषाधिकार प्राप्त समूहों को वंचित समूहों की तुलना में कम गंभीर शोर का सामना करना पड़ा (असममित शोर), FairSAM ने विभिन्न बैकबोन (ResNet-18 और DINOv3) में सबसे कम क्षरण विषमता बनाए रखी।
आउट-ऑफ-डिस्ट्रीब्यूशन (OOD) सामान्यीकरण: जब मॉडल को एक डेटासेट (जैसे CelebA) पर प्रशिक्षित किया गया और दूसरे (जैसे LFW) पर परीक्षण किया गया, तो FairSAM ने सबसे कम $\Delta p$ प्रदर्शित किया, जो GroupSAM की तुलना में बेहतर समान सामान्यीकरण को दर्शाता है, जिसमें लाभान्वित समूह को वंचित स्थिति में धकेलने का जोखिम रहता है।
हाइपरपैरामीटर संवेदनशीलता: फ्रेमवर्क को हाइपरपैरामीटर विकल्पों के प्रति सुदृढ़ पाया गया, जिसमें $\rho=0.05$ (परिवर्तन त्रिज्या) और $c=1$ (समूह भार बजट) सर्वोत्तम संतुलन प्रदान करते हैं।

महत्व और दावे

शोध पत्र का दावा है कि FairSAM दूषित डेटा की उपस्थिति में निष्पक्ष और सुदृढ़ इमेज क्लासिफिकेशन के लिए एक संरचित समाधान प्रदान करता है। इसका प्राथमिक महत्व सुदृढ़ता अनुसंधान में एक महत्वपूर्ण कमी को संबोधित करना है: यह धारणा कि समग्र सुदृढ़ता सुधार सभी समूहों को समान रूप से लाभान्वित करता है।

लेखक तर्क देते हैं कि:

सुदृढ़ता और निष्पक्षता आपस में जुड़े हुए हैं; सुदृढ़ मॉडल अक्सर जनसांख्यिकीय समूहों के बीच अलग-अलग प्रदर्शन क्षरण प्रदर्शित करते हैं, जो यदि अनसुलझा छोड़ दिया गया तो सामाजिक असमानताओं को कायम रख सकता है।
प्रशिक्षण के दौरान निष्पक्षता-जागरक अनुकूलन समग्र सटीकता के महत्वपूर्ण त्याग के बिना समान परिणाम प्राप्त कर सकता है।
इस दृष्टिकोण के लाभ केवल असंतुलित डेटासेट तक ही सीमित नहीं हैं बल्कि संतुलित डेटासेट के लिए भी हैं, जो यह सुझाव देता है कि भ्रष्टाचार के तहत प्रदर्शन विषमताएं केवल डेटा वितरण के मुद्दों के बजाय एल्गोरिदम संबंधी पूर्वाग्रहों द्वारा संचालित होती हैं।

यह कार्य उच्च-जोखिम वाले अनुप्रयोगों (जैसे स्वास्थ्य सेवा, आपराधिक न्याय) में सुरक्षित AI परिनियोजन की दिशा में एक कदम है जहाँ सिस्टम को वास्तविक दुनिया की शोर वाली स्थितियों में निष्पक्षता बनाए रखनी चाहिए। लेखक सीमाओं को स्वीकार करते हुए, वर्तमान में इमेज क्लासिफिकेशन में बाइनरी संवेदनशील विशेषताओं (binary sensitive attributes) पर ध्यान केंद्रित करने का उल्लेख करते हैं, और सुझाव देते हैं कि भविष्य के कार्य को इंटरसेक्शनल समूहों और अन्य डोमेन का पता लगाना चाहिए।