Contrast-Induced Class Overlap as a Fairness Bottleneck in Dermatological AI: Evidence from HAM10000
यह अध्ययन पहचान करता है कि गहरे रंग की त्वचा पर कम लीजन-बैकग्राउंड कंट्रास्ट एक संरचनात्मक वर्ग ओवरलैप (structural class overlap) उत्पन्न करता है, जिससे एआई डर्मेटोलॉजिकल मॉडल व्यवस्थित रूप से घातक अवस्था (malignancy) का अति-पूर्वानुमान लगाते हैं और गहरे रंग की त्वचा वाले रोगियों के लिए अत्यधिक रेफरल उत्पन्न करते हैं, जो एक निष्पक्षता संबंधी बाधा (fairness bottleneck) है जो कन्फाउंडिंग क्लास डिस्ट्रीब्यूशन को ठीक करने के बाद भी बनी रहती है और जिसे टोन कंडीशनिंग के बजाय प्रति-टोन क्लास बैलेंसिंग द्वारा सर्वोत्तम रूप से कम किया जा सकता है।