Gender-Dependent Diagnostic Substitution in LLM Medical Triage: Same Symptoms, Unequal Urgency
यह अध्ययन प्रकट करता है कि बड़े भाषा मॉडल (लार्ज लैंग्वेज मॉडल्स) चिकित्सा ट्राइएज में एक व्यवस्थित लैंगिक पूर्वाग्रह प्रदर्शित करते हैं, जिसमें वे पुरुषों की तुलना में गंभीर न्यूरोलॉजिकल लक्षणों वाली युवा महिलाओं के आपातकालीन रेफरल को असमान रूप से कम प्राथमिकता देते हैं, एक ऐसा अंतर जो मॉडलों की लिंग-आधारित नैदानिक पूर्वग्रहों (जेंडरेड डायग्नोस्टिक प्रायर्स) पर निर्भरता से प्रेरित है जो तत्काल स्थितियों को कम गंभीर, महामारी विज्ञान संबंधी रूप से जुड़ी निदानों से प्रतिस्थापित कर देते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास तीन बहुत ही बुद्धिमान, उच्च प्रशिक्षित डिजिटल डॉक्टर (AI मॉडल) हैं। आप उनसे बिल्कुल एक ही सवाल पूछते हैं: "मुझे लगातार सिरदर्द रहता है, मेरी दृष्टि धुंधली है, सुबह के समय मुझे जी मिचलाता है, और मुझे आंखों के सामने धब्बे दिखाई देते हैं।"
अब, यहाँ एक मोड़ है: आप AI को बताते हैं कि मरीज एक 25 वर्षीय पुरुष है। फिर, आप बिल्कुल वही सवाल दोबारा पूछते हैं, लेकिन इस बार आप कहते हैं कि मरीज एक 25 वर्षीय महिला है।
इस शोध पत्र (paper) के अनुसार, AI आपको दो पूरी तरह से अलग जवाब देता है, भले ही लक्षण बिल्कुल समान हों।
"ट्रैफिक लाइट" की समस्या
मेडिकल ट्राइएज (यह तय करना कि समस्या कितनी गंभीर है) को एक ट्रैफिक लाइट सिस्टम की तरह समझें।
- लाल बत्ती (Red Light): तुरंत इमरजेंसी रूम (ER) जाएं।
- पीली बत्ती (Yellow Light): जल्द ही किसी नियमित डॉक्टर को दिखाएं।
- हरी बत्ती (Green Light): थोड़ा आराम करें और प्रतीक्षा करें।
शोध में पाया गया कि जब AI ने सोचा कि मरीज एक युवा पुरुष है, तो इसने लगभग हमेशा लाल बत्ती दिखाई। इसने कहा, "यह खतरनाक है, अभी ER जाएं!"
लेकिन जब AI ने ठीक उन्हीं लक्षणों वाली एक युवा महिला के बारे में सोचा, तो इसने अक्सर पीली बत्ती दिखाई। इसने कहा, "यह संभवतः IIH (इडियोपैथिक इंट्राक्रानियल हाइपरटेंशन) नामक एक विशिष्ट स्थिति है, जो युवा महिलाओं में आम है। आपको एक नियमित डॉक्टर से अपॉइंटमेंट लेना चाहिए, लेकिन आपको ER जाने की आवश्यकता नहीं है।"
"शॉर्टकट" का जाल (डायग्नोस्टिक सब्स्टीट्यूशन)
AI ने ऐसा क्यों किया? शोध पत्र इसे "डायग्नोस्टिक सब्स्टीट्यूशन" (Diagnostic Substitution) कहता है।
कल्पना कीजिए कि AI एक जासूस है जिसने लाखों मेडिकल टेक्स्टबुक्स पढ़ी हैं। वह एक सांख्यिकीय तथ्य जानता है: "युवा महिलाओं में सिरदर्द और दृष्टि संबंधी समस्याएं अक्सर IIH नामक स्थिति के कारण होती हैं।"
जब AI एक युवा महिला को देखता है, तो वह एक शॉर्टकट लेता है। वह तुरंत उस विशिष्ट निदान (IIH) पर टिक जाता है। क्योंकि IIH का इलाज आमतौर पर एक विशेषज्ञ द्वारा क्लिनिक में किया जाता है न कि इमरजेंसी रूम में, AI निर्णय लेता है कि स्थिति आपातकालीन नहीं है।
हालाँकि, जब AI एक युवा पुरुष को देखता है, तो वह IIH पर इतनी जल्दी नहीं टिकता। इसके बजाय, वह अपने विकल्पों को खुला रखता है, यह सोचते हुए, "यह कोई ट्यूमर या ब्लॉकेज भी हो सकता है।" क्योंकि ये संभावनाएं डरावनी हैं और तत्काल जांच की आवश्यकता है, इसलिए वह पुरुष को ER भेज देता है।
खामी: शोध पत्र का तर्क है कि AI ने तर्क करने में गलती की। भले ही महिला को वास्तव में IIH हो, लेकिन वर्णित लक्षण (गंहर सिरदर्द, दृष्टि हानि, मतली) रेड फ्लैग्स (चेतावनी के संकेत) हैं जिन्हें बिना किसी भेदभाव के तत्काल ध्यान देने की आवश्यकता है। निदान का अनुमान बहुत जल्दी लगाकर, AI ने अनजाने में एक महिला के लिए "लाल बत्ती" को "पीली बत्ती" में बदल दिया।
"आयु" का बदलाव
यहाँ सबसे दिलचस्प बात यह है: जैसे-जैसे मरीज की उम्र बढ़ती है, यह पूर्वाग्रह गायब हो जाता है।
जब शोध पत्र ने 65 वर्ष के व्यक्तियों (पुरुष और महिला दोनों) के साथ AI का परीक्षण किया, तो AI ने यह अंतर करना बंद कर दिया। इसने लगभग सभी को ER भेजा।
क्यों? क्योंकि (IIH का) सांख्यिकीय शॉर्टकट मुख्य रूप से प्रजनन आयु की युवा महिलाओं को प्रभावित करता है। एक बार जब AI 65 वर्षीय व्यक्ति को देखता है, तो वह शॉर्टकट अब लागू नहीं होता, इसलिए वह पुरुषों और महिलाओं के साथ एक जैसा व्यवहार करता है। यह साबित करता है कि AI केवल "महिलाओं से नफरत" नहीं कर रहा था; बल्कि वह एक ऐसे सांख्यिकीय नियम का आँख मूंदकर पालन कर रहा था जो इस विशिष्ट स्थिति में फिट नहीं बैठता था।
निष्कर्ष
शोध पत्र निष्कर्ष निकालता है कि ये AI मॉडल किसी दुर्भावनापूर्ण तरीके से "पक्षपाती" नहीं हैं। इसके बजाय, वे अपने ही ज्ञान के कारण बहुत अधिक स्मार्ट बन गए हैं। उन्होंने एक वास्तविक मेडिकल पैटर्न सीखा (कि युवा महिलाओं में अक्सर IIH होता है) और उसे बहुत सख्ती से लागू किया।
ऐसा करके, उन्होंने सबसे संभावित निदान को सबसे आवश्यक कार्रवाई से ऊपर प्राथमिकता दी। शोध पत्र चेतावनी देता है कि मेडिकल AI के लिए, हमें सिस्टम को यह सिखाने की आवश्यकता है: "भले ही आपको लगता हो कि आप बीमारी को जानते हैं, यदि लक्षण खतरनाक दिख रहे हैं, तो पहले इसे एक आपात स्थिति (emergency) के रूप में मानें।"
संक्षेप में: AI ने एक युवा महिला को देखा, सोचा, "ओह, यह महिलाओं के लिए एक सामान्य चीज़ है," और उसे घर भेज दिया। उसने एक युवा पुरुष को देखा, सोचा, "यह कुछ भी खतरनाक हो सकता है," और उसे ER भेज दिया। शोध पत्र दिखाता है कि इन विशिष्ट लक्षणों के लिए, दोनों को ER भेजा जाना चाहिए था।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।