Understanding Stigmatizing Language in Clinical Documentation: A Paired Comparison of Ambient AI Drafts and Clinician Finalized Notes
यह अध्ययन प्रकट करता है कि जहाँ एम्बिएंट एआई (ambient AI) उपकरण क्लिनिकल ड्राफ्ट में कलंकपूर्ण भाषा उत्पन्न करते हैं, वहीं चिकित्सकों द्वारा की जाने वाली एडिटिंग अक्सर इस समस्या को और बढ़ा देती है क्योंकि वे हटाए गए शब्दों की तुलना में अधिक कलंकपूर्ण शब्द शामिल कर देते हैं, जिसके परिणामस्वरूप अंतिम इलेक्ट्रॉनिक स्वास्थ्य रिकॉर्ड में पक्षपाती भाषा में शुद्ध वृद्धि होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि एक व्यस्त डॉक्टर का क्लिनिक है जहाँ एक नए, हाई-टेक रोबोट सहायक को डॉक्टरों को उनके मरीज के नोट्स लिखने में मदद करने के लिए काम पर रखा गया है। यह रोबोट डॉक्टर और मरीज के बीच की बातचीत को सुनता है और तुरंत एक ड्राफ्ट तैयार कर देता है। विचार यह है कि इससे डॉक्टरों का समय बचाया जा सके ताकि वे टाइप करने के बजाय इलाज करने पर ध्यान केंद्रित कर सकें।
हालाँकि, इस अध्ययन ने एक महत्वपूर्ण प्रश्न पूछा: क्या रोबಗೊಳ मरीजों के बारे में कोई बुरी या निर्णयात्मक बातें लिखता है, और क्या होता है जब डॉक्टर उस ड्राफ्ट को पढ़ता है और उसे सेव करने से पहले उसमें सुधार करता है?
यहाँ शोधकर्ताओं को जो मिला, उसकी कहानी सरल शब्दों में दी गई है:
सेटअप: रोबोट का ड्राफ्ट बनाम मानव संपादन (The Robot Draft vs. The Human Edit)
शोधकर्ताओं ने 66,000 से अधिक नोटों के जोड़ों का अध्ययन किया। प्रत्येक जोड़े के लिए, उन्होंने तुलना की:
- रोबोट का ड्राफ्ट: वह कच्चा टेक्स्ट (raw text) जो विज़िट के तुरंत बाद AI द्वारा बनाया गया था।
- अंतिम नोट: वह टेक्स्ट जिसे डॉक्टर ने पढ़ा, ठीक किया और साइन करके फाइनल किया।
उन्होंने "बुरे शब्दों का शब्दकोश" (251 शब्दों की एक सूची) का उपयोग किया ताकि उन शब्दों का पता लगाया जा सके जो किसी मरीज को कलंकित या शर्मिंदा कर सकते हैं—जैसे कि "शराबी" (drunk), "अप्रिय" (unpleasant), "गैर-अनुपालनकारी" (non-compliant), या "चुनौतीपूर्ण" (challenging)।
बड़ी हैरानी: बुरे शब्दों का "शुद्ध लाभ" (The "Net Gain" of Mean Words)
आप सोच सकते हैं कि जब एक डॉक्टर रोबोट के ड्राफ्ट को एडिट करता है, तो वे एक सख्त संपादक की तरह काम करेंगे, और उन किसी भी रूखे या पक्षपाती शब्दों को हटा देंगे जो रोबोट ने गलती से लिखे हों।
ऐसा नहीं हुआ।
- रोबोट की गलतियाँ: रोबोट के लगभग 21% ड्राफ्ट में कम से कम एक कलंकित करने वाला शब्द मौजूद था।
- डॉक्टर के बदलाव: डॉक्टरों द्वारा नोट्स को एडिट करने के बाद, यह संख्या बढ़कर 24% हो गई।
इसे ऐसे समझें: कल्पना कीजिए कि रोबोट एक कहानी लिखता है जिसमें 100 स्पेलिंग की गलतियाँ (typos) हैं। आप उम्मीद करते हैं कि संपादक (डॉक्टर) उन गलतियों को ठीक करेगा। लेकिन इस मामले में, संपादक ने न केवल कुछ गलतियों को वैसे ही छोड़ दिया बल्कि कहानी में नई गलतियाँ भी लिख दीं।
अध्ययन में पाया गया कि डॉक्टर मेडिकल रिकॉर्ड में निर्णयात्मक भाषा को हटाने के बजाय, उसमें निर्णयात्मक शब्द जोड़ने के प्रति अधिक प्रवृत्त थे। वास्तव में, डॉक्टर द्वारा हटाए गए हर एक शब्द के लिए, उन्होंने एक से अधिक नए शब्द जोड़ दिए। संपादन की प्रक्रिया ने वास्तव में अंतिम मेडिकल रिकॉर्ड में निर्णयात्मक भाषा की मात्रा को बढ़ा दिया।
बदलाव कहाँ हुए?
शोधकर्ताओं ने देखा कि "हिस्ट्री ऑफ प्रेजेंट इलनेस" (मरीज क्या समस्या बता रहा है) और "असेसमेंट एंड प्लान" (डॉक्टर का निदान और अगले कदम) वे स्थान थे जहाँ ये शब्द सबसे अधिक दिखाई दिए। ये वे हिस्से हैं जहाँ डॉक्टर मरीज की कहानी की व्याख्या करते हैं और निर्णय लेते हैं।
- क्या हटाया गया? डॉक्टरों ने कभी-कभी "शराबी" (drunk) या "अप्रिय" (unpleasant) जैसे सीधे शब्दों को हटा दिया।
- क्या जोड़ा गया? डॉक्टरों ने अक्सर उन सीधे शब्दों को थोड़े अधिक सूक्ष्म, लेकिन फिर भी कलंकित करने वाले वाक्यांशों से बदल दिया जैसे कि "खराब इतिहासकार" (poor historian - जिसका अर्थ है कि मरीज सच नहीं बता सकता), "अविश्वसनीय" (unreliable), या "गैर-अनुपालनकारी" (nonadherent - जिसका अर्थ है कि मरीज आदेशों का पालन नहीं करेगा)।
यह ऐसा है जैसे डॉक्टर ने एक कठोर लेबल को लिया और उसे एक "विनम्र" लेबल से बदल दिया, जो अभी भी वही नकारात्मक भार वहन करता है।
मुख्य निष्कर्ष (The Bottom Line)
इस अध्ययन ने यह नहीं पाया कि केवल रोबोट ही खलनायक है। इसके बजाय, इसने पाया कि रोबोट और मानव संपादक का संयोजन एक समस्या पैदा करता है।
- रोबोट कभी-कभी पक्षपाती चीजें लिखता है।
- डॉक्टर अक्सर उनमें से कुछ को ठीक करते हैं लेकिन अपने स्वयं के नए पक्षपाती चीजें भी जोड़ देते हैं।
- परिणाम यह है कि कंप्यूटर सिस्टम में सेव किया गया अंतिम नोट, रोबोट के मूल ड्राफ्ट की तुलना में अधिक कलंकित करने वाली भाषा वाला होता है।
शोधकर्ता निष्कर्ष निकालते हैं कि केवल नोट्स का ड्राफ्ट बनाने के लिए AI का उपयोग करना अपने आप पक्षपात (bias) को ठीक नहीं करता है; वास्तव में, मानवीय संपादन प्रक्रिया कभी-कभी नए, निर्णयात्मक विवरण जोड़कर पक्षपात को और भी बदतर बना सकती है जो अंततः मरीज के स्थायी मेडिकल रिकॉर्ड में दर्ज हो जाते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।