When Do Physicians Trust AI? The Role of Clinical Context in Decision Support: SMART vignette study

तकनीकी सारांश: चिकित्सक AI पर भरोसा कब करते हैं? निर्णय सहायता में नैदानिक संदर्भ की भूमिका

समस्या विवरण
स्वास्थ्य सेवा कार्यप्रवाह (workflows) में आर्टिफिशियल इंटेलिजेंस-सक्षम क्लिनिकल डिसीजन सपोर्ट सिस्टम्स (AI-CDSS) के बढ़ते एकीकरण के बावजूद, एल्गोरिदम के प्रदर्शन को सार्थक नैदानिक प्रभाव में बदलने की दर सीमित बनी हुई है, जिसमें 2% से भी कम AI मॉडल प्रोटोटाइपिंग से आगे बढ़ पाते हैं। अपनाने में एक महत्वपूर्ण बाधा मानवीय कारक (human factors) हैं: विशेष रूप से, यह कि चिकित्सक एल्गोरिदम के आउटपुट का आलोचनात्मक मूल्यांकन, व्याख्या और अपने स्वतंत्र नैदानिक निर्णय के साथ कैसे एकीकरण करते हैं। जबकि नियामक अनुमोदन (regulatory approvals) तेजी से बढ़ रहे हैं, सफल कार्यान्वयन काफी हद तक चिकित्सक के भरोसे, कथित कार्यप्रवाह व्यवधानों और "अलर्ट थकान" (alert fatigue) के जोखिम द्वारा आकार लेता है, जहाँ चिकित्सक संज्ञानात्मक बोझ के कारण नैदानिक तर्क के बजाय अलर्ट को अनदेखा कर देते हैं। इसके अलावा, मौजूदा साहित्य अक्सर चिकित्सक के भरोसे (जैसे जोखिम धारणा, सूचना फ्रेमिंग और पूर्व अनुभव) को अलग-थलग रहकर देखता है, जो वास्तविक नैदानिक संदर्भों के भीतर उनके अंतर्संबंधों या अंतःक्रियाओं को समझने में विफल रहता है। यह अध्ययन यह समझने की तत्काल आवश्यकता को संबोधित करता है कि नैदानिक निर्णय का प्रकार (जोखिम प्रोफ़ाइल), AI के बारे में प्रकट की गई जानकारी की मात्रा, और AI के प्रति चिकित्सक का पूर्व अनुभव सामूहिक रूप से आत्मविश्वास, कथित प्रभावशीलता और AI टूल्स पर निर्भरता को कैसे प्रभावित करते हैं।

कार्यप्रणाली (Methodology)
इस अध्ययन में एक सीक्वेंशियल मल्टीपल-असाइनमेंट रैंडमाइज्ड ट्रायल (SMART) विग्नेट डिजाइन का उपयोग किया गया, जो ऑनलाइन अनुसंधान के लिए अनुकूलित एक नवीन सर्वेक्षण पद्धति है।

• प्रतिभागी: अध्ययन में अमेरिकन मेडिकल एसोसिएशन (AMA) फिजिशियन प्रोफेशनल डेटा फ़ाइल के माध्यम से भर्ती किए गए फैमिली मेडिसिन या इंटरनल मेडिसिन के 420 सक्रिय अमेरिकी चिकित्सकों का सर्वेक्षण किया गया।
• प्रायोगिक डिजाइन: प्रतिभागियों को एक एकल स्थिर कथा के बजाय सूक्ष्म-परिदृश्यों (subvignettes) की एक श्रृंखला प्रस्तुत की गई। संभाव्यता आधारित असाइनमेंट (probabilistic assignment) के माध्यम से, अध्ययन ने नमूने में तीन प्रमुख विशेषताओं को व्यवस्थित रूप से परिवर्तित किया:
  1. नैदानिक निर्णय का प्रकार: प्रिस्क्रिप्शन (उच्च जोखिम) बनाम रेफरल (कम जोखिम)।
  2. सूचना की मात्रा: "अधिक" जानकारी (10 वाक्य, जिसमें विकास डेटा, प्रशिक्षण डेटा और AUC मान शामिल हैं) बनाम "कम" जानकारी (5 वाक्य, जो उपयोग और रोगी रिकॉर्ड पर केंद्रित हैं)।
  3. AI अनुशंसा: उपचार करें (Treat) बनाम उपचार न करें (Do Not Treat)।
• मापन: प्राथमिक परिणामों में अंतिम निर्णय में स्व-रिपोर्ट किया गया आत्मविश्वास और AI-CDSS की कथित प्रभावशीलता (5-पॉइंट लिकर्ट स्केल का उपयोग करके) शामिल थे। खोजपूर्ण परिणामों (exploratory outcomes) ने AI के उपयोग के प्रति धारणा, अपने स्वयं के निर्णय बनाम AI पर निर्भरता, और टूल का उपयोग करने की इच्छा का आकलन किया।
• पूर्वानुमानक (Predictors): विश्लेषण ने नैदानिक निर्णय के प्रकार, सूचना की मात्रा और पूर्व AI एक्सपोजर के बाइनरी वर्गीकरण (जिसे अनुसंधान या अभ्यास में उपयोग, या उच्च परिचितता स्कोर द्वारा परिभाषित किया गया था) पर ध्यान केंद्रित किया।
• सांख्यिकीय विश्लेषण: मुख्य प्रभावों और इंटरेक्शन टर्म्स (मॉडरेशन) का आकलन करने के लिए लीनियर रिग्रेशन मॉडल का उपयोग किया गया। प्राथमिक परिकल्पनाओं के लिए बेन्जामिनी-होचबर्ग सुधार के साथ एक-तरफा परीक्षण (one-sided tests) लागू किए गए, जबकि खोजपूर्ण विश्लेषणों के लिए दो-तरफा परीक्षणों का उपयोग किया गया।

प्रमुख परिणाम

• पूर्व एक्सपोजर का प्रभाव: पूर्व AI एक्सपोजर वाले चिकित्सकों ने अपने अंतिम निर्णयों में काफी अधिक आत्मविश्वास ($\beta = 0.274$, एडजस्टेड $p = 0.042$) प्रदर्शित किया और रोगी देखभाल में सुधार करने में AI-CDSS को अधिक प्रभावी बताया ($\beta = 0.350$, एडजस्टेड $p = 0.006$)। पूर्व एक्सपोजर AI परिणाम के अंतिम निर्णय में योगदान देने के समझौते की अधिक संभावना से भी जुड़ा था ($\beta = 0.305$, $p = 0.010$)।
• सूचना की मात्रा का प्रभाव: इस परिकल्पना के विपरीत कि अधिक पारदर्शिता से विश्वास बढ़ेगा, AI-CDSS के बारे में दी गई जानकारी की मात्रा (अधिक बनाम कम) का चिकित्सकों के आत्मविश्वास या प्रभावशीलता की धारणा पर कोई महत्वपूर्ण प्रभाव नहीं पड़ा।
• नैदानिक निर्णय के प्रकार का प्रभाव: नैदानिक निर्णय के प्रकार ने विश्वास और निर्भरता को महत्वपूर्ण रूप से प्रभावित किया। प्रिस्क्रिप्शन परिदृश्य (उच्च जोखिम) को सौंपे गए चिकित्सकों ने रिपोर्ट किया:
  • AI की निरंतर सिफारिशें प्रदान करने की क्षमता में कम विश्वास ($\beta = -0.211$, $p = 0.027$)।
  • कम कथित लाभ जो जोखिमों से अधिक हों ($\beta = -0.178$, $p = 0.042$)।
  • AI अनुशंसा के बजाय अपने स्वयं के परीक्षण पर अधिक निर्भरता ($\beta = 0.154$, $p = 0.027$)।
  • इसके विपरीत, रेफरल परिदृश्य वाले लोगों ने उच्च विश्वास और स्वतंत्र निर्णय पर कम निर्भरता दिखाई।
• मॉडरेशन प्रभाव: पूर्व AI एक्सपोजर ने आत्मविश्वास या प्रभावशीलता रेटिंग पर सूचना की मात्रा के प्रभाव को महत्वपूर्ण रूप से मॉडरेट नहीं किया।

महत्व और दावे
यह शोध पत्र यह प्रतिपादित करता है कि सफल AI-CDSS परिनियोजन (deployment) के लिए मानव कारकों का पूर्व-परिनियोजन मूल्यांकन आवश्यक है, विशेष रूप से यह रेखांकित करता है कि पूर्व ज्ञान और AI का अनुभव चिकित्सक के आत्मविश्वास और कथित टूल प्रभावशीलता के महत्वपूर्ण चालक हैं। निष्कर्षों से पता चलता है कि:

1. प्रशिक्षण आवश्यक है: चिकित्सक शिक्षा में AI के उपयोग और AI-सहायता प्राप्त निर्णय लेने को एकीकृत करना महत्वपूर्ण है। लेखक तर्क देते हैं कि प्रशिक्षण का ध्यान एल्गोरिदम के अधीन होने के बजाय, रोगी के संदर्भ और नैदानिक निर्णय के साथ AI-जनित इनपुट को तौलने पर होना चाहिए।
2. संदर्भ मायने रखता है: चिकित्सक जोखिम प्रोफाइल के बीच अंतर करते हैं; वे कम-जोखिम वाले परिदृश्यों (जैसे, रेफरल) की तुलना में उच्च-दांव वाले परिदृश्यों (जैसे, प्रिस्क्रिप्शन) में अधिक संशयवादी और AI पर कम निर्भर होते हैं। कार्यान्वयन रणनीतियों को विश्वास के इन कार्य-विशिष्ट विविधताओं को ध्यान में रखना चाहिए।
3. सूचना फ्रेमिंग की सीमाएं: केवल एक AI मॉडल के बारे में अधिक तकनीकी विवरण प्रदान करना (जैसे, प्रशिक्षण डेटा, AUC) चिकित्सकों के बीच विश्वास या कथित प्रभावशीलता को बढ़ाने के लिए पर्याप्त नहीं है, जो यह सुझाव देता है कि अन्य इंटरफ़ेस या प्रस्तुति कारक अधिक प्रभावशाली हो सकते हैं।
4. सुरक्षा और अंशांकन (Calibration): AI पर अनुचित निर्भरता को रोकने के लिए, जो रोगियों के लिए जोखिम पैदा करती है, सुरक्षा उपाय विकसित किए जाने चाहिए ताकि चिकित्सक के आत्मविश्वास को मॉडल की वास्तविक विश्वसनीयता के साथ संरेखित किया जा सके। इसमें ऑडिट और फीडबैक तंत्र शामिल हैं।

अध्ययन निष्कर्ष निकालता है कि जबकि एल्गोरिदम का प्रदर्शन आवश्यक है, "ह्यूमन-इन-द-लूप" गतिशीलता—विशेष रूप से चिकित्सक की पृष्ठभूमि, अनुभव और विशिष्ट नैदानिक संदर्भ—यह निर्धारित करने वाले कारक हैं कि AI टूल्स को नैदानिक अभ्यास में अपनाया जाएगा, जांचा जाएगा या अनदेखा किया जाएगा।