Algorithm Design and Physician Liability

तकनीकी सारांश: एल्गोरिदम डिज़ाइन और चिकित्सक उत्तरदायित्व (Physician Liability)

समस्या विवरण
यह शोध पत्र नैदानिक कृत्रिम बुद्धिमत्ता (Clinical AI) के डिज़ाइन और इसे अपनाने पर तैनाती-उन्मुख उत्तरदायित्व नियमों (deployment-facing liability regulations) के संतुलन संबंधी परिणामों की जांच करता है। जबकि मौजूदा साहित्य अक्सर एल्गोरिदम डिज़ाइन और मानव अंगीकरण (human adoption) को अलग-अलग क्षेत्रों के रूप में देखता है, यह कार्य उनकी परस्पर निर्भरता को संबोधित करता है। विशेष रूप से, यह परीक्षण करता है कि कैसे उत्तरदायित्व नियम—जैसे कि नैदानिक निर्णय समर्थन (clinical decision support) के संबंध में अमेरिकी सीएमएस (CMS) धारा 1557 प्रावधान—एआई फर्मों (upstream) और चिकित्सकों (downstream) दोनों के लिए प्रोत्साहन को कैसे नया आकार देते हैं। मुख्य तनाव तब उत्पन्न होता है जब एक एकल एल्गोरिदम विभिन्न रोगी समूहों (जैसे, संपन्न बनाम वंचित) के लिए असमान सटीकता प्रदान करता है, जिससे उन वंचित रोगियों के लिए ऐसे विषम उपकरणों पर भरोसा करने वाले चिकित्सकों के लिए उत्तरदायित्व का जोखिम (liability exposure) पैदा होता है। यह शोध प्रश्न उठाता है कि क्या ऐसे उत्तरदायित्व नियम सफलतापूर्वक असमानता-घटाने वाले निवेश को प्रेरित करते हैं या अनजाने में अंगीकरण और डिज़ाइन को इस तरह से विकृत करते हैं जो उन्हीं समूहों को नुकसान पहुँचाते हैं जिनकी रक्षा के लिए वे बनाए गए हैं।

कार्यप्रणाली (Methodology)
लेखक एक एआई फर्म और एक चिकित्सक को शामिल करते हुए एक दो-चरणीय गेम-थ्योरेटिक मॉडल का निर्माण करते हैं।

1. खिलाड़ी और संरचना:

   • एआई फर्म: एक लाभ-अधिकतमीकरण इकाई जो दो प्रकार के रोगियों के लिए एक नैदानिक एल्गोरिदम डिज़ाइन करती है: एक संपन्न समूह ($x$) और एक वंचित समूह ($y$)। डेटा की कमी और मापन घर्षण के कारण समूह $y$ के लिए सटीकता में सुधार करना अधिक महंगा ($\kappa_y > \kappa_x$) है। फर्म एक विषम डिज़ाइन ($\rho_x > \rho_y$) और एक समान-सटीकता डिज़ाइन ($\rho_x = \rho_y$) के बीच चयन करती है।
   • चिकित्सक: एक विशेषज्ञ मध्यस्थ जो यह निर्णय लेता है कि किसी विशिष्ट रोगी मामले के लिए एआई टूल का उपयोग करना है या नहीं और, उपयोग करने की स्थिति में, क्या इसके सुझाव का पालन करना है। चिकित्सक रोगी के स्वास्थ्य परिणामों और गैर-नैदानिक उद्देश्यों (प्रतिपूर्ति $r$) तथा उत्तरदायित्व जोखिम ($\ell$) के बीच संतुलन बनाता है।
   • रोगी: दो प्रकार के लक्षण। चिकित्सक के पास उपयुक्त उपचार के बारे में एक पूर्व विश्वास ($\alpha$) होता है, जिसे एआई सिग्नल प्राप्त होने पर बेयस के नियम (Bayes' rule) के माध्यम से अपडेट किया जाता है।

2. उत्तरदायित्व तंत्र:
   मॉडल एक विशिष्ट उत्तरदायित्व चैनल को शामिल करता है: यदि एक चिकित्सक वंचित रोगी ($y$) के लिए एक विषम एल्गोरिदम से गलत सिफारिश का पालन करता है, तो उसे एक उत्तरदायित्व लागत $\ell$ का सामना करना पड़ता है। यह लागत तब लागू नहीं होती है जब एल्गोरिदम में समूहों के बीच समान सटीकता हो या यदि रोगी संपन्न समूह से हो।

3. समाधान अवधारणा (Solution Concept):
   इस खेल को बैकवर्ड इंडक्शन (backward induction) के माध्यम से हल किया जाता है। पहले, निश्चित एल्गोरिदम सटीकताओं को देखते हुए चिकित्सक के इष्टतम उपयोग और उपचार निर्णयों को निकाला जाता है। दूसरे, एआई फर्म इन डाउनस्ट्रीम व्यवहारों का पूर्वानुमान लगाती है ताकि लाभ को अधिकतम करने के लिए इष्टतम सटीकता स्तर और डिज़ाइन शासन (design regime) का चयन किया जा सके।

प्रमुख योगदान

• डिज़ाइन और अंगीकरण का एकीकरण: यह शोध पत्र बाधाओं के तहत एल्गोरिदम डिज़ाइन के साहित्य और मानव-एआई इंटरैक्शन के साहित्य के बीच के अंतर को पाटता है, यह प्रदर्शित करते हुए कि कैसे डाउनस्ट्रीम नियामक बाधाएं अपस्ट्रीम उत्पाद डिज़ाइन को प्रभावित करती हैं।
• उत्तरदायित्व एक दोधारी तलवार के रूप में: यह औपचारिक रूपता प्रदान करता है कि कैसे वंचित समूहों की रक्षा के लिए बनाए गए उत्तरदायित्व नियम अनजाने में चिकित्सकों के लिए निर्भरता की "छाया लागत" (shadow cost) बढ़ाकर उनके लिए एआई तक पहुंच को कम कर सकते हैं।
• गैर-एकदिष्टता (Non-Monotonicity): अध्ययन यह पहचानता है कि उत्तरदायित्व के स्तर और वंचित रोगियों के लिए एआई उपयोग के बीच एक गैर-एकदिष्ट संबंध है, जो प्रत्यक्ष निवारण और अंतर्जात डिज़ाइन प्रतिक्रियाओं के बीच परस्पर क्रिया से संचालित होता है।
• जनादेश के कल्याण संबंधी निहितार्थ: यह इस धारणा को चुनौती देता है कि समान एल्गोरिदम सटीकता को अनिवार्य करना स्वाभाविक रूप से कल्याण में सुधार करता है, यह दिखाते हुए कि ऐसे जनादेश निवेश प्रोत्साहन और उपयोग के निर्णयों को विकृत कर सकते हैं, जिससे संभावित रूप से दोनों समूहों को नुकसान पहुँच सकता है।

प्रमुख परिणाम

1. एआई का विषम उपयोग:
   भले ही एल्गोरिदम की सटीकता स्थिर हो, उत्तरदायित्व नियम विषम उपयोग को प्रेरित करते हैं। चिकित्सक वंचित रोगियों के लिए एआई का उपयोग कम करने की संभावना रखते हैं क्योंकि अपेक्षित कानूनी जोखिम एक अतिरिक्त लागत के रूप में कार्य करता है। फलस्वरूप, वंचित समूहों को बचाने के उद्देश्य से बनाया गया नीतिगत नियम उनके लिए एआई तक पहुंच को सीमित कर सकता है।

2. उत्तरदायित्व का गैर-एकदिष्ट प्रभाव:
   बढ़ते उत्तरदायित्व ($\ell$) का वंचित रोगियों के लिए एआई उपयोग पर प्रभाव गैर-एकदिष्ट है:

   • कम उत्तरदायित्व: प्रत्यक्ष निवारण प्रभाव हावी रहता है। चिकित्सक वंचित रोगियों के लिए एआई का उपयोग कम करते हैं, जिससे उपयोग का अंतर बढ़ जाता है।
   • मध्यवर्ती उत्तरदायित्व: फर्म लाभप्रदता बनाए रखने के लिए वंचित समूह के लिए सटीकता में सुधार हेतु निवेश को पुनर्वितरित करके अंतर्जात रूप से प्रतिक्रिया देती है। यह चिकित्सक के अपेक्षित उत्तरदायित्व जोखिम को कम करता है, जिससे संभावित रूप से एआई उपयोग बहाल या बढ़ जाता है।
   • उच्च उत्तरदायित्व: एक सीमा ($\bar{\ell}$) के बाद, फर्म विषमता-प्रेरित उत्तरदायित्व चैनल को पूरी तरह से समाप्त करने के लिए एक समान-सटीकता डिज़ाइन की ओर स्विच कर देती है। इस शासन में, उपयोग उत्तरदायित्व के स्तरों से स्वतंत्र हो जाता है।

3. उपयुक्त बनाम अनुपयुक्त उपयोग:
   यह शोध पत्र एक परोपकारी चिकित्सक ($\theta=0$) के सापेक्ष "उपयुक्त उपयोग" को परिभाषित करता है।

   • समान-सटीकता डिज़ाइनों के तहत, प्रतिपूर्ति प्रोत्साहन ($r$) दोनों समूहों के लिए एआई के अति-उपयोग (overuse) की ओर ले जा सकते हैं, क्योंकि उत्तरदायित्व बाधा हटा दी जाती है।
   • विषम डिज़ाइनों के तहत, चिकित्सा अनिश्चितता अधिक होने पर भी, चिकित्सक कानूनी जोखिम के डर से मध्यवर्ती उत्तरदायता स्तरों पर वंचित रोगियों के लिए एआई का अल्प-उपयोग (underuse) कर सकते हैं।
   • उत्तरदायित्व बढ़ने के साथ वंचित रोगियों के लिए एक त्रि-चरणीय पैटर्न (अति-उपयोग $\to$ अल्प-उपयोग $\to$ अति-उपयोग) उभर सकता है।

4. समान-सटीकता जनादेशों के कल्याण प्रभाव:
   समान सटीकता ($\rho_x = \rho_y$) को अनिवार्य करना कल्याण में सुधार की गारंटी नहीं देता है।

   • सटीकता ट्रेड-ऑफ: चूंकि वंचित समूह के लिए सटीकता में सुधार करना अधिक महंगा है, इसलिए समानता अक्सर संपन्न समूह की सटीकता को काफी कम करके और वंचित समूह की सटीकता को केवल मामूली रूप से बढ़ाकर प्राप्त की जाती है।
   • उपयोग का विरूपण: जनादेश वंचित रोगियों के लिए उत्तरदायित्व बाधा को शिथिल करता है, जिससे संभावित रूप से वहां अति-उपयोग प्रेरित होता है जहां नैदानिक लाभ उपयोग की लागत ($c$) के सापेक्ष कम होते हैं। साथ ही, यह उन संपन्न लोगों के लिए उपयोग को कम करता है जो सटीकता लाभ खो देते हैं।
   • कुल हानि: मध्यवर्ती पैरामीटर क्षेत्रों (विशेष रूप से प्रतिपूर्ति दरों और उत्तरदायित्व स्तरों के संबंध में) में, एक समान सटीकता आवश्यकता दोनों रोगी समूहों के लिए कुल कल्याण को कम कर सकती है।

महत्व और दावे
यह शोध पत्र दावा करता है कि नियामक डिज़ाइन अत्यंत महत्वपूर्ण है क्योंकि एक ही कानूनी उद्देश्य प्रोत्साहन संरचनाओं के आधार पर बहुत अलग साम्यावस्था परिणाम उत्पन्न कर सकता है। लेखक तर्क देते हैं कि:

• एल्गोरिदम विषमता को कम करने के उद्देश्य वाले उत्तरदायित्व मानकों को पूरक उपकरणों (जैसे, प्रतिपूर्ति डिज़ाइन, उपयोग दिशानिर्देश) के साथ जोड़ा जाना चाहिए ताकि उचित नैदानिक निर्भरता सुनिश्चित की जा सके।
• मापी गई एल्गोरिदम प्रदर्शन को समान बनाना, उपयुक्त नैदानिक निर्भरता सुनिश्चित करने से भिन्न है; पूर्व वाला स्वतः ही बाद वाले को प्राप्त नहीं करता है।
• वर्णित तंत्र स्वास्थ्य सेवा से परे उन सभी क्षेत्रों में सामान्यीकृत किया जा सकता है जहाँ विशेषज्ञ मध्यस्थ (जैसे, न्यायाधीश, ऋणदाता) उन एल्गोरिदम द्वारा सूचित निर्णयों के लिए जवाबदेह होते हैं जो समूह-विशिष्ट प्रदर्शन विषमताओं को प्रदर्शित करते हैं।

शोध पत्र निष्कर्ष निकालता है कि डिज़ाइन और तैनाती के संयुक्त प्रोत्साहनों को संबोधित किए बिना, केवल एल्गोरिदम प्रदर्शन मेट्रिक्स पर केंद्रित नीतियां रोगी कल्याण में सुधार करने में विफल हो सकती हैं और अनजाने में पहुंच और परिणामों में असमानताओं को बढ़ा सकती हैं।