Whose Voice? Algorithmic Smoothing and the Hybrid Authorship of BCI-Mediated End-of-Life Requests: a normative conceptual analysis

कल्पना कीजिए कि एक ऐसी दुनिया है जहाँ आपका मन एक शानदार, हलचल भरा शहर है, लेकिन बाहर जाने वाले रास्ते पूरी तरह से बंद हैं। आप सोच सकते हैं, महसूस कर सकते हैं और योजना बना सकते हैं, लेकिन आप हाथ हिला नहीं सकते, बोल नहीं सकते या टाइप नहीं कर सकते। यह उन लोगों की वास्तविकता है जो "पूरी तरह से लॉक-इन अवस्था" (completely locked-in state) में होते हैं, जो अक्सर ALS जैसी बीमारियों के कारण होता है। वे जागृत और सचेत हैं, लेकिन उनके शरीर ने सुनना बंद कर दिया है। यहाँ ब्रेन-कंप्यूटर इंटरफेस (BCI) आता है, जो एक उच्च-तकनीकी पुल है जो आपके मस्तिष्क के विद्युत संकेतों को पढ़ने और उन्हें स्क्रीन पर शब्दों में बदलने की कोशिश करता है। यह एक ऐसे अनुवादक की तरह है जो आपके विचारों को सुनता है और आपके लिए बोलता है।

लेकिन यहाँ एक मोड़ है: यह अनुवादक केवल एक निष्क्रिय माइक्रोफ़ोन नहीं है। यह एक AI-संचालित संपादक (editor) है। एक ऐसे मस्तिष्क से आने वाले शोर-शराबे वाले, अस्पष्ट संकेतों को समझने के लिए, कंप्यूटर "स्मूथिंग" (शोर को साफ करना) और "प्रेडिक्टिव टेक्स्ट" (आपके फोन की तरह अगले शब्द का अनुमान लगाना) का उपयोग करता है। यह एक बड़ा, दिमाग घुमा देने वाला सवाल खड़ा करता है: यदि कंप्यूटर आपका वाक्य पूरा करने में मदद करता है, तो क्या वह विचार अभी भी आपका है? यह विशेष रूप रूप से तब महत्वपूर्ण हो जाता है जब वाक्य जीवन-मृत्यु से जुड़े किसी विषय के बारे में हो, जैसे कि पीड़ा समाप्त करने के लिए चिकित्सा सहायता मांगना। यदि मशीन अनुरोध लिखने में मदद करती है, तो वास्तव में कौन पूछ रहा है?

यह शोध पत्र उसी दुविधा में गहराई से उतरता है। यह पूछता है: जब एक लॉक-इन रोगी AI-संवर्धित BCI का उपयोग करके चिकित्सा सहायता (medical aid in dying) के लिए अनुरोध करता है, तो क्या हम इस बात पर भरोसा कर सकते हैं कि वह अनुरोध वास्तव में उसकी अपनी आवाज़ है, या एल्गोरिदम ने संदेश को बदल दिया है? लेखक, ली और एनगन, तर्क देते हैं कि हमें केवल "हाँ" या "नहीं" नहीं कहना चाहिए। इसके बजाय, वे सुझाव देते हैं कि अनुरोध एक "हाइब्रिड" उत्पाद है—रोगी के इरादे और मशीन की मदद के बीच एक सहयोग। वे इन अनुरोधों की जाँच करने का एक नया तरीका प्रस्तावित करते हैं, न कि उस एकल वाक्य को देखकर जिसे कंप्यूटर ने लिखा है, बल्कि रोगी के पूरे जीवन की कहानी, उसके पिछले मूल्यों और उसके अग्रिम निर्देशों (advance directives) की तुलना करके। वे निष्कर्ष निकालते हैं कि जब तक मशीन का "अनुमान" उस चीज़ से मेल खाता है जिसमें रोगी हमेशा विश्वास करता आया है, तब तक अनुरोध वैध है। हालाँकि, यदि मशीन का अनुमान रोगी के इतिहास के विपरीत है, तो अनुरोध को अनदेखा किया जाना चाहिए। यह एक ऐसा ढांचा है जिसे रोगी के वास्तविक स्वरूप को एक त्रुटिपूर्ण एल्गोरिदम द्वारा मिटा दिए जाने से बचाने के लिए बनाया गया है।

एलेना और बोलने वाली मशीन की कहानी

इसे समझने के लिए, आइए एलेना से मिलें। वह एक 54 वर्षीय दर्शनशास्त्र की प्रोफेसर है, जिसने ALS के अपने शरीर पर नियंत्रण करने से पहले एक स्पष्ट पत्र लिखा था: "यदि मैं कभी अपने मन के भीतर फंस गई और बोलने का कोई रास्ता नहीं रहा, तो मैं अपने कष्ट को समाप्त करने का विकल्प चुनना चाहती हूँ।" वह इस बारे में बहुत विशिष्ट थी।

अब, एलेना पूरी तरह से लॉक-इन अवस्था में है। वह सोच सकती है, लेकिन वह एक मांसपेशी भी नहीं हिला सकती। उसके मस्तिष्क में एक BCI प्रत्यारोपित है। एक दिन, उसके डॉक्टर उससे पूछते हैं कि क्या उसे कोई चिंता है। मशीन उसके मस्तिष्क के संकेतों को पढ़ती है और टाइप करती है: "मैं इस दर्द को रोकना चाहती हूँ।"

डॉक्टर भ्रमित हैं। वे जानते हैं कि एलेना कष्ट समाप्त करना चाहती थी, लेकिन वे यह भी जानते हैं कि मशीन पूर्ण नहीं है। मशीन के मैनुअल में लिखा है कि यह "सिग्नल स्मूथिंग" (स्टैटिक को साफ करने के लिए) और "कॉन्टेक्स्टुअल प्रेडिक्शन" (शब्दों का अनुमान लगाने के लिए) का उपयोग करती है। जब डॉक्टरों ने कच्चे डेटा (raw data) की जाँच की, तो उन्होंने देखा कि एलेना का मस्तिष्क संकेत वास्तव में केवल यह खंड था: "मैं रोकना चाहती हूँ।" मशीन ने, यह देखते हुए कि वह पेलिएटिव केयर रूम में थी और तनाव में थी, वाक्य में "इस दर्द" शब्द को अनुमान से जोड़ दिया और उन्हें वाक्य में शामिल कर लिया।

तो, बड़ा सवाल यह है: क्या एलेना ने कहा "मैं इस दर्द को रोकना चाहती हूँ," या मशीन ने उसके लिए यह कहा?

मशीन एक तटस्थ पाइप नहीं है

शोध पत्र बताता है कि ये BCI टेलीफोन लाइन की तरह नहीं हैं जहाँ आप बस दूसरे व्यक्ति की बात सुनते हैं। वे एक स्मार्ट संपादक की तरह हैं। कंप्यूटर को बहुत अधिक मेहनत करनी पड़ती है:

1. यह मस्तिष्क से अव्यवस्थित विद्युत संकेतों को पकड़ता है।
2. यह "शोर" (स्टैटिक) को फ़िल्टर करता है।
3. यह समझने की कोशिश करता है कि कौन से मस्तिष्क स्पाइक्स किन अक्षरों का अर्थ रखते हैं।
4. यह शेष वाक्य का अनुमान लगाने के लिए मानव बातचीत के एक विशाल डेटाबेस का उपयोग करता है।

लेखक बताते हैं कि यह "अनुमान लगाना" आवश्यक है। इसके बिना, आउटपुट निरर्थक होगा। लेकिन इसका मतलब है कि अंतिम वाक्य एक टीम का प्रयास है। मशीन केवल एक उपकरण नहीं है; वह एक सह-लेखक (co-author) है।

गलतियों की समस्या

शोध पत्र हमें यह भी याद दिलाता है कि ये मशीनें गलतियाँ करती हैं।

• वर्ड एरर रेट (Word Error Rates): वास्तविक परीक्षणों में, ये मशीनें लगभग 8% से 24% बार गलत शब्द चुनती हैं, जो इस पर निर्भर करता है कि शब्दावली कितनी बड़ी है।
• फॉल्स पॉजिटिव (False Positives): कभी-कभी मशीन एक ऐसा वाक्यांश बोल सकती है जिसे रोगी ने कभी नहीं चाहा था। सरल वाक्यांशों के लिए, ऐसा लगभग 2% से 5% बार होता है। मृत्यु के लिए पूछने जैसे बड़े, भावनात्मक अनुरोधों के लिए, जोखिम और भी अधिक हो सकता है।

इस कारण से, लेखक कहते हैं कि हम केवल मशीन के एक वाक्य को लेकर यह नहीं कह सकते कि, "ठीक है, यह अंतिम निर्णय है।" वह खतरनाक होगा।

"हाइब्रिड" समाधान

तो, "किसकी आवाज़?" के रहस्य को कैसे सुलझाएं? लेखक सुझाव देते हैं कि हम एक "शुद्ध" मानवीय आवाज़ खोजने की कोशिश करना छोड़ दें और यह स्वीकार करें कि आवाज़ हाइब्रिड है। वे इसे समझाने के लिए तीन विचारों का उपयोग करते हैं:

1. विस्तारित मन (The Extended Mind): कल्पना कीजिए कि आपका मस्तिष्क एक कंप्यूटर है, और BCI एक कीबोर्ड है जिसका आपने वर्षों तक उपयोग किया है। अंततः, कीबोर्ड आपके मन का हिस्सा बन जाता है। जब आप टाइप करते हैं, तो आप केवल एक उपकरण का उपयोग नहीं कर रहे होते हैं; आप उस उपकरण के माध्यम से सोच रहे होते हैं। इसलिए, मशीन की मदद रोगी की सोचने की प्रक्रिया का हिस्सा है।
2. सह-अभिकर्तृत्व (Co-Agency): इसे एक नृत्य की तरह सोचें। एलेना नेतृत्व करती है, लेकिन मशीन उसके कदमों का अनुसरण करती है और उसे संतुलन बनाए रखने में मदद करती है। वे एक साथ नृत्य कर रहे हैं। अनुरोध दोनों का है।
3. मोज़ेक (The Mosaic): एक मोज़ेक की कल्पना करें जो टाइल्स से बनी एक तस्वीर है। एलेना का जीवन और उसके मूल्य वह तस्वीर हैं। BCI का आउटपुट केवल एक नया टाइल है। हम केवल एक टाइल के आधार पर यह तय नहीं कर सकते कि तस्वीर सही है या नहीं; हमें पूरे मोज़ेक को देखना होगा।

"मदद" के दो प्रकार

शोध पत्र मशीन द्वारा मदद करने के दो तरीकों के बीच एक बहुत ही महत्वपूर्ण अंतर बनाता है:

• पुष्टिपरक विस्तार (Confirmatory Elaboration - अच्छा प्रकार): यह तब होता है जब मशीन एक ऐसा शब्द अनुमान लगाती है जो हमारे द्वारा रोगी के बारे में पहले से ज्ञात जानकारी के साथ पूरी तरह से फिट बैठता है। एलेना के मामले में, उसने कहा "मैं रोकना चाहती हूँ," और मशीन ने "इस दर्द" जोड़ा। चूंकि एलेना हमेशा दर्द से नफरत करती थी, और वह एक दर्द क्लिनिक में थी, इसलिए यह अनुमान समझ में आता है। यह पुष्टि करता है कि वह संभवतः क्या कहना चाहती थी। यह सुरक्षित है।
• जनरेटिव प्रतिस्थापन (Generative Substitution - बुरा प्रकार): यह तब होता है जब मशीन कुछ ऐसा अनुमान लगाती है जो रोगी के बारे में हमारी जानकारी के विपरीत जाता है। कल्पना कीजिए कि एलेना हमेशा धार्मिक रही थी और जीवन के प्रति प्रेम रखती थी, लेकिन मशीन ने अनुमान लगाया "मैं मरना चाहती हूँ।" यह मशीन द्वारा उसकी इच्छा को अपने अनुमान से बदलने जैसा होगा। यह खतरनाक है और इसे अनदेखा किया जाना चाहिए।

नया नियम: ट्रेजेक्टरी-आधारित सत्यापन प्रोटोकॉल

लेखक इन अनुरोधों को संभालने के लिए डॉक्टरों के लिए एक नया तरीका प्रस्तावित करते हैं। वे इसे ट्रेजेक्टरी-आधारित सत्यापन प्रोटोकॉल (Trajectory-Based Validation Protocol) कहते हैं। मशीन द्वारा लिखे गए एकल वाक्य को देखने के बजाय, डॉक्टरों को रोगी के "ट्रेजेक्टरी" (जीवन पथ) को देखना चाहिए।

यह इस प्रकार काम करता है:

1. इतिहास की जाँच करें: क्या रोगी के पास एक स्पष्ट, लिखित योजना (जैसे अग्रिम निर्देश) है जो लॉक-इन होने से पहले की है? क्या उन्होंने इससे पहले डॉक्टरों के साथ इस बारे में चर्चा की थी?
2. मोज़ेक चेक: क्या मशीन का संदेश रोगी के जीवन की कहानी के साथ मेल खाता है? यदि मशीन कहती है "मैं मरना चाहती हूँ," लेकिन रोगी ने वर्षों तक जीवन के प्रति अपने प्रेम के बारे में लिखा है, तो मशीन गलत है।
3. दोहराएं और सत्यापित करें: एक संदेश पर भरोसा न करें। एक ही प्रश्न बार-बार पूछें। यदि मशीन हर बार एक ही बात कहती है, और वह रोगी के इतिहास से मेल खाती है, तो यह वास्तविक होने की संभावना है।
4. विरोधाभास खंड (Contradiction Clause): यदि मशीन का संदेश रोगी के अतीत के विपरीत है, तो रुक जाएँ। इस पर कार्रवाई न करें। मशीन में खराबी हो सकती है, या रोगी भ्रमित हो सकता है। आपको अधिक प्रमाण की आवश्यकता है।

निष्कर्ष

शोध पत्र निष्कर्ष निकालता है कि हमें "मशीन झूठ बोल रही है" और "मशीन पूर्ण है" के बीच चयन करने की आवश्यकता नहीं है। सत्य बीच में है। अनुरोध एक सह-निर्मित उत्पाद (co-constructed product) है। यह रोगी और एल्गोरिदम दोनों का है।

यदि एल्गोरिदम का अनुमान रोगी के लंबे समय से चले आ रहे मूल्यों और इतिहास के साथ मेल खाता है, तो अनुरोध वैध है, भले ही मशीन ने इसे लिखने में मदद की हो। लेकिन यदि एल्गोरिदम कुछ नया या विरोधाभासी अनुमान लगाता है, तो हमें इसे अत्यधिक संदेह के साथ लेना चाहिए।

लेखक सावधानीपूर्वक कहते हैं कि यह एक वैचारिक ढांचा (conceptual framework) है, न कि अभी तक एक पूर्ण चिकित्सा नियमावली। उन्होंने इस शोध पत्र में वास्तविक आंकड़ों या कानूनी कोड के साथ इसका परीक्षण नहीं किया है; वे केवल एक मानचित्र तैयार कर रहे हैं। वे सुझाव देते हैं कि भविष्य के कार्यों में यह निर्धारित करने की आवश्यकता है कि सटीक संख्याएँ क्या हैं (जैसे कि एक संदेश को कितनी बार दोहराया जाना चाहिए) और इसे कानून में कैसे फिट किया जाए। लेकिन मूल विचार स्पष्ट है: रोगी की वास्तविक आवाज़ सुनने के लिए, हमें मशीन और रोगी के पूरे जीवन की कहानी को एक साथ सुनना होगा।