From Dyad to Triad: Eliciting XAI Requirements in Stroke Rehabilitation

अदृश्य कोच और मौन रोगी

कल्पना कीजिए कि आप साइकिल चलाना सीख रहे हैं, लेकिन एक माता-पिता द्वारा सीट पकड़ने के बजाय, एक रोबोट आपका मार्गदर्शन कर रहा है। यह रोबोट आपके डगमगाने को देख सकता है और जानता है कि आप कब गिरने वाले हैं। लेकिन यहाँ एक पेच है: रोबोट कभी बोलता नहीं है। वह बस हैंडल को झुकाता है या पैडल को रोकता है। आपको निराशा हो सकती है, यह सोचते हुए, "क्या मैंने बहुत ज़ोर से पैडल मारा? क्या बैटरी कम है? क्या रोबोट खराब है?" यह एक्सप्लेनेबल एआई (XAI - व्याख्या योग्य एआई) की दुनिया है। सरल शब्दों में, XAI कंप्यूटर प्रोग्रामों को हमें यह बताने की कला है कि उन्होंने कोई निर्णय क्यों लिया, न कि केवल हमें परिणाम दिखाना।

अब, कल्पना कीजिए कि यह रोबोट एक स्ट्रोक सर्वाइवर (स्ट्रोक से उबरने वाले व्यक्ति) को अपना हाथ फिर से हिलाना सीखने में मदद कर रहा है। स्ट्रोक मस्तिष्क की वायरिंग में बिजली कटौती की तरह है, जो अक्सर लोगों को स्पष्ट रूप से बोलने या जटिल विचारों को तेज़ी से समझने में असमर्थ बना देता है। वर्षों से, डॉक्टर इस परिदृश्य में "कोच" रहे हैं, मरीजों को समझाते रहे हैं कि एक व्यायाम क्यों विफल हुआ और इसे कैसे ठीक किया जाए। लेकिन जैसे-जैसे तकनीक मदद के लिए आगे आती है, टीम एक जोड़ी (डॉक्टर और मरीज) से बदलकर एक तिकड़ी (डॉक्टर, मरीज और रोबोट) हो जाती है। बड़ा सवाल यह है: आप उस व्यक्ति से कैसे पूछेंगे जो सही शब्द खोजने के लिए संघर्ष कर रहा है कि उसे रोबोट से किस तरह की "व्याख्या" की आवश्यकता है? यदि आप उनसे पूछते हैं, "क्या आप एक कंट्रास्टिव (तुलनात्मक) व्याख्या पसंद करते हैं या एक काउंटरफैक्चुअल (विपरीत तथ्यात्मक) व्याख्या?" तो वे शायद आपको बस देखते रह जाएंगे। यह शोध पत्र ठीक इसी समस्या में गहराई से उतरता है, यह पता लगाने की कोशिश करता है कि उन मरीजों की बात कैसे सुनी जाए जो हमेशा अपने लिए बोल नहीं सकते, ताकि उनके द्वारा उपयोग किए जाने वाले रोबोट न केवल काम करें, बल्कि वास्तव में उन्हें समझ में भी आएं।

---

"क्या?" से "क्यों?" तक

यह शोध पत्र एक चतुर प्रयोग के बारे में है जिसे एक संचार पहेली को हल करने के लिए डिज़ाइन किया गया है। शोधकर्ता यह जानना चाहते थे कि स्ट्रोक सर्वाइवर्स को वास्तव में उन एआई प्रणालियों से क्या समझने की आवश्यकता है जो उन्हें ठीक होने में मदद कर रही हैं। लेकिन एक बाधा थी: इनमें से कई मरीजों को अफ़ेसिया (aphasia) है, एक ऐसी स्थिति जो बोलने या जटिल भाषा को समझने में कठिनाई पैदा करती है। यदि आप उनसे सीधे पूछते हैं, "आपको इस एल्गोरिदम से किस प्रकार की पारदर्शिता चाहिए?" तो वे अटक सकते हैं, या इससे भी बुरा, वे किसी भी चीज़ के लिए बस "हाँ" कह सकते हैं क्योंकि वे मुश्किल बनना नहीं चाहते।

राजपुरा परम और योगेश कुमार मीना के नेतृत्व वाली टीम ने अमूर्त प्रश्न पूछना बंद करने और कहानियाँ दिखाने का निर्णय लिया। उन्होंने एक वीडियो-आधारित स्कैफोल्डिंग प्रोटोकॉल (scaffolding protocol) बनाया। "स्कैफोल्डिंग" को निर्माण में मदद करने के लिए बिल्डरों द्वारा उपयोग किए जाने वाले अस्थायी लकड़ी के सहारे की तरह समझें। यहाँ, "लकड़ी" एक पात्र 'सुनीता' के लघु 2-मिनट के वीडियो की एक श्रृंखला थी, जो अपने हाथ को हिलाने के लिए ब्रेन-कंप्यूटर इंटरफेस (BCI) का उपयोग करने की कोशिश कर रही है। वीडियो में वास्तविक समस्याएँ दिखाई गईं—जैसे मशीन कभी काम करती है और कभी नहीं, या भ्रमित करने वाला फीडबैक देती है—लेकिन उन्होंने समाधान नहीं दिखाया। इसके बजाय, वीडियो भ्रम के क्षण पर ही रुक गए, दर्शकों से पूछते हुए, "सुनीता के लिए यहाँ क्या मददगार होगा?"

इन वीडियोों का अधिकतम लाभ उठाने के लिए, शोधकर्ताओं ने मरीजों को उनकी जरूरतों को व्यक्त करने में मदद करने के लिए चार विशेष तरकीबों, या "स्कैफोल्डिंग दृष्टिकोणों" का उपयोग किया:

1. "परिचित प्रणाली" का सेतु (एनालॉजिकल ब्रिजिंग): "न्यूरल सिग्नल" या "इम्पीडेंस" के बारे में बात करने के बजाय, सुविधा प्रदाताओं ने एआई की तुलना उन चीजों से की जिन्हें हर कोई जानता है। उदाहरण के लिए, उन्होंने एक खराब मस्तिष्क संकेत की तुलना ड्रॉप कॉल (मोबाइल फोन कॉल कट जाना) से की। अचानक, "सिग्नल को ठीक करने" का विचार उस मरीज के लिए बिल्कुल समझ में आने लगा जिसने कभी ईईजी (EEG) तकनीक के बारेв सुना भी नहीं था।
2. "तीसरे व्यक्ति" का कवच (प्रोजेक्टिव पेर्सोना): किसी मरीज से सीधे पूछना, "क्या आप अपनी गोपनीयता को लेकर चिंतित हैं?" डरावना या शर्मनाक लग सकता है। इसलिए, शोधकर्ताओं ने पूछा, "एक शंकालु व्यक्ति किस बात की चिंता करेगा?" इसने मरीजों को अपनी कमजोरियों को स्वीकार किए बिना अपने डर को व्यक्त करने की अनुमति दी।
3. "A या B" का चुनाव (बाइनरी फोर्सिंग): कभी-कभी, खुले प्रश्न बहुत भारी होते हैं। शोधकर्ताओं ने चीजों को सरल बनाया: "क्या आप एक छोटा सारांश चाहते हैं या एक बड़ी रिपोर्ट?" या "क्या मशीन को आपको बताना चाहिए कि क्या करना है, या एक इंसान को समझाना चाहिए?" इसने मानसिक बोझ को कम किया और मरीजों को स्पष्ट विकल्प चुनने दिया।
4. "मौन ही स्वर्ण है" का नियम (विस्तारित प्रतिक्रिया समय): उन्होंने प्रश्न पूछने के बाद मरीजों को 15 से 30 सेकंड का मौन दिया। अफ़ेसिया वाले व्यक्ति के लिए, वह अतिरिक्त समय एक खाली नज़र और एक विचारशील उत्तर के बीच का अंतर होता है।

उन्होंने क्या पाया: विभिन्न आवाजों की भीड़

इस अध्ययन में तीन स्ट्रोक सर्वाइवर्स (जिनमें से दो मध्यम-से-गंभीर अफ़ेसिया से ग्रस्त थे) और तीन पारिवारिक देखभाल करने वाले शामिल थे। परिणाम आश्चर्यजनक थे और दिखाते हैं कि मरीज एक समान समूह नहीं हैं।

• वे विवरण के अलग-अलग स्तर चाहते हैं: एक मरीज एक छोटा, सरल रिपोर्ट चाहता था ("बस मुझे बता दें कि क्या मैंने किया"), जबकि दूसरा हर एक गतिविधि का विस्तृत, स्टेप-बाय-स्टेप विवरण चाहता था। यदि डिजाइनरों ने केवल एक व्यक्ति से पूछा होता, तो उन्होंने एक ऐसा सिस्टम बनाया होता जो दूसरे को परेशान करता।
• वे अलग-अलग "कोच" पर भरोसा करते हैं: जब डॉक्टर ने एक बात कही और मशीन ने दूसरी, तो कुछ मरीजों ने डॉक्टर पर भरोसा किया, जबकि अन्य ने मशीन के आंकड़ों पर भरोसा किया क्योंकि उन्हें वे अधिक "वस्तुनिष्ठ" लगे। दिलचस्प बात यह है कि वे चाहे किसी पर भी भरोसा करते हों, उन सभी ने कहा कि यदि वे समर्थित महसूस करेंगे तो वे अधिक मेहनत करेंगे।
• वे अलग-अलग तरह की मदद चाहते हैं: कुछ मरीज चाहते थे कि मशीन सीधे उनसे बात करे ताकि वे अपनी गलतियों को सुधार सकें। अन्य लोग पसंद करते थे कि कोई परिवार का सदस्य या इंसान पहले त्रुटि को समझाए, क्योंकि वे अभी मशीन से बात करने में आत्मविश्वास महसूस नहीं करते थे।

छिपा हुआ जाल: "विशेषज्ञ" पूर्वाग्रह

यह शोध पत्र एक पेचीदा समस्या पर भी प्रकाश डालता है: शोधकर्ता स्वयं अनजाने में चीजों को बिगाड़ सकते हैं। अपने स्वयं के संवादों को देखकर, उन्होंने पाया कि वे अनजाने में तीन तरीकों से उत्तरों को निर्देशित कर रहे थे:

1. "अधिक बेहतर है" का पूर्वाग्रह: जब एक मरीज ने एक सरल रिपोर्ट मांगी, तो सुविधा प्रदाता ने अनजाने में उसे "पूर्ण रिपोर्ट" के रूप में सारांशित कर दिया क्योंकि उन्होंने मान लिया कि जटिलता ही वह चीज़ है जो एआई कर सकता है। इसने अनजाने में सरलता के लिए मरीज की वास्तविक प्राथमिकता को मिटा दिया।
2. "हाँ, मुझे पता था" का पूर्वाग्रह: जब किसी मरीज ने एक आश्चर्यजनक उत्तर दिया (जैसे यह कहना कि वे चाहते हैं कि मशीन उनके विचारों को जाने), तो सुविधा प्रदाता ने कभी-कभी जल्दी से अगले अपेक्षित उत्तर की ओर रुख किया, जिससे एक मूल्यवान अंतर्दृष्टि छूट गई।
3. "कमरे में डॉक्टर" का प्रभाव: क्योंकि एक डॉक्टर मौजूद था, मरीजों ने कभी-कभी कहा कि वे डॉक्टर पर मशीन की तुलना में अधिक भरोसा करते हैं, भले ही वे वास्तव में मशीन को पसंद करते हों। सत्ता की उपस्थिति ने उत्तर को बदल दिया।

निष्कर्ष

यह शोध पत्र सुझाव देता है कि हम यह मानकर नहीं चल सकते कि हम जानते हैं कि मरीजों को क्या चाहिए। हम एक रोबोट कोच को इस आधार पर डिज़ाइन नहीं कर सकते कि एक डॉक्टर सोचता है कि मरीज को क्या चाहिए, या एक सॉफ्टवेयर इंजीनियर कल्पना करता है कि सबसे अच्छा क्या है। अध्ययन दिखाता है कि सही उपकरणों के साथ—जैसे वीडियो, सरल उपमाएँ और पर्याप्त समय—हम उन मरीजों की वास्तविक आवाज़ों को सुन सकते हैं जो बोलने के लिए संघर्ष कर रहे हैं।

हालाँकि, लेखक सावधानी बरतते हुए कहते हैं कि यह एक फॉर्मेटिव स्टडी (प्रारूपिक अध्ययन) है, जिसका अर्थ है कि यह विधि का परीक्षण करने के लिए एक पहला कदम है, न कि पूरी दुनिया के लिए अंतिम समाधान। उन्होंने केवल भारत के एक केंद्र में छह लोगों के साथ काम किया। वे यह दावा नहीं कर रहे हैं कि उन्होंने दुनिया भर के प्रत्येक स्ट्रोक सर्वाइवर के लिए समस्या को हल कर दिया है। इसके बजाय, वे एक प्रोटोकॉल (एक रेसिपी) और चेतावनीओं (पूर्वाग्रहों से बचने के लिए चेकलिस्ट) का एक सेट प्रदान कर रहे हैं जो संचार बाधाओं वाले लोगों के लिए एआई डिजाइन करने की कोशिश कर रहे हैं।

बड़ा सबक? भरोसेमंद एआई केवल कोड को स्मार्ट बनाने के बारे में नहीं है; यह सुनिश्चित करने के बारे में है कि जो लोग इसका उपयोग कर रहे हैं वे वास्तव में समझ सकें कि कोड क्या कह रहा है। और ऐसा करने के लिए, हमें एक बिल्कुल नए तरीके से सुनना सीखना होगा।