"Where is this coming from?" Uncovering Trustworthiness Ideals in AI-powered Peripartum Information Seeking
प्रसूति देखभाल से जुड़े लोगों, चिकित्सकों और स्वास्थ्य कर्मियों के साथ फोकस समूहों के माध्यम से, यह शोध पत्र तर्क देता है कि उच्च-जोखिम वाली प्रसूति देखभाल में, एआई (AI) प्रणालियों को ऐतिहासिक असमानताओं और गलत सूचनाओं को दूर करने के लिए पारदर्शिता, उपचार (recourse) और पारिस्थितिकी तंत्र-जागरूक एकीकरण को शामिल करते हुए, घोषित अधिकार के बजाय निरीक्षण योग्य विश्वसनीयता को प्राथमिकता देनी चाहिए।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप गर्भवती हैं या अभी-अभी एक बच्चे को जन्म दिया है। आपके मन में एक सवाल है: "क्या कॉफी पीना सुरक्षित है?" या "मेरी पीठ में दर्द क्यों हो रहा है?" अतीत में, शायद आप अपने डॉक्टर को फोन करते। लेकिन आज, बहुत से लोग त्वरित उत्तरों के लिए इंटरनेट, सोशल मीडिया या AI चैटबॉट्स की ओर मुड़ते हैं।
यह शोध पत्र एक समूह के जासूसों (शोधकर्ताओं) की तरह है जिन्होंने तीन अलग-अलग समूहों से—होने वाले माता-पिता, डॉक्टरों, और सहायता कर्मियों (जैसे डौला)—पूछा कि जब वे ऑनलाइन स्वास्थ्य संबंधी उत्तर खोज रहे होते हैं, तो उन्हें वास्तव में क्या चाहिए होता है। वे जानना चाहते थे: यदि हम इन सवालों के जवाब देने के लिए एक सुपर-स्मार्ट AI बनाते हैं, तो हम यह कैसे सुनिश्चित करें कि लोग वास्तव में इस पर भरोसा करें?
यहाँ उनके द्वारा की गई खोजों की कहानी सरल रूप में दी गई है।
बड़ी समस्या: विश्वास केवल "सही" होने के बारे में नहीं है
शोधकर्ताओं ने पाया कि माता-पिता के लिए, केवल "सही" चिकित्सा तथ्य प्राप्त करना पर्याप्त नहीं है। यह एक GPS की तरह है जो आपको सबसे तेज़ रास्ता तो बताता है, लेकिन इस बात को नज़रअंदाज़ कर देता है कि सड़क किसी विरोध प्रदर्शन के कारण बंद है, या आप एक ऐसे ट्रक को चला रहे हैं जो पुल के नीचे से नहीं निकल सकता।
गर्भावस्था और प्रसव की दुनिया में, इतिहास मायने रखता है। क्योंकि अतीत में हुए अनुचित व्यवहार (विशेष रूप से अश्वेत और ब्राउन समुदायों के प्रति) के कारण, कई लोग अस्पतालों या डॉक्टरों पर स्वतः ही भरोसा नहीं करते हैं। वे महसूस कर सकते हैं कि उन्हें जल्दबाजी में निपटाया गया, उनकी बात अनसुनी की गई, या उनके साथ अलग व्यवहार किया गया। इसलिए, जब वे AI से कोई सवाल पूछते हैं, तो वे केवल डेटा नहीं मांग रहे होते; वे आश्वासन और सुरक्षा मांग रहे होते हैं।
एक भरोसेमंद AI के लिए चार नियम
शोधकर्ताओं ने पाया कि किसी भी AI टूल को इस संवेदनशील क्षेत्र में भरोसेमंद होने के लिए चार मुख्य "नियमों" (विषयों) का पालन करने की आवश्यकता है। इन्हें एक अच्छे नुस्खे (रेसिपी) के अवयवों के रूप में समझें:
1. "यह सिर्फ आप नहीं हैं" वाला नियम (सामाजिक बोध - Social Sensemaking)
रूपक: कल्पना कीजिए कि आप एक जंगल में खो गए हैं। एक मानचित्र (AI) आपको दिशा बताता है। लेकिन आपको वास्तव में एक दोस्त की ज़रूरत है जो कहे, "मैं भी यहाँ खो गया था, और मुझे एक रास्ता मिल गया। तुम ठीक हो।"
निष्कर्ष: लोग केवल तथ्य नहीं चाहते; वे यह भी जानना चाहते हैं कि क्या उनके जैसे अन्य लोगों ने भी ऐसे अनुभव किए हैं। वे अपने साथियों की कहानियाँ सुनना चाहते हैं।
समाधान: AI को केवल एक टेक्स्टबुक उत्तर देने वाला रोबोट नहीं होना चाहिए। इसे भावनाओं को स्वीकार करना चाहिए, चिंताओं को सामान्य बनाना चाहिए, और शायद अन्य माता-पिता की कहानियाँ भी दिखानी चाहिए (यदि वे सुरक्षित और सत्यापित हैं) ताकि उपयोगकर्ता अकेला महसूस न करे।
2. "जांचने के कई तरीके" वाला नियम (सत्यापन बहुलवाद - Verification Pluralism)
रूपक: कल्पना कीजिए कि आप एक पुरानी कार खरीद रहे हैं। एक व्यक्ति इंजन की जांच करता है, दूसरा टायरों की, और तीसरा एक मैकेनिक से पूछता है। यह जानने का केवल एक तरीका नहीं है कि कार अच्छी है या नहीं।
निष्कर्ष: हर कोई एक ही चीज़ों पर भरोसा नहीं करता। कुछ लोग अपने डॉक्टर पर 100% भरोसा करते हैं। अन्य सोचते हैं कि डॉक्टर बहुत धीमे या पुराने विचारों वाले हैं। कुछ सामुदायिक समूहों पर भरोसा करते हैं।
समाधान: AI को एक तरीका थोपना नहीं चाहिए। इसे विभिन्न उपकरण प्रदान करने चाहिए: "यहाँ डॉक्टर क्या कहते हैं," "यहाँ शोध क्या कहता है," और "यहाँ एक चेकलिस्ट है जिसका उपयोग आप अपने डॉक्टर से बेहतर सवाल पूछने के लिए कर सकते हैं।" यह उपयोगकर्ता को यह चुनने देता है कि वे जानकारी को कैसे सत्यापित करना चाहते हैं।
3. "अपना काम दिखाएं" वाला नियम (निरीक्षण योग्य शासन - Inspectable Governance)
रूपक: कल्पना कीजिए कि एक जादूगर टोपी से खरगोश निकालता है। यदि आप पूछते हैं, "खरगोश कहाँ से आया?" और जादूगर कहता है, "मुझ पर विश्वास करो, यह जादू है," तो आप उस पर विश्वास नहीं करेंगे। लेकिन यदि वह टोपी खोलकर आपको गुप्त हिस्सा दिखा दे, तो आप उस करतब पर विश्वास करेंगे।
निष्कर्ष: लोग AI के प्रति संदिग्ध होते हैं। वे पूछते हैं: "इसे किसने लिखा? इसे कब लिखा गया था? अगर यह गलत हुआ तो क्या होगा? अगर इससे मुझे नुकसान हुआ तो मैं किसे कॉल करूँ?"
समाधान: AI को पारदर्शी होना चाहिए। इसे अपना "आईडी कार्ड" (स्रोत), अपना "एक्सपायरी डेट" (कब अंतिम बार अपडेट किया गया था), और यदि कोई गलती हो जाए तो क्या करें, इसका स्पष्ट मार्ग दिखाना चाहिए। यह केवल यह नहीं कह सकता कि "मैं भरोसेमंद हूँ"; इसे इसे सिद्ध करना होगा।
4. "बोझ न बढ़ाएं" वाला नियम (पारिस्थितिकी तंत्र पूरकता - Ecosystem Complementarity)
रूपक: कल्पना कीजिए कि आप पहले से ही किराने का सामान, बच्चों और काम के कागजात से भरा एक भारी बैग लेकर चल रहे हैं। यदि कोई आपको एक नया भारी डिब्बा थमा दे और कहे, "लो, इसे भी उठा लो," तो आप सब कुछ गिरा देंगे। लेकिन यदि वे आपके सामान को व्यवस्थित करने में आपकी मदद करें ताकि बैग हल्का हो जाए, तो आप उनसे प्यार करेंगे।
निष्कर्ष: डॉक्टर और माता-पिता पहले से ही अत्यधिक काम के बोझ तले दबे हुए हैं। वे एक ऐसा नया उपकरण नहीं चाहते जो और अधिक काम पैदा करे या सिस्टम को भ्रमित करे।
समाधान: AI को डॉक्टर की जगह लेने की कोशिश नहीं करनी चाहिए। इसे एक सहायक की तरह काम करना चाहिए जो आपके सवालों को व्यवस्थित करे ताकि आप डॉक्टर से अधिक कुशलता से बात कर सकें। इसे पता होना चाहिए कि कब कहना है, "मुझे नहीं पता, कृपया अपने डॉक्टर से पूछें," और यह सुनिश्चित करना चाहिए कि आप सुरक्षित रूप से वहां तक पहुँच सकें।
मुख्य निष्कर्ष
यह शोध पत्र निष्कर्ष निकालता है कि विश्वास का दावा नहीं किया जा सकता; इसे दिखाया जाना चाहिए।
यदि हम गर्भावस्था के लिए ऐसा AI बनाते हैं जो केवल "स्मार्ट" है लेकिन इतिहास को नहीं समझता, अपने स्रोत नहीं दिखाता, और माता-पिता एवं डॉक्टरों के वास्तविक जीवन में फिट नहीं बैठता, तो यह विफल हो जाएगा। शोधकर्ता सुझाव देते हैं कि AI के वास्तव में सहायक होने के लिए, इसे पारदर्शी, लचीला और मानव-केंद्रित होना चाहिए, यह स्वीकार करते हुए कि कई लोगों के लिए, स्वास्थ्य की यात्रा इतिहास और भावनाओं की यात्रा भी है।
संक्षेप में: केवल तथ्यों को जानने वाला रोबोट न बनाएं। एक ऐसा उपकरण बनाएं जो उन लोगों को समझता हो जो सवाल पूछ रहे हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।