Asymmetry between warmth and clinical substance in multilingual consumer health AI
यह अध्ययन यह प्रकट करता है कि बहुभाषी उपभोक्ता स्वास्थ्य एआई (AI) एक महत्वपूर्ण विषमता प्रदर्शित करता है जहाँ नैदानिक सार और सुरक्षा भाषा के अनुसार काफी भिन्न होती है—जो अक्सर गैर-अंग्रेजी संदर्भों में मौन रूप से विफल हो जाती है—जबकि सभी भाषाओं में एक सुसंगत, सहानुभूतिपूर्ण स्वर बनाए रखती है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास चार अलग-अलग "डिजिटल डॉक्टर" (AI चैटबॉट्स) हैं जो स्वास्थ्य संबंधी प्रश्नों के उत्तर देने के लिए बनाए गए हैं। आप उन्हें एक ही चिकित्सा प्रश्न पूछते हैं, लेकिन आप उन्हें छह अलग-अलग भाषाओं में पूछते हैं: अंग्रेजी, फ्रेंच, रूसी, अरबी, हिब्रू और थाई।
यह अध्ययन एक बड़े गुणवत्ता नियंत्रण परीक्षण की तरह है। शोधकर्ताओं ने केवल बॉट्स से सरल प्रश्न नहीं पूछे; उन्होंने ऑनलाइन फ़ोरमों से वास्तविक, जटिल और वास्तविक दुनिया की स्वास्थ्य चिंताओं को लिया और बॉट्स को उन्हें हल करने के लिए कहा। फिर उन्होंने उन विशिष्ट भाषाओं को बोलने वाले वास्तविक डॉक्टरों को काम पर रखा ताकि वे उत्तरों का मूल्यांकन कर सकें।
यहाँ उन्हें क्या मिला, जिसे सरल भाषा में समझाया गया है:
1. "गर्म आलिंगन" बनाम "खराब मानचित्र"
सबसे आश्चर्यजनक खोज AI के बोलने के तरीके और AI द्वारा वास्तव में कही जाने वाली बात के बीच का अंतर है।
- गर्म आलिंगन (सहानुभूति): AI चैटबॉट्स किसी भी भाषा में दयालु, देखभाल करने वाले और गर्मजोशी से भरे लहजे में बात करने में बहुत अच्छे थे। यदि आपने थाई या हिब्रू में प्रश्न पूछा, तो बॉट उतना ही सहानुभूतिपूर्ण लगा जितना कि अंग्रेजी में। यह एक ऐसे रोबोट की तरह था जिसने हर भाषा में एक आदर्श, आरामदायक आलिंगन देना सीख लिया हो।
- खराब मानचित्र (नैदानिक सार): हालाँकि, वास्तविक चिकित्सा सलाह गैर-अंग्रेजी भाषाओं में अक्सर आपदा थी। जहाँ अंग्रेजी के उत्तर अस्पताल के लिए एक स्पष्ट, सटीक मानचित्र की तरह थे, वहीं थाई, हिब्रू और अरबी में दिए गए उत्तर अक्सर गायब सड़कों, गलत मोड़ों या बंद रास्तों वाले मानचित्रों की तरह थे।
उपमा: कल्पना कीजिए कि एक टूर गाइड है जो उत्तम अंग्रेजी बोलता है और आपको शहर का विस्तृत, सटीक मानचित्र देता है। अब उसी गाइड की कल्पना करें जो उस भाषा में मानचित्र देने की कोशिश कर रहा है जिसे वह मुश्किल से जानता है। वह अभी भी मुस्कुरा सकता है, आपका हाथ थाम सकता है और कह सकता है, "चिंता न करें, मैं आपके साथ हूँ!" (गर्म आलिंगन), लेकिन उसके द्वारा दिया गया मानचित्र आपको संग्रहालय के बजाय नदी में ले जा सकता है (खराब मानचित्र)।
2. भाषा ब्रांड से अधिक महत्वपूर्ण है
आप सोच सकते हैं, "शायद 'गूगल' वाला बॉट 'ओपनएआई' वाले बॉट से बेहतर है।" अध्ययन में पाया गया कि इससे कोई फर्क नहीं पड़ता कि आप किस बॉट का उपयोग कर रहे हैं।
सबसे बड़ा कारक जो यह निर्धारित करता था कि सलाह सुरक्षित थी या खतरनाक, वह भाषा थी जिसे आप बोल रहे थे, न कि वह कंपनी जिसने बॉट बनाया था।
- यदि आप अंग्रेजी बोल रहे थे, तो सलाह आम तौर पर सुरक्षित और सटीक थी।
- यदि आप थाई, हिब्रू या अरबी बोल रहे थे, तो सलाह काफी खराब थी, चाहे आप ChatGPT, Claude, Gemini या DeepSeek में से किसी से भी बात कर रहे हों।
यह एक रेस्टोरेंट चेन में भोजन ऑर्डर करने जैसा है। चाहे आप "बिग बर्गर" या "सुपर बर्गर" में जाएँ, यदि आप ऐसी भाषा में ऑर्डर करते हैं जिसे रसोई अच्छी तरह से नहीं समझती है, तो आपको बर्गर के बजाय सलाद मिल सकता है। ब्रांड आपको नहीं बचा सकता; भाषा की बाधा ही असली समस्या है।
3. "मौन" खतरा
अध्ययन में पाया गया कि AI आमतौर पर बड़ी, स्पष्ट गलतियाँ (जैसे "यह जहर लें") नहीं करता था। इसके बजाय, यह मौन विलोपन (Silent Omissions) करता था।
- स्ट्रोक का उदाहरण: यदि कोई रोगी स्ट्रोक के लक्षणों का वर्णन करता है, तो अंग्रेजी में AI कह सकता है, "तुरंत ER (आपातकालीन कक्ष) जाएँ; उपचार के लिए 4.5 घंटे की खिड़की उपलब्ध है।" अन्य भाषाओं में, AI कहेगा, "ER जाएँ," लेकिन वह बताना भूल जाएगा कि समय की सीमा क्या है। उसने गलत बात नहीं कही; उसने बस सबसे महत्वपूर्ण जानकारी को छोड़ दिया।
- कार्बन मोनोऑक्साइड का उदाहरण: यदि एक पति कहता है कि उसके परिवार को अस्वस्थ महसूस हो रहा है और वह इसे "काम के तनाव" को जिम्मेदार मानता है, तो अंग्रेजी में AI कह सकता है, "कार्बन मोनोऑक्साइड की जाँच करें; यदि घर में सभी बीमार हैं, तो यह तनाव नहीं है।" अन्य भाषाओं में, AI उस पति से सहमत हो जाएगा कि यह केवल तनाव है, जिससे वह सुराग छूट गया जो जीवन बचा सकता था।
उपमा: यह एक ऐसे डॉक्टर की तरह है जो आपको दवा लेने के लिए तो कहता है लेकिन यह बताना भूल जाता है कि इसे कब लेना है। सलाह "गलत" नहीं है जिसे आप आसानी से चुनौती दे सकें, लेकिन यह बेकार और खतरनाक है क्योंकि सबसे महत्वपूर्ण हिस्सा गायब है।
4. "सुरक्षित" आपातकालीन नंबर
जब लोगों ने गैर-अंग्रेजी भाषाओं में आपात स्थिति के बारे में पूछा, तो बॉट्स अक्सर सही स्थानीय आपातकालीन नंबर देने में विफल रहे।
- अंग्रेजी में, वे जानते थे कि (अमेरिका के संदर्भ में) "911" या स्थानीय नंबर क्या कहना है।
- अन्य भाषाओं में, वे अक्सर केवल "आपातकालीन सेवाओं को कॉल करें" कहते थे बिना कोई नंबर दिए, या एक सामान्य नंबर देते थे जो उस विशिष्ट देश में काम नहीं करता था। वे "सुरक्षित" थे (उन्होंने थाईलैंड में रहने वाले व्यक्ति को 911 जैसा गलत नंबर नहीं दिया), लेकिन वे अनुपयोगी थे।
5. ऐसा क्यों होता है?
शोधकर्ताओं ने पाया कि समस्या तब और बढ़ जाती है जब भाषा कंप्यूटर द्वारा शब्दों को समझने (टोकेनाइजेशन) और इंटरनेट पर उस भाषा के डेटा की उपलब्धता के मामले में अंग्रेजी से दूर होती है।
- थाई या हिब्रू जैसी भाषाएँ, जो अंग्रेजी की तुलना में संरचनात्मक रूप से बहुत भिन्न हैं और जिनके पास डिजिटल डेटा कम है, उन्हें सबसे अधिक नुकसान हुआ।
- AI मॉडल मुख्य रूप से अंग्रेजी डेटा पर प्रशिक्षित किए गए लगते हैं, इसलिए जब वे अन्य भाषाओं में बोलने की कोशिश करते हैं, तो वे वास्तव में बहुत आत्मविश्वासी और दयालु दिखते हुए भी चिकित्सा तथ्यों का केवल "अनुमान" लगा रहे होते हैं।
निष्कर्ष
पेपर यह निष्कर्ष निकालता है कि वर्तमान AI स्वास्थ्य उपकरण पूरी दुनिया के लिए तैयार नहीं हैं। वे किसी भी भाषा में एक देखभाल करने वाले मित्र की तरह दिखने में उत्कृष्ट हैं, लेकिन अंग्रेजी के अलावा अन्य भाषाओं में वे अक्सर एक सुरक्षित चिकित्सा सलाहकार होने में विफल रहते हैं।
खतरा यह है कि एक मरीज AI के गर्म लहजे से इतना सहज महसूस कर सकता है कि वह उसके भीतर छिपी खराब सलाह पर भरोसा कर ले। अध्ययन चेतावनी देता है कि हम यह मानकर नहीं चल सकते कि कोई AI सुरक्षित है सिर्फ इसलिए क्योंकि वह आपकी भाषा धाराप्रवाह बोलता है; उत्तर का "सार" (Substance) अंग्रेजी बोलने वाली दुनिया से बाहर निकलते ही टूट जाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।