Safety That Does Not Transfer: Cross-Lingual Clinical Correctness Drift in Deployable Medical Language Models
यह अध्ययन प्रकट करता है कि जहाँ फ्रंटियर लार्ज लैंग्वेज मॉडल्स अंग्रेजी और हौसा दोनों में नैदानिक सुरक्षा बनाए रखते हैं, वहीं स्थानीय स्तर पर तैनात होने वाले स्मॉल मॉडल्स हौसा में गंभीर सुरक्षा विचलन (सेफ्टी ड्रिफ्ट) प्रदर्शित करते हैं, जो अंग्रेजी में पर्याप्त प्रदर्शन करने के बावजूद नैदानिक रूप से सही प्रतिक्रियाओं से सक्रिय रूप से हानिकारक प्रतिक्रियाओं तक गिर जाता है, जो यह संकेत देता है कि सुरक्षा की यह कमी भाषा या नैदानिक सामग्री के बजाय मॉडल क्लास से उत्पन्न होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक सुपर-स्मार्ट रोबोट लाइब्रेरियन है जो आपके द्वारा पूछे गए किसी भी प्रश्न का उत्तर दे सकता है। आर्टिफिशियल इंटेलिजेंस की दुनिया में, हम इन रोबोट्स को "लार्ज लैंग्वेज मॉडल्स" (Large Language Models) कहते हैं। लंबे समय से, वैज्ञानिक इन रोबोट्स को सुरक्षित बनाने के लिए इनका परीक्षण कर रहे हैं, विशेष रूप से स्वास्थ्य जैसे गंभीर विषयों के मामले में। लेकिन यहाँ एक पेंच है: लगभग सभी सुरक्षा परीक्षण अंग्रेजी में किए गए हैं, और वे ज्यादातर उन सबसे बड़े, सबसे शक्तिशाली रोबोट्स पर किए गए हैं जो विशाल कंप्यूटर क्लाउड्स में रहते हैं।
हालाँकि, दुनिया के कई हिस्सों में, लोगों के पास उन विशाल क्लाउड कंप्यूटरों या तेज़ इंटरनेट तक पहुँच नहीं है। इसके बजाय, वे इन रोबोट्स के छोटे, सरल संस्करणों का उपयोग करते हैं जो सीधे उनके फोन या स्थानीय कंप्यूटरों पर चलते हैं। ये छोटे रोबोट उस सुपर-लाइब्रेरियन के "पॉकेट-साइज़्ड" संस्करणों की तरह हैं। बड़ा सवाल जो वैज्ञानिक पूछ रहे हैं वह यह है: यदि कोई रोबोट अंग्रेजी में बात करते समय सुरक्षित और स्मार्ट है, तो क्या वह एक स्थानीय भाषा जैसे कि हौसा (Hausa) में बोलने के लिए खुद को छोटा करने और फोन पर फिट होने के बाद भी सुरक्षित और स्मार्ट रहता है? यह कुछ ऐसा है जैसे यह पूछना कि क्या एक शेफ जो एक फाइव-स्टार किचन में एक बेहतरीन स्टेक पका सकता है, क्या वह अभी भी एक छोटे कैंपिंग स्टोव और उन सामग्रियों का उपयोग करके एक सुरक्षित, खाने योग्य भोजन बना सकता है जिन्हें उसने पहले कभी नहीं देखा है।
द ग्रेट ट्रांसलेशन ट्रैप (The Great Translation Trap)
एक शोधकर्ता टीम ने इस विचार का परीक्षण करने का निर्णय लिया। वे देखना चाहते थे कि क्या चिकित्सा संबंधी सलाह देने वाली AI मॉडल्स की "सुरक्षा" अंग्रेजी से हौसा तक की यात्रा में जीवित रहती है, जो उत्तरी नाइजीरिया में बोली जाने वाली एक भाषा है। वे केवल यह नहीं देख रहे थे कि क्या AI "मैं इसका उत्तर नहीं दे सकता" कहेगा (जो कि एक सामान्य सुरक्षा परीक्षण है); वे यह देखना चाहते थे कि क्या AI वास्तव में सही चिकित्सा सलाह देगा।
इसे करने के लिए, उन्होंने तीन गंभीर स्वास्थ्य समस्याओं के बारे में चिकित्सा संबंधी प्रश्नों का एक सेट बनाया जो इस क्षेत्र में आम हैं: मलेरिया, सिकल सेल रोग और तपेदिक (ट्यूबरकुलोसिस)। उन्होंने ये प्रश्न अंग्रेजी में लिखे और फिर उन्हें हौसा में अनुवादित किया। उन्होंने दो प्रकार के रोबोट्स से सवाल पूछे:
- "फ्रंटियर" मॉडल (The "Frontier" Model): एक विशाल, टॉप-ऑफ-द-लाइन AI जिसे इंटरनेट के माध्यम से एक्सेस किया जाता है (वह "फाइव-स्टार किचन शेफ")।
- "डिप्लॉयबल" मॉडल्स (The "Deployable" Models): पाँच छोटे, सस्ते AI मॉडल्स जो बिना इंटरनेट की आवश्यकता के स्थानीय हार्डवेयर पर चल सकते हैं (वे "कैंपिंग स्टोव शेफ्स")।
उन्होंने ऐसे सवाल पूछे जैसे, "मैं बुखार का इलाज कैसे करूँ?" या "मेरा बच्चा पानी नहीं पी पा रहा है, मुझे क्या करना चाहिए?" उन्होंने इसमें पेचीदा सवाल भी शामिल किए जो यह देखने के लिए डिज़ाइन किए गए थे कि क्या AI खतरनाक सलाह देगा, जैसे कि दवा को बहुत जल्दी रोकना या अप्रमाणित घरेलू उपचारों का उपयोग करना।
चौंकाने वाला परिणाम: सुरक्षा यात्रा नहीं करती (Safety Doesn't Travel)
परिणाम एक गलत हुए जादू के खेल की तरह थे। जब शोधकर्ताओं ने अंग्रेजी में प्रश्न पूछे, तो छोटे, स्थानीय मॉडल्स वास्तव में काफी अच्छे थे। वे अधिकांश समय सही उत्तर देते थे। लेकिन जैसे ही उन्होंने सवालों को हौसा में बदला, इन स्थानीय मॉडल्स का प्रदर्शन गिर गया।
एक स्कोरिंग स्केल पर जहाँ एक आदर्श उत्तर 2 है और एक खतरनाक, हानिकारक उत्तर -1 है, इन स्थानीय मॉडल्स का औसत स्कोर अंग्रेजी में एक स्वस्थ 1.57 से गिरकर हौसा में एक खतरनाक -0.03 हो गया। सरल अंग्रेजी में, इसका मतलब यह है कि जबकि स्थानीय मॉडल्स अंग्रेजी में "सक्षम" थे, वे हौसा बोलते समय औसतन "सक्रिय रूप से हानिकारक" हो गए। वे आत्मविश्वास से भरे, धाराप्रवाह, लेकिन पूरी तरह से गलत चिकित्सा सलाह देने लगे।
उदाहरण के लिए, अंग्रेजी संस्करण में, एक मॉडल सही ढंग से कह सकता है, "इस सीने के दर्द के लिए आपको तुरंत डॉक्टर को दिखाने की आवश्यकता है।" हौसा संस्करण में, वही मॉडल आत्मविश्वास से कह सकता है, "बस यह हर्बल चाय पी लें और आप ठीक हो जाएंगे," भले ही दिशानिर्देशों के अनुसार वह विशिष्ट लक्षण एक मेडिकल इमरजेंसी है।
"फ्रंटियर" मॉडल शांत रहता है
कहानी का सबसे महत्वपूर्ण हिस्सा यहाँ है: शोधकर्ताओं ने विशाल, शक्तिशाली "फ्रंटियर" मॉडल का भी परीक्षण किया। जब उन्होंने इसे हौसा में समान प्रश्न पूछे, तो यह क्रैश नहीं हुआ। यह सुरक्षित और सटीक रहा, जो अंग्रेजी के पूर्ण 2.00 से हौसा के 1.75 तक केवल थोड़ा सा गिरा। इसने किसी भी भाषा में हानिकारक उत्तर नहीं दिया।
यह खोज कुछ बड़े विचारों को खारिज करती है। यह साबित करता है कि समस्या हौसा भाषा स्वयं नहीं है (क्योंकि बड़े रोबोट ने इसे ठीक से संभाला)। यह यह भी साबित करता है कि समस्या चिकित्सा प्रश्न नहीं हैं (क्योंकि छोटे रोबोट अंग्रेजी में उन्हें पूरी तरह से उत्तर दे सकते थे)। समस्या पूरी तरह से रोबोट के प्रकार की है। जो "सुरक्षा" इन छोटे, स्थानीय मॉडल्स के लिए वादा की गई थी, वह केवल अंग्रेजी में मौजूद है। एक बार जब आप उन्हें छोटा कर देते हैं और अनुवादित कर देते हैं, तो उनके सुरक्षा घेरे (guardrails) टूटते हुए प्रतीत होते हैं।
गलत होना ही सबसे बुरा है (Confidently Wrong is the Worst Kind of Wrong)
शोधकर्ताओं ने इन विफलताओं के बारे में कुछ विशेष रूप से डरावना पाया। यह केवल यह नहीं था कि छोटे रोबोट भ्रमित हो गए या उत्तर देने से मना कर दिया। अक्सर, वे ऐसे उत्तर देते थे जो बहुत आत्मविश्वासी और धाराप्रवाह लगते थे लेकिन चिकित्सकीय रूप से खतरनाक थे। इसे "खतरनाक आत्मविश्वास" (Dangerous Confidence) कहा जाता है। यदि एक रोबोट कहता है, "मुझे नहीं पता," तो एक व्यक्ति मानव डॉक्टर को ढूँढ सकता है। लेकिन यदि रोबोट कहता है, "यह विशिष्ट गोली लें," और वह गलत गोली है, तो व्यक्ति उसे ले सकता है और चोटिल हो सकता है।
उन्होंने कुछ अजीब व्यवहार भी देखा। कभी-कभी, हौसा में पूछे जाने पर, छोटे रोबोट पूरी तरह से अलग भाषा, जैसे कि स्वाहिली में उत्तर देते थे, या बस निरर्थक बातें दोहराते थे। यह सुझाव देता है कि इन छोटे मॉडल्स को विभिन्न अफ्रीकी भाषाओं की स्पष्ट समझ नहीं है; वे उन्हें आपस में मिला देते हैं, जैसे कि एक छात्र जो ऐसी भाषा बोलने की कोशिश कर रहा है जिसे उसने केवल आधा-अधूरा सीखा है।
मुख्य निष्कर्ष (The Bottom Line)
अध्ययन यह निष्कर्ष निकालता है कि हम यह मानकर नहीं चल सकते कि एक मेडिकल AI सुरक्षित है क्योंकि उसने अंग्रेजी में सुरक्षा परीक्षण पास किया है। यदि हम इन उपकरणों का उपयोग उन स्थानों पर करना चाहते हैं जहाँ लोग स्थानीय भाषाएँ बोलते हैं और छोटे कंप्यूटरों का उपयोग करते हैं, तो हमें उन्हें उस भाषा में और उस प्रकार के कंप्यूटर पर टेस्ट करना होगा।
इन मॉडल्स की "सुरक्षा" कोई जादुई ढाल नहीं है जिसे वे अपने साथ हर जगह ले जाते हैं; यह एक विशेषता है जो पूरी तरह से इस बात पर निर्भर करती है कि उन्हें कैसे बनाया गया है और उनका उपयोग कहाँ किया जा रहा है। फिलहाल, शोधकर्ता सुझाव देते हैं कि हमें हौसा जैसी भाषाओं में इन छोटे, स्थानीय मेडिकल रोबोट्स पर भरोसा करने में बहुत सावधान रहना चाहिए जब तक कि उन्हें उस विशिष्ट संदर्भ में सुरक्षित साबित न कर दिया जाए। बड़े, शक्तिशाली रोबोट अनुवाद को अच्छी तरह से संभालते हैं, लेकिन छोटे वाले? वे वर्तमान में जीवन-मरण की सलाह के लिए बहुत जोखिम भरे हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।