Can we trust AI to detect healthy multilingual English speakers among the cognitively impaired cohort in the UK? An investigation using real-world conversational speech
यह अध्ययन प्रकट करता है कि वर्तमान एआई मॉडल, हालांकि एकभाषी वक्ताओं के लिए प्रभावी हैं, बहुभाषी अंग्रेजी बोलने वालों और यूके में विशिष्ट क्षेत्रीय लहजों के प्रति महत्वपूर्ण पूर्वाग्रह प्रदर्शित करते हैं, जिससे अल्पसंख्यक समुदायों के स्वस्थ व्यक्तियों को संज्ञानात्मक रूप से अक्षम समझने का उच्च जोखिम उत्पन्न होता है और इन उपकरणों को विविध आबादी के लिए नैदानिक उपयोग हेतु अविश्वसनीय बना देता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास "AI" नामक एक बहुत ही बुद्धिमान, उच्च-तकनीकी जासूस है। इस जासूस का काम लोगों की बातें सुनना और यह पता लगाना है कि क्या उनका मस्तिष्क पूरी तरह से काम कर रहा है या क्या वे डिमेंशिया (एक ऐसी स्थिति जो याददाश्त और सोचने की क्षमता को प्रभावित करती है) के शुरुआती लक्षण दिखा रहे हैं।
लंबे समय से, यह जासूस अपने काम में उत्कृष्ट रहा है, लेकिन केवल उन लोगों को सुनने में जो अंग्रेजी को अपनी पहली भाषा के रूप में बोलते हैं, ठीक वैसे ही जैसे इस जासूस को सिखाया गया था।
बड़ा सवाल:
शोधकर्ताओं ने एक महत्वपूर्ण प्रश्न पूछा: क्या हम इस AI जासूस पर उन लोगों को सुनने के लिए भरोसा कर सकते हैं जो अंग्रेजी को दूसरी भाषा के रूप में बोलते हैं? यूके (UK) में, चार में से एक व्यक्ति जातीय अल्पसंख्यक समूह से संबंध रखता है, और उनमें से कई लोग अंग्रेजी के साथ-साथ कई अन्य भाषाएं (जैसे सोमाली, चीनी, हिंदी या उर्दू) बोलते हैं। यदि AI पक्षपाती है, तो यह एक स्वस्थ व्यक्ति पर उनके लहजे या इस आधार पर गलत तरीके से डिमेंशिया का आरोप लगा सकता है कि उन्होंने अंग्रेजी कैसे सीखी।
प्रयोग: AI के लिए एक "टेस्ट"
शोधकर्ताओं ने 1,395 लोगों को शामिल करते हुए एक विशाल "टेस्ट" तैयार किया।
- "नेटिव" समूह: वे लोग जो केवल अंग्रेजी बोलते हैं और पूरे यूके से भर्ती किए गए हैं।
- "बहुभाषी" समूह: शेफ़ील्ड और ब्रैडफोर्ड के स्वस्थ लोग जो अंग्रेजी के साथ-साथ एक अन्य भाषा (सोमाली, चीनी या दक्षिण एशियाई भाषाएं) बोलते हैं। उनमें अलग-अलग लहजे (जैसे विशिष्ट साउथ यॉर्कशायर या वेस्ट यॉर्कशायर बोलियाँ) भी थे।
नोट: क्योंकि अध्ययन के लिए इतनी संख्या में डिमेंशिया वाले लोग नहीं मिल सके जो इन अन्य भाषाओं को इतनी कुशलता से बोल सकें कि टेस्ट दिया जा सके, इसलिए उन्होंने केवल बहुभाषी समूहों के स्वस्थ लोगों का परीक्षण किया। यह इस बात का परीक्षण करने जैसा था कि क्या आग लगने पर अलार्म बजता है, भले ही वहां कोई आग न हो, सिर्फ यह देखने के लिए कि क्या अलार्म बहुत अधिक संवेदनशील है।
निष्कर्ष: जासूस की एक कमज़ोरी है
- "कान" (स्पीच रिकग्निशन) निष्पक्ष है:
सबसे पहले, उन्होंने यह जांचा कि क्या AI लोगों की बातों को सुन और लिख (ट्रांसक्राइब) सकता है। इसके लिए उन्होंने तीन अलग-अलग "कानों" (Whisper, Wav2Vec 2.0, और NeMo नामक AI सिस्टम) का उपयोग किया।
- परिणाम: कान सभी के लिए काफी अच्छे से काम कर रहे थे। उन्हें लहजों के साथ ज्यादा समस्या नहीं हुई। यह एक अच्छे माइक्रोफ़ोन की तरह था जो ब्रिटिश लहजे, सोमाली लहजे या चीनी लहजे के साथ भी स्पष्ट रूप से आवाज़ पकड़ लेता है।
- "मस्तिष्क" (निदान) पक्षपाती है:
फिर, उन्होंने AI से भाषण का विश्लेषण करने और यह अनुमान लगाने के लिए कहा कि व्यक्ति स्वस्थ है या संज्ञानात्मक समस्याओं से जूझ रहा है।
- परिणाम: यहीं से मुश्किलें शुरू हुईं। AI का "मस्तिष्क" अत्यधिक पक्षपाती था।
- रूपक: कल्पना कीजिए कि एक शिक्षक निबंधों को ग्रेड दे रहा है। यदि शिक्षक एक विशिष्ट शैली में लिखे गए निबंध पढ़ने का अभ्यस्त है, तो वह एक ऐसे छात्र को कम अंक दे सकता है जो खूबसूरती से लिखता है लेकिन एक अलग शैली का उपयोग करता है, यह सोचकर कि छात्र "भ्रमित" या "संघर्ष" कर रहा है।
- क्या हुआ: AI ने स्वस्थ बहुभाषी वक्ताओं को देखा और सोचा, "हम्म, वे अलग शब्दों का उपयोग करते हैं, अलग तरह से रुकते हैं, या उनका एक लहजा है। वे ज़रूर भ्रमित हैं! उन्हें डिमेंशिया होगा!"
- सबसे खराब अपराधी: AI विशेष रूप से साउथ यॉर्कशायर लहजे (शेफील्ड के लोग) वाले लोगों पर सख्त था। इसने अक्सर इन स्वस्थ लोगों को केवल हल्के मानसिक मुद्दों के बजाय डिमेंशिया (सबसे गंभीर चरण) के रूप में गलत तरीके से लेबल किया।
- ऐसा क्यों हुआ?
शोधकर्ताओं ने देखा कि लोग क्या कह रहे थे।
- नेटिव वक्ता: हाल की खबरों के बारे में पूछे जाने पर, वे ब्रिटिश प्रधानमंत्रियों और स्थानीय यूके के कस्बों के बारे में बात करते थे।
- बहुभाषी वक्ता: उन्हीं सवालों के जवाब में, वे स्वाभाविक रूप से अपने गृह देशों (जैसे पाकिस्तान या भारत) या लाहौर जैसे शहरों के बारे में बात करते थे।
- AI की गलती: AI यह नहीं समझ पाया कि लाहौर के बारे में बात करना किसी पाकिस्तानी व्यक्ति के लिए एक सामान्य, स्वस्थ स्मृति है। इसके बजाय, इसने इन शब्दों को "अजीब" या "स्थान से बाहर" के रूप में देखा और उन्हें संज्ञानात्मक गिरावट के प्रमाण के रूप में इस्तेमाल किया। यह एक जासूस के ऐसा सोचने जैसा है कि एक गवाह झूठ बोल रहा है क्योंकि उसने एक ऐसे शहर का जिक्र किया है जिसके बारे में जासूस ने कभी नहीं सुना।
निष्कर्ष: अभी अस्पताल के लिए तैयार नहीं
अध्ययन यह निष्कर्ष निकालता है कि हालांकि यह AI एक बेहतरीन "कान" है, लेकिन वर्तमान में यह बहुभाषी लोगों के लिए एक खराब "न्यायाधीश" है।
यदि हम आज अस्पताल में इस उपकरण का उपयोग करते हैं, तो यह बहुत घबराहट पैदा करेगा। यह स्वस्थ, बहुभाषी लोगों को यह बता देगा कि उन्हें डिमेंशिया है, जिससे अनावश्यक तनाव और चिकित्सा संसाधनों की बर्बादी होगी।
आगे क्या?
शोधकर्ता हार नहीं मान रहे हैं। वे एक नया, अधिक निष्पक्ष AI बना रहे हैं। वे योजना बना रहे हैं:
- AI को विभिन्न संस्कृतियों और लहजों के बारे में सिखाना ताकि वह समझ सके कि कुछ लोगों के लिए "लाहौर" के बारे में बात करना सामान्य है।
- उन लोगों को भर्ती करना जिन्हें वास्तव में डिमेंशिया है और जो इन भाषाओं को बोलते हैं, ताकि AI को बेहतर ढंग से प्रशिक्षित किया जा सके।
- यह सुनिश्चित करना कि AI केवल इस पर ध्यान न दे कि किन शब्दों का उपयोग किया गया है, बल्कि वक्ता के जीवन के संदर्भ (कॉन्टेक्स्ट) को भी समझे।
संक्षेप में: हमारे पास एक शक्तिशाली उपकरण है, लेकिन अभी यह एक ऐसी कार की तरह है जिसका GPS केवल लंदन में गाड़ी चलाने के लिए जानता है। यदि आप इसे शेफ़ील्ड या ब्रैडफोर्ड में अलग लहजे के साथ चलाने की कोशिश करते हैं, तो यह रास्ता भटक जाता है और सोचता है कि आप गलत दिशा में जा रहे हैं। हमें किसी को भी अस्पताल ले जाने से पहले अपना नक्शा अपडेट करने की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।