Language Models Reproduce Human Reductionist Bias and Decision Inconsistency in Neurodevelopmental Disorders Assessment
यह अध्ययन प्रकट करता है कि जहाँ लार्ज लैंग्वेज मॉडल्स मानव विशेषज्ञों की तुलना में उच्च बौद्धिक विनम्रता प्रदर्शित करते हैं, वहीं वे सामाजिक आवश्यकताओं के ऊपर जैविक उत्तरजीविता को प्राथमिकता देकर न्यूरोडेवलपमेंटल विकारों के आकलन में मानवीय निर्णय संबंधी विसंगतियों और एक न्यूनीकरणवादी पूर्वाग्रह (रिडक्शनिस्ट बायस) को भी पुनरुत्पादित करते हैं, जो उन वैचारिक ढांचों के आलोचनात्मक मूल्यांकन की आवश्यकता को रेखांकित करता है जिन्हें एआई उच्च-जोखिम वाले मानसिक स्वास्थ्य निर्णयों में संचालित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मानसिक स्वास्थ्य देखभाल की जटिल दुनिया में, डॉक्टर और मनोवैज्ञानिक अक्सर एक कठिन कार्य का सामना करते हैं: यह तय करना कि क्या किसी व्यक्ति की स्थिति सरकारी सहायता प्राप्त करने के लिए पर्याप्त गंभीर है। यह केवल किसी बीमारी का निदान करने के बारे में नहीं है; यह इस बारे में है कि एक व्यक्ति अपने जीवन को कितनी कुशलता से प्रबंधित कर सकता है। कई स्थानों पर, यह निर्णय यह निर्धारित करता है कि क्या किसी परिवार को देखभाल के लिए धन, विशेष आवास, या घर पर मदद के लिए माता-पिता के रहने का अधिकार प्राप्त होगा। यह निर्णय एक विशिष्ट प्रश्न पर टिका है: क्या यह व्यक्ति स्वतंत्र रूप से रह सकता है, या उसे अपनी बुनियादी जरूरतों के लिए निरंतर सहायता की आवश्यकता है? ऑटिज्म या अटेंशन डेफिसिट हाइपरएक्टिविटी डिसऑर्डर (ADHD) जैसी न्यूरोडेवलपमेंटल स्थितियों वाले लोगों के लिए, उत्तर शायद ही कभी सरल होता है। उनकी संघर्षों को डॉक्टर के कार्यालय में अदृश्य देखा जा सकता है, लेकिन वास्तविक दुनिया में वे अत्यधिक कष्टकारी हो सकते हैं। चूंकि इन निर्णयों का बहुत अधिक महत्व है, इसलिए एक बढ़ती हुई आशा है कि आर्टिफिशियल इंटेलिजेंस (AI) उन्हें अधिक निष्पक्ष और सुसंगत बनाने में मदद कर सकता है। लार्ज लैंग्वेज मॉडल्स (LLMs), जो शक्तिशाली कंप्यूटर प्रोग्राम हैं जो लिख और तर्क कर सकते हैं, इस बात के परीक्षण किए जा रहे हैं कि क्या वे निष्पक्ष न्यायाधीश के रूप में कार्य कर सकते हैं। लेकिन इससे पहले कि हम उन्हें इतने उच्च-दांव वाले विकल्पों के लिए विश्वास करें, हमें यह समझना होगा कि वे दुनिया को कैसे देखते हैं। क्या वे मानवीय जरूरतों की व्याख्या उसी तरह करते हैं जैसे मनुष्य करते हैं, या वे जीवन के उन सूक्ष्म, सामाजिक हिस्सों को छोड़ देते हैं जो स्वतंत्रता को संभव बनाते हैं?
पोलैंड की शोधकर्ताओं की एक टीम ने दोनों मानव विशेषज्ञों और आर्टिफिशियल इंटेलिजेंस को कठोर परीक्षणों की एक श्रृंखला के माध्यम से परखकर इसे जांचने का निर्णय लिया। उन्होंने तीस-पाँच मानव पेशेवरों को एकत्र किया, जिनमें अठारह चिकित्सक और सत्रह मनोवैज्ञानिकों का मिश्रण था, जो नियमित रूप से विकलांगता मूल्यांकन बोर्डों पर काम करते हैं। ये वे समितियां हैं जो तय करती हैं कि किसे सहायता मिलेगी। उनकी निष्पक्ष तुलना करने के लिए, शोधकर्ताओं ने अग्रणी प्रौद्योगिकी कंपनियों से सात अलग-अलग लार्ज लैंग्वेज मॉडल्स का भी चयन किया। लक्ष्य यह देखना था कि क्या मशीनें वही गलतियाँ करेंगी जो मनुष्य करते हैं, या क्या वे एक नए प्रकार का पूर्वाग्रह लेकर आएंगी। शोधकर्ताओं ने एक अध्ययन डिजाइन किया जिसने तीन विशिष्ट चीजों को देखा: क्या निर्णय लेने वाले सूचना के क्रम या एक भ्रामक फोटो द्वारा छली जा सकते थे, वे अपने ज्ञान के बारे में कितने विनम्र थे, और सबसे महत्वपूर्ण रूप से, उन्होंने "बुनियादी जीवन संबंधी आवश्यकताओं" वाक्यांश को कैसे परिभाषित किया।
प्रयोग काल्पनिक केस स्टडीज की एक श्रृंखला के साथ शुरू हुआ। मानव विशेषज्ञों और कंप्यूटर मॉडल्स को विभिन्न स्थितियों वाले लोगों के विवरण पढ़ने के लिए कहा गया और फिर दो प्रश्न पूछे गए। पहला, उन्हें यह रेट करना था कि व्यक्ति कितनी अच्छी तरह कार्य कर रहा है। दूसरा, उन्हें यह तय करना था कि क्या उस व्यक्ति को स्वतंत्र रूप से रहने के लिए निरंतर देखभाल या सहायता की आवश्यकता है। निर्णय लेने वालों को अप्रासंगिक विवरणों से विचलित करने के लिए, शोधकर्ताओं ने कुछ चालें चलीं। कुछ मामलों में, उन्होंने कहानी के बिल्कुल शुरुआत में व्यक्ति के संघर्षों के बारे में नकारात्मक जानकारी रखी, इस उम्मीद में कि पाठक उन बुरे पहले अनुभवों पर अटक जाएगा। अन्य मामलों में, उन्होंने एक ऐसे व्यक्ति की फोटो जोड़ी जो उदास या संकट में दिख रहा था, जो एक ऐसी कहानी के साथ थी जो एक तटस्थ फोटो वाली कहानी के समान ही थी। वे यह देखना चाहते थे कि क्या एक उदास चेहरा देखने से विशेषज्ञ अधिक सहायता प्रदान करेंगे, भले ही टेक्स्ट में कहा गया हो कि व्यक्ति ठीक है।
इन चालों के परिणाम दोनों समूहों में आश्चर्यजनक रूप से सुसंगत थे। न तो मानव विशेषज्ञों और न ही आर्टिफिशियल इंटेलिजेंस मॉडल्स ने टेक्स्ट के क्रम या फोटो की भावना के आधार पर अपने निर्णयों में कोई महत्वपूर्ण बदलाव दिखाया। दोनों समूह इन विकर्षणों से परे देखने और मामले के मुख्य तथ्यों पर ध्यान केंद्रित करने में सक्षम दिखे। यह एक राहत की बात थी, जिससे पता चला कि मॉडल उन्हीं दृश्य या पाठ्य संकेतों से आसानी से नहीं बहते जो एक इंसान को भ्रमित कर सकते हैं। हालांकि, जब शोधकर्ताओं ने वास्तव में गहराई से देखा, तो एक अलग तरह की समस्या सामने आई। उन्होंने पाया कि न तो मनुष्य और न ही मशीनें अपने तर्क में बहुत सुसंगत थीं। एक व्यक्ति को "महत्वपूर्ण रूप से बाधित" स्तर के कामकाज के रूप में रेट किया जा सकता है, फिर भी उसी व्यक्ति को आवश्यक सहायता नहीं मिल सकती है। इसके विपरीत, "औसत" कामकाज वाले किसी व्यक्ति को भी मदद मिल सकती है। व्यक्ति कितनी अच्छी तरह कार्य कर रहा है, इसकी रेटिंग ने भरोसेमंद तरीके से यह भविष्यवाणी नहीं की कि उन्हें सहायता मिलेगी या नहीं। यह विसंगति मानव डॉक्टरों और कंप्यूटर मॉडल्स दोनों में मौजूद थी, जो यह सुझाव देती है कि समस्या का वर्णन करने और समाधान प्रदान करने के बीच का कदम एक जटिल, मानवीय प्रक्रिया है जिसे मशीनों ने भी विरासत में प्राप्त किया है।
शायद अध्ययन का सबसे खुलासा करने वाला हिस्सा तब आया जब शोधकर्ताओं ने प्रतिभागियों से उनके सोचने की प्रक्रिया को समझाने के लिए कहा। उन्होंने मनुष्यों और मशीनों से पूछा कि "बुनियादी जीवन संबंधी आवश्यकताओं" का वास्तव में क्या अर्थ है। यहाँ, एक स्पष्ट विभाजन दिखाई दिया। मानव मनोवैज्ञानिकों का दृष्टिकोण व्यापक था। उन्होंने भावनात्मक कल्याण, संचार करने की क्षमता और सामाजिक जुड़ाव को एक बुनियादी जीवन के आवश्यक हिस्सों के रूप में शामिल किया। यदि कोई व्यक्ति दूसरों से बात नहीं कर सकता या सामाजिक संकेतों को नहीं समझ सकता, तो मनोवैज्ञानिकों ने इसे बुनियादी आवश्यकता की विफलता के रूप में देखा। हालांकि, मानव चिकित्सकों ने एक संकीर्ण दृष्टिकोण अपनाया। उन्होंने पूरी तरह से शारीरिक अस्तित्व पर ध्यान केंद्रित किया: खाने, कपड़े पहनने, चलने और शौचालय का उपयोग करने की क्षमता। आर्टिफिशियल इंटेलिजेंस मॉडल्स ने, आश्चर्यजनक रूप से, चिकित्सकों का पक्ष लिया। उन्होंने बुनियादी जरूरतों को लगभग विशेष रूप से जैविक उत्तरजीविता और आत्म-देखभाल के संदर्भ में परिभाषित किया। उन्होंने संचार या सामाजिक संपर्क का उल्लेख शायद ही कभी किया, जब तक कि वह सीधे शारीरिक सुरक्षा से जुड़ा न हो।
परिभाषा में इस अंतर का अंतिम निर्णयों पर सीधा प्रभाव पड़ा। क्योंकि मनोवैज्ञानिकों ने "बुनियादी आवश्यकताओं" की परिभाषा में सामाजिक और संचार संबंधी संघर्षों को शामिल किया था, इसलिए वे काल्पनिक रोगियों को सहायता प्रदान करने के लिए बहुत अधिक इच्छुक थे। चिकित्सक और आर्टिफिशियल इंटेलिजेंस मॉडल्स, एक सख्त जैविक चेकलिस्ट का पालन करते हुए, सहायता कम ही प्रदान कर रहे थे। भले ही मॉडल्स ने दावा किया कि वे अपने ज्ञान के बारे में बहुत विनम्र थे—उन्होंने बौद्धिक विनम्रता के परीक्षण में मानव डॉक्टरों की तुलना में उच्च स्कोर किया—लेकिन इस विनम्रता ने उन्हें अधिक सुसंगत या मानव विशेषज्ञों के अनुरूप नहीं बनाया। वास्तव में, मॉडल्स के उच्च विनम्रता स्कोर सतह पर दिखने वाले लक्षण थे, जो एक ऐसी बोलने की शैली थी जो मानवीय जटिलता की गहरी समझ में अनुवादित नहीं हुई। मशीनें यह कहने के लिए तैयार थीं कि वे गलत हो सकती हैं, लेकिन फिर भी वे एक संकीर्ण, चिकित्सा ढांचे पर काम कर रही थीं जो लोगों की सामाजिक वास्तविकता को समझने में विफल रहा।
अध्ययन निष्कर्ष निकालता है कि हालांकि आर्टिफिशियल इंटेलिजेंस एक उदास फोटो या भ्रमित करने वाले वाक्य के क्रम जैसे सरल धोखों को अनदेखा करने में अच्छा हो सकता है, लेकिन यह अभी भी इन संवेदनशील क्षेत्रों में मानवीय निर्णय का स्थान लेने के लिए तैयार नहीं है। मॉडल्स मानव जीवन का एक संकुचित दृष्टिकोण प्रस्तुत कर रहे हैं, जो सामाजिक और संचार संबंधी जुड़ाव के बजाय शारीरिक स्वतंत्रता को महत्व देता है। केवल शरीर की कार्यक्षमता पर ध्यान केंद्रित करके, मशीनें उन लोगों को सहायता देने से इनकार करने का जोखिम उठाती हैं जिनका सबसे बड़ा संघर्ष परस्पर क्रिया और समझ के क्षेत्र में है। शोधकर्ता सुझाव देते हैं कि आर्टिफिशियल इंटेलिजेंस को मानसिक स्वास्थ्य और विकलांगता मूल्यांकन में वास्तव में उपयोगी होने के लिए, इसे केवल एक जैविक मशीन के बजाय पूरे व्यक्ति को देखना सिखाया जाना चाहिए। जब तक तकनीक मानवीय जीवन के पूर्ण भार को समझने में सक्षम नहीं होती, तब तक इन निर्णयों के लिए इस पर भरोसा करना केवल उन्हीं संकीर्ण दृष्टिकोणों को मजबूत कर सकता है जिन्होंने लंबे समय से मानव विशेषज्ञों के कार्य को जटिल बनाया है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।