How does machine learning bias in prediction of behavioral phenotypes relate to individual characteristics?
यह अध्ययन कई समूहों और व्यवहार संबंधी मापों में मस्तिष्क-आधारित मॉडलों में भविष्यवाणियों की त्रुटियों का विश्लेषण करता है, जिससे यह पता चलता है कि सिर की गति, सिर की आकृति विज्ञान, और लिंग जैसे व्यक्तिगत लक्षण मशीन लर्निंग पूर्वाग्रह में महत्वपूर्ण योगदान देते हैं, विशेष रूप से विकासात्मक आबादी में सामाजिक-भावात्मक और मानसिक स्वास्थ्य फेनोटाइप के लिए।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि किसी व्यक्ति के मस्तिष्क के मानचित्र के आधार पर उसके भविष्य की भविष्यवाणी करने का प्रयास किया जा रहा है। दशकों से, वैज्ञानिक इस उम्मीद में रहे हैं कि मस्तिष्क की वायरिंग को स्कैन करके वे यह पूर्वभास कर सकेंगे कि कोई व्यक्ति कैसे सोचेगा, कैसा महसूस करेगा या कैसा व्यवहार करेगा। यह विचार 'प्रिसिजन मेडिसिन' (precision medicine) नामक एक क्षेत्र की नींव है, जहाँ डॉक्टर भविष्य में लक्षणों के प्रकट होने से पहले ही मानसिक स्वास्थ्य जोखिमों का पता लगाने के लिए ब्रेन स्कैन का उपयोग कर सकते हैं। ऐसा करने के लिए, शोधकर्ता शक्तिशाली कंप्यूटर प्रोग्रामों का उपयोग करते हैं, जिन्हें अक्सर 'मशीन लर्निंग' कहा जाता है, ताकि वे मस्तिष्क के डेटा में उन पैटternों को खोज सकें जो विशिष्ट व्यवहारों से मेल खाते हों। हालाँकि, ये कंप्यूटर प्रोग्राम पूर्ण नहीं हैं। वे कभी-कभी गलतियाँ करते हैं, और वे गलतियाँ यादृच्छिक (random) नहीं होती हैं। जिस तरह मौसम का पूर्वानुमान किसी विशिष्ट क्षेत्र के लिए स्थानीय भूगोल के कारण कम सटीक हो सकता है, उसी तरह ये मस्तिष्क-पठन कार्यक्रम कुछ लोगों के लिए दूसरों की तुलना में अधिक संघर्ष करते हैं। उदाहरण के लिए, पिछले अध्ययनों ने दिखाया है कि ये मॉडल श्वेत अमेरिकियों की तुलना में अल्पसंख्यक समूहों के लोगों के लिए कम सटीक होते हैं। बड़ा सवाल यह था: ऐसा क्यों होता है? क्या यह इसलिए है क्योंकि मस्तिष्क स्वयं अलग है, या यह उस तरीके के बारे में है जिससे डेटा एकत्र किया गया था?
शोधकर्ताओं की एक टीम ने नौ से ग्यारह वर्ष की आयु के बच्चों के हजारों ब्रेन स्कैन और व्यवहार संबंधी रिकॉर्ड्स को देखकर इस पहेली को सुलझाने का प्रयास किया। वे जानना चाहते थे कि क्या इन कंप्यूटर मॉडलों द्वारा की गई त्रुटियाँ स्कैन किए जा रहे व्यक्तियों के विशिष्ट गुणों से जुड़ी थीं। टीम ने तीन बड़े समूहों से डेटा एकत्र किया: नौ से ग bawah वर्ष की आयु के लगभग 4,300 बच्चे, पाँच से इक्कीस वर्ष की आयु के लगभग 430 बच्चे और किशोर, तथा बाईस से सैंतीस वर्ष की आयु के लगभग 780 युवा वयस्क। कुल मिलाकर, उन्होंने 100 से अधिक विभिन्न व्यवहारों का परीक्षण किया, जिसमें भावनाओं को पहचानने की क्षमता से लेकर तनाव को संभालने या समस्याओं को हल करने तक की चीजें शामिल थीं। उन्होंने केवल ब्रेन स्कैन डेटा का उपयोग करके इन व्यवहारों की भविष्यवाणी करने के लिए अपने कंप्यूटर मॉडल को प्रशिक्षित किया। एक बार जब मॉडलों ने अपनी भविष्यवाणियाँ कर लीं, तो शोधकर्ताओं ने यह गणना की कि मॉडल ने क्या अनुमान लगाया और व्यक्ति ने परीक्षण पर वास्तव में कितना स्कोर किया। यह अंतर 'प्रेडिक्शन एरर' (भविष्यवाणी त्रुटि) कहलाता है।
इसके बाद शोधकर्ताओं ने एक सरल लेकिन महत्वपूर्ण प्रश्न पूछा: क्या ये त्रुटियाँ कुछ विशेष विशेषताओं वाले लोगों के लिए अधिक बार होती हैं? उन्होंने आयु, लिंग, नस्ल, शिक्षा, पारिवारिक आय, सिर का आकार और स्कैनर के भीतर व्यक्ति द्वारा अपने सिर को हिलाने की मात्रा सहित आठ अलग-अलग कारकों की जांच की। उन्होंने पाया कि त्रुटियाँ वास्तव में इन गुणों से जुड़ी थीं, लेकिन सरल तरीके से नहीं। सबसे सुसंगत पैटर्न यह था कि मॉडल सामाजिक और भावनात्मक व्यवहारों, जैसे कि भावनाओं को पहचानना या चिंता से निपटना, की भविष्यवाणी करने में सबसे अधिक संघर्ष करते थे, विशेष रूप से छोटे समूहों में। इन कठिन-से-अनुमानित गुणों के लिए, कंप्यूटर की गलतियाँ तीन विशिष्ट चीजों से मजबूती से जुड़ी हुई थीं: स्कैन के दौरान व्यक्ति के सिर के हिलने की मात्रा, मस्तिष्क का आकार और उनका लिंग।
अध्ययन से पता चला कि जो लोग स्कैन के दौरान अधिक सिर हिलाते थे, उनमें भविष्यवाणी की त्रुटियाँ अधिक होने की प्रवृत्ति थी। यह समझ में आता है क्योंकि हलचल मस्तिष्क की छवियों को धुंधला कर सकती है, जिससे कंप्यूटर के लिए मस्तिष्क के कनेक्शनों के सूक्ष्म विवरणों को देखना कठिन हो जाता है। इसी तरह, व्यक्ति के मस्तिष्क का आकार भी मायने रखता था। मॉडल कम 'इंट्राक्रैनियल वॉल्यूम' (intracranial volume) यानी खोपड़ी के भीतर के कुल स्थान, वाले व्यक्तियों के लिए कम सटीक थे। यह विशेष रूप से बच्चों और व्यवहार संबंधी समस्याओं के मापन के लिए सत्य था। अंत में, शोधकर्ताओं ने पाया कि पुरुष प्रतिभागियों में सामान्यतः महिला प्रतिभागियों की तुलना में बड़ी भविष्यवाणी त्रुटियाँ थीं, विशेष रूप से जब मॉडल संज्ञानात्मक क्षमताओं या व्यवहार संबंधी मुद्दों का अनुमान लगाने की कोशिश कर रहे थे।
सबसे महत्वपूर्ण खोज शायद यह थी कि ये कारक एक-दूसरे से गहराई से जुड़े हुए हैं। अध्ययन ने दिखाया कि नस्ल और जातीयता न केवल आय या शिक्षा जैसे सामाजिक कारकों से जुड़ी है, बल्कि ये स्कैन-संबंधी मुद्दों से भी जुड़ी है। उदाहरण के लिए, डेटा ने दिखाया कि कुछ नस्लीय समूहों में स्कैन के दौरान सिर की अधिक हलचल या औसत मस्तिष्क का अलग आकार होने की प्रवृत्ति थी। यह सुझाव देता है कि जब एक कंप्यूटर मॉडल किसी विशिष्ट नस्लीय समूह के लिए खराब प्रदर्शन करता है, तो यह इसलिए नहीं होता कि मस्तिष्क मौलिक रूप से अलग है जिसे मॉडल समझ नहीं सकता। इसके बजाय, त्रुटि डेटा के इन भौतिक और तकनीकी अंतरों से उत्पन्न हो सकती है, जैसे कि हलचल या मस्तिष्क का आकार, जो उस समूह में अधिक सामान्य हैं।
शोधकर्ताओं ने निष्कर्ष निकाला कि मस्तिष्क-भविष्यवाणी मॉडलों में पूर्वाग्रह (bias) एक एकल समस्या नहीं है, बल्कि कई छोटे कारकों का मिश्रण है जो एक साथ काम करते हैं। उन्होंने पाया कि कंप्यूटर प्रशिक्षण के दौरान डेटा से स्पष्ट सामाजिक कारकों को हटा देना भी इस समस्या को ठीक करने के लिए पर्याप्त नहीं था। त्रुटियाँ बनी रहीं, जिससे पता चलता कि मस्तिष्क स्कैन डेटा को साफ करने और तैयार करने के मानक तरीके अभी भी इन सूक्ष्म अंतरों को संभालने के लिए पर्याप्त नहीं हैं। यह उन लोगों के लिए एक महत्वपूर्ण खोज है जो मानसिक स्वास्थ्य स्थितियों का जल्दी निदान करने के लिए ब्रेन स्कैन का उपयोग करने की आशा रखते हैं। यदि कोई उपकरण कुछ समूहों के लिए कम सटीक है, तो इससे गलत निदान या गलत जोखिम मूल्यांकन हो सकता है, खासकर उन लोगों के लिए जिन्हें मदद की सबसे अधिक आवश्यकता है। यह अध्ययन इस समस्या को हल करने का दावा नहीं करता है, लेकिन इसने स्पष्ट रूप से यह मानचित्रित कर दिया है कि समस्या कहाँ है, यह दिखाते हुए कि निष्पक्ष उपकरण बनाने के लिए, वैज्ञानिकों को सिर की हलचल, मस्तिष्क के आकार और लिंग के प्रभाव पर बारीकी से ध्यान देना चाहिए, विशेष रूप से बच्चों और युवाओं के साथ काम करते समय।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।