Pediatric Autism Diagnosis Accuracy and Confidence: A Comparison of Experienced and Inexperienced Clinicians Making Decisions with and without AI Decision Support
यह अध्ययन बाल चिकित्सा ऑटिज्म निदान के लिए एक एआई-आधारित निर्णय सहायता उपकरण का मूल्यांकन करता है, जिसमें यह पाया गया है कि हालांकि प्रणाली उपयोग योग्य है और आत्मविश्वास को बढ़ाती है, लेकिन यह अनुभवहीन चिकित्सकों के लिए सटीकता में केवल तभी महत्वपूर्ण सुधार करती है जब एआई सही होता है, जो अति-निर्भरता और ऑटोमेशन बायस (स्वचालन पूर्वाग्रह) को रोकने के लिए एआई साक्षरता प्रशिक्षण की महत्वपूर्ण आवश्यकता को रेखांकित करता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक डॉक्टर हैं जो यह पता लगाने की कोशिश कर रहे हैं कि क्या किसी बच्चे को ऑटिज्म स्पेक्ट्रम डिसऑर्डर (ASD) है। यह एक जटिल पहेली को सुलझाने जैसा है जहाँ पहेली के टुकड़े अलग-अलग नोट्स, ईमेल और माता-पिता के अनुभवों में बिखरे हुए हैं। कभी-कभी तस्वीर स्पष्ट होती है; अन्य समय में, यह धुंधली होती है और अनुभवी डॉक्टर भी एक टुकड़ा मिस कर सकते हैं।
इसकी मदद के लिए, शोधकर्ताओं ने ADIS (ऑटिज्म डायग्नोस्टिक आइडेंटिफिकेशन सॉफ्टवेयर) नामक एक डिजिटल सहायक बनाया है। ADIS को एक हाई-टेक हाइलाइटर पेन की तरह समझें जो बच्चे के मेडिकल इतिहास को पढ़ता है और ऑटिज्म से मेल खाने वाले विशिष्ट व्यवहारों को रेखांकित करता है। यह अंतिम निर्णय नहीं लेता; यह केवल सुराग दिखाता है और कहता है, "हे, यहाँ देखो, यह महत्वपूर्ण हो सकता है।"
शोधकर्ता यह देखना चाहते थे कि यह टूल दो अलग-अलग समूहों के लोगों द्वारा उपयोग किए जाने पर कैसा काम करता है:
- द वेटरन्स (अनुभवी): वे डॉक्टर जिन्होंने अपना पूरा मेडिकल प्रशिक्षण पूरा कर लिया है।
- द ट्रेनीज़ (प्रशिक्षु): मेडिकल छात्र या रेजिडेंट्स जो अभी भी सीख रहे हैं।
उन्होंने एक परीक्षण सेटअप किया जहाँ इन डॉक्टरों ने चार वास्तविक जीवन के मामलों की समीक्षा की। दो मामलों के लिए, हाइलाइटर पेन (ADADIS) चालू था। अन्य दो मामलों के लिए, उन्हें इसे अकेले करना था। महत्वपूर्ण बात यह है कि शोधकर्ताओं ने ADIS को गुप्त रूप से कुछ मामलों में सही होने और कुछ मामलों में गलत होने के लिए प्रोग्राम किया था, ताकि यह देखा जा सके कि डॉक्टर इस पर कैसी प्रतिक्रिया देते हैं।
यहाँ उन्हें क्या मिला, जिसे सरल शब्दों में समझाया गया है:
1. "कॉन्फिडेंस ट्रैप" (आत्मविश्वास का जाल)
जब हाइलाइटर पेन चालू था, तो डॉक्टर अपने उत्तरों के प्रति अधिक आश्वस्त महसूस कर रहे थे। यह एक कार में जीपीएस होने जैसा है; भले ही आप रास्ता जानते हों, लेकिन जब जीपीएस बोल रहा होता है, तो आप खुद पर अधिक विश्वास महसूस करते हैं।
- पकड़: यह आत्मविश्वास वास्तविकता से मेल नहीं खाता था। डॉक्टरों को उतना ही यकीन था जब जीपीएस उन्हें गलत मोड़ दे रहा था जितना कि जब वह सही था। उन्हें एहसास ही नहीं हुआ कि टूल गलती कर रहा था।
2. प्रशिक्षु बनाम अनुभवी (Trainees vs. The Veterans)
परिणामों ने दोनों समूहों के बीच एक दिलचस्प अंतर दिखाया:
- प्रशिक्षु (अनुभवहीन): वे उन यात्रियों की तरह थे जो अंधे होकर जीपीएस पर भरोसा करते हैं। जब ADIS सही था, तो उन्होंने बहुत अच्छा काम किया। लेकिन जब ADD IS गलत था, तो उन्होंने बिना सोचे-समझे उसका अनुसरण किया, और उनकी सटीकता गिरकर शून्य हो गई। उनमें यह कहने की क्षमता की कमी थी, "रुको, जीपीएस गलत है; मुझे एक शॉर्टकट पता है।"
- अनुभवी (Veterans): वे अधिक संदेही थे। जब ADIS गलत था, तो उन्होंने अक्सर इसे अनदेखा कर दिया और निदान सही किया। हालांकि, जब ADIS सही था, तो वे कभी-कभी टूल को अनदेखा कर देते थे और गलत हो जाते थे क्योंकि वे अपने अनुभव पर बहुत अधिक भरोसा करते थे। वे एक अनुभवी ड्राइवर की तरह थे जो पिछली सड़कों को इतनी अच्छी तरह जानता है कि वह कभी-कभी जीपीएस को तब भी अनदेखा कर देता है जब वह सही होता है।
3. "ब्लैक बॉक्स" बनाम "ग्लास बॉक्स"
आमतौर पर, AI टूल्स ब्लैक बॉक्स की तरह होते हैं: आप डेटा डालते हैं, और परिणाम बाहर आता है, लेकिन आपको पता नहीं होता कि वह वहां तक कैसे पहुँचा।
ADIS अलग है; यह ग्लास बॉक्स की तरह है। यह आपको दिखाता है कि इसने किन वाक्यों को हाइलाइट किया और क्यों। शोधकर्ताओं को लगा कि यह पारदर्शिता लोगों को इसे अंधे होकर ट्रस्ट करने से रोकेगी।
- आश्चर्य: भले ही वे देख सकते थे कि टूल कैसे काम करता है, फिर भी डॉक्टर अत्यधिक भरोसे के जाल में फंस गए (विशेष रूप से प्रशिक्षु)। यह देखना कि काम कैसे किया गया, उन्हें स्वचालित रूप से इस बारे में स्मार्ट नहीं बना सका कि टूल पर कब भरोसा करना है।
4. वे कैसे बात करते थे
एक विशेषज्ञ को अपने निर्णय समझाने के लिए पूछे जाने पर:
- अनुभवी ब्रीफिंग अधिकारियों की तरह थे: उन्होंने आधिकारिक मेडिकल कोड और शब्दावली का उपयोग करके संक्षिप्त, प्रभावशाली रिपोर्ट दी। वे जानते थे कि किसे बाहर करना है।
- प्रशिक्षु कहानीकारों की तरह थे: उन्होंने बहुत लंबे, विस्तृत विवरण लिखे, जिसमें हर छोटी से छोटी जानकारी शामिल थी, क्योंकि वे अभी तक यह तय नहीं कर पा रहे थे कि क्या महत्वपूर्ण है।
मुख्य निष्कर्ष
अध्ययन यह निष्कर्ष निकालता है कि यह डिजिटल हाइलाइटर उपयोग में आसान है और लोग इसे पसंद करते हैं। हालांकि, इसके साथ एक चेतावनी लेबल आता है: यह तब सबसे अच्छा काम करता है जब टूल सटीक हो, और इसके लिए उपयोगकर्ता को इसे सवाल करने की आवश्यकता होती है।
यदि आप एक प्रशिक्षु को ऐसा टूल देते हैं जो गलतियाँ करता है, तो वे बिना किसी विचार के उस गलती का पालन करेंगे। यदि आप एक अनुभवी को टूल देते हैं, तो वे इसे तब भी अनदेखा कर सकते हैं जब यह मददगार हो। शोधकर्ता सुझाव देते हैं कि इन टूल्स को बांटने से पहले, डॉक्टरों को AI का उपयोग करने के तरीके पर प्रशिक्षण की आवश्यकता है, न कि केवल सॉफ्टवेयर का उपयोग करने के तरीके की। उन्हें यह सीखने की आवश्यकता है कि "जीपीएस" पर कब भरोसा करना है और अपने स्वयं के मानचित्र पर कब भरोसा करना है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।