What is Human in Judgment? Comparing Automation Bias and Algorithm Aversion Between the United States Military Academy and the General Public
यह अध्ययन यूनाइटेड स्टेट्स मिलिट्री एकेडमी के कैडेटों और आम जनता के बीच ऑटोमेशन बायस (स्वचालन पूर्वाग्रह) और एल्गोरिदम एवर्जन (एल्गोरिदम के प्रति अरुचि) की तुलना करता है, जिसमें यह पाया गया है कि सैन्य शिक्षा एआई निर्णय-सहायता प्रणालियों में बेहतर-कैलिब्रेटेड विश्वास को बढ़ावा देती है, जिससे भविष्य के संघर्षों में त्रुटि और गलत गणना के जोखिमों को संभावित रूप से कम किया जा सकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विमान उड़ा रहे एक पायलट हैं। आपके बगल में बैठा आपका को-पायलट वास्तव में एक सुपर-स्मार्ट कंप्यूटर प्रोग्राम है। यह कंप्यूटर उन चीजों को देख सकता है जिन्हें आप नहीं देख सकते और आपसे कहीं अधिक तेजी से गणना कर सकता है। लेकिन इसमें एक पेंच है: कभी-कभी कंप्यूटर गलत होता है, और कभी-कभी वह सही होता है।
बड़ा सवाल जो यह पेपर पूछता है वह यह है: जब कंप्यूटर आपको सलाह देता है, तो क्या आप आँख मूँदकर उसका पालन करते हैं भले ही वह गलत हो? या आप उसे अनदेखा कर देते हैं भले ही वह सही हो?
शोधकर्ता यह देखना चाहते थे कि क्या भविष्य के सैन्य नेता (विशेष रूप से वेस्ट पॉइंट के कैडेट) इसे सामान्य लोगों से अलग तरह से संभालते हैं। यह पता लगाने के लिए उन्होंने एक खेल बनाया।
खेल: दुश्मन के विमान को पहचानें
शोधकर्ताओं ने दो समूहों से एक त्वरित खेल खेलने के लिए कहा:
- खिलाड़ी: एक समूह 236 भविष्य के सैन्य अधिकारी (वेस्ट पॉइंट कैडेट) थे। दूसरा समूह सामान्य जनता से 702 नियमित लोग थे, जिन्हें उम्र और शिक्षा के स्तर के आधार पर मिलाया गया था।
- कार्य: उन्हें एक धुंधली तस्वीर देखनी थी और तय करना था: "क्या यह एक दोस्त है या दुश्मन?"
- ट्विस्ट: उनके अनुमान लगाने के बाद, एक "सहायक" सलाह देगा। कभी-कभी सहायक एक मानव विश्लेषक होता था, और कभी-कभी एक AI एल्गोरिदम। कभी-कभी सहायक बहुत आश्वस्त लगता था ("मुझे 100% यकीन है!") और कभी-कभी अनिश्चित लगता था ("मैं अभी भी इसकी टेस्टिंग कर रहा हूँ...")।
- विकल्प: खिलाड़ी या तो अपने मूल अनुमान पर टिके रह सकते थे या सलाह के आधार पर अपना मन बदल सकते थे।
दो बड़ी समस्याएँ
यह पेपर उन दो तरीकों पर ध्यान केंद्रित करता है जिनसे लोग कंप्यूटर के साथ काम करते समय गलती करते हैं:
- ऑटोमेशन बायस (द "रोबोट ही भगवान है" वाला जाल): यह तब होता है जब आप कंप्यूटर पर इतना भरोसा करते हैं कि आप अपनी आँखों को अनदेखा कर देते हैं। भले ही कंप्यूटर गलत हो, आप उसके पीछे चलते हैं। यह वैसा ही है जैसे कार में बैठा एक यात्री आँख मूँदकर GPS का पालन करता है क्योंकि उसे लगता है कि GPS को उससे बेहतर पता है, और अंततः वह झील में गाड़ी चला देता है।
- एल्गोरिदम एवरजन (द "मुझे रोबोट से नफरत है" वाला जाल): यह तब होता है जब आप कंप्यूटर पर बिल्कुल भरोसा नहीं करते, भले ही वह सही हो। आप अपने अंतर्ज्ञान पर टिके रहते हैं क्योंकि आप सोचते हैं, "मैं इंसान हूँ, मैं मशीन से बेहतर हूँ।" यह वैसा ही है जैसे किसी मैप ऐप का उपयोग करने से इनकार करना क्योंकि आपको लगता है कि आप मोहल्ले को बेहतर जानते हैं, भले ही ऐप आपको वह शॉर्टकट दिखा रहा हो जो आपने मिस कर दिया था।
उन्होंने क्या पाया
परिणाम आश्चर्यजनक थे और दोनों समूहों के बीच एक स्पष्ट अंतर दिखाते हैं:
1. वेस्ट पॉइंट के कैडेट "कैलिब्रेटेड" (बिल्कुल सही) थे
भविष्य के अधिकारी यह जानने में बहुत बेहतर थे कि कंप्यूटर पर कब भरोसा करना है और खुद पर कब भरोसा करना है।
- वे रोबोट के पीछे आँख मूँदकर नहीं भागे: जब AI ने गलत सलाह दी, तो कैडेट रोबोट से मेल खाने के लिए अपना जवाब बदलने की संभावना बहुत कम थी। वे इस गलती को करने के लिए केवल लगभग 4% सक्षम थे, जबकि आम लोगों के लिए यह 9% था।
- उन्होंने "कॉन्फिडेंस लेवल" पर ध्यान दिया: कैडेटों ने इस बात पर ध्यान दिया कि सलाह कैसे दी गई। यदि AI ने कहा, "मैं अभी भी इसकी टेस्टिंग कर रहा हूँ," तो उन्होंने इसे अनदेखा कर दिया। यदि AI ने कहा, "मेरा हजारों बार परीक्षण किया गया है," तो उन्होंने इसकी बात सुनी। उन्होंने AI को एक उपकरण की तरह माना, न कि एक बॉस की तरह।
- उन्हें रोबोट से नफरत नहीं थी: दिलचस्प बात यह है कि उन्होंने केवल इसलिए AI को अनदेखा नहीं किया क्योंकि वह एक मशीन था। यदि AI सही था, तो वे इसका उपयोग करने के लिए तैयार थे।
2. सामान्य जनता अधिक "विकृत" (Distorted) थी
आम लोग "रोबोट ही भगवान है" वाले जाल के प्रति अधिक संवेदनशील थे।
- वे केवल इसलिए अपना जवाब बदलने के लिए अधिक इच्छुक थे क्योंकि एक कंप्यूटर ने उन्हें ऐसा करने को कहा था, भले ही वह गलत हो।
- उन्हें इस बात से ज्यादा फर्क नहीं पड़ता था कि सलाह एक इंसान से आई या कंप्यूटर से, या स्रोत कितना आश्वस्त लग रहा था। वे बस मशीन के पीछे चलने के प्रति अधिक झुकाव रखते थे।
3. सभी को रोबोट से थोड़ी नफरत थी (लेकिन समान रूप से)
यहाँ एक ट्विस्ट है: दोनों समूह कंप्यूटर को अनदेखा करने के लिए समान रूप से इच्छुक थे जब वह वास्तव में सही था। इसे "एल्गोरिदम एवरजन" कहा जाता है। कैडेटों को मिले प्रशिक्षण ने उन्हें मशीन के प्रति संदेही होने से नहीं रोका; इसने बस उन्हें अंधे होकर पीछा करने से रोका।
बड़ा निष्कर्ष
यह पेपर सुझाव देता है कि प्रशिक्षण काम करता है।
वेस्ट पॉइंट के कैडेट गणित या तर्क में स्वाभाविक रूप से बेहतर "सुपर-ह्यूमन" नहीं हैं। वे बस ऐसे लोग हैं जिन्हें तकनीक के साथ काम करना सिखाया गया है। उनकी शिक्षा ने उन्हें यह पूछना सिखाया कि, "क्या यह उपकरण अभी विश्वसनीय है?" बजाय इसके कि वे केवल यह सोचें कि "क्या यह एक रोबोट है?"
लेखक निष्कर्ष निकालते हैं कि हालांकि हम युद्ध या संकट में सभी गलतियों को नहीं रोक सकते, लेकिन लोगों को यह सिखाना कि AI के साथ कैसे बातचीत करनी है, उन्हें उस विशिष्ट गलती को करने से रोक सकता है जो एक कंप्यूटर पर अंधा विश्वास करने से होती है जो उनसे झूठ बोल रहा है। कैडेटों ने सीखा कि कैसे अपना "ह्यूमन इन द लूप" दिमाग चालू रखा जाए, जबकि सामान्य जनता के मामले में वे अधिक संभावना थी कि कंप्यूटर को स्टीयरिंग व्हील सौंप देंगी।
संक्षेप में: भविष्य के सैनिकों ने AI को एक सहायक को-पायलट के रूप में उपयोग करना सीखा, जबकि सामान्य जनता के मामले में वे AI को कार खाई में गिराने देने के अधिक करीब थे।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।