Waiting, judgment, and responsibility: lessons from divination for human oversight of irreversible decisions
प्राचीन चीनी भविष्यवाणी ग्रंथ 'ई-जिंग' (Yijing) का सहारा लेते हुए, यह शोध पत्र अपरिवर्तनीय एआई (AI) निर्णयों के लिए मानवीय निरीक्षण हेतु एक ऐसा ढांचा प्रस्तावित करता है जो अतिरिक्त साक्ष्य एकत्र करने के मूल्य और आश्वासन के मनोवैज्ञानिक लाभों के बीच संतुलन बनाता है, यह प्रदर्शित करते हुए कि उपयोगकर्ताओं को प्रासंगिक डेटा, व्याख्यात्मक मार्गदर्शन और अलग क्षतिपूर्ति तंत्र प्रदान करना चिंता और दोष के भय को कम करते हुए निर्णय लेने के परिणामों को अनुकूलित कर सकता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की उच्च-दांव वाली दुनिया में, एक बढ़ती हुई चिंता यह है कि मनुष्य उन मशीनों की प्रभावी ढंग से निगरानी कैसे कर सकते हैं जो अपरिवर्तनीय निर्णय लेती हैं। जब कोई सॉफ्टवेयर एजेंट पैसा ट्रांसफर करने, महत्वपूर्ण फाइलों को हटाने, या नया कोड जारी करने का प्रस्ताव देता है, तो 'लूप में मौजूद मानव' (human in the loop) के सामने एक कठिन कार्य होता है: उन्हें यह तय करना होता है कि वे मशीन के सुझाव पर भरोसा करें या नहीं, जो अक्सर तेजी से प्रतिक्रिया देने के दबाव में होता है। यह स्थिति एक "जिम्मेदारी के अंतर" (responsibility gap) को जन्म देती है, जहाँ यह स्पष्ट नहीं हो पाता कि यदि चीजें गलत हो गईं तो किसे जवाबदेह ठहराया जाना चाहिए। लोग अक्सर अधिक जानकारी के लिए प्रतीक्षा करने को लेकर चिंतित महसूस करते हैं, या उन्हें किसी बुरे परिणाम के लिए दोषी ठहराए जाने का डर होता है, जिससे वे या तो बहुत जल्दबाजी में कार्य करते हैं या बहुत जल्दी हार मान लेते हैं। शोधकर्ता लंबे समय से जानते हैं कि बेहतर साक्ष्य के लिए प्रतीक्षा करना निर्णयों को बेहतर बना सकता है, और जिस तरह से निर्णय को प्रस्तुत किया जाता है, वह लोगों की जोखिमों के प्रति धारणा को बदल सकता है। प्रश्न यह है कि ऐसे निगरानी तंत्र कैसे डिजाइन किए जाएं जो लोगों को बेहतर विकल्प चुनने में मदद करें बिना उन्हें डर या अति-आत्मविश्वास के चक्र में फंसाए।
जूनझे शी और उनके सहयोगियों द्वारा किया गया एक नया अध्ययन, जिसमें कैलिफोर्निया विश्वविद्यालय, बर्कले और ड्यूक यूनिवर्सिटी जैसे संस्थान शामिल हैं, इन गतिकी (dynamics) को एक प्राचीन पद्धति का अध्ययन करके खोजता है: ईजिंग (Yijing), या चीनी परिवर्तन की पुस्तक का परामर्श लेना। सदियों से, लोग बड़े जीवन निर्णय लेने के लिए इस ग्रंथ का उपयोग करते आए हैं, जैसे कि युद्ध में जाना है या नए घर में जाना है। शोधकर्ताओं ने देखा कि ईजिंग का परामर्श करने की पारंपरिक प्रक्रिया में तीन विशिष्ट विशेषताएं हैं जो आधुनिक एआई अनुमोदन संकेतों (AI approval prompts) में अक्सर लुप्त होती हैं: उत्तर देने से पहले एक अनिवार्य ठहराव, एक ऐसा उत्तर जिसके लिए व्याख्या की आवश्यकता होती है न कि केवल 'हाँ' या 'ना' का सरल उत्तर, और एक ऐसी भावना कि निर्णय का अधिकार मानवीय पूर्वाग्रहों से अलग है। टीम ने यह परीक्षण करने के लिए एक कंप्यूटर सिमुलेशन बनाया कि ये विशेषताएं आधुनिक उपयोगकर्ताओं को एआई एजेंटों के साथ काम करते समय बेहतर निर्णय लेने में कैसे मदद कर सकती हैं।
शोधकर्ताओं ने चार अलग-अलग प्रकार के लोगों का एक मॉडल बनाया जो एक ऐसे निर्णय का सामना कर रहे थे जहाँ परिणाम अच्छा या बुरा हो सकता था, लेकिन सच्चाई छिपी हुई थी। पहला प्रकार एक "कैलिब्रेटेड" (calibrated) व्यक्ति था जो साक्ष्यों का सटीक रूप से मूल्यांकन करता था। दूसरा "अति-आत्मविश्वासी" (overconfident) था, जो अपने शुरुआती संकेतों को वास्तव में जितना मजबूत होना चाहिए उससे कहीं अधिक मजबूत मानता था। तीसरा "चिंतित" (anxious) था, जिसे महसूस होता था कि अधिक जानकारी के लिए प्रतीक्षा करना शारीरिक और मानसिक रूप से थका देने वाला है। चौथा "भयभीत" (fearful) था, जो इस बात से डरा हुआ था कि यदि उसने कार्य किया और चीजें गलत हो गईं तो उसे दोषी ठहराया जाएगा। सिमुलेशन में, इन लोगों को यह तय करना था कि क्या वे एक ऐसा कार्य करें जो सफल या विफल हो सकता है, या पूरी तरह से हार मान लें। शोधकर्ताओं ने पाया कि अति-आत्मविश्वासी लोग अक्सर खराब सूचनाओं पर बहुत जल्दी कार्य करते थे, जबकि चिंतित और भयभीत लोग अक्सर अवसरों को खो देते थे क्योंकि वे या तो बहुत जल्दी जांच करना बंद कर देते थे या कार्य करने से डरते थे।
अध्ययन में यह परीक्षण किया गया कि क्या होता है जब सिस्टम इन लोगों को निर्णय लेने से पहले दो और साक्ष्य (evidence) के लिए प्रतीक्षा करने के लिए मजबूर करता है। अति-आत्मविश्वासी लोगों के लिए, यह अनिवार्य ठहराव एक जीवन रक्षक साबित हुआ। इसने उन्हें एक "भ्रामक पैटर्न" (phantom pattern)—जो कि भाग्यशाली दिखने वाले संकेतों की एक श्रृंखला थी जो वास्तव में केवल एक संयोग था—पर कार्य करने से रोक दिया। सिमुलेशन में, अतिरिक्त जाँच की आवश्यकता ने खराब स्थितियों में अति-आत्मविश्वासी लोगों की गलतियों को 4.5% से घटाकर 2.1% कर दिया। हालांकि, जो लोग पहले से ही साक्ष्यों का सही मूल्यांकन कर रहे थे, उनके लिए यह अतिरिक्त प्रतीक्षा समय की बर्बादी थी और इससे संभावित लाभ में थोड़ी कमी आई। यह सुझाव देता है कि अनिवार्य जाँच उन लोगों के लिए सबसे उपयोगी है जो जल्दबाजी करने की प्रवृत्ति रखते हैं, लेकिन वे लोगों के लिए बोझ बन सकती है जो पहले से ही सावधान हैं।
इसके बाद शोधकर्ताओं ने "आश्वासन" (reassurance) के प्रभाव का परीक्षण किया। प्राचीन पद्धति में, ओरेकल (oracle) निर्णय के लिए "कोई दोष नहीं" का वादा कर सकता है, या एक यादृच्छिक निर्णय "जाओ" या "रुको" कह सकता है। सिमुलेशन में, शोधकर्ताओं ने एक ऐसा सिस्टम बनाया जो चिंतित लोगों को "रुको" और भयभीत लोगों को "जाओ" कहता था, जो प्रभावी रूप से प्रतीक्षा की लागत या विफलता की लागत के डर को कम करता था। इस सरल आश्वासन ने चिंतित लोगों को प्रक्रिया के साथ लंबे समय तक बने रहने में मदद की, और इसने भयभीत लोगों को तब कार्य करने में मदद की जब साक्ष्य अच्छे थे। भयभीत लोगों के लिए, जब उन्हें "जाओ" कहा गया, तो छूटे हुए अवसरों की दर 13.8% से गिरकर 2.7% हो गई। हालांकि, अध्ययन ने एक महत्वपूर्ण चेतावनी दी: यदि लोग इस आश्वासन को तथ्यों के बारे में नए साक्ष्य के रूप में देखते, बजाय इसके कि वे इसे केवल अपनी घबराहट कम करने के एक तरीके के रूप में देखें, तो यह वास्तव में उनके निर्णयों को बदतर बना देता। लाभ तभी हुआ जब आश्वासन ने तथ्यों में विश्वास बदले बिना उनके भावनात्मक दबाव को कम किया।
जब शोधकर्ताओं ने इन दोनों दृष्टिकोणों को मिलाया—साक्ष्य के लिए ठहराव को मजबूर करना और चिंता को कम करने के लिए आश्वासन देना—तो उन्होंने एक शक्तिशाली सुधार पाया। लोगों के एक मिश्रित समूह में, इस संयुक्त दृष्टिकोण ने खराब निर्णयों और छूटे हुए अवसरों को काफी कम कर दिया, जिससे समूह की समग्र सफलता दर बढ़ गई। अध्ययन ने दिखाया कि सभी को यह सुरक्षा प्रदान करना, बजाय इसके कि केवल यादृच्छिक रूप से किसे यह मिले, यादृच्छिक अवसर (random chance) के समान ही प्रभावी था लेकिन अधिक सुसंगत था। मुख्य बात यह थी कि सिस्टम ने तथ्यों को एकत्र करने का एक स्पष्ट मार्ग प्रदान किया और साथ ही निर्णय लेने वाले को बुरे परिणाम के लिए दोषी ठहराए जाने के डर से बचाने का काम किया।
लेखकों ने इन निष्कर्षों को आधुनिक एआई निगरानी की समस्या पर लागू किया। उन्होंने एक ऐसी स्थिति की कल्पना की जहाँ एक एआई एजेंट नए मकान मालिक को पैसा ट्रांसफर करने का सुझाव देता है। यदि सिस्टम केवल यह पूछे बिना कि एजेंट ने उस निष्कर्ष तक कैसे पहुँचा, "हाँ" या "ना" पूछता है, तो उपयोगकर्ता या तो इस पर अंधाधुंध भरोसा करेंगे या डर के कारण इसे अस्वीकार कर देंगे। अध्ययन सुझाव देता है कि एक बेहतर प्रणाली वह होगी जो उपयोगकर्ता को उस साक्ष्य को देखने के लिए कहे जो एजेंट ने एकत्र किया है और शायद कार्रवाई की अनुमति देने से पहले कुछ स्वतंत्र जाँच करने की आवश्यकता हो। यह भी सुझाव देता है कि एआई का उपयोग करने वाले संगठन के पास एक स्पष्ट नीति होनी चाहिए: यदि किसी उपयोगकर्ता ने नियमों का पालन किया और साक्ष्यों की जाँच की, लेकिन फिर भी कार्य विफल रहा, तो संगठन को नुकसान की भरपाई करनी चाहिए न कि उपयोगकर्ता को दोषी ठहराना चाहिए। निर्णय प्रक्रिया को परिणाम से अलग करने से लोग आत्मविश्वास के साथ कार्य कर सकते हैं।
यह शोध पत्र निष्कर्ष निकालता है कि प्रभावी निगरानी केवल एक बटन दबाने के बारे में नहीं है। इसके लिए एक ऐसी संरचना की आवश्यकता है जो साक्ष्य के लिए ठहराव को मजबूर करे, योजना की व्याख्या करने का एक तरीका प्रदान करे, और उन लोगों के लिए एक सुरक्षा जाल प्रदान करे जो नियमों का पालन करते हैं। ईजिंग में पाए जाने वाले प्रतीक्षा, निर्णय और आश्वासन के प्राचीन संतुलन से सीखकर, हम ऐसे एआई सिस्टम डिजाइन कर सकते हैं जो मनुष्यों को जटिल निर्णयों को अधिक सफलतापूर्वक और जिम्मेदारी से लेने में मदद करें। सिमुलेशन दिखाते हैं कि जब हम लोगों को उनकी चिंता और अति-आत्मविश्वास को प्रबंधित करने के लिए सही उपकरण देते हैं, तो वे बहुत अधिक सफलता के साथ जटिल निर्णयों को संभाल सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।