AI Risk-Management Control in Human-in-the-Loop Systems: Governing the Operating Confidence Threshold as a Delegation Boundary
यह शोध पत्र मानव-इन-द-लूप एआई प्रणालियों में ऑपरेटिंग कॉन्फिडेंस थ्रेशोल्ड (संचालन विश्वास सीमा) को केवल एक ट्यूनिंग पैरामीटर के बजाय स्पष्ट लागत-लाभ विश्लेषण से प्राप्त एक औपचारिक, ऑडिट योग्य जोखिम-स्वीकृति नियंत्रण के रूप में मानने का प्रस्ताव करता है, जो विनियमित पेशेवर परिवेशों में स्वचालित प्रतिनिधिमंडल को स्थिर करने और मानवीय समीक्षा को न्यूनतम करने में अपनी प्रभावशीलता को प्रदर्शित करता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक कार्यस्थल में, कृत्रिम बुद्धिमत्ता (AI) से तेजी से ऐसे निर्णय लेने की अपेक्षा की जा रही है जो महत्वपूर्ण होते हैं। यह दस्तावेजों को छाँटती है, डेटाबेस में नामों का मिलान करती है, और महत्वपूर्ण जानकारी को चिह्नित करती है। लेकिन एक महत्वपूर्ण प्रश्न अधिकांश सॉफ्टवेयर द्वारा अनसुलझा रह जाता है: कंप्यूटर को कब अपने आप निर्णय लेना चाहिए, और उसे कब रुककर मदद के लिए किसी इंसान से पूछना चाहिए? यह केवल एक तकनीकी सेटिंग नहीं है; यह विश्वास और जिम्मेदारी का प्रश्न है। यदि कोई मशीन गलत होने पर भी बहुत अधिक आत्मविश्वास दिखाती है, तो यह गंभीर नुकसान पहुंचा सकती है जिसे तब तक कोई नहीं देख पाता जब तक कि बहुत देर न हो जाए। यदि यह बहुत अधिक सावधानी बरतती है, तो यह उन महंगे मानव विशेषज्ञों का समय बर्बाद करती है जो अधिक महत्वपूर्ण कार्य कर सकते थे। वह बिंदु जहाँ मशीन निर्णय वापस किसी व्यक्ति को सौंप देती है, 'कॉन्फिडेंस थ्रेशोल्ड' (विश्वास सीमा) कहलाता है। इसे हाईवे पर लगे स्पीड लिमिट साइन की तरह समझें: यह ड्राइवर को बताता है कि उसे ठीक कब धीमा होना है और नियंत्रण अपने हाथ में लेना है। अब तक, कई संगठन इस सीमा को बिना किसी स्पष्ट कारण के, अनुमान लगाकर या नब्बे प्रतिशत जैसे किसी गोल नंबर को चुनकर निर्धारित करते रहे हैं।
मुसरत कबीर-चिस्ती का एक नया अध्ययन तर्क देता है कि यह सीमा केवल एक अनुमान नहीं होनी चाहिए। इसके बजाय, इसे एक सावधानीपूर्वक गणना किए गए निर्णय के रूप में देखा जाना चाहिए, जिसे किसी विनियमित पेशे के अन्य सुरक्षा नियमों की तरह गंभीरता दी जाए। लेखक, जो लीगल टेक्नोलॉजी (कानूनी तकनीक) में कार्यरत हैं, ने दो अलग-अलग प्रकार की गलतियों की लागत को तौलकर एक आदर्श "हैंडओवर पॉइंट" (हस्तांतरण बिंदु) खोजने की एक विधि विकसित की है। पहली गलती तब होती है जब कंप्यूटर किसी गलत उत्तर पर मानवीय जांच के बिना कार्य करता है। दूसरी गलती तब होती है जब कंप्यूटर मदद के लिए इंसान से पूछता है, भले ही उसके पास सही उत्तर मौजूद था। कानून या आव्रजन (इमिग्रेशन) जैसे क्षेत्रों में, पहली गलती दूसरी तुलना में कहीं अधिक खतरनाक है। अदालत में भेजा गया एक गलत फाइल किसी मामले को बर्बाद कर सकता है, जबकि एक सही फाइल की समीक्षा करने में इंसान को बस कुछ अतिरिक्त मिनट लगते हैं। अध्ययन प्रस्तावित करता है कि संगठनों को अपना कॉन्फिडेंस थ्रेशोल्ड इस आधार पर निर्धारित करना चाहिए कि वे एक अन-रिव्यू की गई त्रुटि के जोखिम से बचने के लिए मानव समय पर कितना भुगतान करने को तैयार हैं।
इस विचार का परीक्षण करने के लिए, शोधकर्ता ने इस पद्धति को लंदन की एक कानूनी फर्म द्वारा उपयोग किए जाने वाले दो वास्तविक दुनिया के सिस्टम पर लागू किया। पहला सिस्टम इमिग्रेशन वकीलों को हजारों क्लाइंट दस्तावेजों को प्रबंधित करने में मदद करता है। जब भी कोई नई फाइल आती है, कंप्यूटर उसे सही फोल्डर में डालने का प्रयास करता है। यदि कंप्यूटर बहुत आश्वस्त है, तो वह दस्तावेज को स्वचालित रूप से फाइल कर देता है। यदि वह अनिश्चित है, तो वह फाइल को जांच के लिए एक मानव वकील के पास भेज देता है। दूसरा सिस्टम क्लाइंट रिकॉर्ड्स से संबंधित है, जो नए क्लाइंट्स की सूची से मौजूदा मामलों के डेटाबेस के नामों का मिलान करने का प्रयास करता है। फिर से, यदि मिलान स्पष्ट है, तो सिस्टम रिकॉर्ड को लिंक कर देता है; यदि यह संदिग्ध है, तो एक इंसान को निर्णय लेना होता है। दोनों मामलों में, टीम ने हजारों दस्तावेजों और रिकॉर्ड्स के वास्तविक स्कोर का विश्लेषण किया ताकि यह देखा जा सके कि विभिन्न कॉन्फिडेंस स्तरों पर सिस्टम कैसा प्रदर्शन करता है।
परिणामों ने खुलासा किया कि ये सिस्टम वास्तव में कैसे व्यवहार करते हैं, इसके बारे में कुछ आश्चर्यजनक था। डॉक्यूमेंट-सॉर्टिंग कार्य में, कंप्यूटर के कॉन्फिडेंस स्कोर समान रूप से वितरित नहीं थे। इसके बजाय, वे दो समूहों में स्पष्ट रूप से विभाजित थे: सिस्टम या तो अत्यधिक आश्वस्त था, जिसका स्कोर शीर्ष के करीब था, या वह काफी अनिश्चित था। ऐसे बहुत कम मामले थे जहाँ कंप्यूटर "थोड़ा बहुत" आश्वस्त था। इस अंतर के कारण, शोधकर्ताओं ने पाया कि थ्रेशोल्ड के लिए चुना गया सटीक नंबर ज्यादा मायने नहीं रखता था, जब तक कि उसे आश्वस्त और अनिश्चित के बीच के उस खाली स्थान में रखा जाए। चाहे वे सीमा को बाने प्रतिशत या पचानवे प्रतिशत पर रखें, सिस्टम मानव समीक्षकों को बिल्कुल वही दस्तावेज भेजेगा। इसने निर्णय को सुदृढ़ और सुरक्षित बना दिया। दूसरे कार्य में, जिसमें क्लाइंट रिकॉर्ड शामिल थे, पैटर्न और भी स्पष्ट था। मिलान के स्कोर या तो बहुत उच्च थे या बहुत कम, और बीच में लगभग कुछ भी नहीं था। इसका अर्थ यह था कि सिस्टम लगभग आधे मामलों को स्वचालित रूप से संभाल सकता था और केवल कुछ ही वास्तव में कठिन मामलों को मानव विशेषज्ञों के लिए छोड़ सकता था।
अध्ययन ने यह भी दिखाया कि यह दृष्टिकोण काम की जिम्मेदारी को बदल देता है। थ्रेशोल्ड को एक सॉफ्टवेयर सेटिंग के बजाय एक औपचारिक नियम के रूप में मानकर, संगठन स्पष्ट रूप से प्रलेखित कर सकते हैं कि उन्होंने कुछ मामलों में मशीन को कार्य करने देने और कुछ में नहीं देने का निर्णय क्यों लिया। यदि कोई गलती होती है, तो वे पीछे मुड़कर देख सकते हैं कि निर्णय मानव समय की लागत और त्रुटि के जोखिम के बीच एक गणना किए गए संतुलन के आधार पर लिया गया था। यह सिस्टम को ऑडिट योग्य (जांच योग्य) बनाता है। शोधकर्ताओं ने पाया कि जब उन्होंने अपनी पद्धति का उपयोग किया, तो कंप्यूटर द्वारा बिना मानवीय सहायता के की गई गलतियों की संख्या अत्यंत कम थी, जबकि अनावश्यक रूप से मदद मांगने की संख्या भी न्यूनतम रखी गई थी। सिस्टम कुशलतापूर्वक काम कर रहा था क्योंकि इसे केवल एक सामान्य नियम का पालन करने के लिए नहीं, बल्कि काम के विशिष्ट जोखिमों के अनुरूप डिजाइन किया गया था।
यह कार्य सुझाव देता है कि उच्च-जोखिम वाले क्षेत्रों में कृत्रिम बुद्धिमत्ता का भविष्य इस बात पर निर्भर करता है कि हम इन हैंडओवर पॉइंट्स को कितनी अच्छी तरह प्रबंधित करते हैं। केवल एक स्मार्ट कंप्यूटर बनाना पर्याप्त नहीं है; हमें यह तय करने के लिए भी एक स्मार्ट प्रक्रिया बनानी होगी कि उस पर कब भरोसा किया जाए। अध्ययन प्रदर्शित करता है कि वास्तविक डेटा को देखकर और गलतियों की वास्तविक लागत को समझकर, संगठन इन सीमाओं को विश्वास के साथ निर्धारित कर सकते हैं। वे यह सुनिश्चित कर सकते हैं कि मानव विशेषज्ञ उन आसान कार्यों से अभिभूत न हों जिन्हें करने की उन्हें आवश्यकता नहीं है, और न ही वे उन दुर्लभ क्षणों के लिए अंधे हों जब मशीन गलत हो सकती है। अंततः, लक्ष्य मानव निर्णय को बदलना नहीं है, बल्कि यह परिभाषित करना है कि वह कहाँ शुरू होता है और कहाँ समाप्त होता है, जिससे एक ऐसी साझेदारी का निर्माण हो सके जहाँ मशीन और इंसान दोनों अपनी ताकत के अनुसार खेल सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।