Does Human Oversight of AI-Assisted Decisions Work? A Systematic Review of the Evidence and a Framework for Meaningful Human Control

आधुनिक दुनिया में, एल्गोरिदम हमारे कुछ सबसे महत्वपूर्ण निर्णयों में मूक भागीदार बन गए हैं। वे यह निर्धारित करने में मदद करते हैं कि किसे ऋण मिलेगा, किन रोगियों को तत्काल देखभाल मिलेगी, और पुलिस संसाधनों का आवंटन कैसे किया जाएगा। क्योंकि ये प्रणालियाँ गलतियाँ कर सकती हैं या अपने तर्क को छिपा सकती हैं, इसलिए कई स्थानों पर कानून और नीतियां अब एक सरल सुरक्षा उपाय की मांग करती हैं: एक मनुष्य को मशीन के कंधे के ऊपर से निगरानी करनी चाहिए। 'मानवीय निरीक्षण' (human oversight) की यह अवधारणा मानती है कि यदि कोई व्यक्ति स्वचालित सिफारिश की समीक्षा करता है, तो वह त्रुटियों को पकड़ सकता है, पूर्वाग्रहों को ठीक कर सकता है, और यह सुनिश्चित कर सकता है कि अंतिम निर्णय निष्पक्ष हो। विचार यह है कि एक मानव समीक्षक एक अंतिम जांच के रूप में कार्य करता है, जो कोड के ठंडे तर्क और मानव जीवन की जटिल वास्तविकता के बीच सुरक्षा की एक आवश्यक परत है।

हालाँकि, एक महत्वपूर्ण प्रश्न अनसुलझा रह गया है: क्या यह निरीक्षण वास्तव में काम करता है? एक मनुष्य की उपस्थिति यह गारंटी नहीं देती कि वह मशीन को समझता है, उसके पास इसे रोकने की शक्ति है, या उसके पास अच्छा काम करने के लिए पर्याप्त समय है। शोधकर्ता आबिद इकबाल और उनके सहयोगियों द्वारा किया गया एक नया व्यवस्थित विश्लेषण यह पता लगाने की कोशिश कर रहा है कि क्या मानवीय निरीक्षण का वादा वास्तविकता से मेल खाता है। उन्होंने 1ानों वैज्ञानिक अध्ययनों को एकत्र और विश्लेषित किया ताकि यह देखा जा सके कि क्या इस बात का वास्तविक प्रमाण है कि 'लूप में मानव' (human in the loop) को रखने से निर्णय बेहतर होते हैं, या हम केवल एक नियम को संतुष्ट करने के लिए एक बॉक्स पर टिक लगा रहे हैं।

शोधकर्ताओं ने इस बात को देखना शुरू किया कि वैज्ञानिक और नीति निर्माता कृत्रिम बुद्धिमत्ता (AI) के शासन के बारे में कैसे बात करते हैं। उन्होंने पाया कि यह चर्चा दो बड़े विचारों से हावी है: जवाबदेही (accountability), जिसका अर्थ है यह सुनिश्चित करना कि परिणाम के लिए कोई जिम्मेदार हो, और पारदर्शिता (transparency), जिसका अर्थ है कि प्रणाली का तर्क स्पष्ट हो। ये अवधारणाएं लगभग हर अध्ययन में दिखाई देती हैं। मानव नियंत्रण का विचार भी आम है, जो लगभग 70 प्रतिशत शोध में दिखाई देता है। फिर भी, जब टीम ने बारीकी से देखा कि इन विचारों का परीक्षण कैसे किया गया, तो उन्हें एक परेशान करने वाला अंतर मिला। जबकि साहित्य सिद्धांतों और चेकलिस्टों से भरा हुआ है, यह प्रमाण के मामले में लगभग खाली है।

परीक्षण किए गए 186 अध्ययनों में से, केवल तीन को इस तरह से डिजाइन किया गया था जिससे कारण-और-प्रभाव (cause-and-effect) संबंध को सिद्ध किया जा सके। इसका मतलब है कि अधिकांश शोध के लिए, हम केवल इतना जानते हैं कि कुछ शासन नियम निश्चित परिणामों के साथ मौजूद हैं, लेकिन हम यह नहीं जानते कि क्या उन नियमों ने वास्तव में उन परिणामों को उत्पन्न किया। इससे भी अधिक चौंकाने वाली बात यह है कि जिन दो अध्ययनों ने मजबूत कारण संबंधी साक्ष्य दिए थे, उन्होंने यह नहीं मापा कि निर्णय स्वयं बेहतर या अधिक सटीक थे या नहीं। इसके बजाय, उन्होंने यह मापा कि शामिल लोगों को वे निर्णय कितने वैध लगे। दूसरे शब्दों में, हमारे पास जो सबसे मजबूत प्रमाण है वह यह दिखाता है कि मानवीय निरीक्षण से लोगों को अधिक सहजता महसूस होती है, लेकिन यह यह नहीं दिखाता कि निर्णय वास्तव में बेहतर हुए हैं।

समीक्षा ने यह भी रेखांकित किया कि शोधकर्ता "मानव नियंत्रण" को जिस तरह से मापते हैं, वह खंडित और असंगत है। अक्सर, एक अध्ययन केवल यह गिन लेता है कि क्या कोई मनुष्य उपस्थित था, बिना यह जांचे कि क्या वह व्यक्ति वास्तव में डेटा को समझता था, क्या उसके पास परिणाम को बदलने का अधिकार था, या क्या उसे सोचने के लिए पर्याप्त समय दिया गया था। लेखक तर्क देते हैं कि सार्थक होने के लिए, निरीक्षण केवल एक फॉर्म पर हस्ताक्षर होना से कहीं अधिक होना चाहिए। इसके लिए विशिष्ट शर्तों की आवश्यकता है: निर्णय लेने वाले को जानकारी समझ में आनी चाहिए, उसके पास मशीन को ओवरराइड करने की वास्तविक शक्ति होनी चाहिए, उसके पास आवश्यक कौशल होने चाहिए, और उसे निर्णय को चुनौती देने में सक्षम होना चाहिए यदि वह गलत हो जाए। इन तत्वों के बिना, एक मानव समीक्षक केवल एक नाममात्र का व्यक्ति है, जो एक दोषपूर्ण एल्गोरिदम को नुकसान पहुँचाने से रोकने में असमर्थ है।

इन कमियों को दूर करने के लिए, शोधकर्ताओं ने एक नया ढांचा प्रस्तावित किया है जो सार्थक मानव नियंत्रण को आठ स्पष्ट भागों में विभाजित करता है। यह ढांचा एक संगठन द्वारा बनाए गए नियमों को निर्णय लेने वाले व्यक्ति के वास्तविक अनुभव से जोड़ता है। यह सुझाव देता है कि निरीक्षण के सफल होने के लिए, संगठन को सही जानकारी प्रदान करनी चाहिए, वास्तविक अधिकार देना चाहिए, और यह सुनिश्चित करना चाहिए कि व्यक्ति के पास कार्य करने के लिए प्रशिक्षण और संसाधन हों। लेखकों ने इन विचारों का परीक्षण करने के लिए एक शोध एजेंडा भी तैयार किया, जिसमें उन प्रयोगों का आह्वान किया गया है जो विशेष रूप से यह देखते हैं कि क्या मनुष्य खराब सिफारिशों को सफलतापूर्वक ओवरराइड कर सकते हैं और क्या इससे बेहतर परिणाम मिलते हैं।

इस विस्तृत समीक्षा का सार यह है कि जबकि मानवीय निरीक्षण कृत्रिम बुद्धिमत्ता के लिए डिफ़ॉल्ट सुरक्षा जाल है, हम अभी तक यह नहीं जानते कि क्या यह एक मजबूत जाल है। वर्तमान साक्ष्य काफी हद तक धारणाओं और संबंधों पर आधारित हैं न कि ठोस प्रमाण पर। एक मानव समीक्षक की उपस्थिति एक परिकल्पना है कि निर्णय बेहतर होंगे, न कि एक गारंटी। जब तक हम सटीक रूप से यह नहीं माप लेते कि मनुष्य इन प्रणालियों के साथ कैसे बातचीत करते हैं और क्या उनका हस्तक्षेप परिणाम को बदल देता है, तब तक मानवीय निरीक्षण की आवश्यकता एक नेक इरादे वाली नीति बनी रहेगी जो प्रमाण के आने की प्रतीक्षा कर रही है। आगे का रास्ता साधारण चेकलिस्ट से आगे बढ़कर इस गहरी समझ की ओर जाने की मांग करता है कि उन मशीनों पर सार्थक नियंत्रण रखने के लिए वास्तव में क्या आवश्यक है जो हमारे जीवन को आकार देती हैं।