Constitutive vs. Corrective: A Causal Taxonomy of Human Runtime Involvement in AI Systems
यह शोधपत्र मानव-एआई अंतःक्रिया शब्दावली में अस्पष्टताओं को दूर करने के लिए एक कारण संबंधी वर्गीकरण (causal taxonomy) प्रस्तावित करता है, जो रचनात्मक (constitutive - HITL) और सुधारात्मक (corrective - HOTL) भागीदारी के बीच अंतर करता है, और तत्पश्चात लौकिक (temporal) एवं संज्ञानात्मक (cognitive) आयामों के माध्यम से उत्तरवर्ती को और अधिक परिष्कृत करता है, साथ ही वैधानिक "मानवीय निरीक्षण" (Human Oversight) की विशिष्ट मानदण्डिक आवश्यकताओं को स्पष्ट करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक कार चला रहे हैं, लेकिन इस कार में एक बहुत ही स्मार्ट ऑटोपायलट है। कभी-कभी, कार को आगे बढ़ने के लिए आपको पहिया छूने की आवश्यकता होती है। अन्य समय में, कार खुद चलती है, लेकिन आप चीज़ें गलत होने पर पहिया पकड़ने के लिए तैयार होकर बगल वाली सीट पर बैठे होते हैं।
लंबे समय से, विशेषज्ञ इस बात पर बहस कर रहे हैं कि इन स्थितियों को क्या नाम दिया जाए। वे "ह्यूमन-इन-द-लूप" (Human-in-the-Loop) और "ह्यूमन-ऑन-द-लूप" (Human-on-the-Loop) जैसे भारी-भरकम शब्दों का उपयोग करते हैं। लेकिन ये शब्द भ्रमित करने वाले हैं। ऐसा लगता है कि वे इस बारे में हैं कि आप कहाँ बैठे हैं (कार के अंदर या बाहर), लेकिन इस शोध पत्र के लेखक कहते हैं कि यह देखने का गलत तरीका है।
इसके बजाय, वे प्रस्तावित करते हैं कि हमें यह देखना चाहिए कि आप वास्तव में कार की गति को कैसे प्रभावित करते हैं। वे इसे एक "कॉज़ल टैक्सोनॉमी" (Causal Taxonomy) कहते हैं, जो बस कारण-और-प्रभाव (cause-and-effect) के आधार पर चीजों को वर्गीकृत करने का एक शानदार तरीका है।
यहाँ उनके नए सिस्टम का सरल विवरण दिया गया है:
1. दो मुख्य भूमिकाएँ: गेट बनाम स्विच (The Gate vs. The Switch)
लेखक कहते हैं कि हमें "लूप्स" के बारे में सोचना बंद करना चाहिए और गेट (Gate) और स्विच (Switch) के बारे में सोचना शुरू करना चाहिए।
ह्यूमन-इन-द-लूप (HITL) = द गेट (The Gate)
- उपमा: एक क्लब के बाउंसर की कल्पना करें। संगीत (AI) बज रहा है, लेकिन दरवाजा बंद है। जब तक बाउंसर (इंसान) दरवाजा नहीं खोलता, तब तक संगीत डांस फ्लोर तक नहीं पहुँच सकता।
- यह कैसे काम करता है: इंसान इस प्रक्रिया का एक अनिवार्य हिस्सा है। यदि इंसान अपना काम नहीं करता है, तो निर्णय कभी नहीं लिया जाता। सिस्टम रुक जाता है और इंसान का इंतज़ार करता है।
- उदाहरण: एक डॉक्टर जो मरीज का निदान करने के लिए AI का उपयोग कर रहा है। AI एक निदान का सुझाव देता है, लेकिन उपचार योजना को अंतिम रूप देने से पहले डॉक्टर को "अनुमोदन" (Approve) पर क्लिक करना होगा। डॉक्टर के बिना, वह योजना अस्तित्व में ही नहीं आएगी।
ह्यूमन-ऑन-द-लूप (HOTL) = द स्विच (The Switch)
- उपमा: एक हाई-स्पीड मैग्लेव ट्रेन के ड्राइवर की कल्पना करें। ट्रेन पूरी तरह से स्वचालित है और अपने आप स्टेशन तक पहुँचेगी। ड्राइवर वहां बैठा स्क्रीन देख रहा है। उसे कुछ भी चलाने के लिए किसी चीज़ को छूने की आवश्यकता नहीं है। लेकिन, यदि वह कोई समस्या देखता है, तो वह ट्रेन को रोकने या उसका रास्ता बदलने के लिए एक बड़ा लाल स्ốtच (Switch) दबा सकता है।
- यह कैसे काम करता है: सिस्टम डिफ़ॉल्ट रूप से अपने आप चलता है। इंसान मुख्य प्रक्रिया से बाहरी है। वे गलतियों को सुधारने के लिए वहां हैं, न कि मशीन को चलाने के लिए।
- उदाहरण: पैकेज डिलीवर करने वाला एक सेल्फ-ड्राइविंग ट्रक। वह खुद ड्राइव करता है। एक कंट्रोल सेंटर में बैठा इंसान बेड़े (fleet) पर नज़र रखता है। यदि ट्रक बर्फ के तूफान में फंस जाता है, तो इंसान उसे नया रास्ता दे सकता है। लेकिन यदि इंसान कुछ नहीं करता है, तो ट्रक फिर भी पैकेज डिलीवर कर देगा।
2. आप स्विच कब दबाते हैं? (समय का महत्व)
लेखकों ने महसूस किया कि "स्विच" (HOTL) होना केवल एक चीज़ नहीं है। यह इस पर निर्भर करता है कि आप उस स्विच को कब दबा सकते हैं। उन्होंने इसके तीन अलग-अलग तरीके खोजे हैं:
- सिंक्रोनस (Synchronous - रियल-टाइम): आप अभी स्क्रीन देख रहे हैं। यदि AI कोई गलती करता है, तो आप इसे तुरंत रोक सकते हैं। (जैसे ड्रोन की निगरानी करने वाला पायलट)।
- एसिंक्रोनस (Asynchronous - अगले दिन): आप लाइव फीड नहीं देख रहे हैं। इसके बजाय, आप अगले दिन लॉग्स (logs) देखते हैं। आप उस विशिष्ट गलती को नहीं रोक सकते जो हुई थी, लेकिन आप सेटिंग्स को ठीक कर सकते हैं ताकि AI कल वह गलती दोबारा न करे। (जैसे क्लास के बाद होमवर्क चेक करने वाला शिक्षक)।
- एंटिसिपेटरी (Anticipatory - आर्किटेक्ट): आप AI को बिल्कुल नहीं देख रहे हैं। इसके बजाय, आप नियम तय करते हैं पहले कि AI को क्या करने की अनुमति है। आप सीमाएं खींचते हैं कि AI क्या कर सकता है और क्या नहीं। (जैसे शहर योजनाकार जो कारों के चलने से पहले नक्शा बनाता है)।
3. आप और AI मिलकर कैसे सोचते हैं?
शोध पत्र यह भी देखता है कि आपका मस्तिष्क और AI का मस्तिष्क मिलकर कैसे काम करते हैं।
- पूरक बुद्धिमत्ता (Complementary Intelligence - साथ-साथ): आप और AI एक ही किचन में काम करने वाले दो शेफ की तरह हैं। आप सब्जियां काटते हैं; AI सॉस मिलाता है। आप अपना काम करते हैं, वह अपना काम करता है, और आप परिणामों को जोड़ते हैं। आप अभी भी अपने स्वयं के विचार रखते हैं।
- हाइब्रिड इंटेलिजत्ता (Hybrid Intelligence - फ्यूज्ड/मिश्रित): आप और AI एक साइबोर्ग की तरह हैं। AI आपको "सुपर-विज़न" देता है (जैसे AR चश्मे के साथ दीवारों के पार देखना)। आप AI के डेटा का उपयोग अपनी धारणा के हिस्से के रूप रूप में किए बिना निर्णय नहीं ले सकते क्योंकि आपके मस्तिष्क ने इसके डेटा का उपयोग करने के लिए खुद को अनुकूलित कर लिया है। आप मशीन के माध्यम से सोच रहे हैं।
4. बड़ी उलझन: "मानवीय निरीक्षण" (Human Oversight) क्या है?
यह सबसे महत्वपूर्ण हिस्सा है, जो कानूनों और नियमों के लिए जरूरी है।
कई लोग सोचते हैं कि "मानवीय निरीक्षण" का मतलब केवल एक इंसान की उपस्थिति है। लेखक कहते हैं नहीं।
- समस्या: आपके पास "गेट" की भूमिका (HITL) में एक इंसान हो सकता है जो बिना सोचे-समझे हर चीज़ पर बस "हाँ" क्लिक करता है। यह वास्तविक निरीक्षण नहीं है; यह केवल एक रबर स्टैम्प (बिना सोचे सहमति देना) है।
- समाधान: वास्तविक "मानवीय निरीक्षण" "स्विच" की भूमिका (HOTL) का एक विशेष, उच्च-गुणवत्ता वाला संस्करण है। इसका मतलब है कि इंसान केवल वहां बैठा नहीं है; वह तैयार, प्रशिक्षित और सशक्त है कि यदि मशीन खतरनाक हो जाए तो वास्तव में उसे रोक सके।
निष्कर्ष:
सिर्फ इसलिए कि एक इंसान "लूप में" है (बटन क्लिक कर रहा है), इसका मतलब यह नहीं है कि वह सिस्टम की "निगरानी" (oversight) कर रहा है। वास्तव में, कभी-कभी सबसे अच्छा निरीक्षण उस इंसान से आता है जो मुख्य प्रक्रिया से बाहर होता है, ध्यान से देख रहा होता है, और यदि मशीन पटरी से उतर जाए तो स्विच दबाने के लिए तैयार होता है।
यह क्यों मायने रखता है?
यदि हम "ह्यूमन-इन-द-लूप" जैसे अस्पष्ट शब्दों का उपयोग करना जारी रखते हैं, तो हम ऐसे AI सिस्टम बना सकते हैं जो सुरक्षित दिखते हैं लेकिन वास्तव में नहीं हैं। इस नए "गेट बनाम स्विच" भाषा का उपयोग करके, इंजीनियर, वकील और राजनेता वास्तव में सुरक्षित सिस्टम डिजाइन कर सकते हैं। वे पूछ सकते हैं: "क्या इंसान एक आवश्यक गेट है, या एक शक्तिशाली स्विच? क्या वे मशीन के साथ मिलकर सोच रहे हैं या बस देख रहे हैं? और क्या वे वास्तव में इसे रोकने के लिए तैयार हैं यदि चीजें गलत हो जाती हैं?"
यह स्पष्टता हमें रूपकों (metaphors) से हटकर वास्तविक, काम करने वाले सुरक्षा नियमों की ओर ले जाने में मदद करती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।