Epistemology gives a Future to Complementarity in Human-AI Interactions
यह शोध पत्र मानव-एआई पूरकता (human-AI complementarity) की सैद्धांतिक और अनुभवजन्य सीमाओं को कम्प्यूटेशनल रिलायबिलिज्म (computational reliabilism) के ज्ञानमीमांसीय परिप्रेक्ष्य के माध्यम से पुनर्गठित करते हुए इसे संबोधित करता है, और यह तर्क देता है कि इसे निर्णय लेने में बेहतर मार्गदर्शन करने तथा डिजाइन और शासन प्रथाओं को सूचित करने के लिए एक विश्वसनीय ज्ञानमीमांसीय प्रक्रिया के प्रमाण के रूप में कार्य करना चाहिए।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य विचार: क्यों "मिलकर काम करना" हमेशा पर्याप्त नहीं है
कल्पना कीजिए कि आप एक कठिन पहेली सुलझाने की कोशिश कर रहे हैं। आपके पास एक दोस्त (एक इंसान) और एक सुपर-फास्ट रोबोट (एक AI) है।
लंबे समय से, शोधकर्ता पूरकता (Complementarity) नामक एक अवधारणा के प्रति जुनून रखते रहे हैं। विचार सरल है: यदि इंसान और रोबोट मिलकर काम करते हैं, तो उन्हें अकेले इंसान या अकेले रोबोट की तुलना में पहेली को बेहतर तरीके से सुलझाना चाहिए।
यह पेपर तर्क देता है कि हालांकि यह सुनने में बहुत अच्छा लगता है, लेकिन "पूरकता" को सफलता के एकमात्र स्वर्ण मानक (gold standard) के रूप में मानना एक गलती है। यह वैसा ही है जैसे किसी रेस्टोरेंट का मूल्यांकन केवल इस आधार पर करना कि प्लेट में कितना खाना है, यह नजरअंदाज करते हुए कि क्या खाना ताजा और सुरक्षित है, या क्या शेफ वास्तव में कुशल है।
लेखक, एंड्रिया फेरारियो और उनके सहयोगियों ने इसे देखने का एक नया तरीका प्रस्तावित किया है। वे सुझाव देते हैं कि हमें यह पूछना बंद कर देना चाहिए, "क्या उन्होंने स्कोर को हराया?" और इसके बजाय पूछना चाहिए, "क्या यह निर्णय लेने का एक विश्वसनीय (reliable) तरीका है?" वे यह समझाने के लिए कंप्यूटेशनल रिलायबिलिज्म (Computational Reliabilism) नामक एक दार्शनिक ढांचे का उपयोग करते हैं।
समस्या: "पूरकता का जाल" (The Complementarity Trap)
यह पेपर मानव-AI टीम वर्क को मापने के वर्तमान तरीकों में चार बड़ी समस्याओं की पहचान करता है:
- यह एक 'विहंगम दृष्टि' (Hindsight Mirror) है: आप केवल तभी जान सकते हैं कि टीम "पूरक" थी जब आपको सही उत्तर पता चल जाए। लेकिन वास्तविक जीवन में (जैसे मरीज का निदान करने वाले डॉक्टर के मामले में), आपको अभी तक सही उत्तर नहीं पता होता। आपको अभी जानने की जरूरत है कि क्या आप उस टीम पर भरोसा कर सकते हैं।
- यह "लागत" को नजरअंदाज करता है: क्या होगा यदि मानव-AI टीम एक बेहतर स्कोर प्राप्त करती है, लेकिन उस तक पहुँचने के लिए इंसान को 10 घंटे अतिरिक्त काम करना पड़ता है? यह एक बुरा सौदा है। वर्तमान परिभाषा को बर्बाद किए गए समय या प्रयास की परवाह नहीं है।
- यह बहुत संकीमित है: एक टीम "पूरक" हो सकती है (दोनों में से किसी एक के अकेले काम करने से बेहतर), लेकिन फिर भी वह पक्षपाती, अनुचित या कानूनी रूप से जोखिम भरी हो सकती है। सिर्फ इसलिए कि आपने स्कोर में सुधार किया, इसका मतलब यह नहीं है कि आपने सही काम किया।
- इसे हासिल करना कठिन है: वास्तविक दुनिया के अध्ययनों में, मानव-AI टीमें अक्सर अकेले काम करने वाले सर्वश्रेष्ठ प्रदर्शनकर्ता को नहीं हरा पाती हैं। वे अक्सर वही गलतियाँ दोहराती हैं या भ्रमित हो जाती हैं।
समाधान: "विश्वसनीयता रिपोर्ट कार्ड" (The Reliability Report Card)
केवल इस बात पर "पास/फेल" देने के बजाय कि क्या टीम ने अकेले के स्कोर को हराया, लेखक सुझाव देते हैं कि हम मानव-AI टीम को एक विश्वसनीय प्रक्रिया (Reliable Process) के रूप में देखें।
इसे एक फ्लाइट सेफ्टी इंस्पेक्शन (उड़ान सुरक्षा निरीक्षण) की तरह समझें।
- पुराना तरीका (पूरकता): "क्या यह विमान कार की तुलना में 10% तेज उड़ा?" (यह अप्रासंगिक है यदि विमान दुर्घटनाग्रस्त हो जाता है)।
- नया तरीका (रिलायबिलिज्म): "क्या इस विमान को उड़ाना सुरक्षित है?" इसका उत्तर देने के लिए, हम तीन अलग-अलग चीजों की जांच करते हैं (जिन्हें विश्वसनीयता संकेतक कहा जाता है):
1. इंजन चेक (तकनीकी प्रदर्शन)
यहीं पर "पूरकता" फिट बैठती है। क्या टीम ने वास्तव में अकेले भागों की तुलना में बेहतर प्रदर्शन किया?
- उपमा: यदि पायलट और ऑटोपायलट मिलकर काम करते हैं, तो क्या वे अकेले पायलट या अकेले ऑटोपायलट की तुलना में विमान को अधिक सुचारू रूप से उतार पाते हैं?
- सावधानी: यह केवल एक साक्ष्य है। यह मदद करता है, लेकिन यह सुरक्षा की गारंटी नहीं देता।
2. ब्लूप्रिंट चेक (ज्ञान संबंधी मानक - Epistemic Standards)
क्या कार्य वास्तव में सही ढंग से किया जा रहा है?
- उपमा: क्या हम सही मानचित्र का उपयोग कर रहे हैं? क्या वह "गंतव्य" जिसे हम लक्षित कर रहे हैं, वास्तव में सही स्थान है? क्या हम सही चीजों को माप रहे हैं?
- उदाहरण: यदि कोई AI एक जज को जमानत तय करने में मदद करता है, तो क्या AI "पुनः अपराध करने के जोखिम" को माप रहा है, या यह केवल "प्रतिवादी की गरीबी" को माप रहा है? यदि ब्लूप्रिंट गलत है, तो टीम अविश्वसनीय है, चाहे वे कितनी भी अच्छी तरह से मिलकर काम क्यों न करें।
3. क्रू और नियम चेक (सामाजिक-तकनीकी अभ्यास)
क्या इंसान प्रशिक्षित हैं? क्या घबराने के लिए नियम तय हैं?
- उपमा: क्या पायलट प्रमाणित है? क्या इंजन के खराब होने पर क्या करना है, इसके लिए स्पष्ट नियम हैं? क्या कोई लॉगबुक है?
- उदाहरण: यदि एक डॉक्टर एक AI का उपयोग करता है, तो क्या उसके पास यह प्रशिक्षण है कि AI को कब अनदेखा करना है? क्या वहां एक प्रणाली है जिससे यह रिपोर्ट किया जा सके कि AI अजीब गलतियां करने लगा है?
"दक्षता" मीटर: क्या लाभ दर्द के लायक है?
पेपर एक नया विचार पेश करता है: कुशल पूरकता (Efficient Complementarity)।
कल्पimate कीजिए कि आप केक बना रहे हैं।
- परिदृश्य A: आप और एक रोबोट बैटर (घोल) मिलाते हैं। आपको अकेले बेक करने की तुलना में 1% अधिक स्वादिष्ट केक मिलता है। लेकिन, इसमें आपसे आटे के बारे में रोबोट के साथ बहस करने में 5 अतिरिक्त घंटे लग गए।
- परिदृश्य B: आप और एक रोबर्ट बैटर मिलाते हैं। आपको 20% अधिक स्वादिष्ट केक मिलता है, और इसमें केवल 5 मिनट लगे।
सोचने का पुराना तरीका बस यह कहता है कि "परिदृश्य A पूरक है क्योंकि आपने बेहतर प्रदर्शन किया!"
नया तरीका कहता है कि "परिदृश्य A अकुशल (inefficient) है। लागत (5 घंटे की बहस) छोटे से लाभ (1% अधिक स्वाद) से कहीं अधिक है। परिदृश्य B कुशल है।"
लेखक तर्क देते हैं कि हमें शुद्ध लाभ (Net Gain) को मापना चाहिए: परिणाम कितना बेहतर है, घटा हुआ वह प्रयास जो वहां तक पहुँचने में लगा।
पेपर के वास्तविक दुनिया के उदाहरण
- त्वचा विशेषज्ञ (एक अच्छी टीम): एक त्वचा रोग विशेषज्ञ कैंसर का पता लगाने के लिए AI का उपयोग करता है। उनके पास प्रशिक्षण है, AI अच्छी तरह से परीक्षित है, और वे जानते हैं कि AI को कब दोबारा जांचना है। कभी-कभी वे अकेले AI से बेहतर होते हैं, कभी-कभी अकेले डॉक्टर से। यह एक विश्वसनीय प्रक्रिया है क्योंकि तीनों चेक (इंजन, ब्लूप्रिंट, क्रू) मजबूत हैं।
- छात्र (एक "लगभग" टीम): एक छात्र गणित का होमवर्क करने के लिए एक फ्री AI चैटबॉट का उपयोग करता है। AI गलतियां करता है, लेकिन छात्र उन्हें पकड़ लेता है। कभी-कभी वे मिलकर सही उत्तर प्राप्त करते हैं। यह आंशिक रूप से विश्वसनीय (Partially Reliable) है। "इंजन" (पूरकता) कभी-कभी काम करता है, लेकिन "ब्लूप्रिंट" (AI एक प्रमाणित गणित उपकरण नहीं है) और "क्रू" (कोई शिक्षक निगरानी नहीं) कमजोर हैं। अंतिम परीक्षा के लिए इस पर भरोसा करना जोखिम भरा है।
- फोरेंसिक लैब (एक "कोई लाभ नहीं" वाली टीम): एक लैब वॉयस-रिकग्निशन AI का उपयोग करती है। मानव विशेषज्ञ पहले से ही इतना अच्छा है कि AI लगभग कुछ भी जोड़ नहीं पाता। लेकिन, AI की जांच करने में समय लगता है और यह अदालती मामले को धीमा कर देता है। यहाँ, पूरकता कम है, लेकिन प्रक्रिया अभी भी विश्वसनीय है क्योंकि मानव विशेषज्ञ है, और नियम (ब्लूप्रिंट/क्रू) सख्त हैं। पूरकता के लिए अनुकूलित (optimize) करने का दबाव डालना केवल समय और पैसा बर्बाद करेगा।
निष्कर्ष: हमें क्या करना चाहिए?
लेखक सुझाव देते हैं कि हमें "पूरकता" को एकमात्र लक्ष्य मानने के बजाय इसे छोड़ देना चाहिए। इसके बजाय, हमें विश्वास के लिए चेकलिस्ट (Checklist for Trust) का उपयोग करना चाहिए।
जब कोई अस्पताल, बैंक या सरकार मानव-AI टीमों का उपयोग करना चाहती है, तो उन्हें केवल यह नहीं पूछना चाहिए, "क्या यह बेहतर काम करता है?" उन्हें पूछना चाहिए:
- प्रोटोकॉल क्या है? (वे एक-दूसरे से कैसे बात करते हैं?)
- लागत क्या है? (इसमें कितना समय/पैसा लगता है?)
- क्या यह निष्पक्ष है? (क्या यह किसी विशिष्ट समूह को नुकसान पहुँचाता है?)
- क्या इसकी निगरानी की जा रही है? (यदि AI खराब हो जाता है तो क्या होता है?)
संक्षेप में: केवल उस जादुई क्षण को न खोजें जहाँ मानव + AI > मानव + AI हो। एक विश्वसनीय प्रणाली की तलाश करें जहाँ मानव और AI सुरक्षित रूप से, निष्पक्ष रूप से और कुशलता से मिलकर काम करते हैं, भले ही वे हमेशा "स्कोरबोर्ड" गेम में न जीतें।
पेपर समाप्त होता है एक चेकलिस्ट (परिशिष्ट में तालिका 1) के साथ जिसे डिजाइनर और नियामक यह सुनिश्चित करने के लिए उपयोग कर सकते हैं कि ये टीमें वास्तव में भरोसेमंद हैं, न कि केवल सांख्यिकीय रूप से "बेहतर"।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।