AI, Trust, and Teaming: The Humans-as-Handlers Approach for Autonomous and Opaque AI Systems
यह शोध पत्र तर्क देता है कि उच्च-जोखिम वाले स्वायत्त और अपारदर्शी एआई (AI) प्रणालियों के लिए, मनुष्यों को केवल "उपयोगकर्ताओं" के बजाय "हैंडलर्स" (handlers) के रूप में पुनर्कल्पित किया जाना चाहिए—एक ऐसा सादृश्य जो मानव-पशु संबंधों से लिया गया है जो उत्तरदायित्व की रेखाओं को स्पष्ट करता है और विश्वास को बढ़ावा देता है, जो अंततः मानव-मशीन टीमों को वास्तविक सहयोग की ओर निर्देशित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य विचार: "उपयोगकर्ता" (User) बनना बंद करें, "हैंडलर" (Handler) बनना शुरू करें
कल्पना कीजिए कि आप कार चला रहे हैं। आप उपयोगकर्ता हैं। आप चाबी घुमाते हैं, एक्सीलेटर दबाते हैं, और कार ठीक वही करती है जो आप उसे करने के लिए कहते हैं। यदि कार खराब हो जाती है, तो आप जानते हैं कि यह एक यांत्रिक विफलता है।
अब, कल्पना कीजिए कि आप पार्क में एक कुत्ते को टहला रहे हैं। आप एक हैंडलर हैं। कुत्ता बुद्धिमान है, प्रशिक्षित है, और आमतौर पर आपके आदेशों का पालन करता है। लेकिन कुत्ता एक स्वतंत्र जीव भी है। वह कुछ दिलचस्प सूंघ सकता है, डर सकता है, या "बैठ जाओ" कहने पर भी गिलहरी का पीछा करने का निर्णय ले सकता है। आप कुत्ते को किसी औज़ार की तरह केवल "उपयोग" नहीं कर सकते; आपको उसके साथ काम करना होगा। आपको उसके व्यक्तित्व, उसकी विचित्रताओं और यह जानने की आवश्यकता है कि वह कब पट्टे से बाहर जा सकता है।
लेखक का मुख्य तर्क:
जैसे-जैसे आर्टिफिशियल इंटेलिजेंस (AI) अधिक स्मार्ट, तेज़ और रहस्यमय (अपारदर्शी) होता जा रहा है, हम अब इसे एक साधारण कार या कैलकुलेटर की तरह नहीं मान सकते। चिकित्सा और युद्ध जैसे उच्च-जोखिम वाले क्षेत्रों में, जहाँ गलतियाँ जानलेवा हो सकती हैं, हमें इंसानों को AI के "उपयोगकर्ता" के रूप में सोचना बंद करना होगा और उन्हें कुत्तों को संभालने की तरह AI के "हैंडलर" के रूप में सोचना शुरू करना होगा।
पुरानी पद्धति क्यों काम नहीं करती
अभी, हम पारदर्शिता की मांग करके AI पर भरोसा करने की कोशिश करते हैं। हम "कोड" देखना चाहते हैं या यह समझना चाहते हैं कि AI ने निर्णय कैसे लिया। लेखक का तर्क है कि यह कुत्ते के मस्तिष्क का स्कैन पढ़ने की कोशिश करने जैसा है। यह काम नहीं करता।
- "ब्लैक बॉक्स" की समस्या: उन्नत AI अक्सर एक "ब्लैक बॉक्स" होता है। हम जानते हैं कि क्या अंदर जा रहा है (डेटा) और क्या बाहर आ रहा है (एक निर्णय), लेकिन हम बीच की जटिल प्रक्रिया को नहीं देख सकते।
- कुत्ते का उदाहरण: आपको यह जानने के लिए अपने कुत्ते के मस्तिष्क की सटीक रसायन विज्ञान जानने की आवश्यकता नहीं है कि यदि वह बिल्ली को देखता है, तो वह कूद सकता है। आप यह इसलिए जानते हैं क्योंकि आपके पास परिचितता (Familiarity) है। आपने उसके साथ सैकड़ों बार सैर की है। आपके पास एक "अंतर्ज्ञान" (Gut feeling) है कि वह कब गलत व्यवहार करने वाला है।
पेपर का दावा है कि खतरनाक AI के लिए, पारदर्शिता से अधिक परिचितता महत्वपूर्ण है। आपको AI के "व्यक्तित्व" और सीमाओं को इतनी अच्छी तरह से जानना आवश्यक है कि आप वास्तव में कुछ होने से पहले ही महसूस कर सकें कि कुछ गलत होने वाला है।
"कुत्ते" का उदाहरण: अच्छा और बुरा
लेखक सुझाव देते हैं कि हमें AI के साथ अपने संबंधों को इस तरह से मॉडल करना चाहिए जैसे सैनिक कॉम्बैट डॉग्स (युद्ध कुत्तों) के साथ काम करते हैं।
जहाँ यह उदाहरण काम करता है (अच्छे हिस्से):
- साथ में प्रशिक्षण: जिस तरह एक सैनिक बंधन बनाने के लिए महीनों तक कुत्ते के साथ प्रशिक्षण लेता है, उसी तरह इंसानों को भी AI के प्रशिक्षण में शामिल होना चाहिए, न कि केवल तैयार उत्पाद को हाथ में लेना चाहिए।
- सीमाओं को जानना: एक हैंडलर जानता है कि कुत्ता तेज़ आवाज़ से डर सकता है। एक मानव हैंडलर को यह जानने की आवश्यकता है कि AI किसी विशिष्ट प्रकार के मौसम या अजीब डेटा पैटर्न से भ्रमित हो सकता है।
- ज़िम्मेदारी: यदि कोई कॉम्बैट डॉग गलत व्यक्ति को काट लेता है, तो हैंडलर ज़िम्मेदार होता है, कुत्ता नहीं। इसी तरह, यदि AI कोई गलती करता है, तो मानव "हैंडलर" ज़िम्मेदार होता है। यह इस भ्रम को दूर करता है कि दोष किसका है ("जिम्मेदारी का अंतर")।
जहाँ यह उदाहरण विफल होता है (बुरे हिस्से):
- भावनाओं का अभाव: कुत्तों की भावनाएं होती हैं; वे डरते या उत्साहित होते हैं। AI के पास ऐसी कोई चीज़ नहीं है। उसका कोई "दिल" नहीं होता।
- बहुत अधिक लगाव न रखें: सैनिकों को सिखाया जाता है कि कॉम्बैट डॉग्स प्रतिस्थापनीय संपत्ति हैं। यदि युद्ध में एक कुत्ता मर जाता है, तो यह दुखद है, लेकिन मिशन जारी रहता है। यदि सैनिक अपने AI के प्रति बहुत अधिक भावनात्मक रूप से जुड़ जाते हैं (जैसे कि एक पालतू जानवर), तो वे आवश्यक होने पर उसे बंद करने या उसका बलिदान देने में हिचकिचा सकते हैं। पेपर चेतावनी देता है कि AI को एक प्यारे पालतू जानवर की तरह नहीं, बल्कि एक अत्यधिक कुशल, स्वतंत्र कामकाजी साथी के रूप में देखें।
समाधान: एक सहयोगात्मक टीम
पेपर मानव-AI टीमों के बारे में सोचने का एक नया तरीका प्रस्तावित करता है:
- "उपयोग करना" कहना बंद करें: हम हथौड़े का "उपयोग" नहीं कर रहे हैं। हम एक साथी के साथ "सहयोग" कर रहे हैं।
- "हैंडलर" की मानसिकता: इंसानों को AI के बारे में गहराई से परिचित होना चाहिए। उन्हें यह जानने की आवश्यकता है कि सिस्टम कब विफल हो सकता है (अंतर्ज्ञान)।
- विश्वास अनुभव पर आधारित है, स्पष्टीकरण पर नहीं: आप किसी कुत्ते पर इसलिए भरोसा नहीं करते क्योंकि आप उसके जीव विज्ञान को समझते हैं; आप उस पर इसलिए भरोसा करते हैं क्योंकि आपने उसके साथ काम किया है। हमें तकनीकी मैनुअल पढ़ने के बजाय साझा अनुभव और प्रशिक्षण के माध्यम से AI के साथ इसी तरह का विश्वास बनाना होगा।
निचोड़
युद्ध या सर्जरी जैसे खतरनाक कामों में, हम कार्रवाई करने से पहले AI के निर्णय को समझाने का इंतज़ार नहीं कर सकते। हमें ऐसे इंसानों की आवश्यकता है जिनके पास मशीन के लिए गहरा, सहज "एहसास" हो। AI को एक उपकरण के रूप में उपयोग करने के बजाय एक हाथ से संभालने वाले कुत्ते की तरह मानकर, हम यह सुनिश्चित करते हैं कि:
- इंसान परिणामों की पूरी जिम्मेदारी लेते हैं।
- इंसान बिल्कुल जानते हैं कि कब हस्तक्षेप करना है और AI को रोकना है यदि वह गलती करने वाला है।
- हम एक ऐसी टीम बनाते हैं जहाँ मानव और मशीन एक लक्ष्य की ओर मिलकर काम करते हैं, न कि केवल मानव बटन दबा रहा है।
लेखक का निष्कर्ष है कि जब तक हम अपनी मानसिकता को "उपयोगकर्ता" से "हैंडलर" में नहीं बदलते, हम उन प्रणालियों के साथ एक खतरनाक जुआ खेल रहे हैं जिन्हें हम वास्तव में नहीं समझते।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।