Beyond Abstract Compliance: Operationalising trust in AI as a moral relationship
यह शोध पत्र तर्क देता है कि एआई (AI) में विश्वास को एक स्थिर तकनीकी गुण के बजाय अफ्रीकी समुदायवादी नैतिकता में निहित एक गतिशील, संबंधपरक प्रक्रिया के रूप में पुनर्गठित किया जाना चाहिए, जो यह प्रस्तावित करता है कि विकास जीवनचक्र के दौरान समावेशी, सहभागी जुड़ाव अधिक न्यायसंगत और संदर्भ-संवेदनशील प्रणालियों को बढ़ावा देता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक घर बना रहे हैं। भरोसेमंद AI बनाने के वर्तमान नियम एक सख्त बिल्डिंग इंस्पेक्टर की तरह हैं जो केवल यह जाँचता है कि घर की नींव मजबूत है या नहीं, खिड़कियों की संख्या सही है या नहीं, और क्या वैध परमिट है। यदि घर चेकलिस्ट पास कर लेता है, तो इंस्पेक्टर कहता है, "यह घर भरोसेमंद है।"
लेकिन इस शोध पत्र के लेखक तर्क देते हैं कि भरोसा केवल एक चेकलिस्ट पास करने के बारे में नहीं है। भरोसा एक पड़ोसी के साथ संबंध की तरह है। आप किसी पड़ोसी पर केवल इसलिए भरोसा नहीं करते क्योंकि उसके पास एक सुंदर बाड़ (तकनीकी अनुपालन) है; आप उस पर इसलिए भरोसा करते हैं क्योंकि आपने साथ मिलकर भोजन किया है, फर्नीचर हटाने में एक-दूसरे की मदद की है, और समय के साथ ईमानदारी का इतिहास बनाया है।
यह शोध पत्र सुझाव देता है कि हमें AI को एक "प्रोडक्ट फीचर" के रूप में देखना बंद करना चाहिए जिसे हम इंस्टॉल कर सकते हैं, और इसे एक जीवंत संबंध के रूप में देखना शुरू करना चाहिए जिसे हमें संवारना होगा।
यहाँ उनके विचारों का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:
1. समस्या: "चेकलिस्ट" का जाल
वर्तमान में, बड़े संगठन (जैसे यूरोपीय संघ) AI को भरोसेमंद बनाने के लिए नियम बनाते हैं: "पारदर्शी बनें," "निष्पक्ष रहें," "सुरक्षित रहें।" वे यह साबित करने के लिए चेकलिस्ट और ऑडिट जैसे उपकरणों का उपयोग करते हैं कि AI इन नियमों का पालन करता है।
- उपमा: यह एक रेस्तरां की तरह है जो अपनी खिड़की में "स्वास्थ्य निरीक्षक द्वारा अनुमोदित" का स्टिकर लगा देता है। यह आपको बताता है कि रसोई साफ है, लेकिन यह नहीं बताता कि शेफ वास्तव में आपके भोजन की कितनी परवाह करता है या भोजन आपके परिवार के लिए कैसा स्वाद देगा।
- समस्या: यह दृष्टिकोण मानता है कि भरोसा एक स्थिर चीज़ है जिसे आप "इंजीनियर" कर सकते हैं। लेखक कहते हैं कि भरोसा वास्तव में लोगों और तकनीक के बीच एक गतिशील नृत्य (dynamic dance) है। यदि आप केवल नियमों का पालन करते हैं लेकिन सिस्टम का उपयोग करने वाले लोगों को अनदेखा करते हैं, तो आपके पास एक "अनुपालक" (compliant) AI हो सकता है, लेकिन कोई वास्तव में उस पर भरोसा नहीं करेगा।
2. समाधान: "उबंटू" (Ubuntu) दर्शन
इसे ठीक करने के लिए, लेखक एक अफ्रीकी दर्शन की ओर देखते हैं जिसे उबंटू कहा जाता है। उबंटू का एक सामान्य कथन है, "मैं हूँ क्योंकि हम हैं।" इसका अर्थ है कि आप केवल एक अलग व्यक्ति नहीं हैं; आप अपने समुदाय के साथ अपने संबंधों से परिभाषित होते हैं।
- उपमा: एक अकेले व्यक्ति के रहने के लिए घर बनाने (पश्चिमी व्यक्तिवाद) के बजाय, कल्पना करें कि एक सामुदायिक उद्यान (community garden) बना रहे हैं। हर कोई मिलकर इसकी देखभाल करता है। उद्यान की सफलता इस बात पर निर्भर करती है कि पड़ोसी आपस में कितनी अच्छी तरह बात करते हैं, उपकरण साझा करते हैं और एक-दूसरे का ख्याल रखते हैं।
- लक्ष्य: शोध पत्र का प्रस्ताव है कि हम AI को एक एकाकी किले के बजाय एक सामुदायिक उद्यान की तरह बनाएं। हमें AI के निर्माण के बिल्कुल शुरुआत में ही उन लोगों को शामिल करने की आवश्यकता है जो इसका उपयोग करेंगे, न कि केवल अंत में।
3. "ट्रस्ट-बाय-डिज़ाइन" के चार स्तंभ
लेखक इस दर्शन को कार्रवाई में बदलने के लिए चार मुख्य नियम सुझाते हैं। इन्हें एक मजबूत मेज के चार पैरों के रूप में सोचें:
सामुदायिकता (Communitarianism - "हम" वाला दृष्टिकोण):
- इसका अर्थ है: केवल यह न पूछें, "क्या यह उपयोगकर्ता की मदद करता है?" बल्कि पूछें, "क्या यह पूरे समुदाय की मदद करता है?"
- उपमा: सड़क की योजना बनाते समय, केवल ड्राइवर से यह न पूछें कि सड़क तेज़ है या नहीं। पैदल यात्रियों, स्थानीय दुकानदारों और स्कूल बस ड्राइवरों से पूछें कि क्या सड़क सभी के लिए सुरक्षित है।
- AI में: डेवलपर्स को समुदायों के साथ मिलकर यह तय करना चाहिए कि AI को क्या करना चाहिए, यह सुनिश्चित करते हुए कि यह समूह की मदद करे, न कि केवल व्यक्ति की।
दूसरों के प्रति सम्मान (Respect for Others - "मानवीय गरिमा" वाला दृष्टिकोण):
- इसका अर्थ है: प्रत्येक व्यक्ति को एक पूर्ण मानव के रूप में देखें जिसका एक इतिहास और एक समुदाय है, न कि केवल एक डेटा पॉइंट के रूप में।
- उपमा: एक ऐसे लाइब्रेरियन की कल्पना करें जो आपका नाम, आपकी पसंदीदा किताबें और आपके परिवार को जानता है, बजाय एक ऐसे रोबोट के जो केवल आपके बारकोड को स्कैन करता है और आपको किताब थमा देता है।
- AI में: उपयोगकर्ता से केवल "चेकबॉक्स" सहमति न लें। समुदाय से पूछें, "क्या इस डेटा का उपयोग करना ठीक है?" और उनकी गरिमा का सम्मान करें, भले ही वे जटिल तकनीक को पूरी तरह से न समझ सकें।
अखंडता (Integrity - "कथनी और करनी में समानता" वाला दृष्टिकोण):
- इसका अर्थ है: ईमानदार और सुसंगत होना, तब भी जब कोई देख नहीं रहा हो।
- उपमा: यह उस दोस्त के बीच का अंतर है जो मदद करने का वादा करता है और वास्तव में ट्रक लेकर आता है, बनाम उस दोस्त के बीच जो मदद करने को कहता है लेकिन फिर गायब हो जाता है।
- AI में: यदि AI कोई गलती करता है, तो डेवलपर्स को उसे छिपाना नहीं चाहिए। उन्हें इसे स्वीकार करना चाहिए, इसे ठीक करना चाहिए, और समझाना चाहिए कि यह क्यों हुआ। भरोसा तब बढ़ता है जब लोग देखते हैं कि आप अपनी गलतियों को सुधार रहे हैं।
डिज़ाइन प्र로सिटी (Design Publicity - "खुली रसोई" वाला दृष्टिकोण):
- इसका अर्थ है: केवल यह न समझाएं कि AI कैसे काम करता है; यह भी समझाएं कि आपने इसे इस तरह क्यों बनाया।
- उपमा: एक शेफ के जो रसोई में छिपकर रहता है और केवल अंतिम व्यंजन दिखाता है, के बजाय कल्पना करें कि एक शेफ आपको रसोई में आमंत्रित करता है ताकि आप सामग्री देख सकें, यह समझ सकें कि उन्होंने उस मसाले को क्यों चुना, और परोसे जाने से पहले सॉस को चख सकें।
- AI में: डेवलपर्स को अपने लक्ष्यों, अपने मूल्यों और अपने डेटा विकल्पों को AI लॉन्च करने से पहले खुले तौर पर साझा करना चाहिए, ताकि समुदाय कह सके, "हाँ, यह हमारे लिए सही है," या "नहीं, यह हमारे मूल्यों के अनुरूप नहीं है।"
4. इसे व्यवहार में लाना: दो वास्तविक दुनिया के उदाहरण
शोध पत्र दिखाता है कि यह दो विशिष्ट क्षेत्रों में कैसे काम करता है:
A. स्वास्थ्य सेवा (एंटीबायोटिक का उदाहरण)
- परिदृश्य: एक AI जो डॉक्टरों को यह तय करने में मदद करता है कि मरीजों को कौन से एंटीबायोटिक्स देने हैं।
- पुराना तरीका: AI तकनीकी विशेषज्ञों द्वारा बनाया जाता है, सटीकता के लिए परीक्षण किया जाता है, और फिर डॉक्टरों को सौंप दिया जाता है।
- नया तरीका (ट्रस्ट-बाय-डिज़ाइन):
- सामुदायिकता: डॉक्टर, मरीज और फार्मासिस्ट मिलकर यह तय करने के लिए बैठते हैं कि AI को किसे प्राथमिकता देनी चाहिए (जैसे, दवा प्रतिरोध को रोकना बनाम मरीज को जल्दी ठीक करना)।
- सम्मान: AI केवल मरीज के डेटा को नहीं देखता; यह मरीज के इतिहास और डॉक्टर के निर्णय का सम्मान करता है।
- अखंडता: यदि AI एक गलत एंटीबायोटिक का सुझाव देता है, तो सिस्टम इसे स्वीकार करता है और सीखता है, न कि पूर्ण होने का ढोंग करता है।
- प्रोसिटी (Publicity): डॉक्टर और मरीज जानते हैं कि AI कुछ सुझाव क्यों देता है, ताकि वे इसे एक 'ब्लैक बॉक्स' के बजाय एक भागीदार के रूप में भरोसा कर सकें।
B. शिक्षा (AI ट्यूटर का उदाहरण)
- परिदृश्य: एक AI ट्यूटर जो छात्रों को सीखने में मदद कर रहा है।
- पुराना तरीका: AI शिक्षक की जगह लेता है या केवल तथ्य प्रदान करता है।
- नया तरीका (ट्रस्ट-बाय-डिज़ाइन):
- सामुदायिकता: लक्ष्य शिक्षकों (जो बच्चे को पालने वाला "गाँव" हैं) को बदलना नहीं है, बल्कि उन्हें समर्थन देना है। AI को समुदाय को जोड़ने के लिए डिज़ाइन किया गया है, न कि छात्र को अलग-थलग करने के लिए।
- सम्मान: AI छात्र की स्थानीय भाषा बोलता है और उनकी सांस्कृतिक पृष्ठभूमि को समझता है। यह उन्हें गलतियों के लिए शर्मिंदा नहीं करता बल्कि विकास के लिए प्रोत्साहित करता है।
- अखंडता: यदि AI कोई प्रश्न गलत करता है, तो वह छात्र और शिक्षक को बताता है, "मैंने गलती की," और उसे ठीक करता है।
- प्रोसिटी (Publicity): समुदाय यह तय करने में मदद करता है कि AI क्या सिखाता है, यह सुनिश्चित करते हुए कि यह केवल पश्चिमी विचारों को ही नहीं सिखाता बल्कि स्थानीय ज्ञान का भी सम्मान करता है।
निष्कर्ष
शोध पत्र का तर्क है कि हम विश्वास को मशीन में वैसे नहीं "कोड" कर सकते जैसे हम एक फीचर को कोड करते हैं। विश्वास एक नैतिक संबंध है। ऐसा AI बनाने के लिए जिस पर लोग वास्तव में भरोसा कर सकें, हमें समुदायों को निष्क्रिय उपयोगकर्ताओं के रूप में देखना बंद करना होगा और उन्हें सह-निर्माता (co-creators) के रूप में मानना शुरू करना होगा। हमें ऐसा AI बनाना होगा जो पारदर्शी, ईमानदार और उन लोगों और समुदायों के प्रति गहराई से सम्मानजनक हो जिनकी वह सेवा करता है, ठीक वैसे ही जैसे एक अच्छा पड़ोसी करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।