What We Know about Responsible AI Practices in Industry: A Half Decade of Empirical Research
यह शोधपत्र छह वर्षों के दौरान 161 अनुभवजन्य अध्ययनों के निष्कर्षों को संश्लेषित करता है ताकि प्रौद्योगिकी उद्योग के भीतर जिम्मेदार एआई (Responsible AI) प्रथाओं में प्रगति, व्यवसायीकरण और निरंतर चुनौतियों का एक व्यापक अवलोकन प्रदान किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल, अदृश्य रोबोट मस्तिष्क बना रहे हैं जो कहानियाँ लिख सकता है, बीमारियों का निदान कर सकता है, या आपके अगले पसंदीदा गाने का सुझाव दे सकता है। इस क्षेत्र को आर्टिफिशियल इंटेलिजेंस (AI) कहा जाता है। लेकिन एक असली मस्तिष्क की तरह, यह रोबोट मस्तिष्क भी कभी-कभी भ्रमित हो सकता है, गलत चुनाव कर सकता है, या अनजाने में लोगों को नुकसान पहुँचा सकता है। इसे रोकने के लिए, वैज्ञानिकों और कंपनियों ने नियमों का एक समूह बनाया है जिसे "रिस्पॉन्सिबल एआई" (RAI) कहा जाता है। RAI को उस रोबोट के नैतिक दिशा-सूचक यंत्र (मोरल कंपास) और सुरक्षा नियमावली के रूप में समझें। यह केवल रोबोट को स्मार्ट बनाने के बारे में नहीं है; यह यह सुनिश्चित करने के बारे में भी है कि वह सबके लिए दयालु, निष्पक्ष और सुरक्षित हो। लंबे समय तक, लोगों ने सोचा: "क्या वे लोग जो वास्तव में इन रोबोटों को बना रहे हैं, वास्तव में जानते हैं कि इस नैतिक दिशा-सूचक यंत्र का उपयोग कैसे किया जाए? क्या वे नियमों का पालन कर रहे हैं, या वे बस उन्हें अनदेखा कर रहे हैं?" यह एक बड़ा सवाल है जिसे शोधकर्ताओं की एक टीम ने जांचने का फैसला किया।
इसका उत्तर खोजने के लिए, शोधकर्ताओं ने केवल अनुमान नहीं लगाया या कंप्यूटर कोड नहीं देखा। इसके बजाय, उन्होंने डिजिटल जासूसों की तरह काम किया, पिछले छह वर्षों में प्रकाशित 161 विभिन्न वैज्ञानिक अध्ययनों के विशाल ढेर की गहराई से जांच की। ये सभी अध्ययन वास्तविक तकनीकी कंपनियों में काम करने वाले वास्तविक लोगों के साक्षात्कार, सर्वेक्षण और अवलोकन थे, जो यह समझने की कोशिश कर रहे थे कि वे वास्तव में अपने दैनिक कार्यों में इन नैतिक नियमों को कैसे संभालते हैं। वे यह देखना चाहते थे कि क्या "रिस्पॉन्सिबल एआई" आंदोलन केवल दीवार पर लिखा एक शानदार नारा है, या यह वास्तव में रोबोट बनाने के तरीके को बदल रहा है।
जासूसी रिपोर्ट: उन्हें क्या मिला
शोधकर्ताओं की रिपोर्ट, जिसका शीर्षक "इंडस्ट्री में रिस्पॉन्सिबल एआई प्रथाओं के बारे में हम क्या जानते हैं" है, एक ऐसी कंपनी की कहानी बताती है जो धीरे-धीरे, अनाड़ी तरीके से, लेकिन निश्चित रूप से बड़ी हो रही है।
अच्छी खबर: रोशनी जल रही है
कुछ साल पहले, एआई बनाने वाले कई कर्मचारी यह भी नहीं जानते थे कि नैतिक दिशा-सूचक यंत्र का अस्तित्व है। वे रोबोट को तेज़ और स्मार्ट बनाने पर इतने केंद्रित थे कि वे यह जांचना भूल गए कि क्या वह बुरा व्यवहार कर रहा है। लेकिन शोध पत्र सुझाव देता है कि चीजें बदल रही हैं। अधिक से अधिक कर्मचारी अब यह महसूस कर रहे हैं कि "रिस्पॉन्सिबल एआई" एक वास्तविक चीज़ है और यह मायने रखती है। यह एक कक्षा की तरह है जहाँ, शुरू में, कोई नहीं जानता था कि साझा करने के बारे में नियम मौजूद हैं, लेकिन अब सभी जानते हैं कि वे मौजूद हैं।
कंपनियाँ भी अधिक व्यवस्थित हो रही हैं। केवल एक व्यक्ति के चुपचाप निष्पक्षता के बारे में चिंता करने के बजाय, कंपनियाँ अब विशेष "RAI विशेषज्ञ" नियुक्त करना शुरू कर रही हैं और उन लोगों के लिए आधिकारिक पद बना रही हैं जो रोबोट के व्यवहार की जाँच करते हैं। वे यह पता लगाने के लिए चेकलिस्ट और सॉफ्टवेयर टूल का भी उपयोग करना शुरू कर रहे हैं कि दुनिया में जाने से पहले रोबोट की गलतियों को कैसे पकड़ा जाए। यह एक शेफ की तरह है जो अंत में केक पक गया है या नहीं, यह अंदाज़ा लगाने के बजाय आखिरकार यह जांचने के लिए थर्मामीटर खरीद लेता है कि केक पका है या नहीं।
बुरी खबर: दिशा-सूचक यंत्र अभी भी टूटा हुआ है
हालाँकि, रिपोर्ट यह बहुत स्पष्ट करती है कि केवल इसलिए कि लोग नियमों को जानते हैं, इसका मतलब यह नहीं है कि वे उनका पालन भी कर सकते हैं। शोधकर्ताओं ने पाया कि कई कर्मचारी खोया हुआ महसूस करते हैं। वे जानते हैं कि उन्हें निष्पक्ष होना चाहिए, लेकिन उनके पास इसे करने के लिए सही प्रशिक्षण या सही उपकरण नहीं हैं। यह किसी को रेस कार चलाने के लिए कहने जैसा है लेकिन उसे ड्राइविंग लाइसेंस या नक्शा न देना।
सबसे बड़ी समस्याओं में से एक यह है कि कंपनियाँ जो उपकरण उपयोग करती हैं, वे अक्सर बहुत अस्पष्ट होते हैं। कल्पना कीजिए कि एक कुकबुक कहती है, "थोड़ा मसाला डालें।" यदि आप एक विशिष्ट केक बनाने की कोशिश कर रहे हैं तो यह मददगार नहीं है। इसी तरह, कई एआई उपकरण सामान्य सलाह देते हैं लेकिन वे कार्यकर्ता को यह नहीं बताते कि किसी विशिष्ट उत्पाद के लिए एक विशिष्ट फीचर बनाते समय उसे वास्तव में क्या करना चाहिए। कार्यकर्ता इन अमूर्त विचारों को वास्तविक कोड में अनुवाद करने की कोशिश में छोड़ दिए जाते हैं, और अक्सर इसे सही ढंग से करने के लिए पर्याप्त समय या धन भी नहीं होता।
बॉस की समस्या: "बाद में करना"
पेपर एक प्रमुख बाधा को भी उजागर करता है: बॉस। कई कंपनियों में, जो लोग इंचार्ज हैं, वे इस बात की परवाह अधिक करते हैं कि वे नया उत्पाद कितनी जल्दी लॉन्च कर सकते हैं, बजाय इसके कि वह कितना सुरक्षित है। शोधकर्ताओं ने पाया कि कर्मचारियों को अक्सर प्रोजेक्ट के बिल्कुल अंत में "सुरक्षा बॉक्स को चेक करने" के लिए कहा जाता है, जब समस्याओं को ठीक करने के लिए समय नहीं बचा होता है। यह "रिस्पॉन्सिबल एआई" को एक उबाऊ कागजी कार्रवाई में बदल देता है, जैसे कि केवल स्टैम्प पाने के लिए एक फॉर्म भरना, बजाय इसके कि वास्तव में रोबोट को सुरक्षित बनाया जाए। पेपर सुझाव देता है कि इन सुरक्षा जांचों के लिए पर्याप्त स्टाफ, समय और धन समर्पित किए बिना, दुनिया के बेहतरीन उपकरण भी काम नहीं आएंगे।
लापता हिस्से
अंत में, शोधकर्ताओं ने गौर किया कि कंपनियाँ अभी भी उन लोगों को सुनने के लिए संघर्ष कर रही हैं जो रोबोट नहीं बना रहे हैं। इसमें वे लोग शामिल हैं जो डेटा को लेबल करते हैं (वे कार्यकर्ता जो रोबोट को सिखाते हैं कि "बिल्ली" क्या दिखती है), वे लोग जो रोबोट का उपयोग करते हैं, और अन्य क्षेत्रों के विशेषज्ञ जैसे डॉक्टर या वकील। रिपोर्ट बताती है कि हालांकि कंपनियाँ मदद मांगना शुरू कर रही हैं, लेकिन वे अक्सर यह नहीं जानतीं कि ठीक से कैसे सुना जाए, या उनके पास ऐसे सही सिस्टम नहीं हैं जिससे ये बाहरी लोग कुछ गलत होने पर आवाज़ उठा सकें।
निष्कर्ष
तो, इसका क्या मतलब है? पेपर सुझाव देता है कि एआई उद्योग "ग्रोइंग पेन" (विकास की पीड़ा) के चरण में है। सभी सहमत हैं कि जिम्मेदार होना महत्वपूर्ण है, और इसे करने के लिए उपकरण भी दिखाई देने लगे हैं। लेकिन यह जानने और वास्तव में इसे अच्छी तरह से करने के बीच एक बड़ा अंतर है। शोधकर्ता निष्कर्ष निकालते हैं कि रिस्पॉन्सिबल एआई को वास्तव में काम करने के लिए, कंपनियों को इसे एक साइड प्रोजेक्ट या चेकलिस्ट की तरह मानना बंद करना होगा। उन्हें इसे अपने काम की नींव में बनाना होगा, अपने कर्मचारियों को वास्तविक प्रशिक्षण देना होगा, और उन लोगों की बात सुननी होगी जो उन रोबोटों से प्रभावित होंगे जिन्हें वे बना रहे हैं। जब तक ऐसा नहीं होता, तब तक रोबोट का नैतिक दिशा-सूचक यंत्र अभी भी थोड़ा डगमगाता हुआ है, और हमें इसे स्थिर करने के लिए काम करते रहना होगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।