Closing the AI Trust Gap: The Case for Independent Certification for Trustworthy AI
यह शोध पत्र तर्क देता है कि वर्तमान "एआई विश्वास अंतराल" (AI trust gap), जो जिम्मेदार एआई प्रथाओं को बाहरी रूप से सत्यापित और पुरस्कृत करने में असमर्थता के कारण उत्पन्न हुआ है, एक स्वतंत्र, परिणाम-उन्मुख प्रमाणन प्रणाली को लागू करके भरा जा सकता है जो ध्यान आंतरिक प्रक्रियाओं से हटाकर सत्यापन योग्य वास्तविक दुनिया के लाभों पर केंद्रित करता है, जिससे विश्वसनीय एआई के लिए बाजार विभेदीकरण और वाणिज्यिक प्रोत्साहन सक्षम हो सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
अदृश्य स्कोरकार्ड: अच्छी AI के लिए एक बैज की आवश्यकता क्यों है
कल्पना कीजिए कि आप एक विशाल, भविष्यवादी बाजार में जा रहे हैं जहाँ हर कोई रोबोट बेच रहा है। कुछ रोबोट बेहतरीन सुरक्षा सुविधाओं, सबसे निष्पक्ष नियमों और सबसे सावधानीपूर्वक इंजीनियरिंग के साथ बनाए गए हैं। अन्य को जल्दी में, शॉर्टकट के साथ और शायद कुछ छिपी हुई खामियों के साथ बनाया गया है। समस्या यह है कि सभी दुकानदार एक ही चमकदार "हम जिम्मेदार हैं!" वाले बैज पहने हुए हैं। आप केवल देखकर अंतर नहीं बता सकते। आज की आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया यही है।
कंप्यूटर विज्ञान की दुनिया में, रिस्पॉन्सिबल AI (Responsible AI) और ट्रस्टवर्दी AI (Trustworthy AI) के बीच एक बड़ा अंतर है। रिस्पॉन्सिबल AI को एक ऐसे शेफ के रूप में सोचें जो अपनी रसोई में रेसिपी का पूरी तरह से पालन करता है। वे सामग्री को मापते हैं, हाथ धोते हैं और हर सुरक्षा नियम का पालन करते हैं। यह बहुत अच्छा है, लेकिन यह गारंटी नहीं देता कि केक स्वादिष्ट होगा या इसे खाने के बाद आपको बीमारी नहीं होगी। ट्रस्टवर्दी AI वास्तविक परिणाम है: वह केक जो स्वादिष्ट, सुरक्षित है और आपको खुश करता है। अभी, हमारे पास बहुत सारे शेफ हैं जो रेसिपी का पालन कर रहे हैं, लेकिन हमारे पास यह जानने का कोई तरीका नहीं है कि वास्तव में कौन सा शेफ अच्छा केक बना रहा है। हमें एक ऐसी प्रणाली की आवश्यकता है जो "हमने कड़ी मेहनत की" को "हमने वास्तव में परिणाम दिया" में बदल सके। यह एक पहेली है जिसे दुनिया भर के विश्वविद्यालयों और अनुसंधान प्रयोगशालाओं के विशेषज्ञों का एक समूह हल करने की कोशिश कर रहा है।
महान AI विश्वास अंतराल (The Great AI Trust Gap)
डिजिटल ट्रस्ट काउंसिल का एक नया शोध पत्र, जिसे यूनिवर्सिटी कॉलेज लंदन, कोलंबिया यूनिवर्सिटी और कैम्ब्रिज यूनिवर्सिटी जैसे स्थानों के शोधकर्ताओं की एक टीम द्वारा लिखा गया है, तर्क देता है कि हमारे पास एक विशाल "विश्वास अंतराल" (Trust Gap) है। भले ही कंपनियाँ सुरक्षित और निष्पक्ष AI बनाने के लिए लाखों खर्च कर रही हैं, लेकिन बाजार को उन्हें पुरस्कृत करने का तरीका नहीं पता है। यह एक ऐसी दौड़ की तरह है जहाँ हर कोई समान दूरी दौड़ता है, लेकिन फिनिशिंग लाइन अदृश्य होती है।
लेखक सुझाव देते हैं कि वर्तमान प्रणाली तीन मुख्य कारणों से टूटी हुई है, जिन्हें वे "संरचनात्मक अंतराल" (structural gaps) कहते हैं।
1. "लेमन" की समस्या: आप अच्छे और बुरे के बीच अंतर नहीं कर सकते
कल्पना कीजिए कि आप एक पुरानी कार खरीद रहे हैं। यदि विक्रेता कहता है, "यह कार सुरक्षित है," लेकिन आपके पास ब्रेक या इंजन की जांच करने का कोई तरीका नहीं है, तो आप शायद सबसे सस्ती कार ही खरीद लेंगे। AI की दुनिया में, जो कंपनियाँ सुरक्षा टीमों और नैतिकता बोर्डों पर एक बड़ी राशि खर्च करती हैं, वे ग्राहकों को उन कंपनियों के समान ही दिखाई देती हैं जो केवल कहती हैं, "हम पर भरोसा करें।" क्योंकि खरीदार (जैसे निवेशक या आम लोग) अंतर नहीं कर सकते, इसलिए वे सुरक्षित कारों के लिए अतिरिक्त भुगतान नहीं करते हैं। यह सुरक्षा के प्रति एक बुरा व्यावसायिक निर्णय बनाता है। शोध पत्र इसे "लेमन्स का बाजार" (market for lemons) कहता है, जहाँ अच्छे उत्पादों को बाहर धकेल दिया जाता है क्योंकि कोई यह साबित नहीं कर सकता कि वे अच्छे हैं।
2. इंजन का परीक्षण, न कि ड्राइविंग का
अभी, जब हम AI का परीक्षण करते हैं, तो हम ज्यादातर एक गैरेज में "इंजन" को देखते हैं। हम इसे कंप्यूटर टेस्ट के माध्यम से चलाते हैं ताकि यह देख सकें कि क्या यह एक क्विज़ पास करता है। लेकिन AI केवल एक मस्तिष्क नहीं है; यह एक पूरा सिस्टम है जो वास्तविक दुनिया में वास्तविक लोगों के साथ बातचीत करता है। पेपर का तर्क है कि हम मॉडल का अलगाव में परीक्षण कर रहे हैं, जैसे कि यह देखना कि क्या कार शुरू होती है, लेकिन यह नहीं देख रहे हैं कि क्या वह बारिश भरी राजमार्ग पर सुरक्षित रूप से चलती है। एक रोबोट परीक्षण में पूरी तरह से पास हो सकता है लेकिन फिर वास्तव में किसी डॉक्टर या शिक्षक की मदद करते समय अजीब व्यवहार कर सकता है। हमें पूरे "सोशियोटेक्निकल सिस्टम" (sociotechnical system) का परीक्षण करने की आवश्यकता है—रोबोट, उसका उपयोग करने वाले लोग और वह वातावरण जिसमें वह है—एक लंबी अवधि के लिए, न कि लैब में कुछ मिनटों के लिए।
3. "बुरा मत बनो" वाला जाल
वर्तमान में, पूरी प्रणाली इस बात पर केंद्रित है कि AI बुरा काम न करे। यह एक स्कूल की तरह है जो आपको केवल तभी गोल्ड स्टार देता है जब आप डिटेंशन (अनुशासन दंड) नहीं पाते। लेकिन क्या होगा यदि आपको कभी डिटेंशन नहीं मिला, लेकिन आपने कभी किसी की मदद भी नहीं की? पेपर बताता है कि हमारे पास नुकसान को मापने के बेहतरीन उपकरण हैं (जैसे "क्या इस AI ने कुछ बुरा कहा?"), लेकिन लाभ (जैसे "क्या इस AI ने एक छात्र को तेजी से सीखने में मदद की?") को मापने के लिए लगभग कोई उपकरण नहीं हैं। क्योंकि हम केवल यह मापते हैं कि AI को किससे बचना चाहिए, कंपनियाँ "न्यूनतम सुरक्षित" रेखा तक पहुँचते ही काम करना बंद कर देती हैं। उनके पास अद्भुत बनने का कोई कारण नहीं है, क्योंकि "बुरा न होना" ही एकमात्र चीज़ है जिसे पुरस्कृत किया जाता है।
क्या गायब है? स्वतंत्र बैज (The Independent Badge)
पेपर इस बात पर गौर करता है कि अन्य उद्योग कैसे समाधान निकालते हैं। स्वास्थ्य सेवा में, डॉक्टर केवल यह नहीं कहते कि "मुझे लगता है कि यह दवा काम करती है।" उन्हें स्वतंत्र परीक्षणों के साथ इसे साबित करना होता है, और लोगों द्वारा दवा लेने के बाद दुष्प्रभावों की रिपोर्ट करने के सख्त नियम होते हैं। भवन निर्माण में, ग्रीन बिल्डिंग लेबल (जैसे LEED) होते हैं जो दिखाते हैं कि एक इमारत वास्तव में ऊर्जा-कुशल है, न कि केवल यह कि वास्तुकार ने कहा था कि यह होगा। साइबर सुरक्षा में, कंपनियों का तीसरे पक्ष द्वारा ऑडिट किया जाता है ताकि यह साबित हो सके कि वे आपके डेटा को सुरक्षित रख सकते हैं।
लेखक तर्क देते हैं कि AI को भी कुछ ऐसा चाहिए: स्वतंत्र, परिणाम-उन्मुख प्रमाणन (Independent, Outcome-Oriented Certification)।
यह केवल कंपनियों के पालन करने के लिए नियमों का एक और सेट नहीं है। यह एक "कनेक्टिव लेयर" है जो सब कुछ जोड़ती है। यह कैसे काम करेगा:
- तीसरे पक्ष की जाँच: एक स्वतंत्र समूह (AI बनाने वाली कंपनी नहीं) परिणामों को सत्यापित करेगा।
- वास्तविक दुनिया का प्रमाण: वे केवल कोड की जाँच नहीं करेंगे; वे यह भी जाँचेंगे कि क्या AI वास्तव में समय के साथ वास्तविक दुनिया में लोगों की मदद करता है।
- एक स्पष्ट संकेत: परिणाम एक स्पष्ट बैज या लेबल होगा जिसे खरीदार, निवेशक और नियामक समझ सकें। यह आपको बताएगा, "यह AI न केवल सुरक्षित है; बल्कि यह वास्तव में अच्छे काम भी करता है।"
यह अभी क्यों महत्वपूर्ण है
पेपर सुझाव देता है कि यदि हम जल्द ही यह प्रणाली नहीं बनाते हैं, तो AI उसी रास्ते पर चल सकता है जिस पर सोशल मीडिया चला था। सोशल मीडिया कंपनियों ने ऐसे प्लेटफॉर्म बनाए जो व्यसनी और हानिकारक थे क्योंकि वे "एंगेजमेंट" (ऐप पर आपके द्वारा बिताया गया समय) के पीछे भाग रहे थे बिना यह देखे कि क्या यह वास्तव में आपके मानसिक स्वास्थ्य के लिए अच्छा है। जब तक सरकार ने इसे ठीक करने के लिए हस्तक्षेप किया, तब तक नुकसान हो चुका था।
लेखक मानते हैं कि हम इस भाग्य से बच सकते हैं। हमें शून्य से नई तकनीक आविष्कार करने की आवश्यकता नहीं है; हमारे पास सुरक्षा और निष्पक्षता को मापने के उपकरण पहले से ही मौजूद हैं। जो चीज़ हमारे पास गायब है वह है वह इंफ्रास्ट्रक्चर जो उन मापों को एक ऐसे संकेत में बदल सके जिस पर बाजार भरोसा कर सके।
वे तीन-स्तरीय प्रणाली का प्रस्ताव देते हैं:
- विनियमन (Regulation) कानूनी आधार (जो न्यूनतम आपको करना ही चाहिए) निर्धारित करता है।
- मानक (Standards) उन नियमों को तकनीकी चरणों में अनुवादित करते हैं।
- प्रमाणन (Certification) इस बात का स्वतंत्र प्रमाण प्रदान करता है कि आपने वास्तव में इसे किया है।
पेपर निष्कर्ष निकालता है कि यह समय के बारे में एक चुनाव है। हम तब तक प्रतीक्षा कर सकते हैं जब तक कि AI बड़ी समस्याएँ पैदा न कर दे और फिर उसे ठीक करने की कोशिश करें, या हम इस "ट्रस्ट बैज" प्रणाली को अभी बना सकते हैं, जबकि यह तकनीक अभी बढ़ रही है। लेखक सुझाव देते हैं कि विश्वसनीयता को मापने योग्य, तुलना करने योग्य और पुरस्कृत करने योग्य बनाकर, हम रिस्पॉन्सिबल AI को एक लागत से प्रतिस्पर्धी लाभ में बदल सकते हैं। यह "हम वादा करते हैं कि हम अच्छे हैं" से "यहाँ प्रमाण है कि हम वास्तव में अच्छे हैं" की ओर बढ़ने के बारे में है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।