Are Algorithm Registers Transparent? Perspectives from Germany
यह शोध पत्र एक वैचारिक प्रस्ताव को ऑडिट फ्रेमवर्क में अनुकूलित करके जर्मनी के खंडित एल्गोरिदम रजिस्टरों की पारदर्शिता का मूल्यांकन करता है, जो MaKI और Lernende Systeme जैसी मौजूदा पहलों में महत्वपूर्ण अंतराल को प्रकट करता है और उनकी प्रभावशीलता बढ़ाने के लिए ठोस सुधारों और विज़ुअलाइज़ेशन विधियों का प्रस्ताव करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि सरकार आपके जीवन को प्रभावित करने वाले निर्णय लेने के लिए विशेष कंप्यूटर प्रोग्रामों (एल्गोरिदम) का उपयोग करती है, जैसे कि ऋण (लोन) को मंजूरी देना, नौकरी के आवेदनों को छाँटना, या यातायात का प्रबंधन करना।
एल्गोरिदम रजिस्टर्स (Algorithm Registers) एक सार्वजनिक "येलो पेजेस" या एक "मेन्यू" की तरह हैं जहाँ सरकार को इन प्रोग्रामों को सूचीबद्ध करना चाहिए, यह समझाना चाहिए कि वे क्या करते हैं, उन्हें किसने बनाया है, और उनमें क्या जोखिम हो सकते हैं। विचार यह है कि यदि आप मेन्यू देख सकते हैं, तो आप उस रेस्टोरेंट पर भरोसा कर सकते हैं।
यह शोध पत्र, जिसे जर्मन विश्वविद्यालयों के शोधकर्ताओं द्वारा लिखा गया है, एक सरल प्रश्न पूछता है: "क्या जर्मनी का मेन्यू वास्तव में पारदर्शी है, या यह केवल एक फैंसी कवर है जिसमें खाली पन्ने हैं?"
यहाँ उनके निष्कर्षों का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:
1. समस्या: पाँच अलग-अलग मेन्यू के साथ एक टूटा हुआ किचन
जर्मनी के पास कोई एक एकल, आधिकारिक राष्ट्रीय मेन्यू नहीं है। इसके बजाय, इसके पास कम से कम पाँच अलग-अलग "किचन" (प्लेटफॉर्म) वाला एक खंडित परिदृश्य है जो इन कंप्यूटर प्रोग्रामों को सूचीबद्ध करने की कोशिश कर रहे हैं।
- MaKI: एक प्लेटफॉर्म जिसे संघीय सरकार द्वारा अपने आंतरिक उपयोग के लिए चलाया जाता है।
- Lernende Systeme: एक प्लेटफॉर्म जो अनुसंधान और नवाचार पर केंद्रित है, जिसे शिक्षा मंत्रालय द्वारा वित्त पोषित किया गया है।
- अन्य: छोटे क्षेत्रीय या परियोजना-आधारित सूचियाँ।
शोधकर्ताओं ने इन दो मुख्य प्लेटफॉर्मों का परीक्षण एक "गोल्ड स्टैंडर्ड" ब्लूप्रिंट के विरुद्ध करने का निर्णय लिया। यह ब्लूप्रिंट एक शोधकर्ता लोरेन्ज़ (Lorenz) का एक हालिया प्रस्ताव है, जिसमें वर्णन किया गया है कि एक आदर्श, भरोसेमंद जर्मन एआई (AI) रजिस्टर कैसा दिखना चाहिए।
2. ऑडिट: ब्लूप्रिंट के विरुद्ध मेन्यू की जाँच करना
शोधकर्ताओं ने लोरेन्ज़ के प्रस्ताव को एक "हेल्थ इंस्पेक्टर की चेकलिस्ट" की तरह माना। उन्होंने एक नया रजिस्टर नहीं बनाया; उन्होंने बस मौजूदा रजिस्टरों (MaKI और Lernende Systeme) में प्रवेश किया और यह जाँच की कि क्या उनमें आवश्यक सामग्रियाँ मौजूद हैं।
उन्होंने तीन मुख्य चीजों की तलाश की:
- दायरा (Scope): क्या सूची में सब कुछ है? (या क्या डरावने प्रोग्राम पीछे छिपे हुए हैं?)
- सूचना (Information): क्या विवरण पर्याप्त विस्तृत है? (क्या यह सिर्फ कहता है "हम AI का उपयोग करते हैं," या यह समझाता है कि यह कैसे और किस डेटा का उपयोग करता है?)
- प्रभावशीलता (Effectiveness): क्या एक सामान्य व्यक्ति वास्तव में इसे समझ सकता है और सरकार को जवाबदेह ठहराने के लिए इसका उपयोग कर सकता है?
3. निष्कर्ष: "एथिक्स थिएटर" बनाम वास्तविक पारदर्शिता
ऑडिट से पता चला कि हालांकि रजिस्टर मौजूद हैं, लेकिन वे ज्यादातर खाली खोल (empty shells) हैं। यहाँ उनके निष्कर्ष दिए गए हैं:
"लापता सामग्रियाँ" (जोखिम और डेटा):
कल्पना कीजिए कि आप एक केक ऑर्डर कर रहे हैं, लेकिन मेन्यू केवल "केक" कहता है बिना यह बताए कि इसमें कौन सी सामग्री है। शोधकर्ताओं ने पाया कि जर्मन रजिस्टर शायद ही कभी ट्रेनिंग डेटा (वे सामग्रियाँ जिनसे AI ने सीखा है) या जोखिम मूल्यांकन (यदि केक जल जाए तो क्या होगा) को सूचीबद्ध करते हैं। इसके बिना, आप यह नहीं जान सकते कि केक खाने के लिए सुरक्षित है या नहीं।- MaKI ने कुछ जोखिमों को सूचीबद्ध किया लेकिन कोई विवरण नहीं दिया।
- Lernende Systeme ने जोखिमों को बिल्कुल भी सूचीबद्ध नहीं किया।
"बंद किचन" (कोई फीडबैक नहीं):
एक अच्छा रेस्टोरेंट 'कमेंट कार्ड' रखता है। ये रजिस्टर ऐसा नहीं करते। यहाँ कोई तरीका नहीं है जिससे एक नागरिक कह सके, "हे, यह एआई निर्णय गलत लग रहा है," या कोई प्रश्न पूछ सके। शोधकर्ताओं ने पाया कि कोई नागरिक मंच (citizen forums) या फीडबैक लूप नहीं है। यह एकतरफा रास्ता है जहाँ सरकार बात करती है, लेकिन कोई वापस बात नहीं कर सकता।"इंटरनल मेमो" की समस्या:
शोधकर्ताओं ने महसूस किया कि MaKI को इस तरह डिज़ाइन किया गया है कि सरकारी कर्मचारी आपस में नोट्स साझा कर सकें, न कि जनता के पढ़ने के लिए। यह एक किचन स्टाफ लॉगबुक की तरह है जो सार्वजनिक शेल्फ पर तो रखी है, लेकिन ऐसी भाषा में लिखी गई है जिसे केवल शेफ ही समझ सकते हैं। Lernende Systeme कूल तकनीकी नवाचारों को दिखाने के बारे में अधिक है, न कि जवाबदेही के बारे में।"लापता शेफ" (गवर्नेंस):
वहाँ कोई एकल, स्वतंत्र "हेल्थ इंस्पेक्टर" (एक समर्पित एआई पर्यवेक्षी प्राधिकरण) नहीं है जो काम की जाँच कर सके। ये प्लेटफॉर्म सरकार पर स्वयं की निगरानी करने के लिए निर्भर हैं, जो कि शेफ से ही अपने खाना बनाने की ग्रेडिंग कराने जैसा है।
4. निष्कर्ष: हमारे पास मेन्यू है, लेकिन भोजन नहीं
शोध पत्र निष्कर्ष निकालता है कि जर्मनी के पास वर्तमान में खंडित पहल (fragmented initiatives) हैं जो पारदर्शिता रजिस्टर की तरह दिखते हैं लेकिन वास्तव में आंतरिक प्रशासनिक उपकरणों या प्रचार ब्रोशर की तरह कार्य करते हैं।
- वे उस तरह से "पारदर्शी" नहीं हैं जिस तरह से यह महत्वपूर्ण है: आप एल्गोरिदम का नाम देख सकते हैं, लेकिन आप यह नहीं देख सकते कि यह कैसे काम करता है या इसमें क्या जोखिम हैं।
- उनमें "क्रिटिकल ऑडियंस" की कमी है: क्योंकि जानकारी अस्पष्ट है और प्रश्न पूछने का कोई तरीका नहीं है, इसलिए आम लोग इन रजिस्टरों का उपयोग सरकार को जवाबदेह ठहराने के लिए नहीं कर सकते।
मुख्य बात (The Bottom Line):
शोधकर्ता तर्क देते हैं कि केवल एक सूची होना ही पर्याप्त नहीं है। इन रजिस्टरों को वास्तव में उपयोगी बनाने के लिए, जर्मनी को निम्नलिखित की आवश्यकता है:
- खाली स्थानों को भरें: डेटा और जोखिमों पर विस्तृत जानकारी जोड़ें।
- दरवाजे खोलें: नागरिकों के लिए प्रश्न पूछने और फीडबैक देने के तरीके बनाएं।
- एक नेता चुनें: इन बिखरी हुई सूचियों को एक स्पष्ट, अनिवार्य राष्ट्रीय रजिस्टर में समेकित करें जो जनता की सेवा करे, न कि केवल सरकार की।
तब तक, "पारदर्शिता" ज्यादातर एक प्रदर्शन है—जिसे लेखक "एथिक्स थिएटर" (ethics theater) कहते हैं—जहाँ सरकार ऐसा दिखावा करती है कि वह पारदर्शी है, लेकिन दर्शक वास्तव में शो नहीं देख सकते।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।