Bureaucratic Silences: What the Canadian AI Register Reveals, Omits, and Obscures
यह शोध पत्र तर्क देता है कि कनाडा का नया संघीय एआई रजिस्टर (Federal AI Register), पारदर्शिता के अपने घोषित लक्ष्य के बावजूद, एक सत्तामीमांसीय डिज़ाइन उपकरण (ontological design tool) के रूप में कार्य करता है जो तकनीकी विवरणों को प्राथमिकता देकर एआई प्रणालियों की मानवीय और सामाजिक-तकनीकी जटिलताओं को अस्पष्ट कर देता है, जिससे जवाबदेही वास्तविक चुनौती देने की क्षमता (contestability) के बजाय केवल एक प्रदर्शनकारी अनुपालन अभ्यास तक सीमित हो जाती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ "ब्यूरोक्रेटिक साइलेंसेज" (Bureaucratic Silences) नामक शोध पत्र का सरल भाषा और रचनात्मक उपमाओं के साथ विवरण दिया गया है।
मुख्य विचार: वह "मेन्यू" जो रसोई को छिपा देता है
कल्पना कीजिए कि कनाडा सरकार ने अभी-अभी एक विशाल, सार्वजनिक मेन्यू खोला है जिसे "AI रजिस्टर" कहा जाता है। यह मेन्यू उन 400 से अधिक अलग-अलग कंप्यूटर प्रोग्रामों (AI सिस्टम) की सूची देता है जिनका उपयोग सरकार अपने काम को करने के लिए करती है, जैसे मेल छाँटने से लेकर सीमा सुरक्षा की जाँच करने तक।
सरकार कहती है, "देखो! हम पारदर्शी हो रहे हैं! यह हमारा मेन्यू है, ताकि आपको पता चले कि हम क्या परोस रहे हैं।"
हालाँकि, यह शोध पत्र तर्क देता है कि यह मेन्यू एक चाल है। यह एक तटस्थ सूची नहीं है; यह एक सावधानीपूर्वक डिज़ाइन किया गया उपकरण है जो सरकार को कुशल और नियंत्रण में दिखाता है, जबकि यह छिपा देता है कि ये कंप्यूटर वास्तव में कैसे काम करते हैं—जो कि बहुत ही जटिल, उलझा हुआ और कभी-कभी जोखिम भरा होता है।
लेखक उन चीजों को "ब्यूरोक्रेटिक साइलेंसेज" (नौकरशाही की चुप्पी) कहते हैं जिन्हें मेन्यू आपको नहीं बताता है।
1. मेन्यू बनाम रसोई (क्या प्रकट किया गया बनाम क्या छिपाया गया)
उपमा:
एक शानदार रेस्टोरेंट के बारे में सोचें। मेन्यू (AI रजिस्टर) आपको व्यंजन का नाम ("स्पाइसी AI स्टू"), सामग्री (डेटा), और यह बताता है कि इसे एक प्रसिद्ध शेफ (वेंडर) द्वारा बनाया गया है। यह सुनने में एकदम सही लगता है।
वास्तविकता:
मेन्यू आपको यह नहीं बताता कि:
- रसोई की अराजकता: क्या रसोई में आग लगी है? क्या शेफ काम के बोझ से दबे हुए हैं?
- मानवीय स्पर्श: क्या वास्तव में किसी असली इंसान ने स्टू को चखा, या उन्होंने बस रोबोट पर भरोसा कर लिया कि वह इसे बना लेगा?
- गलतियाँ: अगर रोबोट खाना जला देता है, तो क्या होता है? उसे कौन साफ करता है?
शोध में क्या पाया गया:
रजिस्टर दक्षता (efficiency) का जुनूनी है। यह कहता है जैसे, "यह AI हमें तेजी से काम करने में मदद करता है!" या "यह टूल हमारा समय बचाता है!"
लेकिन यह अनिश्चितता (uncertainty) पर चुप रहता है। यह शायद ही कभी यह स्वीकार करता है कि, "यह AI गलत हो सकता है," या "हमें अभी पूरी तरह से समझ नहीं आया है कि यह कैसे काम करता है।" यह AI को एक जादुई उपकरण की तरह पेश करता है जो बस काम करता है, न कि एक जटिल प्रणाली के रूप में जिसे मानवीय निगरानी की आवश्यकता है।
2. "सॉवरेन" का झूठ (वास्तव में इन उपकरणों का मालिक कौन है?)
उपमा:
कल्पना कीजिए कि एक देश दावा करता है, "हम स्वतंत्र होने के लिए अपनी खुद की कारें बना रहे हैं!" वे एक बोर्ड लगाते हैं जिस पर लिखा है, "मेड इन कनाडा।"
वास्तविकता:
यदि आप बोनट के नीचे देखें, तो आप पाएंगे कि इंजन जर्मनी में बना है, टायर जापान से हैं, और सॉफ्टवेयर कैलिफोर्निया की एक कंपनी द्वारा लिखा गया है।
शोध में क्या पाया गया:
कनाडा "सॉवरेन AI" (स्वतंत्र होने के लिए अपना खुद का AI बनाना) के बारे में बड़ी बातें करता है। लेकिन रजिस्टर यह खुलासा करता है कि सरकार अपने टूल्स के लिए कुछ बड़ी विदेशी कंपनियों (जैसे माइक्रोसॉफ्ट) पर अत्यधिक निर्भर है।
रजिस्टर इस निर्भरता को छिपाता है। यह ऐसा दिखाता है जैसे कनाडा ड्राइवर की सीट पर बैठा है, जबकि वास्तव में, वे किसी और से कार किराए पर ले रहे हैं।
3. "मानवीय" भूत (लूप में व्यक्ति कहाँ है?)
उपमा:
एक स्वायत्त (self-driving) बस की कल्पना करें। साइन कहता है, "पूरी तरह से स्वायत्त!"
लेकिन वास्तव में, सामने की सीट पर एक घबराया हुआ ड्राइवर बैठा है, जो स्टीयरिंग व्हील को कसकर पकड़े हुए है, और यदि कंप्यूटर भ्रमित हो जाए तो ब्रेक लगाने के लिए तैयार है।
वास्तविकता:
रजिस्टर AI को "निर्णय लेने वाला" (decision maker) के रूप में सूचीबद्ध करता है। यह ऐसा दिखाता है जैसे कंप्यूटर तय करता है कि किसे वीज़ा मिलना चाहिए या किसे टैक्स ऑडिट मिलना चाहिए।
शोध में क्या पाया गया:
लगभग सभी मामलों में, अंतिम निर्णय एक इंसान ही लेता है। लेकिन रजिस्टर यह नहीं बताता कि उस इंसान को कैसे प्रशिक्षित किया जाता है, या उन्हें कंप्यूटर की सलाह का उपयोग कैसे करना चाहिए।
- चुप्पी: यह नहीं कहता कि, "इंसान को इस बात को समझने के लिए 50 घंटे के प्रशिक्षण की आवश्यकता है।"
- जोखिम: यह मानव कार्यकर्ता को अनुमान लगाने के लिए छोड़ देता है। यदि कंप्यूटर गलत सुझाव देता है, तो इंसान को पता नहीं होगा कि इसे कैसे ठीक किया जाए, या वे केवल कंप्यूटर पर आँख मूंदकर भरोसा कर सकते हैं क्योंकि रजिस्टर ने इसे बहुत "विश्वसनीय" दिखाया है।
4. अनिश्चितता का "ब्लैक बॉक्स"
उपमा:
एक मौसम ऐप की कल्पना करें जो कहता है, "कल निश्चित रूप से बारिश होगी!"
लेकिन वास्तव में, ऐप केवल 60% सुनिश्चित है।
वास्तविकता:
रजिस्टर AI के साथ ऐसा व्यवहार करता है जैसे वह हमेशा 100% सही रहने वाला मौसम ऐप हो। यह "स्थिर", "विश्वसनीय" और "कुशल" जैसे शब्दों का उपयोग करता है।
शोध में क्या पाया गया:
रजिस्टर संदेह (doubt) को छिपा देता है।
- कुछ सिस्टम वास्तव में केवल "प्रयोग" या "पायलट" (जैसे टेस्ट ड्राइव) हैं, लेकिन रजिस्टर उन्हें ऐसे सूचीबद्ध करता है जैसे वे तैयार उत्पाद हों।
- अन्य सिस्टम जोखिम भरे हैं (जैसे धोखाधड़ी की जाँच करना), लेकिन रजिस्टर यह नहीं कहता कि, "इसमें गलतियाँ हो सकती हैं।"
संदेह को छिपाकर, सरकार जिम्मेदारी आम लोगों (नागरिकों) और श्रमिकों पर डाल देती है। यदि AI गलती करता है, तो रजिस्टर इसे मानवीय त्रुटि के रूप में दिखाता है, न कि सिस्टम की विफलता के रूप में।
मुख्य निष्कर्ष: "परफॉर्मेटिव कंप्लायंस" (प्रदर्शनात्मक अनुपालन)
लेखक एक भारी शब्द का उपयोग करते हैं: ऑन्टोलॉजिकल डिज़ाइन (Ontological Design)।
- सरल अनुवाद: आप किसी चीज़ को कैसे सूचीबद्ध करते हैं, उससे यह बदल जाता है कि लोग उसके बारे में क्या सोचते हैं।
रजिस्टर को "कूल टूल्स" की एक साधारण सूची के रूप में डिज़ाइन करके, सरकार वास्तव में एक ऐसी वास्तविकता डिज़ाइन कर रही है जहाँ:
- AI को एक आदर्श, विश्वसनीय उपकरण के रूप में देखा जाता है।
- इंसानों को केवल "चेकर्स" के रूप में देखा जाता है जिन्हें बहुत अधिक प्रशिक्षण की आवश्यकता नहीं है।
- गलतियाँ अदृश्य होती हैं।
निष्कर्ष:
रजिस्टर हमें दृश्यता (visibility) देता है (हम टूल्स के नाम देख सकते हैं) लेकिन प्रतिवाद (contestability) नहीं (हम यह सवाल नहीं उठा सकते कि वे कैसे काम करते हैं या उनके निर्णयों को चुनौती नहीं दे सकते)।
यह एक जादूगर की तरह है जो आपको दिखाता है कि उसके हाथ खाली हैं (पारदर्शिता) लेकिन यह छिपा जाता है कि खरगोश अभी भी टोपी के अंदर है (वास्तविक जोखिम और मानवीय कार्य)। शोध का तर्क है कि जनता का सरकार पर वास्तविक विश्वास हासिल करने के लिए, रजिस्टर को "चुप्पी" को छिपाना बंद करना होगा और यह दिखाना शुरू करना होगा कि ये सिस्टम वास्तव में कैसे काम करते हैं—जो कि बहुत ही जटिल, मानवीय और अनिश्चित वास्तविकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।