From Democracies to Autocracies: How AI Systems Enable Authoritarianism by Design

कल्पना कीजिए कि आपके पास एक टूलबॉक्स है। इसके अंदर ड्रिल और आरी जैसे पावर टूल्स हैं। आमतौर पर, हम इन औजारों को तटस्थ (neutral) मानते हैं; एक ड्रिल घर बना भी सकती है और दरवाजा तोड़ भी सकती है, यह इस पर निर्भर करता है कि इसे कौन पकड़े हुए है और वे इसका उपयोग कैसे करते हैं।

यह शोध पत्र तर्क देता है कि आर्टिफिशियल इंटेलिजेंस (AI) के साथ, उस "ड्रिल" को ही एक विशिष्ट डिजाइन के साथ बनाया जा रहा है जो दरवाजे तोड़ने में बहुत आसान और उसे रोकना बहुत कठिन बनाता है, चाहे उसे कोई भी चला रहा हो। हार्वर्ड और ऑक्सफोर्ड के शोधकर्ताओं ने छह अलग-अलग AI सिस्टम का अध्ययन किया जिनका उपयोग अमेरिका और यूके से लेकर चीन और रूस तक विभिन्न देशों में किया जाता है। वे यह देखना चाहते थे कि क्या ये उपकरण केवल "बुरे" देशों (तानाशाह देशों) के लिए खतरनाक हैं या क्या वे एक "अच्छे" देश (लोकतंत्र) को भी ऐसी जगह में बदल सकते हैं जहाँ लोगों की निगरानी और उन पर नियंत्रण किया जाता है।

उनके निष्कर्षों का सरल उपमाओं (analogies) के माध्यम से विवरण यहाँ दिया गया है:

1. मुख्य खोज: यह केवल "बुरे लोगों" के बारे में नहीं है

इस शोध पत्र की सबसे बड़ी आश्चर्यजनक बात यह है कि सत्तावाद (लोगों को डर और निगरानी के माध्यम से नियंत्रित करने का अभ्यास) केवल "दुष्ट" तानाशाही की विशेषता नहीं है।

इसे एक तेज रफ्तार कार की तरह समझें। आप सोच सकते हैं कि केवल एक खतरनाक पड़ोस में रहने वाला लापरवाह ड्राइवर ही तेज गाड़ी चलाता है। लेकिन यह शोध पत्र दिखाता है कि यदि कार का क्रूज कंट्रोल बहुत अधिक सेट है, ब्रेक कमजोर हैं, और गति सीमा के संकेतों को अनदेखा किया गया है, तो एक सुरक्षित, समृद्ध उपनगर में रहने वाला सावधान चालक भी तेज गाड़ी चलाने लगेगा। कार का डिजाइन (AI सिस्टम) उतना ही महत्वपूर्ण है जितना कि ड्राइवर (सरकार)।

लेखकों ने पाया कि लोकतंत्रों (जैसे अमेरिका और यूकी) और तानाशाही व्यवस्थाओं (जैसे चीन और रूस) दोनों में एक ही प्रकार के "खतरनाक लक्षण" दिखाई देते हैं।

2. छह "खतरे क्षेत्र" (कैसे AI नियंत्रण को सक्षम बनाता है)

शोधकर्ताओं ने पहचाना कि ये AI सिस्टम कैसे एक "नियंत्रण टूलकिट" के रूप में कार्य करते हैं। ये कैसे काम करते हैं, इसके उदाहरण यहाँ दिए गए हैं:

• दमनकारी क्षमता (Coercive Capacity - बड़ा डंडा):
  • यह क्या है: बल प्रयोग या बल के खतरे का आसानी से उपयोग करने की क्षमता।
  • उपमा: कल्पना कीजिए कि एक सुरक्षा गार्ड है जो एक बटन दबाते ही स्वाट (SWAT) टीम को बुला सकता है। लैवेंडर (Lavender) सिस्टम के मामले में (जिसका उपयोग इजरायली सेना द्वारा किया जाता है), AI हवाई हमलों के लिए लक्ष्यों की पहचान करने में मदद करता है। क्योंकि यह सिस्टम हथियारों के साथ एकीकृत है और इसमें त्रुटि की संभावना अधिक है, यह घातक बल के उपयोग की "सीमा" (threshold) को कम कर देता है। यह हिंसा को ट्रिगर करना आसान बना देता है।
• जवाबदेही का क्षरण (Accountability Erosion - अदृश्य हाथ):
  • यह क्या है: जब चीजें गलत होती हैं, तो यह जानना कठिन बनाना कि इसके लिए कौन जिम्मेदार है।
  • उपमा: "हॉट पोटैटो" (गर्म आलू) के खेल की कल्पना करें जहाँ आलू एक गलती है। यदि यूके में एक पुलिस अधिकारी एक लाइव फेशियल रिकग्निशन वैन का गलत उपयोग करता है और किसी को गलत तरीके से रोकता है, तो अधिकारी कह सकता है, "कंप्यूटर ने मुझे ऐसा करने को कहा था," और कंपनी कह सकती है, "हमने तो बस सॉफ्टवेयर बेचा था।" जिम्मेदारी का पता नहीं चलता क्योंकि सिस्टम को इस तरह बनाया गया है कि जिम्मेदारी उलझ कर रह जाती है।
• प्रतीकात्मक सुरक्षा उपाय (Symbolic Safeguards - नकली सीटबेल्ट):
  • यह क्या है: ऐसे नियम जो कागज पर तो अच्छे दिखते हैं लेकिन वास्तव में काम नहीं करते।
  • उपमा: यह एक ऐसी कार की तरह है जिसमें सीटबेल्ट तो है, लेकिन उसका बकल टूटा हुआ है। लैवेंडर सिस्टम में एक नियम है कि हमला करने से पहले एक इंसान को लक्ष्य की जांच करनी चाहिए। लेकिन रिपोर्टों से पता चलता है कि इंसान केवल 20 सेकंड तक जांच करते हैं, जो केवल एक बॉक्स पर टिक करने के लिए पर्याप्त है। "सुरक्षा उपाय" मौजूद है, लेकिन वह एक दिखावा है।
• सूचना नियंत्रण (Information Control - एक तरफा दर्पण):
  • यह क्या है: सरकार के पास आपके बारे में सब कुछ हो, जबकि आप उनके बारे में कुछ न जान पाएं।
  • उपमा: एक विशाल पुस्तकालय की कल्पना करें जहाँ लाइब्रेरियन आपके द्वारा चेक की गई हर किताब, आपके द्वारा लिखे गए हर नोट और आपके बाथरूम जाने के हर समय को पढ़ सकता है, लेकिन आप यह नहीं देख सकते कि लाइब्रेरियन अपने लॉग में क्या लिख रहा है। चीन का IJOP सिस्टम पुलिस डेटा को मेडिकल रिकॉर्ड, उपयोगिता बिलों और यहाँ तक कि पुरानी कारों की बिक्री के डेटा के साथ जोड़कर एक व्यक्ति के जीवन की पूरी तस्वीर बनाता है।
• पूर्वानुमानित दमन (Anticipatory Repression - क्रिस्टल बॉल):
  • यह क्या है: लोगों को कुछ गलत करने से पहले ही दंडित करना, सिर्फ इसलिए क्योंकि AI को लगता है कि वे हो सकता है ऐसा करें।
  • उपमा: कल्पना कीजिए कि एक क्लब का बाउंसर आपको इसलिए बाहर निकाल देता है क्योंकि आप "संदिग्ध" दिखते हैं या क्योंकि आपने हाल ही में अपना फोन नंबर बदला है, भले ही आपने अभी तक कोई नियम नहीं तोड़ा है। रूस में Sfera सिस्टम चेहरे की पहचान का उपयोग लोगों को विरोध प्रदर्शन करने से पहले ही गिरफ्तार करने के लिए करता है, इस आधार पर कि वे विरोध कर सकते हैं।
• सीमा नियंत्रण (Boundary Control - "हम बनाम वे" की दीवार):
  • यह क्या है: डिजिटल श्रेणियां बनाना जो कुछ समूहों के लोगों को कम मानवीय या कम सुरक्षित मानती हैं।
  • उपमा: कल्पना कीजिए कि एक फोटो ऐप पर एक फिल्टर है जो स्वचालित रूप से एक विशिष्ट लहजे या त्वचा के रंग वाले लोगों को धुंधला कर देता है, उन्हें "जोखिम भरा" लेबल करता है। IJOP सिस्टम विशेष रूप से उइगर मुसलमानों को लक्षित करता है, और नीदरलैंड के SlimmeCheck सिस्टम को स्थानीय लोगों की तुलना में कल्याणकारी धोखाधड़ी के लिए गैर-डच नागरिकों को अधिक बार फ्लैग करने के लिए पाया गया। AI कुछ समूहों को "दुश्मन" के रूप में देखना सीख जाता है।

3. सिस्टम टूटने के दो तरीके: केंद्रीकृत बनाम खंडित

यह शोध पत्र एक बहुत महत्वपूर्ण बिंदु बनाता है कि ये सिस्टम कैसे व्यवस्थित हैं।

• केंद्रीकृत प्रणालियाँ (The Big Boss - बड़ा बॉस):
  • उदाहरण: चीन में IJOP या रूस में Sfera।
  • यह कैसे काम करता है: एक बड़ा प्राधिकरण सब कुछ नियंत्रित करता है।
  • जोखिम: यह एक विशाल बांध की तरह है। यदि बांध टूटता है, तो पूरी घाटी में बाढ़ आ जाती है। क्योंकि एक ही समूह के पास सारी शक्ति है, इसलिए "रुको" कहने वाले बहुत कम लोग होते हैं।
• खंडित प्रणालियाँ (The Swarm - झुंड):
  • उदाहरण: अमेरिका में FlockSafety।
  • यह कैसे काम करता है: यह हजारों अलग-अलग मोहल्लों, व्यवसायों और पुलिस विभागों के स्वामित्व वाले लाइसेंस प्लेट कैमरों का एक नेटवर्क है।
  • जोखिम: यह मधुमक्खियों के झुंड की तरह है। आप झुंड को रोकने के लिए केवल एक मधुमक्खी को नहीं मार सकते। क्योंकि यह प्रणाली फैली हुई है, इसलिए कोई एक व्यक्ति प्रभारी नहीं है। यदि कोई मोहल्ला संघ कैमरे का दुरुपयोग करता है, तो इसे नियंत्रित करना कठिन है क्योंकि कोई केंद्रीय "बॉस" नहीं है जिसे हटाया जा सके। शोध पत्र का तर्क है कि यह "झुंड" वास्तव में "बड़े बॉस" की तुलना में नियंत्रित करना अधिक कठिन है क्योंकि जिम्मेदारी बहुत अधिक बिखरी हुई है।

4. "जीवन चक्र" की समस्या (The Lifecycle Problem)

लेखक कहते हैं कि हम आमतौर पर AI को देखते हैं और पूछते हैं, "क्या गणित पर्याप्त स्मार्ट है?" (मॉडल)। वे कहते हैं कि हमें यह पूछना चाहिए, "इस उपकरण को कैसे बनाया, बेचा और उपयोग किया गया?" (जीवन चक्र)।

उन्होंने 10 चरणों में सिस्टम की तुलना की, शुरुआती विचार से लेकर वर्तमान दिन तक। उन्होंने पाया कि खतरा केवल अंतिम उत्पाद में नहीं है; यह उन विकल्पों में है जो रास्ते में लिए गए हैं:

• किसने खरीदा? (अक्सर सरकारों के साथ साझेदारी करने वाली निजी कंपनियां)।
• इसका परीक्षण कैसे किया गया? (अक्सर खराब तरीके से या बिल्कुल नहीं)।
• निगरानी करने वालों की निगरानी कौन कर रहा है? (अक्सर कोई नहीं)।

5. निष्कर्ष (The Takeaway)

शोध पत्र निष्कर्ष निकालता है कि AI-सक्षम सत्तावाद एक डिज़ाइन विकल्प है, तकनीक का अनिवार्य परिणाम नहीं।

ऐसा नहीं है कि AI स्वभाव से "बुरा" है। बात यह है कि डेवलपर्स, सरकारों और उपयोगकर्ताओं ने निम्नलिखित विकल्प चुने हैं:

1. AI को बहुत अधिक डेटा से जोड़ने के लिए।
2. उन नियमों को अनदेखा करने के लिए जो लोगों की रक्षा करने चाहिए।
3. ऐसे सिस्टम बनाने के लिए जिन्हें शुरू होने के बाद रोकना कठिन हो।

लेखक चेतावनी देते हैं कि यह केवल "बुरे" देशों की समस्या नहीं है। लोकतंत्र भी जोखिम में हैं, खासकर जब वे "दक्षता" या "सुरक्षा" के लिए इन उपकरणों का उपयोग करते हैं, बिना यह समझे कि वे धीरे-धीरे एक पिंजरा बना रहे हैं। वे डेवलपर्स से आग्रह करते हैं कि वे सिस्टम में "ब्रेक" विकसित करें और सरकारों से यह सुनिश्चित करने के लिए कहते हैं कि कार चलाने से पहले "सीटबेल्ट" वास्तव में काम करे।