Genocide by Algorithm in Gaza: Artificial Intelligence, Countervailing Responsibility, and the Corruption of Public Discourse
यह शोध पत्र इस बात की जांच करता है कि कैसे गाजा में एआई-संचालित लक्ष्यीकरण प्रणालियाँ उन उपकरणों के रूप में कार्य करती हैं जो हिंसा को सुगम और वैध बनाती हैं, और यह तर्क देता है कि इस "एल्गोरिद्मिक नरसंहार" को संबोधित करने के लिए स्वचालित युद्ध के सामान्यीकरण को रोकने हेतु राजनीतिक, व्यावसायिक और व्यक्तिगत जिम्मेदारी के बहुआयामी पुनर्मूल्यांकन की आवश्यकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य विचार: "मशीन के भीतर का भूत" ट्रिगर दबा रहा है
कल्पना कीजिए कि आप एक हाई-स्टेक्स वीडियो गेम खेल रहे हैं। अधिकांश खेलों में, यदि कोई खिलाड़ी गलती करता है और किसी निर्दोष पात्र को मार देता है, तो हम खिलाड़ी को दोषी ठहराते हैं। लेकिन क्या होगा अगर गेम खुद ही चलने लगे? क्या होगा अगर गेम के कोड ने यह तय कर लिया कि कौन जिएगा और कौन मरेगा, और जब कुछ भयानक हुआ, तो खिलाड़ी ने बस कंधे उचका दिए और कहा, "मुझे दोष मत दो, यह तो बस सॉफ्टवेयर में एक गड़बड़ी (ग्लिच) थी"?
यह शोध पत्र तर्क देता है कि यह केवल एक साइंस-फिक्शन कहानी नहीं है—यह वास्तव में गाजा में हो रहा है। लेखक इसे "एल्गोरिदम द्वारा नरसंहार" (Genocide by Algorithm) कहते हैं।
1. "डिजिटल स्नाइपर" (तकनीक)
आमतौर पर, जब हम युद्ध के बारे में सोचते हैं, तो हम निर्णय लेने वाले सैनिकों के बारे में सोचते हैं। लेकिन यह शोध पत्र बताता है कि इज़राइल AI प्रणालियों (जैसे "गॉस्पेल" या "लैवेंडर") का उपयोग कर रहा है जो एक सुपर-पावरफुल, स्वचालित आवर्धक लेंस (magnifying glass) की तरह काम करती हैं।
इसे इस तरह समझें: एक स्काउट द्वारा दूरबीन से लक्ष्य खोजने के बजाय, एक विशाल, अदृश्य कंप्यूटर लाखों डेटा—फोन लोकेशन, सोशल मीडिया, यहाँ तक कि लोगों के चलने-फिरने के तरीके—को स्कैन कर रहा है ताकि "किल लिस्ट" बनाई जा सके। समस्या यह है कि ये कंप्यूटर पूर्ण नहीं हैं। वे एक आंखों पर पट्टी बांधे हुए न्यायाधीश की तरह हैं जो मानवीय सहानुभूति के बजाय गणित के आधार पर जीवन-मृत्यु के निर्णय ले रहे हैं। क्योंकि यह कंप्यूटर "गणित-आधारित" है, इसलिए लोग दावा करने की कोशिश करते हैं कि इसके निर्णय "वस्तुनिष्ठ" या "सटीक" हैं, भले ही वे वास्तव में भारी, दुखद गलतियाँ कर रहे हों।
2. "दोषारोपण का खेल" (ज़िम्मेदारी के तीन स्तर)
शोध पत्र का सबसे महत्वपूर्ण हिस्सा जवाबदेही के बारे में है। जब एक मशीन नागरिक की हत्या करती है, तो हम किसे मुकदमे के कटघरे में खड़ा करें? लेखक इसे तीन स्तरों में विभाजित करता है:
- कैप्टन (राजनीतिक जिम्मेदारी): यह सरकार है। यदि एक जहाज इसलिए डूब जाता है क्योंकि कप्तान ने पैसे बचाने के लिए तूफान के बीच से जहाज चलाने का निर्णय लिया था, तो कप्तान जिम्मेदार है। शोध पत्र का तर्क है कि सरकारें अंतरराष्ट्रीय कानूनों से बचने के लिए "कंप्यूटर ने किया" का बहाना नहीं बना सकतीं।
- मैकेनिक (पेशेवर जिम्मेदारी): ये इंजीनियर और तकनीकी कंपनियाँ (जैसे गूगल या माइक्रोसॉफ्ट) हैं जो इन उपकरणों का निर्माण करती हैं। कल्पना कीजिए कि एक कंपनी ऐसी कार बनाती है जिसके ब्रेक के फेल होने की उन्हें जानकारी है, फिर भी वे उसे मुनाफे के लिए बेच देती है। शोध पत्र कहता है कि ये तकनीकी कार्यकर्ता और कंपनियाँ भी इस मशीन का हिस्सा हैं।
- क्रू (व्यक्तिगत जिम्मेदारी): यह वह व्यक्तिगत मानव है—सैनिक जो बटन दबा रहा है या कोडर जो कोड की एक लाइन लिख रहा है। शोध पत्र पूछता है: आप किस बिंदु पर एक "श्रमिक" से एक विवेकशील व्यक्ति बन जाते हैं? यदि आप देखते हैं कि मशीन कुछ बुरा कर रही है, तो क्या आप "स्टॉप" बटन दबाते हैं, या आप बस मैनुअल का पालन करते रहते हैं?
3. "डिजिटल युद्ध का कोहरा" (सत्य का क्षरण)
अंत में, शोध पत्र बात करता है कि हम, जनता, इसे कैसे देखते हैं।
अतीत में, युद्ध को देखना कठिन था। आज, युद्ध हमारी जेबों (मोबाइल) में लड़ा जा रहा है। शोध पत्र सुझाव देता है कि AI और सोशल मीडिया एल्गोरिदम एक डिजिटल स्मोक मशीन (धुआं छोड़ने वाली मशीन) की तरह कार्य करते हैं। वे सत्य को छिपा सकते हैं:
- आवाजों को सेंसर करके: यह सुनिश्चित करना कि आप विनाश के वीडियो न देख सकें।
- "शोर" फैलाकर: आपके फीड को इतनी विरोधाभासी जानकारी से भर देना कि आप अंततः सत्य खोजने की कोशिश करना ही छोड़ दें।
- भाषा को 'सैनिटाइज' करके: विनाश को दर्शाने के लिए "कोलेटरल डैमेज" या "एल्गोरिद्मिक एरर" जैसे उबाऊ, तकनीकी शब्दों का उपयोग करना, जिससे यह एक त्रासदी के बजाय गणित की समस्या जैसा लगे।
निष्कर्ष
यह शोध पत्र एक चेतावनी है। यह कहता है कि हम एक ऐसे युग में प्रवेश कर रहे हैं जहाँ हिंसा स्वचालित, अदृश्य और नकारने में आसान होती जा रही है।
यदि हम "एल्गोरिदम" को न्यायाधीश, निर्णायक और जल्लाद बनने देते हैं, तो हम केवल युद्ध को अधिक कुशल नहीं बना रहे हैं—बल्कि हम अत्याचार करना आसान बना रहे हैं क्योंकि अब किसी को पीड़ित की आँखों में आँखें डालकर देखने की ज़रूरत नहीं होगी। लेखक हमें AI नैतिकता को "लोकतांत्रिक" बनाने का आह्वान करता है, जिसका अर्थ है कि हमें इन "डिजिटल स्नाइपर्स" के उपयोग का निर्णय लेने के लिए तकनीकी दिग्गजों और सैन्य नेताओं के एक छोटे समूह को अकेला नहीं छोड़ना चाहिए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।