Stop Saying "AI"
सैन्य क्षेत्र को एक केस स्टडी के रूप में उपयोग करते हुए, यह शोध पत्र तर्क देता है कि "एआई" (AI) जैसा व्यापक और अस्पष्ट शब्द विभिन्न प्रणालियों के बीच महत्वपूर्ण अंतरों को धुंधला कर देता है, जिससे प्रभावी बहस में बाधा आती है और विशिष्ट प्रौद्योगिकियों तथा उनके अद्वितीय जोखिमों और लाभों के सटीक चर्चा की ओर बढ़ने की आवश्यकता होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
"AI" कहना बंद करें: हमें हर चीज़ के लिए एक ही शब्द का उपयोग करना क्यों बंद करने की आवश्यकता है
कल्पना कीजिए कि आप एक हार्डवेयर स्टोर में जाते हैं और क्लर्क से एक "औज़ार" (tool) मांगते हैं। वे आपको एक हथौड़ा, एक पेचकस, एक आरी और चिमटी का एक डिब्बा थमा देते हैं, जो एक बड़े बॉक्स में लिपटा हुआ है जिस पर लिखा है "औज़ार"।
आप पूछते हैं, "क्या मैं इसका उपयोग लीक होते पाइप को ठीक करने के लिए कर सकता हूँ?"
क्लर्क कहता है, "खैर, यह एक औज़ार है, तो शायद?"
आप पाइप पर आरी चलाने की कोशिश करते हैं। तबाही।
आप कील ठोकने के लिए चिमटी का उपयोग करने की कोशिश करते हैं। हताशा।
यही वह बात है जो इस शोध पत्र के लेखक तर्क दे रहे हैं कि जब हम "आर्टिफिशियल इंटेलिजेंस" (AI) के बारे में बात करते हैं, तब होती है।
यह शोध पत्र, विशेषज्ञों की एक टीम (जो विश्वविद्यालयों और अनुसंधान संस्थानों से हैं) द्वारा लिखा गया है, यह तर्क देता है कि "AI" कोई एक चीज़ नहीं है। यह कोई विशिष्ट मशीन नहीं है जैसे कि टोस्टर या कार। इसके बजाय, यह "बिजली" की तरह है। आप बिजली का उपयोग लाइट बल्ब, माइक्रोवेव, अस्पताल के वेंटिलेटर या परमाणु रिएक्टर को चलाने के लिए कर सकते हैं। प्रत्येक उपयोग पूरी तरह से अलग है, इसमें अलग-अलग जोखिम हैं, और इसके लिए अलग-अलग नियमों की आवश्यकता है।
लेखक कहते हैं: "AI" कहना बंद करें और जो आप वास्तव में कहना चाहते हैं, उसे स्पष्ट रूप से कहें।
यहाँ उनके तर्क का विवरण दिया गया है, सरल उपमाओं (analogies) का उपयोग करते हुए।
1. समस्या: "स्विस आर्मी नाइफ" वाली उलझन
जब लोग "सेना में AI" पर बहस करते हैं, तो वे अक्सर इसे एक विशाल राक्षस की तरह मानते हैं। वे पूछते हैं, "क्या AI खतरनाक है?" या "क्या हमें AI पर प्रतिबंध लगाना चाहिए?"
लेखक कहते हैं कि यह पूछने जैसा है, "क्या बिजली खतरनाक है?"
- यदि आप बिजली का उपयोग पेसमेकर चलाने के लिए करते हैं, तो यह जीवन बचाता है।
- यदि आप बिजली का उपयोग इलेक्ट्रिक चेयर चलाने के लिए करते हैं, तो यह जीवन लेता है।
- यदि आप बिजली का उपयोग टोस्टर चलाने के लिए करते हैं, तो यह बस नाश्ता बनाता है।
खतरा बिजली खुद नहीं है; खतरा यह है कि आप इसका उपयोग कैसे करते हैं। सब कुछ "AI" के लेबल के नीचे एक साथ रखने से, हम बातचीत को भ्रमित कर देते हैं। हम एक जीवन बचाने वाले चिकित्सा उपकरण पर प्रतिबंध लगा सकते हैं क्योंकि हम एक खतरनाक हथियार से डरे हुए हैं, या हम एक खतरनाक हथियार को जाने दे सकते हैं क्योंकि हमें लगता है कि यह सिर्फ एक हानिरहित कैलकुलेटर है।
2. सैन्य केस स्टडी: विभिन्न मशीनों का एक चिड़ियाघर
अपने बिंदु को सिद्ध करने के लिए, लेखक सैन्य क्षेत्र को देखते हैं। वे दिखाते हैं कि "मिलिट्री AI" वास्तव में बहुत अलग जानवरों का एक चिड़ियाघर है। यहाँ मुख्य प्रकार दिए गए हैं जो उन्होंने पाए:
A. "स्मार्ट असिस्टेंट" (निर्णय सहायता - Decision Support)
- यह क्या है: एक कंप्यूटर जो लाखों रिपोर्ट पढ़ता है, रेडियो चैटर सुनता है, और एक मानव जनरल के लिए उनका सारांश तैयार करता है।
- उपमा: यह एक सुपर-फास्ट रिसर्च असिस्टेंट की तरह है जो 1,000 पन्नों की किताब में सबसे महत्वपूर्ण वाक्यों को हाइलाइट करता है।
- जोखिम: यदि सहायक गलत वाक्यों को हाइलाइट करता है (क्योंकि उसने किसी मजाक या बोली को गलत समझा), तो जनरल गलत निर्णय ले सकता है। इंसान अभी भी प्रभारी है, लेकिन वह सहायक पर बहुत अधिक भरोसा कर सकता है।
B. "स्नाइपर ड्रोन" (स्वायत्त हथियार - Autonomous Weapons)
- यह क्या है: एक ड्रोन या मिसाइल जो लक्ष्य को ढूंढ सकती है और बिना किसी इंसान द्वारा उस सटीक क्षण में बटन दबाए, हमला कर सकती है।
- उपमा: यह एक गार्ड डॉग (रखवाले कुत्ते) की तरह है जिसे प्रशिक्षित किया गया है कि जो भी बाड़ पार करे उसे काट ले। यदि कुत्ता किसी पड़ोसी को चलते हुए देखता है, तो क्या वह काटता है?
- जोखिम: कुत्ता किसी छाया या वेशभूषा से भ्रमित हो सकता है। यदि "AI कुत्ता" गलती करता है, तो वह किसी की जान ले लेता है। सवाल यहाँ यह है: क्या एक मशीन वास्तव में तय कर सकती है कि कौन जिएगा और कौन मरेगा?
C. "स्वार्म" (ड्रोन स्वार्म - Drone Swarms)
- यह क्या है: सैकड़ों छोटे ड्रोन जो एक साथ उड़ते हैं, आपस में बात करते हैं, और एक समूह के रूप में हमला करते हैं।
- उपमा: कल्पना कीजिए कि मछलियों का एक झुंड है। कोई भी मछली नेता नहीं है; वे बस सरल नियमों के आधार पर एक साथ चलते हैं। यदि आप एक को रोकने की कोशिश करते हैं, तो अन्य चलते रहते हैं।
- जोखिम: हमें शायद यह भी समझ नहीं आएगा कि स्वार्म (झुंड) जो कर रहा है वह क्यों कर रहा है। यह एक जादू देखने जैसा है जहाँ जादूगर स्वयं वह स्वार्म है। यदि वे अनियंत्रित हो जाते हैं, तो उन्हें रोकना कठिन है।
D. "लॉजिस्टिक्स मैनेजर" (रखरखाव और नौकरशाही - Maintenance & Bureaucracy)
- यह क्या है: AI जो भविष्यवाणी करता है कि जेट इंजन कब खराब होगा, या एक AI जो सैनिकों को ईमेल लिखने और नीति दस्तावेज खोजने में मदद करता है।
- उपमा: यह "ऑफिस मैनेजर" या "मैकेनिक" है। यह लड़ नहीं रहा है; यह बस व्यवस्था बनाए रख रहा है।
- जोखिम: यदि मैकेनिक का AI गलत है, तो जेट दुर्घटनाग्रस्त हो सकता है। यदि ऑफिस का AI "हैलुसिनेट" (मनगढ़ंत बातें बनाना) करता है, तो सैनिक बिना जाने नियम तोड़ सकते हैं।
3. "एक ही नियम सबके लिए" काम क्यों नहीं करता
लेखक बताते हैं कि इन प्रणालियों की समस्याएँ पूरी तरह से अलग हैं:
- "स्मार्ट असिस्टेंट" के साथ समस्या यह है कि वह आपसे झूठ बोल सकता है या आपको आलसी बना सकता है (आप अपने आप सोचना बंद कर देते हैं)।
- "स्नाइपर ड्रोन" के साथ समस्या यह है कि वह गलती से किसी निर्दोष को मार सकता है।
- "ऑफिस AI" के साथ समस्या यह है कि वह गुप्त डेटा लीक कर सकता है या आपको फर्जी कानून दे सकता है।
यदि हम "AI" को ठीक करने के लिए एक ही कानून बनाने की कोशिश करेंगे, तो हम विफल हो जाएंगे। एक कानून जो स्नाइपर ड्रोन को रोकता है, वह गलती से जीवन बचाने वाले मेडिकल AI को रोक सकता है। एक कानून जो ड्रोन स्वार्म को रोकता है, वह एक सहायक लॉजिस्टिक्स कंप्यूटर को रोक सकता है।
4. समाधान: विशिष्ट बनें!
लेखकों की मुख्य सलाह सरल है: सटीक रहें।
इसके बजाय यह कहने के:
"हमें सेना में AI को विनियमित (regulate) करने की आवश्यकता है।"
हमें यह कहना चाहिए:
"हमें उन स्वायत्त ड्रोनों को विनियमित करने की आवश्यकता है जो मानव अनुमोदन के बिना हमला कर सकते हैं।"
"हमें उस AI को विनियमित करने की आवश्यकता है जो कानूनी दस्तावेज लिखता है।"
"हमें उस AI को विनियमित करने की आवश्यकता है जो उपग्रह तस्वीरों का विश्लेषण करता है।"
मुख्य निष्कर्ष
"AI" कोई जादुई बक्सा नहीं है। यह एक टूलबॉक्स (औजारों का डिब्बा) है।
- कुछ औज़ार हथौड़े हैं (अगर आप उन्हें अपने पैर पर मारें तो खतरनाक हैं)।
- कुछ औज़ार पेचकस हैं (चीजों को ठीक करने के लिए उपयोगी)।
- कुछ औज़ार स्कैल्पल (सर्जिकल चाकू) हैं (सटीक, लेकिन गलत उपयोग होने पर घातक)।
यह शोध पत्र वैज्ञानिकों, राजनेताओं और जनता से अस्पष्ट शब्द "AI" का उपयोग करना बंद करने का आग्रह करता है। यदि हम सुरक्षा, नैतिकता और भविष्य के बारे में वास्तविक बातचीत करना चाहते हैं, तो हमें अपने हाथ में मौजूद विशिष्ट औज़ार को देखना होगा, न कि पूरे टूलबॉक्स को।
संक्षेप में: यह मत पूछिए, "क्या AI अच्छा है या बुरा?" पूछिए, "क्या यह विशिष्ट AI यह विशिष्ट काम सुरक्षित रूप से कर रहा है?"
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।