Position: AI Must Become Planet-Centered, Not Just Human-Centered
यह शोध पत्र मानव-केंद्रित से ग्रह-केंद्रित एआई (PCAI) की ओर एक प्रतिमान परिवर्तन का तर्क देता है, जो एक ऐसी डिज़ाइन दर्शन है जो सिस्टम थिंकिंग पर आधारित है और जो कृत्रिम बुद्धिमत्ता को वर्तमान अनिश्चितता की गहरी स्थितियों के तहत प्रणालीगत जोखिमों को बढ़ने से रोकने के लिए ग्रह की सामाजिक-पारिस्थितिक स्थिरता की ओर पुनोरिorient करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य विचार: हमें GPS को बदलने की ज़रूरत है
कल्पना कीजिए कि आप एक कार चला रहे हैं। पिछले एक दशक से, AI समुदाय एक बहुत ही स्मार्ट GPS बना रहा है। यह GPS यह सुनिश्चित करने के लिए बनाया गया है कि कार पैदल यात्रियों से न टकराए, रास्ता न भटके, और ड्राइवर को उसके गंतव्य तक जितनी जल्दी हो सके पहुँचा दे। इसे ह्यूमन-सेंटर्ड AI (मानव-केंद्रित AI) कहा जाता है। यह ड्राइवर के लिए तो बहुत अच्छा है, लेकिन यह पेपर तर्क देता है कि यह उस दुनिया के लिए पर्याप्त नहीं है जिसमें हम रहते हैं।
लेखिका, मारिया पेरेज़-ऑर्टिज़ कहती हैं कि हमारा ग्रह एक विशाल, जटिल पारिस्थितिकी तंत्र (ecosystem) की तरह है जहाँ सब कुछ आपस में जुड़ा हुआ है—जैसे एक विशाल, जीवित जाल। यदि आप एक धागे को खींचते हैं, तो पूरा जाल हिल जाता है। अभी, हमारा "ह्यूमन-सेंटर्ड GPS" केवल ड्राइवर को देखता है। यह नहीं देखता कि काम पर जल्दी पहुँचने के लिए तेज़ गाड़ी चलाना एक ऐसा ट्रैफिक जाम पैदा कर सकता है जो दमकल की गाड़ी को रोक दे, या यह कि कार का धुआं धीरे-धीरे उस हवा को ज़हरीला बना रहा है जिसे ड्राइवर दस साल बाद सांस में लेगा।
यह पेपर एक नया दर्शन प्रस्तावित करता है जिसे प्लैनेट-सेंटर्ड AI (ग्रह-केंद्रित AI - PCAI) कहा जाता है। केवल यह पूछने के बजाय कि, "क्या यह मानव उपयोगकर्ता के लिए अच्छा है?" हमें यह पूछना चाहिए, "क्या यह जीवन के पूरे जाल, वर्तमान और भविष्य के लिए अच्छा है?"
पुराना तरीका क्यों विफल होता है: "विकेड प्रॉब्लम" (Wicked Problem) का जाल
यह पेपर बताता है कि आज हम जिन बड़ी चुनौतियों का सामना कर रहे हैं (जैसे जलवायु परिवर्तन या जैव विविधता का नुकसान) वे "विकेड प्रॉब्लम्स" (जटिल/दुष्ट समस्याएँ) हैं।
- टेम प्रॉब्लम्स (पुराना तरीका): एक पहेली या गणित के समीकरण के बारे में सोचें। आप नियम जानते हैं, आप लक्ष्य जानते हैं, और यदि आप इसे हल कर लेते हैं, तो यह समाप्त हो जाता है। वर्तमान AI इन कार्यों में अद्भुत है।
- विकेड प्रॉब्लम्स (नई वास्तविकता): एक ऐसी गांठ को सुलझाने की कोशिश करने के बारे में सोचें जबकि कोई दूसरा दूसरे छोर से उसे खींच रहा है, और वह गांठ अपना आकार बदलती रहती है।
- कोई स्पष्ट लक्ष्य नहीं: हर कोई इस बात पर असहमत है कि "समाधान" कैसा दिखता है।
- कोई सुरक्षित अभ्यास नहीं: आप केवल "कोशिश और विफलता" (try and fail) नहीं कर सकते क्योंकि गलती स्थायी हो सकती है (जैसे पिघलते हुए ग्लेशियर)।
- सब कुछ आपस में जुड़ा है: एक चीज़ को ठीक करने से अक्सर दूसरी जगह कुछ और टूट जाता है।
पेपर का तर्क है कि वर्तमान AI "टेम प्रॉब्लम्स" के लिए बनाया गया है। जब हम इसे "विकेड प्रॉब्लम्स" को हल करने के लिए मजबूर करते हैं, तो यह अक्सर चीज़ों को बदतर बना देता है, और हमें इसका एहसास तब तक नहीं होता जब तक कि बहुत देर न हो जाए।
तीन तरीके जिनसे वर्तमान AI गलतियाँ करता है
1. "एफिशिएंसी ट्रैप" (दक्षता का जाल - Rebound Effects)
कल्पना कीजिए कि आपने एक बहुत ही कुशल वैक्यूम क्लीनर खरीदा है जो आधा बिजली का उपयोग करता है। आप सोचते हैं, "बहुत बढ़िया, मैं ऊर्जा बचा रहा हूँ!" लेकिन क्योंकि यह इतना सस्ता और आसान है, आप दिन में तीन बार पूरे घर में वैक्यूम करना शुरू कर देते हैं, और आप गैरेज के लिए दूसरा भी खरीद लेते हैं। अंत में, आप पहले की तुलना में अधिक ऊर्जा का उपयोग करते हैं।
पेपर इसे रीबाउंड इफेक्ट (Rebound Effect) कहता है। AI अक्सर चीज़ों को अधिक कुशल बनाता है (जैसे कारों का चलना या खेती), लेकिन क्योंकि यह सस्ता और आसान है, हम इसे अधिक करते हैं, जो वास्तव में ग्रह को अधिक नुकसान पहुँचाता है। वर्तमान AI इसे नहीं देख पाता क्योंकि यह प्रति मील बचाई गई ऊर्जा को गिनता है, न कि अतिरिक्त तय किए गए मील को।
2. "ब्लाइंड स्पॉट" (अंध बिंदु)
वर्तमान AI एक बहुत ही संकीर्ण लेंस वाले कैमरे की तरह है। यह केवल वही देखता है जो इसके ठीक सामने है।
- उदाहरण: शिकारियों को रोकने के लिए डिज़ाइन किया गया एक AI जानवरों को पहचानने में बहुत अच्छा हो सकता है। लेकिन पेपर बताता है कि इस AI का उपयोग स्थानीय स्वदेशी लोगों की जासूसी करने के लिए भी किया जा सकता है, जिससे वे संरक्षण प्रयासों में मदद करने से डरने लगते हैं। AI शिकारियों को पकड़ने में "सफल" होता है लेकिन सामुदायिक विश्वास के बड़े चित्र में विफल रहता है।
- पेपर कहता है कि AI नैतिकता आमतौर पर केवल मानव उपयोगकर्ताओं की परवाह करती है, पौधों, जानवरों और मिट्टी की अनदेखी करती है। लेकिन यदि मिट्टी मर जाती है, तो इंसान भी मर जाते हैं।
3. "क्रिस्टल बॉल" की समस्या
AI अतीत के आधार पर भविष्य की भविष्यवाणी करने में माहिर है (जैसे यह कहना कि बारिश होगी क्योंकि कल हुई थी)। लेकिन एक बदलती दुनिया में, अतीत भविष्य जैसा नहीं दिखता।
- उपमा: एक ऐसे जहाज को नेविगेट करने की कोशिश करने के बारे में सोचें जो 100 साल पुराने समुद्र के नक्शे का उपयोग कर रहा है। धाराएं बदल गई हैं, नए द्वीप दिखाई दिए हैं, और तूफान अलग हैं।
- पेपर कहता है कि AI अक्सर एक ऐसे क्रिस्टल बॉल की तरह काम करता है जो केवल एक संभावित भविष्य दिखाता है। लेकिन एक जटिल दुनिया में, कई संभावित भविष्य होते हैं। हमें ऐसे AI की आवश्यकता है जो हमें विभिन्न संभावनाओं को खोजने में मदद करे ताकि हम बेहतर निर्णय ले सकें, न कि केवल एक परिणाम की भविष्यवाणी करे।
समाधान: प्लैनेट-सेंटर्ड AI (PCAI)
पेपर सुझाव देता है कि हमें शुरुआत से ही AI बनाने के तरीके को फिर से डिजाइन करने की आवश्यकता है। सरल शब्दों में यह कैसा दिखता है:
- पूरे जाल का मानचित्र बनाएँ: AI बनाने से पहले, हमें यह मानचित्र बनाना चाहिए कि यह बाकी सब कुछ (लोग, प्रकृति, अर्थव्यवस्था) से कैसे जुड़ता है। हमें पूछना होगा: "यदि हम यह करते हैं, तो मछलियों का क्या होगा? किसान का क्या होगा? 50 साल में क्या होगा?"
- हर चीज़ को "ऑप्टिमाइज़" करने की कोशिश छोड़ दें: केवल एक "सर्वश्रेष्ठ" उत्तर खोजने के बजाय, AI को हमें व्यापार-बंद (trade-offs) दिखाने चाहिए। "यदि हम X करते हैं, तो हम पैसा बचाते हैं लेकिन नदी को नुकसान पहुँचाते हैं। यदि हम Y करते हैं, तो हम नदी को बचाते हैं लेकिन इसमें अधिक लागत आती है।" इसे हमारे लिए निर्णय लेने के बजाय, मनुष्यों को बहस करने और निर्णय लेने में मदद करनी चाहिए।
- दीर्घकालिक नज़र रखें: हमें AI को चालू करने के बाद भी देखते रहना होगा। यदि AI समस्याएं पैदा करने लगता है (जैसे लोगों को अधिक गाड़ी चलाने के लिए प्रेरित करना), तो हमारे पास "अनडू" (undo) बटन दबाने या रास्ता बदलने का तरीका होना चाहिए।
- विनम्र बनें: पेपर स्वीकार करता है कि हम सब कुछ अनुमानित नहीं कर सकते। इसलिए, AI जटिल प्रणालियों को समझने के लिए एक उपकरण होना चाहिए, न कि उन पर नियंत्रण करने के लिए।
एक बड़ी चेतावनी (एक परीक्षण योग्य दावा)
पेपर एक साहसी, परीक्षण योग्य दावे के साथ समाप्त होता है:
"यदि हम ऐसे AI सिस्टम बनाते हैं जिन्हें केवल तेज़, सस्ता या कुशल होने की परवाह है, और यह नहीं सोचते कि वे पूरे तंत्र को कैसे हिला देंगे, तो वे संभवतः दुनिया की सबसे बड़ी समस्याओं को बेहतर बनाने के बजाय उन्हें और बदतर बना देंगे।"
यह बिना ब्रेक और बिना स्टीयरिंग व्हील वाली कार को एक शक्तिशाली इंजन देने जैसा है। यह तेज़ तो जाएगी, लेकिन दुर्घटनाग्रस्त हो जाएगी। पेपर चाहता है कि हम गैस दबाने से पहले ब्रेक और स्टीयरिंग व्हील (सिस्टम थिंकिंग) स्थापित करें।
सारांश
पेपर यह नहीं कह रहा है कि AI बुरा है। यह कह रहा है कि AI के बारे में सोचने का हमारा वर्तमान तरीका बहुत छोटा है। हम AI को मनुष्यों के लिए एक उपकरण के रूप में मान रहे हैं, लेकिन हम एक ऐसे ग्रह पर रहते हैं जहाँ मनुष्य एक विशाल, नाजुक प्रणाली का केवल एक हिस्सा है। भविष्य में जीवित रहने के लिए, हमें ऐसे AI की आवश्यकता है जो पूरे सिस्टम का सम्मान करे, न कि केवल उपयोगकर्ता का।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।