Constitutional governance for societies of AI agents in the built environment: a research agenda
यह शोध पत्र निर्मित परिवेश (built environment) में संवैधानिक बहु-एजेंट शासन स्थापित करने के लिए एक अनुसंधान एजेंडा प्रस्तावित करता है, जो एआई (AI) को पृथक उपकरणों के रूप में मानने के बजाय उन्हें तंत्र डिजाइन (mechanism design), भौतिकी-सूचित सत्यापन (physics-informed verification) और प्रतिरोधी समन्वय (antifragile coordination) के माध्यम से वार्ताकार एजेंटों के एक रणनीतिक समाज के रूप में प्रबंधित करने पर ध्यान केंद्रित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
रोबोटों का अदृश्य शहर
कल्पना कीजिए कि आपका शहर केवल ईंट, स्टील और कांच से ही नहीं बना है, बल्कि यह अदृश्य, अति-बुद्धिमान रोबोटों से भी भरा हुआ है। ये पुराने फिल्मों वाले भारी-भरकम धातु के रोबोट नहीं हैं; ये आपके थर्मोस्टेट, आपके बिजली ग्रिड, आपकी ट्रैफिक लाइट और आपके मकान मालिक के बिलिंग सॉफ्टवेयर के भीतर रहने वाले सॉफ्टवेयर एजेंट हैं। उनका काम निर्णय लेना है: गर्मी को कम या ज्यादा करना, ट्रैफिक का रास्ता बदलना, या इस बात पर बातचीत करना कि नई छत के लिए भुगतान कौन करेगा। अभी, वैज्ञानिक और इंजीनियर इन रोबोटों को मुख्य रूप से व्यक्तिगत उपकरणों की तरह देख रहे हैं, जैसे कि एक बहुत ही स्मार्ट हथौड़ा। वे पूछते हैं, "क्या यह एक रोबोट सुरक्षित है?" लेकिन यह शोध पत्र तर्क देता है कि इसे देखने का यह गलत तरीका है।
एक इमारत को केवल एक मशीन के रूप में नहीं, बल्कि एक व्यस्त बाजार या एक छोटे शहर के रूप में देखें। एक शहर में, आपके पास अलग-अलग लक्ष्यों वाले लोग होते हैं: मकान मालिक पैसा बचाना चाहता है, किरायेदार गर्म रहना चाहता है, बिजली कंपनी ग्रिड को संतुलित करना चाहती है, और शहर प्रदूषण कम करना चाहता है। जब इन "रोबोटों" की पूरी फौज अपने मानवीय मालिकों की ओर से कार्य करती है, तो वे एक खेल खेलने लगते हैं। वे एक-दूसरे को धोखा देने, जानकारी छिपाने या संसाधनों के लिए लड़ने की कोशिश कर सकते हैं। यहीं पर गेम थ्योरी (Game Theory) आती है—गणित की एक शाखा जो यह अध्ययन करती है कि लोग (या रोबोट) कैसे निर्णय लेते हैं जब उनके हित आपस में टकराते हैं। यह पत्र सुझाव देता है कि हमें इस शहर के लिए नियमों का एक नया सेट चाहिए, जो एक संविधान के समान हो। जिस तरह किसी देश का संविधान उच्चतम नियम निर्धारित करता है जिसे कोई तोड़ नहीं सकता, यह पत्र हमारे रोबोटों से भरे भवनों के लिए एक "डिजिटल संविधान" का प्रस्ताव करता है। यह खेल के नियमों को डिजाइन करने के बारे में है ताकि भले ही हर रोबोट स्वार्थी हो, पूरा शहर फिर भी एक अच्छी स्थिति में रहे।
शोध पत्र का बड़ा विचार: रोबोट शहरों के लिए एक संविधान
यह शोध पत्र, जिसे कार्डिफ यूनिवर्सिटी के अली घोरोघी द्वारा लिखा गया है, एक अनुसंधान एजेंडा है। यह दावा नहीं करता कि इसने समस्या को अभी तक हल कर दिया है; इसके बजाय, यह एक मानचित्र तैयार करता है कि चीजें अराजक होने से पहले हमें इसे कैसे हल करना चाहिए। लेखक का तर्क है कि हम वर्तमान में एक ऐसा भविष्य बना रहे हैं जहाँ स्वायत्त AI एजेंट हमारे घरों और शहरों को नियंत्रित करेंगे, लेकिन हम इसे इस योजना के बिना कर रहे हैं कि उन्हें कैसे परस्पर क्रिया करनी चाहिए। यदि हम केवल प्रत्येक रोबोट को अलग से सुरक्षित बनाते हैं, तो हम एक ऐसी इमारत के साथ समाप्त हो सकते हैं जहाँ हर रोबोट अपना काम पूरी तरह से कर रहा है, लेकिन सामूहिक परिणाम एक आपदा है—जैसे कि एक ट्रैफिक जाम जहाँ हर कार कानूनी रूप से चल रही है लेकिन कोई भी आगे नहीं बढ़ पा रहा है।
यह पत्र दृष्टिकोण में बदलाव का प्रस्ताव करता है: हमें एजेंटों के बजाय एजेंटों के समाज को डिजाइन करने की आवश्यकता है। ऐसा करने के लिए, लेखक अर्थशास्त्र, कंप्यूटर विज्ञान और भौतिकी के मिश्रण का उपयोग करते हुए, अनुसंधान के तीन मुख्य स्तंभों का सुझाव देता है।
1. "स्प्लिट इंसेंटिव" पहेली: भुगतान कौन करता है, जीतता कौन है?
पुरानी इमारतों को अपग्रेड करने में सबसे बड़ी समस्याओं में से एक "स्प्लिट इंसेंटिव" (विभाजित प्रोत्साहन) है। कल्पना कीजिए कि एक मकान मालिक को एक नया, महंगा हीट पंप खरीदने के लिए भुगतान करना पड़ता है, लेकिन किरायेदार वह है जिसे कम बिजली बिल का लाभ मिलेगा। मकान मालिक के पास अपग्रेड करने का कोई कारण नहीं है, और किरायेदार इसे चुकाने में सक्षम नहीं है। वर्तमान में, सरकारें इसे सब्सिडी या कानूनों के माध्यम से ठीक करने की कोशिश करती हैं, लेकिन यह पत्र सुझाव देता है कि हमें इसे एक नेगोशिएशन गेम (बातचीत के खेल) के रूपв रूप में देखना चाहिए।
लेखक एक "रिट्रोफिट नेगोशिएशन जिम" बनाने का प्रस्ताव करता है—एक कंप्यूटर सिमुलेशन जहाँ हम विभिन्न नियमों का परीक्षण कर सकते हैं कि मकान मालिकों और किरायेदारों को सहमत करने के लिए क्या किया जाए। पत्र का सुझाव है कि क्योंकि हम भविष्य को नहीं जानते (ऊर्जा की कीमतें गिर सकती हैं, या जलवायु नियम बदल सकते हैं), हमें ऐसे नियम डिजाइन करने की आवश्यकता है जो तब भी काम करें जब हर कोई अनिश्चित हो। यह एक छुट्टी की योजना पर सहमत होने जैसा है जब आपको नहीं पता कि अगले सप्ताह बारिश होगी या धूप निकलेगी। पत्र सुझाव देता है कि कभी-कभी, सौदा करने का एकमात्र तरीका यह होता है कि सरकार एक "मैकेनिज्म" के रूप में कार्य करे जो अंतर को पाटने के लिए एक विशिष्ट राशि का भुगतान करे, लेकिन हमें यह गणना करने की आवश्यकता है कि इसे निष्पक्ष और कुशल बनाने के लिए वास्तव में कितना भुगतान किया जाना चाहिए।
2. "डिजिटल ट्विन": एक रेफरी के रूप में
दूसरा स्तंभ सुरक्षा के बारे में है। अभी, यदि कोई रोबोट नियंत्रक गलती करता है, तो वह कमरे को बहुत गर्म कर सकता है या मशीन को खराब कर सकता है। यह पत्र एक नए प्रकार के "डिजिटल ट्विन" का प्रस्ताव करता है। आमतौर पर, एक डिजिटल ट्विन केवल एक दर्पण होता है—एक कंप्यूटर मॉडल जो दिखाता है कि वास्तविक इमारत में क्या हो रहा है। लेखक इस दर्पण को एक रेफरी (अंपायर) में अपग्रेड करना चाहते हैं।
एक खेल की कल्पना करें जहाँ खिलाड़ी (AI एजेंट) चालें प्रस्तावित करते हैं, जैसे "गर्मी को 28°C तक बढ़ा दें।" चाल चलने से पहले, रेफरी (डिजिटल ट्विन) नियमों की जाँच करता है। लेकिन यह केवल एक सॉफ्टवेयर चेक नहीं है; यह एक फिजिक्स चेक (भौतिकी की जाँच) है। रेफरी इमारत के भौतिकी के एक सरल मॉडल का उपयोग करके भविष्यवाणी करता है: "यदि आप ऐसा करते हैं, तो कमरे का तापमान अंदर मौजूद लोगों के लिए बहुत अधिक हो जाएगा।" यदि भविष्यवाणी कहती है "नहीं," तो कमांड को उस समय ही ब्लॉक कर दिया जाता है जब वह हीटर तक पहुँचने वाली होती है। यह केवल बाद में रोबोट को दंडित करने से अलग है; यह भौतिक रूप से बुरे परिणाम को रोकता है।
पत्र एक विशिष्ट उदाहरण के माध्यम से चलता है: एक कार्यालय में गर्मी का एक गर्म दिन। पावर ग्रिड इमारत से ऊर्जा उपयोग को कम करने के लिए कहता है। इमारत का AI पैसा बचाने के लिए AC चलाना चाहता है, लेकिन किरायेदार का AI कमरे को ठंडा रखना चाहता है। रेफरी नियमों की जाँच करता है: "हम गर्मी को थोड़ा बढ़ा सकते हैं, लेकिन कभी भी 28°C से ऊपर नहीं, क्योंकि इससे लोगों को नुकसान पहुँचता है।" रेफरी खतरनाक चाल को ब्लॉक कर देता है, इमारत का AI एक सुरक्षित चाल आज़माता है, और रेफरी उसे मंजूरी देता है। यह प्रणाली सुनिश्चित करती है कि भले ही AI एजेंट बहस कर रहे हों, इमारत की भौतिक सुरक्षा से कभी समझौता नहीं किया जाएगा।
3. अराजकता से मजबूत होना: एंटीफ्रेजिलिटी (Antifragility)
तीसरा विचार झटकों को संभालने के बारे में है। आमतौर पर, हम चाहते हैं कि सिस्टम "रेज़िलिएंट" (लचीला) हो, जिसका अर्थ है कि वे एक झटका सह सकें और वापस पटरी पर आ सकें। लेकिन यह पत्र सुझाव देता है कि हमें एंटीफ्रेजिलिटी का लक्ष्य रखना चाहिए। यह उन प्रणालियों के लिए एक फैंसी शब्द है जो चीज़ें खराब होने पर वास्तव में बेहतर होती हैं।
एक मांसपेशी के बारे में सोचें: यदि आप भारी वजन उठाते हैं (एक झटका), तो यह मजबूत होती है। पत्र का तर्क है कि हमारे शहरी बुनियादी ढांचे को इस तरह डिजाइन किया जाना चाहिए कि जब कोई झटका लगता है—जैसे अचानक हीटवेव या बिजली कटौती—तो खेल के नियम AI एजेंटों को जानकारी साझा करने और संसाधनों को इस तरह पुनर्वितरित करने के लिए मजबूर करें जिससे पूरा सिस्टम और अधिक स्मार्ट और कुशल बन जाए। पत्र यह दावा नहीं करता कि हमने इसे अभी तक बनाया है; यह सुझाव देता है कि हमें नियमों को इस तरह डिजाइन करने की आवश्यकता है कि जब अराजकता आती है, तो सिस्टम केवल जीवित न रहे, बल्कि सीखे और बेहतर बने। वे यह मापने के लिए डेटा का उपयोग कर रहे हैं कि क्या नियम आपदा को सीखने के अवसर में बदल सकते हैं, इसके लिए यूरोप के पायलट शहरों के डेटा का उपयोग किया जा रहा है।
इसका भविष्य के लिए क्या अर्थ है
यह पत्र बहुत स्पष्ट है कि यह क्या है और क्या नहीं है। यह यह नहीं कह रहा है कि हमने पहले से ही ये सिस्टम बना लिए हैं या वे पूर्ण हैं। वास्तव में, यह स्वीकार करता है कि "रेफरी" (डिजिटल ट्विन) गलतियाँ कर सकता है, ठीक वैसे ही जैसे एक मानव न्यायाधीश। यदि रेफरी का मॉडल गलत है, तो यह एक अच्छे विचार को रोक सकता है या एक बुरे विचार को जाने दे सकता है। इसलिए, पत्र एक ऐसी प्रणाली का आह्वान करता है जहाँ रेफरी के निर्णयों को चुनौती दी जा सके और उनकी जाँच की जा सके, और जहाँ हम त्रुटियों से सीखने के लिए हर निर्णय का रिकॉर्ड रखें।
लेखक हमें एक सामान्य गलती के प्रति भी चेतावनी दे रहे हैं: यह सोचना कि यदि हम बस प्रत्येक AI एजेंट को व्यक्तिगत रूप रूप से "अच्छा" या "सुरक्षित" बना दें, तो सब कुछ ठीक हो जाएगा। पत्र का तर्क है कि यह ट्रैफिक जाम को हल करने के लिए सड़क के नियमों या ट्रैफिक लाइट को बदले बिना, हर ड्राइवर को एक अच्छा इंसान बनाने जैसा है। असली समाधान संविधान लिखना है—उन उच्च-स्तरीय नियमों का सेट जो इन एजेंटों की परस्पर क्रिया को नियंत्रित करते हैं।
पत्र शोधकर्ताओं, इंजीनियरों और नीति निर्माताओं के लिए कार्रवाई का आह्वान करता है। हमें इन नियमों को अभी से लिखना शुरू करना होगा, इससे पहले कि AI एजेंट बिना किसी योजना के हमारे भवनों और शहरों पर नियंत्रण कर लें। हमें मानव और रोबोट के सुरक्षित और निष्पक्ष रूप से साथ रहने के लिए गेम थ्योरी के गणित, भवनों की भौतिकी और कानून की नैतिकता को मिलाने की आवश्यकता है। यह एक बड़ी चुनौती है, लेकिन पत्र का सुझाव है कि यदि हम नियमों को सही कर लेते हैं, तो हमारे भविष्य के शहर पहले से कहीं अधिक स्मार्ट, सुरक्षित और अनुकूलनीय हो सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।