Why collective AI assurance cannot target agents or networks in isolation
यह शोध पत्र फैक्टोरियल प्रयोगों के माध्यम से यह प्रदर्शित करता है कि सामूहिक एआई परिणाम उस विशिष्ट इंटरेक्शन रिजीम (interaction regime) से उत्पन्न होते हैं जहाँ संरचनात्मक और व्यवहार संबंधी कारण अलग और संदर्भ-निर्भर होते हैं, जो यह सिद्ध करता है कि प्रभावी एआई आश्वासन (AI assurance) एजेंटों या नेटवर्क को अलग से लक्षित नहीं कर सकता, बल्कि इसके बजाय उन्हें उनके अंतर्संबंधों की गतिशील कारण संरचना पर ध्यान केंद्रित करना चाहिए।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की तेजी से बदलती दुनिया में, एक नए प्रकार का जोखिम उभर कर आया है जिसे किसी एक मशीन को अलग से देखकर नहीं समझा जा सकता। एक अस्पताल की कल्पना करें जहाँ दर्जनों स्वचालित सहायक मरीजों के शेड्यूल को व्यवस्थित करने, आपातकालीन स्थितियों की छंटनी करने और रेफरल प्रबंधित करने के लिए समन्वय करते हैं। प्रत्येक सहायक को मददगार, निष्पक्ष और सहयोगात्मक होने के लिए प्रोग्राम किया गया है। यदि हम इन सहायकों में से एक का अकेले एक शांत कमरे में परीक्षण करें, तो वह मानवीय मूल्यों के साथ पूरी तरह से संरेखित दिखाई देता है। हालाँकि, जब ये सहायक एक जटिल नेटवर्क में एक-दूसरे के साथ बातचीत करना शुरू करते हैं, तो पूरा समूह मिलकर ऐसे परिणाम उत्पन्न कर सकता है जो गहराई से अन्यायपूर्ण होते हैं, भले ही प्रत्येक सदस्य सही काम करने की कोशिश कर रहा हो। 'कलेक्टिव इमर्जेंस' (सामूहिक उद्भव) नामक यह घटना बताती है कि एक प्रणाली की सुरक्षा उसके हिस्सों के व्यक्तिगत चरित्र पर कम और उनके बीच के अंतर्संबंधों के नियमों पर अधिक निर्भर करती है। शोधकर्ताओं और नियामकों के सामने सवाल अब केवल यह नहीं है कि क्या एक अकेला AI सुरक्षित है, बल्कि यह है कि जब कई AI मिलकर काम कर रहे हों तो निष्पक्षता की गारंटी कैसे दी जाए।
ऑस्ट्रिया के शोधकर्ताओं की एक टीम ने इस समस्या के भीतर एक विशिष्ट पहेली को हल करने का प्रयास किया: जब AI एजेंटों का एक समूह असमान परिणाम उत्पन्न करता है, तो क्या दोष एजेंटों का है, या यह उनके नेटवर्क की संरचना में ही रचा-बसा है? इसका उत्तर खोजने के लिए, उन्होंने एक डिजिटल प्रयोगशाला बनाई जहाँ वे हजारों सिम्युलेटेड इंटरैक्शन चला सकें। उन्होंने अपने एजेंटों के खेलने के लिए दो अलग-अलग प्रकार के सामाजिक खेल बनाए। पहले खेल में, एक 'पब्लिक गुड्स' (सार्वजनिक वस्तु) परिदृश्य था, जहाँ एजेंट अपने पड़ोसियों के साथ संसाधन साझा करने या उन्हें अपने पास रखने का विकल्प चुन सकते थे। दूसरे में, एक 'ट्रस्ट गेम' (विश्वास का खेल) था जो मेडिकल रेफरल के इर्द-गिर्द केंद्रित था, जहाँ एजेंटों को यह निर्णय लेना था कि वे किसी विशिष्ट सहकर्मी को संसाधन भेजें या अपने मरीज के लिए उसे अपने पास रखें। शोधकर्ताओं ने इन खेलों की स्थितियों को एक वैज्ञानिक की तरह बदला, जैसे कोई मशीन के डायलों को समायोजित करता है। उन्होंने एजेंटों के व्यक्तित्व को बदला, जिससे वे सभी समान रूप से निष्पक्ष थे, या कुछ स्वार्थी एजेंटों को मिला दिया। उन्होंने नेटवर्क के आकार को भी बदला, जिसमें या तो सभी को सभी से जोड़ा गया, या ऐसे 'हब' बनाए गए जहाँ कुछ एजेंटों के पास दूसरों की तुलना में बहुत अधिक कनेक्शन थे। उन्होंने यह भी परीक्षण किया कि क्या 'पीयर पनिशमेंट' (सहकर्मी दंड) की प्रणाली—जहाँ एजेंट एक-दूसरे की आलोचना कर सकते थे—से उत्पन्न होने वाली किसी भी अन्यायपूर्ण स्थिति को ठीक किया जा सकता है।
परिणामों ने इस बात का चौंकाने वाला सच उजागर किया कि ये प्रणालियाँ कैसे काम करती हैं। जब शोधकर्ताओं ने एक ऐसा नेटवर्क उपयोग किया जहाँ कुछ एजेंटों के पास बहुत अधिक कनेक्शन थे और अधिकांश के पास बहुत कम, तो असमानता का एक पैटर्न उभरा जो एजेंटों के व्यवहार के बजाय पूरी तरह से नेटवर्क के आकार द्वारा निर्धारित था। पब्लिक गुड्स गेम में, भले ही प्रत्येक एजेंट को पूरी तरह से निष्पक्ष और सहयोगात्मक होने के लिए प्रोग्राम किया गया था, अधिक कनेक्शन वाले एजेंटों के पास कम कनेक्शन वाले एजेंटों की तुलना में काफी अधिक संसाधन रहे। अधिक कनेक्शन होने और अधिक संसाधन होने के बीच का संबंध इतना मजबूत था कि वह लगभग पूर्ण था। यह सिद्ध करने के लिए कि यह एक संरचनात्मक मुद्दा था न कि AI के "मस्तिष्क" की कोई खामी, शोधकर्ताओं ने उसी खेल को एक साधारण कंप्यूटर प्रोग्राम के साथ चलाया जिसमें तर्क करने या सीखने की कोई क्षमता नहीं थी। यह बुनियादी बॉट, जो केवल एक निश्चित नियम का पालन करता था, उसी उच्च स्तर की असमानता को दोहराता है जैसा कि परिष्कृत AI मॉडल ने दिखाया था। यह निष्कर्ष बताता है कि कुछ प्रकार की अंतःक्रियाओं में, अन्याय नेटवर्क डिजाइन की एक गणितीय निश्चितता है, न कि व्यक्तिगत एजेंटों के 'अच्छे' होने की विफलता।
हालाँकि, कहानी तब और जटिल हो गई जब शोधकर्ताओं ने 'ट्रस्ट गेम' की ओर रुख किया। यहाँ, एजेंट संसाधनों को समान रूप से बांटने के बजाय लक्षित विकल्प बना रहे थे कि वे किसकी मदद करेंगे। इस वातावरण में, एजेंटों का व्यवहार बहुत अधिक मायने रखता था। भले ही नेटवर्क संरचना पहले वाले खेल के समान ही थी, एजेंटों के व्यक्तित्व और उनके निर्णयों ने अंतिम परिणाम को निर्धारित करने में बड़ी भूमिका निभाई। एक विशिष्ट सेटअप में, शोधकर्ताओं ने पाया कि एजेंटों का व्यवहार असमानता का प्राथमिक चालक था, जबकि दूसरे सेटअप में, नेटवर्क संरचना मुख्य चालक थी। इसका अर्थ यह है कि AI सुरक्षा के लिए कोई एक एकल "समाधान" नहीं है जो हर स्थिति में काम करे। आप केवल एक AI को निष्पक्ष प्रमाणित करके यह मान नहीं सकते कि समूह निष्पक्ष होगा, क्योंकि कुछ इंटरैक्शन व्यवस्थाओं में, नेटवर्क संरचना व्यक्तिगत निष्पक्षता को दबा देती है। इसके विपरीत, आप केवल नेटवर्क संरचना को ठीक करके यह नहीं मान सकते कि एजेंट व्यवहार करेंगे, क्योंकि अन्य व्यवस्थाओं में, एजेंटों के चुनाव ही प्रमुख कारक होते हैं।
अध्ययन ने यह भी परीक्षण किया कि क्या एजेंट इस समस्या को "देख" सकते थे और इसे ठीक कर सकते थे। शोधकर्ताओं ने प्रत्येक चाल के बाद एजेंटों से उनके तर्क को समझाने के लिए कहा। ट्रस्ट गेम में, एजेंटों ने बार-बार उल्लेख किया कि वे नेटवर्क संरचना के प्रति जागरूक थे और निष्पक्ष होने की कोशिश कर रहे थे। वे अपनी स्थिति को स्पष्ट कर सकते थे और सिस्टम को समझ सकते थे। फिर भी, इस जागरूकता ने परिणाम को नहीं बदला। भले ही एजेंट जानते थे कि वे एक असमान स्थिति में हैं, वे अपने अधिक जुड़े हुए साथियों के संरचनात्मक लाभों को पार करने में सक्षम नहीं थे। असमानता से जूझ रहे एजेंट अक्सर वही थे जो इस वास्तविकता से अवगत थे, लेकिन उनकी समझ बेहतर परिणाम में नहीं बदल सकी। यह एक महत्वपूर्ण अंतर को रेखांकित करता: यह जानना कि एक प्रणाली अन्यायपूर्ण है, उस पर बदलने की शक्ति रखने के समान नहीं है।
अंत में, शोधकर्ताओं ने असमानता के एक सामान्य समाधान का परीक्षण किया: 'पीयर सैंक्शनिंग' (सहकर्मी दंड)। उन्होंने एजेंटों को उन लोगों को दंडित करने की शक्ति दी जो अन्यायपूर्ण व्यवहार करते थे, जिससे उनकी प्रतिष्ठा कम हो जाती। सिमुलेशन में, एजेंटों ने इस शक्ति का उपयोग किया, और उन्होंने सही ढंग से पहचान लिया कि अधिक कनेक्शन वाले एजेंट ही दंड के पात्र हैं। हालाँकि, इस दंड का संसाधनों के अंतिम वितरण पर कोई प्रभाव नहीं पड़ा। असमानता बिल्कुल वैसी ही बनी रही। शोधकर्ताओं ने पाया कि दंड प्रणाली की केवल घोषणा ने एजेंटों के व्यवहार को थोड़ा बदल दिया, लेकिन वास्तविक दंड देने की प्रक्रिया ने परिणाम को बदलने में कुछ भी नहीं किया। वह तंत्र जो लाभ उत्पन्न कर रहा था—जिस तरह से नेटवर्क के माध्यम से संसाधन प्रवाहित होते थे—प्रतिष्ठा प्रणाली से अछूता रहा।
इस कार्य का अंतिम निष्कर्ष यह है कि हम आर्टिफिशियल इंटेलिजेंस प्रणालियों के लिए सुरक्षा के एक निश्चित स्तर को मानकर नहीं चल सकते। हम केवल यह जांचकर संतुष्ट नहीं हो सकते कि प्रत्येक व्यक्तिगत एजेंट निष्पक्ष है, और न ही हम केवल यह जांच सकते हैं कि नेटवर्क का डिज़ाइन अच्छा है। सामूहिक सुरक्षा विशिष्ट एजेंटों, नेटवर्क और अंतःक्रिया के नियमों के संयोजन पर निर्भर करती है। कुछ मामलों में, नेटवर्क संरचना ही प्रमुख शक्ति होती है, जिससे व्यक्तिगत निष्पक्षता अप्रासंगिक हो जाती है। अन्य मामलों में, एजेंटों का व्यवहार मुख्य कुंजी होता है। इसका अर्थ है कि नियामकों और डिजाइनरों को AI आश्वासन के लिए 'एक ही आकार सबके लिए उपयुक्त' (one-size-fits-all) वाले दृष्टिकोण पर भरोसा नहीं करना चाहिए। उन्हें उस प्रणाली की विशिष्ट कारण संरचना (causal structure) को समझना होगा जिसे वे बना रहे हैं। यदि वे एक निष्पक्ष परिणाम सुनिश्चित करना चाहते हैं, तो उन्हें यह पहचानना होगा कि उस विशिष्ट संदर्भ में कौन सा कारक—संरचना या व्यवहार—परिणाम को संचालित कर रहा है और वहीं हस्तक्षेप करना होगा। इस समझ के बिना, सबसे नेक इरादे वाले और पूरी तरह से संरेखित AI एजेंट भी गहरे असमान समाज उत्पन्न कर सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।