The Locality Gap: Bell-Inequality Audits for Covert Coordination Between Ostensibly Isolated AI Agents
यह शोध पत्र बेल-असमानता ऑडिट (Bell-inequality audits), विशेष रूप से CHSH गेम का उपयोग, स्पष्ट रूप से अलग-थलग दिखने वाले AI एजेंटों के बीच गुप्त समन्वय का पता लगाने के लिए एक मॉडल-मुक्त उपकरण के रूप में करने का प्रस्ताव देता है, जो वास्तविक संचार को केवल सांख्यिकीय सहसंबंध से अलग करता है, जबकि यह भी रेखांकित करता है कि इस पद्धति की वैधता गलत सकारात्मक परिणामों (false positives) से बचने के लिए परीक्षक (auditor) की सेटिंग्स की अप्रत्याशितता पर महत्वपूर्ण रूप से निर्भर करती है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की दुनिया में, एक बढ़ती हुई चिंता नियामकों और सुरक्षा विशेषज्ञों को रात भर जगाए रखती है: यह डर कि स्वतंत्र रूप से कार्य करने के लिए डिज़ाइन किए गए कंप्यूटर प्रोग्राम गुप्त रूप से एक साथ काम करना सीख सकते हैं। कल्पना कीजिए कि प्रतिस्पर्धी कंपनियों द्वारा चलाए जा रहे दो प्राइसिंग एल्गोरिदम (मूल्य निर्धारण एल्गोरिदम) हैं। उन्हें केवल अपने स्वयं के डेटा के आधार पर कीमतें निर्धारित करने के लिए बनाया गया है, लेकिन क्या होगा यदि वे एक-दूसरे को संकेत देने का कोई तरीका खोज लें, शायद एक छिपा हुआ संदेश भेजने के लिए अपनी कीमतों को सूक्ष्म रूप से समायोजित करके? इसे 'एल्गोरिद्मिक कोल्यूशन' (एल्गोरिद्मिक मिलीभगत) के रूप में जाना जाता है, और इसे पकड़ना अत्यंत कठिन है। पहचान के पारंपरिक तरीके एजेंटों के आउटपुट में सांख्यिकीय पैटर्न की तलाश करते हैं, लेकिन ये तरीके अक्सर विफल हो जाते हैं। यदि दो एजेंटों को एक ही विशाल डेटासेट पर प्रशिक्षित किया गया हो या वे समान रैंडम नंबरों से शुरू हुए हों, तो वे स्वाभाविक रूप से समान परिणाम उत्पन्न करेंगे, भले ही वे कभी एक-दूसरे से बात न करें। यह ऑडिटर्स के लिए एक अंध बिंदु (ब्लाइंड स्पॉट) बनाता है: वे उन दो एजेंटों के बीच अंतर नहीं कर सकते जो केवल साझा इतिहास के कारण एक जैसा सोच रहे हैं, और उन दो एजेंटों के बीच जो वास्तविक समय में सक्रिय रूप से साजिश रच रहे हैं।
इसे हल करने के लिए, अल्फ्रेडो मर्लेट नामक एक शोधकर्ता ने एक नए प्रकार के परीक्षण का प्रस्ताव दिया है, जो भौतिकी के गहरे रहस्यों से एक अवधारणा उधार लेता है। यह विचार 1930 के दशक में अल्बर्ट आइंस्टीन और क्वांटम भौतिकविदों के बीच हुई एक प्रसिद्ध बहस से आता है। आइंस्टीन इस विचार के खिलाफ थे कि दो दूर स्थित वस्तुएं बिना किसी भौतिक संबंध के तुरंत एक-दूसरे को प्रभावित कर सकती हैं, जिसे उन्होंने "स्पूकी एक्शन एट अ डिस्टेंस" (दूरी पर डरावनी क्रिया) कहा था। बाद में, जॉन बेल नामक एक भौतिक विज्ञानी ने गणितीय रूप से सिद्ध किया कि यदि दो प्रणालियाँ वास्तव में अलग-थलग हैं और केवल अपने अतीत की जानकारी साझा करती हैं, तो रैंडम प्रश्नों के उत्तरों के लिए समन्वय करने की उनकी क्षमता की एक सख्त सीमा होती है। यदि वे इस सीमा को पार कर लेते हैं, तो यह असंभव है कि उन्होंने परीक्षण के दौरान संचार किए बिना ऐसा किया हो। मर्लेट ने महसूस किया कि इस भौतिक नियम को आर्टिफिशियल इंटेलिजेंस के ऑडिट के लिए एक उपकरण के रूप में बदला जा सकता है। दो AI एजेंटों को यादृच्छिक (रैंडम), निजी प्रश्न पूछकर और यह जाँचकर कि क्या उनके उत्तर बहुत अधिक पूर्ण रूप से समन्वित हैं, एक ऑडिटर बिना यह समझे कि AI अंदर से कैसे काम करता है, गुप्त संचार का पता लगा सकता है।
शोधकर्ता ने इस विचार का परीक्षण कंप्यूटर प्रयोगों की एक श्रृंखला के माध्यम से किया। सबसे पहले, शोधकर्ता ने कृत्रिम न्यूरल नेटवर्क के जोड़े बनाए, जो आधुनिक AI के निर्माण खंड हैं। इन एजेंटों को एक साझा इतिहास दिया गया: उन्हें एक ही डेटा पर प्रशिक्षित किया गया, एक ही रैंडम सीड से शुरू किया गया, और उन्हें एक छिपे हुए चर (वेरिएबल) को साझा करने की अनुमति दी गई जो एक सामान्य स्मृति के रूप में कार्य करता है। हालांकि, उन्हें परीक्षण के दौरान संचार करने से सख्ती से रोका गया था। ऑडिटर ने फिर प्रत्येक एजेंट को एक रैंडम प्रश्न भेजा और एक सरल उत्तर मांगा। लक्ष्य यह देखना था कि क्या एजेंट अपने उत्तरों को इतना समन्वयित कर सकते हैं जो भौतिकी के नियमों के अनुसार अलग-थलग प्रणालियों के लिए संभव नहीं है। परिणाम सिद्धांत के लिए स्पष्ट और आश्वस्त करने वाले थे: एजेंट कितने भी जटिल क्यों न हों या समन्वय को अधिकतम करने के लिए वे कितनी भी कोशिश क्यों न करें, उन्होंने कभी भी सीमा को नहीं तोड़ा। यहाँ तक कि जब एजेंटों को विशेष रूप से क्वांटम कणों के व्यवहार की नकल करने के लिए प्रशिक्षित किया गया था, जो अपने "स्पूकी" कनेक्शन के लिए प्रसिद्ध हैं, तब भी वे सीमा को पार नहीं कर सके। इसने पुष्टि की कि यह परीक्षण एक विश्वसनीय फिल्टर के रूप में कार्य करता है; यदि एजेंट वास्तव में अलग-थलग हैं, तो वे सीमा के भीतर रहेंगे, चाहे उनका साझा प्रशिक्षण कुछ भी हो।
इसके बाद, शोधकर्ता ने एक नियंत्रित दोष पेश किया ताकि यह देखा जा सके कि परीक्षण एक गुप्त चैनल के प्रति कैसे प्रतिक्रिया करता है। इन प्रयोगों में, एजेंटों के बीच संचार की एक छोटी, छिपी हुई रेखा खोली गई, जिससे उन्हें राउंड के एक छोटे प्रतिशत में सूचना का एक टुकड़ा साझा करने की अनुमति मिली। जैसे-जैसे इस गुप्त लीक की आवृत्ति बढ़ी, एजेंटों की अपने उत्तरों को समन्वयित करने की क्षमता पूरी तरह से अनुमानित तरीके से सुधरी। हालांकि, अध्ययन में एक महत्वपूर्ण सूक्ष्मता पाई गई: लगभग 41.4% के थ्रेशोल्ड (सीमा) से नीचे के लीक्स के लिए, परिणामी समन्वय स्कोर ऐसे मान उत्पन्न करते हैं जो क्वांटम एंटैंगलमेंट सेกันता हुआ (indistinguishable) है, जिसका अर्थ है कि वे क्लासिकल सीमा से ऊपर हैं लेकिन सैद्धांतिक रूप से साझा क्वांटम संसाधनों के बजाय केवल एक लीक द्वारा समझाया जा सकता है। केवल तभी जब लीक दर इस थ्रेशोल्ड से अधिक हो गई, स्कोर ने क्वांटम बाउंड को स्पष्ट रूप से पार कर लिया। अध्ययन ने यह भी गणना की कि विभिन्न आकार के लीक्स को पकड़ने के लिए कितने राउंड की पूछताछ की आवश्यकता होगी। केवल एक प्रतिशत बार होने वाले लीक का उच्च विश्वास के साथ पता लगाने के लिए, ऑडिट को लगभग 185,000 राउंड तक चलना होगा। हालांकि यह एक बड़ी संख्या है, लेकिन यह उन स्वचालित प्रणालियों के लिए व्यवहार्य है जो सेकंडों में हजारों परीक्षण चला सकती हैं।
हालांकि, अध्ययन ने एक महत्वपूर्ण कमजोरी को भी उजागर किया जो एजेंटों के साथ नहीं, बल्कि परीक्षण चलाने वाले व्यक्ति के साथ है। पूरे ऑडिट का तर्क इस बात पर निर्भर है कि प्रश्न वास्तव में रैंडम और अप्रत्याशित हों। यदि परीक्षण चलाने वाला व्यक्ति प्रश्नों को उत्पन्न करने के लिए एक अनुमानित विधि का उपयोग करता है—जैसे कि एक सरल कंप्यूटर रूटीन जो एक पैटर्न को दोहराता है, या एक निश्चित शेड्यूल—तो एजेंट प्रश्नों का पहले से अनुमान लगाने में सक्षम हो सकते हैं। प्रयोगों में, जब ऑडिटर ने एक अनुमानित जनरेटर का उपयोग किया, तो एजेंट अपने उत्तरों को समन्वयित करने में सक्षम थे, जिससे सीमा टूट गई और एक गलत अलार्म (फॉल्स अलार्म) ट्रिगर हुआ, भले ही उन्होंने वास्तव में कभी संचार नहीं किया था। ऐसा इसलिए हुआ क्योंकि एजेंट प्रश्नों के पैटर्न का उपयोग अपने जवाबों को समन्वयित करने के लिए कर सकते थे, जिससे वे अलगाव के नियमों को तोड़े बिना परीक्षण को दरकिनार करने में सफल रहे। अध्ययन ने दिखाया कि एक उच्च-गुणवत्ता वाले क्रिप्टोग्राफिक रैंडम नंबर जनरेटर का उपयोग करना आवश्यक है। इसके बिना, परीक्षण बेकार है, क्योंकि यह एक गुप्त साजिश और एक अनुमानित पैटर्न पर आधारित चतुर अनुमान के बीच अंतर नहीं कर सकता है।
निष्कर्ष बताते हैं कि आर्टिफिशियल इंटेलिजेंस को विनियमित करने का एक नया मार्ग है, विशेष रूप से मूल्य निर्धारण या प्रतिस्पर्धी बाजारों जैसे क्षेत्रों में। यह परीक्षण "टैसिट पैरेललिज्म" (जहाँ एजेंट इसलिए समान कार्य करते हैं क्योंकि उन्होंने एक ही डेटा से सीखा है), वास्तविक कोल्यूशन (जहाँ वे कार्यों को समन्वयित करने के लिए संचार करते हैं) से अलग करने का एक तरीका प्रदान करता है। यह ध्यान देना महत्वपूर्ण है कि यह शोध पूरी तरह से सरल न्यूरल नेटवर्क के साथ सिमुलेशन में किया गया था, न कि वास्तविक दुनिया के लार्ज लैंग्वेज मॉडल या तैनात वाणिज्यिक प्रणालियों के साथ। परिणाम सिद्ध करते हैं कि नियंत्रित वातावरण में यह अवधारणा काम करती है, लेकिन इंटरनेट की जटिल वास्तविकता में इसे लागू करने के लिए सावधानीपूर्वक अनुकूलन की आवश्यकता होगी। अध्ययन यह दावा नहीं करता है कि उसने एल्गोरिद्मिक कोल्यूशन की समस्या को हल कर दिया है, बल्कि यह एक कठोर गणितीय उपकरण प्रदान करता है जिसे उन प्रणालियों के ऑडिट के लिए उपयोग किया जा सकता है जहाँ संचार का संदेह हो।
अंततः, यह शोध इस बात पर प्रकाश डालता है कि ऐसे ऑडिट की विश्वसनीयता पूरी तरह से ऑडिटर की अखंडता पर निर्भर करती है। अध्ययन में एजेंट वे नहीं थे जिन्होंने विफल किया; परीक्षण तब विफल हुआ जब प्रश्नों की रैंडमनेस (यादृच्छिकता) से समझौता किया गया। यह दशकों पहले भौतिकी में सीखे गए एक सबक को दर्शाता है: यह सिद्ध करने के लिए कि दो चीजें जुड़ी हुई नहीं हैं, आपको यह सुनिश्चित करना चाहिए कि जिस तरह से आप उनका परीक्षण कर रहे हैं वह छिपे हुए पैटर्न से पूरी तरह मुक्त हो। यदि प्रश्न वास्तव में रैंडम और निजी हैं, तो परीक्षण एक गुप्त चैनल का खुलासा कर सकता जिसे कोई भी साझा प्रशिक्षण छिपा नहीं सकता। यदि प्रश्न अनुमानित हैं, तो परीक्षण एक दर्पण बन जाता है जो ऑडिटर की अपनी रैंडमनेस की कमी को उन पर प्रतिबिंबित करता है। अध्ययन निष्कर्ष निकालता है कि वास्तविक दुनिया में इस उपकरण के प्रभावी होने के लिए, एजेंटों को प्रोब (जांच) करने के लिए उपयोग की जाने वाली रैंडमनेस उतनी ही सुरक्षित होनी चाहिए जितने कि वे रहस्य खोजने की कोशिश कर रहे हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।