Joint Lyapunov Certificates for K-Agent Generative AI Governance: Stochastic Stability, Emergent Ensemble Risk, and Zero-Knowledge Governance Attestation
यह शोधपत्र एक संयुक्त ल्यापुनोव प्रमाण (Joint Lyapunov Proof - JLP) के माध्यम से व्यक्तिगत स्थिरता विश्लेषणों की अपर्याप्तता को संबोधित करते हुए, मल्टी-एजेंट जनरेटिव एआई प्रणालियों को नियंत्रित करने के लिए एक कठोर गणितीय ढांचे को प्रस्तुत करता है जो कुल स्थिरता के शून्य-ज्ञान सत्यापन (zero-knowledge attestation) को सक्षम बनाता है और उभरते समूह जोखिम (emergent ensemble risk) के लिए महत्वपूर्ण कपलिंग थ्रेशोल्ड की पहचान करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसी दुनिया की कल्पना करें जहाँ एक एकल, अत्यंत बुद्धिमान रोबोट द्वारा निर्णय लेने के बजाय, आपके पास काम करने के लिए रोबोटों का एक पूरा झुंड (swarm) हो। आर्टिफिशियल इंटेलिजेंस के क्षेत्र में, यह अब आम होता जा रहा है: कंपनियाँ दर्जनों या सैकड़ों "जेनरेटिव एआई" (generative AI) मॉडलों को तैनात कर रही हैं जो नए डेटा के आधार पर अपने स्वयं के आंतरिक सेटिंग्स को लगातार बदलते रहते हैं और सीखते रहते हैं। इन मॉडलों को पक्षियों के झुंड या मछलियों के समूह की तरह समझें; वे सभी एक ही काम करने की कोशिश कर रहे हैं, लेकिन वे एक-दूसरे को सूक्ष्म रूप से प्रभावित भी कर रहे हैं।
बड़ा सवाल सुरक्षा विशेषज्ञों के लिए यह है: क्या होता है जब वे एक साथ मिलकर चलने लगते हैं? लंबे समय से, नियामक प्रत्येक रोबोट की व्यक्तिगत रूप से जाँच करते रहे हैं। वे पूछते हैं, "क्या यह एक पक्षी सुरक्षित रूप से उड़ रहा है?" यदि उत्तर हाँ है, तो वे मान लेते हैं कि पूरा झुंड ठीक है। लेकिन यह शोध पत्र तर्क देता है कि सोचने का यह पुराना तरीका गलत है। यह सच है कि एक झुंड व्यक्तिगत रूप से पक्षियों के रूप में पूरी तरह सुरक्षित दिख सकता है, जबकि एक समूह के रूप में, वे एक खतरनाक तूफान की ओर बढ़ रहे होते हैं। लेखक ने 'स्टोकेस्टिक कैलकुलस' (stochastic calculus) नामक गणित की एक शाखा का उपयोग किया है (जो यादृच्छिक गतिविधियों और संभावनाओं से संबंधित है) यह सिद्ध करने के लिए कि जब ये एआई मॉडल "कपल्ड" (coupled) होते हैं—अर्थात, वे जानकारी या प्रशिक्षण संकेत साझा करते हैं—तो वे एक छिपा हुआ, सामूहिक बहाव (collective drift) पैदा कर सकते हैं जो कोई भी एकल मॉडल अपने आप में कभी नहीं दिखाएगा। यह एक समूह के लोगों की तरह है जो सभी एक ही गलत दिशा में छोटे, हानिरहित कदम उठा रहे हैं; व्यक्तिगत रूप से, वे ठीक हैं, लेकिन एक साथ, वे एक खाई की ओर बढ़ रहे हैं।
यह शोध पत्र, जिसका शीर्षक "Joint Lyapunov Certificates for K-Agent Generative AI Governance" है, इस अनदेखी को ठीक करने का एक कठोर गणितीय प्रयास है। लेखक, श्रीराम नागराज, इन एआई मॉडलों के झुंडों की निगरानी करने का एक नया तरीका प्रस्तावित करते हैं। वे केवल व्यक्तिगत पक्षियों को नहीं देखते; वे एक इकाई के रूप में पूरे झुंड की "ऊर्जा" और स्थिरता को देखते हैं।
उनकी खोज का मूल यहाँ है: पूरे समूह की सुरक्षा इस बात पर कम निर्भर करती है कि प्रत्येक व्यक्तिगत मॉडल कितना मजबूत है, और लगभग पूरी तरह से इस पर निर्भर करती है कि वे कैसे जुड़े हुए हैं। लेखक ने सिद्ध किया कि "टोपोलॉजी" (topology)—अर्थात, कौन किससे बात करता है इसका विशिष्ट मानचित्र—यह निर्धारित करता है कि सिस्टम स्थिर रहेगा या अनियंत्रित हो जाएगा। उन्हें एक विशिष्ट गणितीय "टिपिंग पॉइंट" (tipping point) मिला। यदि मॉडल बहुत मजबूती से जुड़े हुए हैं, या यदि वे एक विशिष्ट "स्टार" (star) आकार में जुड़े हुए हैं (जहाँ हर कोई एक केंद्रीय केंद्र की बात सुनता है), तो सिस्टम एक "कम्प्लीट" (complete) मेश (mesh) की तुलना में (जहाँ हर कोई हर किसी से बात करता है) बहुत तेज़ी से अस्थिर हो जाता है।
महत्वपूर्ण रूप से, यह पत्र एक सामान्य अंतर्ज्ञान का खंडन करता है। कई लोग मानते हैं कि "आम सहमति" (consensus) मोड—जहाँ सभी सहमत होते हैं और एक साथ चलते हैं—सिस्टम का सबसे स्थिर हिस्सा है। लेखक इसे गलत साबित करते हैं। वास्तव में, सिस्टम का सबसे खतरनाक हिस्सा "असहमति" (disagreement) मोड है, जो कनेक्शन मैप के सबसे नकारात्मक नंबर द्वारा नियंत्रित होता है। यदि आप केवल "सहमति" वाले हिस्से की जाँच करते हैं, तो आप खतरे को पूरी तरह से मिस कर देते हैं।
इसे हल करने के लिए, लेखक एक "जॉइंट ल्यपुनोव प्रूफ" (Joint Lyapunov Proof - JLP) पेश करते हैं। एक ल्यपुनोव फंक्शन को एक सिस्टम के लिए गणितीय "ऊर्जा मीटर" के रूपв की तरह समझें। यदि ऊर्जा हमेशा नीचे जा रही है, तो सिस्टम सुरक्षित है। यदि यह ऊपर जाने लगती है, तो यह अस्थिर है। लेखक दिखाते हैं कि एआई मॉडलों के समूह के लिए, आप प्रत्येक व्यक्तिगत रोबोट के ऊर्जा मीटरों को बस जोड़ नहीं सकते। आपको एक विशेष "समूह ऊर्जा मीटर" की आवश्यकता है जो यह हिसाब रखे कि वे एक-दूसरे को कैसे खींचते हैं।
वे एक पेचीदा समस्या का भी समाधान करते हैं: आप यह कैसे सिद्ध करें कि एक कंपनी इन सुरक्षा नियमों का पालन कर रही है बिना उनके गुप्त, मालिकाना एआई वेट्स (weights) को उजागर किए? उत्तर एक "जीरो-नॉलेज प्रूफ" (Zero-Knowledge Proof) है। यह एक क्रिप्टोग्राफिक ट्रिक है जो एक कंपनी को यह कहने की अनुमति देती है, "मैं वादा करता हूँ कि मेरा सिस्टम स्थिर है," और गणितीय रूप से इसे सिद्ध करती है बिना वास्तविक कोड या वेट्स दिखाए। यह एक जीतने वाली लॉटरी टिकट होने का प्रमाण देने जैसा है बिना किसी को वह टिकट दिखाए। लेखक बताते हैं कि सबसे अच्छा क्या है जिसे सिद्ध करना—एआई की वर्तमान स्थिति को (जो हर सेकंड बदलती है), बल्कि उस संरचना को सिद्ध करना कि एआई मॉडल आपस में कैसे जुड़े हुए हैं। वे सिद्ध करते हैं कि यदि कनेक्शन मैप सुरक्षित है, तो पूरा सिस्टम सुरक्षित है, और इसे हर सेकंड के बजाय एक बार और हमेशा के लिए जांचा जा सकता है।
लेखक अपने भारी गणितीय दावों को पांच अलग-अलग कंप्यूटर सिमुलेशन के साथ पुष्ट करते हैं। उन्होंने 5 और 10 एआई एजेंटों वाले सिस्टम का परीक्षण किया, जिसमें "रिंग" (ring - हर कोई अपने पड़ोसियों से बात करता है), "स्टार" (star - हर कोई एक बॉस की बात सुनता है), और "कम्प्लीट" (complete - हर कोई हर किसी से बात करता है) जैसे विभिन्न कनेक्शन आकार शामिल थे। सिमुलेशन ने उनके सिद्धांत की पुष्टि की:
- "स्टार" जोखिम भरा है: एक प्रणाली जहाँ हर कोई एक केंद्रीय केंद्र पर निर्भर है, सबसे नाजुक है। यह अस्थिर होने से पहले बहुत कम जुड़ाव को ही झेल सकती है।
- "कम्प्लीट" वेब मजबूत है: एक प्रणाली जहाँ हर कोई हर किसी से बात करता है, टूटने से पहले बहुत अधिक जुड़ाव को संभाल सकती है।
- छिपा हुआ बहाव (Hidden Drift): उन्होंने एक परिदृश्य का अनुकरण किया जहाँ सभी मॉडलों पर एक साथ एक छोटा, छिपा हुआ "धक्का" लगाया गया। व्यक्तिगत रूप रूप से, प्रत्येक मॉडल पूरी तरह से सुरक्षित दिखता था और अपनी सीमाओं के भीतर रहा। लेकिन जब शोधकर्ताओं ने समूह के रूप में देखा, तो संयुक्त "बहाव" (drift) बहुत बड़ा और खतरनाक था। यह सिद्ध करता है कि मॉडलों की एक-एक करके जाँच करना इस विशिष्ट प्रकार के जोखिम को पकड़ने के लिए बेकार है।
लेखक बहुत सावधानी से नोट करते हैं कि उनका गणित "लीनियर" (linear) सिस्टम के लिए पूरी तरह से काम करता है (जहाँ गति के नियम सरल और सीधे होते हैं)। वे स्वीकार करते हैं कि वास्तविक दुनिया के एआई मॉडल अव्यवस्थित, नॉन-लीनियर और जटिल होते हैं। हालाँकि, वे तर्क देते हैं कि उनका कार्य एक विशिष्ट तंत्र को अलग करता है—कि कैसे कनेक्शन के आकार जोखिम पैदा करते हैं—और इसे पूर्ण गणितीय निश्चितता के साथ सिद्ध करता है। वे यह दावा नहीं कर रहे हैं कि उन्होंने एआई सुरक्षा की हर समस्या को हल कर दिया है, बल्कि उन्होंने यह एक नया, अटूट नियम पुस्तिका बनाई है कि कैसे एआई मॉडलों की एक टीम के बिखरने के बारे में जाँच की जाए।
अंत में, यह शोध पत्र हमें बताता है कि एआई झुंडों के युग में, हम केवल हिस्सों की जाँच नहीं कर सकते; हमें वायरिंग की जाँच करनी होगी। भविष्य की सुरक्षा केवल इस पर निर्भर नहीं करती कि हमारा एआई कितना स्मार्ट है, बल्कि इस पर निर्भर करती है कि हम इसे कैसे जोड़ते हैं। और यदि हम इसे गलत तरीके से जोड़ते हैं, तो एक पूरी तरह से बुद्धिमान एआई भी हम सभी को एक खाई की ओर ले जा सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।