तकनीकी सारांश: बुद्धिमान प्रणालियों के लिए शासित मेटाप्रोग्रामिंग (Governed Metaprogramming)

1. समस्या विवरण (Problem Statement)

आधुनिक AI प्रणालियाँ, जिनमें लार्ज लैंग्वेज मॉडल्स (LLMs) और स्वायत्त एजेंट (autonomous agents) शामिल हैं, रनटाइम पर निष्पादन योग्य संरचनाओं (executable structures) का संश्लेषण करती हैं। ये प्रणालियाँ वर्कफ़्लो, टूल-कॉलिंग योजनाएँ और स्व-संशोधित कोड उत्पन्न करती हैं। शास्त्रीय होमोआयनिक (जैसे Lisp) और स्टेज्ड भाषाओं (जैसे MetaOCaml) में, कोड प्रतिनिधित्व (डेटा) से एक निष्पादन योग्य प्रोग्राम में संक्रमण को eval या run जैसे प्रिमिटिव्स द्वारा संभाला जाता है। ये संक्रमण पारंपरिक रूप से अनियंत्रित होते हैं: कोई भी वैध प्रतिनिधित्व तुरंत रनिंग कोड बन सकता है।

शासित बुद्धिमान प्रणालियों (governed intelligent systems) के संदर्भ में—जिन्हें स्पष्ट प्रभाव सीमाओं (effect boundaries), क्षमता नियंत्रण (capability control) और ऑडिटेबिलिटी की आवश्यकता होती है—यह अनियंत्रित संक्रमण एक महत्वपूर्ण भेद्यता (vulnerability) पैदा करता है। यदि कोई प्रणाली एक नया प्रोग्राम उत्पन्न कर सकती है जो मूल शासन बाधाओं (governance constraints) को बायपास कर देता है, तो संपूर्ण शासन मॉडल समझौतापूर्ण हो जाता है। यह शोध पत्र इसे एक "मेटाप्रोग्रामिंग एस्केप हैच" (metaprogramming escape hatch) के रूप में पहचानता है: एक ऐसी प्रणाली जो निष्पादन स्तर पर शासित है लेकिन कोड जनरेशन स्तर परUngoverned है, मौलिक रूप से असुरक्षित है।

2. मुख्य कार्यप्रणाली: eval का पुनर्वर्गीकरण (Core Methodology: Reclassifying eval)

इस शोध पत्र का केंद्रीय पद्धतिगत योगदान eval (या फॉर्म से निष्पादन में संक्रमण) को एक भाषा प्रिमिटिव (language primitive) से बदलकर एक शासित प्रभाव (governed effect) के रूप में पुनर्वर्गीकृत करना है।

लेखक गवर्नड मेटाप्रोग्रामिंग नामक एक ढांचा प्रस्तावित करते हैं, जो निम्नलिखित स्तंभों पर आधारित है:

• मशीन फॉर्म्स (Machine Forms): प्रोग्राम प्रतिनिधित्व को प्रथम-श्रेणी के मूल्यों (संरचित डेटा मैप्स) के रूप में माना जाता है, न कि अपारदर्शी स्ट्रिंग्स या बाइटकोड के रूप में।
• शुद्ध फॉर्म हेरफेर (Pure Form Manipulation): इन फॉर्म्स पर सभी ऑपरेशन (निरीक्षण, रूपांतरण, संयोजन, अंतर) को शुद्ध गणना (pure computation) के रूप में वर्गीकृत किया गया है। वे कोई निर्देश (directives) उत्सर्जित नहीं करते हैं और उनमें I/O करने या मॉडल्स को कॉल करने की कोई क्षमता नहीं होती है।
• मटेरियलाइजेशन के रूप में अधिकार आवंटन (Materialization as Authority Allocation): एक मशीन फॉर्म से एक निष्पादन योग्य मशीन में संक्रमण को मटेरियलाइजेशन (materialization) के रूप में परिभाषित किया गया है। यह केवल गणना नहीं है; यह निष्पादन योग्य अधिकार (executable authority) का आवंटन है (मॉडल्स को कॉल करने, I/O करने और संसाधनों का उपभोग करने की शक्ति)। फलस्वरूप, मटेरियलाइजेशन को एक शासित प्रभाव के रूप में वर्गीकृत किया गया है।
• संरचनात्मक निरीक्षण (Structural Inspection): मटेरियलाइजेशन की अनुमति देने से पहले, एक शासन प्रणाली (governance system) फॉर्म का एक निर्णयात्मक संरचनात्मक निरीक्षण करती है। यह निरीक्षण क्षमता आवश्यकताओं, नीति अनुपालन, मॉडल प्राधिकरण और संसाधन अनुमानों का विश्लेषण करता है।

3. औपचारिक परिचालन सिमेंटिक्स (Formal Operational Semantics)

पेपर शुद्ध गणना और शासित निष्पादन के बीच की सीमा को लागू करने के लिए दो अलग-अलग निर्णयों (judgments) का उपयोग करके सिस्टम को औपचारिक रूप देता है:

1. शुद्ध फॉर्म इवैल्यूएशन ($\Gamma \vdash pure\ e \Downarrow v$):

   • फॉर्म वैल्यूज पर कार्य करता है।
   • शून्य निर्देश उत्सर्जित करता है ($Dir(e) = \emptyset$)।
   • इसमें कोट निर्माण (quote construction), स्प्लिस इवैल्यूएशन (splice evaluation), नेविगेशन और रूपांतरण शामिल हैं।
   • यह गारंटी देता है कि शुद्ध ऑपरेशन्स का कोई भी क्रम एक अधिकृत मशीन उत्पन्न नहीं कर सकता।

2. शासित मटेरियलाइजेशन ($\Gamma; \Pi; \sigma \vdash materialize(v_f) \rightsquigarrow \langle Machine, d \rangle$):

   • एक फॉर्म, एक नीति संदर्भ ($\Pi$), और एक क्षमता सेट ($\sigma$) लेता है।
   • प्रत्येक परिणाम (स्वीकृति या अस्वीकृति) के लिए एक शासन निर्णय रिकॉर्ड ($d$) की आवश्यकता होती है।
   • ठीक एक शासित निर्देश उत्सर्जित करता है।
   • शासन प्रणाली फॉर्म की संरचना का निरीक्षण करती है ताकि निम्नलिखित को सत्यापित किया जा सके:
     • क्षमता समावेशन ($CapSet(f) \subseteq \Pi.allowed\ caps$)।
     • मॉडल प्राधिकरण।
     • संरचनात्मक नीति अनुपालन।
     • संसाधन सीमाएं।

4. प्रमुख योगदान (Key Contributions)

शोध पत्र पांच प्राथमिक योगदान प्रस्तुत करता है:

1. eval का पुनर्वर्गीकरण: मटेरियलाइजेशन को अधिकार आवंटन के रूप में एक सटीक लक्षण वर्णन, इसे एक प्रिमिटिव से हटाकर एक शासित प्रभाव में बदलना।
2. मशीन फॉर्म्स (Machine Forms): संरचित प्रोग्राम प्रतिनिधित्व के लिए एक मूर्त डेटा प्रकार जिसमें quote, splice, और reflection के निर्माण शामिल हैं।
3. औपचारिक सिमेंटिक्स (Formal Semantics): दो निर्णयों (शुद्ध मूल्यांकन और शासित मटेरियलाइजेशन) का उपयोग करके सिस्टम की परिभाषा, जो डेटा हेरफेर और निष्पादन के बीच कड़ाई से अलगाव करती है।
4. मशीन-चेक किए गए गुण (Machine-Checked Properties): Rocq में तीन मुख्य गुणों को औपचारिक रूप से सत्यापित किया गया है:
   • फॉर्म हेरफेर की शुद्धता (Purity of Form Manipulation): फॉर्म ऑपरेशन्स कोई निर्देश उत्सर्जित नहीं करते हैं।
   • नो-बायपास थ्योरम (The No-Bypass Theorem): शुद्ध ऑपरेशन्स का कोई भी क्रम सीधे निष्पादन का कारण नहीं बन सकता।
   • सीमा संरक्षण (Boundary Preservation): मेटाप्रोग्रामिंग क्षमताओं को जोड़ने से अभिव्यक्ति और शासन सीमाएं विभाजित नहीं होती हैं (वे सह-सीमांत/coterminous रहती हैं)।
5. शासित स्व-संशोधन (Governed Self-Modification): मशीनों को एक इवोल्यूशन लेजर (evolution ledger) के माध्यम से स्वयं में संरचनात्मक परिवर्तन प्रस्तावित करने की अनुमति देने के लिए एक ठोस तंत्र, जो बाहरी कोड जनरेशन के समान ही शासन निरीक्षण के अधीन है।

5. कार्यान्वयन और परिणाम (Implementation and Results)

डिज़ाइन को MashinTalk में लागू किया गया है, जो एक डोमेन-विशिष्ट भाषा है जो BEAM (Erlang VM) बाइटकोड में कंपाइल होती है।

• सिस्टम आर्किटेक्चर: कार्यान्वयन में तीन मॉड्यूल शामिल हैं: Form (निर्माण और हेरफेर), FormInspector (शासन जांच), और FormMaterializer (शासित संकलन)।
• सत्यापन (Verification): कोर गुणों को Rocq (पूर्व में Coq) में 26 प्रमेयों (theorems) और 662 लाइनों के कोड के साथ यांत्रिक रूप से सिद्ध किया गया है, जिसमें शून्य स्वीकृत लेम्मा (admitted lemmas) हैं। ये प्रमेय 36 मॉड्यूल में 454 प्रमेयों के मौजूदा औपचारिकीकरण के साथ एकीकृत होते हैं।
• परीक्षण (Testing): 51 यूनिट टेस्ट का एक टेस्ट सूट कार्यात्मक शुद्धता और शासन गुणों को मान्य करता है। सभी टेस्ट पास होते हैं।
• प्रदर्शन (Performance): Apple M-सीरीज प्रोसेसरों पर, फॉर्म निर्माण <1 µs लेता है, और विशिष्ट मशीनों के लिए संरचनात्मक निरीक्षण <100 µs लेता है। BEAM बाइटकोड में संकलन की तुलना में ओवरहेड नगण्य है।

6. महत्व और दावे (Significance and Claims)

शोध पत्र दावा करता है कि यह "मेटाप्रोग्रामिंग एस्केप हैच" को बंद करता है। इस तंत्र के बिना, एक नियंत्रित प्रणाली जो निष्पादन स्तर पर शासित है, असुरक्षित रहती है क्योंकि वह नए निष्पादन योग्य संरचनाओं के जनरेशन को नियंत्रित नहीं कर सकती है।

लेखक तर्क देते हैं कि जिन AI प्रणालियों में अपनी निष्पादन योग्य संरचना का संश्लेषण होता है, वहां निष्पादन योग्य अधिकार का आवंटन:

1. दृश्य (Visible) होना चाहिए: डेटा से कोड में संक्रमण एक विशिष्ट, अवलोकन योग्य घटना है।
2. मध्यस्थता (Mediated) युक्त होना चाहिए: इसे संरचना का निरीक्षण करने वाले एक शासन व्याख्याता (governance interpreter) से गुजरना चाहिए।
3. रिकॉर्डेड (Recorded) होना चाहिए: निर्णयों को एक अपेंड-ओनली लेजर (इवोल्यूशन लेजर) में दर्ज किया जाना चाहिए।

शोध पत्र स्पष्ट रूप से सीमाओं को स्वीकार करता है:

• राइस का प्रमेय (Rice's Theorem): संरचनात्मक निरीक्षण निर्णयात्मक (decidable) है लेकिन व्यवहारिक अर्थ (semantic behavior) के बारे में तर्क नहीं दे सकता। शासन गारंटी मध्यस्थता की है, उत्पन्न प्रोग्राम की सिमेंटिक सुदृढ़ता (semantic soundness) की नहीं।
• दायरा (Scope): सीमा संरक्षण तर्क वास्तुशिल्प (architectural) है; प्रभाव सिग्नेचर सेट के संबंध में पूर्ण संरक्षण प्रमाण (conservativity proof) भविष्य के कार्य के लिए स्थगित कर दिया गया है।
• अनुप्रयोग (Applicability): डिज़ाइन उन भाषाओं के लिए विशिष्ट है जिनमें प्रभाव-सीमा संरचनाएं (जैसे MashinTalk) होती हैं; सामान्य-उद्देश्य वाली भाषाओं के लिए इसकी प्रयोज्यता एक खुला प्रश्न है।

निष्कर्षतः, यह शोध पत्र स्थापित करता है कि eval केवल एक कम्प्यूटेशनल फंक्शन नहीं है बल्कि एक अधिकार-आवंटन घटना है। इसे एक शासित प्रभाव के रूप में मानकर, बुद्धिमान प्रणालियाँ अपने शासन मॉडलों से समझौता किए बिना अपनी निष्पादन योग्य संरचनाओं को सुरक्षित रूप से संश्लेषित और संशोधित कर सकती हैं।