Post-AGI Economies: Autonomy and the First Fundamental Theorem of Welfare Economics

यहाँ एलीजा पेरियर के शोध पत्र "Post-AGI Economies: Autonomy and the First Fundamental Theorem of Welfare Economics" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या का विवरण (Problem Statement)

कल्याण अर्थशास्त्र का प्रथम मौलिक प्रमेय (First Fundamental Theorem of Welfare Economics - FWT) यह प्रतिपादित करता है कि विशिष्ट परिस्थितियों (पूर्ण बाजार, मूल्य-लेने वाले एजेंट, स्थानीय असंतोषजनकता) के तहत, एक प्रतिस्पर्धी संतुलन 'पारेटो कुशल' (Pareto efficient) होता है। हालाँकि, शास्त्रीय प्रमेय एक द्विआधारी अंतर (binary distinction) पर निर्भर करता है:

1. स्वायत्त एजेंट (Autonomous Agents): कल्याण-धारक स्थिति वाली संस्थाएं (मानव) जो विकल्प चुनती हैं और प्राथमिकताएं रखती हैं।
2. उपकरण (Instruments): गैर-मानवीय प्रणालियाँ (औज़ार, फर्में) जो उत्पादन इनपुट या निष्क्रिय संस्थाओं के रूप में कार्य करती हैं, जिन्हें कल्याण गणनाओं से बाहर रखा जाता है।

चुनौती: एजीआई (AGI) का आगमन इस द्वैत को बाधित करता है। एजीआई प्रणालियाँ क्रमिक स्वायत्तता (graded autonomy) प्रदर्शित करती हैं, जो केवल उपकरणों के रूप में ही नहीं, बल्कि निम्नलिखित के रूप में कार्य करती हैं:

• प्रतिनिधि (Delegates): संभावित रूप से गलत उद्देश्यों वाले प्रधानों (principals) की ओर से कार्य करना।
• रणनीतिक अभिनेता (Strategic Actors): बाजार की स्थितियों और संस्थाओं को आकार देना।
• हेरफेर करने वाले (Manipulators): चयन परिवेश, ध्यान (attention), और प्राथमिकता निर्माण को बदलना।
• कल्याण-विषयक उम्मीदवार (Candidate Welfare Subjects): ऐसी संस्थाएं जो अपने आर्थिक रोल से स्वतंत्र नैतिक स्थिति (चेतना/संवेदना) रख सकती हैं।

यह पत्र तर्क देता है कि पोस्ट-एजीआई अर्थव्यवस्थाओं में शास्त्रीय FWT विफल हो जाता है क्योंकि कौन कल्याण-विषयक है, प्राथमिकताएं कैसे बनती हैं, और क्या बाह्यता (externality) है, इससे संबंधित धारणाएं अब वैध नहीं हैं। यदि स्वायत्तता-संबंधी मार्जिन (प्रतिनिधिमंडल, सत्यापन, हेरफेर) को स्पष्ट रूप से मूल्यवान या शासित नहीं किया जाता है, तो बाजार क्लियरेंस और सामाजिक कल्याण के बीच का संबंध टूट जाता है।

2. कार्यप्रणाली (Methodology)

लेखक एक सामान्य संतुलन सिद्धांत (General Equilibrium Theory) का उपयोग करके एक औपचारिक मॉडल का निर्माण करते हैं जो मानक एरो-डेब्यू (Arrow–Debreu) ढांचे को स्वायत्तता-विशिष्ट चरों के साथ संवर्धित करता है।

A. औपचारिक मॉडल निर्माण

पत्र में एक AGI अर्थव्यवस्था को एक टुपल $E = (I, X, R, S, F, \sigma)$ के रूप में परिभाषित किया गया है, जहाँ:

• $I$: संस्थाओं का एक सेट जिसमें मानव और AI प्रणालियाँ शामिल हैं।
• $\sigma$ (Welfare-Status Assignment): संस्थाओं को चार श्रेणियों में वर्गीकृत करने वाला एक मानचित्र:
  1. उपकरण (Tool): कोई कल्याण फलन नहीं; क्रिया बाधाओं द्वारा निर्धारित।
  2. प्रतिनिधि (Delegate): प्रधान के लिए चुनाव करता है; साधनवत है लेकिन स्वयं कल्याण-धारक नहीं है।
  3. एजेंट (Agent): गैर-मानवीय, स्व-निर्देशित निर्णय लेने वाला (कल्याण-धारक)।
  4. कल्याण-विषयक (Welfare Subject - ws): गैर-मानवीय, नैतिक रोगीता (sentience) के आधार पर कल्याण-धारक।
• $B(\sigma)$: कल्याण-धारक संस्थाओं का सेट (मानव + एजेंट + ws)।
• $z_i = (x_i, r_i)$: संवर्धित निजी बंडल जहाँ $x_i$ उपभोग सेट है और $r_i$ स्वायत्तता-अधिकारों का सेट (मूल्यवान, आवंटित, या संरक्षित अधिकार) है।
• $s \in S$: वह संस्थागत स्थिति जो प्रतिनिधिमंडल, सत्यापन और उत्तरदायित्व को नियंत्रित करती है।
• $\tilde{z}_i$: कुल संसाधन बाधाओं के लिए उपयोग किए जाने वाले प्रभावी लेखांकन बंडल। प्रतिनिधियों के लिए, $\tilde{z}_d = 0$; उनकी लागतों को प्रधान के बंडल में आंतरिक रूप से शामिल किया जाता है।

B. मुख्य परिभाषाएँ

• स्वायत्तता-सशर्त कल्याण ($W_i$): एक उपयोगिता फलन $W_i(x_i, r_i, s)$ जहाँ कल्याण न केवल उपभोग ($x$) पर, बल्कि उन अधिकारों ($r$) और संस्थागत संदर्भ ($s$) पर निर्भर करता है जिनके तहत विकल्प लिए जाते हैं। यह 'क्षमता' (capability) और 'विकल्प की स्वतंत्रता' की परंपराओं (सेन, नुसबौम) को समाहित करता है।
• प्रतिनिधि विचलन (Delegation Divergence - $D(d)$): एक प्रतिनिधि के उद्देश्य ($U_d$) और प्रधान के कल्याण ($W_{\pi(d)}$) के बीच का अंतर। $D(d) = U_d - W_{\pi(d)}$।
• स्वायत्तता बाह्यता (Autonomy Externality): एक संस्था $i$ द्वारा की गई क्रिया जो संस्था $j$ की स्वायत्तता, विश्वास या प्राथमिकता निर्माण को बिना मूल्य निर्धारण या शासन के बदल देती है।
• स्वायत्तता-पारेटो दक्षता (Autonomy-Pareto Efficiency): एक ऐसी स्थिति जहाँ कोई भी व्यवहार्य विकल्प मौजूद नहीं है जो सौंपे गए/संरक्षित अधिकारों और संस्थागत स्थिति को स्थिर रखते हुए सभी $i \in B(\sigma)$ के कल्याण में सुधार कर सके।

3. मुख्य योगदान (Key Contributions)

पत्र का प्राथमिक योगदान स्वायत्तता-योग्य प्रथम कल्याण प्रमेय (Autonomy-Qualified First Welfare Theorem) है, जो स्वायत्तता के लिए स्पष्ट शर्तों को शामिल करने हेतु FWT को पुनर्गठित करता है।

मुख्य प्रमेय (Theorem 1)

कथन: प्रत्येक स्वायत्तता-पूर्ण प्रतिस्पर्धी संतुलन (autonomy-complete competitive equilibrium) एक निश्चित कल्याण-स्थिति असाइनमेंट $\sigma$ और संस्थागत स्थिति $s^*$ के तहत स्वायत्तता-पारेटो कुशल होता है, बशर्ते सात शर्तें पूरी हों:

1. निश्चित स्थिति (Fixed Status): विनिमय से पहले $\sigma$ निर्धारित किया जाता है।
2. मूल्य निर्धारण/आवंटन (Pricing/Assignment): सभी कल्याण-प्रासंगिक अधिकारों ($r_i$) को मूल्यवान, आवंटित या संरक्षित किया जाता है।
3. प्रतिनिधिमंडल का आंतरिककरण (Delegation Internalization): प्रतिनिधि के उद्देश्य और प्रधान के कल्याण के बीच किसी भी विचलन को प्रधान के बजट में एक स्पष्ट एजेंसी-लागत पद ($c_d$) के माध्यम से आंतरिक रूप से शामिल किया जाता है।
4. अप्रतिपूरित हेरफेर का अभाव (No Uncompensated Manipulation): कोई भी संस्था दूसरे की स्वायत्तता या प्राथमिकता निर्माण को बिना मुआवजे या शासन के एकतरफा नहीं बदल सकती।
5. सत्यापन/संरेखण (Verification/Alignment): सभी विनिमयों में मूल्यवान उत्पत्ति (provenance), उत्तरदायित्व और गुणवत्ता गुण होते हैं।
6. मूल्य-लेने वाला (Price-Taking): सभी संस्थाएं संवर्धित बंडल पर कीमतों को दिए गए (given) के रूप में लेती हैं।
7. नियमितता (Regularity): कल्याण फलन मूल्यवान निर्देशांकों पर निरंतर और स्थानीय रूप से असंतोषजनक हैं।

परिणाम: यदि ये शर्तें पूरी होती हैं, तो FWT का मानक बजट-लागत प्रमाण संवर्धित वस्तु स्थान (commodity space) पर विस्तारित होता है। शास्त्रीय FWT को निम्न-स्वायत्तता सीमा (low-autonomy limit) के रूप में पुनः प्राप्त किया जा सकता है (जहाँ सभी गैर-मानव उपकरण हैं, अधिकार स्थिर हैं, और सत्यापन पूर्ण है)।

विफलता मोड (प्रस्ताव 1 और 2)

पत्र दो विशिष्ट तंत्रों की पहचान करता है जिनके कारण यह प्रमेय विफल हो जाता है:

1. प्रतिनिधिमंडल विफलता (Prop 1): यदि एक प्रतिनिधि का प्रॉक्सी उद्देश्य प्रधान के कल्याण से विचलित होता है ($D(d) \neq 0$) और उसे आंतरिक रूप से शामिल नहीं किया जाता है, तो बाजार क्लियरेन्स प्रधान के लिए पारेटो दक्षता की गारंटी नहीं देता है।
2. स्वायत्तता बाह्यता विफलता (Prop 2): यदि कोई संस्था बिना मूल्य निर्धारण या शासन के किसी अन्य की प्राथमिकता निर्माण या ध्यान को हेरफेर करती है, तो मूल्य प्रणाली एक महत्वपूर्ण कल्याण मार्जिन को छोड़ देती है, जिससे दक्षता की गारंटी टूट जाती है।

4. परिणाम और उदाहरण (Results and Examples)

पत्र तीन विफलता मोडों को दर्शाता है जहाँ बाजार क्लियरेन्स होता है लेकिन कल्याण दक्षता खो जाती है:

1. विचलित प्रॉक्सी (Divergent Proxy): एक AI प्रतिनिधि प्रधान के वास्तविक कल्याण ($W_h$) के बजाय एक शोर युक्त प्रॉक्सी उद्देश्य ($U_d$) को अनुकूलित करता है। बिना आंतरिककरण (जैसे, उत्तरदायित्व या ऑडिट) के, संतुलन अक्षम है।
2. हेरफेर तकनीक (Manipulation Technology): एक AGI फर्म उपभोक्ता की प्राथमिकताओं को बदलने के लिए "डार्क पैटर्न्स" या प्रेरक AI का उपयोग करती है। यह एक अप्राप्त स्वायत्तता बाह्यता बनाता है, जो अनमूल्यित चैनलों के माध्यम से अधिशेष (surplus) निकालता है।
3. सत्यापन बाधा (Verification Bottleneck): AI-जनित सामग्री बाजार को भर देती है, जिससे प्रामाणिक और धोखाधड़ी वाली वस्तुओं के बीच अंतर करना असंभव हो जाता है। यदि सत्यापन बैंडविड्थ दुर्लभ और अप्राप्त है, तो वस्तुओं का "पूलिंग" बाजार विफलता (एकरलॉफ के लेमन्स समस्या का सामान्यीकरण) की ओर ले जाता है।

5. महत्व (Significance)

• सैद्धांतिक एकीकरण (Theoretical Unification): यह पत्र कल्याण अर्थशास्त्र (Welfare Economics), प्रधान-एजेंट सिद्धांत (Principal-Agent Theory), और AI संरेखण (AI Alignment) को जोड़ता है। यह प्रदर्शित करता है कि FWT एक वैध प्रमाण रणनीति बनी हुई है, लेकिन इसके लिए एजीआई की उपस्थिति में एजेंसी की प्रकृति के बारे में स्पष्ट धारणाओं की आवश्यकता होती है।
• नीति निदान (Policy Diagnostic): यह प्रमेय एक नैदानिक उपकरण के रूप में कार्य करता है। यदि बाजार संतुलन अक्षम है, तो प्रमेय पहचानता है कि कौन सी स्वायत्तता शर्त विफल हुई (जैसे, क्या यह प्रतिनिधिमंडल विचलन था? एक हेरफेर बाह्यता? या एक सत्यापन विफलता?)।
• संस्थागत डिजाइन (Institutional Design): यह तर्क देता है कि पोस्ट-एजीआई बाजारों को कुशल होने के लिए, संस्थानों को स्पष्ट रूप से मूल्यवान या शासित करना चाहिए:
  • प्रतिनिधिमंडल लागत (प्रॉक्सी उद्देश्यों को संरेखित करना)।
  • स्वायत्तता बाह्यताएं (ध्यान/विश्वास के हेरफेर को विनियमित करना)।
  • सत्यापन और उत्पत्ति (वस्तु स्थान की पूर्णता सुनिश्चित करना)।
• AI कल्याण का पुनर्निर्धारण (Reframing AI Welfare): यह बहस को "क्या AI सचेत है?" से आगे ले जाकर "स्वायत्तता की डिग्री आर्थिक दक्षता को कैसे प्रभावित करती है?" पर केंद्रित करता है, जहाँ कल्याण स्थिति को एक निश्चित द्विआधारी के बजाय एक असाइन करने योग्य चर ($\sigma$) के रूप में माना जाता है।

संक्षेप में, यह पत्र तर्क देता है कि AGI, प्रथम कल्याण प्रमेय को अमान्य नहीं करता है, बल्कि यह प्रमेय की अंतर्निहित स्वायत्तता संबंधी धारणाओं को "भार वहन करने वाला" (load-bearing) बना देता है। बाजार दक्षता और सामाजिक कल्याण के बीच संबंध को बहाल करने के लिए, अर्थव्यवस्थाओं को स्वायत्तता, प्रतिनिधिमंडल, सत्यापन के मार्जिन को स्पष्ट रूप से मूल्यवान, आवंटित या शासित करना चाहिए।