Generative artificial intelligence reduces social welfare through model collapse

यहाँ बाउमैन, अकचाय और प्लोटकिन के शोध पत्र "जेनरेटिव आर्टिफिशियल इंटेलिजेंस मॉडल कोलैप्स के माध्यम से सामाजिक कल्याण को कम करता है" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र जेनरेटिव एआई (genAI) के परिनियोजन (deployment) में एक महत्वपूर्ण विरोधाभास को संबोधित करता है: जबकि genAI तत्काल व्यक्तिगत उत्पादकता लाभ प्रदान करता है, इसका व्यापक उपयोग स्वयं मॉडलों की गुणवत्ता को मॉडल कोलैप्स (model collapse) के माध्यम से कम कर सकता है।

• मॉडल कोलैप्स: जब एआई मॉडलों को उनके पिछले संस्करणों द्वारा उत्पन्न डेटा पर पुन: प्रशिक्षित किया जाता है, तो मूल मानव डेटा वितरण के 'टेल्स' (tails) लुप्त हो जाते हैं, जिससे विविधता और सटीकता का नुकसान होता है।
• सामाजिक दुविधा (The Social Dilemma): व्यक्ति genAI का उपयोग करने के लिए प्रेरित होते हैं क्योंकि यह काम की लागत ($c_a < c_h$) को कम करता है। हालांकि, जैसे-जैसे अपनाना (adoption) बढ़ता है, एआई का प्रदर्शन ($a$) बिगड़ जाता है। यह एक ऐसा फीडबैक लूप बनाता है जहाँ व्यक्तिगत रूप से तर्कसंगत व्यवहार सामूहिक रूप से उप-इष्टतम (suboptimal) परिणामों की ओर ले जाता है, जो संभावित रूप से एआई के बिना वाली दुनिया के स्तर से भी कम सामाजिक कल्याण (social welfare) की ओर ले जा सकता है।
• साहित्यिक अंतराल (Gap in Literature): मौजूदा अध्ययन अक्सर genAI को स्थिर प्रदर्शन वाले एक स्थिर तकनीक के रूप में देखते हैं। यह पेपर जनसंख्या के व्यवहार द्वारा संचालित अंतर्जात क्षरण (endogenous degradation) को मॉडल करता है।

2. कार्यप्रणाली (Methodology)

लेखक सांस्कृतिक उत्पादन और एआई अपनाने की गतिशीलता को मॉडल करने के लिए इवोल्यूशनरी गेम थ्योरी (Evolutionary Game Theory) का उपयोग करते हैं।

"सहयोग खेल" (The Collaboration Game)

• एजेंट (Agents): एक बड़ी आबादी ($N \to \infty$) के व्यक्ति जो एक संयुक्त सांस्कृतिक कृति (cultural artifact) बनाने के लिए युग्मवार सहयोग (pairwise collaborations) में संलग्न हैं।
• रणनीतियाँ (Strategies): व्यक्ति तीन रणनीतियों में से एक चुनते हैं:
  1. मानव कार्य (Human Work - H): लागत $c_h$ वहन करते हैं, लाभ $b/2$ योगदान करते हैं।
  2. कोई कार्य नहीं (No Work - N): लागत 0 वहन करते हैं, लाभ 0 योगदान करते हैं (फ्री-राइडिंग)।
  3. एआई कार्य (AI Work - AI): लागत $c_a$ ($c_a < c_h$) वहन करते हैं, लाभ $a(x_{AI})/2$ योगदान करते हैं।
• पेऑफ मैट्रिक्स (Payoff Matrix): कुल लाभ समान रूप से साझा किया जाता है। पेऑफ पार्टनर की रणनीति और विशिष्ट लागतों/लाभों पर निर्भर करता है।
• मॉडल कोलैप्स तंत्र: एआई का लाभ, $a$, स्थिर नहीं है। यह जनसंख्या में एआई के उपयोग की आवृत्ति ($x_{AI}$) का एक फलन (function) है। लेखक इसे रैखिक रूप से मॉडल करते हैं:
  $$a(x_{AI}) = b - m \cdot x_{AI}$$
  जहाँ $m > 0$ मॉडल कोलैप्स की गंभीरता को दर्शाता है। जैसे-जैसे $x_{AI}$ बढ़ता है, $a$ घटता जाता है।
• गतिशीलता (Dynamics): रणनीतियाँ रेप्लिकेटर डायनेमिक्स (replicator dynamics) के माध्यम से विकसित होती हैं (अधिक सफल साथियों का अनुकरण), जो इस अवकल समीकरण (differential equation) द्वारा नियंत्रित होती हैं:
  $$\dot{x}_s = x_s (\pi_s(x) - \phi(x))$$
  जहाँ $\pi_s$ रणनीति $s$ का पेऑफ है और $\phi$ औसत जनसंख्या पेऑफ (सामाजिक कल्याण) है।

कार्यों का वर्गीकरण (Taxonomy of Tasks)

लेखक कार्यों को दो आयामों के आधार पर वर्गीकृत करते हैं:

1. प्रोत्साहन शक्ति (Incentive Strength): क्या कार्य एआई के बिना किया जाता है।
   • उच्च-प्रोत्साहन (High-Incentive): $b > 2c_h$ (एआई के बिना भी मनुष्य कार्य करते हैं)।
   • निम्न-प्रोत्साहन (Low-Incentive): $b < 2c_h$ (एआई के बिना मनुष्य कार्य नहीं करते हैं)।
2. कोलैप्स की गंभीरता (Collapse Severity): फीडबैक लूप की शक्ति ($m$)।
   • कमजोर कोलैप्स (Weak Collapse): $m < m_c$ (उच्च अपनाने के बावजूद एआई प्रदर्शन उच्च रहता है)।
   • मजबूत कोलैप्स (Strong Collapse): $m > m_c$ (अपनाने के साथ एआई प्रदर्शन काफी गिर जाता है)।

आदत निर्माण और स्पिलओवर (Habit Formation and Spillover)

वास्तविक दुनिया की जटिलता को संबोधित करने के लिए, लेखक एक दो-कार्य सेटिंग (two-task setting) तक मॉडल का विस्तार करते हैं:

• कार्य 1 ("बिजी-वर्क"): निम्न-प्रोत्साहन, कमजोर कोलैप्स (एआई फायदेमंद है)।
• कार्य 2 ("कविता"): उच्च-प्रोत्साहन, मजबूत कोलैप्स (एआई हानिकारक है)।
• आदत बाधा (Habit Constraint): व्यक्ति दोनों कार्यों के लिए एक ही रणनीति का उपयोग करने के लिए बाध्य हैं (उदाहरण के लिए, यदि वे बिजी-वर्क के लिए एआई का उपयोग करते हैं, तो उन्हें कविता के लिए भी एआई का उपयोग करना होगा)। यह एआई उपकरणों के इर्द-गिर्द आदतें बनाने की मनोवैज्ञानिक प्रवृत्ति को मॉडल करता है।

3. मुख्य योगदान (Key Contributions)

1. मॉडल कोलैप्स का सामाजिक दुविधा के रूप में औपचारिकीकरण: यह शोध पत्र गणितीय रूप से प्रदर्शित करता है कि मॉडल कोलैप्स एक 'ट्रैजेडी ऑफ द कॉमन्स' (tragedy of the commons) बनाता है जहाँ व्यक्तिगत तर्कसंगतता (सस्ता एआई उपयोग करना) सामूहिक विनाश (घटे हुए एआई प्रदर्शन) की ओर ले जाती है।
2. द्वि-आयामी वर्गीकरण: यह भविष्यवाणी करने के लिए एक ढांचा प्रदान करता है कि कार्य प्रोत्साहन और कोलैप्स की गंभीरता के आधार पर एआई कब मदद करेगा या नुकसान पहुँचाएगा।
3. प्रमेय 1 (कल्याण में कमी - Theorem 1): एक कठोर प्रमाण जो दिखाता है कि उच्च-प्रोत्साहन वाले डोमेन में, जहाँ मजबूत मॉडल कोलैप्स है, एआई का परिचय हमेशा मानव-मात्र कार्य की तुलना में सामाजिक कल्याण को कम करता है, भले ही मानव और एआई कार्य का एक स्थिर मिश्रण उभर आए।
4. नकारात्मक स्पिलओवर प्रभाव (Negative Spillover Effect): "कम-दांव" वाले लाभकारी कार्यों में एआई अपनाने से आदत निर्माण के माध्यम से "उच्च-दांव" वाले हानिकारक कार्यों में नकारात्मक स्पिलओवर होने की खोज।

4. मुख्य परिणाम (Key Results)

संतुलन परिणाम (Equilibrium Outcomes)

• एआई के बिना: जनसंख्या या तो सभी-H (यदि $b > 2c_h$) या सभी-N (यदि $b < 2c_h$) की ओर अभिसरित (converge) होती है।
• एआई के साथ (कमजोर कोलैप्स): जनसंख्या सभी-AI की ओर अभिसरित होती है। चूंकि एआई प्रभावी बना रहता है, इसलिए हर कोई इसे अपना लेता है।
• एआई के साथ (मजबूत कोलैप्स):
  • निम्न-प्रोत्साहन कार्य: N (कोई कार्य नहीं) और AI के मिश्रण की ओर अभिसरण। कुछ फ्री-राइड करते हैं, कुछ एआई का उपयोग करते हैं।
  • उच्च-प्रोत्साहन कार्य: H (मानव) और AI के एक स्थिर मिश्रण की ओर अभिसरण।

कल्याण विश्लेषण ($\Delta S$)

• निम्न-प्रोत्साहन कार्य: एआई आम तौर पर सामाजिक कल्याण को बढ़ाता है। यह उस उत्पादन को सक्षम बनाता है जो अन्यथा नहीं होता (N को AI से बदलना), भले ही कुछ मॉडल कोलैप्स हो।
• उच्च-प्रोत्साहन कार्य (महत्वपूर्ण निष्कर्ष):
  • यदि कोलैप्स कमजोर है, तो एआई कल्याण बढ़ा सकता है यदि लागत बचत ($c_h - c_a$) प्रदर्शन हानि ($m$) से अधिक हो।
  • यदि कोलैप्स मजबूत है (प्रमेय 1): एआई का परिचय सख्ती से सामाजिक कल्याण को कम करता है ($\Delta S < 0$)।
  • तंत्र: भले ही H और AI का मिश्रण उभरता है, एआई घटक इतना खराब हो जाता है कि आउटपुट की औसत गुणवत्ता शुद्ध मानव बेसलाइन से नीचे गिर जाती है। एआई की लागत बचत मॉडल कोलैप्स के कारण होने वाले गुणवत्ता के नुकसान की भरपाई नहीं कर सकती है।

स्पिलओवर और आदत निर्माण

• एक दो-कार्य मॉडल में, यदि व्यक्तियों को दोनों "बिजी-वर्क" (Type Ia) और "कविता" (Type IIb) के लिए समान रणनीति का उपयोग करने के लिए मजबूर किया जाता है:
  • जैसे-जैसे "बिजी-वर्क" पर बिताया गया समय बढ़ता है, अधिक लोग उस कार्य के लिए एआई अपनाते हैं।
  • आदत बाधाओं के कारण, वे "कविता" के लिए भी एआई अपना लेते हैं।
  • यह "कविता" डोमेन को हानिकारक एआई शासन (detrimental AI regime) में धकेल देता है, जिससे एक नकारात्मक स्पिलओवर होता है।
  • परिणाम: समग्र सामाजिक कल्याण का अंतर तेजी से नकारात्मक होता जाता है क्योंकि "बिजी-वर्क" का अनुपात बढ़ता है, भले ही अकेले बिजी-वर्क के लिए एआई फायदेमंद हो।

5. महत्व और निहितार्थ (Significance and Implications)

• नीतिगत हस्तक्षेप (Policy Intervention): यह शोध पत्र तर्क देता है कि हस्तक्षेप का प्राथमिक बिंदु डेटा फीडबैक लूप है। नीतियों को एआई-जनित सामग्री को बिना पहचान के प्रशिक्षण कॉर्पोरा (training corpora) में पुन: एकीकृत होने से रोकना चाहिए।
  • सिफारिशें: मानव डेटा अखंडता को बनाए रखने के लिए एआई डिटेक्शन पाइपलाइनों को तैनात करें और डेटा प्रोवेनेंस/लेबलिंग को लागू करें।
• "मानव-एआई सहयोग" का पुनर्मूल्यांकन: यह शोध पत्र इस आशावादी दृष्टिकोण को चुनौती देता है कि मानव और एआई कार्य का एक स्थिर मिश्रण स्वस्थ पूरकता का संकेत है। उच्च-मूल्य वाले डोमेन में, ऐसा मिश्रण वास्तव में कल्याण-घटाने वाले फीडबैक लूप का संकेत हो सकता है।
• व्यापक संदर्भ: निष्कर्ष नेटवर्क थ्योरी में ब्रेस पैराडॉक्स (Braess Paradox) के अनुरूप हैं, जहाँ एक संसाधन (AI) जोड़ने से सामूहिक परिणाम खराब हो जाते हैं। यह सुझाव देता है कि व्यक्तिगत रूप से तर्कसंगत रूप से genAI को अपनाना उन डोमेन में निश्चित रूप से सामूहिक कल्याण को कम कर सकता है जहाँ मानव योगदान सबसे मूल्यवान है (जैसे रचनात्मक लेखन, वैज्ञानिक अनुसंधान, पत्रकारिता)।
• भविष्य का दृष्टिकोण: बिना हस्तक्षेप के, "कविता जैसे" डोमेन (उच्च-मूल्य वाले सांस्कृतिक उत्पादन) ठहराव और गुणवत्ता हानि के पथ पर हैं, क्योंकि एआई-जनित सामग्री भविष्य के मॉडलों के लिए प्रशिक्षण डेटा को प्रदूषित करती है, जिससे क्षरण का एक स्व-सुदृढ़ चक्र बनता है।

संक्षेप में, यह शोध पत्र गणितीय प्रमाण प्रदान करता है कि उच्च-मूल्य वाले, रचनात्मक डोमेन में अनियंत्रित जनरेटिव एआई का उपयोग सामाजिक रूप से हानिकारक है क्योंकि यह मॉडल कोलैप्स के कारण होता है, और आदत निर्माण इन नकारात्मक प्रभावों को अन्य डोमेन में फैला सकता है, जिसके लिए सख्त डेटा गवर्नेंस नीतियों की आवश्यकता है।