💬 NLP

Epidemiology of Model Collapse: Modeling Synthetic Data Contamination via Bilayer SIR Dynamics

यह शोध पत्र AI मॉडलों और डेटा कॉर्पोरा के बीच क्रॉस-कंटैमिनेशन (cross-contamination) को मॉडल करने के लिए एक द्विस्तरीय युग्मित (bilayer coupled) SIR/SIRS महामारी विज्ञान ढांचे का प्रस्ताव करता है, जो सैद्धांतिक विश्लेषण, एजेंट-आधारित सिमुलेशन और अनुभवजन्य प्रयोगों के माध्यम से यह प्रदर्शित करता है कि सिंथेटिक डेटा कंटैमिनेशन से सुपरक्रिटिकल मॉडल कोलैप्स डायनेमिक्स (supercritical model collapse dynamics) उत्पन्न होता है जहाँ डिटेक्शन-आधारित फ़िल्टरिंग सबसे प्रभावी शमन रणनीति है।

मूल लेखक: Xiangyu Wang

प्रकाशित 2026-06-05

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Xiangyu Wang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि इंटरनेट एक विशाल, साझा स्विमिंग पूल है। वर्षों से, मनुष्य ही इसमें तैरते रहे हैं, छपाछप करते रहे हैं और अपने पैरों के निशान (डेटा) पीछे छोड़ते रहे हैं। अब, आर्टिफिशियल इंटेलिजेंस (AI) मॉडल इसमें कूद पड़े हैं। वे तैरना सीख रहे हैं, सीखते हैं कि कैसे हिलना-डुलना है, और फिर अपनी खुद की छपाछप बनाना शुरू कर देते हैं—सिंथेटिक टेक्स्ट, इमेज और कोड।

यहाँ समस्या यह है: जैसे-जैसे AI मॉडल बेहतर होते जा रहे हैं, वे बेहतर तरीके से तैरना सीखने के लिए उसी पूल का पानी पीना शुरू कर देते हैं। लेकिन अब, पानी में AI द्वारा बनाई गई "छपाछप" भी मिल गई है। यदि कोई AI बहुत अधिक सिंथेटिक पानी पी लेता है, तो वह अपने ही आउटपुट से घुटने लगता है। उसकी गुणवत्ता गिर जाती है, उसकी रचनात्मकता सिमट जाती है, और वह अपने ही एक 'ज़ोंबी' संस्करण में बदल जाता है। इसे "मॉडल कोलैप्स" (Model Collapse) कहा जाता है।

अधिकांश पिछले अध्ययनों ने इसे एक व्यक्ति द्वारा बार-बार एक ही कप से पानी पीने की तरह देखा। लेकिन यह शोध पत्र तर्क देता है कि वास्तविक दुनिया इस तरह काम नहीं करती है। AI इकोसिस्टम एक भीड़भाड़ वाली पार्टी की तरह है जहाँ हर कोई ड्रिंक्स साझा कर रहा है।

"वायरस" की उपमा (The "Virus" Analogy)

इस शोध के लेखकों ने इस अव्यवस्था को समझने के लिए महामारी विज्ञान (रोगों के अध्ययन) से एक उपकरण उधार लेने का निर्णय लिया। उन्होंने सिंथेटिक डेटा संदूषण (Synthetic Data Contamination) को एक वायरस की तरह माना।

उन्होंने एक दो-स्तरीय मॉडल बनाया, जो मनुष्यों और जानवरों के बीच फ्लू फैलने के समान है:

लेयर 1: डेटा पूल (द "फूड")
- ससेप्टिबल (स्वच्छ/Susceptible): ताज़ा, मानव-लिखित डेटा।
- संक्रमित (संदूषित/Infected): AI-जनरेटेड टेक्स्ट के साथ मिला हुआ डेटा।
- रिकवर्ड (फ़िल्टर किया हुआ/Recovered): वह डेटा जिसे डिटेक्टर्स द्वारा साफ किया गया है।
लेयर 2: AI मॉडल (द "ईटर्स")
- ससेप्टिबल (स्वस्थ/Susceptible): स्वच्छ डेटा पर प्रशिक्षित मॉडल।
- संक्रमित (संदूषित/Infected): वे मॉडल जिन्होंने बहुत अधिक सिंथेटिक डेटा खा लिया है और अब निम्न-गुणवत्ता वाला आउटपुट दे रहे हैं।
- रिकवर्ड (पुनः प्रशिक्षित/Recovered): वे मॉडल जिन्हें उनकी बुरी आदतों को ठीक करने के लिए स्वच्छ डेटा पर फिर से प्रशिक्षित किया गया है।

"वायरस" कैसे फैलता है:

एक संक्रमित मॉडल (Infected Model) खराब टेक्स्ट बनाता है और उसे डेटा पूल में डाल देता है, जिससे डेटा संक्रमित हो जाता है।
एक ससेप्टिबल मॉडल (Susceptible Model) उस संक्रमित डेटा पर प्रशिक्षण लेता है, और स्वयं एक संक्रमित मॉडल बन जाता है।

यह एक फीडबैक लूप है: खराब मॉडल खराब डेटा बनाते हैं, जिससे और अधिक खराब मॉडल बनते हैं।

" $R_0$ " संख्या: क्या कोलैप्स फैलेगा?

रोग नियंत्रण में, वैज्ञानिक प्रकोप की भविष्यवाणी करने के लिए $R_0$ (आर-नॉट) नामक संख्या का उपयोग करते हैं।

यदि $R_0 < 1$ , तो वायरस खत्म हो जाता है।
यदि $R_0 > 1$ , तो वायरस फैलता है और एंडेमिक (हमेशा मौजूद) हो जाता है।

यह पेपर AI संदूषण के लिए इस $R_0$ की गणना करता है। उन्होंने पाया कि वर्तमान रुझानों के तहत, $R_0$ संभवतः 1 से अधिक है। इसका मतलब है कि "संदूषण वायरस" सुपरक्रिटिकल है—यह केवल एक अस्थायी गड़बड़ी नहीं है; यह एक निरंतर समस्या है जो तब तक फैलती रहेगी जब तक हम हस्तक्षेप नहीं करते।

यह तेज़ी से क्यों फैलता है? (सेंसिटिविटी एनालिसिस)

शोधकर्ताओं ने पूछा: इसे रोकने के लिए हम कौन सा लीवर खींच सकते हैं? उन्होंने विभिन्न कारकों का परीक्षण किया:

नया डेटा कितनी तेज़ी से बनाया जा रहा है?
मॉडल्स को कितनी तेज़ी से रिटायर (सेवामुक्त) किया जा रहा है?
हम AI टेक्स्ट को पहचानने में कितने अच्छे हैं?

विजेता: सबसे शक्तिशाली कारक $\gamma_D$ (डेटा डिटेक्शन/फ़िल्टरिंग) है।
इसे डेटा पूल के इम्यून सिस्टम (प्रतिरक्षा प्रणाली) के रूप में समझें। यदि आपके पास AI-जनरेटेड टेक्स्ट का पता लगाने और उसे हटाने के बेहतर उपकरण हैं, तो आप प्रसार को नाटकीय रूप रूप से कम कर देते हैं। अन्य कारक, जैसे कि मॉडल कितनी बार अपडेट किए जाते हैं, बहुत कम मायने रखते हैं।

प्रयोग: क्या उन्होंने इसका परीक्षण किया?

हाँ। उन्होंने केवल गणित नहीं किया; उन्होंने एक छोटे AI मॉडल (GPT-2) के साथ वास्तविक प्रयोग किए।

"जहरीला कुआँ" टेस्ट (The "Poisoned Well" Test): उन्होंने बढ़ते हुए AI-जनरेटेड टेक्स्ट (0% से 100% तक) वाले डेटा पर मॉडल्स को प्रशिक्षित किया।
- परिणाम: जैसे-जैसे "ज़हर" (सिंथेटिक डेटा) बढ़ा, मॉडल की गुणवत्ता तेजी से गिरी। 100% सिंथेटिक डेटा पर, मॉडल लगभग बेकार हो गया। इसने "डोज़-रिस्पॉन्स" विचार की पुष्टि की: अधिक संदूषण = खराब कोलैप्स।
"विविध स्रोत" टेस्ट (The "Diverse Sources" Test): उन्होंने एक आशावादी प्रश्न पूछा: यदि हम कई अलग-अलग AI मॉडल्स (केवल एक के बजाय) से डेटा मिलाते हैं, तो क्या इससे मदद मिलती है? शायद विविधता एक बफर का काम करे?
- परिणाम: जब संदूषण 100% था, तब इसने बहुत थोड़ी मदद की, लेकिन जब संदूषण वास्तविक स्तर (50%) पर था, तो इसने कुछ भी नहीं किया।
- सीख: स्रोतों को मिलाने पर भरोसा न करें। यदि पानी गंदा है, तो उसे दूसरे गंदे पानी के साथ मिलाने से वह साफ नहीं होगा। आपको उसे फ़िल्टर करने की आवश्यकता है।

मुख्य निष्कर्ष (The Bottom Line)

इस पेपर का मुख्य संदेश सरल है:

AI संदूषण एक महामारी की तरह है। यह मॉडल्स और डेटा के बीच एक चक्र में फैलता है।
यह वर्तमान में फैल रहा है। गणित बताता है कि हम "सुपरक्रिटिकल" ज़ोन में हैं जहाँ संदूषण बना रहेगा।
सबसे अच्छा इलाज डिटेक्शन (पहचान) है। मॉडल कोलैप्स को रोकने का सबसे प्रभावी तरीका अपने डेटा स्रोतों में विविधता लाना नहीं है, बल्कि बेहतर फ़िल्टर बनाना है जो ट्रेनिंग डेटा से AI-जनरेटेड कंटेंट का पता लगा सके और उसे हटा सके।
प्रतिरोधक क्षमता कम होती है। भले ही आप आज डेटा को साफ कर दें, यह कल फिर से संदूषित हो सकता है। आपको निरंतर सतर्कता (जैसे वैक्सीन बूस्टर) की आवश्यकता है, न कि केवल एक बार के समाधान की।

संक्षेप में: यदि आप चाहते हैं कि AI स्मार्ट बना रहे, तो आपको उसका आहार स्वच्छ रखना होगा। और ऐसा करने का सबसे अच्छा तरीका यह है कि सिंथेटिक कचरे को खाने से पहले उसे पहचानने में बहुत माहिर हो जाना।

तकनीकी सारांश: मॉडल कोलैप्स का महामारी विज्ञान: द्विपक्षीय (Bilayer) SIR गतिकी के माध्यम से सिंथेटिक डेटा संदूषण का मॉडलिंग

समस्या विवरण
यह शोध पत्र "मॉडल कोलैप्स" (Model Collapse) की घटना को संबोधित करता है, जहाँ सिंथेटिक डेटा पर बड़े भाषा मॉडलों (LLMs) को प्रशिक्षित करने से आउटपुट की गुणवत्ता और विविधता में क्रमिक गिरावट आती है। जबकि पूर्ववर्ती कार्यों (जैसे, Shumailov et al. [20], Dohmatob et al. [4]) ने इसे एक एकल-श्रृंखला क्षरण प्रक्रिया (Model A $\rightarrow$ Data $\rightarrow$ Model B $\rightarrow$ Data) के रूप में वर्णित किया है, लेखक तर्क देते हैं कि वास्तविक AI पारिस्थितिकी तंत्र एक नेटवर्क है जो क्रॉस-कंटामिनेशन (cross-contamination) द्वारा विशेषता रखता है। इस पारिस्थितिकी तंत्र में, हजारों मॉडल साझा कॉर्पोरा (corpora) से डेटा ग्रहण करते हैं, और उनके आउटपुट वेब पब्लिशिंग और API के माध्यम से डेटा पूल में पुनः प्रवेश करते हैं। शोध पत्र का तर्क है कि मौजूदा गणितीय ढांचे इन पारिस्थितिकी तंत्र-स्तरीय गतिकी को पकड़ने में विफल रहते हैं, विशेष रूप से उस फीडबैक लूप को जो संदूषित डेटा को "संक्रमित" करता है, जो बदले में सिंथेटिक आर्टिफैक्ट्स को डेटा कॉर्पोरा में वापस "प्रसारित" करने के लिए मॉडलों को संक्रमित करता है।

कार्यप्रणाली
लेखक एक फेनोमेनोलॉजिकल मीन-फील्ड मॉडल प्रस्तावित करते हैं जो AI पारिस्थितिकी तंत्र को एक द्विपक्षीय युग्मित महामारी प्रणाली (bilayer coupled epidemic system) के रूप में मानता है, जो संक्रामक रोग प्रसार के समान है।

द्विपक्षीय SIR/SIRS ढांचा:
- यह प्रणाली दो परस्पर क्रिया करने वाली आबादी से बनी है: डेटा कॉर्पोरा (लेयर D) और AI मॉडल (लेयर M)।
- प्रत्येक लेयर को Susceptible (S), Infected (I), और Recovered (R) कंपार्टमेंट में विभाजित किया गया है।
- डेटा लेयर: स्वच्छ डेटा ( $S_D$ ) सिंथेटिक सामग्री के अंतर्ग्रहण से संदूषित ( $I_D$ ) हो जाता है; यह पहचान और फ़िल्टरिंग के माध्यम से रिकवर ( $R_D$ ) होता है।
- मॉडल लेयर: स्वच्छ-प्रशिक्षित मॉडल ( $S_M$ ) संदूषित डेटा पर प्रशिक्षित होने से संदूषित ( $I_M$ ) हो जाते हैं; वे सत्यापित-स्वच्छ डेटा पर पुन: प्रशिक्षण के माध्यम से रिकवर ( $R_M$ ) होते हैं।
- क्रॉस-लेयर ट्रांसमिशन: संदूषित मॉडल ( $I_M$ ) दर $\beta_D$ पर डेटा को संक्रमित करते हैं, और संदूषित डेटा ( $I_D$ ) दर $\beta_M$ पर मॉडलों को संक्रमित करता है।
- SIRS वेरिएंट: लेखक SIR की तुलना में SIRS वेरिएंट की सिफारिश करते हैं, जिसमें इम्युनिटी कम होने ( $\delta$ ) को शामिल किया गया है, जो यह दर्शाता है कि फ़िल्टर किए गए कॉर्पोरा और पुन: प्रशिक्षित मॉडल पुन: संदूषण के प्रति संवेदनशील बने रहते हैं।
गणितीय विश्लेषण:
- गतिकी छह युग्मित साधारण अवकल समीकरणों (ODEs) द्वारा नियंत्रित होती है।
- बेसिक रिप्रोडक्शन नंबर ( $R_0$ ) को 'नेक्स्ट जनरेशन मैट्रिक्स' विधि का उपयोग करके व्युत्पन्न किया गया है। लेखक सिद्ध करते हैं कि $R_0 = \sqrt{\frac{\beta_D \beta_M}{(\gamma_D + \mu_D)(\gamma_M + \mu_M)}}$ , जहाँ $\gamma$ रिकवरी/रिमूवल दर और $\mu$ टर्नओवर/ओब्सोलेसेंस दर को दर्शाता है।
- शोध पत्र डिजीज-फ्री इक्विलिब्रियम (DFE) की उपस्थिति और स्थिरता तथा एंडेमिक इक्विलिब्रियम (EE) के अस्तित्व को स्थापित करता है, जो $R_0 = 1$ पर ट्रांसक्रिटिकल बाइफरकेशन (transcritical bifurcation) को प्रदर्शित करता है।
कैलिब्रेशन और संवेदनशीलता:
- मापदंडों (parameters) का अनुमान AI टेक्स्ट की व्यापकता (2023–2025) और डिटेक्शन सटीकता के सार्वजनिक डेटा से लगाया गया है।
- तीन परिदृश्य (आशावादी, आधारभूत, निराशावादी) परिभाषित किए गए हैं।
- उच्च-लीवरेज मापदंडों की पहचान करने के लिए सोबोल इंडेक्स (Sobol indices) का उपयोग करके ग्लोबल सेंसिटिविटी एनालिसिस किया गया है।
अनुभवजन्य सत्यापन (Empirical Validation):
- एजेंट-आधारित मॉडल (ABM): मीन-फील्ड ODE के साथ निरंतरता की जांच करने के लिए एक स्टोकेस्टिक बाइपार्टिट नेटवर्क सिमुलेशन का उपयोग किया गया है।
- GPT-2 प्रयोग:
  - सिंगल-चेन: पर्सप्लेक्सिटी (PPL) और विविधता (Distinct-2) में डोज़-रिस्पॉन्स डिग्रेडेशन को मापने के लिए 192 रन।
  - सोर्स-डाइवर्सिटी: यह परीक्षण करने के लिए 1,088 मैच-बजट रन कि क्या कई स्रोतों ( $K > 1$ ) से सिंथेटिक डेटा का मिश्रण सेल्फ-ट्रेनिंग की तुलना में कोलैप्स को कम करता है।

प्रमुख योगदान

द्विपक्षीय SIR/SIRS ढांचा: एक फेनोमेनोलॉजिकल ODE मॉडल जो डेटा और मॉडल आबादी को जोड़ता है; पुन: संदूषण को ध्यान में रखते हुए SIRS की सिफारिश की गई है।
थ्रेशोल्ड विश्लेषण: नेक्स्ट जनरेशन मैट्रिक्स के माध्यम से $R_0$ का व्युत्पन्न, साथ ही DFE स्थिरता, एंडेमिक इक्विलिब्रियम अस्तित्व और ट्रांसक्रिटिकल बाइफरकेशन के लिए प्रमाण।
दृष्टांत कैलिब्रेशन: परिदृश्य-आधारित कैलिब्रेशन जो संभावित पैरामीटर श्रेणियों में सुपरक्रिटिकल डायनेमिक्स ( $R_0 > 1$ ) प्रदान करता है, और सोबोल विश्लेषण यह पहचानता है कि सिंथेटिक-टेक्स्ट डिटेक्शन ( $\gamma_D$ ) उच्चतम-लीवरेज पैरामीटर है।
GPT-2 प्रयोग: सिंगल-चेन रन में डोज़-रिस्पॉन्स डिग्रेडेशन और विविधता हानि का प्रदर्शन; मैच-बजट प्रयोगों में सोर्स डाइवर्सिटी प्रभावों की जांच।
हस्तक्षेप विश्लेषण: छह रणनीतियों (जैसे, वॉटरमार्किंग, हर्ड इम्युनिटी) का मूल्यांकन, जो यह दिखाता है कि डिटेक्शन-आधारित फ़िल्टरिंग $R_0 < 1$ लाने के लिए सबसे प्रभावी लीवर है।

परिणाम

सुपरक्रिटिकल डायनेमिक्स: तीनों कैलिब्रेशन परिदृश्य $R_0 > 1$ प्राप्त करते हैं (बेसलाइन $R_0 = 2.62$ )। अनिश्चितता प्रसार इंगित करता है कि अनुमानित पैरामीटर रेंज के तहत सुपरक्रिटिकल डायनेमिक्स की संभावना 98.2% है।
संवेदनशीलता: सोबोल सेंसिटिविटी एनालिसिस पहचानता है कि डेटा रिकवरी/डिटेक्शन दर ( $\gamma_D$ ) सबसे प्रभावशाली पैरामीटर है ( $S_T = 0.324$ ), इसके बाद डेटा संदूषण दर ( $\beta_D$ ) और मॉडल रिकवरी दर ( $\gamma_M$ ) का स्थान है। टर्नओवर दरें ( $\mu_D, \mu_M$ ) नगण्य प्रभाव डालती हैं।
ODE-ABM निरंतरता: मीन-फील्ड ODE घने नेटवर्क में ABM एंसेम्बल मीन के साथ मजबूती से सहमत है ( $R^2 > 0.96$ ), लेकिन नेटवर्क विषमता (जैसे, सुपरस्प्रेडर्स) के तहत यह कम हो जाता है।
GPT-2 सिंगल-चेन: अपने स्वयं के जनित डेटा पर पुनरावृत्ति प्रशिक्षण (recursive training) महत्वपूर्ण गिरावट का कारण बनता है। पूर्ण संदूषण ( $\alpha=1.0$ ) के तहत Distinct-2 बिग्राम विविधता 0.68 से गिरकर 0.38 हो जाती है।
सोर्स-डाइवर्सिटी प्रयोग:
- पूर्ण संर्दूषण ( $\alpha=1.0$ ) पर, मल्टी-सोर्स मिक्सिंग ( $K=3, 5$ ) सेल्फ-ट्रेनिंग ( $K=1$ ) की तुलना में कोलैप्स में मामूली कमी (~2 PPL कमी, $d \approx 0.8$ , एकतरफा $p=0.047$ ) प्रदान करती है।
- आंशिक संदूषण ( $\alpha=0.5$ ) पर, विविधता बफर समाप्त हो जाता है ( $p=0.61$ )। 50% वास्तविक डेटा की उपस्थिति स्व-सुदृढ़ीकरण लूप (self-reinforcing loop) को तोड़ देती है, जिससे सोर्स डाइवर्सिटी अप्रासंगिक हो जाती है।
हस्तक्षेप विश्लेषण: बेसलाइन मापदंडों के तहत, केवल वॉटरमार्क-आधारित फ़िल्टरिंग और हर्ड इम्युनिटी ही व्यक्तिगत रूप से $R_0 < 1$ प्राप्त करते हैं। युग्मवार मूल्यांकन (pairwise evaluations) में डिटेक्शन संयोजन हावी रहते हैं।

महत्व और दावे
शोध पत्र दावा करता है कि यह AI पारिस्थितिकी तंत्र संदूषण के बारे में तर्क देने के लिए एक सिद्धांतपूर्ण महामारी विज्ञान शब्दावली ( $R_0$ , हर्ड इम्युनिटी, हस्तक्षेप थ्रेशोल्ड) प्रदान करता है। यह तर्क देता है कि क्रॉस-कंटामिनेशन की प्रक्रिया संरचनात्मक रूप से महामारी प्रसार के समान है, और द्विपक्षीय ढांचा उस महत्वपूर्ण क्रॉस-लेयर लीवरेज को पकड़ता है जो एकल-श्रृंखला मॉडल में गायब है।

लेखक इस बात पर जोर देते हैं कि उनका ढांचा फेनोमेनोलॉजिकल और दृष्टांत मात्र है, न कि वास्तविक पारिस्थितिकी तंत्र का सटीक माप। वे निष्कर्ष निकालते हैं कि मॉडल कोलैप्स का प्रमुख चालक संदूषण अंश ( $\alpha$ ) है, और व्यावहारिक हस्तक्षेपों को सोर्स डाइवर्सिटी को विविध बनाने के बजाय डिटेक्शन और फ़िल्टरिंग (अर्थात $\alpha$ को कम करना) को प्राथमिकता देनी चाहिए। देखा गया मामूली सोर्स डाइवर्सिटी लाभ $\alpha=1$ पर लुप्त हो जाता है, जो पुष्टि करता है कि $\beta_D$ और $\gamma_D$ —न कि पारिस्थितिकी तंत्र की संरचना—महत्वपूर्ण हस्तक्षेप लीवर हैं। शोध पत्र स्पष्ट रूप से सीमाओं को नोट करता है, जिसमें मीन-फील्ड ODE की शैलीबद्ध प्रकृति, GPT-2 प्रयोगों का छोटा पैमाना, और कैलिब्रेशन परिणामों की सशर्त प्रकृति शामिल है।

"वायरस" की उपमा (The "Virus" Analogy)

"R0R_0R0​" संख्या: क्या कोलैप्स फैलेगा?

यह तेज़ी से क्यों फैलता है? (सेंसिटिविटी एनालिसिस)

प्रयोग: क्या उन्होंने इसका परीक्षण किया?

मुख्य निष्कर्ष (The Bottom Line)

इसी तरह के और पेपर

" $R_0$ " संख्या: क्या कोलैप्स फैलेगा?