Learning by Surprise: Adaptive Mitigation of Model Collapse in Large Language Models
यह शोध पत्र एआई-जनित सामग्री पर प्रशिक्षण के कारण होने वाली मॉडल कोलैप्स (model collapse) की घटना की जांच करता है, परप्लेक्सिटी (perplexity) को क्षय के एक प्रमुख चालक के रूप में पहचानता है, और एक स्केलेबल, मॉडल-अंतर्निहित फ़िल्टरिंग रणनीति प्रस्तावित करता है जो मानव-लिखित डेटा तक पहुंच की आवश्यकता के बिना प्रभावी ढंग से कोलैप्स को कम करने के लिए उच्च-आश्चर्य (high-surprise) वाले दस्तावेज़ों को प्राथमिकता देता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
बड़ी समस्या: एआई अपनी ही पूंछ खा रहा है
कल्पना कीजिए कि एक प्रसिद्ध शेफ है जो दूसरे शेफ द्वारा बनाए गए व्यंजनों को चखकर खाना बनाना सीखता है। शुरुआत में, वे हजारों अलग-अलग मानव रसोइयों द्वारा बनाए गए व्यंजनों की एक विशाल विविधता का स्वाद लेते हैं। वे अद्भुत और विविध भोजन बनाना सीखते हैं।
लेकिन फिर, एक समस्या शुरू होती है। इंटरनेट एआई शेफ द्वारा लिखे गए व्यंजनों से भर जाता है। अंततः, मानव शेफ मानव व्यंजनों को चखना बंद कर देता है और केवल अन्य एआई शेफ द्वारा लिखे गए व्यंजनों को चखने लगता है।
इसे एआई ऑटोफैगी (AI Autophagy) (शाब्दिक अर्थ "स्वयं को खाना") कहा जाता है। शोध पत्र इसे एक "फीडबैक लूप" कहता है। एआई सामग्री बनाता है, और फिर भविष्य के एआई संस्करणों को उसी सामग्री पर प्रशिक्षित किया जाता है।
परिणाम: मॉडल कोलैप्स (Model Collapse)
जब ऐसा होता है, तो एआई "बीमार" होने लगता है। यह अपनी रचनात्मकता खो देता है।
- उपमा (Analogy): कल्पना कीजिए कि एक संगीतकार है जो केवल अपनी ही रिकॉर्डिंग सुनता है। धीरे-धीरे, वह नए सुर सुनना बंद कर देता है। वह बार-बार वही तीन सुर, बिल्कुल उसी लय में बजाने लगता है। उसका संगीत उबाऊ, दोहराव वाला हो जाता है और वह अपनी सारी "आत्मा" या सामान्य समझ खो देता है।
- पेपर में: एआई वाक्यांशों को दोहराने लगता है, विविधता खो देता है, और ऐसी चीजें बनाने लगता है जिनका कोई तार्किक अर्थ नहीं होता (जैसे यह कहना कि "आसमान हरा है" क्योंकि वह केवल सबसे संभावित शब्द का अनुमान लगा रहा है, न कि सही शब्द का)।
शोधकर्ताओं ने "बीमारी" का पता कैसे लगाया
शोधकर्ता यह समझना चाहते थे कि यह बीमारी कैसे होती है और बिना किसी इंसान के यह कहे कि "यह मानव रेसिपी है, यह एआई रेसिपी है," इसे कैसे रोका जाए।
उन्होंने पाया कि एआई के बीमार होने के तीन मुख्य संकेत हैं:
"बोर होता दिमाग" (प्रायिकता संकेंद्रण - Probability Concentration):
- उपमा: एक स्वस्थ एआई एक ऐसे व्यक्ति की तरह है जो वाक्य में अगले शब्द का अनुमान लगा रहा है। वह सोच सकता है, "यह 'बिल्ली', 'कुत्ता' या 'पक्षी' हो सकता है।" लेकिन एक "कोलैप्स्ड" (धराशायी) एआई उस व्यक्ति की तरह है जो एक ही उत्तर के बारे में इतना निश्चित है कि वह केवल एक ही शब्द के बारे में सोचता है। वह अत्यधिक आत्मविश्वासी हो जाता है।
- विज्ञान: उन्होंने मापा कि एआई का "आत्मविश्वास" कितने कम शब्दों पर सिमट गया था। जब एआई कोलैप्स होता है, तो वह लगभग 100% आत्मविश्वास केवल एक विशिष्ट शब्द पर डाल देता है, और अन्य सभी संभावनाओं को अनदेखा कर देता है।
"सामान्य समझ का खो जाना" (Lost Common Sense):
- उपमा: यदि आप एक स्वस्थ एआई से पूछते हैं, "यदि मैं एक गिलास गिरा दूँ, तो क्या होगा?" तो वह कहता है, "यह टूट जाएगा।" यदि एक कोलैप्स्ड एआई से यही सवाल पूछा जाए, तो वह कह सकता है, "यह एक बादल बन जाता है" या बार-बार सवाल को दोहराता रहता है। वह यह समझने की क्षमता खो देता है कि वास्तविक दुनिया कैसे काम करती है।
- विज्ञान: उन्होंने एआई का सामान्य समझ वाले पहेलियों पर परीक्षण किया। जैसे-जैसे एआई को उसके अपने आउटपुट पर प्रशिक्षित किया गया, वह इन सरल तर्क संबंधी प्रश्नों के उत्तर देने में और खराब होता गया।
"आश्चर्य" का कारक (मुख्य खोज):
- उपमा: कल्पना कीजिए कि एआई एक छात्र है। यदि शिक्षक छात्र को एक ऐसी पाठ्यपुस्तक देता है जिसे उसने पहले ही पूरी तरह से रट लिया है, तो छात्र बोर हो जाता है और सीखना बंद कर देता है। लेकिन यदि शिक्षक उसे एक ऐसी किताब देता है जिसमें अजीब, आश्चर्यजनक तथ्य हैं जो उसने पहले कभी नहीं देखे, तो छात्र का दिमाग जाग जाता है।
- विज्ञान: शोधकर्ताओं ने पाया कि एआई तब सबसे तेजी से कोलैप्स होता है जब उसे ऐसी सामग्री पर प्रशिक्षित किया जाता है जो उसके लिए आश्चर्यजनक नहीं होती। यदि एआई उस चीज़ को पढ़ता है जिसकी वह पहले से उम्मीद कर रहा था, तो यह उसके बुरे व्यवहार को और मजबूत करता है। यदि वह कुछ ऐसा पढ़ता है जो उसे "आश्चयचकित" (surprises) करता है (ऐसी सामग्री जिसे भविष्यवाणी करना उसके लिए कठिन है), तो वह स्वस्थ रहता है।
समाधान: "आश्चर्य से सीखना" (Learning by Surprise)
यह पेपर एआई को प्रशिक्षित करने का एक नया तरीका प्रस्तावित करता है जिसमें डेटा को "मानव" या "एआई" के रूप में लेबल करने के लिए किसी इंसान की आवश्यकता नहीं होती।
पुराना तरीका:
एक ऐसा फिल्टर खोजने की कोशिश करना जो कहता है, "केवल मानव-लिखित पाठ को अंदर आने दें।" समस्या यह है कि जैसे-जैसे एआई बेहतर होता जाता है, मानव और एआई लिखित पाठ के बीच अंतर करना असंभव हो जाता है।
नया तरीका (परप्लेक्सिटी फ़िल्टरिंग - Perplexity Filtering):
यह पूछने के बजाय कि "इसे किसने लिखा?", शोधकर्ता पूछते हैं, "एआई इस बात से कितना आश्चर्यचकित है?"
- रणनीति: एआई को प्रशिक्षित करने से पहले, वे टेक्स्ट के एक ढेर (मानव और एआई दोनों द्वारा लिखित) को देखते हैं। वे एआई को इसे पढ़ने के लिए कहते हैं और यह मापते हैं कि वह कितना "आश्चर्यचकित" है।
- यदि एआई कहता है, "ओह, मैं यह जानता हूँ! यह आसान है!" (कम आश्चर्य), तो वे इसे फेंक देते हैं।
- यदि एआई कहता, "वाह, मुझे इसकी उम्मीद नहीं थी!" (उच्च आश्चर्य), तो वे इसे प्रशिक्षण के लिए रख लेते हैं।
परिणाम:
एआई को केवल उन चीजों पर प्रशिक्षित करके जो उसे सबसे अधिक आश्चर्यचकित करती हैं, उन्होंने "कोलैप्स" को रोक दिया।
- एआई ने अपनी विविधता बनाए रखी (वह केवल एक ही तरह के शब्द नहीं दोहराता रहा)।
- उसने अपनी सामान्य समझ बनाए रखी।
- महत्वपूर्ण रूप से: इसने ठीक उतना ही अच्छा प्रदर्शन किया जितना कि यदि उन्होंने केवल मानव-लिखित टेक्स्ट का उपयोग किया होता, भले ही उन्हें यह नहीं पता था कि कौन से दस्तावेज़ मानव के हैं और कौन से एआई के।
यह क्यों महत्वपूर्ण है
यह पेपर तर्क देता है कि हम एक ऐसे युग में प्रवेश कर रहे हैं जहाँ इंटरनेट ज्यादातर एआई सामग्री से भरा है। यदि हम बिना किसी फिल्टर के नए एआई को पुराने एआई कंटेंट पर प्रशिक्षित करते रहे, तो वे सभी "ज़ोंबी" बन जाएंगे—दोहराव वाले, उबाऊ और अतार्किक।
यह "आश्चर्य से सीखना" (Learning by Surprise) विधि एक व्यावहारिक उपकरण है। यह एआई के लिए एक डाइट की तरह काम करता है: उसे जंक फूड (अनुमानित, दोहराव वाला एआई टेक्स्ट) खिलाने के बजाय, यह उसे "स्वस्थ, आश्चर्यजनक भोजन" (ऐसी सामग्री जो उसके वर्तमान ज्ञान को चुनौती देती है) खाने के लिए मजबूर करता है। यह एआई को स्मार्ट और रचनात्मक बनाए रखता है, बिना किसी इंसान के रेफरी के रूप में कार्य करने की आवश्यकता के।
एक वाक्य में सारांश
एआई मॉडल्स को उनके अपने ही बनाए हुए उबाऊ और दोहराव वाले लूप बनने से रोकने के लिए, हमें उन्हें उस सामग्री पर प्रशिक्षित करना चाहिए जो उन्हें सबसे अधिक आश्चर्यचकित करती है, न कि एआई-जनित टेक्स्ट को फिल्टर करने की कोशिश करनी चाहिए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।