Model Collapse as Cultural Evolution
यह शोध पत्र पुनरावृत्त शिक्षण सिद्धांत (iterated learning theory) को लागू करके मॉडल कोलैप्स को एक सांस्कृतिक संचरण घटना के रूप में पुनर्गठित करता है ताकि यह प्रदर्शित किया जा सके कि अनफ़िल्टर्ड सेल्फ-ट्रेनिंग भाषाई संरचनात्मकता (linguistic compositionality) के गैर-एकदिष्ट क्षरण (non-monotonic degradation) का कारण बनती है, जो कई मॉडलों और भाषाओं में मान्य एक ऐसा निष्कर्ष है जो सुदृढ़ सेल्फ-ट्रेनिंग पाइपलाइनों को डिजाइन करने के लिए ठोस सिद्धांत प्रदान करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बहुत ही प्रतिभाशाली छात्र है जो किताबें पढ़कर सीखता है। अब, एक अजीब नियम की कल्पना करें: हर साल, इस छात्र को केवल पिछले वर्ष द्वारा लिखी गई किताबों के आधार पर एक नई किताब लिखनी होगी। वह मूल मानव-लिखित किताबों को फिर कभी नहीं देखेगा।
यह शोध पत्र इस बात की जांच करता है कि क्या होता है जब हम एक लार्ज लैंग्वेज मॉडल (LLM) को ठीक यही करने के लिए मजबूर करते हैं। इस प्रक्रिया को "मॉडल कोलैप्स" (model collapse) कहा जाता है। लेखकों ने पाया कि यदि आप मॉडल को केवल खुद की नकल करने देते हैं, तो भाषा अंततः उबाऊ, दोहराव वाली और टूटी हुई हो जाती है।
लेकिन यहाँ एक मोड़ है। लेखकों ने केवल गणित का उपयोग नहीं किया; उन्होंने यह समझाने के लिए कि यह क्यों होता है और इसे कैसे ठीक किया जाए, सांस्कृतिक विकास (cultural evolution) के सिद्धांत का उपयोग किया—जो इस बात का अध्ययन है कि मानव भाषाएँ पीढ़ियों के माध्यम से कैसे बदलती हैं।
यहाँ उनके निष्कर्षों की कहानी है, जिसे सरल अवधारणाओं में विभाजित किया गया है:
1. "टेलीफोन गेम" का गलत होना
मॉडल ट्रेनिंग को "टेलीफोन" के खेल की तरह समझें, लेकिन यहाँ आप एक वाक्य फुसफुसाने के बजाय पूरी किताब लिख रहे हैं।
- समस्या: टेलीफोन के सामान्य खेल में, संदेश बिगड़ जाता है। इस AI संस्करण में, मॉडल सबसे पहले भाषा के "शानदार" हिस्सों को खोना शुरू कर देता है। यह जटिल चुटकुलों, अलंकारिक प्रश्नों और सूक्ष्म कहानी कहने के तरीकों को भूल जाता है। यह केवल सबसे सरल, दोहराव वाले वाक्यों को बनाए रखता है।
- उपमा: एक पुस्तकालय की कल्पना करें जहाँ हर नई किताब एक ऐसे छात्र द्वारा लिखी जाती है जिसने केवल पिछले छात्र की किताब पढ़ी है। समय के साथ, पुस्तकालय अपनी सभी अनूठी कहानियाँ खो देता है और एक ही सरल वाक्य की हजारों प्रतियों में बदल जाता है: "बिल्ली चटाई पर बैठी है।"
2. पाँच भविष्यवाणियाँ (द "क्रिस्टल बॉल")
लेखकों ने सांस्कृतिक विकास के नियमों का उपयोग करके यह अनुमान लगाने के लिए पाँच विशिष्ट भविष्यवाणियाँ कीं कि क्या होगा। उन्होंने 10 पीढ़ियों तक मॉडल को स्वयं-प्रशिक्षण (self-training) के माध्यम से चलाकर इनका परीक्षण किया।
- भविष्यवाणी 1: दुर्लभ चीजें पहले मर जाती हैं।
मानव इतिहास की तरह ही, दुर्लभ शब्द और जटिल वाक्य संरचनाएँ सबसे पहले गायब हो जाती हैं। मॉडल सबसे सामान्य शब्दों (जैसे "the" या "is") को थामे रखता है और दुर्लभ शब्दों को भूल जाता है। लेखकों ने पाया कि यह एक बहुत ही विशिष्ट, अनुमानित पैटर्न में होता है जो इस बात से मेल खाता है कि मानव मस्तिष्क भाषा कैसे सीखता है। - भविष्यवाणी 2: सब कुछ "नियमित" हो जाता है।
मॉडल अनियमितता से नफरत करता है। यदि आपके पास एक क्रिया है जो अजीब तरह से बदलती है (जैसे "go" का "went" होना), तो मॉडल इसे नियमित बनाने की कोशिश करता है (जैसे "go" का "goed" होना)। समय के साथ, भाषा पूरी तरह से, उबाऊ रूप से नियमित हो जाती है। - भविष्यवाणी 3: "उपयोगी" चीजें "कठिन" चीजों से पहले मर जाती हैं।
यह एक प्रमुख निष्कर्ष है। मॉडल प्रैग्मैटिक (pragmatic) भाषा (वह भाषा जो संदर्भ पर निर्भर करती है, जैसे व्यंग्य या अलंकारिक प्रश्न) को स्ट्रक्चरल (structural) भाषा (व्याकरण के नियम) को खोने से पहले खो देता है। ऐसा लगता है जैसे मॉडल एक अच्छा संवादकर्ता बनना भूल जाता है, इससे बहुत पहले कि वह एक वाक्य बनाना भूल जाए। - भविष्यवाणी 4: "हम्प" (The Hump) प्रभाव (सबसे महत्वपूर्ण निष्कर्ष)।
यह इस शोध पत्र की सबसे बड़ी खोज है। जब मॉडल खुद की नकल करना शुरू करता है, तो इसकी "कंपोजिशनल" (शब्दों को मिलाकर नए अर्थ बनाने की) क्षमता वास्तव में कुछ पीढ़ियों के लिए बढ़ती है, और फिर तेजी से गिर जाती है।- उपमा: कल्पना कीजिए कि लोगों का एक समूह एक नई भाषा बनाने की कोशिश कर रहा है। शुरुआत में, वे अपने शब्दों को व्यवस्थित करने में बहुत अच्छे हो जाते हैं। लेकिन क्योंकि वे केवल एक-दूसरे को सुन रहे हैं और वास्तविक मनुष्यों से बात नहीं कर रहे हैं, वे अंततः अपनी भाषा को इतना सरल बना देते हैं कि वह टूट जाती है। मॉडल खुद को व्यवस्थित करने में कुछ समय के लिए बेहतर होता है, फिर ढह जाता है।
- भविष्यवाणी 5: शब्दावली सिकुड़ जाती है।
शब्दों की विविधता नाटकीय रूप से गिर जाती है। दुर्लभ शब्दों की "लॉन्ग टेल" (long tail) गायब हो जाती है, जिससे केवल सबसे सामान्य शब्द ही बचते हैं।
3. समाधान: "सख्त संपादक" (The "Strict Editor")
लेखकों ने पूछा: "क्या हम इस पतन को रोक सकते हैं?" उन्होंने मॉडल के आउटपुट को फिर से प्रशिक्षित करने से पहले उसे फ़िल्टर करने के तीन अलग-अलग तरीकों का परीक्षण किया:
- कोई फ़िल्टर नहीं: मॉडल सब कुछ कॉपी करता है। (परिणाम: पूर्ण पतन)।
- रैंडम फ़िल्टर: मॉडल अपने आउटपुट का 70% रखता है, जो यादृच्छिक (randomly) रूप से चुना गया है। (परिणाम: अभी भी पतन होता है, बस थोड़ा धीरे)।
- क्वालिटी फ़िल्टर (गुणवत्ता फ़िल्टर): मॉडल केवल उस 70% आउटपुट को रखता है जो एक "परीक्षण" पास करता है (जैसे प्रश्नों का सही उत्तर देना या अर्थपूर्ण होना)।
- उपमा: एक शिक्षक की कल्पना करें जो छात्रों के होमवर्क को तभी स्वीकार करता है जब वह वास्तव में प्रॉम्प्ट का सही उत्तर देता है।
- परिणाम: इस क्वालिटी फ़िल्टर ने काम बचा लिया। इसने भाषा को जटिल और कंपोजिशनल बनाए रखा। मॉडल का पतन नहीं हुआ क्योंकि "संपादक" ने इसे केवल दोहरावदार होने के बजाय स्पष्ट रूप से संवाद करने के लिए मजबूर किया।
4. यह क्यों मायने रखता है
यह शोध पत्र तर्क देता है कि AI मॉडल का पतन केवल कोड की खराबी नहीं है; यह सूचना के हस्तांतरण का एक मौलिक नियम है।
- बिना किसी "संचार लक्ष्य" के (जैसे किसी वास्तविक व्यक्ति से बात करना या वास्तविक प्रश्न का उत्तर देना), भाषा स्वाभाविक रूप से एक सरल, दोहराव वाले लूप में गिर जाती है।
- "संचार लक्ष्य" के साथ (यह जाँचने के साथ कि आउटपुट वास्तव में समझ में आता है या नहीं), भाषा समृद्ध और संरचित रहती है।
निचोड़ (The Bottom Line)
यदि आप एक AI को केवल अपने लेखन को पढ़कर खुद को सिखाने देते हैं, तो वह अंततः मनुष्यों की तरह बोलना भूल जाएगा। वह एक टूटा हुआ, दोहराव वाला प्रतिध्वनि (echo) बन जाएगा। हालाँकि, यदि आप एक सख्त संपादक के रूप में कार्य करते हैं जो केवल उस कार्य को स्वीकार करता है जो वास्तव में उपयोगी और स्पष्ट है, तो AI अपने भाषा कौशल को जीवित रख सकता है।
लेखकों ने यह सिद्ध किया है कि AI का "लर्निंग कर्व" (सीखने का ग्राफ) सांस्कृतिक विकास के प्रयोगों में मानव बच्चों और वयस्कों के लर्निंग कर्व के बिल्कुल समान दिखता है। AI केवल एक कैलकुलेटर नहीं है; यह एक ऐसी संस्कृति की तरह व्यवहार कर रहा है जो विकसित (या विकसित होने से पीछे हट रही) हो रही है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।