Elias in the Lighthouse, Again? Diagnosing Low Diversity in LLM Stories
यह शोध पत्र प्रकट करता है कि LLM-जनित कहानियों में विविधता आश्चर्यजनक रूप से कम है, जहाँ "Elias" और "lighthouse" जैसे टोकन का एक छोटा समूह आउटपुट पर हावी रहता है क्योंकि वे प्री-ट्रेनिंग डेटा के बजाय प्रेफरेंस अलाइनमेंट डेटासेट्स में अपनी व्यापकता के कारण प्रमुख हैं, जो मॉडल व्यवहार पर छोटे, उच्च-गुणवत्ता वाले डेटासेट्स के असंगत प्रभाव को उजागर करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप चार अलग-अलग शेफ से बिना किसी विशिष्ट सामग्री के बताए एक "सरप्राइज डिश" बनाने के लिए कहते हैं। आप चार बहुत ही अलग तरह के भोजन की उम्मीद करेंगे। इसके बजाय, कल्पना कीजिए कि हर एक शेफ ने आपको नींबू और शतावरी (asparagus) के साथ ग्रिल्ड साल्मन परोसा, और उन सभी ने बिल्कुल एक ही रेसिपी का उपयोग किया।
यह वास्तव में वही है जो कॉनेल यूनिवर्सिटी के शोधकर्ताओं सिल हैमिल्टन और डेविड मिम्नो ने तब पाया जब उन्होंने दुनिया के चार सबसे उन्नत AI मॉडल से "एक कहानी लिखने" के लिए कहा।
यहाँ उनके निष्कर्षों का विवरण दिया गया, सरल उपमाओं का उपयोग करते हुए:
1. "लाइटहाउस में एलियास" का महामारी (The "Elias in the Lighthouse" Epidemic)
शोधकर्ताओं ने AI मॉडल को 20,000 कहानियाँ लिखने के लिए कहा। परिणाम चौंकाने वाले रूप से दोहराव वाले थे।
- पैटर्न: 88% कहानियों में केवल 11 विशिष्ट शब्दों में से एक शब्द मौजूद था।
- पात्र: कहानियों में लगभग हमेशा एलियास (Elias) नाम का एक आदमी, मारा (Mara) नाम की एक महिला, या एलारा (Elara) नाम की एक महिला होती थी।
- सेटिंग: आधी कहानियाँ एक लाइटहाउस (प्रकाश स्तंभ) में होती थीं।
- व्यवसाय: पात्र लगभग हमेशा लाइटहाउस कीपर, घड़ीसाज़ (clockmakers), बेकर (bakers), या लाइब्रेरियन (librarians) होते थे।
ऐसा लगता है जैसे सभी AI मॉडल एक ही "विचार फैक्ट्री" में गए और उन्होंने शेल्फ से बिल्कुल एक ही सेट के प्रॉप्स चुन लिए।
2. ये विचार कहाँ से आए? (जासूसी कार्य)
शोधकर्ताओं ने यह पता लगाने के लिए जासूसी की कि AI बार-बार इन विशिष्ट नामों और स्थानों को क्यों चुन रहा है। उन्होंने तीन संभावित स्रोतों की जाँच की:
- असली किताबें: उन्होंने हजारों प्रकाशित उपन्यासों की जाँच की। साहित्य में "एलियास" और "एलारा" जैसे नाम और "लाइटहाउस" जैसी सेटिंग वास्तव में काफी दुर्लभ हैं। AI केवल प्रसिद्ध किताबों की नकल नहीं कर रहा है।
- इंटरनेट (प्री-ट्रेनिंग): उन्होंने उस विशाल मात्रा में टेक्स्ट की जाँच की जिसे AI ने मददगार बनने के लिए प्रशिक्षित होने से पहले पढ़ा था। ये शब्द वहां न के बराबर थे।
- "फाइन-ट्यूनिंग" डेटा: यही मुख्य कुंजी है। AI ने पढ़ने के बाद क्या सीखा, इसके बाद इंसानों ने इसे निर्देश मानने के लिए प्रशिक्षण का दूसरा दौर दिया (जिसे 'अलाइनमेंट' की प्रक्रिया कहा जाता है)। शोधकर्ताओं ने पाया कि AI ने ये विशिष्ट कहानियाँ डेटा के एक बहुत ही छोटे हिस्से से सीखी थीं।
3. "छोटा डेटासेट, बड़ा प्रभाव" का विरोधाभास (The "Small Dataset, Big Impact" Paradox)
पेपर का सबसे आश्चर्यजनक हिस्सा यहाँ है:
- AI को अरबों दस्तावेजों पर प्रशिक्षित किया गया था।
- विशिष्ट "लाइटहाउस में एलियास" वाली कहानियाँ उसके अंतिम प्रशिक्षण चरण के दौरान देखे गए डेटा का केवल 3.8% हिस्सा थीं।
- फिर भी, एक छोटी अल्पसंख्यक होने के बावजूद, इन कहानियों ने इसके आउटपुट पर पूरी तरह से प्रभुत्व जमा लिया।
उपमा: कल्पना कीजिए कि एक लाइब्रेरी में 10 मिलियन किताबें हैं। केवल 380 किताबें एक लाइटहाउस कीपर एलियास के बारे में हैं। यदि आप किसी छात्र को उस लाइब्रेरी के आधार पर एक कहानी लिखने के लिए कहें, तो आप उम्मीद करेंगे कि वह अन्य अधिकांश किताबों में से चुनेगा। इसके बजाय, यह AI छात्र इतनी तीव्रता से उन 380 किताबों को याद कर चुका है कि वह बाकी 9.9 मिलियन को अनदेखा कर देता है।
4. ऐसा क्यों होता है?
पेपर सुझाव देता है कि AI केवल यह नहीं सीख रहा है कि क्या लोकप्रिय है; यह संभवतः अपने अंतिम प्रशिक्षण के दौरान "ओवर-करेक्टेड" (अति-सुधारित) हो रहा है।
- AI को "खराब" सामग्री (जैसे कॉपीराइट वाले पात्र या वयस्क विषय) से बचने के लिए प्रशिक्षित किया जाता है।
- "लाइटहाउस में एलियास" वाली कहानियाँ उपलब्ध प्रशिक्षण डेटा में सबसे "सुरक्षित" कहानियाँ प्रतीत होती हैं। वे सामान्य, सुरक्षित और कॉपीराइट संबंधी मुद्दों से मुक्त हैं।
- क्योंकि AI सुरक्षा नियमों का पालन करने में बहुत अच्छा है, इसलिए इसने इन "सुरक्षित" कहानियों को डिफ़ॉल्ट के रूप में अपना लिया है जब भी उसे कुछ नया बनाने के लिए कहा जाता है, जिससे वह प्रभावी रूप से अन्य कहानियों की विशाल, विविध दुनिया को अनदेखा कर देता है।
निचोड़ (The Bottom Line)
पेपर निष्कर्ष निकालता है कि जब हम इन शक्तिशाली AI मॉडलों से रचनात्मक होने के लिए कहते हैं, तो वे वास्तव में रचनात्मक नहीं हो रहे होते हैं। वे एक "मोड कोलैप्स" (mode collapse) में फंसे हुए हैं, जहाँ वे बार-बार एक ही संकीर्ण, सुरक्षित और दोहराव वाली कहानियाँ देते हैं क्योंकि प्रशिक्षण के एक छोटे, विशिष्ट डेटा सेट ने उन्हें सिखाया है कि कहानी लिखने का "सही" तरीका यही है।
ऐसा नहीं है कि AI को अन्य कहानियों के अस्तित्व का पता नहीं है; बल्कि यह है कि अंतिम "सुरक्षा प्रशिक्षण" जिसने उसे प्राप्त किया, उसने उसे केवल हमें लाइटहाउस दिखाना सिखाया।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।