Neural Diversity Regularizes Hallucinations in Language Models
यह शोध पत्र भाषा मॉडलों के लिए तीसरे स्केलिंग अक्ष के रूप में "न्यूरल डायवर्सिटी" (तंत्रिका विविधता) को प्रस्तुत करता है, जो डिकोरिलेटेड समानांतर निरूपण और बारलो ट्विन्स रेगुलराइजेशन के माध्यम से मतिभ्रम (hallucinations) को 25.6% तक कम करने के लिए ND-LoRA पद्धति का प्रस्ताव देता है, साथ ही उन औपचारिक सीमाओं को स्थापित करता है जो निम्न न्यूरल सहसंबंध को उच्च विश्वसनीयता से जोड़ती हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक पेचीदा पहेली सुलझाने की कोशिश कर रहे हैं, लेकिन केवल एक व्यक्ति से पूछने के बजाय, आप एक पूरी टीम से पूछते हैं। यदि टीम के सभी सदस्य बिल्कुल एक जैसा सोचते हैं, तो वे सभी एक ही मूर्खतापूर्ण गलती कर सकते हैं और मिलकर आपको गलत उत्तर दे सकते हैं। यही आधुनिक "लैंग्वेज मॉडल्स" (भाषा मॉडलों) के साथ मुख्य समस्या है—वे सुपर-स्मार्ट कंप्यूटर प्रोग्राम जो कहानियाँ लिखते हैं, सवालों के जवाब देते हैं और हमसे चैट करते हैं। भले ही ये प्रोग्राम बड़े और अधिक स्मार्ट होते जा रहे हैं, फिर भी वे कभी-कभी चीजें बना लेते हैं, जिसे "हैलुसिनेशन" (hallucination) नामक एक गड़बड़ी कहा जाता है। वे आत्मविश्वास के साथ कोई फर्जी तथ्य बता सकते हैं या ऐसी कहानी गढ़ सकते हैं जो कभी हुई ही नहीं।
इसे ठीक करने के लिए, वैज्ञानिक आमतौर पर मॉडलों को बड़ा बनाने या उन्हें अधिक डेटा खिलाने की कोशिश करते हैं, जैसे कि एक बड़े बॉक्स को खरीदकर पहेली सुलझाने की कोशिश करना। लेकिन यह शोध पत्र एक अलग दृष्टिकोण का सुझाव देता है: टीम को बड़ा बनाने के बजाय, टीम के सदस्यों को अलग बनाएं। लेखक वित्त (finance) से एक विचार उधार लेते हैं जिसे "विविधीकरण" (diversification) कहा जाता है। जिस तरह एक निवेशक अपना सारा पैसा एक ही स्टॉक में नहीं डालता क्योंकि यदि वह एक विफल हो गया, तो वह सब कुछ खो देगा, वे अपने पैसे को कई अलग-अलग स्टॉक्स में फैला देते हैं। यदि एक स्टॉक गिर जाता है, तो दूसरे स्थिर रह सकते हैं, जिससे पोर्टफोलियो सुरक्षित रहता है। शोध पत्र पूछता है: क्या हम कंप्यूटर के दिमागों के साथ भी ऐसा ही कर सकते हैं? यदि हम मॉडल के विभिन्न हिस्सों को थोड़ा अलग, असंबंधित (uncorrelated) तरीकों से सोचने के लिए मजबूर करते हैं, तो क्या हम उन्हें एक ही समय में एक ही गलती करने से रोक सकते हैं?
यही वह चीज़ है जिसे शोधकर्ताओं ने परखने का निर्णय लिया। वे एक नई विधि प्रस्तावित करते हैं जिसे न्यूरल डायवर्सिटी (Neural Diversity) कहा जाता है, जो कंप्यूटर के मस्तिष्क के लिए एक "डाइवर्सिटी कोच" की तरह काम करती है। मॉडल के आंतरिक मार्गों को एक ही तरह से सोचने के तरीके में सिमटने देने के बजाय, वे इन मार्गों को अलग और स्वतंत्र रहने के लिए मजबूर करते हैं। उन्होंने इसे करने के लिए ND-LoRA नामक एक उपकरण बनाया। इसे एक ही कंप्यूटर मॉडल को एक साथ चार अलग-अलग "टोपियाँ" पहनने देने के रूप में समझें। प्रत्येक टोपी एक ही वाक्य को प्रोसेस करने के थोड़े अलग तरीके का प्रतिनिधित्व करती है। मॉडल फिर उन चारों टोपियों से प्राप्त उत्तरों को जोड़ता है।
इसके परिणाम काफी उत्साहजनक हैं। इस "चार-टोपी" वाले दृष्टिकोण का उपयोग करके और एक विशेष गणितीय ट्रिक का उपयोग करके ताकि टोपियाँ बहुत समान न हो जाएं, शोधकर्ताओं ने पाया कि वे विशिष्ट परीक्षणों पर बनावटी तथ्यों की संख्या को 25.6% तक कम कर सकते हैं, जिसमें औसतन 14.6% का सुधार हुआ। यह बिना मॉडल को बड़ा बनाए या उसे अधिक डेटा पर प्रशिक्षित किए हुआ। वास्तव में, इसमें केवल थोड़ी सी अधिक कंप्यूटिंग शक्ति खर्च हुई—लगभग 0.008% अधिक प्रशिक्षण समय और चलाने के लिए केवल 1.1 गुना गति।
हालाँकि, इस शोध पत्र ने एक नया मोड़ भी खोजा है: अधिक विविधता हमेशा बेहतर नहीं होती। यह एक गायक मंडली (choir) की तरह है; यदि हर कोई अलग सुर में गाता है, तो यह शोर जैसा लगता है। यदि हर कोई बिल्कुल एक ही सुर में गाता है, तो यह उबाऊ होता है और गलतियों के प्रति संवेदनशील होता है। एक "स्वीट स्पॉट" (सही संतुलन) है जहाँ आवाजें गलतियों को पकड़ने के लिए पर्याप्त अलग हैं लेकिन सच्चाई पर सहमत होने के लिए पर्याप्त समान हैं। शोधकर्ताओं ने पाया कि यह स्वीट स्पॉट इस बात पर निर्भर करता है कि कंप्यूटर क्या कर रहा है। रचनात्मक कहानी कहने या तथ्यों की जांच करने वाले कार्यों के लिए, अधिक "अलग" आवाजों (विशेष रूप से 4 से 8 समानांतर स्ट्रीम) का होना सबसे अच्छा काम करता है। लेकिन स्मृति संबंधी सरल कार्यों के लिए, जैसे कि किसी विशिष्ट नाम को याद रखना, केवल एक आवाज ही सबसे विश्वसनीय थी।
लेखक सावधानी बरतते हुए कहते हैं कि जबकि उनका गणित साबित करता है कि यह काम करना चाहिए और उनके छोटे मॉडल पर उनके प्रयोग दिखाते हैं कि यह काम करता है, यह एक विशिष्ट प्रकार की त्रुटि के लिए एक विशिष्ट समाधान है। उनका तर्क है कि हैलुसिनेशन अक्सर मॉडल के आंतरिक हिस्सों के समान, गलत विचारों के लूप में फंस जाने के कारण होता है, न कि केवल ज्ञान की कमी के कारण। इस लूप को विविधता के साथ तोड़कर, वे मॉडल को विशाल, महंगे सुपरकंप्यूटर की आवश्यकता के बिना अधिक विश्वसनीय बना सकते हैं। यह AI को झूठ बोलने से रोकने का एक चतुर, कम लागत वाला तरीका है, जो यह सिद्ध करता है कि कभी-कभी, बेहतर उत्तर पाने का सबसे अच्छा तरीका एक साथ कई अलग-अलग प्रश्न पूछना होता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।