Mixture-of-Expert Blocks Contain Strong Hallucination Detection Signals
यह शोध पत्र InnerExpert को प्रस्तुत करता है, जो एक नवीन प्रति-टोकन (per-token) मतिभ्रम (hallucination) पहचान पद्धति है जो केवल एक सिंगल फॉरवर्ड पास की आवश्यकता के साथ मल्टीपल डेटासेट्स पर बेहतर प्रदर्शन प्राप्त करने के लिए Mixture-of-Experts (MoE) आर्किटेक्चर से प्राप्त अद्वितीय आंतरिक संकेतों—जैसे कि राउटर एंट्रॉपी और एक्सपर्ट डिसअग्रीमेंट—का लाभ उठाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
लार्ज लैंग्वेज मॉडल्स (LLMs) कृत्रिम बुद्धिमत्ता की एक नई पीढ़ी के इंजन हैं, जो निबंध लिखने, समस्याओं को हल करने और ऐसी बातचीत करने में सक्षम हैं जो उल्लेखनीय रूप से मानवीय लगती है। फिर भी, इस प्रवाह के नीचे एक निरंतर दोष छिपा है: ये मशीनें कभी-कभी पूर्ण आत्मविश्वास के साथ तथ्य गढ़ लेती हैं। यह घटना, जिसे 'हैलुसिनेशन' (hallucination) कहा जाता है, तब होती है जब एक मॉडल ऐसी सामग्री बनाता है जो सुनने में तो तर्कसंगत लगती है लेकिन पूरी तरह से गलत होती है। हालांकि ये त्रुटियां अनौपचारिक बातचीत में अक्सर हानिरहित होती हैं, लेकिन जब मॉडल का उपयोग चिकित्सा सलाह, कानूनी शोध या समाचार रिपोर्टिंग के लिए किया जाता है, तो वे खतरनाक हो जाती हैं। वैज्ञानिकों के लिए मुख्य चुनौती केवल इन झूठों को बाद में पकड़ना नहीं है, बल्कि उन्हें उसी क्षण पकड़ना है जब वे होते हैं, आदर्श रूप से उस सटीक शब्द की पहचान करना जहाँ सत्य का धागा टूटना शुरू होता है।
वर्षों से, शोधकर्ता मॉडल को अपना उत्तर कई बार दोहराने के लिए कहकर या यह जाँचकर कि कहानी के विभिन्न संस्करण एक-दूसरे से सहमत हैं या नहीं, इसे हल करने का प्रयास कर रहे हैं। ये तरीके काम तो करते हैं, लेकिन वे धीमे और महंगे हैं, क्योंकि इनमें कंप्यूटर को एक अकेली गलती खोजने के लिए एक ही काम को कई बार करना पड़ता है। एक नया दृष्टिकोण मॉडल के सोचने के दौरान उसके अपने मस्तिष्क के भीतर झांकता है, जो उसकी आंतरिक गणनाओं में अनिश्चितता के सूक्ष्म संकेतों की तलाश करता है। हालांकि, इनमें से अधिकांश आंतरिक जाँच मानक मॉडलों तक ही सीमित हैं। एक अलग, अधिक शक्तिशाली आर्किटेक्चर, जिसे 'मिक्सचर-ऑफ-एक्सपर्ट्स' (Mixture-of-Experts) कहा जाता है, हाल ही में लोकप्रिय हुआ है क्योंकि यह तेज़ और अधिक कुशल है। यह डिज़ाइन विशेषज्ञों की एक टीम की तरह काम करता है, जहाँ एक केंद्रीय प्रबंधक यह तय करता है कि उत्पन्न होने वाले प्रत्येक शब्द के लिए किस विशिष्ट विशेषज्ञ को बुलाया जाए। अब तक, इस टीम डायनामिक्स से मिलने वाले संकेतों को झूठ पकड़ने के उद्देश्य से काफी हद तक अनदेखा किया गया था।
एक नए अध्ययन में, पुर्तगाल के शोधकर्ताओं ने 'इनरएक्सपर्ट' (InnerExpert) नामक एक विधि विकसित की है जो अंततः इन आंतरिक टीम संकेतों को काम में लगाती है। मॉडल को खुद को दोहराने के लिए कहने या वाक्य के अंत तक त्रुटियों की जाँच करने के बजाय, इनरएक्सपर्ट वास्तविक समय में मॉडल की आंतरिक रूटिंग प्रक्रिया पर नज़र रखता है। जैसे-जैसे मॉडल एक प्रतिक्रिया उत्पन्न करता है, एक छोटा राउटर यह तय करता है कि वर्तमान शब्द को संभालने के लिए कौन सा "विशेषज्ञ" नेटवर्क होना चाहिए। शोधकर्ताओं ने पाया कि जब मॉडल भ्रमित होने वाला होता है, तो यह राउटर उलझन के संकेत दिखाता है। विशेषज्ञ एक-दूसरे से असहमत हो सकते हैं, या राउटर को यह तय करने में संघर्ष करना पड़ सकता है कि कौन सा विशेषज्ञ कार्य के लिए सबसे उपयुक्त है। इन हिचकिचाहट और असहमति के क्षणों को, मॉडल के ध्यान केंद्रित करने के मानक संकेतों के साथ ट्रैक करके, इनरएक्सपर्ट हर एक शब्द के निर्माण के साथ उसका एक कॉन्फिडेंस स्कोर (विश्वास स्कोर) निर्धारित कर सकता है।
टीम ने एक चतुर, स्वचालित दृष्टिकोण का उपयोग करके अपने सिस्टम को प्रशिक्षित किया। उन्होंने मॉडल को हजारों प्रश्न दिए और एक अलग, अत्यधिक सक्षम कृत्रिम बुद्धिमत्ता को यह लेबल करने के लिए इस्तेमाल किया कि कौन से उत्तर सत्य थे और कौन से मनगढ़ंत। इसने उन्हें इनरएक्सपर्ट को उन विशिष्ट पैटर्न को पहचानने के लिए सिखाने की अनुमति दी जो हैलुसिनेशन से पहले उत्पन्न होते हैं, बिना किसी मनुष्य द्वारा डेटा को मैन्युअल रूप से पढ़ने और सुधारने की आवश्यकता के। एक बार प्रशिक्षित होने के बाद, यह सिस्टम एक हल्के डिटेक्टर के रूप में कार्य करता है जो मुख्य मॉडल के साथ चलता है, जिसे परिणाम उत्पन्न करने के लिए डेटा के केवल एक ही पास (pass) की आवश्यकता होती है। इसे मॉडल को धीमा करने या अतिरिक्त टेक्स्ट उत्पन्न करने के लिए कहने की आवश्यकता नहीं होती है।
पाँच अलग-अलग डेटासेट और दो अलग-अलग प्रकार के बड़े मॉडलों पर परीक्षण करने पर, इनरएक्सपर्ट उल्लेखनीय रूप से प्रभावी साबित हुआ। इसने वाक्य स्तर पर 0.91 और व्यक्तिगत शब्द स्तर पर 0.76 के सटीकता स्कोर के साथ हैलुसिनेटेड उत्तरों की सफलतापूर्वक पहचान की। ये संख्याएँ मौजूदा तरीकों की तुलना में एक महत्वपूर्ण सुधार का प्रतिनिधित्व करती हैं, जो अक्सर यह सटीक रूप से पहचानने में संघर्ष करते हैं कि झूठ कहाँ से शुरू होता है। यह प्रणाली अच्छी तरह से सामान्यीकरण (generalize) करने में सक्षम थी, और उन घटनाओं के बारे में प्रश्नों पर भी मजबूती से प्रदर्शन किया जो मॉडल के मूल प्रशिक्षण के बाद हुई थीं, जो कि एक सामान्य परिदृश्य है जहाँ हैलुसिनेशन सबसे अधिक होता है। महत्वपूर्ण रूप से, इसने बहुत कम कम्प्यूटेशनल लागत जोड़ते हुए इस उच्च स्तर का पता लगाया, जिससे यह वास्तविक दुनिया के उपयोग के लिए व्यावहारिक बन गया।
अध्ययन ने यह भी खुलासा किया कि मॉडल के आंतरिक टीम से कोई भी एकल संकेत अकेले सभी झूठ को पकड़ने के लिए पर्याप्त नहीं था। कुछ संकेत एक प्रकार के मॉडल पर त्रुटियों का पता लगाने में बेहतर थे, जबकि अन्य दूसरे प्रकार के मॉडल पर बेहतर काम करते थे। इनरएक्सपर्ट की वास्तविक शक्ति इन सभी विभिन्न संकेतों—राउटर की उलझन, विशेषज्ञों की असहमति और उपयोग के पैटर्न—को एक एकल, एकीकृत स्कोर में संयोजित करने से आई। इस संयोजन ने सिस्टम को किसी भी एकल मीट्रिक की तुलना में अधिक स्पष्ट चित्र देखने की अनुमति दी कि मॉडल का आत्मविश्वास कितना है। शोधकर्ताओं ने प्रदर्शित किया कि मॉडल के विशेषज्ञों की आंतरिक बातचीत को सुनकर, वे अनिश्चितता का पता उस सटीकता के साथ लगा सकते थे जो पहले बिना सिस्टम को धीमा किए असंभव थी।
यह कार्य सुझाव देता है कि अधिक विश्वसनीय कृत्रिम बुद्धिमत्ता का मार्ग केवल बड़े मॉडल या अधिक जटिल सत्यापन प्रणालियाँ बनाने की आवश्यकता नहीं है। इसके बजाय, यह उन संकेतों पर अधिक ध्यान देने में निहित हो सकता है जो मॉडल पहले से ही उत्पन्न कर रहे हैं लेकिन जिन्हें अनदेखा किया जा रहा है। मॉडल के आंतरिक निर्णय लेने की प्रक्रिया में हिचकिचाहट के सूक्ष्म संकेतों को पढ़ना सीखकर, हम ऐसे सिस्टम बना सकते हैं जो जानते हैं कि वे कब अनुमान लगा रहे हैं और कब वे सुनिश्चित हैं। शोधकर्ता नोट करते हैं कि हालांकि उनकी विधि अत्यधिक प्रभावी है, लेकिन यह एक पूर्ण समाधान नहीं है, और भविष्य के कार्यों को यह पता लगाने की आवश्यकता होगी कि ये तकनीकें विभिन्न भाषाओं और अधिक विविध कार्यों में कितनी अच्छी तरह से अनुवादित होती हैं। हालाँकि, फिलहाल के लिए, यह अध्ययन हैलुसिनेशन को उनके घटित होने के क्षण में पकड़ने का एक स्पष्ट और कुशल तरीका प्रदान करता है, जो कृत्रिम बुद्धिमत्ता के आउटपुट को अधिक विश्वसनीय बनाने के लिए एक व्यावहारिक उपकरण पेश करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।