A Multimodal Framework Using Red Teaming Prompt Engineering and Retrieval Augmented Generation to Mitigate Large Language Model Hallucinations
यह शोध पत्र एक सुदृढ़ CNN-आधारित मल्टीमॉडल ढांचे का प्रस्ताव करता है जो टेक्स्ट, ऑडियो और इमेज मोडैलिटीज में लार्ज लैंग्वेज मॉडल के मतिभ्रम (hallucinations) को प्रभावी ढंग से कम करने के लिए रेड टीमिंग, प्रॉम्प्ट इंजीनियरिंग और रिट्रीवल-ऑगमेंटेड जनरेशन को एकीकृत करता है, जिससे विविध कार्यों पर उच्च प्रदर्शन मेट्रिक्स प्राप्त होता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की तेजी से विकसित होती दुनिया में, 'लार्ज लैंग्वेज मॉडल' के रूप में ज्ञात एक विशिष्ट प्रकार के कंप्यूटर प्रोग्राम ने मानव भाषा को समझने और उत्पन्न करने के लिए एक शक्तिशाली उपकरण के रूप में उभर कर दिखाया है। ये प्रणालियाँ कहानियाँ लिख सकती हैं, जटिल प्रश्नों के उत्तर दे सकती हैं, और उल्लेखनीय प्रवाह के साथ भाषाओं के बीच अनुवाद कर सकती हैं। हालाँकि, वे एक निरंतर दोष से ग्रस्त हैं: वे कभी-कभी आत्मविश्वास के साथ ऐसी बातें कह जाती हैं जो वास्तव में सत्य नहीं होतीं। शोधकर्ता इन त्रुटियों को "हैलुसिनेशन" (hallucinations) कहते हैं। एक जानकार लाइब्रेरियन की कल्पना करें जो, किसी विशिष्ट तथ्य के लिए पूछे जाने पर, अनुरोध को पूरा करने के लिए एक विश्वसनीय लगने वाला लेकिन पूरी तरह से काल्पनिक पुस्तक शीर्षक गढ़ देता है। स्वास्थ्य सेवा या साइबर सुरक्षा जैसे महत्वपूर्ण क्षेत्रों में, जहाँ सटीकता सुरक्षा और विश्वास का मामला है, ऐसे मनगढ़ंत तथ्य अस्वीकार्य हैं। वैज्ञानिकों के लिए चुनौती केवल इन मॉडलों को अधिक स्मार्ट बनाने की नहीं है, बल्कि उन्हें ईमानदार बनाने की भी है, यह सुनिश्चित करते हुए कि उनके आउटपुट पैटर्न और अनुमानों के मिश्रण से उत्पन्न होने के बजाय वास्तविकता पर आधारित हों।
शोधकर्ताओं की एक टीम ने एक ऐसा सिस्टम बनाकर इस समस्या से निपटने का एक नया तरीका प्रस्तावित किया है जो कई अलग-अलग तकनीकों को एक एकल, सुसंगत ढांचे (framework) में जोड़ता है। उनका दृष्टिकोण, जिसे वे 'मल्टीमोडनेट' (MultiModNet) कहते हैं, किसी एक तरकीब पर निर्भर नहीं है, बल्कि आर्टिफिशियल इंटेलिजेंस को सही रास्ते पर रखने के लिए तीन अलग-अलग रणनीतियों को आपस में बुनता है। सबसे पहले, वे "रेड टीमिंग" (Red Teaming) नामक एक विधि का उपयोग करते हैं, जो अनिवार्य रूप से एक कठोर स्ट्रेस टेस्ट है। इस प्रक्रिया में, सिस्टम को जानबूझकर कठिन या भ्रामक इनपुट दिए जाते हैं जो इसे भ्रमित करने के लिए डिज़ाइन किए गए हैं, ठीक वैसे ही जैसे एक सुरक्षा गार्ड किसी इमारत की सुरक्षा की जांच करने के लिए उसमें घुसने की कोशिश करता है। इस दबाव के तहत मॉडल कहाँ विफल होता है, इसकी सटीक पहचान करके, शोधकर्ता उन कमजोरियों को ठीक कर सकते हैं इससे पहले कि सिस्टम का वास्तविक दुनिया में उपयोग किया जाए।
दूसकी, टीम "प्रॉम्ट इंजीनियरिंग" (prompt engineering) नामक एक तकनीक का उपयोग करती है। इसमें मॉडल को दिए जाने वाले निर्देशों को सावधानीपूर्वक तैयार करना शामिल है ताकि यह सुनिश्चित हो सके कि वह संदर्भ और कार्य के विशिष्ट नियमों को समझता है। एक अस्पष्ट प्रश्न पूछने के बजाय, सिस्टम को सटीक भाषा के साथ निर्देशित किया जाता है जो उसे तथ्यात्मक प्रतिक्रियाओं की ओर ले जाता है और रचनात्मक कल्पना से दूर रखता है। तीसरा, और शायद सबसे महत्वपूर्ण, यह ढांचा मॉडल को सत्यापित जानकारी की एक बाहरी लाइब्रेरी से जोड़ता है। "रिट्रीवल-ऑगमेंटेड जनरेशन" (Retrieval-Augmented Generation) कहा जाने वाला यह घटक सिस्टम को उत्तर तैयार करते समय वास्तविक समय में तथ्यों की खोज करने की अनुमति देता है। केवल अपनी आंतरिक स्मृति पर निर्भर रहने के बजाय, जो पुरानी या अधूरी हो सकती है, मॉडल अपने कथनों का समर्थन करने के लिए वर्तमान, सटीक डेटा प्राप्त करता है, जिससे कुछ भी मनगढ़ंत बनाने की संभावना काफी कम हो जाती है।
वास्तविक दुनिया की जटिलता को संभालने के लिए, जहाँ सूचना कई रूपों में आती है, शोधकर्ताओं ने अपने सिस्टम को टेक्स्ट, ऑडियो और इमेज को एक साथ प्रोसेस करने के लिए बनाया है। उन्होंने एक प्रकार की कंप्यूटर विजन तकनीक का उपयोग किया, जिसे मूल रूप से चित्रों में पैटर्न पहचानने के लिए डिज़ाइन किया गया था, ताकि मॉडल इन विभिन्न प्रकार के डेटा को समझने और संरेखित करने में मदद मिल सके। उदाहरण के लिए, सिस्टम एक मेडिकल इमेज देख सकता है, लक्षणों के विवरण को सुन सकता है, और रोगी के इतिहास को पढ़ सकता है, और इन सभी सुरागों को मिलाकर एक सुसंगत और सटीक चित्र बना सकता है। विविध इनपुट को संश्लेषित करने की यह क्षमता महत्वपूर्ण है, क्योंकि हॉलुसिनेशन अक्सर तब होते हैं जब कोई मॉडल असंबंधित सूचनाओं के बीच संबंध का अनुमान लगाने की कोशिश करता है।
शोधकर्ताओं ने अपने नए ढांचे का परीक्षण डेटा के एक कस्टम-मेड संग्रह का उपयोग करके किया जिसमें बीस अलग-अलग प्रविष्टियाँ शामिल थीं, जिनमें टेक्स्ट, ध्वनि और चित्र का संयोजन था। परिणामों ने दिखाया कि सिस्टम प्रभावी ढंग से सीखने में सक्षम था, और पचास राउंड के प्रशिक्षण के बाद उसने 75% मामलों में सही उत्तर की पहचान करने की सटीकता हासिल की। मेडिकल इमेजिंग से संबंधित विशिष्ट परीक्षणों में, सिस्टम ने विभिन्न स्थितियों के बीच अंतर करने की उच्च क्षमता प्रदर्शित की, और अनुवाद कार्यों में, इसने 0.94 का BLEU स्कोर प्राप्त किया, जो मजबूत अनुवाद गुणवत्ता को दर्शाता है। अध्ययन में यह भी पाया गया कि सिस्टम पिछले तरीकों की तुलना में प्रशिक्षित होने में तेज़ था, जिसने पुराने सिस्टमों के बारह सेकंड से अधिक के मुकाबले प्रति प्रशिक्षण चक्र दस सेकंड से भी कम समय लिया।
इन आशाजनक परिणामों के बावजूद, लेखक यह नोट करने में सावधानी बरतते हैं कि यह कार्य अभी अंतिम समाधान नहीं है। जब सिस्टम को बहुत अव्यवस्थित डेटा प्राप्त होता है या जब इसे दिए जाने वाले उदाहरण अत्यधिक असंतुलित होते हैं, जैसे कि एक प्रकार की समस्या के बहुत अधिक उदाहरण होना, तो इसे संघर्ष करना पड़ता है। शोधकर्ता स्वीकार करते हैं कि उनका डेटासेट सिंथेटिक (synthetic) था, जिसका अर्थ है कि इसे वास्तविक दुनिया से एकत्र करने के बजाय विशेष रूप से इस परीक्षण के लिए बनाया गया था, और भविष्य के कार्यों में सिस्टम को बड़े, अधिक विविध और अधिक जटिल वास्तविक दुनिया के डेटा को संभालने के लिए विस्तारित करने की आवश्यकता होगी। वे यह भी सुझाव देते हैं कि नए प्रकार के कंप्यूटर आर्किटेक्चर जोड़ने से सिस्टम द्वारा लंबे और जटिल संदर्भों को समझने की क्षमता में और सुधार हो सकता है।
अंततः, यह शोध आर्टिफिशियल इंटेलिजेंस को अधिक विश्वसनीय बनाने के लिए एक व्यावहारिक ब्लूप्रिंट प्रदान करता है। एडवर्सरियल टेस्टिंग, सटीक निर्देश और वास्तविक समय में तथ्य-जांच को जोड़कर, यह ढांचा इन शक्तिशाली उपकरणों को वास्तविकता में स्थापित करने का एक तरीका प्रदान करता है। हालांकि यह सिस्टम पूर्ण नहीं है और इसे अभी भी सुधार की आवश्यकता है, फिर भी यह यह सुनिश्चित करने की दिशा में एक महत्वपूर्ण कदम है कि जब ये मॉडल बोलें, तो वे सच बोल रहे हों। यह कार्य सुझाव देता है कि सही सुरक्षा उपायों के साथ, आर्टिफिशियल इंटेलिजेंस की क्षमता को बिना इस जोखिम के अनलॉक किया जा सकता है कि यह हमें आत्मविश्वासपूर्ण झूठ के साथ गुमराह कर दे।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।