Hallucination as a Feature, not a Defect: Evaluating a multi-agent architecture to transform speculative language-model outputs into testable scientific hypotheses
यह शोध पत्र एक रस्ट-आधारित (Rust-based) मल्टी-एजेंट आर्किटेक्चर प्रस्तावित करता है जो उच्च-एन्ट्रॉपी वाले काल्पनिक सृजन (speculative generation) और निम्न-एन्ट्रॉपी वाले अनुभवजन्य आधार (empirical grounding) के बीच एक तनाव को व्यवस्थित करके एलएलएम (LLM) मतिभ्रम (hallucinations) को एक रचनात्मक विशेषता के रूप में पुनर्गठित करता है, यह प्रदर्शित करते हुए कि ऐसा तंत्र विशेष रूप से तब व्यवहार्य वैज्ञानिक परिकल्पनाएं उत्पन्न करने में उत्कृष्ट है जब उन्हें कठोर भौतिक या संस्थागत बाधाओं को पूरा करना होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की दुनिया में, दो प्रतिस्पर्धी लक्ष्यों के बीच एक निरंतर तनाव बना रहता है: तथ्यों को सही रखना और रचनात्मक रूप से सोचना। मानव भाषा को समझने और उत्पन्न करने के लिए डिज़ाइन किए गए आधुनिक कंप्यूटर प्रोग्रामों को विश्वसनीय होने के लिए प्रशिक्षित किया जाता है। उन्हें मनगढ़ंत बातें बनाने से बचने के लिए सिखाया जाता है, जिसे शोधकर्ता "हैलुसिनेशन" (hallucination) कहते हैं, क्योंकि समाचार, चिकित्सा या कानून के क्षेत्र में, एक मनगढ़ंत तथ्य खतरनाक हो सकता है। फलस्वरूप, इन प्रणालियों को अक्सर जो कुछ भी उन्होंने पहले से सीखा है, उसी तक सख्ती से चिपके रहने के लिए ट्यून किया जाता है, जिससे वे कल्पना से अधिक सुरक्षा और सटीकता को प्राथमिकता देते हैं। हालाँकि, इस सख्ती की एक कीमत भी है। जंगली अंदाज़ों (wild guesses) लगाने की प्रवृत्ति को दबाकर, ये प्रणालियाँ नए तरीकों से दूर के विचारों को जोड़ने की अपनी क्षमता भी खो सकती हैं, जो कि वैज्ञानिक खोज और आविष्कार का मूल आधार है। शोधकर्ताओं के सामने सवाल यह है कि क्या यह "हैलुसिनेशन" पूरी तरह से एक त्रुटि (bug) है जिसे ठीक करने की आवश्यकता है, या यदि यह एक ऐसी विशेषता (feature) हो सकती है जो, यदि उचित रूप से प्रबंधित की जाए, तो नए वैज्ञानिक विचार उत्पन्न करने में मदद कर सके।
स्पेन के एक युवा शोधकर्ता ने इस प्रश्न का पता लगाने के लिए एक डिजिटल प्रणाली विकसित की है जो जंगली अंदाज़ों को एक गलती के रूप में नहीं, बल्कि एक शुरुआती बिंदु के रूप में देखती है। एक एकल कंप्यूटर प्रोग्राम से सीधे समस्या हल करने के लिए कहने के बजाय, शोधकर्ता ने विशेषज्ञ डिजिटल एजेंटों की एक टीम बनाई है जो एक विशिष्ट क्रम में मिलकर काम करती है। यह प्रक्रिया एक एजेंट से शुरू होती है जो एक 'स्वप्नद्रष्टा' (dreamer) के रूप में कार्य करता है, जो यह परवाह किए बिना कि वे सत्य हैं या संभव, विचारों की एक बाढ़ उत्पन्न करता है। इस एजेंट को स्वतंत्र और रचनात्मक होने के लिए प्रोत्साहित किया जाता है, जिससे कई अलग-अलग संभावनाएँ पैदा होती हैं। इन कच्चे विचारों को फिर दूसरे एजेंट, एक 'आलोचक' (critic) को सौंपा जाता है, जिसका काम उन्हें वास्तविक दुनिया के तथ्यों के विरुद्ध जांचना है, जो अक्सर वर्तमान डेटा के लिए इंटरनेट की खोज करता है। तीसरा एजेंट एक 'फ़िल्टर' के रूप में कार्य करता है, जो डुप्लिकेट विचारों को हटाता है और भाषा को परिष्कृत करता है, जबकि एक अंतिम 'मूल्यांकक' (evaluator) यह निर्णय लेता है कि कौन से विचार रखने योग्य हैं। लक्ष्य स्वप्नद्रष्टा की जंगली कल्पना और आलोचक की सख्त वास्तविकता जाँच के बीच एक उत्पादक घर्षण (productive friction) पैदा करना है, जिससे सिस्टम ऐसे परिकल्पनाएं (hypotheses) तैयार करे जो मौलिक भी हों और तथ्यों पर आधारित भी।
शोधकर्ता ने इस बहु-एजेंट टीम का परीक्षण सरल विधियों के विरुद्ध किया, जैसे कि कंप्यूटर से सीधे उत्तर देने या अपने काम की एक बार स्वयं जांच करने के लिए कहना। प्रयोगों का केंद्र दो बहुत अलग समस्याओं पर केंद्रित था: समुद्री जल से नमक हटाने का नया तरीका खोजना और संसद में राजनीतिक गतिरोध को सुलझाना। पहले मामले में, सरल कंप्यूटर ने पानी को हिलाने के लिए शक्तिशाली चुंबकीय क्षेत्रों का उपयोग करने का सुझाव दिया, एक ऐसा विचार जो सुनने में प्रभावशाली लगा लेकिन वास्तव में नमक को अलग करने में विफल रहा। हालाँकि, 'स्वप्नद्रष्टा-आलोचक' टीम ने बर्फ जैसी संरचनाओं का उपयोग करके नमक को फँसाने का एक तरीका प्रस्तावित किया, जो एक भौतिक रूप से व्यवहार्य अवधारणा थी और जिसका परीक्षण किया जा सकता था। राजनीतिक परिदृश्य में, सरल कंप्यूटर ने एक जटिल मतदान प्रणाली का सुझाव दिया जो योग्यता का निर्णय करने के लिए एक अनियंत्रित कंप्यूटर पर निर्भर थी, जो एक कानूनी रूप से कमजोर प्रस्ताव था। इसके विपरीत, टीम के दृष्टिकोण ने एक ऐसी प्रणाली विकसित की जहाँ राजनेता अपने भविष्य के प्रभाव पर दांव लगा सकते थे, एक ऐसा तंत्र जिसने लोकतांत्रिक नियमों का सम्मान किया और मूल समस्या का समाधान भी किया।
परिणाम बताते हैं कि एजेंटों की पूर्ण टीम केवल एक कंप्यूटर की तुलना में बेहतर उत्तर ही नहीं देती; बल्कि यह एक अलग प्रकार का उत्तर देती है। जब सिस्टम को स्वतंत्र रूप से सपने देखने और फिर कठोरता से जांचे जाने की अनुमति दी गई, तो इसने अधिक विविध और वास्तव में नए होने की संभावना वाले विचार उत्पन्न किए, फिर भी वे व्यवहार्य थे। हालाँकि, अध्ययन में यह भी पाया गया कि यह जटिल प्रणाली हमेशा सबसे अच्छा उपकरण नहीं थी। उन समस्याओं के लिए जो तर्क या सामाजिक बहस से अधिक जुड़ी थीं, एक सरल विधि जहाँ कंप्यूटर बस अपने काम की समीक्षा करता था, अक्सर उतनी ही अच्छी थी और बहुत तेज़ भी थी। एजेंटों की पूर्ण टीम ने अपना सबसे बड़ा मूल्य तब दिखाया जब विचारों को सख्त भौतिक या कानूनी सीमाओं, जैसे कि ऊष्मागतिकी (thermodynamics) के नियमों या संवैधानिक नियमों का सामना करना पड़ता था। उन उच्च-दांव वाली स्थितियों में, बाहरी आलोचक के अतिरिक्त दबाव ने चमकदार लेकिन असंभव समाधानों को त्यागने और केवल उन्हीं को रखने में मदद की जो वास्तव में काम कर सकते थे।
यह कार्य यह सिद्ध नहीं करता कि मनगढ़ंत बातें बनाना अपने आप में अच्छा है। शोधकर्ता स्पष्ट हैं कि अनियंत्रित हैलुसिनेशन एक समस्या बनी हुई है जिसे टालने की आवश्यकता है। इसके बजाय, अध्ययन बताता है कि जंगली अटकलों का मूल्य केवल तभी दिखाई देता है जब उन्हें एक ऐसी संरचना के घेरे में रखा जाए जो उन्हें परखने के लिए मजबूर करे। कल्पना करने के कार्य को निर्णय लेने के कार्य से अलग करके, और तथ्यों की जांच करने तथा शोर (noise) को फ़िल्टर करने के लिए विभिन्न उपकरणों का उपयोग करके, कंप्यूटर की कल्पना की अराजक ऊर्जा को संरचित, परीक्षण योग्य वैज्ञानिक परिकल्पनाओं में बदलना संभव है। निष्कर्ष संकेत देते हैं कि रचनात्मक आर्टिफिशियल इंटेलिजेंस का भविष्य मशीनों को अधिक सतर्क बनाने में नहीं, बल्कि ऐसी प्रणालियाँ बनाने में है जो जान सकें कि उन्हें कब उन्मुक्त होने देना है और कब उन्हें वास्तविकता की ज़मीन पर वापस लाना है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।