Game Theory Driven Multi-Agent Framework Mitigates Language Model Hallucination
यह शोध पत्र G-Frame को प्रस्तुत करता है, जो एक गेम थ्योरी-संचालित मल्टी-एजेंट फ्रेमवर्क है जो विशेष प्रशिक्षण डेटा को संश्लेषित करके OmniChem बनाता है, जो एक 7B लैंग्वेज मॉडल है और वैज्ञानिक डोमेन में GPT-4o mini-स्तर का प्रदर्शन प्राप्त करते हुए संरचित, स्वयंसिद्ध तर्क (axiomatic reasoning) के माध्यम से मतिभ्रम (hallucinations) को काफी कम करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक सुपर-स्मार्ट, सुपर-फास्ट रोबोट असिस्टेंट है जो लाखों किताबें पढ़ सकता है और सेकंडों में कहानियाँ लिख सकता है। लेकिन इसमें एक पेंच है: यह रोबोट थोड़ा ख्याली पुलाव पकाने वाला (डेयरड्रिमर) है। जब आप इससे कोई कठिन विज्ञान संबंधी प्रश्न पूछते हैं, तो यह अक्सर ऐसे तथ्य बना देता है जो सुनने में तो बिल्कुल सही लगते हैं, लेकिन वास्तव में पूरी तरह से गलत होते हैं। इसे "हैलुसिनेशन" (hallucination) कहा जाता है, और यदि आप नई दवाइयाँ या सामग्रियाँ डिजाइन करने की कोशिश कर रहे हैं, तो यह एक बहुत बड़ी समस्या है।
आप जो शोध पत्र पढ़ रहे हैं, वह इस "ख्याली पुलाव पकाने" वाली समस्या को ठीक करने के लिए G-Frame नामक एक चतुर नया सिस्टम पेश करता है। G-Frame को एक अकेले रोबोट के रूप में नहीं, बल्कि एक विशेषज्ञ एजेंटों की टीम के रूप में समझें जो एक हाई-स्टेक्स गेम शो पैनल की तरह मिलकर काम करते हैं।
समस्या: ख्याली पुलाव पकाने वाला रोबोट
मानक AI मॉडल उन छात्रों की तरह हैं जो वाक्य कैसे दिखते हैं इसे याद रखने में तो माहिर हैं, लेकिन तर्क या भौतिकी के सख्त नियमों को समझने में बहुत खराब हैं। यदि आप एक हल्के (छोटे, तेज़) AI मॉडल को एक रासायनिक प्रतिक्रिया (chemical reaction) डिजाइन करने के लिए कहते हैं, तो वह एक ऐसा अणु (molecule) बना सकता है जो दिखने में तो असली लगता है लेकिन वास्तव में अस्तित्व में नहीं हो सकता। शोध पत्र का तर्क है कि केवल AI को बड़ा बनाना या उसे अधिक डेटा देना ही पूरा समाधान नहीं है; AI को केवल अगला शब्द क्या होगा इसका अनुमान लगाने के बजाय "खेल के नियमों" (axiomatic reasoning) का पालन करना सीखना चाहिए।
समाधान: गेम-प्लेइंग टीम
शोधकर्ताओं ने G-Frame बनाया, जो दो मुख्य गेम रणनीतियों का उपयोग करता है ताकि AI को ख्याली पुलाव पकाने से रोककर तार्किक रूप से सोचने के लिए मजबूर किया जा सके:
टीम गेम (द "ब्रेक-इट-डाउन" रणनीति):
कल्पना कीजिए कि एक जटिल रसायन विज्ञान की समस्या एक विशाल, डरावने पहाड़ की तरह है। एक अकेला रोबोट जो अकेले उस पहाड़ पर चढ़ने की कोशिश कर रहा है, वह रास्ता भटक सकता है और फिसल सकता है। G-Frame उस पहाड़ को छोटे, प्रबंधनीय चरणों में तोड़ देता है। यह अलग-अलग "एजेंटों" (छोटे रोबोट सहायक) को कार्य के विशिष्ट हिस्सों को संभालने के लिए सौंपता है। एक एजेंट डेटा को साफ करता है, दूसरा तर्क की जांच करता है, और तीसरा एक सख्त सुपरवाइजर के रूप में कार्य करता है। वे काम को एक लाइन में आगे बढ़ाते हैं, एक-दूसरे के होमवर्क की जांच करते हैं। यह AI को अभिभूत होने और चुप्पी भरने के लिए तथ्य बनाने से रोकता है।बेयसियन गेम (द "स्मार्ट गैम्बलर" रणनीति):
यह हिस्सा एक पोकर खिलाड़ी की तरह है जो नए कार्ड मिलने पर लगातार अपनी रणनीति को अपडेट करता है। सिस्टम केवल अनुमान नहीं लगाता; यह एक "प्रायर" (prior) अनुमान लगाता है (जो वह जानता है उसके आधार पर सबसे अच्छा अनुमान), फिर परिणामों की जांच करता है। यदि परिणाम अजीब दिखते हैं, तो यह अपने "विश्वास" को अपडेट करता है और फिर से प्रयास करता है। यह इस लूप को तब तक जारी रखता है, अपने निर्णयों को परिष्कृत करता है, जब तक कि इसे सबसे तार्किक उत्तर न मिल जाए जो रसायन विज्ञान के सख्त नियमों के अनुकूल हो।
परिणाम: मिलिए OmniChem से
इस गेम-प्लेइंग फ्रेमवर्क का उपयोग करके, टीम ने OmniChem नामक एक नया 7-बिलियन पैरामीटर वाला AI मॉडल प्रशिक्षित किया। उन्होंने इसे केवल रैंडम किताबें नहीं खिलाईं; उन्होंने विशेष रूप से रसायन विज्ञान के लिए 363,045 चेन्स-ऑफ-थॉट (चरण-दर-चरण तर्क मार्गदर्शिकाएँ) और 199,589 प्रश्न-उत्तर जोड़े की एक विशाल लाइब्रेरी का उपयोग किया।
परिणाम प्रभावशाली हैं:
- प्रदर्शन: OmniChem ने कस्टम केमिस्ट्री टेस्ट और ChemBench बेंचमार्क पर प्रसिद्ध GPT-4o mini के समान प्रदर्शन किया।
- कम हैलुसिनेशन: अपने बेस वर्जन की तुलना में, OmniChem ने अपने "ख्याली पुलाव पकाने" (हैलुसिनेशन) को भारी 79.46% तक कम कर दिया।
- वास्तविक दुनिया के कौशल: मॉडल केवल टेस्ट में ही अच्छा नहीं था। इसने सफलतापूर्वक गहरे लाल रंग के प्रकाश को सोखने वाले एक नए अणु को डिजाइन किया (जो बायो-इमेजिंग के लिए उपयोगी है), यह पता लगाया कि कैसे केवल दो चरणों में एक सामान्य एनेस्थेटिक (जैसे लिडोकेन) बनाया जा सकता है, और यहाँ तक कि गहरे नीले रंग की सामग्रियाँ बनाने पर एक विस्तृत शोध रिपोर्ट भी लिखी, जिसने Gemini और GPT-o3 जैसे टॉप-टियर AI मॉडल्स द्वारा लिखी गई रिपोर्टों की गुणवत्ता का 90% स्कोर प्राप्त किया।
इसका क्या अर्थ है
शोध पत्र सुझाव देता है कि AI प्रशिक्षण को सख्त नियमों और टीम वर्क वाले एक संरचित खेल की तरह मानकर, हम छोटे, तेज़ मॉडलों को विश्वसनीय वैज्ञानिक बनने की शिक्षा दे सकते हैं। उन्हें महान काम करने के लिए विशाल, महंगे सुपरकंप्यूटर की आवश्यकता नहीं है; उन्हें बस सही "गेम प्लान" की आवश्यकता है।
शोधकर्ताओं ने अपना कोड और डेटा भी साझा किया है ताकि अन्य लोग अपने स्वयं के वैज्ञानिक क्षेत्रों के लिए इस "टीम-गेम" दृष्टिकोण को आज़मा सकें। यह AI को केवल एक रचनात्मक कहानीकार के बजाय एक भरोसेमंद साथी बनाने के लिए एक आशाजनक नया तरीका है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।