Intern-S2-Preview: Scientific Agentic Foundation Model
यह शोध पत्र Intern-S2-Preview को प्रस्तुत करता है, जो वैज्ञानिक एजेंटिक फाउंडेशन मॉडलों की एक श्रृंखला है जिसे वैज्ञानिक तर्क, टूल इंटरेक्शन और लॉन्ग-होराइजन कार्यों में अत्याधुनिक प्रदर्शन प्राप्त करने के लिए एक विशेष मल्टीमॉडल प्री-ट्रेनिंग और उन्नत सुदृढीकरण शिक्षण (रीइन्फोर्समेंट लर्निंग) एवं मेमोरी-ऑगमेंटेड आर्किटेक्चर वाली एकीकृत पोस्ट-ट्रेनिंग पाइपलाइन के माध्यम से प्रशिक्षित किया गया है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को वैज्ञानिक बनना सिखाने की कोशिश कर रहे हैं। अतीत में, हम रोबots को टेक्स्ट की बड़ी लाइब्रेरी देते थे और उनसे क्विज़ शो के प्रतियोगी की तरह सवाल पूछते थे। लेकिन वास्तविक विज्ञान एक क्विज़ नहीं है; यह एक अस्त-व्यस्त, लंबी साहसिक यात्रा है। इसमें कोशिकाओं की अजीबोगरीब तस्वीरें देखना, दिल की धड़कन की तरह डगमगाने वाले ग्राफ को पढ़ना, प्रयोग करने के लिए कंप्यूटर टूल्स का उपयोग करना और बिना भटके घंटों तक किसी समस्या पर विचार करना शामिल है। यह पेपर एक नए प्रकार के "सुपर-ब्रेन" के निर्माण के बारे में है जो केवल तथ्यों को याद नहीं करता, बल्कि वास्तव में विज्ञान करता है। इसे जटिल छवियों को समझने, भविष्य के नंबरों की भविष्यवाणी करने और एक जासूस की तरह काम करने के लिए डिज़ाइन किया गया है जो रहस्यों को सुलझाने के लिए उपकरणों का उपयोग कर सकता है। बड़ा विचार यह है कि एक सच्चा वैज्ञानिक सहायक होने के लिए, एक AI को विभिन्न प्रकार की जानकारी (जैसे टेक्स्ट, इमेज और नंबर्स) को संभालने में सक्षम होना चाहिए और एक कठिन समस्या पर बिना हार माने या भ्रमित हुए लगातार काम करना चाहिए।
इस प्रोजेक्ट के पीछे की टीम, जो शंघाई AI प्रयोगशाला से है, AI मॉडल्स का एक नया परिवार पेश करती है जिसे Intern-S2-Preview कहा जाता है। इस मॉडल को एक विशाल, 397-बिलियन-पैरामीटर वाले "जनरलिस्ट" वैज्ञानिक के रूप में समझें जिसने लगभग हर वैज्ञानिक पेपर पढ़ लिया है। लेकिन केवल चीजें जानने के लिए वहां बैठे रहने के बजाय, यह मॉडल कार्य करने के लिए बनाया गया है। यह एक वैज्ञानिक आरेख (डायग्राम) को देख सकता है, उसके पीछे की कहानी समझ सकता है, और फिर परिकल्पना का परीक्षण करने के लिए सिमुलेशन चलाने या कोड लिखने के लिए कंप्यूटर टूल्स का उपयोग कर सकता है।
यहाँ बताया गया है कि उन्होंने इस सुपर-साइंटिस्ट को कैसे बनाया:
सबसे पहले, उन्होंने मॉडल को लाखों वैज्ञानिक दस्तावेज़ दिखाकर सिखाया, लेकिन केवल टेक्स्ट नहीं। उन्होंने उसे वास्तविक पृष्ठ दिखाए, जिसमें सभी चित्र, चार्ट और समीकरण उनके मूल लेआउट में थे। यह ऐसा है जैसे किसी छात्र को केवल टेक्स्ट पढ़कर सुनाने के बजाय उन्हें पूरा पाठ्यपुस्तक हाथ में देकर सिखाना, जिसमें डायग्राम भी शामिल हों। इससे मॉडल यह समझ पाता है कि वैज्ञानिक वास्तव में अपने विचारों को कैसे प्रस्तुत करते हैं।
फिर, उन्होंने मॉडल को एक विशेष "टाइम-ट्रैवल" कौशल दिया। अधिकांश AI मॉडल संख्याओं के अनुक्रम (जैसे मौसम के पैटर्न या स्टॉक की कीमतें) में आगे क्या होगा, इसकी भविष्यवाणी करने में खराब होते हैं। Intern-S2-Preview को इन "टाइम सीरीज़" डेटा को संभालने के लिए एक समर्पित अपग्रेड मिला। अब यह संख्याओं की एक लंबी रेखा को देख सकता है और सटीक रूप से पूर्वानुमान लगा सकता है कि आगे क्या होगा, जो जलवायु परिवर्तन की भविष्यवाणी करने या मस्तिष्क के संकेतों का विश्लेषण करने जैसे कार्यों के लिए अत्यंत महत्वपूर्ण है।
उनका एक बहुत ही शानदार तरीका है जिसे मेमोरी डिकोडर (Memory Decoder) कहा जाता है। कल्पना कीजिए कि मुख्य 397-बिलियन-पैरामीटर वाला मस्तिष्क एक प्रतिभाशाली जनरलिस्ट है जो सब कुछ थोड़ा-थोड़ा जानता है। लेकिन क्या होगा यदि आपको जीव विज्ञान जैसे किसी एक बहुत छोटे क्षेत्र में विशेषज्ञ की आवश्यकता हो? पूरे विशाल मस्तिष्क को फिर से प्रशिक्षित करने के बजाय (जो धीमा होगा और इससे वह अन्य चीजें भूल सकता है), उन्होंने एक छोटा, विशिष्ट "नोटबुक" जोड़ा जिसे मेमोरी डिकोडर कहा जाता है। यह नोटबुक विशिष्ट जीव विज्ञान ज्ञान को धारण करती है। जब AI को जीव विज्ञान के प्रश्न का उत्तर देने की आवश्यकता होती है, तो वह इस नोटबुक का परामर्श लेता है। परिणाम? मॉडल का जीव विज्ञान स्कोर 56.92 से बढ़कर 60.32 हो गया, जबकि उसका सामान्य ज्ञान बिल्कुल वैसा ही रहा। यह एक प्रतिभाशाली मित्र की तरह है जो बिना कोई नई डिग्री लिए, आपके विशिष्ट प्रश्न पूछने पर तुरंत एक विशेष मैनुअल निकाल सकता है।
टीम ने मॉडल को एक लॉन्ग-होरिज़न एजेंट (long-horizon agent) बनने के लिए भी सिखाया। इसका अर्थ है कि AI एक बहु-चरणीय मिशन की योजना बना सकता है। केवल "फ्रांस की राजधानी क्या है?" का उत्तर देने के बजाय, इसे "एक नई दवा डिजाइन करें" कहा जा सकता है। यह निम्न चरणों का पालन कर सकता है: 1) मौजूदा शोध की खोज करना, 2) दवा के व्यवहार का अनुकरण करने के लिए कोड लिखना, 3) सिमुलेशन चलाना, 4) यह महसूस करना कि यह विफल रहा, 5) कोड को समायोजित करना, और 6) फिर से प्रयास करना। पेपर दिखाता है कि "रीइन्फोर्समेंट लर्निंग" नामक एक विशेष प्रशिक्षण पद्धति का उपयोग करके, मॉडल ने बिना अटके या गलतियां किए इन लंबे, जटिल वर्कफ़्लो को संभालना सीख लिया।
जब उन्होंने Intern-S2-Preview-397B का परीक्षण किया, तो इसने अविश्वसनीय प्रदर्शन किया। जीव विज्ञान, रसायन विज्ञान और भौतिकी को समझने की क्षमता मापने वाले परीक्षणों पर, इसने कई अन्य शीर्ष मॉडलों को पीछे छोड़ दिया। यह वैज्ञानिक चार्ट पढ़ने और टाइम-सीरीज़ डेटा की भविष्यवाणी करने में विशेष रूप से अच्छा था, और अक्सर उन मॉडलों से बेहतर प्रदर्शन किया जो बहुत बड़े हैं या केवल उन विशिष्ट कार्यों के लिए बने हैं। उदाहरण के लिए, Biology-Instructions नामक एक टेस्ट पर, इसने 56.92 स्कोर किया, और मेमोरी डिकोडर जोड़ने के साथ, यह सुधरकर 60.32 हो गया। MMLU-Pro जैसे सामान्य तर्क परीक्षणों पर, इसने 89.75 स्कोर किया, जो ओपन-सोर्स मॉडलों में सर्वश्रेष्ठ है।
हालाँकि, लेखक इसे "प्रिव्यू" (Preview) कहने में सावधान हैं। यह एक शक्तिशाली नया उपकरण है, लेकिन यह अभी भी पूर्ण नहीं है। वे नोट करते हैं कि जबकि मॉडल तर्क को क्रिया से जोड़ने में बहुत अच्छा है, बहुत लंबे, जटिल वैज्ञानिक वर्कफ़्लो के लिए इसे और अधिक विश्वसनीय बनाने के लिए अभी भी काम किया जाना बाकी है। वे इस बात पर भी जोर देते हैं कि यह मॉडल एक आधार (foundation) है—एक शुरुआती बिंदु जिसे अलग-अलग वैज्ञानिक क्षेत्रों के लिए विभिन्न "मेमोरी नोटबुक्स" के साथ अनुकूलित किया जा सकता है, बिना पूरे मस्तिष्क को फिर से बनाए।
संक्षेप में, यह पेपर एक नए प्रकार के AI को प्रस्तुत करता है जो केवल प्रश्न पूछने से आगे बढ़कर वैज्ञानिक खोज का वास्तविक कार्य करने के लिए तैयार है, जटिल ग्राफ पढ़ने से लेकर लंबे प्रयोग चलाने तक, और यह सब करते हुए अपने सामान्य ज्ञान को बरकरार रखते हुए और अपने विशिष्ट कौशल को तेज रखते हुए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।