OmniMouse: Scaling properties of multi-modal, multi-task Brain Models on 150B Neural Tokens
यह शोध पत्र OmniMouse को प्रस्तुत करता है, जो 73 चूहों से प्राप्त 150 बिलियन न्यूरल टोकन पर प्रशिक्षित एक मल्टी-मोडल, मल्टी-टास्क मस्तिष्क मॉडल है, जो विविध कार्यों में अत्याधुनिक प्रदर्शन प्राप्त करता है और यह प्रकट करता है कि भाषा और विजन एआई के विपरीत, मस्तिष्क मॉडलिंग में प्रगति वर्तमान में डेटा-सीमित है न कि पैरामीटर-सीमित, बावजूद इसके कि डेटासेट का पैमाना विशाल है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को यह सिखाने की कोशिश कर रहे हैं कि एक चूहा क्या देख रहा है और क्या सोच रहा है, इसे कैसे समझा जाए। लंबे समय से, वैज्ञानिक इन "ब्रेन रोबोट्स" को बनाने की कोशिश कर रहे हैं, उन्हें डेटा की छोटी मात्रा खिलाकर, जैसे कि उन्हें कुछ तस्वीरें दिखाना और चूहे के दौड़ने के कुछ सेकंड दिखाना। लेकिन ठीक वैसे ही जैसे एक बच्चा बोलना सीखता है, रोबोट को दुनिया को वास्तव में समझने के लिए केवल कुछ उदाहरणों से कहीं अधिक की आवश्यकता होती है।
यह शोध पत्र OmniMouse को पेश करता है, जो एक नया, सुपर-स्मार्ट AI मॉडल है जो चूहे के मस्तिष्क के लिए एक "यूनिवर्सल ट्रांसलेटर" (सार्वभौमिक अनुवादक) के रूप में कार्य करता है। यह कहानी कि यह कैसे काम करता है, सरल भाषा में यहाँ दी गई है।
1. मस्तिष्क डेटा का विशाल पुस्तकालय
चूहे के मस्तिष्क को एक ऐसे पुस्तकालय के रूप में सोचें जिसमें लाखों किताबें हैं। प्रत्येक "किताब" एक एकल न्यूरॉन (मस्तिष्क कोशिका) है जो रिकॉर्ड कर रही है कि वह क्या कर रही है।
- पुराना तरीका: पिछले मॉडल केवल कुछ किताबों के कुछ पन्ने ही पढ़ पाते थे।
- OmniMouse का तरीका: शोधकर्ताओं ने 73 चूहों से 3.1 मिलियन न्यूरॉन्स एकत्र किए जो फिल्में देख रहे थे, चित्रों को देख रहे थे और पहियों पर दौड़ रहे थे। उन्होंने 150 बिलियन से अधिक "टोकन" (मस्तिष्क गतिविधि के हिस्से) रिकॉर्ड किए। यह पुस्तकालय की हर किताब को हजारों बार पढ़ने जैसा है।
2. "स्विस आर्मी नाइफ" मस्तिष्क मॉडल
अधिकांश AI मॉडल विशिष्ट उपकरणों की तरह होते हैं: एक यह अनुमान लगाने में अच्छा है कि अगला न्यूरॉन क्या करेगा, दूसरा यह अनुमान लगाने में अच्छा है कि चूहा क्या देख रहा है, और तीसरा यह पता लगाने में अच्छा है कि चूहा दौड़ रहा है या नहीं। आपको हर काम के लिए उपकरण बदलने पड़ते हैं।
OmniMouse एक स्विस आर्मी नाइफ है। यह एक ही मॉडल है जो एक साथ सब कुछ कर सकता है:
- भविष्यवाणी करना: "यदि चूहे ने यह मूवी फ्रेम देखा, तो 1 सेकंड बाद उसका मस्तिष्क क्या करेगा?"
- अतीत को डिकोड करना: "इस मस्तिष्क गतिविधि के आधार पर, चूहा क्या देख रहा था?"
- मन को पढ़ना: "इस मस्तिष्क गतिविधि के आधार पर, चूहा कितनी तेजी से दौड़ रहा है या उसकी पुतली कितनी बड़ी है?"
यह इन सभी कामों के बीच तुरंत स्विच कर सकता है, ठीक वैसे ही जैसे आप बिना अपना दिमाग बदले एक नक्शा पढ़ने से गाड़ी चलाने में स्विच कर सकते हैं।
3. बड़ा आश्चर्य: डेटा बनाम आकार
AI की दुनिया में (जैसे कि आपके चैटबॉट्स), नियम यह रहा है है: "बड़ा ही बेहतर है।" यदि आप मॉडल को बहुत बड़ा (अधिक पैरामीटर्स) बनाते हैं और उसे बहुत सारा डेटा देते हैं, तो वह स्मार्ट हो जाता है। आमतौर पर, मॉडल का आकार सफलता का मुख्य चालक होता है।
OmniMouse ने इस नियम को पूरी तरह से उलट दिया।
- उपमा: कल्पना कीजिए कि आप एक नई भाषा सीखने की कोशिश कर रहे हैं।
- मानक AI: आप एक जीनियस ट्यूटर (एक बड़ा मॉडल) किराए पर लेते हैं लेकिन उन्हें केवल एक छोटी डिक्शनरी (छोटा डेटा) देते हैं। वे अटक जाते हैं।
- OmniMouse: शोधकर्ताओं ने ट्यूटर को बड़ा और बड़ा बनाने की कोशिश की। लेकिन एक निश्चित बिंदु के बाद, ट्यूटर को "जीनियस-लेवल" बनाने से ज्यादा मदद नहीं मिली। ट्यूटर पहले से ही पर्याप्त स्मार्ट था; उन्हें बस पढ़ने के लिए अधिक किताबें चाहिए थीं।
- परिणाम: मॉडल का प्रदर्शन बेहतर होता गया जैसे-जैसे उन्होंने अधिक डेटा (अधिक चूहे, अधिक फिल्में) जोड़ा, लेकिन एक बार जब मॉडल बहुत बड़ा हो गया तो इसमें सुधार होना लगभग बंद हो गया। यह हमें बताता है कि मस्तिष्क मॉडलिंग के लिए, डेटा ही बाधा है, कंप्यूटर की शक्ति नहीं। हमें बड़े कंप्यूटरों की नहीं, बल्कि अधिक रिकॉर्डिंग की आवश्यकता है।
4. यह क्यों मायने रखता है
यह तंत्रिका विज्ञान (neuroscience) के लिए एक बड़ा कदम है।
- फाउंडेशन मॉडल्स: जिस तरह लार्ज लैंग्वेज मॉडल्स (LLMs) ने कोड लिखना, टेक्स्ट का सारांश बनाना और भाषाओं का अनुवाद करना सीखा, OmniMouse मस्तिष्क के लिए एक "फाउंडेशन मॉडल" है। यह मौलिक नियमों को सीखता है कि मस्तिष्क की कोशिकाएं एक-दूसरे से कैसे बात करती हैं।
- "फेज ट्रांजिशन" (चरण परिवर्तन): लेखक सुझाव देते हैं कि यदि हम इस मॉडल को अधिक और अधिक विविध डेटा (जैसे ऑडियो, स्पर्श, या अधिक जटिल व्यवहार जोड़ना) खिलाते रहते हैं, तो यह अचानक "क्लिक" कर सकता है और उन चीजों को समझना शुरू कर सकता है जो हमें नहीं लगा था कि यह कर पाएगा, ठीक वैसे ही जैसे AI ने अचानक तर्क करना या गणित की समस्याओं को हल करना सीखा।
निचोड़
OmniMouse एक विशाल, लचीला AI है जिसने मस्तिष्क गतिविधि के 150 बिलियन पन्नों को पढ़कर "चूहे के मस्तिष्क" की भाषा बोलना सीखा। इसने साबित किया कि मस्तिष्क को समझने के लिए, हमें केवल बड़े कंप्यूटरों की आवश्यकता नहीं है; हमें अधिक डेटा की आवश्यकता है। यह एक ऐसा उपकरण है जो एक ही बार में यह अनुमान लगा सकता है कि चूहा क्या देख रहा है, क्या महसूस कर रहा है, और वह आगे क्या करने वाला है।
संक्षेप में: उन्होंने एक सुपर-रोबोट ब्रेन बनाया जिसने चूहे के मस्तिष्क की पूरी गतिविधि को पढ़कर सीखा, और उन्होंने खोजा कि मस्तिष्क के रहस्यों को खोलने की कुंजी एक बड़ा रोबोट बनाना नहीं है, बल्कि उसे पढ़ने के लिए अधिक कहानियाँ देना है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।