20/20 Vision Language Models: A Prescription for Better VLMs through Data Curation Alone
यह शोध पत्र यह प्रदर्शित करता है कि आर्किटेक्चरल या ट्रेनिंग रेसिपी में बदलाव किए बिना, केवल कठोर डेटा क्यूरेशन (data curation) के माध्यम से, विविध बेंचमार्क और क्षमताओं में विजन-लैंग्वेज मॉडल के प्रदर्शन को महत्वपूर्ण रूप से बढ़ाया जा सकता है, जो 150 गुना कम ट्रेनिंग कंप्यूट के साथ भी फ्रंटियर सटीकता प्राप्त करता है और साथ ही विश्वसनीयता, सामान्यीकरण (generalization) तथा इन्फरेंस दक्षता में भी सुधार करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बच्चे को अपने आस-पास की दुनिया को पहचानना सिखाने की कोशिश कर रहे हैं। आपके पास दो विकल्प हैं:
- "अधिक ही बेहतर है" वाला दृष्टिकोण: आप उनके सामने किताबों, पत्रिकाओं और रैंडम तस्वीरों का एक विशाल, अस्त-व्यस्त ढेर लगा देते हैं। आप उनसे कहते हैं, "सब कुछ पढ़ो, सब कुछ देखो, और इसे समझो।" इसके लिए बहुत अधिक समय और ऊर्जा (कंप्यूट) की आवश्यकता होती है।
- "क्यूरेटेड" (चयनित) दृष्टिकोण: आप सावधानीपूर्वक बेहतरीन किताबें चुनते हैं, धुंधली तस्वीरों को हटा देते हैं, वर्तनी की गलतियों को ठीक करते हैं, और तस्वीरों को तार्किक श्रेणियों में व्यवस्थित करते हैं। आप उन्हें एक छोटा, साफ-सुथरा ढेर देते हैं।
यह शोध पत्र, जिसका शीर्षक "20/20 विजन लैंग्वेज मॉडल्स" है, यह तर्क देता है कि विकल्प 2 ही असली सफलता का मंत्र है।
DatologyAI के शोधकर्ताओं ने खोजा कि यदि आप एक मानक विजन लैंग्वेज मॉडल (VLM) को लें—जो एक प्रकार का AI है जो छवियों को "देख" सकता है और टेक्स्ट को "पढ़" सकता है—और आप केवल उस डेटा की गुणवत्ता में सुधार करें जिससे वह सीखता है, तो AI नाटकीय रूप से स्मार्ट हो जाता है। उन्होंने AI के मस्तिष्क का आकार, उसका आर्किटेक्चर, या उसके प्रशिक्षण का समय नहीं बदला। उन्होंने बस उसके द्वारा पढ़े जाने वाले "पाठ्यपुस्तक" को साफ किया।
यहाँ उनके निष्कर्षों का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:
1. "क्लीन रूम" प्रभाव (डेटा क्यूरेशन)
प्रशिक्षण डेटा (training data) को एक जिम के रूप में सोचें।
- बेसलाइन (अनक्यूरेटेड): जिम टूटे हुए उपकरणों, कीचड़ भरे फर्श और भ्रमित करने वाले संकेतों से भरा है। AI वहां सीखने की कोशिश करता है, लेकिन वह भ्रमित हो जाता है और अपनी ऊर्जा बर्बाद करता है।
- क्यूरेटेड मॉडल: शोधकर्ताओं ने फर्श साफ किया, उपकरणों को ठीक किया और वजन (weights) को व्यवस्थित किया।
- परिणाम: भले ही AI उसी आकार का है और समान घंटों तक काम करता है, वह बहुत अधिक मजबूत हो जाता है। औसतन, उनके क्यूरेटेड मॉडल ने 20 अलग-अलग परीक्षणों (जैसे वस्तुओं की पहचान करना, छवियों में टेक्स्ट पढ़ना, या गणित की समस्याओं को हल करना) पर अनक्यूरेटेड वर्जन की तुलना में 11.7 अंक अधिक प्राप्त किए।
2. "छोटा लेकिन शक्तिशाली" का आश्चर्य
आमतौर पर, एक स्मार्ट AI पाने के लिए आपको एक बड़े मस्तिष्क (अधिक पैरामीटर्स) या अधिक प्रशिक्षण समय (अधिक कंप्यूट) की आवश्यकता होती है।
- पेपर का दावा: उनका क्यूरेटेड 2-बिलियन-पैरामीटर वाला मॉडल (एक मध्यम आकार का मस्तिष्क) एक बहुत बड़े, भारी प्रशिक्षित प्रतिस्पर्धी (InternVL3.5) को बहुत बड़े अंतर से हरा देता है, और इसके लिए 17 गुना कम कंप्यूटिंग पावर का उपयोग करता है।
- उपमा: यह एक अच्छी तरह से प्रशिक्षित हाई स्कूल छात्र के उस 'लेजी जीनियस' को हराने जैसा है जिसके पास सुपरकंप्यूटर तक पहुंच है लेकिन कोई स्टडी गाइड नहीं है। क्यूरेटेड मॉडल ने उन "फ्रंटियर" मॉडल्स की तुलना में, जो भारी पोस्ट-ट्रेनिंग संशोधनों पर निर्भर करते हैं, 150 गुना कम प्रशिक्षण ऊर्जा का उपयोग करके शीर्ष स्तर का प्रदर्शन हासिल किया।
3. क्लासरूम से परे सामान्यीकरण (OOD Generalization)
AI के साथ एक आम समस्या यह है कि वह टेस्ट के सवालों को रट लेता है लेकिन जब उससे थोड़ा अलग सवाल पूछा जाता है, तो वह विफल हो जाता है।
- पेपर का दावा: भले ही इसे केवल एकल छवियों (single images) पर प्रशिक्षित किया गया था, यह एक साथ कई छवियों को देखने में आश्चर्यजनक रूप से सक्षम हो गया (एक ऐसा कार्य जो इसने प्रशिक्षण के दौरान कभी नहीं देखा था)।
- उपमा: कल्पना कीजिए कि एक छात्र ने केवल जानवरों की एकल तस्वीरों का अध्ययन किया है। जब आप उन्हें एक कुत्ता और एक बिल्ली की फोटो अगल-बगल दिखाते हैं और पूछते हैं, "कौन सा बड़ा है?", तो वे फिर भी सही उत्तर दे सकते हैं। डेटा की सफाई ने AI को दुनिया की अवधारणा (concept) को समझने में मदद की, न कि केवल विशिष्ट तस्वीरों को रटने में।
4. "विश्वसनीय छात्र" (स्थिरता)
जब आप AI को प्रशिक्षित करते हैं, तो कभी-कभी यह भाग्यशाली होता है और कभी-कभी दुर्भाग्यपूर्ण, जो रैंडम शुरुआती बिंदुओं (जिन्हें "सीड्स" कहा जाता है) पर निर्भर करता है।
- पेपर का दावा: क्यूरेटेड मॉडल बहुत अधिक सुसंगत (consistent) थे। यदि आप उन्हें तीन बार प्रशिक्षित करते हैं, तो वे लगभग एक ही स्कोर प्राप्त करते हैं। अनक्यूरेटेड मॉडल बहुत अनिश्चित थे।
- उपमा: अनक्यूरेटेड AI एक ऐसे छात्र की तरह है जिसे एक दिन 'A' ग्रेड मिलता है और अगले दिन मूड के आधार पर 'D' ग्रेड। क्यूरेटेड AI एक ऐसे 'स्ट्रेट-A' छात्र की तरह है जो हर दिन, हर बार सटीक प्रदर्शन करता है।
5. बेहतर शिष्टाचार और कम फालतू बातें (वास्तविक दुनिया का व्यवहार)
शोधकर्ताओं ने केवल टेस्ट स्कोर नहीं देखे; उन्होंने AI से खुले प्रश्न पूछे ताकि यह देखा जा सके कि वह वास्तविक दुनिया में कैसे व्यवहार करता है।
- पेपर का दावा: क्यूरेटेड AI:
- अधिक ईमानदार था: यदि वह कुछ देख नहीं पा रहा था, तो उसने स्वीकार किया। अनक्यूरेटेड AI अक्सर "हैलुसिनेशन" (मनगढ़ंत बातें बनाना) करता था।
- अधिक विशिष्ट था: केवल "यह एक वाहन है" कहने के बजाय, इसने कहा "यह एक नीला थॉमस द टैंक इंजन केक है।"
- अधिक संक्षिप्त था: इसने लंबे पैराग्राफ बोलने के बजाय छोटे और सीधे उत्तर दिए।
- कम इनकार करने वाला था: यह उन हानिरहित प्रश्नों का उत्तर देने के लिए तैयार था जिन्हें अन्य मॉडल विनम्रता से अस्वीकार कर देते थे।
- उपमा: अनक्यूरेटेड AI एक घबराए हुए टूर गाइड की तरह है जो तथ्य गढ़ता है और बहुत ज्यादा बोलता है। क्यूरेटेड AI एक आत्मविश्वासी विशेषज्ञ की तरह है जो आपको केवल वही बताता है जिसकी आपको आवश्यकता है, उससे अधिक नहीं।
6. "कुशल धावक" (इन्फरेंस लागत)
अंत में, पेपर ने यह देखा कि प्रशिक्षित होने के बाद AI का उपयोग करने की लागत कितनी है।
- पेपर का दावा: क्यूरेटेड मॉडल न केवल स्मार्ट हुए; वे अधिक कुशल भी बन गए। वे छोटे उत्तर उत्पन्न करते हैं, जिसका अर्थ है कि उन्हें सर्वर पर चलाना सस्ता है।
- उपमा: अनक्यूरेटेड AI एक स्पोर्ट्स कार की तरह है जो एक गैलन में केवल 5 मील चलती है। क्यूरेटेड AI एक हाइब्रिड की तरह है जो एक गैलन में 15 मील चलती है लेकिन उतनी ही तेज़ चलती है।
निचोड़
पेपर निष्कर्ष निकालता है कि डेटा क्यूरेशन वर्तमान में हमारे पास सबसे शक्तिशाली उपकरण है। आपको आवश्यक रूप से बड़े मस्तिष्क बनाने या सुपर कंप्यूटरों पर लाखों खर्च करने की आवश्यकता नहीं है। यदि आप अपने डेटा को क्यूरेट करने के लिए समय लेते हैं—शोर को हटाकर, त्रुटियों को ठीक करके और जानकारी को व्यवस्थित करके—तो आप एक ऐसा विजन लैंग्वेज मॉडल बना सकते हैं जो वर्तमान के दिग्गज मॉडल्स की तुलना में अधिक स्मार्ट, अधिक विश्वसनीय और चलाने में सस्ता है।
संक्षेप में: यह इस बारे में नहीं है कि आप AI को कितना खिलाते हैं; यह इस बारे में है कि आप उसे क्या खिलाते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।