In-Context Collapse in Vision-Language Models and How to Mitigate it?
यह शोध पत्र प्रकट करता है कि विज़न-लैंग्वेज मॉडल्स में 'मेनी-शॉट इन-कॉन्टेक्स्ट लर्निंग' एक विनाशकारी "इन-कॉन्टेक्स्ट कोलैप्स" को ट्रिगर कर सकती है जहाँ प्रदर्शन (डेमोंस्ट्रेशन) जमा होने के साथ सटीकता तेजी से गिर जाती है, इस विफलता को विज़न-लैंग्वेज इंटीग्रेशन पाथवे में एक विशिष्ट व्यवधान के रूप में पहचानता है, और मजबूत लर्निंग को बहाल करने के लिए 'सर्कए' (CircA) नामक एक हल्का, हस्तांतरणीय हस्तक्षेप प्रस्तावित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
सेटअप: जब अधिक उदाहरण उल्टा पड़ जाते हैं
कल्पना कीजिए कि आप एक सुपर-स्मार्ट रोबोट को एक नया खेल खेलना सिखा रहे हैं। रोबोट के पूरे दिमाग को फिर से लिखने (जो धीमा और जोखिम भरा है) के बजाय, आप उसे अपनी बारी लेने से ठीक पहले खेल खेलने के कुछ उदाहरण दिखाते हैं। इसे इन-कॉन्टेक्स्ट लर्निंग (In-Context Learning) कहा जाता है। यह रोबोट के कान में नियम फुसफुसाने जैसा है जबकि वह खेल रहा हो, इस उम्मीद में कि वह चलते-फिरते पैटर्न को पकड़ लेगा। टेक्स्ट-आधारित AI के लिए, यह बहुत खूबसूरती से काम करता है; आप उसे जितने अधिक उदाहरण देंगे, वह उतना ही बेहतर होता जाएगा।
अब, उसी रोबोट को सीखने के लिए चित्रों का एक ढेर देने की कल्पना करें। आप सोच सकते हैं, "ज्यादा तस्वीरें मतलब ज्यादा सीखना!" लेकिन यहाँ एक मोड़ है: विज़न-लैंग्वेज मॉडल्स (Vision-Language Models) (ऐसे AI जो चित्र देखते हैं और टेक्स्ट पढ़ते हैं) की दुनिया में, बहुत अधिक उदाहरण देने से कभी-कभी रोबोट अचानक सब कुछ भूल सकता है। यह ऐसा है जैसे आपने एक छात्र को सौ गणित के सवाल दिखाए, और स्मार्ट होने के बजाय, उसने आखिरी देखे गए सवाल के आधार पर उत्तर का अनुमान लगाना शुरू कर दिया, वास्तविक प्रश्न को पूरी तरह अनदेखा कर दिया। यह शोध पत्र इस बात की गहराई में जाता है कि ऐसा क्यों होता है, रोबोट के "दिमाग" में ठीक कहाँ गड़बड़ी होती है, और बिना किसी और चीज़ को खराब किए इसे कैसे ठीक किया जाए।
महान "इन-कॉन्टेक्स्ट कोलैप्स" (In-Context Collapse)
लेखक ने एक अजीब सी गड़बड़ी खोजी जिसे वे इन-कॉन्टेक्स्ट कोलैप्स कहते हैं। आमतौर पर, जब आप किसी AI को अधिक उदाहरण दिखाते हैं, तो वह बेहतर होता जाता है। लेकिन कई विज़न-लैंग्वेज मॉडल्स के लिए, अधिक चित्र और लेबल जोड़ने से वे वास्तव में बदतर हो जाते हैं। कुछ मामलों में, उनकी सटीकता इतनी कम हो जाती है कि वे रैंडम अंदाजे लगाने से भी खराब प्रदर्शन करते हैं।
इसे एक छात्र की परीक्षा देने के समान समझें। बिना किसी मदद के, छात्र को विषय पता है और वह 94% स्कोर करता है। लेकिन जैसे ही आप उसे दस सही उदाहरणों वाली एक संदर्भ शीट (reference sheet) देते हैं, उसका दिमाग शॉर्ट-सर्किट हो जाता है। वह वास्तविक प्रश्न को पढ़ना बंद कर देता है और बस संदर्भ शीट पर दिए गए आखिरी उदाहरण के उत्तर की नकल करने लगता है। यदि संदर्भ शीट कहती है "उत्तर नीला है," और प्रश्न एक लाल कार के बारे में है, तो छात्र आत्मविश्वास के साथ "नीला" लिख देता है। आप जितने अधिक उदाहरण जोड़ते हैं, वे वास्तविक प्रश्न को उतना ही अधिक अनदेखा करते हैं और हालिया उदाहरण की नकल करते हैं।
यह शोध पत्र दिखाता है कि यह केवल एक फॉर्मेटिंग त्रुटि नहीं है (जैसे रोबोट का बड़बड़ाना)। रोबोट अभी भी सटीक वाक्य लिख रहा है; वह बस भयानक निर्णय ले रहा है। यह कई अलग-अलग मॉडल्स में होता है, छोटे मॉडल्स से लेकर उन विशाल, अत्याधुनिक "फ्रंटियर" मॉडल्स तक जिनके लिए हर कोई उत्साहित है। यह एक क्रमिक समस्या है: कुछ मॉडल्स इससे अछूते हैं, कुछ बुरी तरह क्रैश होते हैं, और कुछ इतने बुरी तरह क्रैश होते हैं कि वे रैंडम चांस (random chance) के स्तर से भी नीचे चले जाते हैं।
दो अलग-अलग सुपरपावर्स
सबसे दिलचस्प खोजों में से एक यह है कि यह शोध पत्र "सीखने" को दो अलग-अलग कौशलों में विभाजित करता है जिन्हें हम आमतौर पर एक ही समझते हैं:
- रोबस्टनेस (Robustness): क्या मॉडल बिना टूटे अधिक उदाहरण देख सकता है?
- लर्निंग (Learning): क्या मॉडल उन उदाहरणों से वास्तव में एक नया नियम सीख सकता है?
लेखक ने पाया कि एक मॉडल पूरी तरह से रोबस्ट (वह क्रैश नहीं होता) हो सकता है, लेकिन फिर भी नया नियम सीखने में पूरी तरह असमर्थ हो सकता है। यह उस छात्र की तरह है जो संदर्भ शीट दिखाने पर शांत रहता है लेकिन उसे पूरी तरह से अनदेखा कर देता है, और जो वह पहले से जानता है उसी पर टिका रहता है। इसके विपरीत, एक मॉडल सीखने की कोशिश कर सकता है लेकिन तुरंत क्रैश हो सकता है। यह शोध पत्र सिद्ध करता है कि ये दो अलग चीजें हैं, और एक मॉडल के पास एक के बिना दूसरा हो सकता है।
गड़बड़ी कहाँ है: "इंटीग्रेशन" स्टेशन
तो, बग कहाँ है? लेखक ने केवल अनुमान नहीं लगाया; उन्होंने AI के दिमाग पर एक तरह की "सर्जरी" की। उन्होंने मॉडल की परतों (layers) को तीन क्षेत्रों में विभाजित किया:
- कनेक्टर (The Connector): जहाँ चित्र को ऐसी भाषा में अनुवादित किया जाता है जिसे AI समझ सके।
- प्रारंभिक/मध्य परतें (Early/Mid Layers): जहाँ AI चित्र को टेक्स्ट उदाहरणों के साथ मिलाने की कोशिश करता है।
- अंतिम परतें (Late Layers): जहाँ AI अंतिम उत्तर का निर्णय लेता है।
उन्होंने पाया कि कोलैप्स विशेष रूप से कनेक्टर और प्रारंभिक/मध्य परतों में होता है। यह "इंटीग्रेशन स्टेशन" है। जब बहुत अधिक उदाहरण जमा हो जाते हैं, तो यह स्टेशन अभिभूत (overwhelmed) हो जाता है। वर्तमान प्रश्न के साथ नई जानकारी को मिलाने के बजाय, AI भ्रमित हो जाता है और बस अपने द्वारा देखे गए सबसे हालिया उदाहरण की नकल करने लगता है।
महत्वपूर्ण रूप से, उन्होंने सिद्ध किया कि अंतिम परतों (जहाँ उत्तर चुना जाता है) को ठीक करने से कोई मदद नहीं मिलती। वास्तव में, वहाँ इसे ठीक करने की कोशिश करना चीजों को और खराब कर देता है! यह एग्जिट रैंप पर ट्रैफिक जाम को ठीक करने की कोशिश करने जैसा है जब समस्या वास्तव में मर्ज पॉइंट (merge point) पर हो। समाधान ठीक वहीं होना चाहिए जहाँ चित्र और टेक्स्ट पहली बार मिलते हैं।
इलाज: "इंटीग्रेशन वैक्सीन"
शोध पत्र एक चतुर समाधान प्रस्तावित करता है जिसे CircA (इंटीग्रेशन-सर्किट अडैप्टेशन) कहा जाता है। इस शो का सितारा है वैक्सीन।
कल्पित कीजिए कि आपके पास एक रोबोट है जो इस "नकल करने" वाली गड़बड़ी के प्रति संवेदनशील है। पूरे रोबोट को फिर से प्रशिक्षित करने (जो महंगा और धीमा है) के बजाय, लेखक ने केवल इंटीग्रेशन स्टेशन पर एक छोटा, विशिष्ट "अडैप्टर" (एक छोटा, जोड़ा गया मॉड्यूल) प्रशिक्षित किया। उन्होंने इस अडैप्टर को एक सरल कार्य सिखाया: "जब आप उदाहरण देखें, तो वास्तव में नियम समझने के लिए उनका उपयोग करें, केवल आखिरी की नकल न करें।"
यहाँ जादू है: एक बार जब यह छोटा अडैप्टर एक विशिष्ट कार्य पर प्रशिक्षित हो जाता है, तो यह एक वैक्सीन की तरह काम करता है। यह केवल उस एक कार्य को ठीक नहीं करता; यह रोबोट को उन पूरी तरह से नए कार्यों पर कोलैप्स होने से बचाता है जिन्हें उसने पहले कभी नहीं देखा है। रोबोट अचानक "अधिक उदाहरण = खराब प्रदर्शन" के जाल से मुक्त हो जाता है।
शोध पत्र टूलबॉक्स के लिए दो अन्य उपकरण भी सुझाता है:
- द गेट (The Gate): यदि आप रोबोट का दिमाग नहीं बदल सकते (जैसे यदि आप क्लोज्ड API का उपयोग कर रहे हैं), तो बस रोबोट के क्रैश होने से पहले उदाहरण जोड़ना बंद कर दें। उस संकेत पर नज़र रखें जहाँ रोबोट आखिरी उत्तर की नकल करना शुरू कर देता है, और वहीं उदाहरणों को काट दें।
- द इंजेक्ट (The Inject): यदि आपके पास एक ऐसा रोबोट है जो सीख सकता है लेकिन उदाहरण मेमोरी में फिट होने के लिए बहुत लंबे हैं, तो आप उदाहरणों को एक एकल "टास्क वेक्टर" में कंप्रेस कर सकते हैं और उसे सीधे मस्तिष्क में इंजेक्ट कर सकते हैं, जिससे सभी चित्रों को दिखाने की आवश्यकता समाप्त हो जाती है।
मुख्य निष्कर्ष
सबसे आश्चर्यजनक मोड़ यह है कि जिस स्थान पर आप "तेज़" सीखने (इंटीग्रेशन स्टेशन) को ठीक करते हैं, वह उस स्थान के समान नहीं है जहाँ आपको "धीली," स्थायी यादें (memories) रखनी चाहिए।
यदि आप रोबोट को स्थायी रूप से एक नया कौशल सिखाना चाहते हैं (इसके वेट्स को अपडेट करके), तो आपको इसे अंतिम परतों (Late Layers) में करना चाहिए। लेकिन यदि आप चाहते कि वह बिना क्रैश हुए कुछ उदाहरणों से तेज़ी से सीखे, तो आपको इंटीग्रेशन स्टेशन को ठीक करना होगा। ये दो अलग-अलग कार्यों के लिए दो अलग-अलग दिमाग के हिस्से हैं।
संक्षेप में, यह शोध पत्र दिखाता है कि AI को अधिक उदाहरण देना हमेशा मुफ्त का लाभ नहीं होता। कभी-कभी, यह एक जाल है। लेकिन यह समझकर कि जाल कहाँ लगा है, हम एक छोटा, सस्ता समाधान बना सकते है जो इन मॉडल्स को अपना मानसिक संतुलन खोए बिना सैकड़ों उदाहरणों से सीखने की अनुमति देता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।