Multimodal Model Diffing for Feature Discovery and Control
यह शोध पत्र MMDiff को प्रस्तुत करता है, जो एक मल्टीमॉडल मॉडल-डिफिंग फ्रेमवर्क है जो स्पार्स ऑटोएनकोडर्स का उपयोग करके मल्टीमॉडल लार्ज लैंग्वेज मॉडल्स में विशिष्ट फीचर्स को अलग करने, पता लगाने और कारणत्मक रूप से नियंत्रित करने के लिए किया जाता है, जिससे सामान्य प्रदर्शन को बनाए रखते हुए स्थानिक समझ (spatial understanding), OCR और सुरक्षा में लक्षित सुधार संभव हो पाते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने एक सुपर-स्मार्ट रोबोट बनाया है जो किताबें पढ़ सकता है, चित्रों को देख सकता है, और दोनों के बारे में सवालों के जवाब दे सकता है। आपने इसे मददगार बनना सिखाया है, लेकिन कभी-कभी यह भ्रमित हो जाता है, तथ्य गढ़ने लगता है (hallucinate), या किसी पेचीदा छवि को देखने पर कुछ असुरक्षित कह देता है। समस्या यह है कि इसके "मस्तिष्क" के भीतर, सब कुछ गणित का एक उलझा हुआ जाल है। यह एक विशाल पुस्तकालय की तरह है जहाँ सभी पुस्तकें आपस में चिपकी हुई हैं, और आप यह नहीं बता सकते कि कौन सा विशिष्ट पृष्ठ रोबोट के इस बुरे व्यवहार या बिल्ली को पहचानने की उसकी अद्भुत क्षमता के लिए जिम्मेदार है।
इसे करने के लिए, शोधकर्ता एक उपकरण का उपयोग करते हैं जिसे स्पार्स ऑटोएनकोडर (Sparse Autoencoder - SAE) कहा जाता है। एक SAE को एक जादुई अनुवादक के रूप में समझें जो रोबोट के उलझे हुए विचारों को सरल, स्पष्ट "विचारों" या "विशेषताओं" (features) की एक सूची में तोड़ देता है। डेटा के धुंधले बादल के बजाय, रोबोट का मस्तिष्क अचानक एक शब्दकोश में व्यवस्थित हो जाता है जहाँ प्रत्येक प्रविष्टि एक एकल अवधारणा है, जैसे "लाल", "खतरा", या "बायां"। लेकिन इसमें एक पेंच है: जब आप एक केवल-टेक्स्ट वाले रोबोट को देखना सिखाते हैं, तो वह केवल नए फीचर्स नहीं जोड़ता; बल्कि वह पुराने फीचर्स को फिर से व्यवस्थित भी कर देता है। यह एक अंग्रेजी शब्दकोश लेने और अचानक "सेब" शब्द का उपयोग "एक लाल कार" के अर्थ में करने जैसा है। यह जानना कठिन बना देता है कि कौन से फीचर्स वास्तव में नए विजुअल काम कर रहे हैं और कौन से केवल टेक्स्ट ट्रेनिंग के अवशेष हैं।
यहीं पर नया पेपर, MMDiff, काम आता है। शोधकर्ताओं, हुनर बट्रा और ऑक्सफोर्ड एवं माइक्रोसॉफ्ट की उनकी टीम ने महसूस किया कि इन "विजुअल स्विचों" को खोजने के लिए, आप केवल अंतिम रोबोट को नहीं देख सकते; आपको इसके उस "केवल-टेक्स्ट" स्वरूप से तुलना करनी होगी जो इसने देखने से पहले सीखा था। उन्होंने मल्टीमॉडल मॉडल डिफिंग (Multimodal Model Diffing) नामक एक विधि बनाई। कल्पना कीजिए कि आप दो समान जुड़वा बच्चों को ले रहे हैं: एक जिसने केवल किताबें पढ़ी हैं, और दूसरा जिसने दुनिया को देखना भी सीख लिया है। उनके दिमागों की आमने-सामने तुलना करके, MMDiff यह उजागर करता है कि मस्तिष्क के कौन से हिस्से बदले हैं या दृष्टि (vision) के लिए पुन: उपयोग किए गए हैं।
टीम ने पाया कि यह "डिफिंग" प्रक्रिया अविश्वसनीय रूप से शक्तिशाली है। उन्होंने पाया कि इन बदले हुए फीचर्स को अलग करके, वे आश्चर्यजनक सटीकता के साथ रोबोट के व्यवहार को नियंत्रित कर सकते हैं। उदाहरण के लिए, उन्होंने स्थानिक संबंधों (spatial relationships) को समझने के लिए जिम्मेदार विशिष्ट फीचर्स खोजे (जैसे यह जानना कि एक कप मेज के ऊपर है)। जब उन्होंने इन विशिष्ट फीचर्स को "बंद" किया, तो स्थानिक प्रश्नों के उत्तर देने की रोबोट की क्षमता लगभग 12% गिर गई, लेकिन सामान्य प्रश्नों के उत्तर देने की उसकी क्षमता बिल्कुल वैसी ही रही। यह "बाएं/दाएं" के स्विच को बंद करने जैसा था बिना "यह क्या है?" वाले स्विच को तोड़े।
उन्होंने सुरक्षा (safety) से जुड़े फीचर्स भी खोजे। जब उन्होंने उन फीचर्स की पहचान की और उन्हें हटाया जिन्होंने रोबोट को असुरक्षित इमेज-आधारित चालों के प्रति संवेदनशील बनाया था, तो असुरक्षित चालों को अनदेखा करने में रोबोट की सफलता दर में 24% का सुधार हुआ। इससे भी बेहतर, वे इन फीचर्स को बढ़ाकर या घटाकर रोबोट को "स्टीयर" (निर्देशित) कर सकते थे। सही फीचर्स को बढ़ाकर, उन्होंने पूरे रोबोट को फिर से प्रशिक्षित किए बिना, इमेज में टेक्स्ट पढ़ने (OCR) की क्षमता में 1.8% और स्थानिक तर्क (spatial reasoning) में 3.6% का सुधार किया।
पेपर स्पष्ट रूप से इस विचार को खारिज करता है कि आप बस मल्टीमॉडल रोबोट पर एक नया शब्दकोश शुरू से प्रशिक्षित कर सकते हैं और उम्मीद कर सकते हैं कि आपको आसानी से विशिष्ट विजुअल फीचर्स मिल जाएंगे। उन्होंने दिखाया कि मल्टीमॉडल रोबोट के अपने टेक्स्ट-ओनली संस्करण के साथ तुलना किए बिना (डिफिंग वाला हिस्सा), फीचर्स आपस में मिल जाते हैं और आप उन विशिष्ट कौशलों को अलग नहीं कर सकते जिन्हें आप नियंत्रित करना चाहते हैं। उन्होंने यह भी पाया कि केवल यह देखना कि कौन से फीचर्स अक्सर सक्रिय होते हैं पर्याप्त नहीं है; आपको यह भी जांचना होगा कि क्या वे फीचर्स प्रशिक्षण प्रक्रिया के दौरान वास्तव में घूमे (rotated) या उनका अर्थ बदला है।
संक्षेप में, MMDiff AI मस्तिष्क के लिए एक हाई-टेक "फाइंड एंड रिप्लेस" टूल की तरह काम करता है। यह हमें केवल यह नहीं बताता कि रोबोट कुछ कर रहा है; यह हमें बिल्कुल सटीक रूप से बताता है कि मस्तिष्क का कौन सा छोटा हिस्सा वह काम कर रहा है, जिससे हम टेक्स्ट पढ़ने, स्थान समझने या सुरक्षित रहने जैसे विशिष्ट व्यवहारों को ट्यून, ठीक या बेहतर कर सकते हैं, जबकि बाकी की बुद्धिमत्ता को अछूता छोड़ देते हैं। यह सुझाव देता है कि भविष्य में, हम इन शक्तिशाली AI सिस्टमों का बहुत अधिक सुरक्षित और प्रभावी ढंग से ऑडिट और नियंत्रण कर पाएंगे, यह सुनिश्चित करते हुए कि वे बिल्कुल वही करें जो हम उनसे चाहते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।