Similarity Is Not Logic: Factored Inference for Dual-Encoder Vision-Language Models
यह शोध पत्र यह पहचानता है कि डुअल-एनकोडर विजन-लैंग्वेज मॉडल एक "बैग-ऑफ-कॉन्सेप्ट्स" समानता इंटरफ़ेस के कारण कंपोजिशनल रीजनिंग में विफल रहते हैं, और एक प्रशिक्षण-मुक्त विधि प्रस्तावित करता है जिसे LCSE (लॉजिक-कंस्ट्रेंड स्कोर एडिटिंग) कहा जाता है जो रिट्रीवल प्रदर्शन को बनाए रखते हुए तार्किक सटीकता में उल्लेखनीय सुधार करने के लिए साक्ष्य निष्कर्षण (एविडेंस एक्सट्रैक्शन) को बाधा निष्पादन (कंस्ट्रेंट एक्जीक्यूशन) से अलग करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को दुनिया को "देखना" सिखाने की कोशिश कर रहे हैं, इसके लिए उसे लाखों तस्वीरें दिखा रहे हैं और शब्दों के साथ उनका वर्णन कर रहे हैं। यह विजन-लैंग्वेज मॉडल्स (VLMs) की दुनिया है, जो आर्टिफिशियल इंटेलिजेंस की एक शाखा है जहाँ कंप्यूटर छवियों को शब्दों के साथ मिलाना सीखते हैं। इन रोबोट्स के सीखने का सबसे लोकप्रिय तरीका एक साझा "मानचित्र" (map) बनाना है जहाँ समान चित्र और समान शब्द एक-दूसरे के करीब स्थित होते हैं। जब आप रोबोट से कोई प्रश्न पूछते हैं, तो वह बस आपके शब्दों और चित्रों के बीच की दूरी को मापता है ताकि सबसे अच्छा मिलान ढूँढा जा सके। यह "हॉट एंड कोल्ड" (गर्म और ठंडा) के विशाल खेल जैसा है, जहाँ रोबोट तब "हॉटर" (अधिक आश्वस्त) हो जाता है जब वह उन छवियों को पाता है जो आपके द्वारा टाइप किए गए शब्दों से मेल खाती हैं।
हालाँकि, इस सरल दूरी वाले खेल के साथ एक पेचीदा समस्या है। जबकि रोबोट व्यक्तिगत चीजों को पहचानने में बहुत अच्छा है—जैसे कि एक "कुत्ता" या एक "गेंद"—लेकिन जब आप उसे तर्क (logic) के साथ चीजों को जोड़ने के लिए कहते हैं, जैसे कि "एक कुत्ता लेकिन कोई गेंद नहीं" या "एक बिल्ली और एक पक्षी," तो वह अक्सर भ्रमित हो जाता है। रोबोट उन शब्दों को अनदेखा कर देता है जो "लेकिन नहीं" या "और" जैसे तर्क देते हैं और बस उन शब्दों को देखता है जिन्हें वह जानता है। यह ऐसा है जैसे रोबोट "बैग ऑफ वर्ड्स" (शब्दों की थैली) का खेल खेल रहा हो, जहाँ वह केवल यह गिनता है कि एक शब्द कितनी बार आया है, और वाक्य के नियमों को पूरी तरह से भूल जाता है। यह शोध पत्र इस बात की जांच करता है कि ऐसा क्यों होता है और रोबोट के पूरे मस्तिष्क को फिर से प्रशिक्षित किए बिना उसकी तर्कशक्ति को ठीक करने का एक चतुर तरीका प्रस्तावित करता है।
समस्या: रोबोट का "अवधारणाओं का थैला" (Bag of Concepts)
इस शोध पत्र के लेखकों ने पाया कि मानक AI मॉडल, जो जटिल वाक्यों को समझने के लिए पर्याप्त स्मार्ट होने चाहिए, वास्तव में एक बहुत ही शाब्दिक और थोड़े भ्रमित लाइब्रेरियन (पुस्तकालयाध्यक्ष) की तरह व्यवहार कर रहे हैं। कल्पना कीजिए कि आप इस लाइब्रेरियन से "बिना ड्राइवर वाली लाल कार" के बारे में एक किताब मांगते हैं। ड्राइवर रहित कार खोजने के बजाय, लाइब्रेरियन आपको ड्राइवर वाली लाल कार की किताब थमा देता है, क्योंकि लाइब्रेरियन "लाल" और "कार" शब्दों पर इतना केंद्रित है कि वह "बिना" शब्द को पूरी तरह से अनदेखा कर देता है।
तकनीकी शब्दों में, ये मॉडल एक "स्केलर सिमिलरिटी" (scalar similarity) स्कोर का उपयोग करते हैं। इस स्कोर को एक एकल संख्या के रूप में समझें जो आपको बताती है कि एक छवि किसी पाठ से कितनी अच्छी तरह मेल खाती है। शोध पत्र दिखाता है कि जब आप विचारों के संयोजन (जैसे "A और न कि B") के लिए पूछते हैं, तो मॉडल वास्तव में तर्क की गणितीय गणना नहीं करता है। इसके बजाय, यह "A" के साक्ष्य और "B" के साक्ष्य का औसत निकाल देता है। यह एक स्मूदी बनाने जैसा है: यदि आप "स्ट्रॉबेरी लेकिन बिना केले के" मांगते हैं, तो मॉडल बस स्ट्रॉबेरी और केले को आपस में मिला देता है और आपको एक मिश्रण दे देता है, क्योंकि वह सोचता है कि "नहीं" का निर्देश भी मिलाने के लिए एक अन्य सामग्री है, न कि एक सामग्री को हटाने का नियम।
शोधकर्ताओं ने यह परीक्षण करने के लिए इसे आजमाया कि क्या मॉडल विशिष्ट तार्किक नियमों को खोजने में सक्षम है, जैसे कि "छाता और कोई व्यक्ति नहीं।" भले ही मॉडल ने तस्वीर में स्पष्ट रूप से एक व्यक्ति को देखा था, फिर भी उसने उस तस्वीर को एक अच्छा मिलान बताया क्योंकि क्वेरी में "व्यक्ति" शब्द मौजूद था। मॉडल व्यक्ति को देखने में विफल नहीं हुआ था; वह व्यक्ति को बाहर करने के लिए वाक्य के तर्क का उपयोग करने में विफल रहा था।
जांच: तर्क क्यों विफल होता है
यह जानने के लिए कि ऐसा क्यों होता है, लेखकों ने मॉडल के मस्तिष्क की "सर्जरी" की। उन्होंने मॉडल द्वारा पढ़े जाने वाले टेक्स्ट के अंदर झाँका यह देखने के लिए कि क्या तर्क वाले शब्द (जैसे "नहीं" या "और") वास्तव में वाक्य के अर्थ को बदल रहे हैं। उन्होंने पाया कि तर्क वहां था, टेक्स्ट के भीतर छिपा हुआ था, लेकिन अंतिम स्कोर बदलने के लिए बहुत कमजोर था।
कल्पना कीजिए कि टेक्स्ट एम्बेडिंग (वाक्य का डिजिटल प्रतिनिधित्व) एक भारी बॉक्स ले जाने वाली दो लोगों की टीम है। एक व्यक्ति "अवधारणाओं" (संज्ञा जैसे "कुत्ता" या "कार") का प्रतिनिधित्व करता है, और दूसरा "तर्क" (जैसे "और" या "नहीं") का प्रतिनिधित्व करता है। शोध पत्र में पाया गया कि "अवधारणा" वाला व्यक्ति एक विशालकाय व्यक्ति है, जबकि "तर्क" वाला व्यक्ति एक छोटा बच्चा है। जब वे दोनों बॉक्स को धकेलने का निर्णय लेते हैं, तो विशालकाय व्यक्ति इतना जोर से धक्का देता है कि छोटे बच्चे का धक्का पूरी तरह से अनदेखा कर दिया जाता है। परिणाम? बॉक्स अवधारणाओं की दिशा में बढ़ता है, और तर्क इस भीड़ में खो जाता है।
लेखकों ने यह भी जाँच की कि क्या केवल मॉडल को फिर से प्रशिक्षित करना (उसे नए उदाहरण सिखाना) इस समस्या को ठीक कर देगा। उन्होंने पाया कि हजारों "नहीं" और "नहीं" के उदाहरणों पर मॉडल को प्रशिक्षित करने के बाद भी, मॉडल संघर्ष करता रहा। यह एक ऐसे व्यक्ति को सिखाने जैसा है जो स्वाभाविक रूप से बाएं हाथ का उपयोग करता है, उसे केवल अधिक अभ्यास देकर दाएं हाथ से लिखने के लिए प्रशिक्षित करना; अंतर्निहित मांसपेशी स्मृति (मॉडल कैसे स्कोर को जोड़ता है) ही वास्तविक बाधा है, न कि अभ्यास की कमी।
समाधान: फैक्टर्ड इन्फरेंस (Factored Inference) और LCSE
चूंकि मॉडल की आंतरिक "तर्क मांसपेशी" इस समस्या को ठीक करने के लिए बहुत कमजोर है, इसलिए लेखकों ने फैक्टर्ड इन्फरेंस (Factored Inference) नामक एक नई रणनीति प्रस्तावित की। मॉडल को एक ही बार में सारा गणित करने के लिए कहने के बजाय, उन्होंने काम को दो अलग-अलग चरणों में विभाजित करने का निर्णय लिया:
- साक्ष्य निष्कर्षण (Evidence Extraction): पहले, स्थिर (बिना बदले हुए) मॉडल से व्यक्तिगत अवधारणाओं की पहचान करने के लिए कहें। "क्या वहां एक कुत्ता है? हाँ, 90% निश्चित। क्या वहां एक बिल्ली है? हाँ, 80% निश्चित।"
- प्रतिबंध निष्पादन (Constraint Execution): फिर, उन नंबरों को लें और मॉडल के बाहर तर्क की गणितीय गणना करें। यदि उपयोगकर्ता ने "कुत्ता लेकिन कोई बिल्ली नहीं" कहा है, तो सिस्टम "कुत्ता" स्कोर लेता है और "बिल्ली" स्कोर को घटा देता है (या "कोई बिल्ली नहीं" का प्रतिनिधित्व करने के लिए बिल्ली के स्कोर को उलट देता है) और उन्हें सख्त तर्क नियमों का उपयोग करके जोड़ता है।
इसे सामान्य वाक्यों को संभालने की मॉडल की क्षमता को बिगाड़े बिना काम करने के लिए, उन्होंने LCSE (लॉजिक-कन्स्ट्रेंड स्कोर एडिटिंग - Logic-Constrained Score Editing) नामक एक विधि पेश की। LCSE को एक स्मार्ट संपादक के रूप में समझें। यह मॉडल के मूल उत्तर को सुनता है, लेकिन यदि वाक्य में कोई तर्क नियम (जैसे "नहीं" या "और") है, तो संपादक हस्तक्षेप करता है और अंतिम स्कोर को थोड़ा सा बदल देता है ताकि तर्क काम कर सके। यदि वाक्य सरल है, तो संपादक स्कोर को वैसा ही छोड़ देता है। इस तरह, मॉडल अपना मूल "व्यक्तित्व" और रिट्रीवल कौशल बनाए रखता है, लेकिन अंततः तर्क के नियमों का पालन करता है।
परिणाम: तर्क में एक बड़ी छलांग
इस नए तरीके के परिणाम प्रभावशाली थे। लेखकों ने अपने सिस्टम का परीक्षण एक नए बेंचमार्क पर किया जिसे उन्होंने FACTOR-Bench नाम दिया, जो विशेष रूप से यह परीक्षण करने के लिए बनाया गया है कि क्या कोई मॉडल तर्क को समझता है।
- पुराना तरीका: मौजूदा सर्वोत्तम मॉडल (यहाँ तक कि वे भी जिन्हें निषेध/negation समझने के लिए विशेष रूप से प्रशिक्षित किया गया था) लगभग 73.2% तर्क संबंधी प्रश्नों को सही ढंग से हल कर पाए।
- नया तरीका (LCSE): लेखकों की विधि, जिसमें उन्हीं मूल मॉडलों का उपयोग किया गया लेकिन उनके नए "संपादक" के साथ, सटीकता में उछाल के साथ 85.5% तक पहुँच गई।
- और भी बेहतर: जब उन्होंने SigLIP 2 नामक एक नए, अधिक शक्तिशाली मॉडल पर इस पद्धति को लागू किया, तो सटीकता बढ़कर 90.7% हो गई।
उन्होंने NegBench नामक एक अलग चुनौती पर भी इसका परीक्षण किया, जो "नहीं" और "नहीं" वाले प्रश्नों पर केंद्रित है। मानक मॉडल केवल 27.2% सही था, लेकिन LCSE के साथ, यह सुधरकर 65.2% हो गया। महत्वपूर्ण रूप से, तर्क में इस भारी सुधार ने सामान्य खोजों के लिए मॉडल की क्षमता को नुकसान नहीं पहुँचाया; इसने मानक इमेज रिट्रीवल के लिए समान उच्च प्रदर्शन बनाए रखा।
यह क्यों मायने रखता है
यह शोध पत्र सुझाव देता है कि समस्या यह नहीं है कि AI मॉडल "देखने" या "पढ़ने" में पर्याप्त कुशल नहीं हैं; बल्कि समस्या यह है कि जटिल कार्यों के लिए जानकारी को संयोजित करने का उनका तरीका मौलिक रूप से त्रुटिपूर्ण है। "देखने" (अवधारणाओं को खोजने) को "सोचने" (तर्क नियमों को लागू करने) से अलग करके, हम इन मॉडल्स को शून्य से फिर से बनाए बिना बहुत अधिक स्मार्ट बना सकते हैं। यह एक याद दिलाता है कि कभी-कभी, एक स्मार्ट रोबोट को ठीक करने का सबसे अच्छा तरीका उसे अधिक तथ्य सिखाना नहीं है, बल्कि उसे उन तथ्यों के लिए एक बेहतर कैलकुलेटर देना है जो वह पहले से जानता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।