🤖 AI

Vector Linking via Cross-Model Local Isometric Consistency

यह शोध पत्र वेक्टर लिंकिंग (Vector Linking) को प्रस्तुत करता है, जो एक ऐसी विधि है जो स्वतंत्र रूप से प्रशिक्षित कंट्रास्टिव एनकोडर्स की स्थानीय ज्यामितीय निरंतरता का लाभ उठाकर, दूरी-आधारित हैश रिप्रजेंटेशन को मिलाने और बीटा-बर्नौली पोस्टीरियर के माध्यम से साक्ष्य को एकत्रित करके, एक बहुत छोटे सीड सेट से क्रॉस-मॉडल ऑब्जेक्ट कोरेस्पोंडेंस (cross-model object correspondences) को पुन: प्राप्त करने के लिए उपयोग करती है।

मूल लेखक: Ziying Chen, Yang Cao, He Sun, Beining Yang, Tianjian Yang

प्रकाशित 2026-06-01

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Ziying Chen, Yang Cao, He Sun, Beining Yang, Tianjian Yang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास दो विशाल पुस्तकालय हैं। एक पुस्तकालय को लाइब्रेरियन A द्वारा सूचीबद्ध किया गया था, और दूसरा लाइब्रेरियन B द्वारा। दोनों लाइब्रेरियन बहुत बुद्धिमान हैं, लेकिन उनके चीजों को व्यवस्थित करने के तरीके बहुत अलग हैं।

लाइब्रेरियन A किताबों को उनके कवर के रंग के आधार पर समूहबद्ध कर सकता है।
लाइब्रेरियन B किताबों को कागज की गंध के आधार पर समूहबद्ध कर सकता है।

AI की दुनिया में, ये "पुस्तकालय" वेक्टर डेटाबेस (डेटा पॉइंट्स के संग्रह) हैं, और ये "लाइब्रेरियन" वे AI मॉडल हैं जो टेक्स्ट या इमेज को नंबरों की सूचियों (वेक्टर्स) में बदल देते हैं। समस्या यह है कि भले ही दोनों लाइब्रेरियन के पास बिल्कुल एक ही किताब हो, फिर भी वे उसे शेल्फ पर बिल्कुल अलग जगह पर रख सकते हैं। आप एक पुस्तकालय से दूसरे पुस्तकालय में जाकर मिलान करने वाली किताब नहीं ढूंढ सकते क्योंकि उनके नक्शे आपस में मेल नहीं खाते।

यह पेपर वेक्टर लिंकिंग (Vector Linking) नामक एक समाधान पेश करता है। यह कैसे काम करता है, इसके लिए सरल उपमाओं का उपयोग किया गया है:

मुख्य समस्या: "मैप मिसमैच" (नक्शों का बेमेल होना)

आमतौर पर, यदि आप इन दोनों पुस्तकालयों को मिलाना चाहते हैं, तो आपको लाइब्रेरियन को मिलकर अपने शेल्फ को पुनर्गठित करने के लिए कहना होगा। लेकिन इस परिदृश्य में, लाइब्रेरियन "ब्लैक बॉक्स" हैं—आप उनसे बात नहीं कर सकते, आप उनके नोट्स नहीं देख सकते, और आप उनसे उनके नियम बदलने के लिए नहीं कह सकते। आपके पास केवल वे किताबें (वेक्टर्स) हैं जो शेल्फ पर रखी हुई हैं।

इसके अलावा, पुस्तकालयों में केवल आंशिक ओवरलैप (partial overlap) है। उनके पास कुछ साझा किताबें हैं, लेकिन प्रत्येक के पास हजारों ऐसी अनूठी किताबें भी हैं जो दूसरे के पास नहीं हैं। पारंपरिक तरीके एक एकल, वैश्विक मानचित्र (global map) बनाने की कोशिश करते हैं जो दोनों पुस्तकालयों में फिट हो सके, लेकिन चूंकि पुस्तकालय इतने अलग तरह से व्यवस्थित हैं, इसलिए यह आमतौर पर विफल हो जाता है।

बड़ी खोज: "स्थानीय पड़ोस" (Local Neighborhoods) समान रहते हैं

लेखकों ने गौर किया कि इन AI लाइब्रेरियन के काम करने के तरीके के बारे में कुछ जादुई है। जबकि उनका वैश्विक (global) संगठन पूरी तरह से अलग है (लाइब्रेरियन A सोचता है कि किताब X, किताब Y से दूर है, जबकि लाइब्रेरियन B सोचता है कि वे पड़ोसी हैं), उनका स्थानीय पड़ोस (local neighborhood) आश्चर्यजनक रूप से सुसंगत है।

उपमा: एक शहर के दो अलग-अलग मानचित्रों की कल्पना करें।

वैश्विक दृश्य (Global View): मानचित्र A पर, शहर एक वृत्त (circle) जैसा दिखता है। मानचित्र B पर, यह एक वर्ग (square) जैसा दिखता है। उत्तरी ध्रुव से दक्षिणी ध्रुव की दूरी दोनों मानचित्रों पर बिल्कुल अलग है।
स्थानीय दृश्य (Local View): हालांकि, यदि आप एक ही सड़क के कोने पर ज़ूम इन करते हैं, तो बेकरी और कॉफी शॉप के बीच की दूरी दोनों मानचित्रों पर लगभग एक समान होती है, भले ही वह थोड़ा बड़ा या छोटा हो जाए।

पेपर यह सिद्ध करता है कि चीजों की तुलना करने के लिए प्रशिक्षित AI मॉडल (जिन्हें "कॉन्ट्रास्टिव एनकोडर्स" कहा जाता है) के लिए यह "स्थानीय निरंतरता" एक गणितीय नियम है। यदि दो आइटम बहुत समान हैं, तो दोनों AI सिस्टम में उनकी दूरी आनुपातिक होगी, भले ही सिस्टम पूरी तरह से अलग क्यों न हों।

समाधान: एक "सीड" के साथ "जियोमेट्रिक हैशिंग"

दोनों पुस्तकालयों को जोड़ने के लिए, बिना लाइब्रेरियन की मदद लिए, लेखक जियोमेट्रिक एम्बेडिंग हैशिंग (GEH) नामक एक विधि प्रस्तावित करते हैं।

इसे दोस्तों के एक छोटे से समूह के साथ "हॉट एंड कोल्ड" (Hot and Cold) के खेल की तरह समझें।

सीड (छोटा समूह): आप "एंकर बुक्स" (Anchor Books) की एक बहुत छोटी सूची के साथ शुरू करते हैं जिन्हें आप जानते हैं कि दोनों पुस्तकालयों में समान हैं (जैसे, आप जानते हैं कि "द ग्रेट गैट्सबी" दोनों में है)। मान लीजिए कि आपके पास केवल 15 ऐसी किताबें हैं।
सिग्नेचर (दूरी का मानचित्र): लाइब्रेरी A के प्रत्येक अन्य बुक के लिए, आप उन 15 एंकर बुक्स से उसकी दूरी मापते हैं। इससे एक अनूठा "सिग्नेचर" या "फिंगरप्रिंट" बनता है जो आपके दोस्तों से उसकी दूरी पर आधारित है। आप लाइब्रेरी B के लिए भी यही करते हैं।
जादू: क्योंकि "स्थानीय पड़ोस" का नियम लागू होता है, यदि लाइब्रेरी A की एक किताब लाइब्रेरी B की एक किताब के समान है, तो उनके सिग्नेचर (एंकर से दूरी) लगभग एक जैसे दिखेंगे, भले ही पुस्तकालय अलग तरह से व्यवस्थित हों।
मतदान प्रणाली (बूटस्ट्रैपिंग):
- कभी-कभी, एक रैंडम बुक संयोग से गलती से मैच लग सकती है (एक "फॉल्स अलार्म")।
- इसे ठीक करने के लिए, सिस्टम केवल एक बार 15 एंकर्स का उपयोग नहीं करता है। यह एंकर्स के विभिन्न रैंडम समूहों को चुनकर सैकड़ों अलग-अलग "व्यू" (views) बनाता है।
- यदि एक जोड़ी वास्तव में एक मैच है, तो वह लगभग हर व्यू में मैच के रूप में दिखाई देगी। यदि यह एक फॉल्स अलार्म है, तो यह केवल एक या दो बार ही दिखाई देगी।
- सिस्टम वोटों की गिनती करता है। यदि एक जोड़ी को पर्याप्त वोट मिलते हैं, तो उसे एक मैच घोषित कर दिया जाता है।
टीम बढ़ाना: एक बार जब सिस्टम एक नया विश्वसनीय मैच ढूंढ लेता है, तो वह उस जोड़ी को "एंकर" की सूची में जोड़ देता है। अब उसके पास 16 एंकर्स हैं। वह प्रक्रिया को दोहराता है, नए एंकर का उपयोग करके अधिक मैच ढूंढता है, और ज्ञात कनेक्शनों की सूची को एक ढलान से लुढ़कते हुए बर्फ के गोले (snowball) की तरह बढ़ाता जाता है।

यह क्यों महत्वपूर्ण है

पेपर दिखाता है कि केवल एक बहुत छोटे सीड (15 ज्ञात जोड़ियों के रूप में) के साथ, यह विधि दो पूरी तरह से अलग AI सिस्टम के बीच लाखों वस्तुओं को सटीक रूप से लिंक कर सकती है।

यह "ब्लैक बॉक्स" के साथ काम करता है: आपको यह जानने की ज़रूरत नहीं है कि AI मॉडल अंदर से कैसे काम करते हैं; आपको बस उन नंबरों की आवश्यकता है जो उन्होंने बनाए हैं।
यह "आंशिक ओवरलैप" को संभालता है: यह उन लाखों किताबों से भ्रमित नहीं होता जो केवल एक ही लाइब्रेरी में मौजूद हैं।
यह मजबूत (Robust) है: यह वोटिंग सिस्टम का उपयोग करके "शोर" (गलत मिलान) को फ़िल्टर करता है।

पेपर में उल्लेखित वास्तविक दुनिया के उपयोग

लेखक विशेष रूप से इस "पुल" के दो उपयोगों का प्रदर्शन करते हैं:

वेक्टर डेटाबेस को मर्ज करना: अब आप दो अलग-अलग सर्च इंजन (एक कंपनी A द्वारा बनाया गया और एक कंपनी B द्वारा बनाया गया) को एक एकीकृत सिस्टम में मिला सकते हैं ताकि आप उन सभी को एक साथ खोज सकें।
क्रॉस-मॉडल क्लस्टरिंग: आप समान वस्तुओं को एक साथ समूहबद्ध कर सकते हैं भले ही उन्हें दो अलग-अलग AI मॉडल द्वारा प्रोसेस किया गया हो, जिससे विषयों या श्रेणियों की एक एकल, सुसंगत सूची बनाई जा सके।

संक्षेप में, यह पेपर AI "भाषाओं" के लिए एक सार्वभौमिक अनुवादक प्रदान करता है, जिससे विभिन्न सिस्टम एक-दूसरे के डेटा को पहचान सकते हैं, बिना एक ही बोली बोलने या अपने आंतरिक रहस्यों को प्रकट करने की आवश्यकता के।

तकनीकी सारांश: क्रॉस-मॉडल लोकल आइसोमेट्रिक कंसिस्टेंसी के माध्यम से वेक्टर लिंकिंग

समस्या की परिभाषा: वेक्टर लिंकिंग (Vector Linking)
यह शोध पत्र वेक्टर लिंकिंग की समस्या को संबोधित करता है: दो अलग-अलग ब्लैक-बॉक्स कंट्रास्टिव एनकोडर ( $f_1$ और $f_2$ ) द्वारा उत्पन्न दो एम्बेडिंग क्लाउड्स ( $E_1$ और $E_2$ ) के बीच क्रॉस-मॉडल ऑब्जेक्ट कोरेस्पोंडेंस (correspondences) को पुनः प्राप्त करना, जो आंशिक रूप से ओवरलैपिंग डेटासेट्स ( $O_1$ और $O_2$ ) पर आधारित हैं। यह सेटिंग पूरी तरह से पोस्ट-हॉक (post-hoc) और ब्लैक-बॉक्स है; इस पद्धति के पास केवल स्थिर एम्बेडिंग वेक्टर्स और युग्मित एंकर्स ( $S$ ) का एक छोटा "सीड सेट" (seed set) उपलब्ध है, जो ज्ञात रूप से समान अंतर्निहित वस्तुओं के अनुरूप हैं। महत्वपूर्ण बात यह है कि डेटासेट्स के बीच ओवरलैप अज्ञात और आंशिक है, जिसका अर्थ है कि दोनों एम्बेडिंग स्पेस के बीच कोई वैश्विक बायजेक्शन (global bijection) नहीं है, और गैर-ओवरलैपिंग क्षेत्रों को साधारण आउटलेयर्स (outliers) के रूप में नहीं माना जा सकता है। यह इंटरऑपरेबिलिटी गैप यूनिफाइड रिट्रीवल, क्रॉस-इंडेक्स डीडुप्लिकेशन और वेक्टर डेटाबेस इंटीग्रेशन में बाधा डालता है।

सैद्धांतिक आधार: लोकल आइसोमेट्रिक कंसिस्टेंसी (Local Isometric Consistency)
इस कार्य को संचालित करने वाला मुख्य सैद्धांतिक अंतर्दृष्टि स्वतंत्र रूप से प्रशिक्षित कंट्रास्टिव एनकोडर्स के बीच लोकल ज्योमेट्रिक कंसिस्टेंसी की खोज है।

अनुभवजन्य अवलोकन (Empirical Observation): लेखक देखते हैं कि जबकि विभिन्न मॉडलों के बीच एम्बेडिंग्स के बीच लंबी दूरी (long-range distances) तेजी से डिकोरिलेट हो जाती है, वहीं छोटी दूरी (short-range distances) मजबूती से सह-संबंधित रहती है।
सैद्धांतिक औचित्य: कंट्रास्टिव लर्निंग के लिए एक लोकलाइज्ड अलाइनमेंट-यूनिफॉर्मिटी सरोगेट का विश्लेषण करके, यह शोध पत्र सिद्ध करता है कि स्वतंत्र रूप से प्रशिक्षित एनकोडर्स एक स्केल फैक्टर तक 'लोकल आइसोमेट्रिक मेट्रिक्स' प्रेरित करते हैं। विशेष रूप से, एक बिंदु $x$ पर दो स्थानीय रूप से इष्टतम एनकोडर्स $f_1$ और $f_2$ के लिए, और किसी भी नजदीकी बिंदु $y$ के लिए, दूरी संबंध इस प्रकार रहता है:
$\|f_1(x) - f_1(y)\| = \kappa \cdot \|f_2(x) - f_2(y)\| + O(d_M(x, y)^2)$
जहाँ $\kappa$ एक स्केल फैक्टर है और $d_M$ इनट्रिन्सिक जियोडेसिक डिस्टेंस (intrinsic geodesic distance) है। यह दर्शाता है कि स्थानीय पड़ोस (local neighborhoods) मॉडलों के बीच स्थिर रहते हैं, जबकि वैश्विक व्यवस्था (global arrangements) विकृत हो जाती है।

कार्यप्रणाली: ज्योमेट्रिक एम्बेडिंग हैशिंग (GEH)
इस स्थानीय निरंतरता (local consistency) के गुण पर आधारित, लेखक ज्योमेट्रिक एम्बेडिंग हैशिंग (GEH) प्रस्तावित करते हैं, जो एक पुनरावृत्ति (iterative), संदर्भ-आधारित एल्गोरिदम है जो मॉडल के आंतरिक भाग या कच्चे डेटा तक पहुँच के बिना एक छोटे सीड सेट से वेक्टर लिंक को पुनः प्राप्त करता है।

डिस्टेंस-टू-एंकर सिग्नेचर (Distance-to-Anchor Signatures): ग्लोबल स्पेस को अलाइन करने के बजाय, GEH प्रत्येक वेक्टर को युग्मित एंकर्स के सेट से उसकी दूरियों द्वारा निरूपित करता है। अज्ञात स्केल फैक्टर $\kappa$ को संभालने के लिए, इन सिग्नेचरों को नॉर्मलाइज (scale-free) किया जाता है, आमतौर पर दूरी वेक्टर्स पर कोसाइन सिमिलरिटी का उपयोग करके।
मल्टी-व्यू वोटिंग (Multi-View Voting): स्थानीयता की आवश्यकता के कारण एक एकल एंकर सेट सभी बिंदुओं के लिए पर्याप्त नहीं है। GEH वर्तमान युग्मित एंकर्स के पूल से कई छोटे, विविध ज्यामितीय "व्यूज़" (एंकर्स के उपसमुच्चय) को सैंपल करता है।
- व्यू जनरेशन: एंकर विविधता और स्थिरता सुनिश्चित करने के लिए व्यूज़ का निर्माण फर्थेस्ट पॉइंट सैंपलिंग (FPS) का उपयोग करके किया जाता है।
- कर्नेलकृत हैशिंग (Kernelized Hashing): शॉर्ट-रेंज कंसिस्टेंसी पर जोर देने और लॉन्ग-रेंज नॉइज़ को दबाने के लिए, रॉ डिस्टेंसेस को एक मोनोटोन कर्नेल (जैसे, $e^{-dist/\sigma}$ ) के माध्यम से रूपांतरित किया जाता है।
- कैंडिडेट जनरेशन: प्रत्येक व्यू के भीतर, हेश स्पेस में म्यूटुअल निएरेस्ट नेबर (MNN) सर्च के माध्यम से कैंडिडेट लिंक्स प्रस्तावित किए जाते हैं, जिसमें हबनेस (hubness) को कम करने के लिए CSLS का उपयोग किया जाता है।
पोस्टीरियर-गाइडेड बूटस्ट्रैपिंग (Posterior-Guided Bootstrapping):
- एविडेंस एग्रीगेशन: विभिन्न व्यूज़ के बीच मिलान को 'नॉइजी वोट्स' के रूप में माना जाता है। यह पेपर एक लिंक की सफलता की संभावना को बीटा-बर्नौली पोस्टीरियर (Beta–Bernoulli posterior) का उपयोग करके मॉडल करता है। पोस्टीरियर मीन (mean) एक कॉन्फिडेंस स्कोर के रूप में कार्य करता है।
- इटरेटिव ग्रोथ: उच्च-विश्वास वाले लिंक्स (जिनके पोस्टीरियर स्कोर उच्च होते हैं) को अगले इटरेशन के लिए नए एंकर्स के रूप में प्रमोट किया जाता है। यह बूटस्ट्रैपिंग प्रक्रिया प्रारंभिक छोटे सीड सेट को एक बड़े कोरेस्पोंडेंस सेट में विस्तारित करती है।
- एडैप्टिव थ्रेशोल्डिंग: मॉडल-विशिष्ट विरूपण के कारण होने वाले स्प्यूरियस कोलिजन (spurious collisions) को अलग करने के लिए पोस्टीरियर स्कोर पर ओत्सु (Otsu) थ्रेशोल्ड लागू किया जाता है।

प्रमुख योगदान

समस्या का औपचारिककरण: आंशिक, अज्ञात ओवरलैप और सख्त ब्लैक-बॉक्स बाधाओं के तहत "वेक्टर लिंकिंग" समस्या को औपचारिक रूप दिया।
सैद्धांतिक अंतर्दृष्टि: स्थापित किया कि कंट्रास्टिव एनकोडर्स में स्थानीय दूरी की निरंतरता (local distance consistency) होती है, जो एनकोडर-इनवेरिएंट हैशिंग का आधार बनती है।
एल्गोरिदम: GEH विकसित किया, जो एक मल्टी-व्यू ज्योमेट्रिक हैशिंग एल्गोरिदम है जिसमें पोस्टीरियर-गाइडेड बूटस्ट्रैपिंग है, जो केवल 15-30 सीड पेयर्स का उपयोग करके सटीक रूप से लिंक्स को पुनः प्राप्त करता है।
अनुप्रयोग: रिकवर्ड लिंक्स के उपयोग को वेक्टर डेटाबेस इंटीग्रेशन और क्रॉस-मॉडल क्लस्टरिंग के लिए प्रदर्शित किया गया।

प्रायोगिक परिणाम
विधि का मूल्यांकन कई BEIR बेंचमार्क्स (NFCorpus, SciFact, ArguAna, SciDocs, FiQA, FEVER) और पांच एम्बेडिंग मॉडल जोड़ियों (Mistral, OpenAI, GTE, Qwen, और KaLM सहित) पर किया गया।

प्रदर्शन: GEH ने आठ बेसलाइन्स (Linear, CCA, MLP, RCSLS, Procrustes, और Unbalanced Gromov-Wasserstein सहित) को लगातार पछाड़ दिया। उदाहरण के लिए, केवल 15 सीड पेयर्स के साथ, GEH ने Mistral बनाम OpenAI के लिए FiQA डेटासेट पर 90% से अधिक रिकॉल प्राप्त किया, जबकि सर्वश्रेष्ठ बेसलाइन ने केवल ~20% रिकॉल प्राप्त किया।
मजबूती (Robustness): विधि विभिन्न ओवरलैप रेश्यो (15%–40%), सीड बजट, और यहाँ तक कि अलग-अलग डेटासेट्स से लिए गए आउट-ऑफ-डोमेन (OOD) सीड्स के बावजूद मजबूत रही।
स्केलेबिलिटी: FEVER डेटासेट (5.4 मिलियन डॉक्यूमेंट्स) पर, GEH ने लगभग 3328 सेकंड में 93.8% प्रिसिजन और 68.9% रिकॉल प्राप्त किया, जो इसकी इटरेटिव प्रकृति के बावजूद लीनियर बेसलाइन्स के समान या उनसे तेज़ स्केलेबिलिटी प्रदर्शित करता है।
डाउनस्ट्रीम प्रभाव: वेक्टर डेटाबेस इंटीग्रेशन कार्यों में, GEH-सक्षम यूनिफाइड रिट्रीवल एकल मॉडल का उपयोग करने वाली सैद्धांतिक ऊपरी सीमा के करीब पहुँच गया। क्रॉस-मॉडल क्लस्टरिंग में, इसने 75-98% ओवरलैपिंग ऑब्जेक्ट्स के लिए सुसंगत क्लस्टर असाइनमेंट को पुनः प्राप्त किया।

महत्ता
यह शोध पत्र तर्क देता है कि वेक्टर लिंकिंग एम्बेडिंग इंटरऑपरेबिलिटी के लिए एक व्यावहारिक प्रिमिटिव (primitive) है। कंट्रास्टिव एनकोडर्स की अंतर्निहित लोकल ज्योमेट्रिक कंसिस्टेंसी का लाभ उठाकर, यह ग्लोबल अलाइनमेंट धारणाओं (जो आंशिक ओवरलैप के तहत विफल हो जाती हैं) और रीट्रेनिंग की आवश्यकता को दरकिनार करता है। यह विजातीय (disparate) वेक्टर डेटाबेसों के एकीकरण और विभिन्न मॉडलों के एम्बेडिंग्स के संयुक्त विश्लेषण को सक्षम बनाता है, जो तेजी से विकसित हो रहे एम्बेडिंग-आधारित सूचना सिस्टम के परिदृश्य में एक महत्वपूर्ण बाधा को संबोधित करता है।

मुख्य समस्या: "मैप मिसमैच" (नक्शों का बेमेल होना)

बड़ी खोज: "स्थानीय पड़ोस" (Local Neighborhoods) समान रहते हैं

समाधान: एक "सीड" के साथ "जियोमेट्रिक हैशिंग"

यह क्यों महत्वपूर्ण है

पेपर में उल्लेखित वास्तविक दुनिया के उपयोग

इसी तरह के और पेपर