💬 NLP

FLiP: Towards understanding and interpreting multimodal multilingual sentence embeddings

यह शोध पत्र FLiP को प्रस्तुत करता है, जो एक फैक्टराइज्ड लीनियर प्रोजेक्शन मॉडल है जो बहुभाषी और बहुआयामी वाक्य एम्बेडिंग्स से लेक्सिकल सामग्री को प्रभावी ढंग से पुनर्प्राप्त करता है, जो डाउनस्ट्रीम कार्यों पर निर्भर किए बिना प्रीट्रेंड एनकोडर्स में अंतर्निहित पूर्वाग्रहों को उजागर करने के लिए एक नैदानिक उपकरण के रूप में कार्य करता है।

मूल लेखक: Santosh Kesiraju, Bolaji Yusuf, Šimon Sedláček, Oldřich Plchot, Petr Schwarz

प्रकाशित 2026-04-21

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Santosh Kesiraju, Bolaji Yusuf, Šimon Sedláček, Oldřich Plchot, Petr Schwarz

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक सुपर-स्मार्ट रोबोट है जो किसी भी भाषा में एक वाक्य पढ़ सकता है या किसी भी भाषा की आवाज़ सुन सकता है, और फिर उस पूरे विचार को एक एकल, छोटे, 1,000-नंबरों वाले "जादुई कोड" में बदल सकता है। इस कोड को सेंटेंस एम्बेडिंग (sentence embedding) कहा जाता है।

समस्या क्या है? यह जादुई कोड एक ब्लैक बॉक्स है। आप कोड देख सकते हैं, लेकिन आपको वास्तव में पता नहीं है कि इसके अंदर क्या है। क्या यह "बिल्ली" के बारे में सोच रहा है? क्या यह "दौड़ने" के बारे में सोच रहा है? क्या यह "फ्रेंच" के बारे में सोच रहा है? यह एक सीलबंद, एन्क्रिप्टेड यूएसबी ड्राइव को देखने जैसा है और बिना उसे खोले यह अनुमान लगाने की कोशिश करना कि उसमें कौन सी फाइलें हैं।

यह शोध पत्र इस कोड को तोड़ने के लिए एक नया टूल पेश करता है जिसे FLiP (फैक्टरइज़्ड लीनियर प्रोजेक्शन) कहा जाता है। यह कैसे काम करता है, यहाँ सरल रूप में समझाया गया है:

1. समस्या: "जादुई कोड" का रहस्य

इन सेंटेंस एम्बेडिंग्स को कंप्रेस्ड सूटकेस (compressed suitcases) के रूप में सोचें। एक रोबोट एक पूरी कहानी (जैसे, "बिल्ली चटाई पर बैठी है") को एक छोटे से सूटकेस में पैक कर देता है। जब शोधकर्ता जानना चाहते हैं कि इसके अंदर क्या है, तो वे आमतौर पर सूटकेस का उपयोग किसी विशिष्ट कार्य (जैसे अनुवाद या खोज) के लिए करने की कोशिश करते हैं। लेकिन इससे उन्हें यह पता नहीं चलता कि सूकेटस के अंदर वास्तव में क्या है।

2. समाधान: FLiP (एक "अनपैकिंग" टूल)

लेखकों ने FLiP बनाया है, जो एक स्मार्ट अनपैकिंग मशीन की तरह काम करता है। अर्थ का अनुमान लगाने के बजाय, FLiP सूटकेस में मौजूद नंबरों को देखकर मूल शब्दों को पुनर्गठित (reconstruct) करने की कोशिश करता है।

यह कैसे काम करता है: FLiP "जादुई कोड" को लेता है और उसे एक सरल गणितीय फ़िल्टर (एक लीनियर प्रोजेक्शन) के माध्यम से चलाता है।
उपमा: कल्पना कीजिए कि आपके पास एक किताब के पन्ने की धुंधली, लो-रिज़ॉल्यूशन वाली फोटो है। FLiP एक सुपर-पावर्ड फोटो एडिटर की तरह है जो इमेज को इतना शार्प कर देता है कि आप फिर से शब्दों को पढ़ सकें।
परिणाम: यह मूल वाक्य के वास्तविक शब्दों को केवल कोड को देखकर 75% से 80% तक सफलतापूर्वक "याद" या पुनः प्राप्त कर लेता है। यह साबित करता है कि रोबोट केवल अमूर्त भाव (abstract vibes) स्टोर नहीं कर रहा है; बल्कि वह वास्तव में विशिष्ट शब्दों को एक बहुत ही व्यवस्थित, लीनियर तरीके से स्टोर कर रहा है।

3. "फैक्टरइज़्ड" क्यों महत्वपूर्ण है

लेखकों ने देखा कि यदि वे एक विशाल, अव्यवस्थित टूल का उपयोग करके सूटकेस को खोलने की कोशिश करते, तो यह अच्छी तरह से काम नहीं करता। इसलिए, उन्होंने टूल को दो छोटे, विशिष्ट भागों में विभाजित किया (फैक्टरइज़ेशन)।

उपमा: कल्पना कीजिए कि आप एक जटिल ताले को खोलने की कोशिश कर रहे हैं। एक विशाल, भारी रिंच (wrench) के बजाय, आप एक चाबी और एक छोटे लीवर का उपयोग करते हैं। यह अधिक कुशल है, कम जगह लेता है, और ताले को अधिक सफाई से खोलता है। इस "विभाजन" वाले दृष्टिकोण ने टूल को शब्द खोजने में बहुत बेहतर बना दिया।

4. उन्होंने क्या खोजा (एक "एक्स-रे" दृष्टि)

एक बार जब उनके पास यह अनपैकिंग टूल आ गया, तो उन्होंने तीन प्रसिद्ध AI मॉडलों (SONAR, LaBSE, और Gemini) का "एक्स-रे" लेने के लिए इसका उपयोग किया ताकि यह देखा जा सके कि वे कैसे सोचते हैं। यहाँ उन्हें क्या पता चला:

"इंग्लिश बायस" (English Bias): AI मॉडल उन छात्रों की तरह हैं जिन्होंने अंग्रेजी की परीक्षा के लिए कड़ी मेहनत की है लेकिन अन्य भाषाओं में थोड़े कच्चे हैं।
- जब AI को अंग्रेजी पर प्रशिक्षित किया जाता है और जर्मन पर टेस्ट किया जाता है, तो यह बहुत अच्छा काम करता है।
- लेकिन जब इसे एक दूर की भाषा (जैसे तमिल या तेलुगु) पर प्रशिक्षित किया जाता है और अंग्रेजी पर टेस्ट किया जाता है, तो इसे शब्दों को सही ढंग से "अनपैक" करने में कठिनाई होती है।
- रूपक: यह एक ऐसे अनुवादक की तरह है जो अंग्रेजी में माहिर है लेकिन एक जटिल जापानी कविता को समझाने के लिए केवल अंग्रेजी व्याकरण के नियमों का उपयोग करने की कोशिश करता है—वह सार तो समझ लेता है, लेकिन विवरण खो जाते हैं।
स्पीच बनाम टेक्स्ट (Speech vs. Text): मॉडल आश्चर्यजनक रूप से बोले गए वाक्य और लिखे गए वाक्य को एक ही चीज़ के रूप में मानने में सक्षम हैं। यदि आप "Hello" कहते हैं या "Hello" टाइप करते हैं, तो AI दोनों के लिए लगभग एक समान "जादुई कोड" बनाता है।
"स्टॉप वर्ड" का जाल (The "Stop Word" Trap): टूल ने पाया कि AI अक्सर "the," "is," या "was" जैसे सामान्य शब्दों से विचलित हो जाता है।
- उपमा: यदि आप AI को किसी कहानी का सारांश देने के लिए कहते हैं, तो वह "THE" और "WAS" चिल्ला सकता है क्योंकि वे इतनी बार आते हैं कि वे "Brooklyn" या "Eisen" जैसे महत्वपूर्ण नामों को दबा देते हैं।
- समाधान: लेखकों ने पाया कि अपने टूल में एक विशिष्ट "वॉल्यूम नॉब" (बायस वेक्टर) को बंद करके, वे AI को उबाऊ शब्दों को चिल्लाने से रोक सकते हैं और महत्वपूर्ण नामों और स्थानों पर ध्यान केंद्रित कर सकते हैं।

5. यह क्यों महत्वपूर्ण है

इस शोध पत्र से पहले, यदि आप जानना चाहते थे कि कोई AI मॉडल "अच्छा" है या नहीं, तो आपको इसे सैकड़ों उबाऊ परीक्षणों (जैसे "क्या यह इसका अनुवाद कर सकता है?" या "क्या यह इस क्विज़ का उत्तर दे सकता है?") से गुजारना पड़ता था।

FLiP खेल बदल देता है। यह डॉक्टरों के लिए एक डायग्नोस्टिक टूल की तरह है। मरीज के बीमार होने (टेस्ट में फेल होने) का इंतज़ार करने के बजाय कि मॉडल खराब है, FLiP इंजीनियरों को मॉडल के मस्तिष्क के अंदर झांकने की अनुमति देता है ताकि वे अभी देख सकें कि:

"क्या यह वास्तव में शब्दों को याद रख रहा है?"
"क्या यह अंग्रेजी की ओर झुका हुआ (biased) है?"
"क्या यह स्पीच और टेक्स्ट के बीच भ्रमित हो रहा है?"

सारांश

यह शोध पत्र FLiP प्रस्तुत करता है, जो एक सरल लेकिन शक्तिशाली टूल है जो AI सेंटेंस कोड के लिए एक डिकोडर रिंग (decoder ring) के रूप में कार्य करता है। यह सिद्ध करता है कि ये AI मॉडल वास्तव में शब्दों को एक लीनियर, व्यवस्थित तरीके से स्टोर करने में आश्चर्यजनक रूप से अच्छे हैं। हालाँकि, यह भी उजागर करता है कि ये मॉडल अंग्रेजी की ओर अत्यधिक झुके हुए हैं, और अन्य भाषाओं को "द्वितीय श्रेणी के नागरिक" के रूप में देखते हैं। यह टूल शोधकर्ताओं को इन पूर्वाग्रहों (biases) को ठीक करने में मदद करता है, जिसके लिए बड़े, महंगे परीक्षणों की आवश्यकता नहीं होती।

यहाँ शोध पत्र "FLiP: Towards understanding and interpreting multimodal multilingual sentence embeddings" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

सेंटेंस एम्बेडिंग मॉडल (एनकोडर) जैसे कि SONAR, LaBSE, और Gemini, टेक्स्ट और स्पीच से जटिल सिमेंटिक जानकारी को एकल, उच्च-आयामी (high-dimensional) वेक्टर्स में संकुचित करते हैं। हालांकि ये वेक्टर्स डाउनस्ट्रीम कार्यों (रिट्रीवल, क्लासिफिकेशन) के लिए प्रभावी हैं, लेकिन वे "ब्लैक बॉक्स" की तरह कार्य करते हैं।

अंतराल (The Gap): ऐसे व्यापक उपकरणों का अभाव है जो यह व्याख्या कर सकें कि इन वेक्टर्स के भीतर विशिष्ट लेक्सिकल सामग्री या अवधारणाएं (concepts) क्या संचित हैं, विशेष रूप से विभिन्न मोडैलिटीज (स्पीच बनाम टेक्स्ट) और भाषाओं के संदर्भ में।
वर्तमान विधियों की सीमाएँ: मौजूदा इंटरप्रिटेबिलिटी शोध अक्सर केवल अंग्रेजी-केंद्रित टेक्स्ट पर ध्यान केंद्रित करते हैं या भारी डाउनस्ट्रीम बेंचमार्किंग (जैसे MTEB) पर निर्भर करते हैं, जो मॉडल्स को रैंक तो करते हैं लेकिन यह स्पष्ट नहीं करते कि वे एक निश्चित तरीके से प्रदर्शन क्यों करते हैं या कंप्रेशन के दौरान विशिष्ट जानकारी कैसे खो जाती है।
लक्ष्य: लेखकों का लक्ष्य एम्बेडिंग्स से लेक्सिकल सामग्री को पुनः प्राप्त करने के लिए एक डायग्नोस्टिक टूल विकसित करना है, जिससे पूर्वाग्रहों (मोडैलिटी और भाषा) को उजागर किया जा सके और एम्बेडिंग स्पेस के भीतर सिमेंटिक कॉन्सेप्ट्स की "लिनियरिटी" (linearity) को मापा जा सके।

2. कार्यप्रणाली: फैक्टरइज़्ड लीनियर प्रोजेक्शन (FLiP)

मुख्य योगदान FLiP है, जिसे एक कीवर्ड एक्सट्रैक्शन टास्क के रूप में इंटरप्रिटेशन को एक लीनियर प्रोजेक्शन के माध्यम से संचालित करने के लिए डिज़ाइन किया गया है।

A. मुख्य सूत्र (Core Formulation)

एम्बेडिंग को ब्लैक बॉक्स मानने के बजाय, FLiP एक लीनियर प्रोजेक्शन का उपयोग करके मूल "बैग-ऑफ-वर्ड्स" (वोकैबुलरी डिस्ट्रीब्यूशन) को पुनर्गठित करने का प्रयास करता है।

इनपुट: एक सेंटेंस एम्बेडिंग वेक्टर $t_n$ (टेक्स्ट से) या $s_n$ (स्पीच से)।
टारगेट: एक बैग-ऑफ-वर्ड्स वेक्टर $x_n$ जो स्रोत टेक्स्ट के वोकैबुलरी काउंट्स को दर्शाता है।
तंत्र (Mechanism): मॉडल एक प्रोजेक्शन मैट्रिक्स $W$ और बायस $b$ सीखता है ताकि एम्बेडिंग को वोकैबुलरी स्पेस में मैप किया जा सके। शब्दों पर प्रायिकता वितरण (probability distribution) की गणना इस प्रकार की जाती है:
$\theta_n = \text{softmax}(b + W t_n)$
ऑप्टिमाइज़ेशन: मॉडल ट्रेनिंग डेटा के रेगुलराइज्ड लॉग-लाइक्लीहुड को मैक्सिमाइज करता है।

B. फैक्टरइज़ेशन (The "FLiP" Innovation)

लेखक प्रोजेक्शन मैट्रिक्स $W = AB$ के फैक्टरइज़्ड संस्करण को पेश करते हैं, जहाँ:

$A \in \mathbb{R}^{|V| \times r}$ : वर्ड एम्बेडिंग मैट्रिक्स।
$B \in \mathbb{R}^{r \times d}$ : मोडैलिटी-टू-लेटेंट प्रोजेक्शन।
$r$ : एक लो-रैंक डायमेंशन ( $r \leq d$ )।
लाभ: यह फैक्टरइज़ेशन एक निहित (implicit) रेगुलराइज़र के रूप में कार्य करता है, जिससे जनरलाइजेशन और ट्रेनिंग दक्षता में सुधार होता है। यह मॉडल को कम मापदंडों (जैसे, एक 512-डायमेंशन रैंक लगभग फुल-रैंक 1024 के समान प्रदर्शन करता है) के साथ उच्च प्रदर्शन प्राप्त करने की अनुमति देता है।

C. क्रॉस-मोडल और क्रॉस-लिंगुअल ट्रेनिंग

मल्टीमॉडल (स्पीच/टेक्स्ट) और मल्टीलिंगुअल डेटा को संभालने के लिए, ट्रेनिंग ऑब्जेक्टिव विभिन्न स्रोतों से संकेतों को जोड़ता है:
$L = \sum_{n=1}^{N} [\alpha x_n^T \log(\theta_n) + (1-\alpha) x_n^T \log(\phi_n)] - R(W)$

$\alpha$ टेक्स्ट और स्पीच (या प्राथमिक और माध्यमिक भाषाओं) के योगदान को संतुलित करता है।
यह मॉडल को एक एकीकृत प्रतिनिधित्व सीखने में सक्षम बनाता है जो मोडैलिटी शिफ्ट के प्रति मजबूत (robust) है (जैसे, टेक्स्ट एम्बेडिंग्स को डिकोड करने के लिए स्पीच पर ट्रेनिंग करना)।

D. इन्फरेंस (Inference)

इन्फरेंस के समय, एक अनदेखे एम्बेडिंग के लिए, मॉडल लॉजिट्स $z = b + A(Bu) $की गणना करता है और टॉप-$ k$ इंडेक्स को कीवर्ड के रूप में चुनता है। रनटाइम पर किसी भी सर्च या ऑप्टिमाइज़ेशन की आवश्यकता नहीं होती है।

3. मुख्य योगदान

उच्च-फिडेलिटी रिकवरी (High-Fidelity Recovery): यह प्रदर्शित किया गया कि FLiP अच्छी तरह से एनकोड किए गए सेंटेंस एम्बेडिंग्स से 75–80% लेक्सिकल सामग्री को पुनः प्राप्त कर सकता है, जो यह सिद्ध करता है कि सिमेंटिक कॉन्सेप्ट्स काफी हद तक इन स्पेसों में लीनियर रूप से प्रतिनिधित्व किए जाते हैं।
डायग्नोस्टिक टूल: FLiP को डाउनस्ट्रीम टास्क बेंचमार्क पर निर्भर हुए बिना मोडैलिटी अलाइनमेंट (स्पीच बनाम टेक्स्ट) और लैंग्वेज अलाइनमेंट (क्रॉस-लिंगुअल बायस) का व्यवस्थित रूप से विश्लेषण करने के एक तरीके के रूप में स्थापित किया गया है।
बेसलाइन से श्रेष्ठता: दिखाया गया कि FLi-P, कीवर्ड एक्सट्रैक्शन सटीकता और पैरामीटर दक्षता के मामले में मौजूदा बेसलाइन जैसे SpLiCE (जो एम्बेडिंग्स को स्पार्स कॉन्सेप्ट्स में डिकंपोज करता है) से काफी बेहतर प्रदर्शन करता है।
बायस डिस्कवरी: यह उजागर किया गया कि जबकि इंट्रा-लैंग्वेज मोडैलिटी अलाइनमेंट मजबूत है, क्रॉस-लिंगुअल अलाइनमेंट अत्यधिक इंग्लिश-बायस्ड (English-biased) है, जहाँ भाषाई रूप से भिन्न भाषाओं के लिए प्रदर्शन काफी गिर जाता है।

मापदंडों और विश्लेषण के परिणाम

A. फैक्टरइज़ेशन और रैंक

फैक्टरइज़ेशन महत्वपूर्ण है: फैक्टरइज़्ड मॉडल (FLiP), नॉन-फैक्टरइज़्ड लीनियर प्रोबिंग (LiP) की तुलना में काफी बेहतर प्रदर्शन करते हैं।
रैंक दक्षता: एक रैंक 512 ने इंग्लिश टेक्स्ट (SONAR) पर 76.77% सटीकता प्राप्त की, जो लगभग फुल-रैंक (1024) मॉडल (77.29%) के बराबर है, लेकिन इसमें आधे पैरामीटर्स हैं। कम रैंक (128) में प्रदर्शन में गिरावट देखी गई।

B. मोडैलिटी अलाइनमेंट (SONAR)

मजबूत अलाइनमेंट: जब एक मोडैलिटी (जैसे, स्पीच) पर प्रशिक्षित किया गया और दूसरी (टेक्स्ट) पर परीक्षण किया गया, तो प्रदर्शन उच्च बना रहा।
ट्रांसफ़रेबिलिटी: स्पीच एम्बेडिंग्स पर ट्रेनिंग करने से टेक्स्ट डोमेन में ट्रांसफ़रेबिलिटी में थोड़ा सुधार हुआ, जो यह सुझाव देता है कि SONAR में स्पीच एम्बेडिंग्स मजबूत हैं।
निरंतरता (Consistency): विभिन्न मोडैलिटीज पर प्रशिक्षित मॉडल्स के बीच उच्च जैकार्ड इंडेक्स (>87%) यह संकेत देता है कि वे समान सिमेंटिक कॉन्सेप्ट्स को निकालते हैं।

C. लैंग्वेज अलाइनमेंट और बायस

इंग्लिश प्रभुत्व: इंग्लिश (EN) लीनियर रिप्रेजेंटेशन के लिए "पसंदीदा" भाषा है।
- EN पर ट्रेनिंग करने से भाषाई रूप से समान भाषाओं (जर्मन, फ्रेंच) पर उच्च सटीकता मिलती है।
- गैर-EN भाषाओं पर ट्रेनिंग करने से EN पर परीक्षण करते समय प्रदर्शन में महत्वपूर्ण अंतर आता है।
विजातीय भाषाएँ (Distant Languages): भाषाई रूप से भिन्न जोड़ों (जैसे, इंग्लिश-तमिल, इंग्लिश-तेलुगु) के लिए, प्रदर्शन का अंतर बहुत बढ़ जाता है (जैसे, वोकैबुलरी मिसमैच होने पर ~70% से ~48% तक गिरना), जो एम्बेडिंग स्पेस में खराब क्रॉस-लिंगुअल लीनियर अलाइनमेंट को दर्शाता है।
वोकैबुलरी प्रभाव: इंग्लिश वोकैबुलरी का उपयोग करने से सबसे अच्छे परिणाम मिलते हैं, जो इन एम्बेडिंग्स की इंग्लिश-केंद्रित प्रकृति को और अधिक उजागर करता है।

D. एनकोडर के बीच तुलना

SONAR बनाम LaBSE बनाम Gemini:
- SONAR (मल्टीमॉडल) ने सभी भाषाओं में सर्वश्रेष्ठ कीवर्ड एक्सट्रैक्शन प्रदर्शन दिखाया।
- LaBSE (टेक्स्ट-ओनली) और Gemini (API-आधारित) का प्रदर्शन कम रहा, जिसमें Gemini ने तब महत्वपूर्ण गिरावट दिखाई जब वोकैबुलरी भाषा एम्बेडिंग भाषा से मेल नहीं खाती थी।

E. नेम्ड एंटिटी रिकॉल (Named Entity Recall)

बायस करेक्शन: बायस वेक्टर $b$ (जो बार-बार आने वाले स्टॉप वर्ड्स के लिए लॉग-प्रायर के रूप में कार्य करता है) को हटाने से वास्तव में नेम्ड एंटिटी रिकॉल में सुधार हुआ। बायस अक्सर सामान्य स्टॉप वर्ड्स (जैसे, "was", "in") को अधिक वेट देता है, जिससे टॉप- $k$ लिस्ट से विशिष्ट एंटिटीज विस्थापित हो जाती हैं।

F. SpLiCE के साथ तुलना

FLiP ने टेक्स्ट एम्बेडिंग्स पर ~61% स्पैन-अवेयर सटीकता प्राप्त की, जो SpLiCE (~29%) के प्रदर्शन से लगभग दोगुना है, जो यह सिद्ध करता है कि यह डेंस एम्बेडिंग्स की व्याख्या करने के लिए एक अधिक प्रभावी उपकरण है।

5. महत्व और निष्कर्ष

इंटरप्रिटेबिलिटी: FLiP यह समझने के लिए एक "वैज्ञानिक खोज" प्रदान करता है कि एक सिंगल वेक्टर में क्या भरा हुआ है, और यह पुष्टि करता है कि अधिकांश लेक्सिकल कंटेंट को डिकोड करने के लिए लीनियर प्रोजेक्शन पर्याप्त हैं।
व्यावहारिक उपयोगिता: यह विशेषज्ञों को अपने मॉडल के पूर्वाग्रहों (जैसे, "क्या मेरा मॉडल इंग्लिश टेक्स्ट की तरह ही तमिल स्पीच को समझता है?") का मूल्यांकन करने के लिए एक हल्का, इनट्रिन्सिक डायग्नोस्टिक टूल प्रदान करता है, जिसके लिए भारी डाउनस्ट्रीम बेंचमार्किंग की आवश्यकता नहीं है।
मॉडल डिज़ाइन के निहितार्थ: निष्कर्ष बताते हैं कि जबकि वर्तमान मॉडल एक भाषा के भीतर मोडैलिटीज को संरेखित करने में उत्कृष्ट हैं, वे क्रॉस-लिंगुअल सेटिंग्स में महत्वपूर्ण इंग्लिश बायस से ग्रस्त हैं। भविष्य के मॉडल्स को लो-रिसोर्स और भाषाई रूप से भिन्न भाषाओं के लिए लीनियर सिमेंटिक अलाइनमेंट में सुधार करने की आवश्यकता है।

FLiP का कोड सार्वजनिक रूप से उपलब्ध है, जिससे समुदाय को मल्टीमॉडल मल्टीलिंगुअल एम्बेडिंग्स की जांच करने और उन्हें बेहतर बनाने में मदद मिलेगी।