← नवीनतम पेपर
💬 NLP

MUNIChus: Multilingual News Image Captioning Benchmark

यह शोध पत्र MUNIChus को प्रस्तुत करता है, जो गैर-अंग्रेजी डेटासेट की कमी को दूर करने और इस चुनौतीपूर्ण कार्य में अत्याधुनिक मॉडलों के प्रदर्शन का मूल्यांकन करने के लिए नौ भाषाओं (जिनमें कम-संसाधन वाली भाषाएँ भी शामिल हैं) को समाहित करने वाला समाचार छवि कैप्शनिंग का पहला बहुभाषी बेंचमार्क है।

मूल लेखक: Yuji Chen, Alistair Plum, Hansi Hettiarachchi, Diptesh Kanojia, Saroj Basnet, Marcos Zampieri, Tharindu Ranasinghe

प्रकाशित 2026-03-12
📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Yuji Chen, Alistair Plum, Hansi Hettiarachchi, Diptesh Kanojia, Saroj Basnet, Marcos Zampieri, Tharindu Ranasinghe

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक समाचार पत्र में एक फोटो देख रहे हैं।

यदि आप एक सामान्य फोटो का वर्णन करते (जैसे पार्क में एक कुत्ते की तस्वीर), तो आप कह सकते, "एक कुत्ता घास पर दौड़ रहा है।" यह सटीक है, लेकिन यह केवल उस चीज़ का वर्णन है जो आपकी आँखें देख रही हैं।

लेकिन एक समाचार फोटो अलग होती है। वही कुत्ता एक प्रसिद्ध रेसघोड़ा "थंडर" हो सकता है जो केंटकी डर्बी जीत रहा है। एक सामान्य विवरण पूरे उद्देश्य को ही छोड़ देता है। एक अच्छे समाचार कैप्शन को कहना चाहिए, "चैंपियन रेसघोड़ा 'थंडर', केंटकी डर्बी में फिनिश लाइन को पार करते हुए, अपने सीजन की तीसरी जीत पक्की करता है।" यह दृश्य (कुत्ता) को कहानी (रेस, नाम, इतिहास) से जोड़ता है।

समस्या:
वर्षों से, कंप्यूटर सामान्य फोटो का वर्णन करने में बहुत अच्छे होते जा रहे हैं। लेकिन जब समाचार फोटो की बात आती है, तो वे संघर्ष करते हैं, विशेष रूप से अंग्रेजी के अलावा अन्य भाषाओं में। यह एक ऐसे प्रतिभाशाली अनुवादक की तरह है जो केवल अंग्रेजी बोलता है; वह आपको सिन्हाला, उर्दू या हिंदी में समाचार समझने में मदद नहीं कर सकता। मौजूदा अधिकांश डेटासेट जिनका उपयोग इन कंप्यूटरों को प्रशिक्षित करने के लिए किया जाता है, केवल अंग्रेजी में मौजूद हैं, जिससे बाकी दुनिया के लिए एक बड़ा अंतर पैदा हो गया है।

समाधान: MUNIChus
इस शोध पत्र के लेखकों ने MUNIChus (मल्टीलिंगुअल न्यूज इमेज कैप्शनिंग बेंचमार्क) बनाया है। इसे एक विशाल, वैश्विक "प्रशिक्षण जिम" के रूप में समझें।

  • द जिम (The Gym): इसमें 7,00,000 से अधिक समाचार फोटो हैं, जिनमें से प्रत्येक को वास्तविक समाचार लेख, हेडलाइन और एक मानव पत्रकार द्वारा लिखे गए सटीक कैप्शन के साथ जोड़ा गया है।
  • भाषाएँ: केवल अंग्रेजी के बजाय, इस जिम में 9 भाषाओं के लिए उपकरण हैं, जिनमें "लो-रिसोर्स" भाषाएँ (वे भाषाएँ जिनके पास डिजिटल डेटा कम उपलब्ध है, जैसे सिन्हाला और उर्दू) भी शामिल हैं।
  • लक्ष्य: कंप्यूटर को यह सिखाना कि एक फोटो को कैसे देखें, समाचार कहानी को कैसे पढ़ें, और एक ऐसा कैप्शन कैसे लिखें जो केवल चित्र में क्या है वह नहीं, बल्कि असली कहानी बताए।

प्रयोग: कंप्यूटरों ने कैसा प्रदर्शन किया?
शोधकर्ताओं ने यह देखने के लिए कि कौन सबसे अच्छा कैप्शन लिख सकता है, 20 से अधिक AI मॉडल (जो "छात्र" हैं) को इस जिम में डाला। उन्होंने तीन तरीकों से उनका परीक्षण किया:

  1. "ज़ीरो-शॉट" टेस्ट (The "Zero-Shot" Test): AI को फोटो और लेख दिया गया लेकिन कैप्शन लिखने का कोई उदाहरण नहीं दिया गया। उसे अपने सामान्य ज्ञान से इसे समझना था।
    • परिणाम: अधिकांश बुरी तरह विफल रहे। उन्होंने "ट्रॉफी पकड़े हुए एक महिला" जैसे सामान्य, उबाऊ वाक्य लिखे, बजाय इसके कि "मरेन मजेल्डे वुमेन्स सुपर लीग जीतती हैं।"
  2. "फ्यू-शॉट" टेस्ट (The "Few-Shot" Test): AI को नया कैप्शन लिखने से पहले कुछ अच्छे कैप्शन के उदाहरण दिखाए गए (जैसे किसी छात्र को टेस्ट से पहले कुछ नमूना निबंध दिखाना)।
    • परिणाम: इससे थोड़ी मदद मिली, लेकिन पर्याप्त नहीं। AI अभी भी विशिष्ट विवरणों को जोड़ने के लिए संघर्ष कर रहा था।
  3. "फाइन-ट्यूनिंग" टेस्ट (The "Fine-Tuning" Test): AI को वास्तव में MUNIChus डेटासेट पर प्रशिक्षित किया गया था। उसने समाचार लेखन की विशिष्ट शैली सीखने के लिए बार-बार कैप्शन लिखने का अभ्यास किया।
    • परिणाम: यही गेम-चेंजर था। जिन मॉडलों को फाइन-ट्यून किया गया था, वे बहुत बेहतर हो गए, उन्होंने अपने प्रदर्शन स्कोर को दोगुना कर दिया। वे अंततः नाम, स्थान और विशिष्ट घटनाओं को शामिल करने वाले कैप्शन लिखना शुरू कर दिए।

मुख्य बातें (The "Plot Twists"):

  • बड़ा होना हमेशा बेहतर नहीं होता: आप सोच सकते हैं कि एक विशाल, सुपर-स्मार्ट AI मॉडल जीतेगा। लेकिन कभी-कभी, एक छोटा, अधिक केंद्रित मॉडल जिसे विशेष रूप से समाचार डेटा पर प्रशिक्षित (फाइन-ट्यून) किया गया था, एक विशाल, सामान्य-उद्देश्य वाले AI की तुलना में बेहतर प्रदर्शन करता है। यह एक विशेषज्ञ मैकेनिक की तरह है जो कार को एक सामान्य मिस्त्री से बेहतर ठीक करता है, भले ही उस मिस्त्री को बाकी सब कुछ के बारे में अधिक जानकारी हो।
  • "सिन्हाला" का संघर्ष: सिन्हाला भाषा कंप्यूटरों के लिए सीखना सबसे कठिन था। प्रशिक्षण के बाद भी, स्कोर कम थे। यह सुझाव देता है कि AI ने अपने "बचपन" (प्री-ट्रेनिंग) में पर्याप्त सिन्हाला समाचार डेटा नहीं देखा है ताकि सांस्कृतिक संदर्भ को समझ सके। यह किसी को केवल शब्दकोश दिखाकर भाषा सिखाने की कोशिश करने जैसा है, बिना कभी भाषा को बोलते हुए सुने।
  • समाचार कठिन है: यहाँ तक कि सर्वश्रेष्ठ AI मॉडलों को भी इस कार्य में कठिनाई हुई। समाचार कैप्शन लिखने के लिए संदर्भ को समझने की आवश्यकता होती है—फोटो क्यों महत्वपूर्ण है, न कि केवल इसमें क्या है।

यह क्यों मायने रखता है?
यह शोध पत्र एक बड़ा कदम है क्योंकि यह दुनिया भर के लोगों को उनकी अपनी भाषाओं में समाचार समझने के लिए AI के द्वार खोलता है। यह इस बात पर प्रकाश डालता है कि AI को वास्तव में वैश्विक समाचारों के लिए उपयोगी बनाने के लिए, हमें उन भाषाओं के लिए अधिक डेटा की आवश्यकता है जिन्हें वर्तमान में अनदेखा किया जा रहा है, और हमें इन मॉडल्स को विशेष रूप से एक समाचार कहानी बताने के लिए सिखाने की आवश्यकता है, न कि केवल एक चित्र का वर्णन करने के लिए।

संक्षेप में: MUNIChus कंप्यूटरों को सच्चे बहुभाषी पत्रकारों के रूप में सिखाने की दिशा में पहला बड़ा कदम है, जो फोटो के पीछे की पूरी कहानी बताने में सक्षम हैं, चाहे आप कोई भी भाषा बोलते हों।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →