← नवीनतम पेपर
💻 computer science

EXAM2^2: Extending\underline{Ex}tending Audio\underline{A}udio $Understanding$ $in$ Multilingual\underline{M}ultilingual $and$ Multimodal\underline{M}ultimodal $Analysis$

यह शोध पत्र EXAM2^2 को प्रस्तुत करता है, जो छह भाषाओं और विविध ऑडियो-विजुअल परिदृश्यों में ऑडियो समझ का मूल्यांकन करने और उसे उन्नत करने के लिए डिज़ाइन किया गया एक व्यापक बहुभाषी और बहुआयामी बेंचमार्क है, जो वर्तमान मॉडलों में महत्वपूर्ण प्रदर्शन अंतराल और इन चुनौतियों से निपटने के लिए एक नए प्रस्तावित फाइन-ट्यून्ड मॉडल की प्रभावशीलता को प्रदर्शित करता है।

मूल लेखक: Jiawen Wang, Xiaoxue Gao, Zi Haur Pang, Nancy F. Chen

प्रकाशित 2026-08-26
📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Jiawen Wang, Xiaoxue Gao, Zi Haur Pang, Nancy F. Chen

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

ध्वनि की दुनिया विशाल और विविध है, जो मानव स्वर, एक लहर के टकराने और एक गीत की मधुर धुन से भरी हुई है। दशकों से, कंप्यूटर इन श्रव्य संकेतों को समझने के लिए संघर्ष कर रहे हैं, अक्सर उन्हें सार्थक जानकारी के बजाय केवल शोर मानकर छोड़ देते हैं। हाल के वर्षों में, कृत्रिम बुद्धिमत्ता (AI) की एक नई पीढ़ी उभरी है, जो ऑडियो सुनने और जो वह सुनती है उसके बारे में प्रश्नों के उत्तर देने में सक्षम है। ये प्रणालियाँ, जिन्हें 'लार्ज ऑडियो लैंग्वेज मॉडल्स' के रूप में जाना जाता है, भाषण को समझने और ध्वनियों की पहचान करने में उल्लेखनीय क्षमता प्रदर्शित कर चुकी हैं। हालाँकि, उन्हें परखने के तरीके में एक महत्वपूर्ण अंतर बना हुआ है। अधिकांश मौजूदा परीक्षण केवल अंग्रेजी पर केंद्रित हैं और पूरी तरह से ऑडियो पर निर्भर करते हैं, इस तथ्य की अनदेखी करते हुए कि वास्तविक दुनिया में, ध्वनि शायद ही कभी शून्य में होती है। यह लगभग हमेशा एक दृश्य परिदृश्य के साथ होती है, और ध्वनि का अर्थ बोली जाने वाली भाषा और देखे गए संदर्भ के आधार पर बदल सकता है।

इस अंतर को पाटने के लिए, शोधकर्ताओं ने EXAM2 नामक एक नया मूल्यांकन उपकरण पेश किया है। यह बेंचमार्क यह परीक्षण करने के लिए डिज़ाइन किया गया है कि कृत्रिम बुद्धिमत्ता कितनी अच्छी तरह समझ सकती है जब ऑडियो को दृश्य छवियों के साथ जोड़ा जाता है और कई भाषाओं में बोला जाता है। इस परियोजना के पीछे की टीम, जिसमें जर्मनी, चीन, जापान और सिंगापुर के संस्थानों के विशेषज्ञ शामिल हैं, ने महसूस किया कि वर्तमान परीक्षण बहुत संकीर्ण थे। उन्होंने एक व्यापक डेटासेट बनाया जिसमें हजारों प्रश्न शामिल हैं जिनके लिए कंप्यूटर को एक ऑडियो क्लिप सुनने, एक छवि देखने और फिर विकल्पों की सूची में से सही उत्तर चुनने की आवश्यकता होती है। ये प्रश्न तीन मुख्य प्रकार की ध्वनियों को कवर करते हैं: मानव भाषण, पर्यावरणीय शोर और संगीत। महत्वपूर्ण बात यह है कि ये प्रश्न न केवल अंग्रेजी में हैं बल्कि उन्हें पांच अन्य भाषाओं में भी अनुवादित किया गया है: जर्मन, स्पेनिश, जापानी, मलय और चीनी। यह शोधकर्ताओं को यह देखने की अनुमति देता है कि क्या किसी मॉडल की समझ तब भी बनी रहती है जब भाषा बदलती है या जब उसे जो वह सुनता है उसे जो वह देखता है उसके साथ जोड़ना होता है।

शोधकर्ताओं ने विभिन्न स्रोतों से ऑडियो रिकॉर्डिंग को सावधानीपूर्वक चुनकर इस बेंचमार्क का निर्माण किया, यह सुनिश्चित करते हुए कि वे सिंथेटिक डेटा के बजाय वास्तविक दुनिया के परिदृश्यों का प्रतिनिधित्व करते हैं। प्रत्येक बहुविकल्पीय प्रश्न के लिए, उन्होंने एक सुराग के रूप में कार्य करने के लिए एक संगत छवि उत्पन्न की। इस प्रक्रिया में गुणवत्ता नियंत्रण की एक कठोर पाइपलाइन शामिल थी, जहाँ मानव विशेषज्ञों ने ऑडियो, टेक्स्ट और उत्पन्न छवियों की समीक्षा की ताकि यह सुनिश्चित किया जा सके कि वे सटीक और प्रासंगिक हैं। अंतिम डेटासेट में लगभग 5,700 प्रश्न, 22,000 से अधिक छवियां और छह भाषाओं में 135,000 से अधिक अनुवादित उदाहरण शामिल हैं। यह विशाल संग्रह कृत्रिम बुद्धिमत्ता के लिए एक कठोर प्रशिक्षण मैदान और परीक्षण क्षेत्र के रूप में कार्य करता है, जो इन प्रणालियों को विभिन्न प्रकार की सूचनाओं को एक साथ समझने के लिए प्रेरित करता है।

जब शोधकर्ताओं ने इस नए बेंचमार्क पर अत्याधुनिक कृत्रिम बुद्धिमत्ता मॉडलों का परीक्षण किया, तो परिणामों ने ताकत और महत्वपूर्ण कमजोरियों दोनों का खुलासा किया। सबसे सक्षम मॉडल, विशेष रूप से वे जो ऑडियो और छवियों दोनों को एक साथ संसाधित कर सकते थे, उन मॉडलों की तुलना में बेहतर प्रदर्शन करते थे जो केवल ध्वनि पर निर्भर थे। यह सुझाव देता है कि दृश्य संदर्भ कंप्यूटर को ध्वनियों के बीच अंतर करने में मदद करता है, जिससे यह समझना आसान हो जाता है कि दृश्य में क्या हो रहा है। हालाँकि, अध्ययन में भाषा के आधार पर प्रदर्शन में स्पष्ट असमानता भी पाई गई। मॉडल आमतौर पर पूर्वी भाषाओं जैसे जापानी और चीनी की तुलना में पश्चिमी भाषाओं जैसे अंग्रेजी, जर्मन और स्पेनिश पर बहुत बेहतर प्रदर्शन करते हैं। यह अंतर विशेष रूप से तब देखा गया जब कार्य में पर्यावरणीय ध्वनियों या संगीत की पहचान करना शामिल था, जो यह दर्शाता है कि वर्तमान प्रणालियाँ अभी भी उच्च-संसाधन वाली भाषाओं की ओर अत्यधिक झुकी हुई हैं और अन्य भाषाई एवं सांस्कृतिक संदर्भों की बारीकियों के साथ संघर्ष करती हैं।

इन चुनौतियों से निपटने के लिए, टीम ने अपना स्वयं का हल्का (लाइटवेट) मॉडल विकसित किया, जिसे उनके नए बहुभाषी और मल्टीमॉडल डेटा का उपयोग करके फाइन-ट्यून किया गया। यह मॉडल, जो छह सभी भाषाओं और ऑडियो एवं विजुअल इनपुट दोनों को संभालने के लिए प्रशिक्षित है, मौजूदा बेसलाइन्स की तुलना में पर्याप्त सुधार दिखाता है। इसने सटीकता में महत्वपूर्ण वृद्धि हासिल की, विशेष रूप से भाषण और संगीत श्रेणियों में, और यह प्रदर्शित किया कि कई भाषाओं पर एक साथ प्रशिक्षण लेने से मॉडल विभिन्न भाषाई परिवेशों में बेहतर सामान्यीकरण (जनरलाइजेशन) करने में मदद करता है। निष्कर्ष यह है कि हालांकि कृत्रिम बुद्धिमत्ता सुनने में बेहतर हो रही है, लेकिन वास्तविक समझ के लिए दुनिया की भाषाओं को देखने और बोलने की क्षमता की आवश्यकता होती है। शोधकर्ता निष्कर्ष निकालते हैं कि इन प्रणालियों को वास्तव में मजबूत बनाने के लिए, भविष्य के विकास को विविध भाषाओं और दृश्य एवं श्रव्य जानकारी के एकीकरण को प्राथमिकता देनी चाहिए, जो अंग्रेजी-मात्र और ऑडियो-मात्र परीक्षण की सीमाओं से परे हो।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →