← नवीनतम पेपर
🤖 AI

Auto-AEG: Scalable Data Construction for Open-Vocabulary Audio Event Grounding

यह शोध पत्र Auto-AEG प्रस्तुत करता है, जो एक स्केलेबल पाइपलाइन है जो प्रोग्रामेटिक रूप से सिंथेसाइज किए गए क्लिप्स को मल्टी-मॉडल स्यूडो-लेबल्स और रीइन्फोर्समेंट लर्निंग के साथ जोड़कर ओपन-वोकैबुलरी ऑडियो इवेंट ग्राउंडिंग में डेटा की कमी की बाधा को दूर करता है ताकि लार्ज ऑडियो-लैंग्वेज मॉडल्स की टेम्पोरल लोकलाइजेशन क्षमताओं को महत्वपूर्ण रूप से बढ़ाया जा सके।

मूल लेखक: Zihan Zhang, Xize Cheng, Wenhao Yan, Tong Zhang, Dongjie Fu, Boyun Zhang, Yongbo He, Tao Jin

प्रकाशित 2026-07-22
📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Zihan Zhang, Xize Cheng, Wenhao Yan, Tong Zhang, Dongjie Fu, Boyun Zhang, Yongbo He, Tao Jin

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान रोबोट को दुनिया को सुनना सिखा रहे हैं। आपने पहले ही उसे एक बेहतरीन कहानीकार बनना सिखा दिया है; यदि आप उसे तूफान की एक रिकॉर्डिंग सुनाते हैं, तो वह आपको बता सकता है, "यह भारी बारिश और गरज जैसा लग रहा है।" लेकिन एक पेचीदा हिस्सा है: रोबोट यह जानने में बहुत बुरा है कि चीजें ठीक कब होती हैं। वह कह सकता है, "मुझे बारिश सुनाई दे रही है," लेकिन वह आपको यह नहीं बता सकता कि बारिश 2:03 पर शुरू हुई या 2:15 पर। दूसरी ओर, पुराने जमाने के साउंड डिटेक्टर सख्त पुस्तकालयाध्यक्षों (लाइब्रेरियन) की तरह होते हैं: वे बिल्कुल सटीक सेकंड तक बता सकते हैं कि कोई आवाज कब शुरू और खत्म होती है, लेकिन वे केवल शब्दों की एक छोटी, पूर्व-अनुमोदित सूची ही पहचान सकते हैं। यदि आप उनसे "चरचराती दरवाजे" के बारे में पूछेंगे, तो वे शायद कह देंगे, "मैं यह शब्द नहीं जानता," भले ही वह आवाज वहीं मौजूद हो।

यह शोध उस जटिल मध्य मार्ग को संबोधित करता है: एक स्मार्ट रोबट को न केवल यह समझने में सक्षम बनाना कि कोई ध्वनि क्या है, बल्कि उसे उस सटीक क्षण की ओर इशारा करना भी सिखाना जब वह घटित होती है, भले ही वह ध्वनि ऐसी हो जिसे उसने पहले कभी नहीं सुना हो। बड़ी समस्या यह है कि इस कौशल को सिखाना अविश्वसनीय रूप से कठिन है क्योंकि घंटों के ऑडियो को सुनने और हर एक सेकंड को चिह्नित करने के लिए मनुष्यों को काम पर रखना बहुत समय लेने वाला काम है। यह किसी को पियानो बजाना सिखाने की तरह है जहाँ वे बिना कभी चाबियों को छुए लाखों घंटों के वीडियो देखते रहते हैं। शोधकर्ता एक तरीका खोजना चाहते थे जिससे उन्हें लाखों मानव शिक्षकों की आवश्यकता न पड़े।

यहाँ Auto-AEG आता है, जो एक चतुर, स्वचालित ट्यूटर की तरह काम करता है। मानव द्वारा हर ध्वनि को लेबल करने का इंतजार करने के बजाय, शोधकर्ताओं ने एक ऐसा पाइपलाइन बनाया जो अपनी स्वयं की अभ्यास सामग्री बनाता है। सबसे पहले, वे एक कंप्यूटर प्रोग्राम का उपयोग करके ध्वनियों को एक डीजे की तरह मिलाते और जोड़ते हैं, जिससे हजारों नकली ऑडियो क्लिप्स तैयार होती हैं जहाँ कंप्यूटर को बिल्का सटीक पता होता है कि हर ध्वनि कब शुरू और समाप्त होती है क्योंकि उसने उन्हें खुद वहां रखा है। यह रोबोट को एक "कोल्ड स्टार्ट" देता है—एक आदर्श, बिना किसी गलती वाला आधार ताकि वह समय की बुनियादी समझ सीख सके।

लेकिन रोबोट को वास्तविक जीवन से भी सीखने की आवश्यकता है, जहाँ आवाजें अव्यवस्थित और एक-दूसरे के ऊपर आती हैं। यहीं पर जादू होता है: शोधकर्ताओं ने रोबोट को वास्तविक दुनिया के ऑडियो (जैसे इंटरनेट से ली गई रिकॉर्डिंग) पर अभ्यास करने दिया जहाँ समय के लेबल थोड़े धुंधले हैं। केवल एक शिक्षक की तरह रोबोट को सुधारने के बजाय, वे रीइन्फोर्समेंट लर्निंग (Reinforcement Learning) नामक एक तकनीक का उपयोग करते हैं। इसे एक वीडियो गेम की तरह समझें: रोबोट समय का अनुमान लगाने की कोशिश करता है, और यदि वह इसके करीब पहुँच जाता है, तो उसे एक "रिवॉर्ड पॉइंट" मिलता है। यदि उसका अनुमान बहुत गलत होता है, तो उसे कोई अंक नहीं मिलता। समय के साथ, रोबोट इन रिवॉर्ड पॉइंट्स को पाने के लिए सीखता है, जिससे वह यह समझ पाता है कि भले ही प्रशिक्षण डेटा पूरी तरह से सटीक न हो, फिर भी वह सटीक कैसे बना रहे।

यह शोध दिखाता है कि यह दो-चरणीय दृष्टिकोण अद्भुत परिणाम देता है। जब उन्होंने अपने प्रशिक्षित रोबोटों का परीक्षण एक नए, कठिन टेस्ट सेट AEGBench पर किया (जिसे उन्होंने खुद बनाया था ताकि यह सुनिश्चित हो सके कि परीक्षण निष्पक्ष है और इसमें ओवरलैपिंग ध्वनियाँ या बहुत लंबी आवाजों जैसी जटिल स्थितियाँ शामिल हैं), तो परिणाम प्रभावशाली थे। रोबोटों ने ध्वनि के समय को सटीक रूप से पहचानने की अपनी क्षमता में भारी सुधार किया—बड़े मॉडल के लिए पहले की तुलना में 73.9% तक बेहतर। वे केवल अनुमान लगाने में ही बेहतर नहीं हुए; उन्होंने सटीक होना सीखा।

महत्वपूर्ण रूप से, लेखकों ने पाया कि केवल रोबोट को अधिक वास्तविक दुनिया का ऑडियो दिखाना पर्याप्त नहीं था। यदि वे केवल मानक पाठों के साथ रोबोट को वास्तविक ऑडियो के साथ सिखाते रहते, तो उसमें बहुत अधिक सुधार नहीं होता। यह "रिवॉर्ड गेम" (रीइन्फोर्समेंट लर्निंग) ही था जिसने उस अव्यवस्थित, अपूर्ण डेटा को एक सुपरपावर में बदल दिया। यह सुझाव देता है कि रोबोट को ध्वनि में समय समझने के लिए सिखाने की कुंजी केवल अधिक डेटा नहीं है, बल्कि उससे सीखने का एक स्मार्ट तरीका है। उन्होंने यह भी सिद्ध किया कि यह तरीका अलग-अलग आकार के रोबोटों पर काम करता है, छोटे से लेकर 30 बिलियन पैरामीटर्स वाले विशाल रोबोट तक, और यह उन्हें केवल ध्वनियों को खोजने में ही नहीं, बल्कि सामान्य रूप से ध्वनियों को समझने में भी सक्षम बनाता है।

संक्षेप में, यह शोध बताता है कि हमें ब्रह्मांड की हर ध्वनि को लेबल करने के लिए मनुष्यों का इंतजार करने की आवश्यकता नहीं है ताकि बेहतर ऑडियो रोबोट बनाए जा सकें। एकदम सटीक सिंथेटिक अभ्यास को वास्तविक दुनिया के डेटा पर आधारित "रिवॉर्ड-बेस्ड" लर्निंग गेम के साथ मिलाकर, हम इन मॉडल्स को बहुत सटीक टाइमिंग के साथ दुनिया को सुनने के योग्य बना सकते हैं, जिससे वे जटिल, वास्तविक जीवन के साउंडस्केप्स को बहुत अधिक प्रभावी ढंग से समझने का मार्ग प्रशस्त होता है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →