CultureMERT: Continual Pre-Training for Cross-Cultural Music Representation Learning
यह शोधपत्र CultureMERT-95M को प्रस्तुत करता है, जो विविध गैर-पश्चिमी परंपराओं पर एक नवीन दो-चरणीय निरंतर पूर्व-प्रशिक्षण रणनीति के माध्यम से प्रशिक्षित एक बहु-सांस्कृतिक रूप से अनुकूलित संगीत फाउंडेशन मॉडल है, जो पश्चिमी बेंचमार्क पर दक्षता बनाए रखते हुए क्रॉस-कल्चरल ऑटो-टैगिंग प्रदर्शन में महत्वपूर्ण सुधार करता है और टास्क अरिथमेटिक (task arithmetic) के माध्यम से एक व्यवहार्य विकल्प प्रदान करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
संगीत एक सार्वभौमिक भाषा है, फिर भी हमारे कंप्यूटर जिनका उपयोग हम इसे समझने के लिए करते हैं, अक्सर केवल एक ही बोली बोलते हैं। वर्षों से, संगीत को सुनने और वर्गीकृत करने के लिए डिज़ाइन किए गए सबसे शक्तिशाली कृत्रिम बुद्धिमत्ता (AI) मॉडल लगभग विशेष रूप से पश्चिमी शैलियों, जैसे कि पॉप, रॉक और शास्त्रीय सिम्फनी पर प्रशिक्षित रहे हैं। ये प्रणालियाँ उन विशिष्ट परंपराओं के पैटर्न को पहचानने में अविश्वसनीय रूप से कुशल हो गई हैं, लेकिन जब वे दुनिया की अन्य संगीत संस्कृतियों की विशाल और समृद्ध विविधता का सामना करती हैं, तो वे संघर्ष करती हैं। वे भारतीय शास्त्रीय संगीत की सूक्ष्म मधुर संरचनाओं, तुर्की परंपराओं के अद्वितीय लयबद्ध चक्रों, या ग्रीक लोक गीतों के विशिष्ट पैमानों (स्केल्स) को समझने में विफल रहती हैं। यह सीमा यह अर्थ देती है कि अरबों लोगों के लिए जिनकी संगीत विरासत पश्चिमी दायरे से बाहर है, ये डिजिटल उपकरण अंधे बने हुए हैं, जो उस कला को संरक्षित करने, अनुशंसा करने या विश्लेषण करने में असमर्थ हैं जो उनके समुदायों को परिभाषित करती है।
शोधकर्ताओं ने लंबे समय से एक ऐसा तरीका खोजने का प्रयास किया है जिससे इन मॉडलों को बिना उन्हें शून्य से फिर से बनाए (rebuild) व्यापक रूप से सुनना सिखाया जा सके, क्योंकि यह प्रक्रिया अत्यधिक महंगी और समय लेने वाली होगी। चुनौती एक ऐसे मॉडल को अनुकूलित करने में निहित है जिसने पहले से ही नियमों का एक सेट सीख लिया है, ताकि वह पूरी तरह से अलग नियमों के सेट को समझ सके, बिना उस ज्ञान को खोए जो उसने पहले से सीखा हुआ है। यह समस्या एक नए अध्ययन द्वारा पेश किए गए 'कल्चरमर्ट' (CultureMERT) नामक सिस्टम द्वारा संबोधित की गई है। शोधकर्ताओं का लक्ष्य एक ऐसे फाउंडेशन मॉडल को लेना था जिसे मुख्य रूप से पश्चिमी संगीत के एक हजार घंटों पर प्रशिक्षित किया गया था और उसे धीरे से पूर्वी भूमध्य सागर और भारतीय उपमहाद्वीप की संगीत भाषाओं को समझने के लिए निर्देशित करना था, और यह सुनिश्चित करना था कि वह उस पश्चिमी शैलियों को पहचानने की अपनी क्षमता न खो दे जिन्हें जानने के लिए इसे मूल रूप से बनाया गया था।
इसे प्राप्त करने के लिए, टीम ने 'कंटीन्यूअल प्री-ट्रेनिंग' (continual pre-training) नामक रणनीति का उपयोग किया। मौजूदा मॉडल को त्यागने और फिर से शुरू करने के बजाय, उन्होंने इसे ऑडियो डेटा के एक नए, सावधानीपूर्वक संतुलित आहार से परिचित कराया। इस नए डेटासेट में चार विशिष्ट परंपराओं से लिया गया 650 घंटों का संगीत शामिल था: तुर्की मकाम, हिंदुस्तानी शास्त्रीय, कर्नाटक शास्त्रीय, और ग्रीक पारंपरिक संगीत। हालाँकि, केवल इस नए डेटा को मॉडल को खिलाने से वह लड़खड़ाने लगा, एक ऐसी घटना जहाँ कंप्यूटर का प्रदर्शन उसके मूल कार्यों पर गिर जाता है क्योंकि वह नए कार्यों को सीखने की कोशिश करता है। इसे हल करने के लिए, शोधकर्ताओं ने दो-चरणीय दृष्टिकोण विकसित किया। पहले चरण में, उन्होंने मॉडल को नए संगीत के एक छोटे हिस्से से परिचित कराया जबकि इसके सबसे जटिल आंतरिक परतों को स्थिर (frozen) रखा, जिससे केवल बुनियादी ध्वनि-प्रसंस्करण वाले हिस्सों को ही समायोजित होने दिया गया। उन्होंने इस चरण के दौरान मॉडल को उसके मूल प्रशिक्षण की याद दिलाने के लिए इसमें थोड़े से पश्चिमी संगीत को भी मिला दिया। दूसरे चरण में, उन्होंने पूरे मॉडल को अनलॉक कर दिया और इसे पूरे 650-घंटे के डेटासेट पर प्रशिक्षित किया, जिससे इसे इन नए सांस्कृतिक बारीकियों को पूरी तरह से आत्मसात करने की अनुमति मिली।
परिणाम आश्चर्यजनक थे। जब गैर-पश्चिमी संगीत में वाद्ययंत्रों, मनोदशा (moods), या विशिष्ट संगीत मोड की पहचान करने वाले कार्यों पर परीक्षण किया गया, तो अनुकूलित मॉडल ने मूल संस्करण की तुलना में सटीकता में लगभग पांच प्रतिशत की वृद्धि के साथ महत्वपूर्ण सुधार दिखाया। महत्वपूर्ण रूप से, यह लाभ उसके पिछले ज्ञान की कीमत पर नहीं आया; मॉडल ने अपने प्रदर्शन में लगभग बिना किसी नुकसान के पश्चिमी संगीत को पहचानने की अपनी क्षमता बनाए रखी। अध्ययन ने 'टास्क अरिथमेटिक' (task arithmetic) नामक एक अलग पद्धति का भी अन्वेषण किया, जिसमें कई छोटे मॉडलों के "ज्ञान" को, जिनमें से प्रत्येक को एक एकल संस्कृति के लिए प्रशिक्षित किया गया है, एक एकीकृत प्रणाली में गणितीय रूप से संयोजित किया जाता है। इस दृष्टिकोण ने गैर-पश्चिमी कार्यों पर प्रत्यक्ष प्रशिक्षण पद्धति के समान ही प्रदर्शन किया और पश्चिमी बेंचमार्क पर तो उससे बेहतर प्रदर्शन किया, जो यह सुझाव देता है कि विशिष्ट मॉडलों को मिलाना (merging) उन्हें एक साथ फिर से प्रशिक्षित करने का एक शक्तिशाली विकल्प है।
शोधकर्ताओं ने पाया कि मॉडल की संस्कृतियों के बीच ज्ञान स्थानांतरित करने की क्षमता समान नहीं थी। उदाहरण के लिए, दक्षिण भारत के कर्नाटक संगीत पर प्रशिक्षित मॉडल ने उत्तर भारत के हिंदुस्तानी संगीत और यहाँ तक कि तुर्की परंपराओं में भी एक मजबूत सामान्यीकरण (generalize) करने की क्षमता दिखाई, क्योंकि इन प्रणालियों में धुन और लय के गहरे सैद्धांतिक मूल साझा हैं। इसके विपरीत, मॉडल को ग्रीक पारंपरिक संगीत में ज्ञान स्थानांतरित करने के लिए अधिक संघर्ष करना पड़ा, जो कि विशिष्ट तो है, लेकिन जिस तरह से कंप्यूटर ध्वनि को एनकोड करता है, उसमें भारतीय और तुर्की डेटासेट के साथ कम संरचनात्मक समानताएं साझा करता है। टीम ने उन डिजिटल 'टोकन' का विश्लेषण करके, जिनका उपयोग मॉडल ध्वनि का प्रतिनिधित्व करने के लिए करता है, खोजा कि इन संगीत परंपराओं के बीच की गणितीय दूरी ने यह भविष्यवाणी की कि मॉडल उन्हें कितनी अच्छी तरह सीखेगा, जिससे भविष्य के प्रशिक्षण डेटा की योजना बनाने का एक नया तरीका मिला।
अंततः, यह कार्य प्रदर्शित करता है कि कृत्रिम बुद्धिमत्ता को उसकी मूल क्षमताओं का त्याग किए बिना अधिक समावेशी बनाया जा सकता है। शोधकर्ताओं ने अपने अनुकूलित मॉडल, कल्चरमर्ट (CultureMERT), को जनता के लिए जारी कर दिया है, जो एक ऐसा उपकरण प्रदान करता है जो अंततः दुनिया के संगीत को अधिक व्यापक कान के साथ सुन सकता है। वे स्वीकार करते हैं कि हालांकि उनका मॉडल एक महत्वपूर्ण कदम है, लेकिन यह एक पूर्ण समाधान नहीं है; ध्वनि को डिजिटल टोकन में बदलने के लिए उपयोग की जाने वाली अंतर्निहित तकनीक अभी भी पश्चिमी संगीत पर प्रशिक्षित थी, जो यह सीमित कर सकती है कि वह कुछ सांस्कृतिक बारीकियों को कितनी गहराई से समझ सकती है। फिर भी, यह दिखाकर कि एक मॉडल पुराने को याद रखते हुए नए संगीत की भाषाएँ सीख सकता है, यह अध्ययन एक ऐसे भविष्य की ओर एक स्पष्ट मार्ग प्रदान करता है जहाँ डिजिटल संगीत प्रणालियाँ वास्तव में वैश्विक होंगी, जो मानव संगीत अभिव्यक्ति के पूर्ण स्पेक्ट्रम का सम्मान करने में सक्षम होंगी।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।