Equivariant Music Transformer
यह शोध पत्र इक्विवेरिएंट म्यूजिक ट्रांसफॉर्मर (EMT) को प्रस्तुत करता है, जो सेल्फ-डिस्टिलेशन और ऑक्सिलरी रेगुलराइजेशन के माध्यम से समय बदलाव (टाइम शिफ्ट्स) और पिच ट्रांसपोज़िशन के प्रति इक्विवेरिएंस को लागू करता है, जिससे मानक ट्रांसफॉर्मर्स की उन सीमाओं पर विजय प्राप्त होती है जो संगीत की ट्रांसलेशनल सिमिट्रीज़ को पकड़ने में विफल रहते हैं, और इसके परिणामस्वरूप बेहतर जेनेरेटिव प्रदर्शन और रिप्रेजेंटेशन गुणवत्ता प्रदर्शित होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप अपना पसंदीदा गाना सुन रहे हैं। यदि कोई उसी धुन को बजाता है लेकिन उसे कुछ सेकंड बाद शुरू करता है, या यदि कोई गायक अपनी आवाज़ में सभी सुरों को थोड़ा ऊँचा लगा देता है, तो भी आप इसे तुरंत उसी धुन के रूप में पहचान लेते हैं। आपका मस्तिष्क भ्रमित नहीं होता; वह समझ जाता है कि सुरों के बीच का संबंध ही महत्वपूर्ण है, न कि सटीक समय या पिच। बदलावों के बावजूद पैटर्न को पहचानने की यह क्षमता मानवीय धारणा की एक महाशक्ति है। आर्टिफिशियल इंटेलिजेंस की दुनिया में, वैज्ञानिक कंप्यूटर को भी ऐसा ही करने के लिए सिखाने की कोशिश कर रहे हैं। वे "म्यूजिक ट्रांसफॉर्मर्स" बना रहे हैं, जो सुपर-स्मार्ट डिजिटल संगीतकार की तरह हैं जो लाखों संगीत स्कोर को पढ़कर सीखते हैं। हालाँकि, इसमें एक पेंच है: जैसे-जैसे ये कंप्यूटर बड़े और स्मार्ट होते जा रहे हैं, वे इस महाशक्ति को भूलते जा रहे हैं। संगीत के संबंधों को समझने के बजाय, वे एक तोते की तरह सटीक सुरों और समय को रटने लगे हैं, जिससे वे धुन के शिफ्ट होने पर उसे पहचानने में विफल हो जाते हैं। यह शोध पत्र इस बात की गहराई में जाता है कि ऐसा क्यों होता है और एक नए प्रकार का AI बनाता है जो वास्तव में इंसानों की तरह सुनना सीखता है।
इस अध्ययन के पीछे के शोधकर्ताओं, ज़िक्सुन गुओ और साइमन डिक्सन ने पाया कि ये संगीत AI मॉडल कैसे सीखते हैं, इसके बारे में कुछ आश्चर्यजनक और थोड़ा चिंताजनक है। उन्होंने पाया कि जैसे-जैसे ये मॉडल बड़े होते हैं और अधिक समय तक प्रशिक्षित होते हैं, वे वास्तव में शिफ्ट किए गए संगीत को पहचानने में बदतर होते जाते हैं। यह वैसा ही है जैसे कोई छात्र परीक्षा के लिए तैयारी करते समय अवधारणाओं को सीखने के बजाय उत्तरों के सटीक पृष्ठ नंबर रटने लगता है; जब परीक्षा के प्रश्न किसी दूसरे पृष्ठ पर ले जाए जाते हैं, तो वह असफल हो जाता है। लेखक इसे "इक्विवैरिएंस" (equivariance) की कमी कहते हैं। सरल शब्दों में, इक्विवैरिएंस का अर्थ है कि यदि आप इनपुट को बदलते हैं (जैसे कि धुन को पिच में ऊपर ले जाना), तो कंप्यूटर की आंतरिक समझ को भी ठीक उसी तरह बदलना चाहिए। लेकिन उनके विश्लेषण से पता चला कि मानक म्यूजिक ट्रांसफॉर्मर्स इन एक ही गाने के शिफ्ट किए गए संस्करणों को अपनी स्मृति में पूरी तरह से अलग, असंबद्ध विचारों के रूप में मैप कर रहे थे। मॉडल जितना बड़ा होता गया, वह उतना ही अधिक अपनी मानसिक शक्ति उन पूर्ण पैटर्न (absolute patterns) को रटने में बर्बाद करता गया, बजाय उन साझा संगीत संरचनाओं को पकड़ने के जो संगीत को संगीत बनाते हैं।
इसे ठीक करने के लिए, टीम ने इक्विवैरिएंट म्यूजिक ट्रांसफॉर्मर (EMT) का आविष्कार किया। इस नए मॉडल को एक ऐसे छात्र के रूप में सोचें जिसे एक विशेष नियम के साथ अध्ययन करने के लिए मजबूर किया गया है: "यदि आप एक धुन सीखते हैं, तो आपको इसे तब भी पहचानना होगा जब इसे शिफ्ट किया गया हो।" उन्होंने यह एक विशेष "होमवर्क" कार्य जोड़कर किया। गाने में अगले नोट की भविष्यवाणी करने के सामान्य काम के साथ-साथ, मॉडल से गाने के एक शिफ्ट किए गए संस्करण को देखने और यह सुनिश्चित करने के लिए भी कहा गया कि उसकी आंतरिक समझ मूल संस्करण के समान ही शिफ्ट हुई हो। यह एक बच्चे को केवल एक सीधे रास्ते पर साइकिल चलाना सिखाने जैसा नहीं है, बल्कि उसे एक ऐसे रास्ते पर भी चलाना सिखाने जैसा है जो बाईं ओर खिसक गया हो, जिससे वह केवल सड़क को रटने के बजाय संतुलन को समझ सके।
परिणाम प्रभावशाली थे। नया EMT मॉडल न केवल शिफ्ट किए गए संगीत को पहचानने में बेहतर हुआ; बल्कि यह समग्र रूप से एक बेहतर संगीतकार भी बन गया। शिफ्ट किए गए संस्करणों को आपस में जोड़ने के लिए मजबूर करके, इसने अपनी "मानसिक क्षमता" का अधिक कुशलता से उपयोग किया। हर संभव पिच या टाइमिंग शिफ्ट के लिए गाने का एक अलग संस्करण सीखने के बजाय, इसने उस मूल संरचना को सीखा जो उन सभी पर लागू होती है। जब शोधकर्ताओं ने इसका परीक्षण अन्य शीर्ष मॉडलों के विरुद्ध किया, जिनमें कुछ बहुत बड़े मॉडल भी शामिल थे, तो EMT जीत गया। इसने अधिक सुरीला और आनंददायक संगीत तैयार किया, भले ही शुरुआती संकेत (prompt) समय या पिच में शिफ्ट किया गया हो। जहाँ पुराने मॉडल शिफ्ट किए गए संकेत के साथ भ्रमित होकर अव्यवस्थित और असंगत संगीत उत्पन्न करते थे, वहीं EMT ने उच्च गुणवत्ता बनाए रखते हुए अपना संयम बनाए रखा।
अध्ययन सुझाव देता है कि AI मॉडलों को स्मार्ट बनाने के लिए उन्हें केवल बड़ा बनाना ही समाधान नहीं है; बिना विशिष्ट नियमों के उन्हें संगीत की समरूपताओं (symmetries) के बारे में सिखाए, वे बस गलत चीजों को रटने में बेहतर हो जाते हैं। लेखकों ने पाया कि उनके नए "शिफ्ट-अवेयर" प्रशिक्षण पद्धति को डेटा फीड करने के कुछ चतुर तरीकों (जिसे फीचर इंजीनियरिंग कहा जाता है) के साथ मिलाने से सबसे अच्छे परिणाम मिले। संक्षेप में, उन्होंने सिद्ध किया कि एक ऐसा AI बनाने के लिए जो वास्तव में संगीत को समझता है, हमें उसे सुरों के बीच के संबंधों को सुनने के लिए सिखाना होगा, न कि केवल सुरों को। इस नए मॉडल के कोड और डेमो ऑनलाइन उपलब्ध हैं, जो किसी भी जिज्ञासु को यह सुनने के लिए आमंत्रित करते हैं कि एक कंप्यूटर द्वारा गाना रटने और एक द्वारा उसे समझने के बीच क्या अंतर है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।