⚡ electrical engineering

Music102: An $D_{12}$ -equivariant transformer for chord progression accompaniment

यह शोध पत्र Music102 को प्रस्तुत करता है, जो एक पैरामीटर-कुशल, $D_{12}$ -इक्विवैरिएंट (equivariant) ट्रांसफार्मर है जो संगीत की समरूपताओं जैसे कि ट्रांसपोजीशन (transposition) और रिफ्लेक्शन (reflection) का लाभ उठाकर POP909 डेटासेट पर कॉर्ड प्रोग्रेशन एकम्पैनिमेंट कार्यों में अपने गैर-इक्विवैरिएंट पूर्ववर्ती की तुलना में काफी बेहतर प्रदर्शन करता है।

मूल लेखक: Weiliang Luo

प्रकाशित 2026-05-22

📖 4 मिनट में पढ़ें☕ कॉफ़ी ब्रेक में पढ़ें

CC BY 4.0

मूल लेखक: Weiliang Luo

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को एक गायक के लिए पियानो का साथ (accompaniment) बजाना सिखाने की कोशिश कर रहे हैं। गायक धुन (मुख्य ट्यून) प्रदान करता है, और रोबोट को यह समझना होगा कि कौन से कॉर्ड्स (chord) सबसे बेहतर तरीके से उसके साथ फिट बैठते हैं।

यह शोध पत्र Music102 को पेश करता है, जो एक नया AI मॉडल है जिसे इस काम को अपने पूर्ववर्ती, Music101 से बेहतर तरीके से करने के लिए डिज़ाइन किया गया है। यह कैसे काम करता है, इसका सरल विवरण यहाँ दिया गया है:

समस्या: रोबोट संगीत के नियमों को नहीं "समझ" पा रहा था

पहला संस्करण, Music101, उस छात्र की तरह था जिसने विशिष्ट गीतों को रट लिया था लेकिन उनके अंतर्निहित नियमों को नहीं समझा था। यदि आप उससे किसी अलग की (key) में गाना बजाने के लिए कहते (जैसे C मेजर से D मेजर में बदलना), तो उसे संघर्ष करना पड़ता क्योंकि वह प्रत्येक नोट को एक पूरी तरह से अद्वितीय और असंबंधित वस्तु मानता था। उसे हर एक बदलाव को शून्य से सीखना पड़ता था।

समाधान: रोबट को "संगीत संबंधी समरूपता" (Musical Symmetry) सिखाना

लेखकों ने महसूस किया कि संगीत में एक छिपी हुई गणितीय संरचना होती है, ठीक वैसे ही जैसे एक कैलीडोस्कोप (kaleidoscope) में होती है।

ट्रांसपोजिशन (The "Slide"): यदि आप एक कॉर्ड को कीबोर्ड पर ऊपर या नीचे खिसकाते हैं, तो उसका "स्वाद" (flavor) वही रहता है, बस वह ऊँचा या नीचा हो जाता है।
रिफ्लेक्शन (The "Mirror"): यदि आप एक मेजर कॉर्ड (खुशहाल) को माइनर कॉर्ड (उदास) में बदलते हैं, तो यह एक कॉर्ड को दर्पण में देखने जैसा है।

Music102 को इन नियमों के साथ सीधे इसके मस्तिष्क में बुना गया है। यह सीखने के बजाय कि "C मेजर" और "D मेजर" अलग-अलग चीजें हैं, यह सीखता है कि वे एक ही आकार के हैं, बस घुमाए गए हैं। इसे D12-इक्विवेरिएंस (D12-equivariance) कहा जाता है। इसे ऐसे समझें कि आपने AI को सिखाया है कि एक त्रिकोण अभी भी एक त्रिकोण ही है, भले ही आप उसे 30 डिग्री घुमा दें; उसे हर बार घुमाने पर यह सीखने की ज़रूरत नहीं है कि त्रिकोण क्या होता है।

यह कैसे काम करता है: "जादुई फ़िल्टर"

यह मॉडल एक मानक AI आर्किटेक्चर का उपयोग करता है जिसे ट्रांसफॉर्मर (Transformer) कहा जाता है (वही प्रकार जो चैटबॉट्स में उपयोग किया जाता है), लेकिन उन्होंने इसके हर लेयर (layer) में विशेष "फ़िल्टर" जोड़ दिए हैं:

डिकोडर (The Decoder): इससे पहले कि AI धुन को प्रोसेस करे, यह नोट्स को एक विशेष फ़िल्टर के माध्यम से गुज़ारता है जो उन्हें एक ऐसी गणितीय भाषा में अनुवादित करता है जहाँ ये समरूपता नियम स्पष्ट रूप से दिखाई देते हैं।
प्रोसेसिंग (The Processing): जैसे ही AI धुन को देखता है और कॉर्ड्स का अनुमान लगाता है, यह "इक्विवेरिएंट" (equivariant) लेयर्स का उपयोग करता है। इसका अर्थ है कि यदि आप इनपुट धुन को बदलते हैं (उदाहरण के लिए, की (key) बदलते हैं), तो AI का आंतरिक गणित भी ठीक उसी तरह बदल जाएगा, जिससे यह गारंटी मिलती है कि आउटपुट कॉर्ड्स भी सही ढंग से शिफ्ट होंगे।
आउटपुट (The Output): यह वह सटीक कॉर्ड प्रोग्रेशन निकाल कर देता है जो धुन की नई की (key) से मेल खाता है, भले ही उसने पहले उस विशिष्ट की (key) को कभी न देखा हो।

परिणाम: स्मार्ट और लीन (Smarter and Leaner)

शोधकर्ताओं ने इसका परीक्षण 909 चीनी पॉप गानों के डेटासेट पर किया।

Music102 सही कॉर्ड्स का अनुमान लगाने में Music101 की तुलना में काफी अधिक सटीक था।
और भी प्रभावशाली बात यह है कि Music102 ने यह उपलब्धि पुराने मॉडल के 1/8वें से भी कम पैरामीटर्स (यानी "मस्तिष्क कोशिकाओं" या मेमोरी) का उपयोग करते हुए हासिल की।
यह ट्रेनिंग के दौरान भी अधिक स्थिर था, जिससे उन "गणितीय विस्फोटों" (math explosions) से बचा जा सका जो अक्सर जटिल समरूपता नियमों को सिखाने के दौरान होते हैं।

निष्कर्ष

Music102 यह सिद्ध करता है कि संगीत की गणितीय "ज्यामिति" (कि कैसे नोट्स रोटेशन और रिफ्लेक्शन के माध्यम से एक-दूसरे से संबंधित हैं) को समझकर, हम ऐसा AI बना सकते हैं जो न केवल संगीत रचने में स्मार्ट है, बल्कि बहुत कुशल भी है। यह ऐसा है जैसे AI को संगीत के ब्रह्मांड का नक्शा दे दिया गया हो, ताकि उसे सही कॉर्ड्स खोजने के लिए अंधेरे में भटकना न पड़े।

तकनीकी सारांश: Music102 – एक $D_{12}$ -इक्विवेरिएंट (Equivariant) ट्रांसफॉर्मर कॉर्ड प्रोग्रेशन अकंपैनमेंट के लिए

समस्या विवरण (Problem Statement)

यह शोध पत्र पॉप संगीत में दिए गए एकल-ट्रैक मेलोडी (melody) के साथ कॉर्ड प्रोग्रेशन (chord progressions) उत्पन्न करने की चुनौती को संबोधित करता है। जबकि जनरेटिव एआई विजुअल डोमेन में काफी उन्नत हो गया है, संगीत उत्पादन अभी भी मशीन इंटेलिजेंस के लिए एक नया क्षेत्र बना हुआ है। पिछले प्रयासों, जैसे कि प्रोटोटाइप Music101, ने मेलोडी से कॉर्ड प्रोग्रेशन की भविष्यवाणी करने के लिए मानक ट्रांसफॉर्मर आर्किटेक्चर का उपयोग किया। हालाँकि, ये मॉडल संगीत की अंतर्निहित गणितीय समरूपता (symmetries) का पूर्ण लाभ उठाने में विफल रहे, जिसके परिणामस्वरूप प्रदर्शन वास्तविक दुनिया के अनुप्रयोगों के लिए अपर्याप्त रहा। लेखक पहचानते हैं कि मानक डीप लर्निंग आर्किटेक्चर में संगीत संबंधी समरूपता के संबंध में इंडक्टिव बायस (inductive biases) की कमी है, विशेष रूप से ट्रांसपोजिशन (पिच शिफ्टिंग) और रिफ्लेक्शन (मेजर और माइनर मोड के बीच परिवर्तन), जो संगीत सिद्धांत और समूह सिद्धांत (group theory) के लिए मौलिक हैं।

कार्यप्रणाली (Methodology)

मुख्य योगदान Music102 है, जो एक ट्रांसफॉर्मर-आधारित मॉडल है जिसे $D_{12}$ -इक्विवेरिएंट बनाने के लिए डिज़ाइन किया गया है। इसका अर्थ है कि यदि इनपुट मेलोडी को ट्रांसपोजिशन या रिफ्लेक्शन द्वारा रूपांतरित किया जाता है, तो मॉडल का आउटपुट भी पूर्वानुमेय (predictable) रूप से रूपांतरित होता है, जो डायहेड्रल ग्रुप $D_{12}$ के गणितीय गुणों का पालन करता है।

1. गणितीय आधार (Mathematical Foundation)

मॉडल इक्वल टेम्परामेंट (equal temperament) के सिद्धांत पर आधारित है, जहाँ एक ऑक्टेव को 12 पिच क्लासेस में विभाजित किया जाता है।

ट्रांसपोजिशन ( $T_i$ ): पिच क्लास सर्कल पर एक रोटेशन ऑपरेशन (जो चक्रीय समूह $C_{12}$ के आइसोमोर्फिक है)।
रिफ्लेक्शन ( $R$ ): एक मिरर ऑपरेशन जो मेजर और माइनर मोड को बदल देता है।
ग्रुप एक्शन (Group Action): ट्रांसपोजिशन और रिफ्लेक्शन का संयोजन डायहेड्रल ग्रुप $D_{12}$ बनाता है। मॉडल यह सुनिश्चित करता है कि यदि इनपुट मेलोडी को समूह तत्व $g$ द्वारा रूपांतरित किया जाता है, तो प्रेडिक्टेड कॉर्ड प्रोग्रेशन भी उसी $g$ द्वारा रूपांतरित होता है।

2. आर्किटेक्चर और इक्विवैरिएंट लेयर्स (Architecture and Equivariant Layers)

Music102 मानक ट्रांसफॉर्मर बैकबोन (जिसका उपयोग Music101 में किया गया था) को संशोधित करता है ताकि इक्विवेरेंस स्थिति $A D_{perm} = D_{perm} A$ को संतुष्ट किया जा सके, जहाँ $D_{perm}$ 12-आयामी पिच स्पेस पर $D_{12}$ का परम्यूटेशन रिप्रेजेंटेशन है। मुख्य आर्किटेक्चरल अनुकूलन निम्नलिखित हैं:

एम्बेडिंग और प्रीप्रोसेसिंग (Embedding & Preprocessing): मेलोडी और कॉर्ड सीक्वेंस को पिच क्लास उपस्थिति के आधार पर $\mathbb{R}^{12}$ में वेक्टरकृत किया जाता है। प्रीप्रोसेसिंग लेयर इन वेक्टर्स को पूर्व-गणना किए गए, ऑर्थोगोनल चेंज-ऑफ-बेसिस मैट्रिसेस ( $U^{(a)}$ ) का उपयोग करके $D_{12}$ के इरिड्यूसिबल रिप्रेजेंटेशन्स (irreducible representations) में मैप करती है।
इक्विवैरिएंट लीनियर लेयर्स (Equivariant Linear Layers): शूर के लेम्मा (Schur's Lemma) के अनुसार, लीनियर लेयर्स को केवल एक ही इरिड्यूसिबल रिप्रेजेंटेशन चैनलों के भीतर संचालित होने के लिए बाधित किया जाता है, जो विभिन्न समरूपता चैनलों को मिलाने के बजाय मल्टीप्लिसिटीज को मिलाते हैं।
इक्विवैरिएंट नॉन-लिनियैरिटी (Equivariant Non-linearity): मानक एलिमेंट-वाइज एक्टिवेशन (जैसे ReLU) इरिड्यूसिबल बेसिस में परम्यूटेशन के साथ कम्यूट (commute) नहीं करते हैं। मॉडल एक विशिष्ट नॉन-लिनियैरिटी लागू करता है: $\sigma(h^{(a)}) \to U^{(a)}\sigma((U^{(a)})^\top h^{(a)})$ , जो यह सुनिश्चित करता है कि ऑपरेशन इक्विवैरिएंट बना रहे।
इक्विवैरिएंट पोजीशनल एनकोडिंग (Equivariant Positional Encoding): मानक साइनुसोइडल पोजीशनल एनकोडिंग को चेंज-ऑफ-बेसिस मैट्रिसेस के माध्यम से प्रोजेक्ट करके अनुकूलित किया जाता है, जिससे यह सुनिश्चित होता है कि एनकोडिंग ग्रुप एक्शन्स के तहत सही ढंग से रूपांतरित हो।
इक्विवैरिएंट सेल्फ-अटेंशन (Equivariant Self-Attention): अटेंशन मैकेनिज्म को इस तरह डिज़ाइन किया गया है कि अटेंशन वेट्स ग्रुप ट्रांसफॉर्मेशन के तहत इनवेरिएंट (invariant) रहते हैं, जबकि वैल्यू वेक्टर्स इक्विवैरिएंट रूप से रूपांतरित होते हैं।
इक्विवैरिएंट लेयर नॉर्मलाइजेशन (Equivariant Layer Normalization): नॉर्मलाइजेशन परम्यूटेशन बेसिस में किया जाता है (इनवर्स ट्रांसफॉर्मेशन के माध्यम से) ताकि मीन और वेरिएंस गणना समूह क्रिया के साथ सुसंगत रहे।

3. ट्रेनिंग और लॉस (Training and Loss)

मॉडल को POP909 डेटासेट (909 चीनी पॉप गाने) पर प्रशिक्षित किया गया है। लॉस फंक्शन एक वेटेड बाइनरी क्रॉस-एन्ट्रॉपी (weighted binary cross-entropy) है, जिसमें उन टाइम स्टेप्स को उच्च भार दिया जाता है जहाँ कॉर्ड बदलते हैं, जिससे कॉर्ड ट्रांजिशन की भविष्यवाणी पर जोर दिया जाता है।

मुख्य परिणाम (Key Results)

प्रयोगों में Music102 की तुलना गैर-इक्विवैरिएंट Music101 प्रोटोटाइप से की गई। Music102 के पास काफी कम पैरामीटर्स (~760k बनाम ~6.85M) होने के बावजूद, इसने सभी मेट्रिक्स में बेसलाइन से बेहतर प्रदर्शन किया:

वेटेड BCE लॉस: 0.5807 (Music101) से घटकर 0.5652 (Music102) हो गया।
कोसाइन सिमिलैरिटी (Cosine Similarity): 0.6638 से सुधरकर 0.6727 हो गई।
एक्जैक्ट एक्यूरेसी (Exact Accuracy): 0.1141 से महत्वपूर्ण रूप से सुधरकर 0.1783 हो गई।

लेखक नोट करते हैं कि गैर-इक्विवैरिएंट बेसलाइन इनपुट डेटा की स्पर्सिटी (sparsity) के कारण नॉर्म-गेटेड नॉन-लिनियैरिटीज (जो अन्य इक्विवैरिएंट मॉडल्स जैसे Equiformer में सामान्य हैं) का उपयोग करने का प्रयास करते समय संख्यात्मक अस्थिरता (numerical instability) से जूझ रही थी। Music102 में प्रस्तावित परम्यूटेशन-आधारित दृष्टिकोण ने एक स्थिर विकल्प प्रदान किया।

महत्व और दावे (Significance and Claims)

यह शोध पत्र दावा करता है कि यह पहला ट्रांसफॉर्मर-आधारित seq2seq मॉडल है जो संगीत निर्माण के लिए इनपुट और आउटपुट दोनों एम्बेडिंग्स में स्पष्ट रूप से वर्ड-वाइज सिमेट्री (पिच क्लास परम्यूटेशन) को शामिल करता है।

सैद्धांतिक एकीकरण (Theoretical Integration): यह सफलतापूर्वक ग्रुप थ्योरी (विशेष रूप से $D_{12}$ ) को डीप लर्निंग आर्किटेक्चर के साथ जोड़ता है, यह प्रदर्शित करता है कि मानक ट्रांसफॉर्मर घटकों (सेल्फ-अटेंशन, लेयर नॉर्मलाइजेशन, पोजीशनल एनकोडिंग) को डिस्क्रीट म्यूजिकल डोमेन के लिए अनुकूलित किया जा सकता है।
दक्षता (Efficiency): परिणाम बताते हैं कि इक्विवेरेंस के माध्यम से पूर्व संगीत ज्ञान को एनकोड करने से बेहतर डेटा और कंप्यूटेशनल दक्षता प्राप्त होती है, जिससे कम पैरामीटर्स के साथ उच्च सटीकता प्राप्त होती है।
भविष्य की क्षमता (Future Potential): लेखक तर्क देते हैं कि Music102 भविष्य के इक्विवैरिएंट म्यूजिक जनरेशन और कम्प्यूटेशनल कंपोजिशन टूल्स के लिए एक लचीला और स्थिर ढांचा स्थापित करता है, जो साधारण पैटर्न मिलान से आगे बढ़कर संगीत की गणितीय संरचना का सम्मान करता है।

यह कार्य यह दावा नहीं करता है कि यह पूर्ण शास्त्रीय सिम्फनी उत्पन्न करने के "होली ग्रेल" को हल कर देता है, बल्कि यह प्रदर्शित करता है कि कॉर्ड अकंपैनमेंट जैसे विशिष्ट कार्यों के लिए, संगीत की समरूपता का लाभ उठाना व्यावहारिक AI संगीत अनुप्रयोगों की ओर एक महत्वपूर्ण कदम है।