⚡ electrical engineering

Aligning Language Models for Lyric-to-Melody Generation with Rule-Based Musical Constraints

تقترح هذه الورقة إطار عمل محاذاة مبتكر يقوم تلقائياً بتوليد قيود موسيقية قائمة على القواعد لتدريب النماذج اللغوية الكبيرة عبر تحسين التفضيل المباشر وتحسين كانمان-تفيرسكي، مما يقلل بفعالية من عدم المعقولية الموسيقية ويحسن جودة توليد اللحن من الكلمات دون الحاجة إلى تعليق بشري.

المؤلفون الأصليون: Hao Meng, Siyuan Zheng, Shuran Zhou, Qiangqiang Wang, Yang Song

نُشر 2026-04-21

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Hao Meng, Siyuan Zheng, Shuran Zhou, Qiangqiang Wang, Yang Song

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك روبوتًا عبقريًا فائق الذكاء، قد قرأ كل أغنية كُتبت على الإطلاق. تطلب منه أن يكتب لك أغنية جديدة، وتعطيه الكلمات فقط. ولأنه ذكي جدًا، يمكنه كتابة كلمات تتناغم وتصنع معنىً منطقيًا. ولكن هنا تكمجة المشكلة: عندما يحاول تحويل تلك الكلمات إلى لحن، يبدو الموسيقى غريبة. قد تقفز النوتات الموسيقية بشكل عشوائي مثل أسطوانة مكسورة، أو قد يكون الإيقاع مستحيلاً بحيث لا يمكنك التصفيق معه، أو قد يضطر المغني لمد صوته لنغمة عالية جدًا ومستحيلة لمجرد الوصول إلى نوتة واحدة.

هذه الورقة البحثية تدور حول تعليم ذلك الروبوت التوقف عن كتابة "الهراء الموسيقي" والبدء في كتابة أغنيات تبدو جيدة حقًا، دون استئجار فريق من معلمي الموسيقى البشر لتصحيحه واحدًا تلو الآخر.

إليك قصة كيف فعلوا ذلك، مقسمة إلى خطوات بسيطة:

1. المشكلة: الروبوت "يكسر القواعد"

بدأ الباحثون بنموذج ذكاء اصطناعي قياسي (نموذج لغوي كبير) تم تدريبه على آلاف الأغاني. أطلقوا عليه اسم نموذج SFT (الضبط الدقيق تحت الإشراف).

التشبيه: فكر في هذا الروبوت كطالب حفظ الإجابات لاختبار رياضيات لكنه لا يفهم قواعد الرياضيات فعليًا. يمكنه تخمين الإجابة الصحيحة غالبًا، لكنه أحيانًا يكتب "2 + 2 = 5" أو يرسم مثلثًا بأربعة أضلاع.
المشكلة: في الموسيقى، تُسمى هذه "الأخطاء" انتهاكات القيود (Constraint Violations). قد يكتب الروبوت لحنًا يتوجب على المغني فيه حبس نَفَسه لمدة 10 دقائق متواصلة، أو حيث تقفز طبقة الصوت من صرخة طفل إلى زئير أسد في لحظة. هي تقنيًا "موسيقى"، لكنها ليست "قابلة للغناء" أو "ممتعة".

2. الحل: "كتاب القواعد" بدلاً من المعلم البشري

عادةً، لإصلاح روبوت، تحتاج إلى بشر يستمعون إلى أغانيه ويقولون: "هذه جيدة، وتلك سيئة". هذا الأمر بطيء، مكلف، وممل.

الابتكار: بدلاً من استئجار البشر، كتب الباحثون كتاب قواعد رقمي. لقد وضعوا 5 قواعد بسيطة وصارمة يجب أن تتبعها أي أغنية جيدة:
1. التنسيق: يجب أن تُكتب الأغنية باللغة البرمجية الصحيحة.
2. الكلمات: يجب أن تتطابق الكلمات مع النوتات (لا غناء بكلمات غير مفهومة).
3. عدم الملل: لا تكرر نفس النوتة بالضبط 50 مرة متتالية (هذا ممل).
4. الإيقاع: لا ينبغي أن تكون النوتات قصيرة جدًا بحيث لا تُسمع، أو طويلة جدًا بحيث لا يمكن التنفس.
5. المدى الصوتي: يجب أن تكون الأغنية قابلة للغناء بصوت بشري طبيعي (لا ترددات فضائية).

3. التدريب: نظام "المصحح الآلي"

الآن، احتاجوا لتعليم الروبوت هذه القواعد دون تدخل بشري. فقاموا ببناء مصحح آلي (Auto-Grader).

كيف يعمل: طلبوا من الروبوت كتابة 20,000 أغنية. ثم قاموا بتمرير كل أغنية عبر كتاب القواعد الرقمي الخاص بهم.
- إذا كسرت الأغنية قاعدة ما، يصنفها المصحح كـ "خاسرة".
- إذا اتبعت الأغنية القواعد، تُعتبر "رابحة".
السحر: لم يحتاجوا لبشر ليستمعوا. كان الكمبيوتر يعرف فورًا ما إذا كانت الأغنية "غير قانونية" لأنها كسرت القواعد. هذا خلق مجموعة بيانات ضخمة من الأمثلة "الجيدة مقابل السيئة" تلقائيًا.

4. الرقصة ذات الخطوتين: DPO و KTO

لتعليم الروبوت، استخدموا طريقة تدريب خاصة مكونة من خطوتين. فكر في هذا كتدريب كلب.

الخطوة 1: DPO (تحسين التفضيل المباشر) - "قارن واختر"
- التشبيه: أنت تعرض على الكلب قطعتين من الطعام. إحداهما قطعة لحم لذيذة (الأغنية "الرابحة")، والأخرى قطعة من الكرتون (الأغنية "الخاسرة"). تقول له: "أنا أحب اللحم، ولا أحب الكرتون". يتعلم الكلب تفضيل اللحم.
- في الورقة البحثية: ينظر الذكاء الاصطناعي إلى أزواج من الأغاني (واحدة جيدة، وواحدة سيئة) ويتعلم اختيار الأغنية التي تتبع القواعد.
الخطوة 2: KTO (تحسين كاهنمان-تفيرسكي) - "لا تفعل ذلك!"
- التشبيه: أحيانًا، لا يملك الكلب خيارًا "جيدًا" ليقارن به؛ هو فقط يفعل شيئًا سخيفًا، مثل مضغ حذاء. لا يمكنك أن تريه "حذاءً جيدًا"، عليك فقط أن تقول له: "لا! كلب سيء!".
- في الورقة البحثية: أحيانًا يفشل الروبوت بشكل سيء للغاية بحيث لا يمكنه حتى صنع أغنية "جيدة" للمقارنة بها. في هذه الحالات، أخبر الباحثون الذكاء الاصطناعي ببساطة: "هذا المخرج سيء، لا تفعله مرة أخرى". هذه الخطوة تنظف الأخطاء المحددة التي يستمر الروبوت في ارتكابها.

5. النتيجة: عبقري موسيقي

بعد هذا التدريب، تحول الروبوت.

قبل: كان يكتب أغاني تبدو كصندوق موسيقى مكسور.
بعد: أصبح يكتب أغاني قيمها البشر بأنها تقارب جودة الموسيقى التي يؤلفها البشر الحقيقيون.
الدليل: عندما اختبروا الروبوت الجديد، وجدوا أنه يرتكب أخطاء أقل بكثير. لم يكتب نوتات مستحيلة، وكان الإيقاع طبيعيًا، والكلمات تطابقت مع اللحن تمامًا.

الخلاصة الكبرى

تثبت هذه الورقة أنك لست بحاجة إلى مليون ناقد موسيقي بشري لتعليم الذكاء الاصطناعي كتابة أغنيات جيدة. أنت فقط بحاجة إلى إعطاء الذكاء الاصطناعي مجموعة واضحة من القواعد (مثل كتاب قواعد للعبة) وتركه يصحح لنفسه.

الأمر يشبه تعليم طفل القيادة: بدلًا من جلوس إنسان في مقعد الراكب والصراخ "توقف!" في كل مرة يرتكب فيها خطأ، تضع لوحات إرشادية واضحة (لوحات توقف، حدود سرعة) وتترك كمبيوتر السيارة يتعلم اتباعها. النتيجة هي سائق (أو في هذه الحالة، مؤلف أغنيات) آمن، موثوق، وجاهز للطريق.

إليك ملخص تقني مفصل لورقة البحث بعنوان: "محاذاة النماذج اللغوية لتوليد الألحان من الكلمات باستخدام القيود الموسيقية القائمة على القواعد."

١. بيان المشكلة

بينما أظهرت النماذج اللغوية الكبيرة (LLMs) قدرة واعدة في توليد الألحان من الكلمات، إلا أن النماذج التي يتم تدريبها عبر الضبط الدقيق الخاضع للإشراف (SFT) التقليدي غالباً ما تعاني من "انتهاكات القيود". تتعلم هذه النماذج الأنماط الإحصائية من بيانات التدريب ولكنها تفتقر إلى الالتزام القوي بالمبادئ الموسيقية الأساسية. وبناءً على ذلك، غالباً ما تظهر مخرجات الـ SFT ما يلي:

عدم المعقولية الموسيقية: تسلسلات طبقات صوتية (pitch) رتيبة، مدد إيقاعية غريبة، وألحان تخرج عن نطاقات الصوت البشري المريحة.
عدم التوافق: الفشل في مطابقة الكلمات مع النغمات بشكل صحيح.
قيود النشر: تجعل هذه العيوب الموسيقى المولدة غير صالحة للاستخدام المهني أو لوكلاء الصوت التفاعليين.

تقنيات المحاذاة الحالية مثل التعلم التعزيزي من التغذية الراجعة البشرية (RLHF) فعالة ولكنها تعاني من تكاليف حوسبة عالية والاعتماد على التوسيم البشري واسع النطاق، مما يخلق عقبة أمام قابلية التوسع.

٢. المنهجية

يقترح المؤلفون إطار عمل جديد للمحاذاة مؤتمت بالكامل يستبدل التغذية الراجعة البشرية بـ قيود موسيقية قائمة على القواعد. تتكون العملية من ثلاث مراحل رئيسية:

أ. التمثيل الرمزي

تُمثل الألحان كسلسلة قابلة للتحليل الآلي من أحداث النغمات: $N = (l, p, d)$ ، حيث $l$ هو مقطع الكلمة، و $p$ هو طبقة الـ MIDI، و $d$ هو المدة بالملي ثانية. يضمن هذا التنسيق التوافق الدقيق بين الكلمات واللحن.

ب. تعريف القيود القائمة على القواعد

تم تحديد خمسة قيود محددة لاكتشاف نماذج الفشل الشائعة ومعاقبتها:

قيد التنسيق (Format Constraint): يضمن أن المخرج صالح تركيبياً (قابل للتحليل إلى مجموعات من الكلمة-الطبقة-المدة).
قيد الكلمات (Lyric Constraint): يتحقق من أن الكلمات المولدة تطابق التسلسل المدخل (باستثناء الـ melismas).
قيد النغمة (Note Constraint - تجنب الرتابة): يحد من نسبة الطبقات المتطابقة المتتالية لمنع الألحان الرتيبة.
قيد المدة (Duration Constraint - المعقولية الإيقاعية): يفرض أطوال نغمات صالحة (تجنب النغمات القصيرة جداً بحيث لا تُسمع أو الطويلة جداً) ويضمن أن النغمة الأخيرة من العبارة لها مدة أطول وحاسمة.
قيد السجل (Register Constraint - النطاق الصوتي): يضمن وقوع جميع الطبقات ضمن نطاق صوت بشري محدد مسبقاً (على سبيل المثال، من MIDI C4 إلى C6).

ج. توليد بيانات التفضيل المؤتمت بالكامل

بدلاً من المقيّمين البشريين، يقوم نموذج الـ SFT بتوليد عدة مرشحات لحنية لكلمات غير مرئية. يتم تقييمها تلقائياً مقابل القواعد الخمس:

البيانات المزدوجة (Paired Data): إذا أنتجت المطالبة (prompt) لحناً متوافقاً مع القواعد ("الفائز") ولحناً منتهكاً للقواعد ("الخاسر")، يتم إنشاء زوج من نوع $(winner, loser)$.
البيانات غير المزدوجة (Unpaired Data): إذا أنتجت المطالبة ألحاناً "منتهكة للقواعد" فقط، يتم جمعها كعينات "غير مرغوب فيها".

د. استراتيجية المحاذاة المتسلسلة

يخضع النموذج لعملية تحسين من خطوتين للتعلم من البيانات المولدة:

تحسين التفضيل المباشر (DPO): يُطبق على البيانات المزدوجة. يعمل على تحسين سياسة النموذج لتفضيل الألحان المتوافقة على غير المتوافقة دون الحاجة لنموذج مكافأة صريح.
تحسين كاهنمان-تفيرسكي (KTO): يُطبق على البيانات السلبية غير المزدوجة. يسمح للنموذج بالتعلم من المخرجات "غير المرغوب فيها" حيث لم يوجد "فائز"، مما يؤدي فعلياً إلى تثبيط نماذج الفشل المحددة (مثل الأخطاء الإيقاعية الشديدة) التي قد يغفل عنها الـ DPO.

٣. المساهمات الرئيسية

إطار عمل القيود القائمة على القواعد: مجموعة شاملة من خمس قواعد موسيقية حتمية تصيغ مبادئ كتابة الألحان الأساسية، وتستهدف نماذج الفشل التوليدي المحددة.
خط إنتاج مؤتمت بالكامل: طريقة قابلة للتوسع لتوليد مجموعات بيانات تفضيل واسعة النطاق (سواء كانت مزدوجة أو غير مزدوجة) دون أي تدخل بشري، مما يلغي عقبة التوسيم البشري.
المحاذاة المتسلسلة (DPO-KTO): استراتيجية مبتكرة تجمع بين DPO (للتعلم من التفضيلات الزوجية) و KTO (للتعلم من العينات السلبية فقط) لمعالجة نقاط ضعف النموذج بشكل شامل.
أداء يضاهي أحدث المعايير (State-of-the-Art): أظهر تحسناً كبيراً في كل من المقاييس الموضوعية والتقييمات البشرية الذاتية.

٤. النتائج التجريبية

تم تقييم الطريقة على مهام توليد اللحن من الكلمات باللغتين الإنجليزية والصينية باستخدام مجموعة اختبار مكونة من 1,000 جملة.

المقاييس الموضوعية:
- توزيع الطبقة (PD) وتوزيع المدة (DD): حققت الطريقة المقترحة أعلى الدرجات (على سبيل المثال، 32.37% لـ PD و 37.11% لـ DD في الإنجليزية)، متفوقة على النماذج المرجعية مثل SongMASS و TeleMelody و SongComposer.
- مسافة اللحن (MD): حققت أدنى مسافة (2.63 للإنجليزية)، مما يشير إلى توافق وثيق مع المسارات اللحنية التي ألفها البشر.
- انتهاكات القواعد: كما هو موضح في الشكل 2، قللت الطريقة المقترحة بشكل كبير من الانتهاكات عبر جميع فئات القيود الخمس مقارنة بنموذج SFT الأساسي والنماذج التي خضعت لدراسة الاستبعاد (ablated models).
المقاييس الذاتية (MOS):
- في اختبار متوسط درجة الرأي (MOS) من قبل خبراء بشريين (مقياس 1-5)، سجل النموذج المقترح 3.42.
- تفوق هذا بشكل ملحوظ على جميع النماذج المرجعية (التي تراوحت بين 2.92 و 3.26) وكان لا يكاد يختلف عن تسجيلات الحقيقة الأرضية (Ground Truth) التي سجلت 3.50.
دراسات الاستبعاد (Ablation Studies):
- أدى كل من DPO و KTO بشكل فردي إلى تحسن عن SFT.
- حقق الجمع بينهما (SFT + DPO + KTO) أفضل النتائج، مما يؤكد أن DPO يصقل التفضيلات العامة بينما يعمل KTO بفعالية على معاقبة الإخفاقات الإيقاعية والهيكلية المحددة الموجودة في البيانات السلبية غير المزدوجة.

٥. الأهمية

تثبت هذه الدراسة أن المحاذاة القائمة على القواعد هي بديل قابل للتوسع، وفعال من حيث التكلفة، وقابل للتطبيق لـ RLHF لغرس المعرفة المتخصصة في النماذج التوليدية. ومن خلال ترميز المعرفة الموسيقية الخبيرة في قواعد حتمية، نجح المؤلفون في تصحيح "عدم المعقولية الموسيقية" للنماذج اللغوية الكبيرة دون التكلفة العالية لـ RLHF. يمهد هذا النهج الطريق لوكلاء أصوات غنائية تفاعلية عالية الدقة وأدوات تأليف أغاني مؤتمتة تنتج نتائج متماسكة موسيقياً ومدركة بشرياً.