ViTone: A Diagnostic Benchmark for Tonal Faithfulness in Vietnamese Text-to-Speech
تقدم هذه الورقة ViTone، وهو معيار تشخيصي وبروتوكول تقييم مسجل مسبقاً صُمم لتقييم الأمانة النغمية بشكل مباشر في أنظمة تحويل النص إلى كلام باللغة الفيتنامية من خلال الجمع بين محفزات الأزواج الدنيا، ومعدل خطأ نغمي مُعاير بواسطة التعرف الآلي على الكلام (ASR)، وتحليل مستوى الإشارات لتردد الصوت الأساسي (F0) والتحلل الحنجري، مما يعالج قصور المقاييس الحالية التي تفشل في التقاط التمايزات النغمية التباينية للغة.
في عالم الحواسيب التي تتحدث، لا يعد جعل الصوت يبدو طبيعيًا سوى نصف المعركة. فبالنسبة لمعظم اللغات، إذا بدا صوت الآلة طلقًا وكانت الكلمات واضحة، يُعتبر العمل قد أُنجز. ولكن بالنسبة للمتحدثين باللغة الفيتنامية، وهي لغة يتغير فيها معنى الكلمة تمامًا بناءً على طبقة الصوت وجودة الصوت، يمكن أن يكون الطلاقة فخًا. في اللغة الفيتنامية، يمكن لمقطع لفظي واحد أن يحمل ستة معانٍ مختلفة اعتمادًا على كيفية "غنائه"، تمامًا كما يمكن عزف نوتة موساسية واحدة بطرق مختلفة لخلق ألحان متميزة. ويعتمد بعض هذه المعاني ليس فقط على ارتفاع وانخفاض طبقة الصوت، بل أيضًا على جودة حلقية خفية وخشنة، وهو صوت يُعرف باسم "التجهير الحنجري" (laryngealization). فإذا نجح صوت الكمبيوتر في ضبط طبقة الصوت ولكنه أغفل هذه الجودة الحلقية، فقد يبدو سلسًا للمستمع، ومع ذلك سيقول الكلمة الخاطئة تمامًا. هذا هو جوهر المشكلة التي يحاول الباحثون حلها: كيف تقيس ما إذا كانت الآلة تتحدث اللغة بشكل صحيح حقًا، بدلاً من مجرد تبدو جيدة؟
قدم فريق من الباحثين أداة جديدة تسمى "ViTone"، صُممت خصيصًا لمراجعة هذه الأصوات الحاسوبية لهذا النوع المحدد من الأخطاء. وبدلاً من مجرد سؤال المستمعين عما إذا كان الصوت يبدو لطيفًا، يعمل "ViTone" كاختبار تشخيصي يتحقق مما إذا كان الكمبيوتر يحافظ على الإشارات الموسيقية والحلقية المحددة التي تُعرف الكلمات الفيتنامية. قام الباحثون ببناء مجموعة من الجمل الاختبارية باستخدام قواعد صارمة لضمان أن كل مقطع لفظي تم اختباره هو كلمة حقيقية، وأن الشيء الوحيد الذي يتغير بينها هو النغمة. ثم قاموا بتغذية هذه الجمل في نظام صوت حاسوبي رائد لمعرفة كيفية أدائه. كان الهدف هو معرفة ما إذا كان النظام يمكنه الحفاظ على المعنى الصحيح أثناء محاولته التحدث بشكل طبيعي، وفهم أين فشل بالضبط.
بدأت الدراسة بوضع معيار أساسي لمدى قدرة الكمبيوتر على قراءة هذه النغمات من الكلام البشري. استخدموا نظامًا قويًا للتعرف على الكلام للاستماع إلى تسجيلات لأشخاص حقيقيين يتحدثون الجمل الاختبارية. ارتكب هذا النظام أخطاءً قليلة جدًا، حيث أصاب في تحديد النغمات بمعدل خطأ بلغ 0.40% فقط إجمالًا، مما أثبت أن الجمل الاختبارية كانت واضحة بما يكفي لاستخدامها كمعيار. ومع وضع هذا المعيار البشري، طلب الباحثون من نظام الصوت الحاسوبي توليد نفس الجمل. كانت النتائج صارخة؛ فعندما حاول الكمبيوتر التحدث، فشل في ضبط النغمة الصحيحة في حوالي 70% من الحالات، مما خلق فجوة هائلة مقارنة بالمعيار البشري شبه المثالي. كشفت هذه الفجوة أن الكمبيوتر كان يعاني لالتقاط التفاصيل الدقيقة للغة، رغم أنه كان يبذل قصارى جهده ليبدو طلقًا.
ولفهم سبب فشل الكمبيوتر، نظر الباحثون بعمق أكبر من مجرد النتيجة النهائية. لقد قاموا بتفكيك الأخطاء لمعرفة ما إذا كان الكمبيوتر يفسد طبقة الصوت أم الجودة الحلقية. ووجدوا أن الكمبيوتر يعاني مع نغمات محددة، حيث غالبًا ما يستبدلها أو يفتقد صوت الحلق الخشن الذي يميزها. ومع ذلك، نظرًا لأن الاختبار التجريبي أنتج عددًا صغيرًا جدًا من العناصر القابلة للقياس لكل نغمة، لم يتمكن الباحثون من التصنيف بشكل قاطع أي نغمة محددة كانت الأصعب على الكمبيوتر لنطقها. علاوة على ذلك، بينما كانت قدرة الكمبيوتر على التعرف على أصوات الحلق في الكلام البشري كافية لتحديد معيار أساسي، إلا أنها لم تكن موثوقة بما يكفي لاستخدامها كاختبار لمخرجات الآلة نفسها. يشير هذا إلى أن نماذج الكمبيوتر لا ترتكب أخطاء عشوائية فحسب، بل هي تتجاهل بشكل منهجي جزءًا حيويًا من اللغة يستخدمه البشر للتمييز بين الكلمات. كما تحقق البحث مما إذا كان الكمبيوتر يبدو مختلفًا عندما يُطلب منه محاكاة متحدث سمعه من قبل مقابل متحدث لم يقابله من قبل. وبينما كان معدل الخطأ أعلى قليلاً بالنسبة للأصوات الجديدة، إلا أن حجم العينة كان صغيرًا جدًا للبت في الأمر، لكن الاتجاه يوحي بأن الكمبيوتر يعاني أكثر عندما يتعين عليه التعميم على شخص جديد.
أشار الباحثون بعناية إلى أن هذا كان اختبارًا تجريبيًا، وهي محاولة أولى لإثبات نجاعة الطريقة وليس حكمًا نهائيًا على جميع الأصوات الحاسوبية. تم اختبار نظام حاسوبي واحد فقط، وكان عدد الجمل التي أنتجها بنجاح صغيرًا. وبسبب ذلك، لا يمكن التعامل مع الأرقام المحددة حول النغمة الأصعب في النطق كحقيقة نهائية، ولكن الطريقة نفسها أصبحت الآن مثبتة الصلاحية. القيمة الحقيقية لهذا العمل تكمن في خلق طريقة جديدة للاستماع إلى الأصوات الحاسوبية. فمن خلال التركيز على الإشارات الموسيقية والحلقية المحددة التي تُعرف اللغة الفيتنامية، يسمح "ViTone" للباحثين برؤية أين تفشل الآلة بالضبط في فهم اللغة التي تحاول التحدث بها. وهذا ينقل المجال من مجرد السؤال عما إذا كان الصوت يبدو لطيفًا، نحو ضمان أنه يقول بالفعل ما يعنيه. وتخلص الدراسة إلى أنه بالنسبة للغات مثل الفيتنامية، فإن الطبيعية ليست كافية؛ بل يجب أن يكون الصوت أمينًا للقواعد الخفية للغة ليكون مفيدًا حقًا.
ملخص تقني: ViTone – معيار تشخيصي للأمانة النغمية في تحويل النص إلى كلام باللغة الفيتنامية
بيان المشكلة تفشل مقاييس التقييم الحالية لتحويل النص إلى كلام (TTS) باللغة الفيتنامية، مثل معدل خطأ الكلمات (WER)، ودرجة الرأي المتوسط (MOS)، والمسافات الصوتية العالمية (مثل RMSE-F0)، في تقييم الأمانة النغمية (tonal faithfulness) بشكل مباشر. في اللغة الفيتنامية، تُعد النغمة المعجمية متباينة ومتعددة الإشارات؛ حيث يتغير المعنى إذا تغيرت نغمة المقطع اللفظي (على سبيل المثال: ma مقابل mà). علاوة على ذلك، تعتمد النغمات الفيتنامية (تحديداً hỏi و ngã و nặng) ليس فقط على مسارات تردد الصوت الأساسي (F0)، بل أيضاً على إشارات التصويت (phonation cues) مثل التجهير الحنجري (الضيق الحنجري أو النبر المتقطع/creak). غالباً ما تعامل المقاييس الحالية أخطاء النغمة كاستبدالات عامة للكلمات أو انحرافات صوتية، مما يحجب ما إذا كان النظام يحافظ على التباينات الفونولوجية المحددة المطلوبة للوضوح المعجمي. بالإضافة إلى ذلك، فإن أنظمة TTS ذات القدرة على التوليد من بيانات غير مرئية (zero-shot)، والتي تتدرب على مجموعات بيانات مختلطة اللهجات، قد تتعلم أولويات تدمج النغمات المتميزة (مثل دمج لهجة الجنوب لنغمتي hỏi و ngã)، مما يؤدي إلى توليد كلام يبدو طبيعياً ولكنه غير صحيح فونولوجياً بالنسبة للهجة محددة.
المنهجية يقترح البحث ViTone، وهو معيار تشخيصي وبروتوكول تقييم مسجل مسبقاً مصمم لتدقيق الأمانة النغمية بشكل مستقل عن الطبيعية العالمية. تتكون المنهجية من أربعة مكونات أساسية:
بناء مجموعة البيانات التشخيصية:
المحفزات: تستخدم مجموعة البيانات أزواجاً دنيا (minimal pairs) وسداسيات (sextets) متحكم بها نغمياً، حيث يتم تثبيت البداية والنهاية (onset and rime) مع تغيير النغمة. وتتضمن 865 مقطعاً مستهدفاً (59 سداسية للمقاطع مفتوحة/ذات نهاية صوت صامت، و255 زوجاً للمقاطع ذات النهاية الانفجارية).
السياق: يتم تنفيذ كل هدف في ثلاثة ظروف حاملة: عزلة، وسط العبارة، ونهاية العبارة، وذلك لمراعاة تأثيرات الحدود النبرية (prosodic boundaries).
التوليد: يتم توليد العناصر باستخدام نظام صريح وقائم على القواعد لتحويل الرسم الكتابي إلى صوت (G2P) يعتمد على فونولوجيا هانوي القياسية (Kirby)، مما يضمن معرفة حتمية بتسلسل الفونيم والنغمة المقصود.
بروتوكول التقييم:
معدل خطأ النغمة (TER): يُحسب TER كنسبة الوحدات الحاملة للنغمة التي تختلف فيها النغمة المحققة عن النغمة المقصودة. ومن الأهمية بمكان أن تسجيل النغمة يتم فقط في المقاطع التي يتطابق فيها المحتوى القطعي، مما يمنع أخطاء التعرف القطعي من تضخيم معدلات خطأ النغمة.
معايرة أرضية التعرف الآلي على الكلام (ASR Floor): للتمييز بين أخطاء التوليد وأخطاء المقيّم، يفرض البروتوكول قياس TER على الكلام البشري المستبعد (TERhuman) باستخدام نفس نظام التعرف الآلي على الكلام (PhoWhisper-large). المقياس النهائي هو خطأ النغمة الزائد: ΔTER=TERsys−TERhuman.
تشخيص مستوى الإشارات (Cue-Level Diagnosis): يفصل البروتوكول الأخطاء إلى أخطاء في مسار F0 وأخطاء في التجهور (laryngealization). يتم تدريب مصنف نغمي على الكلام البشري باستخدام ميزات F0 وميزات التجهور (مثل بروز ذروة السلسلة الكبسية، H1–H2) لتحديد ما إذا كان الكلام الاصطناعي قد فشل في تحقيق إشارات تصويت محددة.
مقارنة الطبيعية: يقارن البروتوكول الأمانة النغمية مقابل الطبيعية (التي تُقاس عبر MOS أو وكيل تلقائي مثل UTMOS) لاختبار ما إذا كانت الطبيعية العالية ترتبط بالدقة النغمية.
التصميم التجريبي:
تم تصميم التدقيق لاختبار الأنظمة تحت أربعة ظروف: المتحدثين المرئيين، المتحدثين غير المرئيين، المحفزات بلهجة الشمال، والمحفزات بلهجة الجنوب.
تم تسجيل الفرضيات مسبقاً لاختبار الانفصال بين الطبيعية والأمانة، والخلط المحدد بين hỏi/ngã بسبب خلط اللهجات، وتدهور الأمانة في التعميم (zero-shot generalization).
النتائج الرئيسية (التشغيل التجريبي) يبلغ البحث عن تشغيل تجريبي لنظام واحد وهو viXTTS للتحقق من صحة المسار (pipeline)، بدلاً من تدقيق مقارن كامل. تشمل النتائج الرئيسية لهذا التشغيل ما يلي:
قابلية تنفيذ المسار: المسار من البداية إلى النهاية قابل للتنفيذ.
أرضية ASR: حقق نظام PhoWhisper-large أرضية منخفضة لخطأ النغمة في الكلام البشري (0.40% إجمالاً، و1.05% كحد أقصى لنغمة ngã)، مما يؤكد صلاحيته كـمقيّم أساسي لهذا البروتوكول.
الخط المرجعي للمصنف: حقق المصنف على مستوى الإشارات، المدرب على الكلام البشري، دقة بنسبة 67.80%. ومع ذلك، فقد عانى بشكل كبير مع نغمة ngã (استدعاء بنسبة 6.4%)، مما يشير إلى أن مجموعة الميزات الحالية (F0 + التجهور) غير كافية لتشخيص هذه النغمة المحددة بقوة وبشكل منعزل.
أداء التوليد: في المجموعة المحدودة المكونة من 17 عنصراً قابلاً للقياس، أظهر viXTTS معدلات خطأ نغمية عالية (66.7% للمحفزات المرئية، و83.3% للمحفزات غير المرئية). ومع ذلك، فإن المقارنة بين المحفزات المرئية وغير المرئية هي وصفية فقط؛ فمع وجود ستة عناصر مزدوجة فقط، لم يكن الفرق ذا دلالة إحصائية (p=1.00)، ويذكر البحث صراحة أن هذه النتيجة لا تدعم ادعاءً قاطعاً بشأن التعميم من نوع zero-shot.
الطبيعية مقابل الأمانة: تم حساب ارتباط سبيرمان بين وكيل UTMOS وخطأ النغمة (ρ=0.316,p=0.216). ومع ذلك، يذكر البحث صراحة أن الفرضية H1 لم تُدعم ولم تُدحض بهذا التشغيل؛ حيث ظل الانفصال المتوقع غير مختبر لأن التحليل اقتصر على نظام واحد بدلاً من ظروف الأنظمة المتعددة المسجلة مسبقاً.
الأهمية والادعاءات يضع البحث ViTone ليس كلوحة صدارة لتصنيف الأنظمة، بل كأداة تشخيصية لتحديد أنماط الفشل المحددة في التوليد النغمي.
التأسيس اللغوي: يؤكد البحث أن الطبيعية ليست دليلاً كافياً على الأمانة المعجمية في اللغات النغمية. ومن خلال عزل النغمة كهدف تقييم من الدرجة الأولى، يسمح ViTone للباحثين بتحديد ما إذا كان النظام يفشل بسبب أخطاء مسار F0 أو فقدان إشارات التصويت (التجهور).
القابلية للتكرار: تم تصميم البروتوكول ليكون قابلاً للتكرار، مع نية إصدار قواعد G2P، وقوائم العناصر، وسكريبتات التسجيل للجمهور.
النطاق المتواضع: يذكر المؤلفون صراحة أن النتائج الحالية وصفية واستكشافية. لقد تحقق التشغيل التجريبي من المنهجية (القدرة على قياس أرضيات ASR وميزات مستوى الإشارة) بدلاً من أداء أنظمة TTS محددة. ويؤكد البحث أن الادعاءات الحاسمة المتعلقة بأداء الأنظمة، والسلوكيات الخاصة باللهجات، والارتباط بين الطبيعية والأمانة تتطلب تدقيقاً واسع النطاق مع أنظمة متعددة، وعينات أكبر، وبيانات مرجعية بشرية مصنفة حسب اللهجة، والتي يتم التخطيط لها في العمل المستقبلي.