PilotTTS: A Disciplined Modular Recipe for Competitive Speech Synthesis
يُعد PilotTTS نظاماً خفيف الوزن ومفتوح المصدر لتحويل النص إلى كلام يعتمد على النماذج ذاتية الانحدار، ويحقق أداءً رائداً في استنساخ الأصوات وتوليف المشاعر واللهجات باستخدام بنية هندسية تبسيطية ومسار بيانات قابل لإعادة الإنتاج تم تدريبه على 200 ألف ساعة فقط من البيانات، متفوقاً بذلك على النماذج التي تدرّبت على مجموعات بيانات أكبر بكثير.
تخيل أنك تريد بناء ممثل صوتي عالمي المستوى. عادةً، للقيام بذلك، تحتاج إلى استوديو ضخم ومكلف، وملايين الساعات من النصوص المسجلة، وفريق من المهندسين لبناء آلة معقدة للغاية. الأمر يشبه محاولة خبز كعكة حائزة على نجمة ميشلان باستخدام مصنع مليء بالأفران الصناعية والمكونات النادرة والخاصة.
PilotTTS هي وصفة جديدة من فريق Amap التابع لشركة Alibaba تقول: "لا تحتاج إلى المصنع. أنت فقط بحاجة إلى مطبخ جيد ومنضبط وطريقة ذكية لاستخدام ما تملكه."
إليك كيف فعلوا ذلك، مشروحاً ببساة:
1. "المطبخ النظيف" (معالجة البيانات)
تعتمد معظم نماذج الصوت بالذكاء الاصطناعي على بيانات فوضوية تم جمعها من الإنترنت — مثل محاولة الخبز بدقيق يحتوي على حشرات.
الطريقة القديمة: غالباً ما تستخدم الفرق أدوات سرية ومكلفة لتنظيف بياناتها، مما يبقي الباحثين الآخرين خارج اللعبة.
طريقة PilotTTS: قاموا ببناء "خط معالجة للتنظيف" باستخدام أدوات مفتوحة المصدر ومجانية فقط. فكر في هذا كحزام ناقل يغسل، ويفرز، ويفحص كل مقطع صوتي.
يتحقق مما إذا كان الصوت واضحاً (بدون تشويش أو ضوضاء في الخلفية).
يقص الأجزاء التي يتحدث فيها الناس في وقت واحد.
يصنف كل شيء بدقة (من المتحدث، وماذا يقولون، وكيف يقولونه).
النتيجة: لقد حولوا كومة ضخمة من الصوتيات الفوضوية من الإنترنت إلى مكتبة نقية مكونة من 200,000 ساعة من البيانات عالية الجودة. إنه يشبه تحويل ساحة خردة إلى مكتبة منظمة تماماً.
2. "الطاهي الذكي" (بنية النموذج)
بدلاً من بناء روبوت عملاق ومعقد بألف قطعة متحركة، استخدموا نهجاً "نموذجياً" (Modular). لقد أخذوا أدوات موجودة ومثبتة وربطوها بطريقة ذكية جديدة.
العقل: استخدموا نموذج لغة قوياً (Qwen3) ليكون العقل الذي يفهم النص.
خدعة "الفصل": هذه هي وصفتهم السرية. عادةً، عندما يحاول الذكاء الاصطناعي تقليد صوت ما، فإنه يرتبك بين هوية الشخص (بصمته الصوتية الفريدة) وبين كيفية حديثه (عاطفته أو سرعته).
يستخدم PilotTTS "مجسّين" منفصلين (Q-Former و CAMPPlus encoder). يركز أحد المجسّين فقط على الهوية (الصوت نفسه)، بينما يركز الآخر على الأسلوب (العاطفة، السرعة، واللهجة).
التشبيه: تخيل رساماً. فرشاة واحدة ترسم وجه الشخص (الهوية)، وفرشاة أخرى ترسم مزاج المشهد (الأسلوب). من خلال إبقاء الفرش منفصلة، يمكن للرسام تغيير المزاج (جعل الشخص حزيناً أو سعيداً) دون تغيير وجه الشخص عن طريق الخطأ.
3. ماذا يمكنه أن يفعل؟
بسبب فصلهم بين "الصوت" و"الأسلوب"، فإن النظام مرن للغاية:
الاستنساخ بلقطة واحدة (Zero-Shot Cloning): يمكنك إعطاؤه 5 ثوانٍ فقط من صوت شخص غريب، ويمكنه التحدث بأي نص بهذا الصوت. وقد تفوق على أنظمة أخرى تم تدريبها على مجموعات بيانات أكبر بكثير.
التحكم في العاطفة: يمكنك أن تطلب منه التحدث "بحزن"، أو "بغضب"، أو "بشعور من القلق". يمكنه القيام بذلك لـ 11 عاطفة مختلفة.
السمات شبه اللغوية (Paralinguistics): يمكنه إضافة أصوات بشرية مثل الضحك، أو البكاء، أو السعال، أو التنفس. يمكنه حتى القيام بـ "الضحك المدمج"، حيث يضحك الشخص أثناء التحدث، بدلاً من مجرد الضحك قبل أو بعد الكلام.
اللهجات: يمكنه التحدث بـ 14 لهجة صينية مختلفة. حتى لو أعطيته أمراً بلغة الماندارين، يمكنه التحول في المخرجات إلى لهجة محددة مع الحفاظ على هوية المتحدث الأصلية.
4. النتائج
لقد اختبروا هذا النظام مقابل نماذج صوتية رفيعة المستوى أخرى.
الدقة: ارتكب أخطاء قليلة جداً فيما يقوله (معدلات خطأ منخفضة).
مطابقة الصوت: كان صوته يشبه المتحدث الأصلي أكثر من أي نظام آخر تم اختباره، على الرغم من أنه تم تدريبه على بيانات أقل بكثير (200 ألف ساعة مقابل ملايين الساعات التي استخدمها المنافسون).
الكفاءة: حقق هذه النتائج دون الحاجة إلى بيانات مملوكة لجهات خاصة أو بنية تحتية معقدة وضخمة.
الخلاصة
يثبت PilotTTS أنك لست بحاجة لأن تكون شركة تقنية عملاقة ذات موارد غير محدية لبناء صوت ذكاء اصطناعي رفيع المستوى. من خلال الانضباط في جودة البيانات واستخدام تصميم نموذجي ذكي (فصل "من هو" عن "كيف يتحدث")، أنشأوا نظاماً قادراً على منافسة أكبر اللاعبين في هذا المجال.
لقد أطلقوا "وصفتهم" (الشيفرة البرمجية ومسار معالجة البيانات) للجمهور، بحيث يمكن لأي شخص بناء نسخته الخاصة من هذا "المطبخ النظيف" و"الطاهي الذكي".
ملخص تقني: PilotTTS
بيان المشكلة
يعتمد المسار الحالي لأنظمة تحويل النص إلى كلام (TTS) المتطورة بشكل كبير على مجموعات بيانات ضخمة مملوكة لجهات خاصة (ملايين الساعات) وبنيات معمارية تزداد تعقيداً تشمل أجهزة ترميز متعددة الرموز (multi-codebook tokenizers)، ومراحل متعددة، ونماذج فرعية متخصصة. هذا التوجه يخلق حواجز كبيرة أمام فرق البحث ذات الموارد المحدودة أو عمليات النشر التجاري، حيث يتطلب الحصول على هذه البيانات ومعالجتها بنية تحتية ضخمة، كما يؤدي التعقيد المعماري إلى تضخم الجهد الهندسي وتكاليف النشر. علاوة على ذلك، غالباً ما تُطور ميزات التحكم المتقدمة (العاطفة، الخصائص اللغوية، اللهجات) كأنظمة منفصلة، مما يؤدي إلى تشتت الخبرات. تفترض الورقة البحثية أن هناك حاجة إلى بديل أقل تعقيداً وقابل للتكرار، يحقق أداءً تنافسياً من خلال هندسة دقيقة للبيانات ودمج مكونات مفتوحة المصدر جيدة التكامل، بدلاً من الابتكار المعماري أو الحجم الهائل للبيانات.
المنهجية
نظام PilotTTS هو نظام تحويل نص إلى كلام (TTS) خفيف الوزن ويعتمد على النماذج التوليدية الذاتية (autoregressive)، صُمم لتحقيق أداء عالٍ باستخدام حوالي 200,000 ساعة من بيانات التدريب، تمت معالجتها بالكامل باستخدام أدوات مفتوحة المصدر. يتكون النظام من أربعة مكونات رئيسية:
1. خط معالجة البيانات
خط معالجة قابل للتكرار يتكون من ثلاث مراحل، مبني من وحدات متاحة للعموم، يقوم بتحويل الصوت الخام من الإنترنت إلى مجموعة بيانات نظيفة وموسومة:
تقييم وتحسين الجودة: يتم توحيد الصوت، وتقسيمه عبر كشف نشاط الكلام (SAD) وكشف تغيير المتحدث (SCD)، وتقييم الجودة باستخدام DNSMOS، وتصنيف الكلام/غير الكلام، وتقدير نسبة الإشارة إلى الضجيج (SNR). تخضع الأجزاء منخفضة الجودة لعمليات إزالة الضجيج والتحسين.
توسيم البيانات (Label Annotation): يتم نسخ الصوت باستخدام أنظمة التعرف التلقائي على الكلام (ASR) متعددة (Paraformer، FireRedASR، Whisper) لضمان الاتساق بين الأنظمة. يتم تطبيق كشف الكلام المتداخل، والمحاذاة القسرية (forced alignment)، وتوسيم النبرة (عبر Qwen3-Force-Alignment). يتم إجراء وسم المتحدث باستخدام 3D-Speaker-Toolkit، ويقوم تحليل الانحراف الطيفي (spectral rolloff) بتصفية التسجيلات منخفضة النطاق الترددي.
تصفية الجودة: يتم تصفية العينات بناءً على القطع (truncation)، وكشف الكلام الاصطناعي، وتجميع شامل لجودة الصوت، وصحة الكلام، والبيانات الوصفية. ينتج عن ذلك حوالي 200 ألف ساعة من البيانات عالية الجودة باللغتين الصينية والإنجليزية.
2. بنية النموذج
ترميز الكلام (Speech Tokenizer): يستخدم الترميز الفردي ذو الرمز الواحد (single-codebook) من نوع Finite Scalar Quantization (FSQ) من نموذج CosyVoice 3، والذي يعمل بتردد 25 هرتز وحجم رمز يبلغ 6,561. تم تدريبه مسبقاً على أهداف متعددة المهام (ASR, LID, SER, AED, SA) لترميز السمات اللغوية والبارالينغويستية (paralinguistic).
وحدة النص إلى الدلالات ذاتية التوليد (Autoregressive Text-to-Semantic Module): مبنية على نموذج لغة Qwen3 (بـ 0.6 مليار معلمة). وهي تستخدم آلية شرطية مفككة:
محول محتوى دلالي يعتمد على Q-Former يستخرج أسلوب الكلام الديناميكي والإشارات النبرية من الصوت المرجعي (باستخدام تضمينات w2v-BERT).
تُستخدم التدريب المقترن عبر العينات (Cross-sample paired training) لإجبار المشرط (conditioner) على ترميز هوية المتحدث بشكل مستقل عن المحتوى، مما يسهل عملية الاستنساخ صفري القدرة (zero-shot cloning) والتحكم.
مفكك شفرة الكلام (Speech Decoder): نموذج مطابقة التدفق الشرطي (Conditional Flow Matching - CFM) مع خلفية من محول الانتشار (Diffusion Transformer - DiT) بـ 300 مليون معلمة، يقوم بتخليق مخططات ميل الطيف (mel-spectrograms) من الرموز الدلالية، وتضمينات المتحدث، ومخططات ميل الطيف المرجعية.
المُصفي (Vocoder): يقوم HiFi-GAN بتحويل مخططات ميل الطيف المولدة إلى موجات صوتية.
3. استراتيجيات التحكم
التحكم في العاطفة: يتم تحقيق ذلك عبر التدريب اللاحق على حوالي 2,200 ساعة من البيانات الموسومة عاطفياً، مما يدعم 11 فئة (7 أساسية و4 ممتدة).
تخليق الخصائص اللغوية (Paralinguistic Synthesis): يدعم الضحك، والتنفس، والبكاء، والسعال عبر الضبط الدقيق الخاضع للإشراف على حوالي 200 ساعة من البيانات. ويتضمن وضع "الضحك المغلف" (LAUGH_SPAN) الفريد.
تخليق اللهجات: يعالج ندرة البيانات عبر إنشاء أزواج متوازية "لهجة-ماندرين" واستخدام أخذ عينات مختلطة من المحفزات أثناء الضبط الدقيق على حوالي 16,000 ساعة من بيانات اللهجات.
المساهمات الرئيسية
خط معالجة بيانات قابل للتكرار: خط معالجة متعدد المراحل مُجمع بالكامل من أدوات مفتوحة المصدر، يمكّن الفرق من بناء مجموعات بيانات تدريب عالية الجودة من أصوات الإنترنت الخام بتكلفة مخفضة.
بنية مدمجة مع شرطية مفككة: آلية شرطية تعتمد على Q-Former مقترنة بتدريب عبر العينات، تعمل بفعالية على فصل هوية المتحدث عن أسلوب الكلام، مما يحقق تشابهاً عالياً في هوية المتحدث ودقة في المحتوى مع بيانات محدودة.
التحكم متعدد الأبعاد: إطار عمل موحد يدعم استنساخ الصوت صفري القدرة، وتخليق العواطف (11 فئة)، وتخليق الخصائص اللغوية (4 فئات + الضحك المغلف)، وتخليق اللهجات الصينية (14 لهجة) من خلال التدريب اللاحق المستهدف.
النتائج التجريبية
تم التقييم بناءً على معيار Seed-TTS Eval ومهام التحكم المحددة:
التوليد صفري القدرة (Zero-Shot Generation): حقق PilotTTS أعلى تشابه في هوية المتحدث في كل من المجموعات الاختبارية الصينية (0.862) والإنجليزية (0.815)، متفوقاً على الأنظمة المدربة على مجموعات بيانات أكبر بكثير. كما حقق أدنى معدل خطأ في الكلمات (WER) للإنجليزية (1.50%) ومعدل خطأ في الرموز (CER) قدره 0.87% للصينية، ليحتل المرتبة الثانية فقط بعد MiniMax-Speech (0.83%) في الأخيرة.
التحكم في العاطفة: حقق متوسط معدل نجاح 88.1% في العواطف الأساسية، متفوقاً على CosyVoice 3 (83.8%). كما حافظ على أعلى تشابه للمتحدث تحت ظروف التحكم في العاطفة (0.7329) مع أصغر انخفاض مقارنة بالتخليق المحايد.
الخصائص اللغوية (Paralinguistics): حقق معدل نجاح إجمالي قدره 85.1% عبر الفئات الشائعة، متفوقاً على CosyVoice 3 (80.4%) و Fish-Speech S2 (64.3%). وقد أظهر نجاحاً فريداً في "الضحك المغلف" (94.6%) والبكاء (61.9%).
تخليق اللهجات: حقق دقة 91.8% في سيناريوهات نفس اللهجة، و86.46% في نقل الماندرين إلى اللهجة، و85.38% في سيناريوهات اللهجات المتقاطعة.
الأهمية والادعاءات
تدعي الورقة أن PilotTTS يثبت أن الأداء التنافسي لأنظمة تحويل النص إلى كلام (TTS) المتطورة لا يتطلب بالضرورة ملايين الساعات من البيانات المملوكة لجهات خاصة أو بنيات معقدة متعددة المراحل. من خلال إعطاء الأولوية لـ هندسة البيانات و دمج المكونات المفتوحة المصدر الراسخة، يوضح المؤلفون أن نظاماً تم تدريبه على 200,000 ساعة فقط يمكنه التفوق على النماذج الأكبر والأكثر تعقيداً في دقة هوية المتيد ودقة المحتوى.
تكمن الأهمية في خفض حواجز الدخول أمام مجتمع البحث والكيانات التجارية. إن إصدار وصفة خط معالجة البيانات بالكامل، والأوزان المدربة مسبقاً، والبرمجيات، يسمح للفرق ذات الموارد المحدودة ببناء أنظمة تنافسية أو تحسين النهج الحالي دون التكاليف الباهظة المرتبطة بالتوجهات الحالية للأنظمة المتطورة. يضع المؤلفون PilotTTS كحل عملي وقابل للنشر يوازن بين القدرة التعبيرية والجدوى الهندسية.