MRMAD: A Multi-Round Multi-Audio Benchmark for Evaluating Acoustic Degradation Perception in Large Audio-Language Models
تقدم هذه الورقة البحثية MRMAD، وهو معيار مرجعي جديد متعدد الجولات ومتعدد الأصوات مصمم لتقييم قدرة النماذج اللغوية الصوتية الكبيرة على إدراك وتشخيص والاستدلال حول التدهورات الصوتية عبر الكلام والموسيقى والأصوات، مما يكشف أن النماذج الحالية تعاني في تحليل التدهور بشكل موثوق رغم قدراتها على الفهم الدلالي.
المؤلفون الأصليون:Yize Li, Ningyuan Yang, Sile Yin, Sindhuja Thogarrati, Sung-En Chang, Andrew C. Singer, Xue Lin, Chuan-Che Huang, Shuo Zhang
نحن نعيش في عالم يمتلئ بشكل متزايد بالآلات التي يمكنها السمع. هذه الأنظمة، المعروفة باسم النماذج اللغوية الصوتية الضخمة، مصممّة للاستماع إلى الكلام والموسيقى والأصوات البيئية، ثم الإجابة على الأسئلة أو اتباع التعليمات حول ما تسمعه. لقد أصبحت هذه الأنظمة جيدة جداً في فهم معنى جملة ما أو تحديد أن صوتاً ما هو نباح كلب. ومع ذلك، هناك جانب جوهري من جوانب السمع تجاهلته هذه الآلات إلى حد كبير: وهو جودة الصوت نفسه. في العالم الحقيقي، نادراً ما يكون التسجيل الصوتي مثالياً؛ فالتسجيلات غالباً ما تشوبها ضوضاء الخلفية، أو الصدى، أو طقطقة ناتجة عن اتصال ضعيف بالإنترنت. بالنسبة للمستمع البشري، فإن ملاحظة هذه العيوب هي الخطوة الأولى في الحكم على ما إذا كان التسجيل واضحاً أم تالفاً. ولا يزال التساؤل قائماً عما إذا كان الذكاء الاصطناعي يمكنه حقاً إدراك هذه العيوب منخفضة المستوى، أم أنه ببساء يخمن بناءً على الكلمات التي يسمعها.
ولاستقصاء ذلك، قام باحثون من جامعة نورث إيسترن، وشركة بوز (Bose)، وجامعة ستوني بروك، بإنشاء اختبار جديد يسمى MRMAD. تم تصميم هذا المعيار لمعرفة ما إذا كانت النماذج اللغوية الصوتية قادرة حقاً على سماع الفرق بين تسجيل نظيف وآخر متدهور. يغطي الاختبار ثلاثة مجالات رئيسية للصوت: الكلام البشري، والموسيقى، والضوضاء البيئية العامة. ويركز على تسعة طرق محددة يمكن أن يتضرر بها الصوت، مثل التشويش الناتج عن فقدان الحزم (packet loss)، أو الصوت الأجوف للصدى، أو الجودة المكتومة لترشيح الترددات المنخفضة (low-pass filtering). لم يكتفِ الباحثون بطلب الاستماع من النماذج لمرة واحدة فقط؛ بل صمموا محادثة حيث يسمع النموذج مقطعاً مرجعياً نظيفاً أولاً، ثم نسخة متدهورة، مع مطالبته بتحديد نوع الضرر، أو مقارنة مدى شدته، أو ترتيب عدة مقاطع من الأقل تضرراً إلى الأكثر تضرراً. هذا النهج متعدد الأدوار يجبر النموذج على الاحتفاظ بذاكرة الصوت الأول في ذهنه أثناء تحليل الصوت الثاني، مما يحاكي الطريقة التي يقارن بها البشر بين تسجيلين.
تكشف نتائج هذا التقييم المكثف، الذي تضمن 8,400 سؤال و18 نموذجاً مختلفاً، عن فجوة كبيرة بين التكنولوجيا الحالية والإدراك البشري. فقد أظهرت معظم النماذج مفتوحة المصدر التي تم اختبارها أداءً أفضل قليلاً من التخمين العشوائي. وعند سؤالها عن تحديد نوع الضرر بدقة أو ترتيب شدة التشويه، فشلت هذه النماذج غالباً في التمييز بين صوت نظيف وصوت تالف. وحتى النماذج الأكثر تقدماً، بما في ذلك بعض النماذج من شركات تقنية كبرى، واجهت صعوبة في هذه المهمة. وبينما قدم نموذج واحد مغلق المصدر من جوجل أداءً جيداً، محققاً دقة عالية في جميع المجالات، تعثرت العديد من الأنظمة القوية الأخرى. يشير هذا إلى أن مجرد جعل النموذج أكبر حجماً أو منحه قدرات استدلال أكثر لا يمنحه تلقائياً القدرة على إدراك جودة الصوت. ووجدت الدراسة أن العديد من النماذج تعتمد بشكل كبير على المحتوى الدلالي (semantic content) — أي الكلمات أو اللحن — بدلاً من النسيج الصوتي للصوت.
تعمق الباحثون لفهم سبب فشل هذه النماذج. واكتشفوا أن النماذج غالباً لا تستخدم المرجع الصوتي النظيف المقدم في الدور الأول من المحادثة. وفي كثير من الحالات، لم يؤدِ حذف المرجع النظيف أو استبداله بضوضاء ثابتة (static noise) إلى تغيير كبير في أداء النموذج، مما يشير إلى أن النموذج يتجاهل عملية المقارنة تماماً. علاوة على ذلك، يبدو أن التمثيلات الداخلية للصوت داخل هذه النماذج تعمل على "تنعيم" التفاصيل اللازمة للكشف عن الضرر. فالرموز الرقمية (tokens) التي تمثل الصوت تكون متشابهة جداً بين المقطع النظيف والمقطع المتدهر، لدرجة أن النموذج لا يستطيع التمييز بينهما. وهذا يشير إلى أن المشكلة لا تكم تكمن فقط في خطوة الاستدلال، بل في كيفية معالجة الصوت وحفظه في البداية قبل أن يبدأ النموذج في التفكير فيه.
يسلط هذا العمل الضوء على قطعة مفقودة وحاسمة في تطوير الذكاء الصوتي. فبينما أصبحت الآلات بارعة في فهم ما يقال أو ما يُعزف، إلا أنها لم تتقن بعد القدرة على الحكم على مدى جودة ما يقال أو ما يُعزف. يظهر المعيار أن الأنظمة الحالية ليست قوية بما يكفي للتعامل مع الظروف الصوتية الفوضوية وغير المثالية في العالم الحقيقي. وحتى تتمكن هذه النماذج من اكتشاف التدهور الصوتي والاستدلال عنه بشكل موثوق، سيظل فهمها للعالم السمعي ناقصاً. وتخلص الدراسة إلى أن بناء أنظمة مستقبلية قوية حقاً سيتطلب تحولاً جذرياً في كيفية معالجة هذه النماذج للصوت، بالانتقال من المعنى رفيع المستوى إلى إدراك أكثر حساسية وعمقاً لجودة الصوت.
ملخص تقني: معيار MRMAD لتقييم إدراك تدهور الصوت
بيان المشكلة
بينما أظهرت النماذج اللغوية الصوتية الكبيرة (LALMs) والنماذج اللغوية الشاملة (OLMs) تقدماً كبيراً في الفهم الدلالي، والتعرف على الأحداث، والاستدلال عالي المستوى عبر الكلام والموسيقى والصوت العام، إلا أن قدرتها على إدراك والاستدلال حول جودة الصوت منخفضة المستوى لا تزال غير مستكشفة بشكل كافٍ. فالصوت في العالم الحقيقي غالباً ما يتدهور بسبب عوامل مثل الضوضاء الخلفية، والتردد (reverberation)، وضغط الترميز (codec compression)، وفقدان الحزم (packet loss). تركز المعايير الحالية بشكل أساسوا على تقييم فهم المحتوى أو اتباع التعليمات، لكنها تفشل في معالجة سؤال جوهري: هل تدرك النماذج اللغوية الصوتية الكبيرة الاختلافات في جودة الصوت؟ كما تفتقر التقييمات الحالية غالباً إلى هيكلية الحوار متعدد الأدوار ومتعدد الأصوات الضرورية لاختبار قدرة النموذج على مقارنة الإشارات المتدهورة مقابل مراجع نظيفة أو ترتيب شدة التدهور عبر مدخلات متعددة.
المنهجية: معيار MRMAD
لمعالجة هذه الفجوة، قدم المؤلفون MRMAD (التدهور متعدد الجولات ومتعدد الأصوات)، وهو معيار مصمم لتقييم إدراك تدهور الصوت وفهم الجودة في النماذج اللغوية الصوتية الكبيرة (LALMs).
تصميم المعيار
يمتد MRMAD عبر ثلاثة مجالات صوتية (الكلام، الموسي والموسيقى، الصوت العام) ويغطي تسعة أنواع شائعة من التدهور (الضوضاء المحيطة، التصفية منخفضة التردد/عالية التردد/نطاق التردد، ضغط MP3، التردد/الصدى، صدى الصوت، عيوب المرمم العصبي (Neural Vocoder)، عيوب معالجة الإشارات الرقمية (DSP Denoising)، وفقدان الحزم). تم هيكلة المعيار حول ثلاث مهام محددة:
تحديد نوع التدهور (DTI): تستمع النماذج إلى مقطع مرجعي نظيف ومقطع متدهور، ثم تحدد نوع التدهور المحدد الذي تم تطبيقه.
مقارنة شدة التدهور (DSC): تقارن النماذج بين مقطعين متدهورين من نفس النوع ولكن بمستويات شدة مختلفة لتحديد أيهما أكثر شدة.
ترتيب شدة التدهور (DSR): تقوم النماذج بترتيب ثلاثة مقاطع متدهورة من نفس النوع من الأقل شدة إلى الأكثر شدة.
بناء البيانات
البيانات المصدرية: يستخدم المعيار مجموعات بيانات مصدرية عالية الجودة (مثل VCTK، وLibriSpeech، وMUSDB18-HQ، وFSD50K) لضمان وجود تدهورات يمكن تمييزها إدراكياً.
محاكاة التدهور: يتم تطبيع (normalization) الصوت النظيف ثم إضعافه عند ثلاثة مستويات من الشدة (مسموع، متوسط، قوي) باستخدام معاملات خاصة بكل مجال.
التنسيق: يستخدم المعيار تنسيق الحوار متعدد الأدوار. يقدم كل دور مقطعاً صوتياً واحداً ومطالبة نصية، مما يسمح بالمقارنة من خلال السياق الحواري بدلاً من دمج عدة مقاطع في مدخل واحد، وهو ما قد يؤدي إلى ارتباك في التحديد الزمني.
النطاق: تتكون مجموعة البيانات النهائية من 8,400 سؤال من نوع الاختيار من متعدد (بنسبة توزيع 3:3:1 عبر مهام DTI وDSC وDSR).
بروتوكول التقييم
قام المؤلفون بتقييم 18 نموذجاً ممثلاً، بما في ذلك:
النماذج اللغوية الصوتية الكبيرة (LALMs): (مثل SALMONN، وQwen2-Audio، وAudio Flamingo 3).
نماذج الاستدلال الصوتي الكبيرة (LARMs): (مثل Step-Audio-R1، وQwen3-Omni-Thinking).
النماذج اللغوية الشاملة (OLMs): (مثل Qwen2.5-Omni، وعائلة Gemini 3).
النماذج مغلقة المصدر: بما في ذلك GPT-Audio-1.5 وإصدارات مختلفة من Gemini 3. يتبع التقييم بروتوكول الاختيار من متعدد القائم على المخرجات، حيث يجب على النماذج اختيار الخيار الصحيح (A، B، C، أو D) بعد تلقي مدخلات صوتية متعددة الأدوار.
النتائج الرئيسية
يكشف التقييم المنهجي عن قصور كبير في النماذج الحالية فيما يتعلق بالإدراك السمعي المدرك للتدهور:
فجوة الأداء العام: تؤدي معظم النماذج مفتوحة المصدر أداءً يكاد يكون أعلى بقليل من التخمين العشوائي. في مهام DTI وDSR، تحوم العديد من النماذج بالقرب من خط الأساس بنسبة 25%، وفي مهمة DSC (الاختيار الثنائي)، تظل قريبة من 50%. يشير هذا إلى الفشل في التقاط إشارات التدهور منخفضة المستوى رغم التقدم في الفهم الصوتي العام.
تفوق النماذج مغلقة المصدر: تتفوق النماذج مغلقة المصدر بشكل ملحوظ، وخاصة عائلة Gemini 3. حققت Gemini 3.1 Pro أفضل النتائج عبر جميع المهام (86.22% في DTI، و90.81% في DSC، و64.25% في DSR). ومع ذلك، حتى النماذج القوية مغلقة المصدر مثل GPT-Audio-1.5 أظهرت أداءً ضعيفاً في مهام محددة (مثل DSC)، مما يشير إلى أن حجم النشر وحده لا يضمن إدراكاً قوياً للتدهور.
الاستدلال مقابل عدم الاستدلال: أدت إضافة آليات الاستدلال الصريح (مثل متغيرات "Thinking") إلى نتائج مختلطة. فبينما تفوق نموذج Qwen3-Omni-Thinking على نظيره غير المستدل، إلا أن نماذج استدلال أخرى (مثل Audio Flamingo Next-Think) كان أداؤها أقل من نسخها الأساسية. يشير هذا إلى أن الاستدلال وحده لا يمكنه تعويض النقص في التمثيل الصوتي دقيق التفاصيل.
الحساسية للتدهور: يختلف الأداء بشكل كبير حسب نوع التدهور. تؤدي النماذج عموماً بشكل أفضل مع العيوب ذات الإشارات الزمنية البارزة (مثل فقدان الحزم، والتصفية منخفضة التردد) ولكنها تعاني مع التشوهات الطيفية الدقيقة (مثل ضغط MP3، والتردد/الصدى).
التحليل التشخيصي
أجرى المؤلفون تحليلات تشخيصية لتحديد أوجه الفشل:
عدم استغلال المرجع: أدى استبدال المقطع المرجعي النظيف بضوضاء غاوسية (Gaussian noise) أو إزالته تماماً إلى انخفاض طفيف في الأداء للعديد من النماذج. يشير هذا إلى أن النماذج غالباً ما تعتمد على المقطع المتدهور وحده أو على الأوليات اللغوية بدلاً من إجراء مقارنات صريحة بين المرجع والمتدهور.
قيود السياق متعدد الأدوار: في بعض الحالات، أدت إزالة الدور الأول (المرجع النظيف) إلى تحسين أو الحفاظ على الأداء، مما يشير إلى أن النماذج الحالية تواجه صعوبة في الاحتفاظ بالأدلة الصوتية ومقارنتها عبر الأدوار، وأن السياق متعدد الأدوار قد يسبب أعباء ذاكرة أو عدم توافق.
اختناقات التمثيل: كشف تحليل مستوى الرمز (token-level) للتسلسلات الصوتية المسقطة أن بعض النماذج (مثل SALMONN) تحافظ على تشابه عالٍ بين رموز الصوت النظيف والمتدهر، مما يشير إلى أن مشفراتها الصوتية ثابتة تجاه تشوهات الجودة منخفضة المستوى. هذا التوهين لإشارات التدهور قبل وصولها إلى النموذج اللغوي يحد من الأدلة المتاحة للاستدلال.
الأهمية والادعاءات
يزعم البحث أن MRMAD يوفر أساساً تشخيصياً لبناء نماذج LALMs مستقبلية تكون قوية في مواجهة الظروف الصوتية الواقعية. وتتمثل مساهماته الرئيسية في:
أول معيار موحد: هو أول معيار موحد يستهدف صراحةً إدراك جودة الصوت وفهمها في النماذج اللغوية الصوتية الكبيرة، مكملاً التقييمات الحالية التي تركز على الدلالات.
كشف فجوة حرجة: يسلط الضضوء على أن النماذج الحالية، حتى المتقدمة منها في الاستدلال والنماذج الشاملة، تفتقر إلى القدرة الموثوقة على الإدراك الدقيق والمقارنة لجودة الصوت.
تحديد أوجه الفشل: توضح الدراسة أن فهم تدهور الصوت لا يمكن اختزاله في الاستدلال عالي المستوى وحده؛ بل يتطلب تمثيلات صوتية حساسة للتدهور وتأصيلاً فعالاً عبر الأدوار (cross-turn grounding).
يخلص المؤلفون إلى أنه بينما يحدد MRMAD هذه القيود، فإنه لا يقترح طرق تدريب أو حلولاً معمارية جديدة، تاركاً تطوير النماذج القادرة على إدراك التدهور الصوتي القوي كتوجه للعمل المستقبلي.