PUMA: A Polish Benchmark for Culturally Grounded Multimodal Understanding
تقدم هذه الورقة PUMA، وهو معيار مرجعي جديد يتكون من 900 مهمة صُمم لتقييم قدرات نماذج الذكاء الاصطناعي متعددة الوسائط في السياق الثقافي واللغوي البولندي، مما يكشف عن فجوات أداء كبيرة في فهم الصوت والمستندات رغم النتائج القوية في الإجابة على الأسئلة البصرية.
في مجال الذكاء الاصطناي المتطور بسرعة، تتعلم الحواسيب الرؤية والسمع والقراءة تماماً كما يفعل البشر. لسنوات عديدة، تم تدريب هذه الأنظمة بشكل أساسي على النصوص، حيث تعلمت معالجة الكلمات والجمل. والآن، هي توسع حواسها لتشمل الصور، والتسجيلات الصوتية، والمستندات المعقدة. ومع ذلك، لا تزال هناك فجوة كبيرة في مدى قدرة هذه الآلات على فهم العالم خارج نطاق اللغة الإنجليزية. فتماماً كما يمكن لشخص أن يتحدث لغة بطلاقة ولكنه قد يفتقر إلى فهم النكات الدقيقة، أو الإشارات التاريخية، أو التقاليد الثقافية المضمنة فيها، يمكن للذكاء الاصطناعي أن يعالج الكلمات بشكل صحيح بينما يفشل في استيعاب معناها العميق. إن فهم ثقافة ما يتطلب ما هو أكثر من مجرد القواعد اللغوية؛ فهو يتطلب الإلمام بالتاريخ المحلي، والجغرافيا، والتوجهات الرائجة، والقواعد غير المكتوبة للحياة اليومية. وبدون هذا التجذر الثقافي، تخاطر حتى أكثر الأنظمة تقدماً بتقديم تفسيرات سطحية أو خاطئة للعالم الذي تحاول فهمه.
ولمعالجة هذه النقطة العمياء، أنشأ باحثون في المعهد الوطني لمعالجة المعلومات في وارسو، بولندا، ميداناً اختبارياً جديداً يسمى "بوما" (PUMA). هذا المعيار ليس اختباراً واحداً، بل هو مجموعة من 9os تحدياً صُممت بعناية لاستقصاء حدود الذكاء الاصطناعي ضمن السياق الثقافي واللغوي البولندي. قام الفريق ببناء هذه المهام يدوياً، مستمدين إياها من أمثلة واقعية من التاريخ البولندي، والحياة المعاصرة، والجغرافيا، والتسجيلات الصوتية. كان الهدف هو معرفة ما إذا كانت الآلات تستطيع حقاً فهم بولندا، وليس مجرد ترجمة كلماتها. يغطي هذا المعيار ثلاث طرق متميزة يدرك بها البشر العالم: الصور، والصوت، والمستندات. في قسم الصور، يُطلب من النماذج تحديد المعالم التاريخية، أو التعرف على شخصيات الثقافة الشعبية المعاصرة، أو التمييز بين أنواع مختلفة من المناظر الطبيعية البولندية. ويختبر قسم الصوت ما إذا كانت الآلة قادرة على نسخ الكلام من تسجيلات مشوشة، أو فهم القصد وراء محادثة منطوقة، أو حتى تحديد الأصوات غير الكلامية مثل الآلات الموسيقية الشعبية التقليدية أو ضوضاء بيئية محددة. أما قسم المستندات، فيتحدى الأنظمة لقراءة الملاحظات المكتوبة بخط اليد، واستخراج البيانات من جداول معقدة، وتفسير الصفحات الغنية بصرياً مثل قوائم الطعام أو النماذج الرسمية.
وعندما أخضع الباحثون عشرات من أكثر أنظمة الذكاء الاصطناعي تقدماً في العالم لهذا الاختبار الصارم، كشفت النتائج عن انقسام صارخ بين القدرة العامة والطلاقة الثقافية. حققت النماذج التجارية الأعلى أداءً، وخاصة تلك التابعة لعائلة "جيمناي" (Gemini) من جوجل، درجات عالية، مما أظهر قدرة قوية على التعامل مع الأسئلة البصرية وتحليل المستندات. تمكنت هذه الأنظمة من تسجيل ما يقرب من 80 بالمائة في المهام الأكثر صعوبة، مما يظهر قدرتها على التنقل بفعالية في المشهد البصري والنصي لبولندا. ومع ذلك، وجدت الدراسة أن هذه النماذج الرائدة تعاني بشكل كبير عندما تنتقل المهمة من النصوص والصور الواضحة إلى مجال الصوت. فقد تبين أن الأصوات غير الكلامية، مثل تحديد آلات موسيقية معينة أو أصوات بيئية فريدة من المنطقة، كانت الفئة الأكثر صعوبة، حيث سجلت أفضل النماذج حوالي 56 بالمائة فقط. يشير هذا إلى أنه بينما تصبح الآلات ممتازة في القراءة والرؤية، فإن قدرتها على "سماع" وتفسير الأصوات الثقافية الدقيقة لا تزال غير متطورة.
كما سلط التقييم الضوء على ضعف مفاجئ في كيفية تعامل بعض الأنظمة مع الجانب العملي للغة. فعندما طُلب منها استخراج بيانات محددة من مستند وتنسيقها بشكل مثالي، فشلت العديد من النماذج، وغالباً ما تعثرت بسبب أخطاء هيكلية بسيطة. علاوة على ذلك، لاحظت الدراسة أن بعض النماذج الأمريكية الأكثر شهرة رفضت الإجابة على أسئلة تتعلق بشخصيات تاريخية أو أعمال ثقافية بولندية، معتبرة إياها مواضيع حساسة بينما لم تكن كذلك. كان معدل الرفض هذا أعلى بكثير في عائلات النماذج الأخرى، مما أدى فعلياً إلى خفض درجاتها في الأسئلة القائمة على المعرفة. وفي المقابل، غالباً ما تفوقت النماذج المتخصصة المصممة لمهام محددة، مثل تحويل الكلام إلى نص أو قراءة الحروف المطبوعة، على الأنظمة الضخمة متعددة الأغراض في تلك المجالات الضيقة. وهذا يشير إلى أنه بالنسبة للتطبيقات العملية المحددة، قد تظل الأدوات الصغيرة والمركزة أكثر موثوقية من العمالقة الشاملين.
في نهاية المطاف، يعمل معيار "بوما" كمرآة تعكس الحالة الراهنة للذكاء الاصطناي في سياق ثقافي محدد. فهو يوضح أنه بينما تحقق الآلات خطوات واسعة في الفهم البصري والنصي، إلا أنها لا تزال تفتقر إلى الإدراك العميق والبديهي للثقافة المحلية الذي يأتي من الخبرة المعيشة. وجد الباحثون أن التقدم في هذا المجال لا يمكن قياسه فقط بمدى أداء النظام في اختبارات اللغة الإنجليزية أو اختبارات المعرفة العامة. فالفهم الحقيقي يتطلب القدرة على التنقل في الواقع الفوضوي والغني، وغالباً ما يكون الصاخب، لثقافة معينة، بدءاً من صوت لهجة محلية وصولاً إلى تنسيق ملاحظة مكتوبة بخط اليد. ومن خلال فتح أدواتهم وبياناتهم للجمهور، يأمل الفريق في تشجيع تطوير ذكاء اصطناعي ليس قادراً عالمياً فحسب، بل متجذر محلياً أيضاً، مما يضمن أن هذه الأنظمة القوية يمكنها خدمة وفهم الناس في لغاتهم وأطرهم الثقافية الخاصة.
بينما تطورت النماذج اللغوية الكبيرة (LLMs) بسرعة لدعم المدخلات متعددة الوسائط (الصور، الصوت، المستندات)، ظل تقييمها متمحورًا بشكل كبير حول السياقات الثقافية الإنجليزية والغربية. غالبًا ما تفشل المعايير المرجعية الحالية في تقييم قدرة النماذج على الجمع بين المعلومات اللغوية والفروق الثقافية الدقيقة، والإشارات التاريخية، والمهارات العملية المحلية في اللغات غير الإنجليزية. وتحديدًا، هناك نقص في الأطر الشاملة التي تقيم فهم الصور والصوت والمستندات معًا ضمن سياق ثقافي واحد، لا سيما بالنسبة للغة البولندية. تعتمد التقييمات الحالية غالبًا على مهام نصية فقط أو معرفة عامة لا تتطلب تجذرًا ثقافيًا عميقًا، مما يؤدي إلى فجوة في فهم كيفية أداء النماذج في المهام متعددة الوسائط ذات الخصوصية الثقافية.
المنهجية
يقدم المؤلفون PUMA (التقييم الموحد متعدد الوسائط للغة البولندية)، وهو معيار مرجعي يتكون من 900 مهمة مصممة يدويًا تهدف إلى اختبار حدود النماذج متعددة الوسائط في السياق اللغوي والثقافي البولندي.
هيكل المعيار المرجعي
تم تنظيم مجموعة البيانات في ثلاثة وسائط، تحتوي كل منها على ثلاث فئات متميزة (100 مهمة لكل فئة):
الصور:
التاريخ والثقافة: يختبر المعرفة بالتاريخ البولندي، والتقاليد، والفن، والعمارة، والشخصيات الهامة.
الحياة المعاصرة: يغطي الثقافة الشعبية الحديثة، والإعلام، والسياسة، والرياضة، والحياة اليومية.
التعرف الآلي على الكلام (ASR): يقيم قدرات النسخ الصوتي في التسجيلات الصعبة، والمشوشة، واللهجوية.
الأسئلة والأجوبة حول الكلام (Speech QA): يقيم فهم الكلام البولندي، مما يتطلب الاستدلال حول نية المتحدث والسياق الثقافي.
الأسئلة والأجوبة حول الصوت والموسيقى (Sound & Music QA): يختبر التعرف على الأصوات غير الكلامية (الأصوات البيئية، الآلات الموسيقية، النغمات الموسحية) المرتبطة بالثقافة البولندية.
المستندات:
التعرف الضوئي على الحروف (OCR): يقيم استخراج النصوص من المستندات الصعبة بصريًا (الكتابة اليدوية، المسوحات الضوئية منخفضة الجودة، الجداول).
الأسئلة والأجوبة حول المستندات (Document QA): يختبر فهم المستندات الغنية بصريًا (المخططات، الرسوم البيانية، النصوص المنظمة).
الاستخراج المنظم: يتطلب استخراج بيانات محددة من المستندات وإخراجها بتنسيق JSON محدد مسبقًا.
إطار التقييم
يستخدم PUMA نهج تقييم حتمي قائم على القواعد لضمان قابلية التكرار وكفاءة التكلفة، وتجنب الحاجة إلى حكام بشريين خارجيين أو أنظمة تعتمد على "النموذج كحكم" (LLM-as-a-judge).
التسجيل (Scoring): يستخدم درجة "صارمة" ثنائية (0 أو 1) بناءً على قواعد التحقق المحددة مسبقًا. كما يتم حساب "درجة ناعمة" (كسرية) لقياس الصحة الجزئية.
قواعد التحقق: تشمل سبعة أنواع من القواعد:
بالنسبة لـ QA: تشمل Include (تضمين)، Exclude (استبعاد)، Regex (التعبيرات النمطية)، و Order (الترتيب باستخدام مسافة كيندال تاو المعيارية). يتم تطبيق تطبيع النص (التحليل الصرفي، تحويل الحروف لصغيرة) للتعامل مع الصرف البولندي.
بالنسبة لـ ASR: يستخدم دقة الكلمات (WAcc)، المعرفة بـ 1−WER، مع عتبة صارمة قدرها 0.9.
بالنسبة لـ OCR: يجمع بين دقة الكلمات (WAcc) للنص ومقياس تشابه المسافة التحريرية للشجرة (TEDS) لهيكل الجدول.
بالنسبة للاستخراج المنظم: يقارن كائنات JSON مقابل مخطط مرجعي، ويحسب التشابه بناءً على مطابقة قيم الحقول.
الإعداد التجريبي
قيم المؤلفون أكثر من اثني عشر نموذجًا من النماذج مفتوحة الأوزان والتجارية، بالإضافة إلى أكثر من 50 نموذجًا للغات البصرية (VLMs) للمهام البصرية. أجريت التجارب مع ضبط درجة الحرارة (temperature) عند 0 (مع زيادات تدريجية إلى 0.3 لمنع حلقات التكرار في نماذج الاستدلال) وحد أقصى لعدد الرموز (tokens) لتمثيل الصور.
النتائج الرئيسية
يسلط التقييم الضوء على فجوة أداء كبيرة بين النماذج التجارية الرائدة والأنظمة الأخرى، وكذلك نقاط الضعف المحددة في الوسائط غير النصية.
أفضل المؤدين: حققت عائلة نماذج Gemini (خاصة Gemini-3.1-Pro و Gemini-3.5-Flash) أعلى الدرجات، حيث وصلت Gemini-3.1-Pro إلى ما يقرب من 80% من متوسط الدقة عبر جميع الفئات. كما قدم Claude-Fable-5 أداءً استثنائيًا في الفئات القائمة على المستندات ولكنه يفتقر إلى دعم الصوت.
النماذج مفتوحة الأوزان: تأخرت النماذج المفتوحة عمومًا عن الحلول التجارية. عانى Phi-4-Multimodal-Instruct بشكل كبير من القواعد النحوية البولندية وصعوبة المهام. أظهرت نماذج Mistral تحسنًا طفيفًا لكنها ظلت بعيدة جدًا عن القادة التجاريين. ومع ذلك، أظهرت النماذج الأصغر المتخصصة مثل Gemma-4 و Qwen3.5 أداءً قويًا في الفئات المتعلقة بالمستندات، مما يضاهي بعض النماذج التجارية.
تحديات الوسائط:
الصوت: كانت فئة Sound & Music QA هي الفئة الأكثر صعوبة، حيث حقق أفضل نموذج 56% فقط. يشير هذا إلى نقص في بيانات التدريب للأصوات غير الكلامية.
الاستخراج المنظم: كانت هذه المهمة صعبة للعديد من النماذج؛ فحتى الأخطاء الطفيفة في بنية JSON أدت إلى فشل الاستجابة، مما أدى إلى تباين عالٍ في الدرجات.
ASR مقابل OCR: قدمت نماذج ASR المتخصصة (مثل ElevenLabs و Whisper-Large-V3) أداءً تنافسيًا مع أو أفضل من النماذج متعددة الوسائط العامة. في OCR، تصدر Claude-Fable-5 و Gemini-3.5-Flash، بينما تفوقت نماذج OCR المخصصة غالبًا تحت المقاييس الصارمة مقارنة بدرجاتها الناعمة.
الرفض: أظهرت نماذج OpenAI (سلسلة GPT) معدلات رفض أعلى للأسئلة التي تتضمن شخصيات تاريخية أو فنًا، مما أثر سلبًا على درجاتها.
الأهمية والمساهمات
يدعي البحث المساهمات والأهمية التالية:
أول معيار مرجعي بولندي متعدد الوسائط: يعد PUMA أول معيار مرجعي يقيم مجتمعة فهم الصور والصوت والمستندات ضمن إطار واحد للغة البولندية، حيث يجمع بين المهام المتجذرة ثقافيًا والمهارات العملية (ASR، OCR، الاستخراج المنظم).
التجذر الثقافي: يوضح البحث أن إتقان القواعد والمفردات ليس كافيًا للفهم الكامل للغة؛ إذ تتطلب النماذج معرفة عميقة بالتاريخ والتقاليد والسياقات الاجتماعية المحلية لتجنب التفسيرات السطحية أو الخاطئة.
إطار التقييم: يوفر المؤلفون أداة مفتوحة المصدر لبناء مجموعات بيانات الأسئلة متعددة الوسائط وإجراء تقييمات حتمية، مما يعزز الأبحاء المحلية للذكاء الاصطناعي متعدد الوسائط.
تحديد الفجوات: تكشف النتائج أنه بينما تتفوق النماذج الرائدة في الإجابة على الأسئلة البصرية، لا تزال هناك فجوات كبيرة في فهم الصوت (خاصة غير الكلامي) ومعالجة المستندات المعقدة. ويجادل البحث بأن التقدم في الذاء الاصطناعي متعدد الوسائط لا يمكن تقييمه بشكل موثوق باستخدام المعايير المرجعية المتمحورة حول اللغة الإنجليزية أو المقتصرة على النصوص وحدها.
القيود
يقر المؤلفون بعدة قيود:
القيود القائمة على القواعد: يحد النهج الحتمي من إمكانية تضمين مهام مفتوحة للغاية.
تغطية الوسائط: لم يتم تضمين الفيديو بسبب الدعم المحدود الحالي في النماذج، رغم أن الإطار يدعم ذلك.
النطاق الزمني: تركز مجموعة البيانات على الحقائق المستقرة والمعروفة جيدًا وتتجنب الاتجاهات سريعة التغير لضمان الاستقرار طويل الأمد.
التنوع الثقافي: على الرغم من التنسيق من أجل التنوع، إلا أن مجموعة المقيّمين كانت متجانسة نسبيًا من حيث العمر والخبرة، مما قد يحد من اتساع المنظورات الجيلية.
إصدار البيانات: لمنع تسرب البيانات والحفاظ على نزاهة المعيار المرجعي، تم إصدار جزء فرعي فقط من مجموعة البيانات، مع وجود لوحة صدارة عامة لتقييم النتائج.