WAON: Large-Scale Japanese Image-Text Pair Dataset for Improving Model Performance on Japanese Cultural Tasks
تقدم هذه الورقة البحثية WAON، وهو مجموعة بيانات يابانية ضخمة للصور والنصوص تحتوي على ما يقرب من 155 مليون مثال، إلى جانب معيار تقييم منسق (WAON-Bench)، لمعالجة ندرة البيانات الثقافية اليابانية عالية الجودة ولإثبات أن الضبط الدقيق على مجموعة البيانات هذه يحسن بشكل كبير أداء نماذج الرؤية واللغة في المهام الثقافية اليابانية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول تعليم طالب عبقري، جاب العالم كله، كيف يفهم الثقافة اليابانية. هذا الطالب قد قرأ بالفعل ملايين الكتب ورأى مليارات الصور من جميع أنحاء العالم (بفضل مجموعة بيانات ضخمة تسمى SigLIP). إنه ذكي، لكنه لا يستوعب "اللمسات الدقيقة" لليابان بعد. قد يعرف ما هو "المعبد"، لكنه قد يخلط بين مهرجان ياباني محدد وحفلة عامة، أو يخطئ في اعتبار طبق محلي مجرد شطيرة عادية.
لإصلاح ذلك، تحتاج إلى إعطائه كتاباً مدرسياً متخصصاً مليئاً بالصور والوصف الياباني.
تقدم هذه الورقة البحثية WAON، وهو بالضبط ذلك الكتاب المدرسي. إليك تفصيل الأمر بكلمات بسية:
1. المشكلة: فجوة "ضياع المعنى في الترجمة"
حالياً، إذا أردت تعليم الذكاء الاصطناعي عن اليابان، فلديك خياران سيئان:
- الخيار (أ): استخدام مكتبة صغيرة وقديمة (مجموعات البيانات الموجودة حالياً). وهي ليست كافية لتعليم الذكاء الاصطناعي بشكل صحيح.
- الخيار (ب): أخذ مكتبة ضخمة من الصور الإنجليزية واستخدام روبوت مترجم لكتابة تعليقات يابانية عليها. المشكلة؟ الروبوت المترجم غالباً ما يرتكب أخطاء، والصور نفسها لا تزال غربية في الغالب. الأمر يشبه تعليم شخص ما عن طوكيو عبر عرض صور لنيويورك مع لصق تسميات يابانية عليها.
2. الحل: WAON (مجموعة بيانات "المتحدث الأصلي")
قام المؤلفون ببناء WAON (وهي اختصار لـ Web-scale image text Aligned Open Nihongo).
- من أين جاءت؟ لم يقوموا بترجمة أي شيء. بل ذهبوا مباشرة إلى المصدر: الإنترنت الياباني (Common Crawl).
- ما هي؟ إنها مجموعة ضخمة مكونة من 155 مليون زوج من الصور والنصوص اليابانية.
- كيف قاموا بتنظيفها؟ تخيل غربلة كومة ضخمة من الرمال للعثور على الذهب. لقد استخدموا مرشحاً متعدد الخطوات:
- استبعدوا الروابط المعطلة والصفحات الفارغة.
- حذفوا الصور المكررة (مثل ظهور نفس الشعار في 1,000 موقع مختلف).
- استخدموا "عيناً ذكية" (نموذج ذكاء اصطناعي) للتحقق مما إذا كانت الصورة تطابق النص الياباني بالفعل. إذا كان النص يقول "سوشي" لكن الصورة كانت لـ "سيارة"، فقد تخلصوا منها.
- قاموا بتصفية المحتوى السيئ أو غير الآمن.
النتي نتيجة لذلك هي مجموعة بيانات "نقية" حيث الصور والنصوص يابانية بطبيعتها، تماماً كما قد ينشئها متحدث أصلي للغة.
3. الاختبار: WAON-Bench (الامتحان النهائي)
لا يمكنك فقط القول: "لقد صنعنا كتاباً مدرسياً رائعاً!"، بل يجب أن تثبت أن الطالب قد تعلم.
- الامتحان القديم: كان هناك اختبار موجود بالفعل يسمى "Recruit"، لكنه كان معيباً. كان يحتوي على الكثير من الأسئلة حول الطعام وقليل جداً عن الأشياء الأخرى. كما أن بعض الصور لم تكن تطابق الإجابات (على سبيل المثال، صورة لامرأة عشوائية مكتوب عليها "معبد كيو ميزو").
- الامتحان الجديد (WAON-Bench): قام المؤلفون ببناء اختبار جديد وعادل.
- أنشأوا 374 فئة (من الحيوانات إلى المهرجانات إلى المباني).
- قاموا بمراجعة كل صورة يدوياً للتأكد من أنها تطابق التسمية بالفعل.
- إنه يشبه استبدال اختبار عشوئي ومنحاز باختبار نهائي شامل ومعد بعناقة.
4. النتائج: "التخرج"
أخذوا الطالب الذكي الذي جاب العالم (نموذج الذكاء الاصطناعي الأساسي) وأعطوه دورة مكثفة باستخدام كتاب WAON المدرسي الجديد.
- النتيجة: اجتاز الطالب اختبار الثقافة اليابانية بتفوق. لقد سجل درجات أعلى من أي نموذج آخر تم تدريبه على البيانات اليابانية الموجودة.
- المفاجأة: رغم تركيزهم على اليابان، إلا أن الطالب لم ينسَ بقية العالم. بل أصبح في الواقع أفضل في فهم الأشياء العالمية أيضاً، مما يثبت أن تعلم ثقافة معينة بعمق يساعدك على فهم العالم بشكل أفضل.
تشبيه الصورة الكبيرة
فكر في الذكاء الاصطناعي كأنه طاهٍ (شيف).
- الطريقة القديمة: الطاهي يعرف كيفية طهي المأكولات العالمية ولكنه يحاول تعلم الطعام الياباني من خلال قراءة كتب طبخ إنجليزية تمت ترجمتها بشكل سيء. الأطباق تخرج غريبة.
- طريقة WAON: يتم إعطاء الطاهي مكتبة ضخمة وأصلية من الوصفات اليابانية وصوراً التقطتها جدات يابانيات.
- WAON-Bench: لجنة من نقاد الطعام اليابانيين يتذوقون الأطبى ليروا ما إذا كانت أصلية.
- النتيجة: يصبح الطاهي أفضل طاهٍ ياباني في العالم، دون أن يفقد قدرته على طهي الطعام الإيطالي أو الفرنسي.
باخت-صار: قام المؤلفون ببناء أكبر وأوضح وأكثر "قاموس بصري ياباني" أصيل للذكاء الاصطناعي، وأثبتوا أن استخدامه يجعل الذكاء الاصطناعي أكثر ذكاءً بشأن الثقافة اليابانية من أي طريقة سابقة. إنهم يشاركون هذا القاموس، وهذا الاختبار، والكود الخاص به ليستخدمه الجميع.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.