Child-Oriented AIGC Video Risk Reviewing: A Benchmark and Knowledge-Supported Iterative Reasoning Framework

تخيل عالماً يمكن فيه إنشاء أي فيديو يمكنك أن تحلم به في ثوانٍ معدودة بواسطة الكمبيوتر. هذا هو عصر المحتوى المولد بواسطة الذكاء الاصطناعي (AIGC). إنه يشبه امتلاك فرشاة رسم سحرية يمكنها رسم صور متحركة، ورواية قصص، وخلق شخصيات دون أن يلمس فنان بشري الشاشة أبداً. وبينما يبدو هذا بمثابة قوة خارقة للمبدعين، إلا أنه يأتي مع أثر جانبي محير: أحياناً، يصاب الكمبيوتر بالارتباك. قد يرسم قطة بثلاث عيون، أو يجعل شخصية تقوم بشيء مستحيل فيزيائياً، أو يروي قصة لا تبدو منطقية. بالنسبة للبالغين، هذه الأخطاء مجرد أمور مضحكة أو غريبة، لكن بالنسبة للأطفال، الذين لا تزال عقولهم تتعلم كيف يعمل العالم، يمكن لهذه الفيديوهات المربكة أن تكون مثل مرآة مشوهة، مما قد يعلمهم أفكاراً خاطئة عن السلامة، أو الأجساد، أو كيفية التصرف.

للحفاظ على سلامة الأطفال، نحتاج إلى طريقة لفحص هذه الفيديوهات قبل أن تصل إلى جمهور صغير السن. وهنا يأتي دور "نماذج اللغة والرؤية الكبيرة" (Large Vision Language Models). فكر في هذه النماذج كأجهزة كمبيوتر ذكية للغاية يمكنها "رؤية" الفيديو و"قراءة" القصة التي يرويها في آن واحد، تماماً مثل روبوت يمتلك عينين وعقلاً. ومع ذلك، فإن مجرد طلب من الروبوت أن ينظر إلى فيديو ويقول: "هل هذا آمن؟" غالباً ما يكون غير كافٍ. فقد يغفل الروبوت عن إشارة خفية لأنه ينظر إلى الصورة بأكملها دفعة واحدة، أو قد يخمن بشكل خاطئ لأنه لا يملك كتاب قواعد لما هو آمن لطفل في الخامسة من عمره. تغوص هذه الورقة البحثية في زاوية علوم الحاسوب المخصصة لجعل هذه الروبوتات أفضل في رصد المخاطر الخفية والمراوغة في فيديوهات الذكاء الاصطناعي الموجهة للأطفال تحديداً.

---

فرقة المحققين السحرية: الإمساك بأخطاء فيديوهات الذكاء الاصطناعي

إذاً، كيف تمسك بخطأ حاسوبي يحاول الاختباء؟ في هذه الدراسة، قام فريق من الباحثين ببناء نظام جديد يعمل لا كحارس أمن منفرد، بل كفريق من المحققين الخبراء الذين يعملون معاً. يطلقون على إطار عملهم الجديد اسم QVRS-E، ولكن دعونا نعتبره ببساطة "فرقة السؤال-الرؤية-المراجعة".

المشكلة: خطأ "المرة الواحدة والانتهاء"

تخيل أنك تحاول العثور على لعبة مخبأة في غرفة فوضوية. إذا نظرت إلى الغرفة نظرة واحدة سريعة وقلت: "أنا لا أرى اللعبة"، فقد تفوتك اللعبة وهي مختبئة تحت سجادة. هذا ما يحدث عندما تحاول أدوات فحص فيديو الذكاء الاصطناعي الحالية القيام بوظيفتها؛ فهي غالباً ما تنظر إلى الفيديو مرة واحدة، وتضع تخميناً سريعاً، ثم تمضي قدماً. قد تفوتها صرخة مخيفة تحدث لثانية واحدة فقط، أو خطأ منطقي غريب حيث تمر شخصية عبر جدار.

وجد الباحثون أن الأدوات الحالية بارعة في رصد الأشياء السيئة الواضحة (مثل العنف أو العري)، لكنها تعاني مع المخاطر "غير المرئية" التي تضر بالأطفال. وتشمل هذه المخاطر:

• الأجساد المشوهة: شخصية ذات أصابع كثيرة جداً أو وجه يذوب.
• المنطق السيئ: قصة حيث تطفئ النار الماء، أو عرض فعل خطير دون تحذير.
• الأجواء المخيفة: فيديو يبدو سعيداً ولكنه يحمل شعوراً غريباً ومزعجاً قد لا يفهمه الطفل ولكنه سيشعر به.

الحل: فريق من الوكلاء

لإصلاح ذلك، أنشأ الباحثون نظاماً يعمل فيه أربعة "وكلاء ذكاء اصطناعي" (AI Agents) معاً في حلقة مستمرة، تشبه لعبة "20 سؤالاً" ولكن مع فيديو.

1. وكيل السؤال (Q-Agent): هذا هو الطفل الفضولي. ينظر إلى الفيديو ويسأل: "مهلاً، لماذا تطير تلك الكلبة؟" أو "هل اختفت تلك الشخصية للتو؟". إنه يولد أسئلة محددة للبحث عن الأدلة.
2. وكيل الرؤية (V-Agent): هذا هو المحقق الذي يحمل عدسة مكبرة. ينظر إلى إطارات محددة من الفيديو للإجابة على الأسئلة. "نعم، الكلب يطير لأن الذكاء الاصطناعي أخطأ في قوانين الفيزياء".
3. وكيل المراجعة (R-Agent): هذا هو القاضي. يتحقق مما إذا كانت الإجابات كافية. "هل لدينا دليل كافٍ على أن هذا خطير؟ إذا لم يكن كذلك، فلنسأل المزيد من الأسكئلة".
4. وكيل التلخيص (S-Agent): هذا هو المراسل. بمجرد انتهاء الفريق، يكتب تقريراً واضحاً يشرح بالضبط ما الذي حدث بشكل خاطئ ولماذا يعد ذلك سيئاً للأطفال.

ولكن السر يكمل هنا: هذا الفريق لا يخمن فحسب، بل لديه مكتبتان من المعرفة لمساعدتهما:

• المكتبة الخبيرة: تشبه كتاب قواعد كتبه خبراء سلامة الأطفال. تخبر الوكلاء: "إذا كان جزء من جسم الشخصية في مكان خاطئ، فهذا يمثل خطراً".
• مكتبة الخبرة: تشبه مذكرات الحالات السابقة. تقول: "في المرة الأخيرة التي رأينا فيها قطة طائرة، وجدنا خطراً من خلال السؤال عن الأجنحة. لنحاول السؤال عن الأجنحة مرة أخرى".

من خلال طرح الأسئلة، وفحص الفيديو، واستخدام هذه المكتبات، يبني النظام كومة من الأدلة قبل اتخاذ قرار نهائي. إنه الفرق بين تخمين إجابة لغز وبين حل اللغز فعلياً خطوة بخطوة.

"الملعب" الجديد للاختبار

لاختبار مدى جودة فرقة المحققين الجديدة، كان على الباحثين أولاً بناء ملعب. لم يكن بإمكانهم استخدام الفيديوهات القديمة فقط؛ بل احتاجوا إلى فيديوهات ذكاء اصطناعي حقيقية قد يشاهدها الأطفال بالفعل. قاموا بجمع 605 فيديو من العالم الحقيقي من منصات شهيرة مثل تيك توك ويوتيوب.

لم يكتفوا بعدّ الفيديوهات "السيئة" فقط، بل أنشأوا خريطة مفصلة للغاية للمخاطر، تسمى التصنيف (Taxology). تخيل شجرة ضخمة لها 6 فروع كبيرة (مثل "المخاطر الجسدية" أو "المخاطر العاطفية") و 26 ورقة صغيرة (مثل "المظهر البيولوجي المشوه" أو "تقليد السلوك الخطير"). ساعدتهم هذه الخريطة في تسمية ما هو خطأ في كل فيديو بدقة، حتى يتمكنوا من تدريب ذكائهم الاصطناعي على رصد هذه المشكلات المحددة.

ما وجدوه

عندما وضعوا "فرقة السؤال-الرؤية-المراجعة" تحت الاختبار، كانت النتائج واعدة.

• أفضل من العمل المنفرد: عندما قارنوا نظامهم القائم على الفريق بالنماذج القياسية للذكاء الاصطناعي التي تنظر إلى الفيديو مرة واحدة فقط، وجد نظامهم مخاطر أكثر بكثير. على سبيل المثال، في اختبار يتضمن 26 نوعاً مختلفاً من المخاطر، قفز نظامهم باستخدام نموذج ذكاء اصطناٍ مفتوح المصدر من درجة منخفضة إلى درجة أعلى بكثير، مما يثبت أن الطريقة المتبعة في طرح الأسئلة هي المفتاح، وليس مجرد حجم عقل الذكاء الاصطناعي.
• التفوق على العمالقة: في بعض الحالات، تفوق نظامهم الذي يستخدم ذكاءً اصطناعياً متوسط الحجم (حوالي 8 مليارات "خلية دماغية") على بعض أجهزة الكمبيوتر العملاقة المغلقة والمكلفة المتاحة اليوم. وهذا يشير إلى أنك لست بحاجة إلى أكبر وأغلى كمبيوتر للقيام بعمل جيد؛ بل تحتاج فقط إلى الطريقة الصحيحة في التفكير.
• قوة الـ "لماذا": أظهرت الدراسة أن أكبر دفعة في الأداء جاءت من الاستقصاء المتكرر – أي عملية طرح الأسئلة، والحصول على الإجابات، ثم السؤال مرة أخرى. ساعد هذا الذكاء الاصطناعي في العثور على أدلة كان سيغفل عنها في نظرة واحدة. كما ساعدت "المعرفة الخبيرة" الذكاء الاصطناعي على فهم الإجابات بشكل أفضل، خاصة فيما يتعلق بالتفاصيل الدقيقة والمعقدة.

أين لا يزال يتعثر؟

كان الباحثون صريحين بشأن المجالات التي لا يزال نظامهم يعاني فيها:

• مشكلة "اللمحة والنسيان": إذا حدث شيء مخيف أو غريب لثانية واحدة فقط ولم يصادف أن نظر الذكاء الاصطناعي إلى ذلك الإطار المحدد، فقد يفوته الأمر. الأمر يشبه محاولة الإمساك بـ "يراعة" (حشرة مضيئة) بشبكة؛ إذا لم تكن تنظر في اللحظة المناسبة، فستختفي.
• المبالغة في رد الفعل: أحياناً، يصبح النظام جيداً جداً في البحث عن المخاطر لدرجة أنه يرى خطراً حيث لا يوجد. على سبيل المثال، قد يعتقد أن خنزيراً كرتونياً يتحرك بتصلب هو "سلوك غير طبيعي" لمجرد أنه شديد الحذر.

الخلاصة

تشير هذه الورقة البحثية إلى أنه للحفاظ على سلامة الأطفال في عصر فيديوهات الذكاء الاصطناعي، لا يمكننا الاعتماد فقط على مسح سريع. نحن بحاجة إلى نظام يفكر مثل المحقق: يطرح الأسئلة، ويفحص الأدلة، ويستخدم ما تعلمه من الخبراء والحالات السابقة. ومن خلال بناء خريطة أفضل للمخاطر وطريقة أذكى للتحقيق، يمكننا إنشاء ملعب رقمي أكثر أماناً للجيل القادم. يأمل الباحثون أن يساعد معيارهم الجديد (الـ 605 فيديوهات وخريطة المخاطر) وإطار عملهم الاستقصائي علماء آخرين في بناء أدوات سلامة أفضل في المستقبل.