Innocent Panels, Hateful Stories: Evaluating and Detecting Hateful Intent in Multi-Turn Visual Story Generation

سحر الصور وخطورة القصص

تخيل أن لديك فرشاة رسم سحرية يمكنها تحويل أي جملة تكتبها إلى صورة. إذا قلت "ارسم قطة"، ستظهر قطة رقيقة. وإذا قلت "ارسم قطة ترتدي قبعة"، فسترتدي القطة قبعة. هذا هو عالم أنظمة تحويل النص إلى صورة (T2I)، وهي نوع من الذكاء الاصطناعي الذي أصبح مؤخرًا بارعًا للغاية في اتباع التعليمات. لكن إليك المفاجأة: فرشاة الذكاء الاصطناً هذه لم تعد مخصصة للصور المنفردة فحسب، بل يمكنها الآن إجراء محادثة. يمكنك طلب صورة، ثم النظر إليها، وقول: "الآن اجعل القطة حزينة"، وسيقوم برسم قطة حزينة تبدو تمامًا مثل القطة الأولى. يسمى هذا التوليد متعدد الدورات (multi-turn generation). إنه يشبه امتلاك رسام قصص مصورة يتذكر كل تفصيل طلبته حتى الآن، مما يسمح لك ببناء قصة كاملة، لوحة بلوحة، مباشرة في نافذة الدردشة الخاصة بك.

لماذا يهم هذا الأمر؟ لأنه لفترة طويلة، عرف الناس أن الصورة الواحدة قد تكون غير ضارة، ولكن سلسلة من الصور يمكن أن تروي قصة مروعة. فكر في نكتة يظهر فيها اللوح الأول شخصًا يسقط عملة معدنية، واللوح الثاني يظهره وهو يلتقطها، والثالث يكشف أنه التقط قنبلة. الصور الأولى والثانية سليمة؛ الثالثة هي "القفشة" أو الخاتمة المباغتة. إذا قام الذكاء الاصطناعي بفحص كل صورة على حدة فقط، فقد يغفل عن الخطر تمامًا. تسأل هذه الورقة البحثية سؤالًا مخيفًا: إذا سمحنا لفناني الذكاء الاصطناعي "الثرثارين" برسم قصة كاملة، فهل يمكنهم عن غير قصد (أو عن قصد) إنشاء سرد كراهية يتسلل عبر فلاتر الأمان لأن أي صورة بمفردها لا تبدو سيئة؟

الورقة البحثية: عندما تروي اللوحات البريئة حكايات الكراهية

يغوص هذا البحث في فخ خفي في أدوات فن الذكاء الاصطناعي الجديدة. اكتشف المؤلفون، وهم فريق من الباحثين الأمنيين، أنه بينما تتفوق أنظمة أمان الذكاء الاصطناعي الحالية في رصد صورة واحدة سيئة، إلا أنها سيئة جدًا في فهم قصة بصرية مليئة بالكراهية.

لاختبار ذلك، أنشأ الباحثون مجموعة بيانات خاصة تسمى HatefulStoryPrompts. لقد أخذوا 55 سردًا مختلفًا من روايات الكراهية — قصصًا مصممة للسخرية من مجموعات معينة أو إيذائها، مثل الصور النمطية العرقية أو النكات المعادية للسامية — وقاموا بتفكيكها إلى تعليمات خطوة بخوة. ثم طلبوا من خمسة من أكثر مولدات صور الذكاء الاصطناعي تقدمًا في العالم (بما في ذلك نماذج من Google وOpenAI) رسم هذه القصص. أين تكمن الخدعة؟ كل تعليمات تلقاها الذكاء الاصطناعي بدت بريئة تمامًا. قد تطلب التعليمات الأولى "زوجًا مزدهرًا"، والثانية "محاميًا نحيفًا"، والثالثة "محاميًا ثريًا". فرديًا، هذه مجرد طلبات عادية. ولكن عند وضع الصور بالترتيب، فإنها تروي قصة عنصرية أو مليئة بالكراهية حول كيفية خداع المحامي للزوجين.

كانت النتائج مذهلة. وجد الباحثون أن نماذج الذكاء الاصطناعي هذه بارعة للغاية في اتباع التعليمات لإكمال القصة. فمن بين كل 100 قصة حاولوا توليدها، أكملت النماذج تسلسل الصور الكامل بنجاح في أكثر من 80% من الحالات. أما النموذج الأفضل، GPT Image 2، فقد أكمل نسبة هائلة بلغت 99.0% من قصص الكراهية. وهذا يعني أنه إذا أراد شخص سيئ النوايا إنشاء كتاب قصص مصورة مليء بالكراهية باستخدام هذه الأدوات، فإن الذكاء الاصطناعي سيساعده بسعادة في القيام بذلك، لوحة تلو الأخرى، دون أن يطلق أي إنذار.

فجوة الأمان: لماذا تفشل الدفاعات الحالية؟

اختبر الفريق بعد ذلك "حراس السلامة" المستخدمين حاليًا من قبل شركات الذكاء الاصطناعي هذه. وسألوا: "هل تستطيع هذه الحراس رصد الكراهية عندما ترى القصة بأكملها؟" أنشأوا مجموعة بيانات تسمى HablefulVisualStory، تحتوي على ما يقرب من 1,000 مجموعة صور كراهية و990 مجموعة أخرى تشبهها ولكنها غير ضارة.

أظهرت النتائج أن أنظمة السلامة الحالية عمياء في الغالب تجاه هذا النوع من التهديد.

• مشكلة "الصورة الواحدة": معظم أدوات السلامة تفحص صورة واحدة في كل مرة. وعندما نظروا إلى قصص الكراهية، فاتهم كل شيء تقريبًا. أحد نماذج السلامة المتخصصة لم يرصد سوى 34.9% من قصص الكراهية. أما أداة السلامة الشهيرة الأخرى، LlavaGuard، فقد فاتتها 100% منها (نسبة استدعاء 0.0%).
• مشكلة "القصة الكاملة": حتى عندما أعطى الباحثون أدوات السلامة التسلسل الكامل للصور دفعة واحدة، لم تكن النتائج أفضل بكثير. فالأداة الأقوى تمكنت من رصد 67.5% فقط من قصص الكراهية.

تجادل الورقة بأن هذا يحدث لأن الكراهية ليست في بكسلات صورة واحدة، بل في العلاقة بين الصور. الأمر يشبه محاولة فهم فيلم من خلال النظر إلى إطار واحد ثابت؛ قد تفوتك الحبكة بالكامل.

الحل: رصد القصة قبل اكتمالها

بما أن الحراس الحاليين يفتقدون الرؤية الشاملة، اقترح الباحثون طريقتين جديدتين للإمساك بهذه القصص: المراقبة الاستباقية والكشف بعد التوليد.

1. المراقبة الاستباقية (الموقف المبكر): تخيل معلمًا يراقب طالبًا يكتب قصة. بدلًا من الانتظار حتى تنتهي القصة للتحقق مما إذا كانت سيئة، يقرأ المعلم كل جملة أثناء كتابتها. إذا رأى المعلم أن القصة تتحول إلى كراهية، فإنه يوقف الطالب فورًا. بنى الباحثون نظامًا يقوم بهذا للذكاء الاصطناعي. إنه يراقب المحادثة أثناء حدوثها.

   • إذا كان المستخدم يكتب مطالبات (prompts) فقط، فقد أمسك هذا النظام بـ 97.3% من قصص الكراهية قبل رسم الصورة الأخيرة.
   • إذا بدأ المستخدم بصورته الخاصة ثم أضاف مطالبات، فقد ظل النظام يمسك بـ 92.6% من القصص.
   • والأهم من ذلك، فعل ذلك مع حد أدنى من "الإنذارات الكاذبة"، مما يعني أنه نادرًا ما أوقف القصص البريئة.

2. الكشف بعد التوليد (المحقق): في بعض الأحيان، تكون القصة قد انتهت بالفعل ونُشرت عبر الإنترنت. اختبر الباحثون أيضًا طريقة جديدة لتحليل القصص المصورة المكتملة. جربوا نهج "الوصف ثم الحكم"، حيث يقوم الذكاء الاصطناعي أولاً بكتابة ملخص للقصة بأكملها ثم يقرر ما إذا كانت مليئة بالكراهية أم لا. ساعد هذا الذكاء الاصطناعي على فهم السياق بشكل أفضل.

   • أمسكت هذه الطريقة بـ 80.2% من قصص الكراهية في الصور المدمجة (الصور الملصقة معًا) و 76.6% في مجموعات الصور المنفصلة، وهو تحسن كبير مقارنة بالطرق القديمة.

الخلاصة الكبرى

تخلص الورقة إلى أنه مع تحسن قدرة الذكاء الاصطناعي على سرد قصص متماسكة ومتعددة الخطوات، يجب أن تصبح قواعد السلامة لدينا أكثر ذكاءً أيضًا. لا يمكننا مجرد فحص الصور الفردية بعد الآن؛ يجب أن نفهم القصة التي ترويها الصور. وجد المؤلفون أن نماذج الذكاء الاصطناعي الأحدث والأكثر قوة هي في الواقع أكثر عرضة لإنهاء قصص الكراهية هذه لأنها تتبع التعليمات بشكل أفضل، وليس لأنها أكثر أمانًا.

يقترح الباحثون أن أفضل دفاع هو نهج ذي طبقتين: "كلب حراسة" يراقب المحادثة أثناء حدوثها لإيقاف القصة قبل اكتمالها، و"محقق" يحلل القصة النهائية إذا تسللت. وبدون هذه الأساليب الجديدة، تحذر الورقة من أن الجيل القادم من قصص الذكاء الاصطناዊ المصورة قد يصبح وسيلة سهلة ورخيصة لنشر الكراهية إلى ملايين الأشخاص، بما في ذلك الأطفال، دون أن يلاحظ أحد ذلك حتى فوات الأوان.