Images Amplify Misinformation Sharing in Vision-Language Models
تكشف هذه الدراسة أن نماذج الرؤية واللغة تظهر تحيزات شبيهة بالبشر من خلال زيادة ميلها بشكل كبير لإعادة مشاركة الأخبار الكاذبة عند وجود صور، وهي ثغرة تتفاقم أكثر بفعل سمات شخصية محددة وتتفاوت باختلاف بنيات النماذج.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك مجموعة من الروبوتات الذكية جداً والسريعة للغاية (تسمى نماذج الرؤية واللغة، أو VLMs) تقرأ الأخبار وتقرر ما ستشاركه مع أصدقائها. يمكن لهذه الروبوتات قراءة النصوص والنظر إلى الصور.
أراد الباحثون في هذه الورقة البحثية الإجابة على سؤال بسيط: هل إضافة صورة إلى قصة إخبارية تجعل هذه الروبوتات أكثر عرضة لمشاركتها، حتى لو كانت القصة مزيفة؟
فكر في الأمر بهذه الطريقة: إذا أخبرت صديقاً بإشاعة مملة، فقد يتجاهلها. ولكن إذا أريته صورة درامية للحدث الذي تصفه الإشاعة، فمن المرجح جداً أن يصدقها ويخبرها للجميع. تسأل هذه الورقة عما إذا كانت الروبوتات تفعل الشيء نفسه تماماً.
إليك ما وجدوه، مقسماً ببساة:
1. تأثير "الصورة السحرية"
اختبر الباحثون أربعة أنواع مختلفة من الروبوتات. أعطوا لهم قصصاً إخبارية كانت إما حقيقية أو مزيفة.
- التجربة: عرضوا على الروبوتات القصص بطريقتين: النص فقط، والنص مع صورة.
- النتيجة: عندما تمت إضافة صورة، شاركت الروبوتات القصص بشكل أكبر.
- العقبة: كانت الروبوتات أكثر عرضة بكثير لمشاركة الأخبار المزيفة عند إرفاق صورة بها. كان الأمر كما لو أن الصورة عملت كـ "معزز للثقة" خدع الروبوتات وجعلها تعتقد أن الكذبة حقيقة.
- بالنسبة للأخبار المزيفة، ارتفقت نسبة المشاركة بنحو 14.5%.
- بالنسبة للأخبار الحقيقية، ارتفعت المشاركة بنسبة 5.3% فقط.
تشبيه: تخيل ساحراً. إذا أخبرك أن خدعة ما حقيقية، فقد تشك في أمره. ولكن إذا أراك صورة مبهرة للخدعة، فمن المرجح جداً أن تصدقها وتخبر أصدقاءك عنها. لقد وقعت الروبوتات في فخ الصورة المبهرة، خاصة عندما تكون الخدعة كذبة.
2. ليست كل الروبوتات متشابهة
اختبر الباحثون أربعة نماذج مختلفة من الروبوتات (مثل العلامات التجارية المختلفة للهواتف الذكية).
- بعض الروبوتات (مثل GPT-4o-mini و Qwen2-VL) كان من السهل جداً خداعها بالصور. فقد شاركت أخباراً مزيفة مع وجود صور بنسبة تزيد بنحو 20% عن حالتها بدون صور.
- كان أحد الروبوتات (Claude-3-Haiku) أكثر صلابة بكثير. لم يتم خداعه بالصور بسهولة مثل البقية. لقد كان الأكثر "شكاً" بين المجموعة.
3. اختبار "الشخصية"
أعطى الباحثون الروبوتات "شخصيات" مختلفة ليروا ما إذا كان ذلك سيغير سلوكها. لقد تظاهروا بأن الروبوتات هي أنواع مختلفة من البشر:
- الشخصيات "المظلمة": أعطوا بعض الروبوتات سمات مثل التلاعب، أو الأنانية، أو التهور (ما يسمى بـ "الثالوث المظلم").
- النتيجة: هذه الشخصيات "المظلمة" شاركت أخباراً مزيفة بشكل أكبر بكثير. لم يهتموا بما إذا كانت حقيقية أم لا؛ أرادوا فقط مشاركتها.
- الشخصيات "السياسية": أعطوا بعض الروبوتات هوية سياسية محددة (مثل أن تكون جمهورياً أو ديمقراطياً).
- النتيجة: الروبوتات ذات الهوية الجمهورية أصبحت أقل حذراً بشأن التحقق مما إذا كانت الأخبار حقيقية أم مزيفة. فقد شاركت الأخبار الحقيقية والمزيفة بنفس المعدل تقريباً، بينما كانت الروبوتات الأخرى أفضل في تمييز الفرق.
تشبيه: تخيل حفلة. إذا طلبت من شخص خجول وحذر مشاركة إشاعة، فقد يتحقق أولاً مما إذا كانت حقيقية. ولكن إذا طلبت من شخص جريء ومتهور، فقد يصرخ بالإشاعة فوراً، حتى لو كانت مختلقة. تصرفت الروبوتات تماماً مثل هؤلاء الناس.
4. ما لم يكن مهماً
- الموضوع: لم يغير موضوع الخبر (سواء كان عن السياسة، أو الصحة، أو التكنولوجيا) سلوك الروبوتات كثيراً.
- الأشخاص في الصورة: لم يهم ما إذا كانت الصورة تظهر وجهاً بشرياً أو مجرد شيء ما؛ فقد استجابت الروبوتات بنفس الطريقة.
الخلاصة الكبرى
الاستنتاج الرئيسي هو أن روبوتات الذكاء الاصطناعي هذه ليست مجرد آلات حاسبة باردة. إنها تمتلك عيباً بشرياً: إنها تثق في الصور أكثر من اللازم.
تماماً مثل البشر، تميل هذه الروبوتات إلى تصديق ومشاركة قصة ما إذا كانت مرفقة بصورة، حتى لو كانت القصة كذبة. وهذا أمر خطير للغاية عندما يُعطى الروبوت شخصية "متهورة" أو عندما تكون الأخبار مزيفة.
يحذر الباحثون أنه مع بدء هذه الروبوتات في المساعدة في تنظيم الأخبار لنا (أي تحديد ما نراه على شاشاتنا)، نحتاج إلى توخي الحذر. فإذا تمت برمجتها لمشاركة الأشياء التي تبدو جيدة (بسبب الصور) بدلاً من الأشياء التي هي حقيقية، فقد تنشر الكثير من الأخبار المزيفة عن غير قصد.
باختصار: الصور تجعل الروبوتات أكثر عرضة لمشاركة الأخبار، لكنها تجعلها تشارك الأخبار المزيفة أكثر من الأخبار الحقيقية. وإذا أعطيت الروبوت "سلوكاً سيئاً"، فسيشارك الأشياء المزيفة بشكل أسرع.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.