← أحدث الأبحاث
💬 NLP

Auditing Exposure to Harmful Content on TikTok using Multimodal Language Models: A Cross-National, Age-Stratified Study

تُظهر هذه الدراسة أن النماذج اللغوية الكبيرة متعددة الوسائط يمكن أن توفر وسيلة فعالة من حيث التكلفة وقابلة للتوسع لتدقيق تعرض منصة تيك توك للمحتوى الضار عبر فرنسا وإيطاليا والسويد، مما يكشف أن عمليات البحث القائمة على الكلمات المفتاحية تزيد بشكل كبير من التعرض للمحتوى الضار مقارنة بالتصفح السلبي، وأن فلاتر السلامة غالباً ما تقلل من تقدير الأضرار الصريحة.

المؤلفون الأصليون: Hamidreza Saffari, Francesco Pierri

نُشر 2026-08-19
📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة
CC BY 4.0

المؤلفون الأصليون: Hamidreza Saffari, Francesco Pierri

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

في كل يوم، يفتح الملايين من الشباب تطبيقاً لمشاهدة مقاطع الفيديو القصيرة، واثقين من أن الشاشة ستعرض لهم أشياء قد يستمتعون بها. وفي الكواليس، تقرر برامج حاسوبية معقدة أي الفيديوهات ستظهر تالياً، حيث تتعلم من كل نقرة، وتوقف مؤقت، وتخطي لبناء موجز مخصص. وبينما صُممت هذه الأنظمة لتكون جذابة، إلا أنها قد تدفع المستخدمين أحياناً نحو محتوى خطير أو مزعج، مثل المواد التي تروج لإيذاء النفس، أو اضطرابات الأكل، أو العنف. ولأن هذه الخوارزميات تعمل كـ "صندوق أسود" داخل خوادم الشركة، فقد عانى الباحثون المستقلون في محاولة لرؤية ما يراه المستخدمون الشباب بالضبط. فمن الصعب فحص كل فيديو، كما أن القواعد المتعلقة بما يُعد محتوى ضاراً يمكن أن تختلف باختلاف اللغة والبلد. وبدون وسيلة واضحة لقياس هذا التعرض، يصعب معرفة ما إذا كانت تدابير السلامة تعمل بالفعل أم أنها تخفق في حماية الأشخاص الذين وُجدت من أجلهم.

ولحل هذه المشكلة، شرع فريق من الباحثين من جامعة بوليتكنيكو دي ميلانو في إيطاليا في إجراء تدقيق لتطبيق تيك توك في ثلاث دول أوروبية مختلفة: فرنسا وإيطاليا والسويد. أرادوا معرفة نوع الفيديوهات التي سيعرضها التطبيق لمستخدمين من أعمار مختلفة، بدءاً من المراهقة المبكرة وصولاً إلى البالغين. وبدلاً من استئجار جيوش من البشر لمشاهدة آلاف الفيديوهات، لجأوا إلى نوع جديد من الذكاء الاصطناعي يسمى "نموذج اللغة متعدد الوسائط". هذه أنظمة حاسوبية متطورة يمكنها قراءة النصوص، والاستماع إلى الصوت، والنظر إلى الصور جميعاً في آن واحد، تماماً كما يفعل البشر. اختبر الباحثون أولاً عدة أنظمة من هذه الأنظمة على مجموعة صغيرة من الفيديوهات التي تم تصنيفها مسبقاً من قبل خبراء بشريين. ووجدوا أن نموذجاً معيناً، عند عرضه لثماني صور ثابتة مأخوذة من فيديو مع الوصف النصي، يمكنه تحديد المحتوى الضار بمستوى دقة جيد بما يكفي لاستخدامه على نطاق واسع. سمح هذا النهج لهم بتحليل ما يقرب من 37,000 فيديو بتكلفة تبلغ حوالي خمسين دولاراً، وهي مهمة كانت ستكون مكلفة للغاية وبطيئة جداً باستخدام المراجعين البشريين وحدهم.

استخدمت الدراسة حسابات حاسوبية تتظاهر بأنها مستخدمون حقيقيون بأعمار محددة: ثلاثة عشر، ستة عشر، تسعة عشر، وأربعين عاماً. وقد تم إعداد هذه الحسابات في فرنسا وإيطاليا والسويد لمعرفة كيفية سلوك التطبيق في أماكن مختلفة. ترك الباحثون هذه الحسابات تتصفح موجز فيديوهاتها الرئيسية دون القيام بأي شيء آخر، مع تسجيل ما تختاره الخوارزمية لعرضه عليهم. كما أجروا اختباراً ثانياً حيث قامت الحسابات بالبحث بنشاط عن كلمات محددة تتعلق بمواضيع ضارة، مثل "الانتحار" أو "القمار"، لمعرفة كيفية استجابة التطبيق للطلبات المباشرة. وكشفت النتائج عن فرق صارخ بين ما يراه المستخدمون عند التصفح السلبي وما يجدونه عند البحث النشط. فعندما كانت الحسابات تتصفح ببساطة، تباينت كمية المحتوى الضار بشكل كبير حسب البلد؛ حيث أظهرت إيطاليا أعلى معدلات الفيديوهات الضارة لكل فئة عمرية، حيث تم تصنيف ما يقرب من نصف الفيديوهات المعروضة لشخصية تبلغ من العمر تسعة عشر عاماً على أنها ضارة. وفي المقابل، كانت المعدلات في فرنسا والسويد أقل، وإن كانت لا تزال موجودة.

ومع ذلك، تغير الوضع بشكل دراماتيكي عندما بدأت الحسابات في البحث. فعندما كتب الباحثون كلمات رئيسية متعلقة بالأذى، أعاد التطبيق فوراً فيضاً من المحتوى الضار، حيث ارتفع المعدل إلى ما بين 35 و56 بالمائة. كان هذا ارتفاعاً هائلاً مقارنة بالتصفح السلبي، مما يظهر أن التطبيق بارع جداً في العثور على هذه المواد عند طلبها، حتى دون وجود أي تحذيرات أو حواجز مرئية في لحظة البحث. ومن المثير للاهتمام أن هذه الطفرة في المحتوى الضار كانت مؤقتة؛ فبمجرد انتهاء البحث وعودة الحسابات إلى التصفح، عاد الموجز إلى مستواه الطبيعي الأقل من المحتوى الضار في غضون دقائق. وهذا يشير إلى أن الخوارزمية لا "تسمم" موجز المستخدم بشكل دائم بعد بحث واحد، لكنها توفر وصولاً فورياً إلى مواد خطيرة عند الطلب.

كما وجدت الدراسة أن عمر المستخدم كان أقل أهمية من البلد الذي يتواجد فيه. ففي فرنسا والسويد، كانت كمية المحتوى الضار التي يراها المراهقون الأصغر سناً أقل مما يراه البالغون، وهو ما يُفترض أن تحققه قواعد السلامة. ولكن في إيطاليا، شاهد أصغر المستخدمين قدراً مساوياً، أو حتى أكثر، من المحتوى الضار مقارلة بالبالغين، مما يشير إلى أن فلاتر السلامة لم تكن تعمل كما هو مقصود لتلك المنطقة تحديداً. وأشار الباحثون إلى أن الذكاء الاصطناعي الذي استخدموه لم يكن مثالياً؛ فقد فاته بعض الفيديوهات ورفض أحياناً تحليل فيديوهات أخرى، خاصة تلك التي تحتوي على عري صريح. وهذا يعني أن الأرقام التي أوردوها هي تقديرات متحفظة على الأرجح، وأن الكمية الحقيقية للمحتوى الضار قد تكون أعلى قليلاً. ورغم هذه القيود، تثبت الدراسة أن استخدام الذكاء الاصطناعي المتقدم لتدقيق منصات التواصل الاجتماعي هو وسيلة ممكنة ومنخفضة التكلفة لمراقبة السلامة عبر لغات وبلدان مختلفة. كما تسلط الضوء على أنه بينما تعد وظيفة البحث بوابة رئيسية للمحتوى الضار، فإن الموجز السلبي أيضاً يتباين بشدة حسب الموقع، مع ظهور إيطاليا كأكثر المناطق تعرضاً للمحتوى الضار بالنسبة للشباب. وتشير النتائج إلى أن شركات المنصات بحاجة إلى النظر بعمق أكبر في كيفية إدارة نتائج البحث وكيفية تخصيص تدابير السلامة الخاصة بها لمختلف المناطق، بدلاً من افتراض أن نهجاً واحداً موحداً يحمي الأطفال في كل مكان.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 💬 cs.CL →