Are LLMs Ready for Conflict Monitoring? Empirical Evidence from West Africa
تُثبت هذه الورقة تجريبياً أنه في حين تعمل النماذج المتكيفة مع المجال على التخفيف من التحيز المعياري في مراقبة الصراعات في غرب أفريقيا، إلا أن النماذج اللغوية الكبيرة الحالية تظل غير صالحة للنشر غير الخاضع للإشراف بسبب تحيزات الاختيار المستمرة القائمة على الفاعلين، والهشاشة الجغرافية تجاه التأطير اللفظي، وتخيلات التعليل غير المخلصة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول بناء مساعد روبوت فائق الذكاء لمساعدة العاملين في مجال حقوق الإنسان على تتبع الصراعات العنيفة في أماكن مثل نيجيريا والكاميرون. يحتاج هؤلاء العاملون إلى معرفة ما حدث بالضبط: هل كانت معركة بين مجموعتين مسلحتين؟ أم كان جنوداً يهاجمون مدنيين أبرياء؟ إن الخطأ في هذا الأمر قد يعني الفرق بين إرسال المساعدات إلى الأشخاص المناسبين أو تجاهل مأساة حقيقية.
لقد طرح مؤلفو هذه الورقة سؤالاً بسيطاً ولكنه مخيف: هل روبوتات الذكاء الاصطناعي الحالية جاهزة لهذه المهمة؟
قاموا باختبار عدة نماذج ذكاء اصطناعي شهيرة (مثل الأدمغة الرقمية المسماة Gemma وLlama وMistral وOlmo) مقابل قاعدة بيانات "المعيار الذهبي" لأحداث الصراع الحقيقية. وإليكم ما وجدوه، مشروحاً عبر بعض التشبيهات من الحياة اليومية.
1. الروبوت "المفرط في الحماية" مقابل الروبوت "العادل"
وجد الباحثون نوعين مختلفين تماماً من السلوك في نماذج الذكاء الاصطناعي:
- الروبوتات "المفرطة في الحماية" (نماذج LLM التقليدية): تعمل نماذج الذكاء الاصطناعي القياسية الجاهزة كحارس أمن عصبي يفترض الأسوأ تجاه أي شخص لا يرتدي زياً رسمياً. إذا وصفت قصة ما قتالاً بين مجموعتين مسلحتين، فإن هذه الأنواع من الذكاء الاصطناعي غالباً ما تشعر بالذعر وتقول: "أوه لا، لا بد أن هؤلاء جنود يهاجمون مدنيين!". إنهم حريصون جداً على رصد العنف ضد الناس لدرجة أنهم يتهمون ظلماً معارك مشروعة بأنها جرائم ضد المدنيين.
- التشبيه: تخيل قاضياً، كلما رأى ملاكمين يتقاتلان، يفترض فوراً أن أحدهما طفل يتعرض للضرب، حتى لو كان كلاهما رجلين بالغين في الحلبة. يفعل الذكاء الاصطناعي ذلك بنسبة 18% تقريباً مع نموذج Gemma.
- الروبوتات "العادلة" (النماذج المتكيفة مع المجال): قام الباحثون أيضاً ببناء نماذج ذكاء اصطناعي خاصة تم تدريبها خصيصاً على بيانات الصراعات الأفريقية (تسمى AfroConfliBERT وAfroConfliLLAMA). كانت هذه النماذج أفضل بكثير في التمييز؛ فلم يكن لديها ذلك التحيز العصبي، وكانت تعامل كلا الجانبين في القتال بمزيد من العدالة.
2. انحياز "الزي الرسمي" (من هو "الرجل الطيب"؟)
حتى الروبوتات "العادلة" كان لديها نقطة عمياء. فقد ظلت تعاني في معاملة الفاعلين الحكوميين (مثل الجيش أو الشرطة الرسميين) بنفس الطريقة التي تعامل بها الفاعلين غير الحكوميين (مثل الجماعات المتمردة أو الميليشيات).
- التشبيه: تخيل كاميرا تقوم تلقائياً بتغبيش وجوه الأشخاص الذين يرتدون زي الشرطة بينما تبقي وجوه المدنيين واضحة وحادة. حتى عندما يكون رجال الشرطة هم من يسببون المشاكل، يتردد الذكاء الاصطناعي في وصف الأمر بأنه "عنف". يبدو أن لديه قاعدة خفية تقول: "إذا كانوا يرتدون زياً رسمياً، فمن المحتمل أن يكونوا هم الأخيار"، حتى عندما تقول الحقائق عكس ذلك. في نيجيريا، كان الذكاء الاصطناعي أقل عرضة بنسبة 36% لتسمية عنف الدولة "عنفاً" مقارنة بعنف الجهات غير الحكومية، حتى عندما كانت الأفعال متطابقة تماماً.
3. الروبوت "الهش" (قوة الكلمات)
كانت الصدمة الأكبر هي مدى سهولة خداع نماذج الذكاء الاصطناعي القياسية بمجرد تغيير بضع كلمات في تقرير إخباري.
- التشبيه: فكر في هذه الأنواع من الذكاء الاصطناعي كطالب سهل الإيحاء يؤدي امتحاناً. إذا كتب المعلم: "الجندي قتل بوحشية رجلاً"، يصاب الطالب بالذعر ويعتبرها جريمة. ولكن إذا كتب المعلم: "الجندي اشتبك مع رجل"، فإن الطالب يعتبرها معركة عادية.
- النتيجة: وجد الباحثون أن مجرد إضافة كلمة مثل "غير مبرر" أو "انتهاك حقوق الإنسان" إلى جملة يمكن أن يقلب إجابة الذكاء الاصطناعي بنسبة 66% من المرات. لم يكن الذكاء الاصطناعي ينظر إلى حقائق ما حدث، بل كان يتفاعل مع نبرة القصة. كان الأمر يشبه ميزاناً يميل فقط لأنك همست بكلمة عالية بالقرب منه، بدلاً من تغير الوزن الفعلي على الميزان.
4. مشكلة "التبرير الزائف"
عندما سأل الباحثون الذكاء الاصطناعي لماذا غير إجابته، قام الذكاء الاصطناعي بتأليف قصص.
- التشبहे: تخيل أنك تسأل طالباً لماذا أخطأ في مسألة رياضية، فيقول: "لقد نسيت أن أحمل الواحد". لكن عندما تراجع عمله، تجد أنه في الواقع نسي عملية الضرب. إنهم يقومون بـ الهلوسة (الاسترسال في التأليف) — أي اختلاق سبب منطقي لا يتوافق مع ما حدث فعلياً في عقولهم.
- وجدت الدراسة أنه عندما يغير الذكاء الاصطناعي رأيه بسبب تغيير في الكلمات، فإنه يخترع سبباً جديداً لا يذكر الكلمة التي تسببت في التغيير أصلاً. لقد كان يكذب بشأن عملية تفكيره الخاصة.
5. نقطة الضعف السرية للروبوت "المتخصص"
كانت النماذج المصممة خصيصاً (AfroConfliBERT) أكثر استقراراً؛ فهي لا تُخدع بكلمات مثل "بوحشية" أو "غير مبرر". ومع ذلك، وجد الباحثون سمة غريبة: هذه النماذج تعتمد أحياناً بشكل مفرط على علامات الترقيم (مثل النقاط أو الفواصل) لاتخاذ القرارات، بدلاً من معنى الكلمات.
- التشبيه: إنه يشبه طالباً يحصل على الإجابة الصحيحة ليس لأنه فهم التاريخ، بل لأنه لاحظ أن الجملة تنتهي دائماً بنقطة. هذا الأسلوب ينجح معظم الوقت، لكنه أسلوب هش.
الخلاصة
تخلص الورقة إلى أن نماذج الذكاء الاصطناعي الحالية ليست جاهزة للعمل بمفردها في مناطق الصراع.
إذا تركت هذه الروبوتات تدير المشهد دون إشراف بشري:
- قد تتهم ظلماً المعارك السلمية بأنها جرائم حرب.
- قد تتجاهل العنف الذي ترتكبه الحكومات الرسمية.
- يمكن التلاعب بها بسهء عبر تغيير كلمة واحدة في تقرير إخباري.
يقترح المؤلفون أنه قبل الوثوق بالذكاء الاصطناعي في هذه القرارات عالية المخاطر، نحتاج إلى:
- تدريبه خصيصاً ليكون عادلاً مع جميع المجموعات (ليس فقط "أصحاب الزي الرسمي").
- اختباره للتأكد من عدم إمكانية خداعه بالتلاعب بالألفاظ.
- إبقاء عنصر بشري في الحلقة (Human in the loop) للتدقيق في العمل، خاصة في المناطق الصعبة.
باختصار، الذكاء الاصطناعي أداة قوية، لكنه حالياً يشبه سائقاً جديداً لم يتعلم قواعد الطريق بعد. لن تسمح له بقيادة حافلة مليئة بالناس دون وجود مدرب بشري يجلس بجانبه مباشرة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.