High-Risk Memories? Comparative audit of the representation of Second World War atrocities in Ukraine by generative AI applications
تُدقق هذه الورقة تجريبياً كيف تتعامل تطبيقات الذكاء الاصطناعي التوليدي مع الذكريات عالية المخاطر لفظائع الحرب العالمية الثانية في أوكرانيا، وتحدد مخاطر جسيمة تتمثل في التشويه التاريخي، والهلوسة، وعدم اتساق الأخلاقيات، مما قد يؤدي إلى تحريف الذاكرة الجماعية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك أمين مكتبة جديد، فائق السرعة، يمكنه كتابة قصص عن التاريخ في ثوانٍ معدودة. تسأله: "ماذا حدث في أوكرانيا خلال الحرب العالمية الثانية؟" فيكتب لك فوراً صفحة مفصلة. يبدو هذا مفيداً، أليس كذلك؟
هذه الورقة البحثية تتعلق باختبار ثلاثة من هؤلاء "الأمناء الخارقين" (روبوتات الدردشة بالذكاء الاصطناعي: Bing/Copilot، وGoogle Bard، وChatGPT) لمعرفة ما إذا كانوا يقولون الحقيقة فعلاً حول بعض أكثر الأحداث إيلاماً وإثارة للجدل في التاريخ: الفظائع التي ارتكبت في أوكرانيا خلال الحرب العالمية الثانية.
إليك تفصيل نتائجهم، باستخدام بعض التشبيهات من الحياة اليومية:
1. المشكلة: أمين المكتبة الذي يلعب "لعبة التخمين"
الذاكرة البشرية تشبه مكتبة حيث الكتب مصنفة بعناقة، ومراجعة، ومحل نقاش من قبل المؤرخين. أما الذكاء الاصطناعي، فهو لا "يتذكر" الحقائق كما نفعل نحن. إنه أشبه بـ ببغاء فائق السرعة قرأ ملايين الكتب وتعلم كيف يخمن الكلمة التالية في الجملة بناءً على الاحتمالات.
- المخاطرة: إذا كان الببغاء قد قرأ الكثير من الكتب التي تقول "حدث X" وقليلاً من الكتب التي تقول "حدث Y"، فقد يخمن مزيجاً بين الاثنين، أو يبتكر خياراً ثالثاً يبدو منطقياً ولكنه مختلق تماماً. وهذا ما يسمى بـ "الهلوسة" (Hallucination).
- الخطر: عندما يتعلق الأمر بـ "الذكريات عالية الخطورة" (مثل المجازر الجماعية، أو الهولوكوست، أو التطهير العرقي)، فإن الخطأ في الحقائق ليس مجرد خطأ مطبعي؛ بل يمكن استخدامه لإيذاء الناس، أو إنكار الجرائم، أو إثارة الكراهية السياسية.
2. الاختبار: طرح نفس السؤال بثلاث لغات
عامل الباحثون الذكاء الاصطناعي كطالب يؤدي امتحاناً. طرحوا 74 سؤالاً مختلفاً حول فظائع الحرب العالمية الثانية في أوكرانيا (تغطي الضحايا من اليهود والبولنديين والأوكرانيين).
- طرحوا نفس الأسئلة بـ الإنجليزية، والأوكرانية، والروسية.
- قارنوا إجابات الذكاء الاصطناعي مقابل "المعيار الذهبي" الذي وضعه مؤرخون بشريون حقيقيون.
3. النتائج: أمين المكتبة يفشل في الاختبار
أ. درجة الدقة: طالب بدرجة "C"
بشكل عام، أصاب الذكاء الاصطناعي في الحقائق بنسبة 50% تقريباً فقط.
- تأثير "غولدي لوكس" (الاعتدال): كان الذكاء الاصطناعي أفضل بكثير في الإجابة على الأسئلة باللغة الإنجليزية (اللغة التي تتوفر لها أكبر قدر من بيانات التدريب) ولكنه عانى بشكل كبير في اللغتين الأوكرانية والروسية.
- التشبيه: تخيل طباخاً بارعاً في صنع البيتزا الإيطالية لأن لديه مليون وصفة، ولكن عندما تطلب منه طبقاً أوكرانياً تقليدياً، يبدأ بتخمين المكونات ويقدم لك بيتزا عليها مخلل.
- الإخفاقات المحددة:
- Bard (Google): كان الأسوأ في "الهلوسة". فقد اخترع تواريخ مزيفة، وأرقاماً مزيفة لعدد الضحايا، وحتى اقتباسات لأشخاص لم يوجدوا أصلاً. وفي اللغة الأوكرانية، كان غير موثوق به بشكل خاص.
- Bing (Microsoft): كان جيداً في الأسئلة العامة، لكنه ضل طريقه عند سؤاله عن مجازر محددة وأقل شهرة.
- ChatGPT: كان الأكثر اتساقاً، لكنه لا يزال يخطئ في نصف الحقائق.
ب. مشكلة "الوعظ": الروبوت الواعظ
نظر الباحثون أيضاً في كيفية "حديث" الذكاء الاصطناعي عن هذه المآسي.
- المشكلة: أحياناً يتصرف الذكاء الاصطناعي كقاضٍ أخلاقي. فقد يقول أشياء مثل، "كان هذا فصلاً مظلماً في التاريخ، ويجب أن نتعلم منه"، أو "يجب أن ندين هذا".
- عدم الاتساق: كان هذا الجزء الأكثر غرابة. فالذكاء الاصطناعي قد يكون واعظاً ومتمسكاً بالمبادئ الأخلاقية في لغة ما، ولكنه يصمت تماماً في لغة أخرى.
- مثال: إذا سألت بالإنجليزية، قد يلقي ChatGPT محاضرة عليك حول أهمية التذكر. ولكن إذا سألت نفس السؤال بالأوكرانية، فقد يقدم لك مجرد قائمة جافة من الحقائق.
- التشبيه: تخيل مرشداً سياحياً في متحف. في غرفة ما، يتوقف ليلقي خطاباً لمدة 5 دقائق عن المأساة وما يجب أن نتعلمه. وفي الغرفة التالية، يكتفي بهمس الحقائق ويمضي في طريقه. إنه أمر مربك وغير متسق.
4. لماذا يهم هذا الأمر؟
تحذر الورقة البحثية من أننا نسلم وظيفة "تذكر التاريخ" إلى آلات لا تفهم في الواقع "معنى" التاريخ.
- "الماضي المزيف": الذكاء الاصطناعي لا يرتكب أخطاء فحسب؛ بل هو يخلق "ماضياً لم يوجد قط". يمكنه توليد نسخة من التاريخ تكون فيها الحقائق منحرفة قليلاً، أو حيث تُطبق الدروس الأخلاقية بشكل غير متساوٍ.
- فخ اللغة: بما أن الذكاء الاصطناعي مدرب في الغالب على بيانات إنجليزية، فهو يعرف النسخة الخاصة بـ "الشمال العالمي" من التاريخ بشكل أفضل من النسخة المحلية. بالنسبة للأشخاص في أوكرانيا أو روسيا الذين يحاولون التعلم عن تاريخهم، غالباً ما يقدم لهم الذكاء الاصطناعي نسخة مشوهة وغريبة عن ماضيهم.
الخلاصة
إذا سألت ذكاءً اصطناعياً عن الهولوكوست أو الحرب العالمية الثانية في أوكرانيا، فلا تثق به ثقة عمياء.
- قد يخطئ في الأرقام.
- قد يخترع قصصاً مزيفة.
- قد يلقي عليك محاضرات أخلاقية في لغة ما بينما يظل صامتاً في أخرى.
يقترح المؤلفون أنه حتى يتم إصلاح هؤلاء "الأمناء" من الذكاء الاصطناعي، نحتاج إلى أن نكون حذرين للغاية. قد نحتاج إلى إخبارهم: "إذا كنت لا تعرف الإجابة، فقل فقط 'لا أعرف' بدلاً من اختلاق شيء ما"، ونحن بحاجة إلى تعليمهم كيف يكونون مرشدين أخلاقيين متسقين، وليس مجرد مخمنين عشوائيين.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.