Histoires Morales: A French Dataset for Assessing Moral Alignment
تقدم هذه الورقة البحثية "Histoires Morales"، وهي مجموعة بيانات فرنسية مكيفة ثقافياً مستمدة من "Moral Stories" لمعالجة نقص الموارد لتقييم التوافق الأخلاقي في نماذج اللغة الفرنسية، مما يثبت أنه بينما تلتزم هذه النماذج عموماً بالمعايير الأخلاقية بشكل افتراضي، إلا أنها تظل عرضة للتلاعب من خلال تحسين تفضيلات المستخدم.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تعد النماذج اللغوية الكبيرة أدوات قوية يمكنها الكتابة والترجمة والمحادثة من خلال التنبؤ بالكلمة التالية في الجملة بناءً على الأنماط التي تعلمتها من كميات هائلة من النصوص. ومع دمج هذه الأنظمة بشكل أكبر في الحياة اليومية، برز سؤال جوهري: هل تفهم هذه النماذج القيم الإنسانية؟ وتحديداً، هل يمكنها التمييز بين الصواب والخطأ بنفس الطريقة التي يفعلها البشر؟ وبينما حقق الباحثون تقدماً كبيراً في اختبار هذه النماذج باللغتين الإنجليزية والصينية، ظلت هناك فجوة كبيرة بالنسبة للغة الفرنسية، وهي خامس أكثر اللغات تحدثاً في العالم. وبدون وسيلة لقياس كيفية تعامل هذه النماذج مع الاستدلال الأخلاقي باللغة الفرنسية، يصعب معرفة ما إذا كانت ستتصرف بشكل أخلاقي لمئات الملايين من الأشخاص الذين يتحدثونها. وهذا عدم اليقين أمر مهم لأن النموذج الذي يفشل في استيعاب الفروق الثقافية الدقيقة أو المعايير الأخلاقية قد يقدم نصائح ضارة أو يعزز التحيزات بطريقة تبدو طبيعية للآلة ولكنها خاطئة بالنسبة للمستخدم.
ولمعالجة هذه الفجوة، أنشأ فريق من الباحثين من فرنسا مورداً جديداً يسمى HISTOIRESMORALES. تتكون هذه المجموعة من البيانات من 12,000 قصة قصيرة مكتوبة بالفرنسية، تصف كل منها موقفاً اجتماعياً يواجه فيه الشخص خياراً بين فعل أخلاقي وآخر غير أخلاقي. تغطي القصص مجموعة واسعة من السيناريوهات اليومية، من كيفية معاملة الأصدقاء والعائلة إلى كيفية التعامل مع المال أو الحيوانات. على سبيل المثال، قد تصف إحدى القصص شخصاً يتجاهل مكالمة هاتفية من والديه للذهاب مع أصدقائه، بينما قد تصور أخرى شخصاً يدفع لطبيب بيطري مقابل عمله مقابل شخص يرفض الدفع. تتضمن كل رواية السياق، ونية الشخص، والإجراء الذي يتخذه، وعاقبة ذلك الإجراء. لم يقم الباحثون بمجرد ترجمة هذه القصص من الإنجليزية؛ بل قاموا بتكييفها بعناية لتناسب الثقافة الفرنسية. وقد شمل ذلك تغيير أسماء مثل "جون" إلى "جان"، وتحويل العملة من الدولار إلى اليورو، واستبدال الأنشطة الأمريكية مثل لعب البيسبول بمهارات فرنسية أكثر شيوعاً مثل لعب التنس. كما ضمنوا أن تكون الاصطلاحات والإشارات الاجتماعية طبيعية للمتحدث الأصلي للفرنسية، بدلاً من أن تبدو كترجمة مباشرة ركيكة.
بنى الفريق مجموعة البيانات هذه بالبدء بمجموعة موجودة من القصص الإنجليزية واستخدام مزيج من الترجمة الآلية والمراجعة البشرية. استخدموا أولاً نموذجاً لغوياً لترجمة النص، ثم طلبوا من متحدثين أصليين للفرنسية تصحيح الأخطاء وضمان دقة السياق الثقافي. تضمنت هذه العملية جولات متعددة من الفحص، حيث قيم المدققون البشريون ما إذا كانت الترجمات تحافظ على المعنى الأصلي، وتستخدم قواعد لغوية صحيحة، وتكيف المراجع الثقافية بشكل مناسب. وجد الباحثون أن مجرد ترجمة الكلمات لم يكن كافياً؛ إذ كان النموذج غالباً ما يفتقد النبرة أو الثقل الثقافي للموقف. ومن خلال إضافة أمثلة محددة للأخطاء والتصحيحات إلى تعليمات الترجمة، نجحوا في تحسين جودة مجموعة البيانات النهائية بشكل كبير. والنتي النتيجة هي مجموعة من القصص التي تبدو أصيلة للمتحدثين بالفرنسية، مما يسمح للباحثين باختبار مدى فهم الذكاء الاصطناعي للنسيج الأخلاقي للمجتمع الفرنسي.
باستخدام مجموعة البيانات الجديدة هذه، اختبر الباحثون العديد من النماذج اللغوية الكبيرة لمعرفة أدائها في مهام الاستدلال الأخلاقي. طلبوا من النماذج التنبؤ بما إذا كان إجراء معين من المرجح أن يحدث أو الاختيار بين خيار أخلاقي وغير أخلاقي. وأظهرت النتائج أنه بينما تتماشى النماذج عموماً مع المعايير الأخلاقية البشرية، إلا أنها ليست مثالية. وفي الواقع، أدت النماذج أداءً أفضل قليلاً عند معالجة القصص باللغة الإنجليزية منها بالفرنسية، مما يشير إلى أن بيانات تدريبها قد تكون أغنى أو أكثر توازناً بالإنجليزية. والأكثر إثارة للدهشة، اكتشف الباحثون أن هذا التوافق الأخلاقي كان هشاً. فباستخدام تقنية تسمى "تحسين التفضيل المباشر"، والتي تتضمن إظهار عدد صغير من الأمثلة للسلوك المفضل، تمكنوا من تغيير البوصلة الأخلاقية للنموذج بسهولة. فبعدد لا يتجاوز 84 مثالاً، كان بإمكان النماذج أن تُدرب على تفضيل الأفعال غير الأخلاقية على الأفعال الأخلاقية، أو العكس. ويشير هذا إلى أن النماذج ليس لديها فهم عميق وثابت للصواب والخطأ؛ بل إن سلوكها حساس للغاية للبيانات التي تتعرض لها.
تخلص الدراسة إلى أنه بينما تعد النماذج اللغوية الحالية مفيدة ومتوافقة عموماً مع القيم الإنسانية، فإن استدلالها الأخلاقي ليس قوياً، خاصة عند العمل بلغات أخرى غير الإنجليزية. إن القدرة على التأثير بسهولة في الموقف الأخلاقي للنموذج باستخدام كمية صغيرة من بيانات التدريب تشير إلى أن هذه الأنظمة ليست موثوقة بعد بما يكفي ليتم الوثوق بها في القرارات الأخلاقية المعقدة دون إشراف دقيق. إن إنشاء HISTOIRESMORALES يوفر أداة حيوية للباحثين لمواصلة مراقبة وتحسين هذه الأنظمة، لضمان أنه كلما أصبحت أكثر قدرة، أصبحت أيضاً أكثر موثوقية عبر مختلف الثقافات واللغات. ويسلط هذا العمل الضوء على أن بناء ذكاء اصطناعي أخلاقي يتطلب أكثر من مجرد ترجمة الأكواد؛ إنه يتطلب فهماً عميقاً للسياقات الثقافية والأخلاقية التي ستُستخدم فيها هذه الأدوات.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.