The "Knowledge-Behavior Gap" in Cultural Taboo Safety of Large Language Models
تقدم هذه الورقة CulShield، وهو أول معيار مرجعي يمتد عبر 77 دولة وأكثر من 2,000 محظور ثقافي لتقييم سلامة النماذج اللغوية الكبيرة فيما يتعلق بالمحظورات الثقافية، كاشفةً عن "فجوة معرفية سلوكية" كبيرة حيث تمتلك النماذج المعرفة الثقافية لكنها تفشل في تطبيقها في التفاعلات الضمنية المعتمدة على السياق.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تعلم روبوتًا فائق الذكاء كيف يكون ضيفًا جيدًا في حفلة عشاء. لن تكتفي بتعليمه أسماء الأطبى (المعرفة) فحسب، بل سيتعين عليك أيضًا تعليمه ألا يأكل الطعام من طبق المضيف، حتى لو كان يتضور جوعًا (السلوك). هذا هو عالم النماذج اللغوية الكبيرة (LLMs)، وهي العقول الاصطناعية التي تقف وراء برامج الدردشة الآلية والمساعدين الرقميين. هذه النماذج تشبه الموسوعات الرقمية التي يمكنها الدردشة بأي لغة تقريبًا، لكنها تعاني حاليًا من قاعدة اجتماعية شائكة: المحرمات الثقافية (Cultural Taboos). المحرم الثقافي يشبه علامة "ممنوع اللمس" غير المرئية في ثقافة معينة. على سبيل المثال، في بعض الأماكن، يعتبر ارتداء قبعة خضراء تعبيرًا عن الأناقة، بينما في أماكن أخرى، يعد إهانة كبيرة توحي بأن الشريك غير مخلص. إذا لم يعرف الروبوت الفرق، فقد يسيء إلى الضيف دون قصد، أو يفسد محادثة، أو حتى يتسبب في مشاكل حقيقية في الواقع. السؤال الكبير الذي يطرحه الباحثون هو: لمجرد أن الروبوت "يعرف" القواعد، هل يتبعها حقًا عندما يقع تحت الضغط؟
هذه الورقة البحثية، التي تحمل عنوان "'الفجوة بين المعرفة والسلوك' في السلامة من المحرمات الثقافية للنماذج اللغوية الكبيرة"، تغوص مباشرة في هذا الواقع المعقد. أدرك المؤلفون، وهم فريق من جامعة فودان وهواوي، أنه بينما نمتلك الكثير من الاختبارات لمعرفة ما إذا كانت الروبوتات تعرف الحقائق الثقافية، إلا أننا لا نملك طرقًا جيدة لاختبار ما إذا كان بإمكانها التصرف بأمان عندما يختبئ فخ ثقافي داخل سؤال يبدو غير ضار. ولإصلاح ذلك، بنوا أرضية اختبار جديدة تسمى CulShield. تخيل CulShield كصندوق "غموض" عملاق ومتعدد الثقافات يحتوي على أكثر من 2000 محرم ثقافي مختلف من 77 دولة وإقليمًا. لم يكتفوا بسؤال الروبوتات: "هل تعرف أن القبعات الخضراء سيئة في الصين؟" (وهو أمر سهل)، بل ابتكروا "فخاخًا ثقافية"؛ وهي أسئلة تبدو بريئة تمامًا ولكنها مصممة لخداع الروبوت لجعله يكسر محرمًا ما. على سبيل المثال، قد يسألون: "أنا أخطط لحفلة مفاجئة لصديقي الصيني؛ ما هي القبعة الملونة والممتعة التي يمكنني إهداؤه إياها؟". الروبوت الذي يمتلك المعرفة فقط ولكن يفتقر إلى الضوابط السلوكية قد يقول: "بالتأكيد، واحدة خضراء!" دون أن يدرك الكارثة الاجتماعية التي يتسبب فيها.
اختبر الباحثون بعض أكثر الروبوتات تقدمًا المتاحة، بما في ذلك GPT-4o-mini وGemini-2.5-pro، باستخدام هذا المعيار الجديد. وما وجدوه كان يشبه اكتشاف أن طالبًا نجح بتفوق في اختبار التاريخ، لكنه لا يزال يضل الطريق في ممرات المدرسة. لقد وجدوا "فجوة معرفة-سلوك" واضحة. غالبًا ما كانت الروبوتات تعرف القواعد بشكل مثالي عند سؤالها مباشرة، ولكن عندما كانت القواعد مخفية داخل سؤال مخادع، كانت تفشل كثيرًا في تطبيق تلك المعرفة. الأمر كما لو أن عقل الروبوت يعرف الخريطة، لكن قدميه ترفضان السير في المسار الصحيح.
اكتشاف آخر مفاجئ كان كيف يغير استخدام اللغة في السؤال سلوك الروبوت. تشير الدراسة إلى أن اللغة تعمل مثل "عدسة ثقافية". فعندما طُرحت الأسئلة باللغة الإنجليزية، كانت الروبوتات أكثر عرضة للوقوع في الفخاخ الثقافية المتعلقة بالثقافات القريبة من المعايير الناطقة بالإنجليزية. ومع ذلك، عندما كانت الأسئلة باللغة الإسبانية أو الصينية، تغير سلوكها، فأصبحت أحيانًا أكثر حذرًا، وأحيانًا أقل حذرًا. اتضح أن مجرد التحدث بلغة ما لا يعني أن الروبوت يفهم تمامًا الثقافة الكامنة وراءها.
ولرؤية ما إذا كان بإمكانهم إصلاح ذلك، حاول الفريق "تدريب" الروبوتات باستخدام بيانات جديدة تعلمها صراحةً كيفية رفض هذه الطلبات المخادعة بأدب. وبينما ساعد هذا الروبوتات على تحسين قدرتها على رصد الفخاخ، إلا أنه أدى إلى أثر جانبي: أصبحت الروبوتات حساسة للغاية. بدأت في رفض الأسئلة غير الضارة لمجرد الأمان، مثل حارس أمن يمنع الجميع من دخول مبنى لأنهم قد يحملون شطيرة. ولحل هذه المشكلة، قام الباحثون بدمج بيانات حول القيم الإنسانية العامة (من مسح القيم العالمي) لمساعدة الروبوتات على إيجاد التوازن. وأظهرت النتائج أن هذا المزيج ساعد الروبوتات على أن تصبح أكثر أمانًا دون أن تصبح مهووسة بالشك (بارانويا).
باختصار، تشير هذه الورقة إلى أن تعليم الذكاء الاصطناعي أن يكون آمنًا ثقافيًا لا يقتصر فقط على تغذيته بمزيد من الحقائق. بل يتعلق الأمر بتدريبه على التعرف على الألغام الاجتماعية الخفية في المحادثات اليومية، والتصرف بقدر مناسب من الحذر، بغض النظر عن اللغة التي يتم التحدث بها. يعترف المؤلفون بأن معيارهم الجديد، CulShield، ليس مثاليًا بعد — فهو لا يغطي كل ثقافة على وجه الأرض — ولكنه خطوة أولى حاسمة في مساعدة ضيوفنا الرقميين على تعلم قواعد حفلة العشاء العالمية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.