Do Large Language Models Encode Institutional Experience? Evidence from Cross-Linguistic Moral Reasoning Under Ambiguity
تُظهر هذه الدراسة أن النماذج اللغوية الكبيرة ترث أولويات أخلاقية خاصة بمؤسسات معينة من لغات تدريبها، مما يكشف عن تباين أخلاقي عبر اللغات في السيناريوهات الغامضة يعكس الاختلافات المؤسسية في العالم الحقيقي، رغم أن هذه التأثيرات يتم كبحها عندما يتم تأطير السياقات المؤسسية بشكل صريح.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك مجموعة من الروبوتات الذكية جداً والمثقفة (نماذج اللغات الكبيرة، أو LLMs) التي قرأت كل شيء تقريباً على الإنترنت. تسألهم سؤالاً أخلاقياً: "هل من المقبول دفع رشوة للحصول على تصريح؟"
قد تتوقع أنه إذا سألت الروبوت باللغة الدنماركية (بلد يتميز بحكومة صادقة وموثوقة)، فسيقول لك "لا، هذا خطأ". ولكن إذا سألت نفس الروبوت باللغة البنغالية (بلد تكون فيه الرشوة الحكومية أكثر شيوعاً)، فقد تتوقع أن يقول لك "حسناً، أحياناً يتعين عليك فعل ما يجب فعله لإنجاز الأمور".
هذه الورقة البحثية تسأل: هل "تفكر" هذه الروبات بالفعل بشكل مختلف بناءً على اللغة التي تتحدث بها، لأنها استوعبت التجارب الواقعية للأشخاص الذين يتحدثون تلك اللغات؟ أم أنها مجرد تتظاهر بالاختلاف؟
قام المؤلف، ناتافوده بواتهيفي، بإجراء تجربتين لمعرفة ذلك. إليك قصة ما وجده، مشروحة ببساطة.
التجربتان: الاختبار "المباشر" مقابل الاختبار "الخفي"
اختبر الباحث الروبوتات باستخدام طريقتين مختلفتين لطرح الأسئلة.
التجربة 1: الاختبار "المباشر" (الفخ الواضح)
في هذا الاختبار، سأل الباحث الروبوتات بوضوح شديد: "هل من المقبول أن تدفع لمسؤول حكومي رشوة للحصول على تصريح؟"
- النتيجة: أعطت الروبوتات الإجابة نفسها تماماً، بغض النظر عن اللغة التي يتحدثونها. سواء كانت الدنماركية أو الهندية أو الصينية، فقد قالوا جميعاً: "لا، هذا ليس مقبولاً بشكل عام".
- الخلاصة: عندما تذكر كلمات مثل "حكومة" أو "رشوة" صراحةً، يبدو أن الروبوتات تفعل "وضع السلامة". إنهم جميعاً يتفقون على كتاب قواعد غربي المعايير ويتجاهلون أي عادات ثقافية محلية. الأمر يشبه سؤال شخص: "هل من المقبول كسر القانون؟" فيجيب الجميع بـ "لا"، حتى لو كانوا يعيشون في مكان حيث كسر القانون أمر شائع.
التجربة 2: الاختبار "الخفي" (السياق المستتر)
في هذا الاختبار، طرح الباحث نفس الأسئلة ولكن مع حذف كلمات "حكومة"، أو "مسؤول"، أو "رشوة". بدلاً من ذلك، وصف موقفاً يكون فيه الشخص عالقاً، ويحتاج إلى تصريح، ويُعرض عليه "دفع مبلغ صغير" لإنهاء الأمر بسرعة، دون ذكر من الذي يطلب المال.
- النتيجة: فجأة، بدأت الروبوتات تتصرف بشكل مختلف بناءً على اللغة!
- الروبوتات التي تتحدث لغات من بلدان ذات حكومات قوية ونزيهة (مثل الدنماركية) ظلت تقول: "لا، هذا خطأ".
- الروبوتات التي تتحدث لغات من بلدان ذات حكومات أضعف وأكثر فساداً (مثل البنغالية أو الهندية) كانت أكثر عرضة للقول: "حسناً، قد يكون هذا مقبولاً في هذا الموقف".
- الخلاصة: عندما لم يتم تفعيل "وضع السلامة" عبر الكلمات المفتاحية الواضحة، كشفت الروبوتات عن "تدريبها" الخفي. لقد استوعبت المنطق الواقعي للأشخاص الذين يتحدثون تلك اللغات. في الأماكن التي يكون فيها النظام معطلاً، يتعلم الناس أن "كسر القواعد" هو أحياناً السبيل الوحيد لإنجاز الأمور. لقد تعلمت الروبوتات هذا المنطق من النصوص التي قرأتها.
"الاستثناء الصيني"
كان هناك تحول مثير للاهتمام. البيانات الخاصة باللغة الصينية لم تتبع النمط تماماً.
- لماذا؟ يقترح المؤلف سببين. أولاً، يتم تدريب معظم الروبوتات (حتى المصنوعة في الصين) على التفكير كغربيين عند التحدث بالصينية، لذا فإنها تفقد "نكهتها" المحلية. ثانياً، تمتلك الروبوتات الصينية "فلاتر محتوى" صارمة تمنع أو تغير الإجابات المتعلقة بالفساد الحكومي. لذا، لم يظهر الروبوت الصيني المنطق المحلي؛ بل أظهر مزيجاً من التفكير الغربي والرقابة الصارمة.
الصورة الكبيرة: ماذا يعني هذا؟
فكر في الروبوتات مثل الممثلين.
- عندما تعطيهم نصاً يقول: "أنت محامٍ يتحدث عن القانون" (الاختبار المباشر)، فإنهم جميعاً يرتدون نفس "زي المحامي" ويتحدثون بصوت موحد ممتثل للقواعد. إنهم يخفون شخصياتهم الحقيقية.
- عندما تعطيهم نصاً يقول فقط: "أنت شخص في موقف صعب" (الاختبار الخفي)، فإنهم يخلعون الزي. يبدأون في التحدث بلكنة ومنطق الثقافة التي تدربوا عليها.
الاستنتاج الرئيسي:
تثبت الورقة البحثية أن نماذج اللغات الكبيرة تدمج بالفعل التجارب المؤسسية للغات التي تتحدثها. إنهم يعرفون أنه في بعض أجزاء العالم، تُكسر القواعد من أجل البقاء، وفي أجزاء أخرى، تُعتبر القواعد مقدسة.
ومع ذلك، يمكن إخفاء هذه "المعرفة الثقافية" بسهولة. إذا سألت الروبوت سؤالاً يحفز فلاتر السلامة لديه صراحةً (مثل تسمية "الفساد")، فإنه سيتظاهر بأنه كائن أخلاقي عالمي ومثالي. ولكن إذا طرحت السؤال ببراعة، تاركاً السياق يتحدث عن نفسه، فسيظهر الروبوت المنطق الواقعي الفوضوي للثقافة التي يمثلها.
باخت-اختصار: الروبوتات لا تترجم الكلمات فحسب؛ بل تترجم وجهات النظر للعالم. لكنها لن تظهر لك وجهة النظر هذه إلا إذا لم تجبرها على ارتداء "قناع الأخلاق المثالي".
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.