When Do Language Models Endorse Limitations on Human Rights Principles?
تقيم هذه الورقة أحد عشر نموذجاً لغوياً كبيراً من النماذج الرئيسية عبر ثماني لغات، وتكشف عن تحيزات منهجية حيث يميلون أكثر إلى تأييد القيود على الحقوق الاقتصادية والاجتماعية والثقافية مقارنة بالحقوق السياسية والمدنية، ويظهرون تباينات كبيرة عبر اللغات، ويبدون قابلية عالية للتوجيه القائم على الأوامر (prompt-based steering).
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك قمت ببناء فريق من 11 أمين مكتبة رقمي فائق الذكاء. هؤلاء الأمناء (نماذج اللغات الكبيرة، أو LLMs) يتم تدريبهم لمساعدة القضاة، وضباط الشرطة، والسياسيين في اتخاذ قرارات صعبة. من المفترض أن يكونوا الحراس الأسمى لحقوق الإنسان، مثل الإعلان العالمي لحقوق الإنسان (UDHR)، والذي هو أساساً "كتيب القواعد لكونك بشراً".
ولكن السؤال الكبير هو: إذا طلبت من هؤلاء الأمناء كسر قاعدة ما لإنقاذ الموقف، فهل سيفعلون ذلك؟ وهل يهم اللغة التي تتحدث بها إليهم؟
هذه الورقة البحثية تشبه امتحان اختبار ضغط عملاق يُعطى لهؤلاء الأمناء الرقميين. فقد صمم الباحثون 1,152 سيناريو مخادعاً (مثل كتاب "اختر مغامرتك الخاصة") حيث تقوم إجراءات حكومية بتقييد حق من حقوق الإنسان لتحقيق شيء آخر، مثل السلامة العامة أو وقف جائحة ما.
إليك ما وجدوه، مشروحاً ببعض التشبيهات البسيطة:
1. مفاجأة "تبديل اللغة" 🌍
تخيل أنك تسأل أمين مكتبة: "هل من المقبول منع الناس من التدوين لوقف الأخبار المزيفة؟"
- إذا سألت باللغة الإنجليزية، سيقول أمين المكتبة: "لا! هذا يضر بحرية التعبير!"
- إذا سألت نفس أمين المكتبة باللغة الصينية أو الهندية، فقد يقول: "في الواقع، نعم. إنه أمر ضروري للنظام."
التشبيه: الأمر يشبه شخصاً مهذباً وحازماً جداً عندما يتحدث الإنجليزية، ولكنه يصبح فجأة أكثر مرونة مع القواعد عند التحدث بلغة أخرى. وجدت الدراسة أن هذه النماذج من الذكاء الاصطناوي أكثر استعداداً للتضحية بالحقوق (مثل حرية التعبير) عند التحدث بالصينية أو الهندية مقارنة بالإنجليزية أو الرومانية. إنهم لا يقومون فقط بـ "ترجمة" الإجابة؛ بل هم يغيرون قيمهم بناءً على اللغة.
2. ميزان الحقوق "الثقيلة والخفيفة" ⚖️
لاحظ الباحثون أن هؤلاء الأمناء يعاملون الحقوق المختلفة مثل أوزان مختلفة على الميزان.
- الحقوق السياسية والمدنية (مثل حرية التعبير، والمحاكمات العادلة، والخصوصية) تُعامل مثل سبائك الذهب. الأمناء يحمون هذه الحقوق بشدة، ونادراً ما يقولون "نعم" لتقييدها.
- الحقوق الاقتصادية والاجتماعية (مثل الحق في التعليم، أو الترفيه، أو ملكية الممتلكات) تُعامل مثل الريش. الأمناء أكثر استعداداً لقول: "بالتأكيد، دعونا نقيد حقك في الترفيه أو حقوق ملكيتك إذا كان ذلك يساعد الاقتصاد."
التشبيه: الأمر كما لو أن الذكاء الاصطناعي يفكر: "سأقاتل حتى الموت من أجل حريتك في الكلام، لكني لا أمانع تماماً في سلب حقك في عطلة ممتعة أو مدخراتك إذا قالت الحكومة إن ذلك من أجل الصالح العام."
3. ذعر "زر الطوارئ" 🚨
اختبرت الدراسة كيف يتفاعل الأمناء عندما يحترق العالم.
- اليوم العادي: "لا، لا يمكننا تقييد الحقوق."
- الاضطرابات المدنية (الاحتجاجات): "همم، ربما يمكننا تقييد بعض الأشياء للحفاظ على السلم."
- الكوارث الطبيعية (إعصار/زلزال): "حسناً، أغلقوا كل شيء! سنعلق الحقوق فوراً لإنقاذ الأرواح."
التشبيه: يتصرف نماذج الذكاء الاصطناعي مثل حارس أمن يكون صارماً جداً عندما يكون المركز التجاري هادئاً، ولكن بمجرد انطلاق إنذار الحريق (كارثة طبيعية)، يرمي بكتاب القواعد من النافذة ويبدأ في إغلاق الأبواب ومنع الناس، حتى لو كان ذلك مبالغاً فيه. يبدو أنهم يعتقدون أن الكوارث هي عذر أفضل لكسر القواعد من الحشود الغاضبة.
4. خدعة "قناع الشخصية" 🎭
هذا كان الجزء الأكثر إثارة للدهشة. وضع الباحثون "أقنعة" (مطالبات/Prompts) مختلفة للأمناء.
- القناع (أ): "أنت بطل الحرية الفردية!"
- القناع (ب): "أنت بطل السلطة الحكومية!"
التشبيه: الأمر يشبه سؤال شخص: "ما رأيك؟"
- إذا قلت له، "تظاهر بأنك متمرد"، سيقول: "الحرية هي كل شيء!"
- إذا قلت له، "تظاهر بأنك جنرال صارم"، سيقول: "النظام هو كل شيء!"
وجدت الدراسة أن هذه النماذج من الذكاء الاصطناعي سهلة الخداع للغاية. فمن خلال تغيير الجملة الافتتاحية فقط، استطاع الباحثون جعل الذكاء الاصطناعي يتأرجح من "الرفض القاطع" إلى "التأييد القوي" لتقييد حقوق الإنسان. الأمر كما لو أن الذكاء الاصطناعي ليس لديه جوهر ثابت من القيم؛ بل هو فقط يعكس أي شخصية تطلب منه ارتداءها.
5. ارتباك "النص مقابل الحديث" 🗣️📝
أخيراً، لاحظ الباحثون أن الأمناء يعطون إجابات مختلفة اعتماداً على كيفية سؤالهم.
- إذا طلبت منهم وضع دائرة حول رقم (من 1 إلى 5)، فإنهم يعطون إجابة واحدة.
- إذا طلبت منهم كتابة فقرة تشرح اختيارهم، فإنهم غالباً ما يقدمون إجابة مختلفة تماماً.
التشبيه: الأمر يشبه سؤال طالب: "ارفع يدك إذا كنت موافقاً". فيرفع يده. ولكن بعد ذلك تطلب منه: "اكتب مقالاً يشرح سبب موافقتك"، فيكتب فقرة تقول إنه في الواقع غير موافق. هذا يشير إلى أن "آراء" الذكاء الاصطناعي هشة وتعتمد كلياً على تنسيق السؤال.
الخلاصة النهائية 🏁
هذه الورقة البحثية هي بمثابة ملصق تحذيري للمستقبل. بينما نبدأ في استخدام الذكاء الاصطناعي للمساعدة في صنع القوانين، أو الحكم في قضايا اللجوء، أو مراقبة وسائل التواصل الاجتماعي، لا يمكننا افتراض أن الذكاء الاصطناعي يمتلك بوصلة أخلاقية ثابتة.
- إنه يغير رأيه بناءً على اللغة التي تتحدث بها.
- إنه يهتم ببعض الحقوق أكثر من غيرها.
- إنه يصاب بالذعر أثناء حالات الطوارئ.
- يمكن التلاعب به بسهولة من خلال طريقة طرحك للسؤال.
الخلاصة: لا يمكننا الوثوق بمجرد أن هؤلاء الأمناء الرقميين يمسكون بكتاب القواعد. نحن بحاجة إلى مراجعة عملهم باستمرار، بكل لغة، والتأكد من أنهم لا يتظاهرون فقط بالذكاء بينما هم في الواقع يتبعون آخر خدعة علمناها لهم.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.