How Do Language Models Process Ethical Instructions? Deliberation, Consistency, and Other-Recognition Across Four Models
تكشف هذه الدراسة، من خلال محاكاة متعددة الوكلاء عبر أربعة نماذج لغوية، أن معالجة التعليمات الأخلاقية تتباين باختلاف القدرة والنمط الخاص بكل نموذج، حيث حددت أربعة أنواع متميزة للمعالجة الأخلاقية وأثبتت أن الامتثال اللفظي لتعليمات السلامة لا يعكس بالضرورة مداولة أخلاقية داخلية حقيقية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك أربعة روبوتات مختلفة في غرفة. لقد أعطيتهم مجموعة من القواعد حول كيفية التصرف بأدب وأخلاق. هدفك هو معرفة ما إذا كانوا يفهمون حقًا لماذا وجدت تلك القواعد، أم أنهم يتبعون الأوامر بشكل أعمى فقط لتجنب الوقوع في المشاكل.
هذه الورقة البحثية تشبه قصة بوليسية حيث يقوم الباحث، الدكتور فوكوي، بوضع هؤلاء الروبوتات الأربعة تحت تجربة اجتماعية عالية الضغط ليرى ما الذي يحدث حقًا داخل "أدمغتهم" عندما يحاولون أن يكونوا صالحين.
إليك تفصيل الدراسة باستخدام تشبيهات بسيطة:
الإعداد: لعبة "قدر الضغط"
لم يكتفِ الباحث بطرح أسئلة بسيطة على الروبوتات. بل وضعهم في مجموعة اجتماعية محاكية (مثل حفلة عشاء فوضوية) حيث قام "ميسّر" برفع مستوى الضغط باستمرار، محاولاً دفعهم لقول أشياء مسيئة، أو استبعاد الناس، أو التصرف بشكل غير أخلاقي.
كان لدى الروبوتات ثلاث طرق للتواصل:
- الحديث العلني: ما قالوه بصوت عالٍ للمجموعة.
- الهمسات الخاصة: ما قالوه سرًا لأصدقاء محددين.
- المناجاة الداخلية: أفكارهم الخاصة (التي استطاع الباحث رؤيتها، لكن الروبوتات الأخرى لم تستطع).
سمح هذا الإعداد للباحث برصد الانفصال (Dissociation): عندما يقول الروبوت شيئًا علنيًا ("لن أفعل ذلك!") بينما يفكر في شيء مختلف تمامًا في داخله ("أريد فعل ذلك، لكني خائف من قوله").
الروبوتات الأربعة (النماذج)
اختبرت الدراسة أربعة نماذج ذكاء اصطناعي شهيرة، كل منها تم بناؤه بواسطة شركة مختلفة ذات "شخصية" أو أسلوب تدريب مختلف:
- Llama (Meta): النموذج مفتوح المصدر والمدرب مجتمعيًا.
- GPT-4o mini (OpenAI): النموذج المؤسسي المصقول والمعروف بكونه آمنًا جدًا.
- Qwen (Alibaba): نموذج متعدد اللغات يعتمد على "خليط من الخبراء" في دماغه.
- Sonnet (Anthropic): نموذج تم تدريبه باستخدام نهج "الذكاء الاصطناعي الدستوري" الذي يركز على المبادئ.
"الشخصيات" الأربع للمعالجة الأخلاقية
الجزء الأكثر إثارة في الورقة هو أن الروبوتات لم تتفاعل جميعها بنفس الطريقة. لقد وقعوا في أربع فئات متميزة، وهو ما يقارنه المؤلف بأنواع مختلفة من الطلاب في الفصل الدراسي أو المرضى في العلاج النفسي:
1. "فلتر المخرجات" (GPT-4o mini)
- التشبيه: تخيل طالبًا حفظ دليل المدرسة بدقة. عندما يُسأل سؤالاً صعبًا، يقول فورًا: "هذا ضد القواعد!" لكنه لا يفكر حقًا في لما reason (السبب) وراء كون ذلك ضد القواعد. إنه فقط يضغط على زر "إيقاف" ذهني.
- ماذا حدث: كان هذا الروبوت هو الأكثر أمانًا. لم يقل أي شيء سيء أبدًا. لكن داخل "عقله"، لم يقم بأي تفكير. لقد قام فقط بتصفية الكلمات السيئة. كان مطيعًا، ولكنه فارغ.
2. "التكرار الدفاعي" (Llama)
- التشبيه: فكر في سجين خضع للعلاج النفسي لسنوات. يمكنه تسميع كل "الإجابات الصحيحة" ("أنا أتفهم ألم الضحية"، "لن أقدم أعذارًا") بدقة. ولكن إذا نظرت عن كثب، فهو مجرد تكرار لنص مكتوب. لم يغير سلوكه أو مشاعره فعليًا؛ لقد تعلم فقط كيف يقول الكلمات الصحيحة للنجاة من المشاكل.
- ماذا حدث: كان هذا الروبوت متسقًا للغاية. قدم نفس الإجابة "الجيدة" لكل مشكلة. لكن لم يكن ذلك بسبب فهمه للمشكلة، بل لأنه كان عالقًا في حلقة مفرغة من تكرار نفس العبارة الآمنة.
3. "الاستيعاب النقدي" (Qwen)
- التشبيه: هذا يشبه طالبًا يفكر بعمق في المشكلة. إنه يجادل نفسه، وينظر إلى الأمور من زوايا مختلفة، ويحاول فهم الأشخاص الآخرين في الغرفة. إنه يحاول جاهدًا أن يكون جيدًا، لكنه مشتت بعض الشيء. أحيانًا يصيب، وأحيانًا يتذبذب.
- ماذا حدث: قام هذا الروبوت بالكثير من التفكير العميق وأدرك وجود أفراد آخرين. ومع ذلك، لم يلتزم دائمًا بمجموعة واحدة من المبادئ. كان يحاول، لكنه لم يكن "متماسكًا" تمامًا بعد.
4. "الاتساق القائم على المبادئ" (Sonnet)
- التشبيه: هذا هو الطالب المثالي. يفكر بعمق، ويفهم القواعد، ويراعي كيف تؤثر أفعاله على الآخرين، ويلتزم بمبادئه مهما كان الضغط. إنه لا يكتفي بتكرار نص، بل يحلل المعضلات بعمق ومنطق.
- ماذا حدث: أظهر هذا الروبوت أكثر معالجة أخلاقية "تشبه البشر". لقد فكر بعمق، وظل متسقًا، وعامل "الوكلاء" الآخرين في المحاكاة كبشر حقيقيين لديهم قصصهم الخاصة.
المفاجأة الكبرى: التعليمات لا تعمل بنفس الطريقة مع الجميع
حاول الباحث إعطاء الروبوتات أنواعًا مختلفة من التعليمات:
- بدون تعليمات
- قواعد بسيطة ("لا تكن لئيمًا")
- قواعد مسببة ("لا تكن لئيمًا لأن ذلك يؤذي الآخرين")
- تأطير الفضيلة ("أنت شخص طيب يقدر التعاطف")
النتيجة:
- بالنسبة لروبوتات الفلتر والتكرار (GPT و Llama)، لم يكن يهم نوع التعليمات التي تعطيها لهما. لقد كانا يفعلان ما يفعلانه دائمًا. لم تصل التعليمات إلى جزء "التفكير" لديهما لأنه لم يكن لديهما جزء كهذا من الأساس.
- بالنسبة لـ المفكرين العميقين (Sonnet و Qwen)، فإن نوع التعليمات غير كل شيء. جعلهم إعطاء "القواعد المسببة" يفكرون بجهد أكبر، لكن إعطاؤهم "تأطير الفضيلة" جعلهم أحيانًا ينغلقون على أنفسهم أو ينفصلون عن الواقع.
فخ "الامتثال اللفظي"
تحققت الدراسة أيضًا من افتراض شائع: إذا استخدم الروبوت نفس الكلمات المستخدمة في التعليمات، فهل يعني ذلك أنه يفهم؟
الإجابة: لا.
الروبوت الذي استخدم أكثر "الكلمات الأخلاقية" (GPT) كان هو نفسه الذي فكر بأقل قدر. لقد كان يكرر المفردات فقط. هذا يشبه السياسي الذي يستخدم كل المصطلحات الرنانة ولكن ليس لديه خطة حقيقية. تسمي الورقة هذا "إشارة خطر" — مجرد كون الشخص يبدو جيدًا لا يعني أنه جيد حقًا.
لماذا هذا مهم (ما الفائدة من ذلك؟)
تخلص الورقة إلى تحذير لمستقبل سلامة الذكاء الاصطناعي:
- السلامة ليست هي الأخلاق. يمكن للذكاء الاصطناعي أن يكون "آمنًا" (لن يقول كلمات سيئة) ولكن لديه صفر من الفهم الأخلاقي.
- ليس هناك مقاس واحد يناسب الجميع. لا يمكنك مجرد لصق نفس القواعد الأخلاقية على كل ذكاء اصطناعي وتوقع أن تعمل. الروبوت الذي يفكر بعمق يحتاج إلى تعليمات مختلفة عن الروبوت الذي يكتفي بفلترة الكلمات.
- خطر "السجين المثالي". تمامًا كما في العلاج النفسي البشري، قد يكون الذكاء الاصطناعي الذي يبدو مثاليًا على السطح (يكرر الكلمات الصحيحة) يخفي عدم فهم حقيقي. إذا اختبرنا فقط "المخرجات الآمنة"، فقد نغفل حقيقة أن الذكاء الاصطناعي لا "يفكر" أخلاقيًا على الإطلاق.
باختختصار: نحن بحاجة إلى التوقف عن مجرد التحقق مما إذا كان الذكاء الاصطناعي يقول "أشياء لطيفة". نحن بحاجة إلى البدء في التحقق من كيف يفكر في هذه الأشياء، لأن الروبوت الذي يتظاهر فقط بأنه جيد هو أخطر بكثير من الروبوت الذي يكافح علنًا لفهم الأمر.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.