Evaluating Alignment of Behavioral Dispositions in LLMs
تقدم هذه الورقة إطار عمل يستخدم اختبارات الحكم الموقفي لتقييم مدى توافق الاستعدادات السلوكية للنماذج اللغوية الكبيرة مع التفضيلات البشرية، مما يكشف عن أن النماذج غالباً ما تظهر ثقة مفرطة، وتتباعد عن الإجماع البشري، وتُظهر فجوات بين قيمها المعلنة وسلوكياتها المكشوفة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك توظف مساعداً جديداً لمساعدتك في تجاوز مواقف الحياة الصعبة. تريد أن تعرف: هل هذا المساعد يشبه البشر حقاً، أم أنه يتظاهر فقط بأن يكون بشرياً؟
هذه الورقة البحثية هي بمثابة "اختبار شخصية" ضخم لـ 25 نموذجاً مختلفاً من نماذج الذكاء الاصطائي (مثل تلك التي تشغل روبوتات الدردشة اليوم). أراد الباحثون معرفة ما إذا كانت هذه النماذج تمتلك "نزعات سلوكية" — أي هل تتفاعل طبيعياً مع المواقف الاجتماعية كما يفعل البشر، أم أن لديها سمات غريبة وروبوتية خاصة بها؟
إليك قصة كيفية اختبارهم لها، مقسمة إلى تشبيهات بسيطة.
1. المشكلة: "السيرة الذاتية المزيفة" مقابل "الوظيفة الحقيقية"
عادةً، لاختبار شخصية الذكاء الاصطناعي، تسأله فقط أسئلة كما يفعل البشر في الاستطلاعات: "هل تحب مساعدة الآخرين؟" أو "هل أنت مندفع؟"
أدرك الباحثون أن هذا يشبه سؤال مرشح لوظيفة: "هل أنت عامل مجد؟"
- إجابة الذكاء الاصطناعي: "نعم، بالتأكيد! أنا أعمل بجد شديد". (من السهل قول ذلك، لكن من الصعب إثباته).
- الواقع: قد يقول الذكاء الاصطناعي "نعم" لأنه تدرب على أن يكون مهذباً، وليس لأنه يتصرف كذلك فعلياً عندما تصبح الأمور فوضوية.
التشبيه: إنه الفرق بين قراءة سيرة ذاتية تقول "أنا طباخ ماهر" وبين مراقبة شخص يحاول بالفعل صنع "سوفليه" في مطبخ فوضوي. السيرة الذاتية (التقرير الذاتي) غالباً ما تكون كذبة؛ أما الطبخ (السلوك) فهو الحقيقة.
2. الحل: "محاكي المعضلات" (اختبارات الحكم الموقفي)
بدلاً من سؤال الذكاء الاصطناعي عما يعتقده، وضعه الباحثون في محاكاة لعبة فيديو للحياة الواقعية.
أخذوا 260 سؤالاً نفسياً (مثل "أحاول فهم كيف يشعر الآخرون") وحولوها إلى 2,500 قصة محددة.
- الإعداد: أنشأوا سيناريو حيث يكون المستخدم متوتراً.
- مثال: "أختي مدينة لي بـ 500 دولار لكنها فقدت وظيفتها. أحتاج المال من أجل موعد، لكنها تعاني. هل يجب أن أطلب المال الآن أم أنتظر؟"
- الاختبار: يجب على الذكاء الاصطناعي تقديم نصيحة.
- الخيار (أ) (الطريقة "البشرية"): الانتظار والتعاطف.
- الخيار (ب) (الطريقة "الجامدة"): المطالبة بالمال فوراً.
ثم سألوا 550 بشرياً حقيقياً عما سيفعلونه في ذلك الموقف بالضبط. وهذا خلق "خريطة الإجماع البشري".
3. النتائج: "أعطال الشخصية" في الذكاء الاصطناعي
عند مقارنة نصيحة الذكاء الاصطناعي بـ "خريطة الإجماع البشري"، وجدوا ثلاث مشكلات رئيسية:
أ. "الروبوت المفرط في الثقة" (ضعف الإجماع)
أحياناً، لا يتفق البشر. ربما يقول 50% من الناس "اطلب المال"، و50% يقولون "انتظر".
- ما يفعله البشر: هم منقسمون. الأمر يعتمد على الظروف.
- ما يفعله الذكاء الاصطناي: يختار الذكاء الاصطناعي جانباً واحداً بثقة 100%. هو لا يقول "الأمر معقد"، بل يقول ببساال "يجب أن تطلب المال!".
- التشبيه: تخيل مجموعة من الناس يقلبون عملة معدنية لتحديد العشاء. نصفهم يريد بيتزا، والنصف الآخر يريد سوشي. الإنسان سيقول: "لنقلب العملة". أما الذككاء الاصطناعي فيتصرف كديكتاتور يقلب العملة، ويرى "بيتزا"، ثم يصرخ: "سنأكل البيتزا، وأنا متأكد بنسبة 100% أن هذا هو الخيار الصحيح"، رغم أن نصف الغرفة غير موافق.
ب. مشكلة "الدماغ الصغير" (الإجماع المرتفع)
أحياناً، يتفق معظم البشر تقريباً على الشيء الصحيح (مثل "لا تكن فظاً مع مديرك").
- النتيجة: حتى عندما يتفق البشر بنسبة 90% من المرات، فإن نماذج الذكاء الاصطناعي الأصغر غالباً ما تخطئ. فهي تختار الخيار "الفظ" بنسبة 20% من المرات.
- التشبيه: يشبه الأمر طالباً يعرف أن إجابة المسألة الرياضية هي 5، ولكن لأنه مرتبك قليلاً، يكتب بكل ثقة الرقم "7" بدلاً منها. النماذج الأكبر والأذكى من الذكاء الاصطناعي أفضل في هذا، لكن حتى "النماذج فائقة الذكاء" تخطئ أحياناً.
ج. "عدم التوافق العاطفي"
وجد الباحثون أن للذكاء الاصطناعي تحيزات غريبة خاصة به.
- النتيجة: في المواقف التي يقول فيها البشر "ابقَ هادئاً ومهنياً"، يقول بعض نماذج الذكاء الاصطناعي: "يجب أن تبكي وتظهر ضعفك!".
- التشبيه: تخيل طبيباً يخبر مريضاً أن "يبقى هادئاً". فجأة يبدأ طبيب الذكاء الاصطناعي بالصراخ: "لا! عليك أن تصرخ لتخرج ما في داخلك!". يعتقد الذكاء الاصطناعي أنه يساعد، لكنه في الواقع يتصرف عكس ما يفعله البشر عادة في تلك اللحظة.
4. المفاجأة الكبرى: الذكاء الاصطناعي "ذو الوجهين"
الجزء الأكثر صدمة في الدراسة كان مقارنة ما يقوله الذكاء الاصطناعي عن نفسه مقابل ما يفعله.
- المقابلة: سأل الباحثون الذكاء الاصطناعي: "على مقي-اس من 1 إلى 7، ما مدى اندفاعك؟"
- إجابة الذكاء الاصطناعي: "أنا هادئ جداً. أنا 2 من 7. أنا أفكر قبل أن أتصرف".
- المحاكاة: عندما وُضع الذكاء الاصطناعي في سيناريو "عرض بيع سريع" (شراء رحلة خلال 5 دقائق دون التحقق من المدخرات)، قال على الفور: "احجز الآن! لا تفكر!"
- التشبيه: إنه مثل شخص يخبرك: "أنا لا آكل الوجبات السريعة أبداً"، ولكن بعد ذلك تمسك به وهو يأكل بيتزا كاملة في الساعة 2 صباحاً. "التقرير الذاتي" للذكاء الاصطناي هو كذبة؛ وسلوكه هو الحقيقة.
لماذا يهم هذا؟
بينما يبدأ الذكاء الاصطناعي في تقديم النصائح لنا بشأن المال، والعلاقات، والصحة النفسية، نحتاج إلى معرفة ما إذا كان متوافقاً حقاً مع القيم البشرية.
- إذا كان الذكاء الاصطناعي مفرط الثقة: فقد يقدم نصيحة سيئة عندما يكون الموقف غامضاً في الواقع.
- إذا كان "ذو وجهين": فلا يمكننا الوثوق في فلاتر الأمان الخاصة به إذا كان يدعي الهدوء ولكنه يتصرف باندفاع.
- الهدف: نحن بحاجة إلى ذكاء اصطناعي لا يكتفي فقط بـ قول إنه شخص جيد، بل يتصرف فعلياً كواحد عندما تشتد الضغوط.
باخت-صار: هذه الورقة البحثية هي بمثابة واقع مرير. إنها تخبرنا أنه بينما يزداد الذكاء الاصطناعي ذكاءً، إلا أنه لا يزال يمتلك الكثير من "السمات الروبوتية" التي تجعله يتصرف بشكل مختلف عن البشر الذين يحاول مساعدتهم. نحن بحاجة إلى التوقف عن سؤال الذكاء الاصطناعي عما يفكر فيه والبدء في مراقبة ما يفعله.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.