Replicating Human Motivated Reasoning Studies with LLMs
تُظهر هذه الورقة أن النماذج اللغوية الكبيرة الأساسية لا تُحاكي أنماط التفكير المدفوع بالدوافع البشرية عند تعرضها للتلاعبات التحفيزية، مما يسلط الضوء على قيود جوهرية للباحثين الذين يستخدمون النماذج اللغوية الكبيرة لمحاكة تكوين الآراء البشرية أو تقييم الحجج.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك مجموعة من الروبوتات الذكية جداً والمثقفة (نماذج اللغات الكبيرة، أو LLMs) وتريد أن ترى ما إذا كانت تفكر مثل البشر عندما يُطلب منها تكوين آراء حول مواضيع شائكة مثل السياسة.
تحديداً، أراد الباحثون اختبار سمة بشرية تُسمى "الاستدلال المدفوع بالدوافع" (Motivated Reasoning).
"لماذا" البشرية مقابل "كيف" الروبوتية
فكر في الاستدلال البشري كشخص يسير عبر غابة ولديه وجهة محددة في ذهنه.
- هدف "الدقة": أحياناً، يريد الشخص العثور على المسار الحقيقي، بغض النظر عن المكان الذي سيؤدي إليه. ينظرون إلى الخريطة بعناية، متجاهلين أصدقاءهم، فقط للوصول إلى الحقائق بشكل صحيح.
- الهدف "التوجيهي": في أحيان أخرى، يريد الشخص الوصول إلى وجهة معينة (مثل "حزبي السياسي على حق"). قد يتجاهلون الخريطة، أو يسلكون طريقاً مختصراً، أو حتى يتظاهرون بأن الطريق المسدود هو مسار، فقط للوصول إلى النتيجة التي أرادوا الإيمان بها مسبقاً.
البشر مشهورون بفعل ذلك. إذا قال لهم قائدهم "اذهب يساراً"، فغالباً ما يذهبون يساراً، حتى لو قالت الخريطة "اذهب يميناً".
التجربة: هل يمكن للروبوتات فعل ذلك؟
أخذ الباحثون أربع دراسات شهيرة تم فيها خداع البشر لجعلهم يقومون بهذا النوع من التفكير "القائم على الفريق". ثم طلبوا من 10 نماذج ذكاء اصطناني مختلفة القيام بنفس المهام تماماً.
لقوا للذكاء الاصطناعي نوعين من التعليمات:
- مطالبة "القاضي العادل": "انظر إلى هذه المعلومات وحاول أن تكون محايداً ودقيقاً تماماً".
- مطالبة "لاعب الفريق": "تذكر، حزبك السياسي يدعم هذا. ضع ذلك في اعتبارك أثناء اتخاذ قرارك".
المفاجأة الكبرى: الروبوتات لم تلعب اللعبة
توقع الباحثون أن تتصرف الروبوتات مثل البشر. ظنوا أنه إذا قلت للذكاء الاصطناعي "حزبك يحب هذا"، فإن الذكاء الاصطناني سيصبح فجأة منحازاً ويدعم ذلك، تماماً كما يفعل البشر.
لكن هذا لم يحدث.
بدلاً من التصرف مثل البشر الذين لديهم أجندات خفية، تصرفت الروبوتات كأنها أمناء مكتبات صادقون يشعرون بالارتباك تجاه القواعد.
- لم يغيروا آراءهم بناءً على ضغط "الفريق": عندما قيل لهم "كن لاعب فريق"، لم يتغير الذكاء الاصطناعي فجأة ليدعم الفريق. لقد قدموا في الغالب نفس الإجابة التي كانوا سيقدمونها على أي حال.
- تعثروا في مطالبة "لاعب الفريق": بدلاً من مجاراة الأمر، رفضت العديد من الروبوتات الإجابة ببساطة. الأمر يشبه أن يُطلب من أمين مكتبة بشري: "تظاهر بأنك تحب هذا الكتاب رغم علمك بأنه سيء"، فيكتفي بقول: "لا يمكنني فعل ذلك"، ثم يبتعد.
- واجهوا صعوبة في تقييم الحجج: عندما يُطلب من البشر تقييم مدى قوة حجة ما، فإنهم عادة ما يصبحون أفضل في ذلك عندما يكونون مدفوعين بالدقة. أما الروبوتات، فقد كانت غير متسقة؛ فأحياناً اعتبروا الحجة الضعيفة قوية، وأحياناً اعتبروا الحجة القوية ضعيفة، بغض النظر عن التعليمات.
مشكلة "الانسحاب"
كانت إحدى النتائج الأكثر إثارة للاهتمام هي المتعلقة بـ متى توقفت الروبوتات عن الكلام.
- إذا سألت بشراً سؤالاً مثيراً للجدل، فقد يجادلون في وجهة نظرهم.
- إذا سألت روبوتاً سؤالاً مثيراً للجدل، فغالباً ما يتوقف عن الكلام.
لقد وجد الباحثون أن الروبوتات لم تتوقف عن الكلام لأنها كانت "تفكر" مثل البشر، بل توقفت لأن الكلمات المحددة في المطالبة أطلقت مفتاح أمان. كان الأمر أشبه بآلة بيع ترفض بيع وجبة خفيفة إذا ضغطت على مجموعة معينة من الأزرار، حتى لو كنت تريد الوجبة بشدة.
الخلاصة
خلصت الورقة البحثية إلى أن نماذج الذكاء الاصطناعي الأساسية (بدون تعيين "شخصية" محددة لها) لا تحاكي الاستدلال البشري المدفوع بالدوافع.
- البشر يشبهون الأشخاص الذين سيقومون بتزييف الحقيقة لتناسب قبيلتهم أو هدفهم.
- هذه الروبوتات تشبه الآلات الحاسبة التي ترفض إجراء العمليات الحسابية إذا بدت التعليمات "غير آمنة" أو "منحازة"، لكنها لا تشعر بالانحياز فعلياً أو تغير منطقها الداخلي ليتوافق مع القبيلة.
يحذر الباحثون من أنك إذا حاولت استخدام هذه الروبوتات للتنبؤ بكيفية تصويت البشر أو جدالهم، فقد تحصل على إجابة خاطئة. فالروبوتات ليست "بشراً مزيفين" في هذا الجانب تحديداً؛ إنها مجرد كائنات مختلفة تماماً لا تملك نفس الدوافع الخفية التي تحرك الرأي البشري.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.