Persuasion with Large Language Models: A Survey of Empirical Evidence, Study Methodologies, and Ethical Implications
تستعرض هذه الدراسة الأدلة التجريبية التي تثبت قدرة النماذج اللغوية الكبيرة على تحقيق مستوى من الإقناع يضاهي البشر أو يتفوق عليهم في مجالات متنوعة، مع تحليل العوامل المنهجية التي تعزز هذه الفعالية ونقدها، وتسليط الضوء على المخاطر الأخلاقية والمجتمعية الملحة التي تشكلها على الاستقلالية والعدالة وسلامة المعلومات.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تسير في سوق ضخم وصاخب. لقرون مضت، كان الأشخاص الوحيدون الذين يحاولون إقناعك بشراء شيء ما، أو التصويت لمرشح، أو تغيير رأيك هم البشر. كانوا هم أصحاب المتاجر، والسياسيين، والجيران. كان عليهم أن يناموا، ويأكلوا، ولم يكن بإمكانهم التحدث إلى الجميع في وقت واحد.
ثم جاءت النماذج اللغوية الكبيرة (LLMs) — تخيلها كأنها روبوتات خارقة، لا تكل، وفائقة الذكادة يمكنها الكتابة، والتحدث، والدردشة مع أي شخص، في أي مكان، وفي أي وقت.
هذا البحث هو تقرير استقصائي (مراجعة شاملة للدراسات الحديثة) يطرح سؤالاً مخيفاً ولكنه مثير للاهتمام: ما مدى براعة هذه الروبوتات في إقناعنا؟
إليك تفصيل الأمر بكلمات بسيطة:
1. القوة الخارقة: "المُقنع اللانهائي"
قبل النماذج اللغوية الكبيرة، إذا أراد سياسي إقناع 1,000 شخص، كان عليه كتابة 1,000 رسالة مختلفة قليلاً أو توظيف 1,000 موظف.
- الطريقة القديمة: لوحة إعلانية عامة تقول "صوّت لي!" للجميع.
- الطريقة الجديدة: الروبوت يعرف اسمك، وفريقك الرياضي المفضل، ومخاوفك، وأحلامك. إنه يكتب رسالة فريدة لك وحدك، بأسلوبك الخاص، في الساعة الثالثة فجراً، ويستمر في الدردشة معك حتى توافق.
- النتيجة: يجد البحث أن هذه الروبوتات غالباً ما تكون ببراعة البشر في الإقناع، بل وتتفوق عليهم أحياناً. يمكنها مناقشة نقطة ما بمنطقية أو عاطفة تجعلك تغير رأيك بشكل أسرع مما قد يفعل البشر.
2. المقابض الخمسة في لوحة تحكم الروبوت
وجد الباحثون أن مدى "رعب" أو "فعالية" الروبوت يعتمد على خمسة إعدادات رئيسية (مثل مقابض الراديو):
- أسلوب المحادثة (التفاعل): هل يقوم الروبوت بمجرد صياغة رسالة من طرف واحد (مثل لوحة إعلانية)، أم أنه يخوض دردشة ذهاباً وإياباً؟
- تشبيه: اللوحة الإعلانية تشبه مكبر الصوت؛ أما الدردشة فتشبه الجار الودود. أحياناً تفوز الدردشة، ولكن من المثير للدهشة أن رسالة ثابتة مكتوبة جيداً يمكن أن تكون بنفس القوة.
- حجم الدماغ (حجم النموذج): هل يستخدم الروبوت دماغاً صغيراً وبسيطاً أم دماغاً ضخماً ومعقداً للغاية؟
- تشبيه: الأدمغة الأكبر تعني عادةً حججاً أفضل، ولكن بعد نقطة معينة، لا يساعد تكبير الدماغ كثيراً. الروبوت "الذكي" ذو الدماغ الأصغر، إذا تم تدريبه خصيصاً للإقناع، يمكنه هزيمة روبوت "عبقري" لم يتم تدريبه لهذا الغرض.
- علامة "أنا روبوت" (تسمية الذكاء الاصطناعي): هل يخبرك الروبوت أنه ذكاء اصطناعي؟
- تشبيه: إذا كنت تعتقد أن البائع إنسان، فأنت تثق به. إذا اكتشفت أنه روبوت، تصبح مرتاباً. تظهر الدراسة أنه إذا تم وسم الرسالة بأنها "مولدة بواسطة الذكاء الاصطناعي"، يقل احتمال تصديق الناس لها، حتى لو كانت الكلمات مثالية.
- النص (تصميم الأوامر/البرومبت): كيف نخبر الروبوت بما يجب أن يقوله؟
- تشبيه: إذا قلت للروبوت "كن رجلاً عجوزاً غاضباً"، سيبدو غاضباً. وإذا قلت له "كن طبيباً لطيفاً يعتمد على الحقائق"، سيبدو جديراً بالثقة. الطريقة التي نأمر بها (نوجه بها) الروبوت تغير كل شيء.
- اللمسة الشخصية (التخصيص): هل يعرف الروبوت أسرارك؟
- تشبيه: الروبوت الذي يعرف أنك تحب كلبك ويستخدم ذلك لبيع طعام الحيوانات الأليفة لك هو روبوت قوي. ومع ذلك، وجدت الدراسة أن رسالة عامة مكتوبة جيداً يمكن أن تعمل بنفس كفاءة الرسالة شديدة التخصيص. ولكن عندما تنجح هذه الطريقة، فإنها تكون فعالة للغاية.
3. أين تُستخدم هذه الروبوتات؟
نظر البحث في المجالات التي تعمل فيها هذه الروبوتات بالفعل:
- السياسة: كتابة الإعلانات الحملاتية، ومناظرة الناخبين، وحتى محاولة تغيير توجهاتك التصويتية.
- الصحة: محاولة إقناعك بالإقلاع عن التدخين، أو تناول الفيتامينات، أو التوقف عن تصفح الهاتف بشكل مفرط.
- التسوق: العمل كمساعد مبيعات يعرف بالضبط ما تريد شراءه.
- الأعمال الخيرية: الدردشة معك للحصول على تبرعات مالية.
- الأخبار المزيفة: هذا هو الجانب المظلم. يمكن للروبوتات كتابة قصص أخبار مزيفة تبدو حقيقية جداً لدرجة أنك لن تستطيع تمييز أنها ليست بشرية. كما يمكن استخدامها أيضاً لمحاربة الأخبار المزيفة عبر دحض الأكاذيب.
4. القلق الكبير: "فخ الثقة"
الجزء الأهم في البحث هو التحذير.
لأن هذه الروبوتات بارعة جداً في الإقناع، فهي تشكل خطراً كبيراً على مجتمعنا.
- تأثير "غرفة الصدى": تخيل روبوتاً لا يخبرك إلا بما تريد سماعه. إنه يعزز انحيازاتك ويجعلك أكثر تطرفاً في آرائك.
- مشكلة "الحقيقة": إذا استطاع الروبوت كتابة كذبة تبدو أكثر إقناعاً من الحقيقة، فكيف نعرف ما هو حقيقي؟
- خطر الخصوصية: لكي يكون الروبوت مقنعاً بهذا القدر، فإنه يحتاج لمعرفة أعمق أسرارك. إنه يشبه بائعاً قرأ مذكراتك الخاصة.
5. الخلاصة: نحن بحاجة إلى قواعد بسرعة
يخلص البحث إلى أننا نقف على حافة منحدر.
- الجانب الجيد: يمكن لهذه الأدوات مساعدتنا في اتخاذ خيارات صحية أفضل، وشراء منتجات أفضل، وإجراء نقاشات أفضل.
- الجانب السيئ: يمكن استخدامها للتلاعب بالانتخابات، ونشر الأكاذيب، وسرقة خصوصيتنا على نطاق واسع.
الاستعارة النهائية:
تخيل أننا اخترعنا للتو عصا سحرية يمكنها تغيير عقل أي شخص فوراً.
- إذا أمسك بها شخص طيب، يمكنه علاج الأمراض وإيقاف الحروب.
- وإذا أمسك بها شخص سيء، يمكنه إشعال الحروب وتدمير الديمقراطيات.
في الوقت الحالي، نحن نملك العصا السحرية (النماذج اللغوية الكبيرة)، لكننا لا نملك قواعد السلامة (القوانين والأخلاقيات) لمنع الأشخاص السيئين من استخدامها. المؤلفون يقولون: "نحن بحاجة إلى كتابة كتاب القواعد قبل أن تقع العصا في الأيدي الخطأ."
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.