Eroding the Truth-Default: A Causal Analysis of Human Susceptibility to Foundation Model Hallucinations and Disinformation in the Wild
تقدم هذه الورقة إطار عمل ثنائي المحاور (JudgeGPT وRogueGPT) وتوظف النماذج السببية الهيكلية لتوضيح أن قابلية البشر للتأثر بهلوسة النماذج التأسيسية مدفوعة بالألفة مع الأخبار المزيفة و"فخ الطلاقة" للنصوص الاصطناعية عالية الجودة أكثر من توجهها السياسي، مما يشير إلى أن التدخلات الفعالة يجب أن تستهدف مراقبة المصدر المعرفي بدلاً من التقسيم الديموغرافي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
🕵️♂️ الصورة الكبيرة: فخ "أجمل من أن يكون حقيقياً"
تخيل أنك تسير في غابة. لآلاف السنين، تعلمت كيفية تمييز التوت المزيف من خلال النظر إلى لونه وملمسه. ولكن الآن، قام شخص ما باختراع توت بلاستيكي مثالي. يبدو تماماً مثل التوت الحقيقي، ورائحته مثله، وحتى ملمسه مثله. لا يمكنك التمييز بينهما بمجرد النظر.
هذا هو بالضبط موضوع هذه الورقة البحثية. النماذج التأسيسية (مثل الذكاء الاصطنا_ذي يقف وراء ChatGPT) أصبحت بارعة جداً في الكتابة لدرجة أنها بدأت في صنع "توت بلاستيكي" (أخبار كاذبة أو نصوص ذكاء اصطناعي) تبدو غير قابلة للتمييز عن "التوت الحقيقي" (الكتابة البشرية).
قام المؤلفون، ألكسندر، ومارتن، ومارك-أوليفر، ببناء ملعب رقمي لدراسة كيفية تفاعل البشر مع هذا التوت البلاستيكي. أرادوا الإجابة على السؤال التالي: هل يمكننا التمييز بينهما؟ وإذا لم نستطع، فلماذا؟
🛠️ الأدوات: "القاضي" و"المحتال"
لدراسة ذلك، قاموا ببناء أداتين رقميتين:
- JudgeGPT (الحكم): وهو موقع إلكتروني يقرأ فيه أشخاص حقيقيون مقتطفات إخبارية قصيرة ويلعبون لعبة. يتعين عليهم الإجابة على سؤالين:
- هل هذه القصة حقيقية أم مزيفة؟ (الأصالة)
- هل كتبها إنسان أم روبوت؟ (المصدر)
- RogueGPT (الساحر): وهو المحرك الذي يصنع القصص. يستخدم "سحرة" مختلفين (نماذج ذكاء اصطناعي مثل GPT-4، وLlama-2، إلخ) لكتابة المقتطفات الإخبارية.
أخضعوا 154 شخصاً لهذه اللعبة، وطلبوا منهم الحكم على 918 قصة مختلفة.
🔍 الاكتشافات الكبرى
إليك الأشياء الثلاثة الرئيسية التي وجدوها، مشروحة ببساطة:
1. درع "الألفة مع الأخبار المزيفة" 🛡️
الأسطورة: يعتقد الكثير من الناس أنه إذا كنت مهتماً بالسياسة أو لديك آراء قوية، فمن السهل خداعك بالأخبار المزيفة.
الواقع: وجدت الدراسة أن السياسة لا تهم كثيراً. سواء كنت تميل إلى اليسار أو اليمين، فإن قدرتك على كشف الروبوت لم تتغير كثيراً.
البطل الحقيقي: الأشخاص الذين كانوا الأفضل في كشف التزييف هم أولئك الذين كان لديهم بالفعل معرفة كبيرة بالأخبار المزيفة.
- التشبيه: فكر في التعرض للأخبار المزيفة مثل التطعيم. إذا كنت قد رأيت الكثير من "الأطراف السيئة" من قبل، فقد بنى دماغك أجساماً مضادة. لقد رأيت الحيل، لذا يمكنك كشفها بشكل أسرع. كلما زاد تعرضك للأخبار المزيفة، أصبحت أفضل في كشفها. إنه يشبه "التدريب التنافسي" لعقلك.
2. "فخ الطلاقة" (مشكلة GPT-4) 🤖
النتيجة: كان نموذج الذكاء الاصطنا_ئي GPT-4 بارعاً جداً في الكتابة لدرجة أن البشر لم يستطيعوا تمييزه عن البشر على الإطلاق.
- الدرجة: في مقياس حيث 0 تعني "بشري بالتأكيد" و1 تعني "روبوت بالتأكيد"، سجل GPT-4 درجة 0.20. سجلت النماذج الأخرى حوالي 0.50 أو أعلى.
- الفخ: يكتب GPT-4 بسلاسة وكمال شديدين لدرجة أن عقولنا تتوقف عن التحقق من المصدر. نحن نقع في "فخ الطلاقة".
- التشبيه: تخيل مغنياً ذا صوت مثالي. أنت منبهر جداً بمدى سلاسة الغناء لدرجة أنك تنسى أن تسأل: "هل هذا شخص حقيقي أم تسجيل؟". السلاسة تخدع دماغك وتجعله يعتقد أنه حقيقي، حتى لو لم يكن كذلك.
3. نصبح أفضل مع الممارسة (تأثير "التحصين المسبق") 📈
النتيجة: مع استمرار الناس في لعب اللعبة، أصبحوا أفضل في كشف الذكاء الاصطناعي.
- التشبيه: هذا يشبه تعلم ركوب الدراجة. في البداية، تترنح وتسقط. ولكن بعد بضع محاولات، يتعلم دماغك النمط. تشير الدراسة إلى أنه إذا عرضنا الناس على نصوص من إنتاج الذكاء الاصطنا_ئي قبل أن يواجهوا أخباراً مزيفة حقيقية (وهو مفهوم يسمى "التحصين المسبق")، فإن ذلك يعمل مثل اللقاح. إنه يعلم عقولهم ما الذي يجب أن يبحثوا عنه، مما يجعلهم محصنين ضد الهجمات المستقبلية.
💡 ماذا يجب أن نفعل حيال ذلك؟
يقول المؤلفون إننا لا يمكننا الاعتماد فقط على أن يكون الناس "أكثر ذكاءً" أو "يتحققون من المصدر" لأن الذكاء الاصطنا_ئي بارع جداً في الاختباء. بدلاً من ذلك، نحتاج إلى خطة من ثلاثة أجزاء:
- العلامات المائية الرقمية (الـ "هولوغرام"): تماماً كما تحتوي العملات الورقية على علامة مائية لإثبات أنها حقيقية، يجب أن يحتوي نص الذكاء الاصطنا_ئي على علامة رقمية مخفية وغير قابلة للكسر (مثل C2PA) تثبت أنه جاء من روبوت. لا يمكننا الوثوق بأعيننا؛ نحتاج إلى الثقة في الكود.
- تدريب الدماغ، وليس مدقق الحقائق: بدلاً من تعليم الناس التحقق من من كتب القصة (وهو أمر مستحيل الآن)، علمهم التحقق من المنطق. هل القصة منطقية؟ هل الحقائق مترابطة؟ هذا يستهدف "فخ الطلاقة" مباشرة.
- التدريب التنافسي: يجب على المنصات أن تعرض للمستخدمين أحياناً محتوى "مزيفاً" من صنع الذكاء الاصطنا_ئي وتقول لهم: "مهلاً، هذا صُنع بواسطة روبوت". هذا يحافظ على حدة عقولنا، مثل تدريبات إخلاء النار.
🏁 الخلاصة
تخلص الورقة البحثية إلى أن الذكاء الاصطنا_ئي يفوز في مسابقة "المكر". فهو يكتب بشكل جيد للغاية لدرجة أننا لا نستطيع تمييزه عن البشر.
ومع ذلك، هناك أمل. إذا عاملنا عقولنا كعضلات يمكن تدريبها، وإذا استخدمنا التكنولوجيا لوسم محتوى الذكاء الاصطنا_ئي تلقائياً، فيمكننا بناء إنترنت أكثر أماناً. المفتاح ليس في إيقاف الذكاء الاصطنا_ئي، بل في ترقية "برامج مراقبة المصدر" الخاصة بنا حتى لا نخدع بالتوت البلاستيكي المثالي.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.