A closer look at how large language models trust humans: patterns and biases
من خلال 43,200 تجربة محاكاة عبر خمسة نماذج وسيناريوهات، تكشف هذه الدراسة أنه بينما تطور الوكلاء القائمون على النماذج اللغوية الكبيرة عموماً ثقة في البشر بناءً على الكفاءة والنزاهة وحسن النية بشكل مشابه للأنماط البشرية، فإنهم يظهرون أيضاً تحيزات ديموغرافية كبيرة فيما يتعلق بالعمر والدين والجنس، لا سيما في السياقات المالية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إليك شرح للورقة البحثية، مترجم إلى لغة بسيطة مع بعض التشبيهات الإبداعية للمساعدة في تصور النتائج.
الفكرة الكبرى: هل "يثق" الذكاء الاصطناي في البشر كما نفعل نحن؟
تخيل أنك توظف موظفاً جديداً، أو تقرض صديقاً مالاً، أو تترك طفلك مع مربية. في هذه اللحظات، يتعين عليك أن تقرر: "هل يمكنني الثقة بهذا الشخص؟"
عادةً، نحكم على الثقة بناءً على ثلاثة أشياء:
- الكفاءة: هل هو جيد في عمله؟
- النوايا الحسنة (الخيرية): هل يهتم لأمري؟
- النزاهة: هل هو صادق ويلتزم بوعوده؟
يطرح هذا البحث سؤالاً رائعاً: إذا طلبنا من ذكاء اصطناعي (AI) اتخاذ هذه القرارات نفسها، فهل "يثق" في الناس بالطريقة التي يثق بها البشر؟
لقد عمل الباحثون كالمحققين، حيث صمموا 43,200 سيناريو مختلف (مثل لعبة ضخمة من نوع "ماذا ستفعل لو كنت مكانه؟") حيث طلبوا من خمسة نماذج مختلفة من الذكاء الاصطناعي و1,000 إنسان حقيقي اتخاذ قرارات بناءً على ملف شخصي لشخص ما.
إليك ما وجدوه، مقسماً إلى مفاهيم بسيطة.
1. أسلوب الثقة: "الروبوت مقابل الإنسان"
التشبيه: فكر في ثقة البشر كأنها ارتجال موسيقي (جاز). إنها مرنة، فوضوية، وتتغير بناءً على المزاج، والسياق، وكيف "يشعر" الشخص في تلك اللحظة. أحياناً تثق بشخص كفء رغم أنه يبدو بارداً بعض الشيء، وأحياناً تثق بشخص لطيف حتى لو لم يكن الأفضل في عمله.
أما ثقة الذكاء الاصطناعي فتشبه معادلة رياضية صارمة. إنها تتبع القواعد بدقة، لكنها جامدة. إذا أدخلت "كفاءة عالية"، سيعطي الذكاء الاصطناعي درجة ثقة عالية. إذا أدخلت "نزاهة منخفضة"، سيخفض الدرجة. هو لا يتشتت بـ "الأجواء العامة" أو الشعور السائد.
- الخبر الجيد: البشر والذكاء الاصطناعي يتفقان على الأساسيات. إذا كان الشخص ذكياً، وطيباً، وصادقاً، فإن البشر والذكاء الاصطناعي يقولان: "نعم، نثق به!"
- الخبر السيئ: الذكاء الاصطناعي متطرف للغاية. البشر متذبذبون وغير حاسمين بعض الشيء. أما الذكاء الاصطناعي فهو مثل قاضٍ لا يتردد أبداً. إذا ذكر النص "صادق جداً"، يعطي الذكاء الاصطناعي درجة مثالية. وإذا قال "غير صادق قليلاً"، فإنه يغلق الباب في وجهه تماماً. البشر أكثر تسامحاً ومرونة في الحكم.
2. "تأثير الهالة" مقابل "قائمة التحقق"
التشبيه:
- البشر (تأثير الهالة): تخيل أنك قابلت جراحاً بارعاً. ولأن هذا الشخص ذكي جداً، يفترض عقلك تلقائياً أنه أيضاً شخص طيب وصادق. نحن نميل إلى دمج كل هذه الصفات معاً في حزمة واحدة تسمى "شخص جيد".
- الذكاء الاصطناعي (قائمة التحقق): ليس لدى الذكاء الاصطناعي "شعور داخلي". إنه ينظر إلى القائمة بشكل منفصل. يرى "ذكي"، فيضع علامة صح. يرى "لطيف"، فيضع علامة صح. يرى "صادق"، فيضع علامة صح. إنه يعاملها كثلاث عناصر منفصلة تماماً، دون أن يدرك أن هذه الصفات غالباً ما تسير جنباً إلى جنب في العالم الحقيقي.
الذكاء الاصطناعي في الواقع أكثر دقة وفقاً لـ "التعريف الأكاديمي" للثقة، بينما البشر أكثر عاطفية ونظرة شمولية.
3. فخ "الرجل اللطيف" (النوايا الحسنة)
التشبيه: تخيل موظف قرض.
- الإنسان: إذا كان مقدم الطلب للقرض لطيفاً جداً ويقول: "أريد حقاً مساعدة مجتمعي"، فقد يفكر الإنسان: "هذا لطيف، ولكن هل يستطيع سداد المال فعلاً؟". غالباً ما يشك البشر في "الإشارات اللطيفة" عندما يكون المال على المحك.
- الذكاء الاصطناعي: غالباً ما يخدع الذكاء الاصطناعي بكلمات "اللطف". إذا ذكر النص أن الشخص "خير" (لطيف)، يميل الذكاء الاصطناعي إلى الثقة به أكثر، حتى لو لم يكن الأكثر مهارة. يبدو أن الذكاء الاصطناعي يحب اللغة "المجتمعية/الاجتماعية"، وكأنه يحاول أن يكون "مرضياً للآخرين" (وهي سمة تسمى "التملق" أو Sycophancy).
4. "التحيزات غير العادلة" (الجانب المظلم)
التشبيه: تخيل وجود قاضيين.
- القاضي البشري: قد يكون لديه تحيز، لكنه عادة ما يكون خفياً وغير متسق. أحياناً يحب كبار السن، وأحياناً لا.
- قاضي الذكاء الاصطناعي: وجدت الدراسة أن الذكاء الاصطناعي يمكن أن يكون منحازاً بشكل صادم وبطريقة منهجية جداً.
- في بعض السيناريوهات، أعطى الذكاء الاصطناعي أموالاً أكثر بكثير للمتقدمين الذكور مقارنة بالإناث.
- منح ثقة أكبر لأشخاص بأسماء دينية معينة (مثل الأسماء اليهودية أو المسيحية) على غيرهم.
- وثق في كبار السن أكثر من الشباب في المواقف المالية.
الجزء المخيف هو أن الذكنا الاصطناعي يفعل ذلك بشكل مستمر. إنه ليس خطأً عشوائياً، بل هو نمط مدمج فيه. إذا استخدمت الذكاء الاصطناعي لاتخاذ قرارات بشأن من يحصل على قرض أو وظيفة، فقد يميز بصمت ضد مجموعات معينة من الناس بطرق يصعب اكتشافها.
5. ليست كل أنظمة الذكاء الاصطناعي متشابهة
التشبيه: فكر في نماذج الذكاء الاصطناعي المختلفة (مثل GPT-5، Gemini، إلخ) كأنهم طلاب في فصل دراسي.
- الطالب (أ) قد يكون صارماً جداً بشأن "النزاهة".
- الطالب (ب) قد يكون مهووساً بـ "النوايا الحسنة".
- الطالب (ج) قد يكون لديه تحيز كبير ضد فئة عمرية معينة.
وجدت الدراسة أنه لا يمكنك مجرد قول "الذكاء الاصطناعي يعتقد X". بل يجب أن تسأل: "أي ذكاء اصطناعي يعتقد X؟". فلكل منهم شخصيته الخاصة وعيوبه الخاصة.
الخلاصة
ماذا يعني هذا بالنسبة لنا؟
- الذكاء الاصطناعي أداة قوية، لكنه ليس بشراً. يمكنه معالجة عوامل الثقة بشكل أسرع وأكثر منطقية منا، لكنه يفتقر إلى "اللمسة البشرية" التي تجعل الحكم مرناً ومتسامحاً.
- لا تترك الذكاء الاصطناعي يقود السيارة وحده. إذا كنت تستخدم الذكاء الاصطناዊ لاتخاذ قرارات بشأن البشر (مثل التوظيف، أو منح القروض، أو السلامة)، فعليك أن تكون حذراً. قد يكون الذكاء الاصطناعي صارماً للغاية، أو يسهل خداعه بكلمات "لطيفة"، أو متحيزاً سراً ضد مجموعات معينة.
- "الصندوق الأسود" أصبح أكثر وضوحاً. بدأنا نفهم أن الذكاء الاصطناعي لا "يعرف" الأشياء فحسب؛ بل يحاكي الأنماط البشرية بطريقة منظمة، وأحياناً بطريقة آلية (روبوتية).
باختصار: الذكاء الاصطناعي يتعلم كيف يثق، لكنه يتعلم الثقة كآلة تتبع كتاب قواعد، وليس كإنسان يمتلك قلباً. نحن بحاجة إلى إبقاء حكمنا البشري حاضراً في العملية لتدارك الأخطاء التي قد يرتكبها الروبوت.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.