Counterfactual Probing for the Influence of Affect and Specificity on Intergroup Bias
تتقصى هذه الورقة كيفية تأثير السمات التداولية مثل العاطفة والخصوصية على التحيز بين المجموعات في معالجة اللغات الطبيعية من خلال تحليل ارتباطها بتسميات العلاقات بين المجموعات واستخدام الاستقصاء المضاد للواقع للكشف عن أن النماذج العصبية تعتمد على العاطفة ولكنها تظهر استخداماً غير حاسم للخصوصية في التصنيف.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك محقق يحاول اكتشاف السبب وراء الطريقة التي يتحدث بها الناس عن أصدقائهم مقارنة بخصومهم.
كان معظم البحث السابق حول "التحيز" في أجهزة الكمبيوتر (الذكاء الاصطناوي) يشبه البحث عن "دليل إدانة قاطع": حيث كانوا يهتمون فقط عندما يستخدم الناس كلمات نابية أو إهانات. لكن هذه الورقة البحثية تقترح أن التحيز موجود في كل مكان بالفعل، حتى في الجمل اللطيفة. الأمر لا يتعلق فقط بـ ماذا تقول، بل بـ كيف تقول ذلك اعتماداً على الشخص الذي تتحدث إليه.
أراد المؤلفون اختبار "نكهتين" محددتين من اللغة لمعرفة ما إذا كانا يتغيران بناءً على ما إذا كان المتحدث يتحدث إلى صديق (داخل المجموعة - In-Group) أو غريب/خصم (خارج المجموعة - Out-Group):
- العاطفة (المزاج - Affect): هل المتحدث سعيد، غاضب، أم محايد تجاه الشخص الذي يتحدث عنه؟
- التحديد (التفاصيل - Specificity): هل المتحدث عام ومبهم ("أنت شخص جيد")، أم أنه دقيق جداً بالتفاصيل ("لقد صوّت لصالح مشروع القانون X يوم الثلاثاء")؟
السؤال الكبير
سأل الباحثون: هل "يفكر" الكمبيوتر حقاً باستخدام هاتين النكهتين عندما يقرر ما إذا كانت التغريدة ودودة أم عدائية؟
استخدموا مجموعة بيانات من تغريدات أعضاء الكونجرس الأمريكي. في هذا العالم، إذا غرد سيناتور لسيناتور آخر من حزبه، فهذا تفاعل "داخل المجموعة". وإذا غرد للحزب المعارض، فهو تفاعل "خارج المجموعة".
التجربة: "الممحاة السحرية" و"خاتم المزاج"
لمعرفة ما إذا كان نموذج الكمبيوتر يستخدم بالفعل هذه القرائن، استخدم الباحثون خدعة ذكية تسمى "الاستقصاء المقابل للواقع" (Counterfactual Probing). فكر في الأمر كأنه تجربة علمية باستخدام عصا سحرية:
- خاتم المزاج (العاطفة): أخذوا تغريدة واستخدموا "عصا سحرية" رياضية لإجبار العقل الداخلي للكمبيوتر على الشعور بكونه أكثر إيجابية أو أكثر سلبية، حتى لو لم تتغير الكلمات في التغريدة.
- قرص التحديد (التفاصيل): فعلوا الشيء نفسه بالنسبة للتفاصيل. فقد أجبروا الكمبيوتر على أن يعتقد أن التغريدة إما "عامة جداً" أو "مفصلة جداً".
بعد ذلك، سألوا الكمبيوتر: "الآن بعد أن غيرنا المزاج أو التفاصيل، هل لا تزال تعتقد أن هذه التغريدة من صديق أم من خصم؟"
ما وجدوه
1. خاتم المزاج يعمل (العاطفة)
كان الكمبيوتر حساساً جداً تجاه "المزاج".
- النتيجة: عندما أجبروا الكمبيوتر على الشعور بـ الإيجابية تجاه الهدف، قرر الكمبيوتر دائماً تقريباً: "آه، لا بد أن هذا صديق!"
- التشبيه: الأمر يشبه الكلب. إذا دخلت بـذيل يهز بسعادة (عاطفة إيجابية)، يفترض الكلب أنك صديق، بغض النظر عما ترتديه. يعتمد الكمبيوتر بشدة على "الروح العامة" (الـ vibe) لاتخاذ قراره.
2. قرص التحديد معطل (التفاصيل)
كان الكمبيوتر مرتبكاً بسبب "التفاصيل".
- النتيجة: عندما حاولوا إجبار الكمبيوتر على أن يعتقد أن التغريدة "محددة جداً"، لم يحدث شيء. لم يهتم الكمبيوتر. ومع ذلك، عندما أجبروه على أن يعتقد أن التغريدة "عامة جداً"، اعتقد الكمبيوتر فجأة: "أوه، لا بد أن هذا صديق!"
- التشبيه: تخيل محاولة تعليم طفل التعرف على سيارة من خلال لونها. إذا دهنت سيارة حمراء باللون الأزرق، سيظل الطفل يعرف أنها سيارة. ولكن إذا حاولت تعليمه من خلال شكل العجلات، وكانت العجلات ضبابية، فسيصاب بالارتباك.
- لماذا؟ يشتبه المؤلفون في أن نموذج الكمبيوتر قد تعرض لـ "تلف" أثناء تدريبه. لقد تعلم التعرف على الأصدقاء بناءً على المزاج، لكنه فقد القدرة على الفهم الصحيح لـ التفاصيل. إنه مثل طباخ فقد حاسة التذوق ولكنه لا يزال يمتلك حاسة شم قوية؛ يمكنه معرفة ما إذا كانت رائحة الطعام جيدة، لكنه لا يستطيع تحديد ما إذا كانت المكونات طازجة أم لا.
التحول المفاجئ: "التحيز العام"
كان لدى الباحثين نظرية (بناءً على علم النفس القديم) مفادها أن الناس عادة ما يكونون غامضين عند مدح الأصدقاء ومحددين عند انتقاد الأعداء.
- النظرية: "أنت رجل رائع!" (مدح غامض لصديق) مقابل "لقد صوتت بشكل خاطئ على مشروع القانون 402!" (هجوم محدد على خصم).
- الواقع: لم يتبع الكمبيوتر هذا النمط. لم يهتم على الإطلاق بمستوى التفاصيل؛ بل تفاعل فقط مع المزاج. لم يبدِ أي اهتمام بمستوى التفاصيل على الإطلاق.
الخلاصة
هذه الورقة البحثية هي بمثابة "إعادة ضبط للواقع" لباحثي الذكاء الاصطناوي.
- التحيز دقيق وخفي: لا يقتصر الأمر على خطاب الكراهية فحسب، بل يتعلق بكيفية وصفنا للأشخاص بشكل مختلف بناءً على علاقتنا بهم.
- الذكاء الاصطناوي ذو مسار واحد: نموذج الكمبيوتر الذي تم اختباره بارع جداً في اكتشاف "الأجواء الطيبة" مقابل "الأجواء السيئة"، لكنه سيء جداً في فهم دقة "التفاصيل".
- نحن بحاجة إلى أدوات أفضل: الأساليب المستخدمة لـ "وخز" الذكاء الاصطناوي (العصي السحرية) قوية، ولكنها قد تؤدي أحياناً إلى "تعطيل" عقل الذكاء الاصطناوي، مما يجعل من الصعب رؤية الصورة الكاملة.
باختاً، الكمبيوتر يعرف كيف يحدد ما إذا كنت لطيفاً أو لئيماً، لكنه لا يفهم تماماً الفرق بين الإطراء العام والإطراء المحدد. وهذا يمثل مشكلة إذا أردنا للذكاء الاصطناوي أن يفهم حقاً العلاقات الإنسانية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.