Investigating Gender Stereotypes in Large Language Models via Social Determinants of Health
تتقصى هذه الدراسة التحيز الجنساني في نماذج اللغات الكبيرة ضمن سياقات الرعاية الصحية الفرنسية، مظهرةً أن هذه النماذج تعتمد على صور نمطية متأصلة عند معالجة التفاعلات بين النوع الاجتماعي والمحددات الاجتماعية الأخرى للصحة، مما يسلط الضوء على الحاجة إلى تقييمات خاصة بالسياق تتجاوز تقييم العوامل الفردية بشكل منعزل.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك مساعداً رقمياً فائق الذكاء، قد قرأ كل شيء تقريباً على الإنترنت، بما في ذلك ملايين السجلات الطبية. ثم تطلب منه مساعدة طبيب في تشخيص مريض. لكن هنا تكمن العقبة: هذا المساعد لم يتعلم الحقائق فحسب؛ بل تعلم أيضاً الافتراضات الضمنية والقوالب النمطية للمجتمع الذي أنشأ تلك البيانات.
هذه الورقة البحثية تشبه قصة بوليسية يحاول فيها الباحثون الإمساك بهذا المساعد الرقمي وهو يرتكب خطأ التخمين بناءً على قوالب نمطية قديمة.
الإطار: "المرآة الطبية"
فكر في النماذج اللغوية الكبيرة (LLMs) كأنها مرايا. إنها تعكس العالم إلينا. وإذا كان العالم يحتوي على تحيزات (مثل الاعتقاد بأن "الممرضات غالباً من النساء" أو "المهندسين غالون من الرجال")، فإن المرآة ستظهر تلك التحيزات أيضاً.
في العالم الطبي، هذا أمر خطير. إذا سأل الطبيب الذكاء الاصطناعي: "ما الذي قد يكون خطباً بهذا المريض؟" واعتقد الذكاء الاصطناعي سراً: "أوه، هذا الشخص رجل متقاعد ومدخن، لذا لا بد أنها مشكلة في القلب"، بينما تكون المريضة في الواقع امرأة تعاني من حالة مختلفة، فقد يعطي الذكاء الاصطناعي نصيحة خاطئة. يُسمى هذا تحيزاً، ويمكن أن يؤدي إلى تشخيصات خاطئة.
التحقيق: إزالة "بطاقات الأسماء"
أراد الباحثون معرفة ما إذا كان الذكاء الاصطناعي يقوم بهذه التخمينات بناءً على المحددات الاجتماعية للصحة (SDoH). وهي الظروف التي تشكل حياتك: وظيفتك، دخلك، ما إذا كنت تدخن، حالتك الاجتماعية، إلخ.
ولاختبار ذلك، لعبوا لعبة "التخمين الأعمى":
- الإعداد: أخذوا سجلات مرضى حقيقيين من مستشفى فرنسي.
- الخدعة السحرية: قاموا بتنقية النص لإزالة أي أدلة واضحة على الجنس (مثل "هو" أو "هي") وحتى جعل المسميات الوظيفية محايدة (تغيير "ممرض" إلى "ممرض" دون تحديد ما إذا كان ذكراً أو أنثى).
- التحدي: أعطوا الذكاء الاصطناعي قائمة من الحقائق: "المريض متقاعد، مدخن، يعيش بمفرده، يعمل كعامل يدوي".
- السؤال: "بناءً على هذه الحقائق فقط، هل هذا الشخص ذكر أم أنثى؟"
إذا قال الذكاء الاصطناائي "ذكر" في كل مرة يرى فيها "متقاعد مدخن" أو "عامل يدوي"، فهذا يعني أن الذكاء الاصطناعي يعتمد على القوالب النمطية بدلاً من الأدلة الطبية الفعلية. الأمر يشبه تخمين جنس شخص لمجرد أنه يرتدي نوعاً معيناً من القبعات، رغم أنك لا تستطيع رؤية وجهه.
النتائج: "المكتبة الداخلية" للذكاء الاصطناعي
اختبر الباحثون 9 نماذج مختلفة من الذكاء الاصطناعي (بعضها صغير وبعضها ضخم) ووجدوا أشياء مثيرة للاهتمام:
- الذكاء الاصطناعي آلة للقوالب النمطية: حتى عندما تم إخفاء الجنس، خمن الذكاء الاصطناعي باستمرار "ذكر" للمتقاعدين والمدخنين والعمال اليدويين. وخمن "أنثى" للطلاب والأشخاص المرتبطين عاطفياً وربات البيوت. كان يقرأ فعلياً كتاب قواعد اجتماعي تعلمه من الإنترنت.
- الحجم لا يعني دائماً الذكاء: قد تعتقد أن الذكاء الاصطناዊ الأكبر والأقوى سيكون أقل تحيزاً. لكن الدراسة وجدت أن النماذج الأصغر كانت في الواقع أكثر ثقة في تخميناتها النمطية. كانت تشبه طالباً حفظ بعض القواعد وتمسك بها بجمود، بينما كانت النماذج الأكبر أكثر تردداً قليلاً لكنها اتبعت نفس الأنماط.
- التدريب الطبي يجعل الأمر أسوأ (أحياناً): اختبروا نماذج ذكاء اصطناعي تم تدريبها خصيصاً على بيانات طبية. ومن المثير للدهشة، أن هؤلاء "الأطباء المتدربين" المتخصصين كانوا أحياناً أكثر تحيزاً من النماذج العامة. الأمر يشبه لو أن طالباً طبياً قرأ فقط كتباً مدرسية من الخمسينيات؛ فسوف يتعلم القوالب النمطية القديمة لتلك الحقبة.
- البشر مذنبون أيضاً: طلب الباحثون أيضاً من بشر حقيقيين لعب لعبة التخمين. وقام البشر بنفس التخمينات النمطية التي قام بها الذكاء الاصطناعي! وهذا يثبت أن الذكاء الاصطناعي ليس "شريراً"؛ بل هو مجرد انعكاس لكيفية تفكير البشر (والمجتمع) غالباً.
التشبيه: "الكهف"
استخدم المؤلفون استعارة رائعة من "أسطورة الكهف" لأفلاطون. تخيل أن الذكاء الاصطناعي هو سجين في كهف، ينظر إلى ظلال على جدار. الظلال هي البيانات من الإنترنت. يعتقد الذكاء الاصطناعي أن الظلال هي الحقيقة الكاملة. لكن الظلال هي مجرد انعكاسات للتجارب البشرية، وهي مليئة بالتحيزات. لا يستطيع الذكاء الاصطناعي رؤية العالم الحقيقي خارج الكهف؛ يمكنه فقط التخمين بناءً على الظلال التي يراها.
لماذا يهم هذا؟
إذا سمحنا لهذه النماذج المتحيزة من الذكاء الاصطناعي بمساعدة الأطباء:
- قد يتم تجاهل مريضة تعاني من حالة قلبية لأن الذكاء الاصطناعي يعتقد أن "النوبات القلبية تخص الرجال".
- قد يتم التغاضي عن مريض يعاني من اكتئاب ما بعد الولادة لأن الذكاء الاصطناعي يعتقد أن "الاكتئاب بعد الولادة يخص النساء".
الحل: ماذا يمكننا أن نفعل؟
يقترح البحث عدة طرق لإصلاح ذلك:
- فحص المرآة: نحن بحاجة لاختبار نماذج الذكاء الاصطناعي خصيصاً بحثاً عن هذه القوالب النمطية الخفية قبل السماح لها بدخول المستشفيات.
- أوامر (Prompts) أفضل: أحياناً، إذا قلت للذكاء الاصطناعي صراحةً: "تجاهل القوالب النمطية الاجتماعية، وانظر فقط إلى الحقائق الطبية"، يمكنه القيام بعمل أفضل (رغم أنه ليس حلاً مثالياً).
- الإشراف البشري: يجب أن نتذكر أن الذكاء الاصطناعي هو أداة وليس إلهاً. يجب أن يكون الأطباء هم صناع القرار النهائيين، مدركين أن الذكاء الاصطناعي قد "يهلوس" بناءً على قوالب نمطية قديمة.
الخلاصة
هذه الورقة هي بمثابة جرس إنذار. إنها تظهر أن حتى أدوات الذكاء الاصطناዊ الأكثر تقدماً تحمل معها أعباء التحيز البشري. لاستخدامها بأمان في الرعاية الصحية، يجب أن نتعلم كيفية تفريغ تلك الأعباء وضمان أن الذكاء الاصطناعي يحكم على المرضى بناءً على صحتهم الفعلية، وليس بناءً على من نعتقد أنهم هم.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.