Evaluating the Presence of Sex Bias in Clinical Reasoning by Large Language Models
تكشف هذه الدراسة أن النماذج اللغوية الكبيرة المعاصرة تظهر تحيزات جنسانية كبيرة، خاصة بكل نموذج، في الاستنتاج السريري عند معالجة ملامح مرضية غير إخبارية، مما يؤكد الحاجة الماسة إلى التكوين التحفظي، وتدقيق البيانات، والإشراف البشري لضمان التكامل الآمن في الرعاية الصحية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك أربعة "أطباء رقميين" مختلفين (روبوتات دردشة ذكاء اصطناعي) يتمتعون بذكاء شديد في قراءة الكتب الطبية وكتابة التقارير. تريد معرفة ما إذا كانوا عادلين عند تشخيص المرضى. لاختبار ذلك، صمم الباحثون 50 قصة مريض وهمية. كُتبت هذه القصص بعناية بحيث لا يهم جنس المريض (ذكر أم أنثى) في الواقع لمعرفة ما هو الخطب. كان الأمر يشبه لغزاً حيث يكون الحل هو نفسه بغض النظر عما إذا كانت القطعة حمراء أو زرقاء.
إليك ما حدث عندما طلبوا من هؤلاء الأطباء الآليين حل الألغاز:
1. انحياز "لعبة التخمين"
عندما سأل الباحثون الذكاء الاصطناعي: "ما هو جنس المريض؟" دون إعطائه أي أدلة، لم يقل الذكاء الاصطناعي "لا أعرف". بدلاً من ذلك، بدأوا في التخمين بناءً على الصور النمطية، مثل شخص يخمن وظيفة شخص ما بناءً على اسمه.
- المخمنون لـ "الإناث": كان لدى ثلاثة من أجهزة الذكاء الاصطناعي (ChatGPT وClaude وDeepSeek) عادة قوية في التخمين بأن المريض أنثى. على سبيل المثال، إذا كانت القصة عن مشكلة في القلب أو مشكلة بولية، فقد ظلوا غالباً يخمنون أنها "أنثى".
- المخمن لـ "الذكور": قام الذكاء الاصطناعي (Gemini) بالعكس، حيث خمن أنه ذكر معظم الوقت.
- صور نمطية تخصصية: أصبح الانحياز أغرب اعتماداً على المجال الطبي.
- إذا كانت القصة تتعلق بـ الطب النفسي، أو أمراض الروماتيزم، أو أمراض الدم، فقد خمن جميع أجهزة الذكاء الاصطناعي "أنثى" بنسبة 100% من الوقت.
- إذا كانت القصة تتعلق بـ مشاكل القلب أو المسالك البولية، فقد خمن جميع أجهزة الذكاء الاصطناعي "ذكر" بنسبة 100% من الوقت.
- يبدو الأمر كما لو أن أجهزة الذكاء الاصطناعي لديها خريطة ذهنية حيث "الحزن" دائماً للمرأة و"مشاكل القلب" دائماً للرجل، حتى عندما لا تذكر القصة أي شيء عن ذلك.
2. مقبض "درجة الحرارة"
حاول الباحثون تدوير مقبض "درجة الحرارة" (Temperature) في أجهزة الذكاء الاصطناعي. فكر في هذا كمقبض مستوى التوابل:
- درجة حرارة منخفضة (0.2): يكون الذكاء الاصطناعي صارماً للغاية، ومنطقياً، ومتكرراً.
- درجة حرارة عالية (1.0): يكون الذكاء الاصطناعي أكثر إبداعاً، وعشوائية، وجنوناً.
أملوا أن جعل الذكاء الاصطناعي أكثر "إبداعاً" (رفع درجة الحرارة) قد يكسر الصور النمطية. لكن ذلك لم يحدث. فبينما قدم الذكاء الاصطناعي ذو درجة الحرارة العالية قوائم تخمين مختلفة قليلاً، ظل الانحياز الأساسي (تخمين الجنس الخاطئ بناءً على التخصص) كما هو تماماً. "التوابل" لم تصلح الوصفة؛ بل جعلت الطبق المنحاز نفسه طعمه مختلفاً قليلاً فقط.
3. خيار "لا أعرف"
في اختبار ثانٍ، أعطى الباحثون أجهزة الذكاء الاصطناعي خياراً ثالثاً: "الامتناع" (أو "لا أعرف").
- ChatGPT سلك الطريق الآمن فوراً وقال "لا أعرف" في كل مرة.
- الأجهزة الأخرى قالت "لا أعرف" معظم الوقت، ولكن ليس دائماً.
الفخ: حتى عندما توقفت أجهزة الذكاء الاصطناعي عن قول جنس المريض، إلا أنها كانت لا تزال تفكر في الأمر. فعندما طُلب منها سرد الأمراض المحتملة لنسخة "ذكر" من القصة مقابل نسخة "أنثى"، تغيرت قوائم الأمراض. كان الذكاء الاصطناعي لا يزال يعامل هذين المريضين بشكل مختلف خلف الكواليس، حتى لو لم يحدد ذلك صراحة.
4. الخلاصة
تخلص الورقة البحثية إلى أن نماذج الذكاء الاصطناعي هذه تشبه الطلاب الذين حفظوا كتباً مدرسية قديمة ومنحازة. لم يتعلموا التفكير بحيادية، بل هم فقط يكررون الأنماط التي رأوها في بيانات تدريبهم.
- الانحياز متأصل: الانحياز ليس خللاً تقنياً؛ بل هو جزء من كيفية بناء هذه النماذج.
- الإعدادات لا تصلح الأمر: لا يمكنك مجرد تعديل إعداد (مثل درجة الحرارة) لجعله عادلاً.
- الخطر: نظرًا لأن هذه النماذج تغير نصيحتها الطبية بناءً على ما إذا كانوا يعتقدون أن المريض رجل أو امرأة (حتى لو كانت الأعراض متطابقة)، فإن المؤلفين يقولون إن أدوات الذكاء الاصطناعي العامة هذه لا ينبغي استخدامها لاتخاذ قرارات طبية حقيقية في الوقت الحالي.
الخلاصة المستفادة: إذا طلبت المساعدة من هؤلاء الأطباء الرقميين، فقد يكونون أذكياء، لكنهم يحملون أيضاً أعباءً ثقيلة من الصور النمطية القديمة. وإلى أن يتم تعليمهم تجاهل تلك الصور النمطية، يحتاج البشر إلى مراقبة عملهم عن كثب.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.