A case report on gendered biases in a Finnish healthcare AI assistant
تكشف هذه الدراسة أن مساعداً للرعاية الصحية يعمل بالذكاء الاصطناعي في فنلندا يظهر تحيزات جنسانية كبيرة، بما في ذلك التأطير النمطي للمريضات حول الصحة الإنجابية وعدم اتساق الاستدلال السريري، والناجم عن عيوب في كل من مرحلتي الاسترجاع والتوليد.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي لبحث مسبق لم يخضع لمراجعة الأقران. وهو ليس نصيحة طبية. لا تتخذ أي قرارات تتعلق بصحتك بناءً على هذا المحتوى. اقرأ إخلاء المسؤولية الكامل
تخيل أنك بنيت أمين مكتبة رقمي فائق الذكاء يُدعى "فين" لمساعدة الأطباء في فنلندا على العثور على المشورة الطبية المناسبة بسرعة. لقد برمجت "فين" ليبحث في مكتبة ضخمة من الكتب الطبية (جزء "الاسترجاع") ثم يكتب ملخصاً واضحاً للطبيب (جزء "التوليد"). قلت في نفسك: "رائع! سيكون هذا الذكاء الاصطناعي عادلاً وموضوعياً للجميع".
ولكن، قررت بعد ذلك إجراء تجربة صغيرة. سألت "فين" نفس الأسئلة الطبية بالضبط 36 مرة، لكنك غيرت الاسم في السؤال بشكل طفيف: أحياناً كان المريض "ماتي" (رجل)، وأحياناً "ليسا" (امرأة)، وأحياناً "أليكس" (محايد جنسياً).
إليك ما حدث، ولماذا يمثل ذلك مشكلة:
1. تأثير "النظارات الجندرية"
تبين أن "فين" لم يكن يرتدي نظارات محايدة؛ بل كان يرتدي نظارات ذات عدسات وردية كلما ذُكرت امرأة.
- التشبيه: تخيل طباخاً من المفترض أن يطهو قطعة لحم (ستيك). إذا كان الزبون رجلاً، يطهو الطباخ قطعة لحم مثالية. لكن إذا كانت الزبونة امرأة، يفكر الطباخ فجأة: "أوه، لا بد أنها حامل أو أم!"، ويقدم لها قطعة اللحم مع طعام أطفال ولهاية، حتى لو كانت قد طلبت قطعة لحم فقط.
- الواقع: عندما كان الذكاء الاصطناعي يعتقد أن المريضة أنثى، كان يتجاهل الأعراض الفعلية ويبدأ في التحدث عن رعاية الأطفال، أو الدورة الشهرية، أو قضاية الإنجاب، حتى عندما لم يكن لهذه الأمور أي علاقة بالمشكلة الطبية. لقد كان يتصرف بناءً على صور نمطية قديمة بدلاً من الحقائق الطبية.
2. مشكلة "الخريطة الخاطئة"
لم يكتفِ الذكاء الاصطناعي بكتابة الكلمات الخاطئة فحسب؛ بل إنه أحياناً كان ينظر إلى الصفحات الخاطئة في مكتبته.
- التشبيه: فكر في مكتبة الذكاء الاصطناعي كخريطة عملاقة. عندما يسأل رجل عن الاتجاهات للوص️ل إلى "مستشفى القلب"، تظهر الخريطة الطريق الصحيح. ولكن عندما تسأل امرأة عن نفس الاتجاهات، ترتبك الخريطة وتوجهها نحو "قسم التوليد" أو، والأسوأ من ذلك، تخترع مستشفىً جديداً وهمياً لم يكن موجوداً أصلاً.
- الواقع: قام النظام أحياناً بـ "الهلوسة" (اختلاق أشياء) أو استدعاء نصائح طبية غير ذات صلة لمجرد أن الجنس كان أنثى. وهذا يعني أن درجة إلحاح العلاج تم تقييمها بشكل مختلف. فقد تُعامل مشكلة قلب خطيرة على أنها مجرد قلق بسيط لامرأة، بينما يحصل الرجل الذي يعاني من نفس المشكلة على اهتمام فوري.
3. غموض "رمي النرد"
وجد الباحثون أن الذكاء الاصطناعي لم يكن منحازاً بطريقة ثابتة يمكن التنبؤ بها. فأحياناً كان غير عادل، وفي أحيان أخرى كان جيداً، رغم طرح نفس السؤال.
- التشبيه: الأمر يشبه رمي زوج من النرد لتحديد ما إذا كان المريض سيحصل على رعاية جيدة. أحياناً ترمي النرد وتحصل على "6" (رعاية ممتازة)، وأحياناً تحصل على "1" (رعاية سيئة)، ولا يمكنك معرفة السبب. هذا يجعل الإصلاح أمراً صعباً للغاية لأن المشكلة ليست موجودة دائماً؛ بل تظهر بشكل عشوائي، مثل خلل في لعبة فيديو.
الحكم النهائي
نظر خبيران — طبيب وأخصائي أخلاقيات — إلى النتائج وصُدموا. وجدا أن هذا الذكاء الاصطناعي، الذي كان من المفترض أن يكون مساعداً محايداً، كان في الواقع يعزز التحيزات المجتمعية القديمة. لقد عامل النساء ليس كمرضى أفراد لديهم احتياجات طبية محددة، بل كمجموعة من الصور النمطية.
الخلاصة:
هذه الدراسة هي علامة تحذير. فهي تظهر أنه حتى عندما نبني ذكاءً اصطناعياً لمساعدتنا، إذا لم نكن حذرين، يمكن للذكاء الاصطناعي أن يتعلم أسوأ عاداتنا ويتصرف كجار منحاز وصاحب صور نمطية بدلاً من أن يكون طبيباً علمياً عادلاً. قبل أن نسمح لهؤلاء المساعدين الرقميين بدخول مستشفياتنا، يجب أن نتأكد من أنهم لم يعودوا يرتدون تلك "النظارات ذات العدسات الوردية".
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.