Rare Diseases, Common Dilemmas: LLMs Prioritize Equal Resource Distribution over Patient Benefit in Decision-Making

في عالم الطب عالي المخاطر، غالبًا ما يواجه الأطباء خيارات لا يوجد فيها إجابة واحدة صحيحة. فعندما يكون المريض في حالة حرجة أو يواجه حالة نادرة، يتعين على الفريق الطبي موازنة عدة واجبات أخلاقية متضاربة. يجب عليهم محاولة مساعدة المريض، وتجنب التسبب في الضرر، واحترام حق المريض في اختيار مساره الخاص، وضمان توزيع الموارد بشكل عادل بين جميع المحتاجين إليها. هذه الواجبات، المعروفة بالإحسان، وعدم الإضرار، والاستقلالية، والعدالة، غالبًا ما تتجاذب في اتجاهات مختلفة. فعلى سبيل المثال، قد يؤدي علاج قد ينقذ حياة شخص ما إلى معاناة شديدة، أو قد يؤدي دواء باهظ الثمن ونادر إلى مساعدة شخص واحد بعمق بينما يُترك الكثيرون دون رعاية. ومع ازدياد استخدام الذكاء الاصطناعي في الرعاية الصحية، بدأ الناس يتساءلون كيف تتعامل هذه الأنظمة الحاسوبية مع مثل هذه القرارات الصعبة والمحملة بالقيم. إن القلق لا يتعلق فقط بما إذا كانت الآلة تعرف الحقائق، بل بما إذا كانت تدرك ثقل المقايضات الأخلاقية المعنية.

تستقصي دراسة جديدة كيف تتخذ نماذج اللغات الكبيرة، وهي أنظمة الذكاء الاصطناβ القوية القادرة على توليد نصوص تشبه النصوص البشرية، هذه الخيارات الأخلاقية عند رعاية المرضى المصابين بأمراض نادرة. تمثل الأمراض النادرة تحديًا فريدًا لأنها تصيب أعدادًا قليلة من الناس، وغالبًا ما تتوفر عنها بيانات طبية محدودة. وفي مثل هذه الحالات، يضطر العائلات والأطباء غالبًا لاتخاذ قرارات في ظل حالة من عدم اليقين العميق، حيث يوازنون بين خيارات غير كاملة مقابل بعضها البعض. لقد صمم الباحثون اختبارًا لمعرفة ما إذا كان بإمكان الذكاء الاصطناعي التنقل في هذه المياه العكرة؛ حيث قاموا ببناء مجموعة من 208 قصة طبية واقعية، أو سيناريوهات، مستمدة من أمراض نادرة حقيقية وتفاصيلها الجينية والسريرية المحددة. قدمت كل قصة معضلة حقيقية حيث كان هناك خياران مختلفان للخطوة التالية، وكلاهما منطقي طبيًا ولكنهما متضادان أخلاقيًا. على سبيل المثال، قد يعطي أحد الخيارين الأولوية للاحتياجات الفورية لمريض واحد، بينما يركز الآخر على التوزيع العادل لمورد محدود عبر مجموعة من الناس. ثم طلب الباحثون من أحد عشر نموذجًا من نماذج الذكاء الاصطناعي المتطورة الاختيار بين هذين الخيارين.

كشفت النتائج عن نمط لافت للنظر. ففي جميع نماذج الذكاء الاصطناعي المختلفة التي تم اختبارها، بغض النظر عن الجهة التي طورتها أو كيفية تدريبها، اختارت الأنظمة باستمرار الخيار الذي يعطي الأولوية للعدالة. وفي سياق هذه القصص الطبية، كان هذا يعني أن الذكاء الاصطناعي فضل دائمًا التوزيع المتساوي للموارد على الاحتياجات الملحة لمريض فردي. بدا أن النماذج تعامل العدالة كمسأية تتعلق بإعطاء الجميع نفس الحصة، بدلاً من إعطاء المزيد لمن هم أكثر مرضًا أو لديهم ضرورة طبية أكبر. بدا أن هذا التفضيل للمساواة هو استجابة سطحية لمفهوم العدالة، وهو تفضيل يتغاضى عن شدة حالة المريض. وتشير الدراسة إلى أن أنظمة الذكاء الاصطنا هذه لا تقوم بالتفكير بعمق في التعقيد الأخلاقي للموقف، بل تكتفي باللجوء إلى قاعدة بسيطة وهي التوزيع المتساوي.

كما اكتشف الباحثون أن خيار الذكاء الاصطناعي يعتمد بشكل كبير على من وُصف بأنه صاحب القرار النهائي. فعندما صِيغت القصة بحيث يكون القرار من اختصاص لجنة أو مجلس إدارة مستشفى، فضل الذكاء الاصطناعي بقوة العدالة والتوزيع المتساوي للموارد. ومع ذلك، عندما صِيغ القرار على أنه يخص طبيبًا واحدًا أو المريض نفسه، فقد غير الذكاء الاصطناعي تفضيله. في تلك الحالات، ابتعدت النماذج عن المساواة الصارمة وبدأت في إعطاء الأولوية لرغبات المريض الخاصة أو رفاهيته الفورية. يشير هذا إلى أن الذكاء الاصطناعي حساس للغاية للدور الاجتماعي المخصص لصانع القرار، مما يعكس الحدس البشري حول كيفية عمل السلطة. ويبدو أنه تعلم أن اللجان مسؤولة عن العدالة، بينما الأفراد مسؤولون عن الرعاية والاختيار.

يثير هذا السلوك أسئلة مهمة حول كيفية استخدام هذه الأدوات في المستشفيات الحقيقية. تشير الدراسة إلى أن أنظمة دعم القرار المدعومة بالذكاء الاصطناعي قد تعزز بصمت هياكل السلطة القائمة بدلاً من تقديم منظور جديد ومبدئي. فإذا طلب طبيب مشورة من الذكاء الاصطناعي بشأن حالة صعبة، فإن الإجابة التي يقدمها الذكاء الاصطناعي قد تتغير ببساطة بناءً على ما إذا كان الطبيب يسأل بصفته فردًا أو كجزء من فريق. وجد الباحثون أن النماذج لا تبدو وكأنها تستنتج من المبادئ الأولية ما هو الأفضل للمريض؛ بل إنها تطابق الموقف مع نمط من السلوك المتوقع بناءً على الدور المعني. وهذا "التحيز للسلطة" يعني أن الذكاء الاصطناعي قد يفشل في تحدي الممارسات المؤسسية غير العادلة أو في إدراك متى يجب أن تتجاوز احتياجات المريض المحددة قاعدة عامة من المساواة.

لا تدعي الدراسة أن نماذج الذكاء الاصطناعي هذه معطلة أو أنها لا يمكن أن تكون مفيدة، بل هي تسلط الضوء على نقطة عمياء في كيفية تقييمنا للذكاء الاصطناعي الطبي حاليًا. تركز معظم الاختبارات على ما إذا كانت الآلة تعرف الحقائق الصحيحة أو يمكنها الإجابة على الأسئلة الطبية بشكل صحيح. وتظهر هذه الأبحاث أنه حتى عندما تكون النماذج دقيقة من الناحية الواقعية، فقد تظل لديها تحيزات خفية في كيفية وزن القيم الأخلاقية. وتشير النتائج إلى أنه مع توجهنا نحو استخدام الذكاء الاصطناعي في البيئات الطبية عالية المخاطر، يجب أن نتطلع إلى ما وراء الدقة البسيطة. نحن بحاجة إلى فهم كيف ترتب هذه الأنظمة أولوياتها للقيم، وما إذا كانت خياراتها تتماشى مع التفكير المعقد والمتعدد الأوجه الذي يستخدمه الأطباء وعلماء الأخلاق البشر عندما تكون الأرواح على المحك. وتخلص الدراسة إلى أنه بدون اهتمام دقيق بهذه التفضيلات الأخلاقية، قد تنتهي أدوات الذكاء الاصطناعي بمجرد تكرار الوضع الراهن لصنع القرار المؤسسي، وربما يكون ذلك على حساب المرضى الأكثر ضعفًا.