Position: Medical AI Neglects Real Treatment Outcomes
تجادل ورقة الموقف هذه بأن اعتماد الذكاء الاصطناعي الطبي على الآراء البشرية والتركيبات النصية بدلاً من بيانات نتائج العلاج الفعلية المستمدة من المصادر الرصدية والتجريبية يحد بشكل خطير من إمكاناته، مما يستوجب تحولاً نحو دمج بيانات النتائج الواقعية في كل من التدريب والتقييم لتحقيق الهدف الأسمى المتمثل في تحسين صحة المرضى بشكل أفضل.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
لطالما كان الطب مجالاً يمثل فيه الفرق بين التخمين الجيد والقرار المنقذ للحياة مسألة تتعلق بالبيانات. فعلى مدى عقود، ابتعد الأطباء عن الاعتماد فقط على حدس الخبراء الأفراد، وانتقلوا بدلاً من ذلك نحو نظام مبني على الخبرة الجماعية لآلاف المرضى. هذا النهج، المعروف باسم الطب القائم على الأدلة، يسعى إلى ترسيخ كل قرار في النتائج الفعلية للعلاجات بدلاً من مجرد النظريات الكامنة وراءها. إنه نظام لا يسأل فقط عما يُفترض أن يفعله الدواء، بل عما فعله بالفعل للأشخاص الذين تناولوه. وفي السنوات الأخيرة، دخلت أداة جديدة هذا المشهد: الذكاء الاصطناعي. هذه الأنظمة الحاسوبية، التي تُسمى غالباً نماذج اللغات الكبيرة، أظهرت قدرة ملحوما على قراءة النصوص الطبية، وتشخيص الحالات، والتنبؤ بالمخاطر الصحية المستقبلية. وقد تم تدريبها على مكتبات ضخمة من المجلات الطبية، والكتب الدراسية، والإرشادات السريرية، لتتعلم محاكاة لغة ومنطق الخبراء البشر.
ومع ذلك، ظهرت فجوة حرجة في كيفية بناء واختبار هذه الأنظمة الذكية. فبينما أصبحت هذه الأنظمة أفضل في تحديد الأمراض أو التنبؤ بمن قد يمرض، إلا أنها لا تُعلّم فهم العواقب الحقيقية للعلاجات التي توصي بها. السؤال الجوهري الذي يواجه الباحثين اليوم هو ما إذا كانت هذه الآلات تتعلم من القصص المكتوبة في الكتب الطبية، أم من الواقع الصعب والمضطرب غالباً لنتائج المرضى. فإذا تم تدريب الذكاء الاصطناعي فقط على آراء الخبراء والقواعد المكتوبة في الإرشادات، فقد يتعلم كيف يبدو كطبيب دون أن يفهم حقاً ما يحدث عند تطبيق علاج على إنسان حقيقي. وهذا التمييز ليس مجرد تفصيل أكاديمي؛ بل هو الفرق بين نظام يستعرض القواعد ونظام يمكنه حقاً تحسين الصحة.
تجادل ورقة بحثية جديدة بأن الجيل الحالي من الذكاء الاصطناعي الطبي يفشل في التعلم من نتائج العلاج الحقيقية. ويرى المؤلفون، وهم باحثون من معهد هارفارد بليمبيلث كير ومدرسة هارفارد للطب، أنه بينما يتم تغذية هذه النماذج بكميات هائلة من النصوص الطبية، فإنها تفتقر بشكل كبير إلى أهم البيانات على الإطلاق: وهي سجلات ما حدث بالفعل للمرضى بعد تلقيهم الرعاية. وتقترح الورقة أن المجال أصبح شديد التركيز على الخطوات الوسيطة، مثل تشخيص حالة ما أو التنبؤ بخطر ما، بينما يهمل الهدف الأسمى للطب: وهو تحسين صحة المريض من خلال العلاج. ويشير الباحثون إلى أن معظم نماذج الذكاء الاصطناعي الطبية يتم تدريبها على وثائق ثابتة مثل الإرشادات السريرية، وملصقات الأدوية، وتقارير الحالات المنشورة. وتمثل هذه المصادر إجماع المجتمع الطبي في لحظة زمنية محددة، لكنها لا تلتقط الواقع الديناميكي والطولي لكيفية سير العلاجات بمرور الوقت لدى مجموعات سكانية متنوعة.
ولتوضيح خطر الاعتماد على هذه المصادر الثابتة، فحص الباحثون كيفية تعامل نماذج الذكاء الاصطناعي الحالية مع السيناريوهات الطبية المعقدة. فقد نظروا في حالة محددة تتعلق بمريض يعاني من نوع نادر من التهاب البنكرياس تم علاجه بنجاح باستخدام دواء يسمى "إيفاكاتور" (ivacaftor). في العالم الحقيقي، نجح هذا العلاج، لكن الملصق الرسمي للدواء، وهو وثيقة معتمدة من الحكومة تُستخدم لتدريب العديد من أنظمة الذكاء الاصطناعي، لم يدرج هذا الاستخدام المحدد. وعندما سأل الباحثون نموذج ذكاء اصطناعي لتقييم جدوى هذا الدواء للمريض، استنتج النموذج، اعتماداً على الملصق الرسمي، وبشكل خاطئ أن الدواء سيكون غير فعال. كان النموذج يتبع قواعد الكتاب بدلاً من واقع تعافي المريض. حدث هذا الخطأ رغم أن الذكاء الاصطناعي كان لديه إمكانية الوصول إلى تقرير الحالة الذي يصف العلاج الناجح؛ إذ طغت عملية تدريب النموذج على الملصق الصارم للدواء على دليل النتيجة الفعلية. ووجد الباحثون أن هذه المشكلة واسعة الانتشار؛ فعندما اختبروا نماذج أخرى مقابل سيناريوهات مماثلة تتضمن إرشادات سريرية، فشلت الأنظمة غالباً في التعرف على المواقف المعقدة التي قد يحتاج فيها الطبيب إلى الانحراف عن القواعد القياسية لمساعدة مريض معين.
وتسلط الورقة الضوء أيضاً على أن الطريقة التي يتم بها تقييم أنظمة الذكاء الاصطنا هذه هي جزء من المشكلة. تعتمد العديد من الاختبارات المرجعية، أو الاختبارات المستخدمة لقياس مدى أداء الذكاء الاصطناعي، على خبراء بشريين لتقييم الإجابات. ويجادل الباحثون بأن طلب اتفاق مجموعة من الأطباء على إجابة ما ليس هو نفسه معرفة الحقيقة. ففي أحد التحليلات، وجدوا أن جزءاً كبيراً من المعايير المستخدمة لتقييم إجابات الذكاء الاصطناعي كانت مجرد اقتباسات مباشرة من الإرشادات، بدلاً من أن تكون انعكاسات للنجاح السريري الفعلي. وهذا يخلق منطقاً دائرياً حيث يتم تدريب الذكاء الاصطناعي على الإرشادات، واختباره مقابل الإرشادات، ثم مدحه لاتباع الإرشادات، حتى لو كانت تلك الإرشادات قديمة أو لا تنطبق على كل فرد. ويشير الباحثون إلى أن هذا النهج يحد من إمكانات الذكاء الاصطناعي ليصبح شريكاً حقيقياً في الطب، قادراً على اكتشاف رؤى جديدة بدلاً من مجرد تكرار ما كُتب بالفعل.
يقترح المؤلفون تحولاً جذرياً في كيفية تطوير الذكاء الاصطناعي الطبي. فبدلاً من تدريب هذه الأنظمة بشكل أساسي على النصوص، يوصون باستخدام بيانات المرضى الطولية، مثل السجلات الصحية الإلكترونية ومطالبات التأمين، والتي تتبع ما تم تقديمه من علاجات وما حدث للمرضى بعد ذلك. تحتوي هذه السجلات على المادة الخام للأدلة الواقعية، حيث تظهر علاقات السبب والنتيجة بين العلاج وتعافي المريض أو تدهور حالته. كما يقترح الباحثون أن اختبار هذه النماذج يجب أن ينتقل من مطالبة الذكاء الاصطناعي بسرد الإرشادات إلى مطالبته بالتنبؤ بنتائج التجارب الواقعية أو محاكاة نتائج التجارب السريرية. ومن خلال ترسيخ تدريب وتقييم هذه الأنظمة في نتائج المرضى الفعلية، يمكن للمجال أن يتجه نحو مستقبل يساعد فيه الذكاء الاصطناعي الأطباء على اتخاذ قرارات ليست سليمة نظرياً فحسب، بل فعالة عملياً للأشخاص الجالسين أمامهم.
لا تقترح الورقة أن الذكاء الاصطناعي الطبي الحالي عديم الفائدة أو أن الاختبارات المرجعية الحالية تفتقر تماماً للقيمة. ويقر الباحثون بأن هذه الأدوات قد حققت تقدماً سريعاً وأظهرت قدرات قيمة في مجالات مثل التشخيص واسترجاع المعلومات. ومع ذلك، فإنهم يجادلون بأن المجال قد وصل إلى نقطة سيمنع فيها الاستمرار في الاعتماد على نفس أساليب التدريب والتقييم تحقيق القفزة التالية. والهدف ليس التخلص من المعرفة الواردة في المؤلفات الطبية، بل ضمان أن أنظمة الذكاء الاصطناعي المبنية لاستخدام تلك المعرفة هي أيضاً مرتكزة في واقع رعاية المرضى. ومن خلال دمج نتائج العلاج الحقيقية في جوهر تطويرها، يعتقد الباحثون أن الذكاء الاصطناعي الطبي يمكن أن يتطور من نظام يقرأ القواعد إلى نظام يفهم العواقب، مما يساعد في نهاية المطاف على كتابة إرشادات أفضل وتحسين صحة المرضى في كل مكان.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.