Validation asymmetry in generative AI–generated clinical educational content: a scoping review

تخيل فصلاً دراسياً يكون فيه المعلم ذكاءً اصطناعياً قادراً على كتابة دراسات حالة طبية، ورسم مخططات تشريحية، ومحاكاة محادثات مع المرضى في ثوانٍ معدودة. هذه التكنولوجيا، المعروفة بالذكاء الاصطناعي التوليدي، تدخل بسرعة إلى كليات الطب والبرامج التدريبية للممرضين والأطباء وغيرهم من المهنيين الصحيين. وهي تعد بإنشاء مواد تعليمية لا حصر لها، تتسم بالطلاقة والواقعية وتكون مصممة خصيصاً لتناسب طلاباً بعينهم. ولكن مع شيوع هذه الأدوات، برز سؤال جوهري: هل مجرد قدرة الذكاء الاصطناعي على إنتاج قصة مقنعة أو صورة واقعية يعني أن المحتوى آمن وعادل للاستخدام في التدريس؟ إن القضية الأساسية ليست في قدرة الآلة على التحدث أو الرسم، بل في ما إذا كانت المعلومات التي تولدها دقيقة، وما إذا كانت تعامل جميع أنواع البشر بإنصاف، وما إذا كانت الأساليب المستخدمة لإنشائها واضحة بما يكفي لتكون موثوقة.

لقد وضعت مراجعة شاملة حديثة للأبحاث المنشورة بين عامي 2020 و2026 هدفاً للإجابة على هذا السؤال تحديداً. فحص الباحثون 161 دراسة تناولت كيفية استخدام الذكاء الاصطناعي التوليدي لإنشاء محتوى تعليمي للمهن الصحية. لم يكن اهتمامهم منصباً على ما إذا كان الطلاب يحبون الذكاء الاصطناعي أو مدى سرعة عمله، بل ركزوا على ثلاثة مجالات محددة للتحقق من الصحة: ما إذا كانت الحقائق الطبية صحيحة، وما إذا كانت الأشخاص والمجموعات المصورة في المحتوى ممثلين بإنصاف دون صور نمطية ضارة، وما إذا كانت الاستراتيجيات المستخدمة لإصلاح الأخطاء قد نجحت بالفعل. ووجد الفريق تفاوتاً صارخاً في كيفية فحص هذه الجوانب المختلفة؛ فبينما فحصت كل دراسة تقريباً ما إذا كانت الحقائق الطبية صحيحة، فحصت دراسات قليلة جداً ما إذا كان المحتوى عادلاً لمختلف المجموعات من الناس، وقلت حتى عن ذلك الدراسات التي اختبرت ما إذا كانت الإصلاحات المقترحة قد عالجت المشكلات فعلياً.

اكتشف الباحثون أنه من بين 161 دراسة تمت مراجعتها، ركزت 156 منها، أي ما يقرب من 97 بالمائة، على التحقق من "الأمانة التمثيلية". وبمعنى مبسط، يعني هذا أنها كانت تتحقق مما إذا كان نتاج الذكاء الاصطناعي دقيقاً طبياً، وما إذا كان يحتوي على حقائق حقيقية، وما إذا كان يتجنب اختلاق المعلومات أو "الهلوسة" في التفاصيل. وهذا فحص حيوي، لأن تعلم طالب طب من تشخيص زائف قد يكون أمراً خطيراً. ومع ذلك، عندما بحث الباحثون عن الدراسات التي فحصت التحيز الديموغرافي — مثل ما إذا كان الذكاء الاصطناعي يصور باستمرار أعراقاً أو أجناساً أو أعماراً معينة بطرق نمطية أو يستبعدها تماماً — وجدوا 21 دراسة فقط، وهو ما يمثل 13 بالمائة فقط من الإجمالي. ومن بين تلك الدراسات القليلة التي بحثت في التحيز، وجدت 18 دراسة أن الذكاء الاصطناعي يعيد إنتاج الصور النمطية أو يخلق تمثيلات غير متوازنة. فعلى سبيل المثال، أظهرت بعض الصور المولدة أن الممرضين أو الأطباء ينتمون إلى جنس أو عرق واحد فقط، وربطت بعض الحالات السريرية أمراضاً معينة بمجموعات عرقية محددة بطرق لا تتوافق مع الواقع.

هذا الفجوة في الاهتمام هي ما يسميه المؤلفون "عدم تماثل التحقق". وهي تشير إلى أن المجال بارع حالياً في السؤال: "هل هذا صحيح واقعياً؟" ولكنه ليس بارعاً بعد في السؤال: "هل هذا عادل للجميع؟". كما سلطت المراجعة الضوء على أن المحتوى الذي خضع للاختبار كان في الغالب نصياً، مع عدد أقل من الدراسات التي بحثت في الصور أو المحادثات. ومن المثير للدهشة أنه لم تختبر أي من الدراسات التي بحثت في الذكاء الاصطناعي الحواري، مثل المرضى الافتراضيين الذين يتحدثون إلى الطلاب، هذه التحيزات الديموغرافية بشكل صريح. وهذا لا يعني أن التحيز غائب في تلك المحادثات، بل يعني ببسا هم لم يبحث أحد عنه بعد. وأشار الباحثون أيضاً إلى أنه بينما اقترحت دراسات عديدة طرقاً لإصلاح هذه الأخطاء — مثل تغيير التعليمات المقدمة للذكاء الاصطناعي أو جعل خبراء بشريين يراجعون المخرجات — فإن جزءاً صغيراً منها فقط قام باختبار ما إذا كانت تلك الإصلاحات قد نجحت بالفعل. وفي الحالات القليلة التي اختبرت فيها تلك الإصلاحات، كانت النتائج مختلطة، حيث لم تحل العديد من الاستراتيجيات المشكلة إلا جزئياً بدلاً من القضاء عليها.

تعلق اكتشاف هام آخر بالشفافية. فلكي تكون الدراسة مفيدة، يحتاج العلماء الآخرون إلى معرفة كيفية استخدام الذكاء الاصطناعي بالضبط حتى يتمكنوا من تكرار التجربة. ومع ذلك، في 122 من أصل 161 دراسة، لم يذكر المؤلفون الإعدادات أو المعايير المحددة المستخدمة لتوليد المحتوى. وبدون معرفة هذه التفاصيل، من المستحيل معرفة ما إذا كانت النتائج ستكون هي نفسها إذا تم تكرار الدراسة اليوم، خاصة وأن أنظمة الذكاء الاصطناعي هذه تتغير وتتحدث باستمرار. كما وجدت المراجعة أن معظم الدراسات لم تذكر من الذي مول البحث أو ما إذا كان لدى الباحثين أي تضارب في المصالح، وهي تفاصيل معيارية مطلوبة للثقة في النتائج العلمية.

إن استنتاج هذه المراجعة ليس أن الذكاء الاصطناعي التوليدي معطل، بل إن الطريقة التي نتحقق بها من عمله غير مكتملة. ويجادل المؤلفون بأنه لكي يُستخدم المحتوى الناتج عن الذكاء الاصطناعي بأمان في التعليم، يجب التحقق منه كمورد متعدد الأبعاد. وهذا يعني أنه قبل أن تستخدم كلية طب دراسة حالة كتبها الذكاء الاصطناعي، يتعين عليها التحقق ليس فقط من أن التشخيص صحيح، بل أيضاً من أن المريض الموصوف في القصة يمثل تنوعاً واقعياً للناس، ومن أن أي خطوات اتخذت لضمان العدالة قد ثبت نجاحها بالفعل. إن التركيز الحالي على الدقة الواقعية وحدها هو أمر غير كافٍ. ومع تحول هذه الأدوات إلى جزء قياسي من التدريب الطبي، يجب أن تتوسع معايير التحقق منها لتشمل العدالة والشفافية، لضمان أن يكون مستقبل تعليم الرعاية الصحية مبنياً على محتوى ليس ذكياً فحسب، بل عادلاً وموثوقاً أيضاً.