How Meta-research Can Pave the Road Towards Trustworthy AI In Healthcare: Catalogue of Ideas and Roadmap for Future Research

الصورة الكبيرة: مجموعتان تحاولان حل نفس المشكلة

تخيل عالم الذكاء الاصطناዊ في الرعاية الصحية (برامج الكمبيوتر التي تساعد الأطباء في تشخيص الأمراض) كموقع بناء صاخب وفوضوي. الجميع يتسابق لبناء ناطحات سحاب جديدة ولامعة (أدوات الذكاء الاصطنافي) لإنقاذ الأرواح.

ومع ذلك، هناك مجموعتان من الخبراء يراقبون هذا الموقع:

1. بُناة الذكاء الاصطنافي: هم مهندسون بارعون يركزون على جعل المباني أكثر طولاً وسرعة. يهتمون بالكود (البرمجية)، والبيانات، والسرعة.
2. خبراء "علم العلوم" (الباحثون الميتا-بحثيون): هؤلاء يشبهون مفتشي المباني ومدققي مراقبة الجودة. هم لا يبنون ناطحات السحاب، بل يدرسون كيفية بناء المباني. يتساءلون: "هل المخططات واضحة؟ هل اتبع البناؤون قواعد السلامة؟ هل الأساس متين؟ لماذا تنهار بعض المباني لاحقًا؟"

المشكلة: حتى الآن، لم تتحدث هاتان المجموعتان مع بعضهما البعض إلا نادراً. كان البناؤون يندفعون للأمام، بينما كان المفتشون يعملون في مبنى مختلف تماماً.

الحل: هذا البحث هو تقرير عن ورشة عمل استمرت ثلاثة أيام حيث جلست هاتان المجموعتان معاً أخيراً. لقد أدركا أنهما تتشاركان الهدف نفسه: الثقة. يريدان التأكد من أن أدوات الذكاء الاصطنافي في المستشفيات آمنة، وصادقة، وتعمل بالفعل من أجل المرضى.

---

العقبات السبع الكبرى (وكيفية تجاوزها)

حددت المجموعة سبع "حفر" رئيسية في الطريق نحو ذكاء اصطنافي جدير بالثقة، وحددت كيف يمكن لـ "المفتشين" (الباحثين الميتا-بحثيين) مساعدة "البُناة" (خبراء الذكاء الاصطنافي) في إصلاحها.

1. الهدف المتحرك (الطبيعة الديناميكية للذكاء الاصطنافي)

• المشكلة: الذكاء الاصطنافي مثل الحرباء. قواعده تتغير بناءً على الموقف. ما هو "جيد" اليوم قد يكون "سيئاً" غداً. غالباً ما يرتبك البناؤون لأن أهداف اللعبة تتحرك باستمرار.
• الحل: يمكن للمفتشين إنشاء خريطة للارتباك. سيساعدون في تدوين الأماكن التي تتصادم فيها القواعد بدقة حتى لا يشعر البناؤون بأنهم فقدوا عقولهم، بل يدركون أنهم يحتاجون فقط لاتخاذ قرار بشأن المقايضة (Trade-off).

2. فجوة "المختبر مقابل العالم الحقيقي"

• المشكلة: تخيل سيارة سباق تفوز في كل مرة على مضمار اختبار مثالي وخالٍ (المختبر). لكن عندما تقودها في مدينة ممطرة مليئة بالحفر (مستشفى حقيقي)، فإنها تصطدم. العديد من أدوات الذكاء الاصطنافي تعمل بشكل رائع في المختبر ولكنها تفشل في المستشفيات الحقيقية لأنها لم تُختبر في "المطر".
• الحل: يريد المفتشون إنشاء نظام "رخصة قيادة" للذكاء الاصطنافي. تماماً كما تحتاج إلى اجتياز اختبار الطريق قبل قيادة السيارة، يحتاج الذكاء الاصطنافي إلى إثبات كفاءته في المستشفيات الحقيقية الفوضوية قبل السماح له بالدخول إلى السوق. كما يريدون إنشاء "مراقبة ما بعد التسويق" (مثل ميكانيكي يفحص السيارة كل شهر) للتأكد من أنها لن تتعطل لاحقاً.

3. مشكلة "النسخ واللصق" (قابلية التكرار)

• المشكلة: إذا أخبرت صديقاً لك بكيفية خبز كعكة، وحاول صديقك خبزها لكنها خرجت كقطعة طوب، فهذا يعني أن خطأ ما قد حدث. في الذكاء الاصطنافي، يقول العديد من الباحثين: "هذا هو الكود الخاص بي!" لكنهم ينسون مشاركة المكونات (البيانات) أو درجة حرارة الفرن (الإعدادات). لا يستطيع أحد نسخ عملهم لإثبات أنه حقيقي.
• الحل: سيعمل المفتشون كـ شرطة الوصفات. سيطالبون كل دراسة ذكاء اصطنافي بمشاركة "الوصفة" الكاملة (الكود، البيانات، والخطوات) حتى يتمكن أي شخص من خبز نفس الكعكة. إذا لم تتمكن من مشاركة الوصفة، فلن تحصل على رخصة لبيع الكعكة.

4. المسطرة الخاطئة (مقاييس التقييم)

• المشكلة: تخيل أنك تحاول قياس حمام سباحة باستخدام ميزان حرارة. إنها الأداة الخاطئة! غالباً ما يستخدم باحثو الذكاء الاصطنافي "مسطرة" خاطئة (مقاييس). قد يقيسون سرعة تخمين الذكاء الاصطنافي للمرض، لكنهم ينسون قياس ما إذا كان الذكاء الاصطنافي يساعد المريض فعلياً على التحسن.
• الحل: سيقوم المفتشون بإنشاء صندوق أدوات موحد. سيخبرون البناؤين: "إذا كنت تبني جسراً، استخدم مسطرة للطول. إذا كنت تبني مستشفى، استخدم مسطرة لسلامة المرضى". يريدون التوقف عن قياس "السرعة" فقط والبدء في قياس "الفائدة".

5. "الصندوق الأسود" لاكتشاف الأدوية

• المشكلة: قبل أن يساعد الذكاء الاصطنافي المرضى، فإنه يساعد العلماء في اكتشاف أدوية جديدة. لكن أحياناً، يعطي الذكاء الاصطنافي إجابة "ربما"، فينفق العلماء ملايين الدولارات وسنوات في اختبارها في المختبر، ليكتشفوا في النهاية أن الذكاء الاصطنافي كان مخطئاً. الأمر يشبه تخمين أرقام اليانصيب الفائزة وشراء التذاكر بناءً على حدس.
• الح الحل: يريد المفتشون فرض اختبارات صارمة قبل بدء العمل المخبري المكلف. يريدون التأكد من أن "حدوس" الذكاء الاصطنافي مدعومة بأدلة صلبة حتى لا نهدر المال أو حياة الحيوانات على تخمينات سيئة.

6. ضباب الحرب (نقص الشفافية)

• المشكلة: تخيل أنك تدخل مستشفى وترى طبيباً آلياً، لكن ليس لديك أدنى فكرة عمن بناه، أو ما هي البيانات التي تعلم منها، أو ما هي أخطاؤه. إنه صندوق أسود. الشركات تخشى مشاركة هذه المعلومات لأنها تعتبرها أسراراً تجارية، لكن المرضى بحاجة لمعرفة المخاطر.
• الحل: يريد المفتشون تركيب نوافذ في الصندوق الأسود. سيدفعون باتجاه قواعد تجبر الشركات على القول: "هكذا بنينا هذا، وهذه هي أخطاؤنا، وهكذا قد يفشل". الشفافية تبني الثقة، حتى لو اعترفت بالقصور.

7. التحدث بلغات مختلفة

• المشكلة: غالباً ما يستخدم البناؤون والمفتشون نفس الكلمات ولكنهم يقصدون أشياء مختلفة. على سبيل المثال، يقول أحدهم "موثوق" ويقصد "لا يتعطل"، بينما يقصد الآخر "إنه يتخذ القرار الصحيح". الأمر يشبه شخصاً يطلب "بسكويت" (كعكة) ويحصل على "بسكويت" (خبز).
• الحل: سيعمل المفتشون كـ مترجمين. سيقومون بإنشاء قاموس مشترك حتى يتفق الجميع على ما تعنيه كلمات مثل "موثوق"، "متين"، و"آمن" بالفعل.

---

خارطة الطريق: خطة من ثلاث خطوات

لا يكتفي البحث بسرد المشكلات؛ بل يقدم دليلاً خطوة بخطوة (خارطة طريق) للمستقبل، منظماً حسب دورة حياة أداة الذكاء الاصطنافي:

1. المرحلة الأولى: المخطط (التطوير)
   • قبل بناء الذكاء الاصطنافي حتى: نحتاج للاتفاق على القواعد. ماذا نبني؟ لماذا؟ ما هي المخاطر الأخلاقية؟ يساعد المفتشون في كتابة "الدستور" للمشروع حتى لا نبني ناطحة سحاب فوق مستنقع.
2. المرحلة الثانية: تجربة القيادة (التحقق من الصحة)
   • قبل ذهاب الذكاء الاصطنافي إلى المستشفى: نحتاج لاختباره بصرامة. ليس فقط على مضمار مثالي، بل في المطر أيضاً. يضمن المفتشون أن اختبارات "رخصة القيادة" عادلة وأن الذكاء الاصطنافي جاهز فعلياً للعالم الحقيقي.
3. المرحلة الثالثة: الصيانة (ما بعد النشر)
   • بعد استخدام الذكاء الاصطنافي: يتغير الذكاء الاصطنافي بمرور الوقت (مثل محرك السيارة الذي يتآكل). يقوم المفتشون بوضع نظام للمراقبة المستمرة للذكاء الاصطنافي. إذا بدأ في ارتكاب الأخطاء، نحتاج للإمساك به فوراً وإصلاحه.

تشبيه "الصناعات الدوائية"

يستخدم البحث مقارنة رائعة: الذكاء الاصطنافي مثل الدواء الجديد.

• عندما نخترع دواءً جديداً، لا نبيعه فحسب. نختبره في المختبرات، ثم في مجموعات صغيرة، ثم في مجموعات كبيرة، ونراقب الآثار الجانبية لسنوات.
• يجب أن نعامل الذكاء الاصطنافي بنفس الطريقة. لا يمكننا القول: "إنه يعمل في الكمبيوتر، إذاً هو آمن للمرضى". نحن بحاجة إلى نفس المستوى من الرعاية، والاختبار، والمراقبة.

الخلاًصة

هذا البحث هو دعوة للعمل. يقول: "توقفوا عن بناء الذكاء الاصطنافي في الظلام."

من خلال إشراك "المفتشين" (الباحثين الميتا-بحثيين) لمساعدة "البُناة" (خبراء الذكاء الاصطنافي)، يمكننا الانتقال من "الغرب المتوحش" للبرمجيات غير المختبرة إلى نظام رعاية صحية آمن وموثوق وجدير بالثقة حيث يساعد الذكاء الاصطنافي المرضى حقاً دون التسبب في ضرر. الأمر يتعلق بالتباطؤ قليلاً للتأكد من أن الأساس متين قبل بناء السقف.