What Can Artificial Intelligence Learn from Medicine? Generative Analogies and Reliable Machine Learning Systems

في السنوات القليلة الماضية، بدأ الأطباء وعلماء الكمبيوتر بالعمل معاً لبناء أدوات ذكاء اصطناعي يمكنها المساعدة في تشخيص الأمراض، والتنبؤ بنتائج المرضى، واقتراح العلاجات. هذه الأدوات، المعروفة باسم أنظمة تعلم الآلة، قوية لأنها تستطيع إيجاء أنماط في كميات هائلة من البيانات قد يغفل عنها البشر. ومع ذلك، هناك مشكلة تؤرق الجميع: هذه الأنظمة غالباً ما تعمل كـ "صناديق سوداء". فهي تقدم نتائج دون توضيح كيفية وصولها إليها، وتعتمد على روابط إحصائية بدلاً من نظريات واضحة حول سبب فعالية علاج معين. وهذا يخلق معضلة للأطباء الذين يحتاجون إلى الثقة في الأدوات التي يستخدمونها. فإذا قال الكمبيوتر إن مريضاً يعاني من مرض ما، ولكن لا أحد يفهم لماذا قال ذلك، فكيف يمكن للطبيب أن يتأكد من صحة الأمر؟ لقد أدى هذا اليقين إلى سؤال صعب: كيف نتحقق من أن هذه الأنظمة المعقدة والغامضة موثوقة بما يكفي لاستخدامها في المستشفيات الحقيقية؟

اقترح فيلسوفان، إيمانويل راتي ولينا زوخوفسكي، طريقة جديدة للتفكير في هذه المشكلة من خلال النظر في كيفية تعامل الطب نفسه مع شكوك مماثلة. وهما يقترحان أنه لا ينبغي لنا محاولة إجبار الذكاء الاصطناعي على أن يصبح شفافاً أو قابلاً للتفسير بالطريقة التي نتوقعها عادةً. بدلاً من ذلك، يجادلان بأنه يجب علينا التعلم من التاريخ الطويل لكيفية التحقق من فعالية الأدوية الجديدة. فتماماً كما لا يعرف الأطباء دائماً كيف يعمل قرص دواء معين بدقة داخل الجسم، إلا أنهم لا يزالون يعرفون أنه آمن وفعال بفضل العملية الصارمة المستخدمة لاختباره. ويقترح الباحثان أنه يمكن تكييف نفس عملية الاختبار الصارمة المستخدمة للأدوية لإنشاء معيار جديد للثقة في الذكاء الاصطناعي.

يرتكز جوهر حجتهما على مقارنة بين عمليتين مختلفتين تماماً: تطوير الأدوية الجديدة وبناء أنظمة تعلم الآلة. في الطب، عندما يتم اكتشاف دواء جديد، غالباً لا يفهم العلماء الآلية البيولوجية الكامنة وراءه بشكل كامل. قد لا يعرفون بالضبط كيف تتفاعل الجزيئة مع خلايا الجسم. ورغم هذا النقص في المعرفة النظرية، يمكن إثبات فعالية الدواء. ويتم تحقيق ذلك من خلال عملية تسمى "الترجمة السريرية"، حيث يقوم الباحثون باختبار الدواء بشكل منهجي تحت ظروف عديدة ومختلفة. فهم يحددون الجرعة المناسبة، وأنواع المرضى المحددين الذين يساعدهم، والحالات التي قد يفشل فيها. ومن خلال جمع هذه المعلومات، يشكلون ملفاً تفصيلياً لفائدة الدواء، حتى لو ظل "السبب" الكامن وراءه غامضاً.

يجادل راتي وزوخوفسكي بأن أنظمة تعلم الآلة تواجه نفس الموقف تماماً. فهذه الأنظمة غالباً ما تكون "لا نظرية" (atheoretic)، بمعنى أنها لا تعتمد على نظريات من صنع الإنسان؛ وهي "ارتباطية" (associationist)، بمعنى أنها تجد روابط بين نقاط البيانات دون فهم السبب؛ وهي "غامضة" (opaque)، بمعنى أن عملية اتخاذ القرار الداخلية فيها مخفية. وبسبب ذلك، فإن محاولة جعل الذكاء الاصطناعي يشرح منطقه هي أمر مستحيل في كثير من الأحيان. وبدلاً من محاربة هذه الطبيعة، يقترح المؤلفان أن نتبع النهج الطبي. يجب أن نتوقف عن محاولة المطالبة بأن يشرح الذكاء الاصطناعي منطقه، ونبدأ في المطالبة بمعرفة الظروف المحددة التي يعمل فيها.

ولجعل هذه الفكرة ملموسة، طور الباحثان إطاراً جديداً يطلقان عليه اسم "المجموعة التعليمية المتكاملة" (learning ensemble). فكر في هذا كدليل تعليمات مفصل يتجاوز مجرد القول بأن "هذا البرنامج الحاسوبي يعمل". في الطب، الدواء ليس مجرد مادة كيميائية؛ بل هو مادة كيميائية تُستخدم بطريقة معينة، لمجموعة محددة من الناس، مع آثار جانبية محددة. وبالمثل، فإن نظام تعلم الآلة ليس مجرد قطعة من الكود البرمجي؛ بل هو نظام يعمل فقط عند استيفاء شروط معينة. والمجموعة التعليمية المتكاملة هي مجموعة من المعلومات التي تحدد تلك الشروط. وهي تتضمن تفاصيل حول البيانات المستخدمة لتدريب النظام، والأجهزة المحددة التي يعمل عليها، وأنواع المرضى الذين تم اختباره عليهم، والمقاييس الدقيقة المستخدمة للحكم على نجاحه.

يقسم المؤلفان هذه المعلومات إلى ثلاث فئات رئيسية. الفئة الأولى هي "حدود الموثوقية". يوثق هذا القسم البيئة التي بُني فيها النظام. ويطرح أسئلة مثل: هل كانت البيانات نظيفة ومتنوعة، أم كانت فوضوية ومحدودة؟ هل تم اختبار النظام على أجهزة كمبيوتر قوية، أم عانى مع الأجهزة الأساسية؟ إذا جاءت البيانات من مستشفى واحد فقط، فقد يفشل النظام عند استخدامه في مستشفى آخر بمعدات مختلفة. ومن خلال توثيق هذه الحدود، يمكن للمستخدمين معرفة أين يكون النظام آمناً للاستخدام وأين قد يتعطل.

الفئة الثانية هي "الأداء". هذا ليس مجرد رقم واحد يقول إن النظام دقيق بنسبة 90%. بدلاً من ذلك، يتطلب تقريراً مفصلاً حول كيفية أداء النظام في مواقف مختلفة. على سبيل المثال، هل يعمل بشكل متساوٍ للمرضى الصغار وكبار السن، أو للناس من مختلف الأجناس؟ هل يرتكب المزيد من الأخطاء عندما تكون البيانات مختلفة قليلاً عما تدرب عليه؟ ويؤكد الباحثون أن معرفة أين يفشل النظام لا تقل أهمية عن معرفة أين ينجح. فإذا كان النظام بارعاً في تشخيص نوع واحد من السرطان ولكنه سيء جداً في نوع آخر، فيجب تسجيل هذا الفشل تحديداً حتى لا يستخدمه الأطباء في الحالات الخاطئة.

أما الفئة الثالثة فهي "البعد الوظيفي". ينظر هذا إلى ما يفترض أن يفعله النظام فعلياً في العالم الحقيقي. قد يكون النظام مثالياً من الناحية الرياضية في التنبؤ برقم ما، ولكن إذا كان هذا الرقم لا يساعد الطبيب في اتخاذ قرار أفضل، فإن النظام يصبح عديم الفائدة. هذا الجزء من الإطار يتحقق مما إذا كانت مخرجات النظام تتوافق مع احتياجات الفريق الطبي. على سبيل المثال، إذا كان النظام مصمماً للمساعدة في قرار الطبيب بشأن إدخال المريض إلى المستشفى، فيجب اختباره لمعرفة ما إذا كان يساعد حقاً في ذلك القرار المحدد. وإذا استُخدم النظام لغرض لم يُصمم من أجله، فإنه يصبح غير موثوق، بغض النظر عن مدى جودة أدائه لمهمته الأصلية.

يوضح الباحثون قوة هذا النهج من خلال أمثلة واقعية للفشل. فقد أشاروا إلى دراسة ادعى فيها نظام ذكاء اصطناعي القدرة على اكتشاف السرطان من خلال النظر في التركيبة الجينية للبكتيريا في جسم الإنسان. بدا النظام يعمل بشكل مثالي في البداية، بدقة عالية جداً. ومع ذلك، عندما نظر الباحثون عن كثب في البيانات، وجدوا أن النظام لم يتعلم في الواقع عن السرطان على الإطلاق. لقد تعلم التعرف على نوع معين من الأخطاء في عملية جمع البيانات التي كانت أكثر شيوعاً لدى مرضى السرطان. ولأن النظام كان غامضاً، فقد ظل هذا الخطأ مخفياً. ولو استخدم الباحثون إطار "المجموعة التعليمية المتكاملة"، لكان لزاماً عليهم توثيق مصادر البيانات والظروف المحددة للاختبار. وكان هذا التوثيق سيكشف أن البيانات كانت معيبة وأن النظام كان يعتمد على طريق مختصر بدلاً من اتصال بيولوجي حقيقي.

يتضمن مثال آخر نظاماً صُمم للتنبؤ بالمرضى المصابين بالالتهاب الرئوي المعرضين لخطر الوفاة العالي. تعلم النظام أن المرضى المصابين بالربو هم في الواقع أقل عرضة للخطر. بدا هذا منافياً للمنطق. والسبب هو أن النظام تعلم أن مرضى الربو يتلقون علاجاً مكثفاً وفعالاً في المستشفى، مما يقلل من خطر وفاتهم. ومع ذلك، إذا استخدمه طبيب لتقرير من يحتاج للعلاج، فقد يعتقد خطأً أن مرضى الربو لا يحتاجون إلى رعاية. كان النظام صحيحاً رياضياً بناءً على البيانات، لكنه كان خطيراً وظيفياً لأنه لم يفهم سياق العلاج الطبي. وكان إطار المجموعة التعليمية المتكاملة سيكتشف ذلك من خلال اشتراط تعريف واضح لغرض النظام والتحقق من المعرفة الطبية الواقعية.

يشير المؤلفون بحذر إلى أن هذا الإطار لا يحل لغز كيفية عمل تعلم الآلة. ستظل الأنظمة غامضة، وستظل تعتمد على الأنماط الإحصائية بدلاً من النظريات الواضحة. تكمن قيمة المجموعة التعليمية المتكاملة ليس في جعل الذكاء الاصطناعي شفافاً، بل في جعل "استخدام" الذكاء الاصطناعي شفافاً. إنه ينقل التركيز من السؤال "كيف يفكر الكمبيوتر؟" إلى السؤال "تحت أي ظروف دقيقة يمكننا الوثوق بإجابة الكمبيوتر؟". هذا تحول دقيق ولكنه جوهري. فهو يسمح للأطباء باستخدام أدوات قوية دون الحاجة إلى فهم الرياضيات المعقدة وراءها، طالما أن لديهم خريطة واضحة لأماكن استخدام هذه الأدوات بأمان.

يشير هذا النهج إلى طريقة جديدة لتنظيم وتقييم الذكاء الاصطناعي في الطب. فبدلاً من المطالبة بأن يكون كل خوارزمية قابلة للتفسير، يجب على المنظمين والمستشفيات المطالبة بـ "مجموعة تعليمية متكاملة" كاملة لكل نظام. سيكون هذا المستند بمثابة شهادة موثوقية، تفصل البيانات، والأداء، والاستخدام المقصود. وإذا أراد مستشفى استخدام نظام ما، فيمكنه التحقق من المجموعة المتكاملة ليرى ما إذا كان وضعه الخاص يتوافق مع الظروف التي ثبت نجاح النظام فيها. وإذا لم تتطابق الظروف، فلا ينبغي استخدام النظام. هذه الطريقة تقبل حدود التكنولوجيا الحالية مع توفير طريقة قوية لإدارة المخاطر.

تخلص الورقة إلى أن هذا الإطار يمثل خطوة عملية للأمام. فهي لا تدعي أنها حلت جميع مشابكل الذكاء الاصطناعي، ولا تعد بأن هذه الأنظمة لن ترتكب أخطاء أبداً. بدلاً من ذلك، هي تقدم طريقة منظمة لبناء الثقة. ومن خلال معاملة أنظمة تعلم الآلة مثل العلاجات الطبية - حيث ينصب التركيز على ظروف الاستخدام بدلاً من الآلية الداخلية - يمكننا إنشاء مسار أكثر أماناً وموثوقية لدمج هذه التقنيات في الرعاية الصحية. الهدف ليس جعل الصندوق الأسود شفافاً، بل بناء دليل موثوق يخبرنا بالضبط أين يمكننا النظر في الداخل بأمان.