Retrieval, not hallucinations, will be the limiting factor for LLM-based clinical AI tools

تخيل أنك تحاول حل لغز ما، ولكن بدلاً من محقق، لديك مساعد آلي فائق الذكاء. هذا الروبوت قد قرأ كل كتاب كُتب تقريباً ويمكنه التحدث كالبشر. في عالم الطب، تُسمى هذه الروبوتات "نماذج اللغات الكبيرة" (LLMs). يتم تعليمها لمساعدة الأطباء من خلال قراءة سجلات المرضى، وتلخيص ما هو خاطئ، واقتراح العلاجات. لكن هنا تكمن المشكلة: لا يستطيع الروبوت قراءة قاعدة بيانات المستشفى بأكملها دفعة واحدة لأنها ضخمة جداً. لذا، قبل أن يجيب على سؤال، يتعين عليه إرسال "فريق بحث" للعثور على الصفحات المحددة من تاريخ المريض التي تهمنا. تُسمى هذه العملية "الاسترجاع" (Retrieval).

فكر في الروبوت كطاهٍ بارع، وفي التاريخ الطبي للمريض كمخزن ضخم وفوضوي. الطاهي (الذكاء الاصطناعي) مذهل في الطبخ، ولكن إذا نسي فريق البحث (نظام الاسترجاع) إحضار البيض، فلن يتمكن الطاهي من صنع عجة، مهما كانت موهبته. لفترة طويلة، كان الجميع قلقين من أن يقوم الطاهي بمجرد اختراع مكونات غير موجودة — مثل الادعاء بأنه استخدم "بيض اليونيكورن" بينما لا يوجد شيء من هذا القبيل. يُسمى هذا "الهلوسة" (Hallucination). لكن هذه الورقة تشير إلى أنه بينما يعد اختلاق الأشياء أمراً سيئاً، فإن الخطر الحقيقي والصامت هو أن "يفقد" الطاهي المكونات الحقيقية لأنه لم يجدها في المخزن. إذا نسي الروبوت إخبار الطبيب بأن المريض يعاني من حساسية تجاه البنسلين لأنه لم يستطع العثية على تلك الملحوظة في المخزن الضخم، فقد تكون العواقب أسوأ بكثير من مجرد حقيقة سخيفة ومختلقة.

---

الفكرة الكبرى للورقة: القاتل الصامت في المخزن

تجادل هذه الورقة بأن أكبر عقبة أمام الذكاء الاصطدي الطبي ليست قيام الروبوت باختلاق أشياء (الهلوسة)؛ بل هي فشل الروبوت في العثور على المعلومات الصحيحة في المقام الأول (أخطاء الاستدعاء/الاسترجاع). يريد المؤلفون، وهم فريق من الخبراء من جامعات وعيادات، تحويل المحادثة من "هل يكذب الذكاء الاصطناعي؟" إلى "هل أغفل الذكاء الاصطناعي شيئاً حيوياً؟".

نوعا الأخطاء

لفهم وجهة نظرهم، يقارن المؤلفون أخطاء الذكاء الاصطناعي بنوعين كلاسيكيين من الأخطاء:

1. "الإنذار الكاذب" (خطأ الدقة - Precision Error): هذا يحدث عندما يقول الذكاء الاصطناعي إن شيئاً ما حقيقي، ولكنه في الواقع خاطئ. في العالم الطبي، هذه هي "الهلوسة" الشهيرة. على سبيل المثال، قد يقول الذكاء الاصطناعي: "المريض يعاني من مرض استوائي نادر"، بينما هو في الواقع لا يعاني منه. هذا أمر مخيف، ولكنه عادة ما يكون من السهل اكتشافه. إذا قال الذكاء الاصطناعي شيئاً غريباً، يمكن للطبيب النظر في الملحوظة المصدرية والقول: "مهلاً، هذا ليس موجوداً في السجل". الأمر يشبه ادعاء الطاهي باستخدامه توابل سرية ليست في المخزن؛ يمكنك ببساطة التحقق من المخزن ورؤية أنها مفقودة.
2. "الحذف الصامت" (خطأ الاستدعاء - Recall Error): هذا يحدث عندما "يترك" الذكاء الاصطناعي شيئاً مهماً هو في الواقع موجود في السجل. ربما يعاني المريض من حساسية شديدة، أو نتيجة مختبرية حرجة من يوم أمس، لكن الذكاء الاصطناعي ببساطة لا يذكرها. هذا هو "القاتل الصامت". لماذا؟ لأنه إذا لم يقل الذكاء الاصطناعي أي شيء، فقد يفترض الطبيب أن المعلومة غير موجودة. إنه مثل نسيان الطاهي ذكر أن البيض مفقود، فيفترض الطبيب أن العجة جيدة، ليكتشف لاحقاً أن المريض تعرض لرد فعل بسبب مكون مخفي.

تشير الورقة إلى أنه بينما لدينا طرق جيدة للإمساك بـ "الإنذارات الكاذبة" (من خلال التحقق من الملحوظات المصدرية)، فليس لدينا تقريباً أي طريقة للإمساك بـ "الحذف الصامت". إذا فشل فريق البحث في العثور على ملحوظة محددة، فلن يراها الذكاء الاصطناعي أبداً، ولن يعرف الطبيب أنها فُقدت. إنه فشل صامت.

لماذا فريق البحث هو الحلقة الأضعف

يشرح المؤلفون أنه بينما يصبح "الطاهي" (النموذج اللغوي الكبير) أكثر ذكاءً وسرعة كل يوم، فإن "فريق البحث" (نظام الاسترجاع) لا يتحسن بنفس السرعة.

• نمو الطاهي: تتطور نماذج الذكاء الاصطناعي بسرعة، وتصبح أفضل في فهم اللغة والسياق.
• ركود فريق البحث: الأدوات المستخدمة للبحث في ملايين الملحوظات الطبية لا تزال تعتمد على طرق أقدم وأبطأ. على الرغم من أننا نستخدم تقنيات جديدة متطورة لمساعدتهم، إلا أن الطريقة الأساسية التي يجدون بها المستندات لم تتغير كثيراً.

تشير الورقة إلى أنه نظراً لأن أدوات البحث تتخلف عن الركب، فإنها تصبح الحلقة الأضعف. ومع ازدياد طول وتعقيد سجلات المرضى (بفضل التكنولوجيا الأفضل التي تربط المستشفيات المختلفة)، يصبح مهمة فريق البحث أكثر صعوبة. إذا فاتهم ملاحظة واحدة حاسمة في ملف ضخم، فإن نظام الذكاء الاصطناعي بأكمله يفشل، ولا أحد يدرك ذلك حتى فوات الأوان.

فخ التقييم

أحد أكثر الأجزاء إثارة للاهتمام في الورقة هو مدى صعوبة اختبار هذه الأنظمة.

• اختبار الطاهي: من السهل نسبياً اختبار ما إذا كان الطاهي يخترع مكونات. يمكنك أن تطلب منه كتابة وصفة والتحقق مما إذا كانت المكونات موجودة.
• اختبار فريق البحث: من الصعب للغاية اختبار ما إذا كان فريق البحث قد أغفل شيئاً ما. لمعرفة ما إذا كانوا قد أغفلوا ملحوظة، سيتعين عليك قراءة كل ملحوظة في تاريخ المريض بنفسك لترى ما كان موجوداً. وبما أن سجلات المرضى يمكن أن تمتد لآلاف الصفحات، فلا أحد لديه الوقت للقيام بذلك لكل اختبار ذكاء اصطناعي.

يشير المؤلفون إلى أن طرق الاختبار الحالية غالباً ما تتحقق فقط مما إذا كان الذكاء الاصطناعي قد وجد بعض المعلومات الجيدة، وليس ما إذا كان قد وجد كل المعلومات الجيدة. وهذا يعني أننا قد نعتقد أن الذكاء الاصطناعي يعمل بشكل مثالي بينما هو في الواقع يفتقد تفاصيل حاسمة.

ما يقوله المؤلفون (وما لا يقولونه)

الورقة حذرة جداً في عدم القول بأن الهلوسة قد حُلّت أو أننا يجب أن نتوقف عن القلق بشأنها. هم يعترفون بأن الهلوسة "مشكلة مزعجة". ومع ذلك، يجادلون بأننا مهووسون حالياً بها بينما نتجاهل المشكلة الأكبر والأصعب في الكشف.

هم لا يدعون أن لديهم حلاً سحرياً بعد. في الواقع، يقولون إنه لا يوجد حل مثالي لأخطاء الاستدعاء في الوقت الحالي. الطريقة الوحيدة للتأكد بنسبة 100% من أن الذكاء الاصطناعي لم يغفل شيئاً هي أن يقرأ إنسان السجل الطبي بأكمله، وهو ما يلغي الغرض من استخدام الذكاء الاصطناعي لتوفير الوقت. تقترح الورقة أننا بحاجة إلى طرق جديدة لاختبار هذه الأنظمة، ربما من خلال دمج الفحوصات البشرية مع الأدوات الآلية الذكية، لضمان عدم تسلل "الحذف الصامت" إلينا.

الخلاصة

الرسالة الرئيسية هي تحذير: لا تراقب فقط ما إذا كان الذكاء الاصطناعي يكذب عليك؛ بل راقب ما إذا كان الذكاء الاصطناعي ينسى إخبارك بالحقيقة.

مع ازدياد شيوع الذكاء الاصطدي الطبي، يعتقد المؤلفون أن العقبة الأكبر لن تكون في جعل الروبوت أكثر ذكاءً؛ بل ستكون في التأكد من أن فريق البحث الخاص بالروبوت دقيق بما يكفي للعثور على كل قطعة من أحجية المعلومات. إذا لم نصلح مشكلة الاسترجاع، فقد يفتقد أكثر أنظمة الذكاء الاصطناعي تقدماً في العالم تفصيلاً ينقذ الحياة، وقد لا نعرف أبداً أن ذلك قد حدث.