Memorization in Large Language Models in Medicine: Prevalence, Characteristics, and Implications
تتقصى هذه الدراسة بشكل منهجي مدى انتشار وخصائص وآثار الحفظ في النماذج اللغوية الكبيرة الطبية، كاشفةً عن أنه أكثر شيوعاً بشكل ملحوظ مما هو عليه في المجالات العامة، وأنه يستمر عبر سيناريوهات التكيف المختلفة مثل التدريب المسبق المستمر والضبط الدقيق على بيانات سريرية من العالم الحقيقي، ويشكل مخاطر حرجة فيما يتعلق بالخصوصية والقدرة على التعميم.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تعلم روبوتاً فائق الذكاء ليصبح طبيباً. أنت لا تكتفي بإعطائه كتاباً مدرسياً فحسب؛ بل تغذيه بملايين الصفحات من المجلات الطبية، وملاحظات المرضى، وأسئلة الامتحانات. هذه هي الطريقة التي تتعلم بها "نماذج اللغات الكبيرة" (LLMs) الطب. فكر في نموذج اللغة الكبير كطالب ضخم وشغوف يقرأ كل شيء في المكتبة. عادةً، نأمل أن يستوعب هذا الطالب "المفاهيم" — مثل فهم أن الحمى تعني وجود عدوى، أو أن دواءً معيناً يعالج مرضاً معيناً. لكن هناك جانباً مخادعاً لكيفية تعلم هذه الروبوتات: أحياناً، بدلاً من فهم الدرس حقاً، تقوم فقط بحفظ الكلمات الدقيقة الموجودة في الصفحة، تماماً مثل الببغاء الذي يكرر جملة دون معرفة معناها. وهذا ما يسمى "الحفظ الصم" (Memorization). وفي عالم الذكاء الاصطائي، يعد هذا سلاحاً ذا حدين؛ فمن ناحية، يعد تذكر الحقائق أمراً جيداً، ولكن من ناحية أخرى، إذا حفظ الروبوت مذكرات خاصة لمريض أو مفتاح إجابات سؤال امتحان محدد، فقد يسرب الأسرار بالخطأ أو يفشل في التفكير من تلقاء نفسه عند مواجهة موقف جديد. لقد كان العلماء قلقين بشأن هذا الأمر، لكنهم لم يعرفوا مدى سوء الوضع بالنسبة للروبوتات الطبية حتى الآن.
قرر فريق من الباحثين من جامعة ييل ومؤسسات أخرى التحقيق في "مشكلة الببغاء" هذه في الذكاء الاصطناوي الطبي. أرادوا معرفة عدد المرات التي تقوم فيها هذه النماذج بمجرد النسخ واللصق لما رأته من قبل، وما هي أنواع الأشياء التي تنسخها، وما إذا كان هذا النسخ مفيداً أم خطيراً. اختبروا ثلاث طرق مختلفة يتم من خلالها تدريب هذه النماذج: القراءة من أكوام ضخمة من الكتب الطبية (التدريب المسبق المستمر)، والدراسة لامتحانات محددة (الضبط الدقيق بناءً على معايير قياسية)، والتعلم من سجلات المستشفيات الحقيقية والفوضوية (الضبط الدقيق بناءً على البيانات السريرية).
كانت النتائج مفاجئة ومثيرة للقلق نوعاً ما. وجد الباحثون أن نماذج الذكاء الاصطناوي الطبي تحفظ أكثر بكثير من نماذج الذكاء الاصطناوي العادية. في الواقع، عندما تم تدريب هذه النماذج على بيانات طبية، كانت تردد مقاطع نصية رأتها من قبل بمعدلات تتراوح بين 10% و20%، وأحياناً أكثر من ذلك. ولو وضعت ذلك في الاعتبار، فإذا طلبت من ذكاء اصطناوي عادي إكمال جملة، فقد يكرر عبارة من تدريبه بالخطأ بنسبة 1% من الوقت؛ أما النماذج الطبية فقد فعلت ذلك بمعدل 10 إلى 20 ضعفاً.
وقد قسم البحث هذا الحفظ الصم إلى ثلاثة أنواع متميزة، تشبه أنواع الوجبات الخفيفة في صندوق الغداء:
- الأشياء الجيدة (المفيدة): أحياناً يتذكر النموذج إرشادات سريرية أو تفاعلاً دوائياً بشكل مثالي. وهذا مفيد لأنه يساعد الذكاء الاصطناوي على تقديم نصائح دقيقة.
- الأشياء المملة (غير المعلوماتية): غالباً ما يكرر النموذج نفس إخلاءات المسؤولية المملة أو العبارات النمطية، مثل "هذه أداة تعليمية، وليست جهازاً طبياً". هذا لا يساعده على التفكير؛ بل يبدو فقط وكأنه يتحدث.
- الأشياء الخطيرة (الضارة): هذا هو الجزء المخيف. وُجد أن النماذج تحفظ وتردد معلومات صحية حساسة للمرضى. في اختبار باستخدام أكثر من 13,000 سجل حقيقي لمرضى من نظام مستشفى، أعاد الذكاء الاصطناوي إنتاج 3,192 حالة من المعلومات الصحية الخاصة (PHI). شمل ذلك الأسماء، والتواريخ، والتشخيصات المحددة، وحتى العلاقات العائلية. والأسوأ من ذلك، وجد الباحثون أن الأدوات القياسية المستخدمة لتنقية السجلات من البيانات الخاصة غالباً ما أغفلت هذه الأسرار، مما يعني أن الذكاء الاصطناوي كان يتذكر أشياءً اعتقد البشر أنها مخفية.
واحدة من أكثر الاكتشافات إثارة للاهتمام هي مدى "التصاق" هذه الذاكرة. وجد الباحثون أنه بمجرد أن يحفظ النموذج شيئاً ما خلال مرحلة "القراءة" الأولية، فإنه لا ينسى ذلك عندما يتم تعليمه مهاماً جديدة لاحقاً. فما يصل إلى 87% من المحتوى الذي تم حفظه أثناء التدريب الأولي ظل موجوداً حتى بعد إجراء الضبط الدقيق للنموذج لمهام جديدة. إنه يشبه الأمر إذا حفظ طالب فصلاً من كتاب، وحتى بعد دراسة مادة جديدة تماماً، لم يستطع التوقف عن تسميع ذلك الفصل الأول.
لاحظ الفريق أيضاً أن الحفظ ليس مجرد نتيجة لتدريب النموذج لفترة طويلة جداً (الإفراط في التخصيص/Overfitting). فقد راقبوا النماذج وهي تتعلم بمرور الوقت ورأوا أن عملية "النسخ" بدأت في وقت مبكر جداً من عملية التدريب، بينما كان النموذج لا يزال يتحسن في أداء وظيفته الفعلية. وهذا يشير إلى أن الطريقة التي تُبنى بها هذه النماذج حالياً — عبر مجرد تغذيتها بمزيد ومزيد من النصوص الطبية دون ضمانات خاصة — تؤدي طبيعياً إلى هذا المستوى العالي من الحفظ الصم.
تخلص الورقة البحثية إلى أنه بينما تتحسن نماذج الذكاء الاصطناوي الطبي في تشخيص الأمراض (حيث زادت دقتها بشكل ملحوظ بعد التدريب)، إلا أنه لا يمكننا تجاهل مخاطر الخصوصية. يقترح الباحثون أننا بحاجة إلى تغيير كيفية بناء واختبار هذه النماذج. لا ينبغي أن نسأل فقط، "هل التشخيص صحيح؟" بل يجب أن نسأل أيضاً، "هل قام للتو بنسخ سر خاص بمريض؟" وهم يوصون باستخدام تقنيات جديدة لمنع النماذج من حفظ البيانات الحساسة وتشجيعها على التفكير المنطقي عبر المشكلات بدلاً من مجرد تكرار ما قرأته. لا تقول الدراسة إن الذكاء الاصطناوي الطبي معطل، لكنها تطلق إنذاراً عالياً بأننا بحاجة لأن نكون أكثر حذراً بشأن ما تتذكره هؤلاء الأطباء الرقميون.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.