Do No Harm? Hallucination and Actor-Level Abuse in Web-Deployed Medical Large Language Models
تقدم هذه الورقة تقييماً واسع النطاق لأكثر من 6,000 نموذج لغوي كبير طبي مُنشر عبر الويب، كاشفةً عن مخاطر جسيمة تتعلق بالهلوسة، وانتهاكات السياسات، وفجوات الخصوصية، مع تقديم أطر تقييم جديدة ومجموعة بيانات لتوجيه تحسينات السلامة المستقبلية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن "متجر تطبيقات" الإنترنت ليس مليئاً بالألعاب أو أدوات الإنتاجية، بل مليء بآلاف الأطباء الرقميين. هؤلاء هم روبوتات دردشة ذكاء اصطناعي مخصصة (تسمى MedGPTs) يمكن لأي شخص بناؤها ونشرها لتقديم المشورة الطبية، أو تشخيص الأعراض، أو شرح العلاجات.
الورقة البحثية التي قدمتها تشبه عملية تفتيش صحي سري وشامل لهذا السوق الرقمي. لم يكتفِ الباحثون بفحص الأطباء الأكثر تقييماً وشعبية فحسب؛ بل قاموا بمراجعة أكثر من 6,000 منهم ليروا ما إذا كانوا آمنين، أو صادقين، أو ما إذا كانوا في الواقع يشكلون خطراً.
إليك ما وجدوه، مقسماً إلى مفاهções بسيطة:
1. مشكلة "الكاذب الواثق" (الهلوسة)
تخيل مرشداً سياحياً يتحدث بثقة مطلقة ولكنه يختلق حقائق عن التاريخ. في العالم الطبي، يُطلق على هذا اسم "الهلوسة".
- النتيجة: حوالي 25% إلى 30% من أطباء الذكاء الاصطناعي هؤلاء "يكذبون" أو يختلقون حقائق طبية. قد يخبرونك بثقة تامة أن تأخذ دواءً خطيراً أو يتجاهلون عرضاً طبياً خطيراً.
- المفارقة: قد تعتقد أن الأطباء الأكثر شعبية هم الأكثر أماناً. لكن الدراسة وجدت أن الشعبية هي جهاز كشف كذب سيء. أطباء الذكاء الاصطناعي "المشهورون" كانوا عرضة للاختلاق تماماً مثل الأطباء غير المعروفين. في الواقع، كان الأطباء الأقل شهرة غالباً أسوأ حالاً.
- النقطة العمياء لدى المستخدم: وجد الباحثون أن المستخدمين لا يبدو أنهم يلاحظون هذه الأكاذيب. إذا قدم الذكاء الاصطناعي إجابة سلسة وواثقة، يمنحه الناس 5 نجوم، حتى لو كانت النصيحة طبياً خاطئة. الأمر يشبه منح تقييم 5 نجوم لطباخ يقدم لك وجبة تبدو لذيذة ولكنها سامة.
2. مشكلة "الجهات السيئة" (سوء التصميم)
بعض أطباء الذكاء الاصطناعي هؤلاء ليسوا مخطئين بالصدفة فحسب؛ بل هم مصممون ليكونوا خطرين.
- النتيجة: ما يقرب من 50% من أطباء الذكاء الاصطناعي لديهم "علامات تحذير" في طريقة بنائهم.
- الاستعارة: تخيل صاحب مطعم يضع لافتة تقول "نحن مستشفى" (رغم أنهم ليسوا كذلك)، ويخفي قائمة الطعام، ويرفض إخبارك من أين يأتي بالطعام.
- التفاصيل:
- قام بعض المبدعين بتسمية روبوتاتهم بأشياء مثل "تشخيص السرطان الفوري" لخداع الناس وإيهامهم بأنهم أطباء حقيقيون.
- العديد من هذه الروبوتات لديها ميزة تسمى "الإجراءات" (Actions) (والتي تسمح لها بالاتصال بمواقع خارجية)، ولكن 57% منها لم يكن لديهم سياسة خصوصية. إنه يشبه دخولك إلى عيادة حيث يأخذ الطبيب عينة دمك ولكنه يرفض إخبارك بما سيفعل بها.
- وحتى عندما كانت لديهم سياسة خصوصية، فإن ما يقرب من 70% منها كانت معطلة، أو غامضة، أو لا تحمي بياناتك فعلياً.
3. المواجهة بين "المصدر المفتوح" و"الجاهز من المتجر"
قارن الباحثون أيضاً بين أطباء الذكاء الاصطناعي "الجاهزين من المتجر" وبين أطباء "المصدر المفتوح" (النماذج التي يشاركها المطورون بحرية، مثل كتاب وصفات مجتمعي).
- الجاهز من المتجر (MedGPTs): كانت هذه النماذج بشكل عام أفضل في الظهور بمظهر ذكي ودقيق (كانوا يصيبون الحقائق أكثر غالباً). ومع ذلك، كانت أقل استقراراً—فأحياناً يعطون إجابة رائعة، وفي المرة التالية التي تسأل فيها نفس السؤال، يعطون إجابة مختلفة تماماً ومربكة.
- المصدر المفتوح: كانت هذه النماذج أكثر اتساقاً (يعطون نفس الإجابة في كل مرة)، لكنهم كانوا أقل دقة في الحقائق.
- الدرس المستفاد: لا يوجد نوع مثالي. النوع "الفخم" يبدو أفضل ولكنه متذبذب؛ والنوع "المجتمعي" ثابت ولكنه قد يخطئ في التفاصيل.
4. "إشارات الثقة" معطلة
في متجر التطبيقات العادي، إذا كان التطبيق لديه تقييمات سيئة أو تصنيفات منخفضة، فإنك تتجنبه.
- النتيجة: في متجر الذكاء الاصطناعي الطبي هذا، التقييمات والمراجات لا تخبرك بشيء عن السلامة.
- الاستعارة: إنه يشبه معرض سيارات تكون فيه السيارات التي خضعت لأكبر عدد من تجارب القيادة وحصلت على أعلى تقييم "5 نجوم" هي في الواقع السيارات ذات المكابح المعطلة. وجد الباحثون أن مدى "تفاعل" الناس مع الذكاء الاصطناعي لم يكن له أي علاقة تذكر بمدى صدق الذكاء الاصطناعي فعلياً.
الخلا-صة
تخلص الورقة البحثية إلى أنه لا يمكننا الوثوق بأطباء الذكاء الاصطناعي هؤلاء لمجرد أنهم مشهورون أو لأنهم يتحدثون بثقة.
- النظام معطل: الطريقة الحالية للتحقق من هذه الروبوتات (الاعتماد على مراجعات المستخدمين وتصنيفات النجوم) تفشل.
- الخطر: بما أن المرضى غالباً لا يملكون تدريباً طبياً، فلا يمكنهم اكتشاف متى يكذب الذكاء الاصطناعي أو متى "يزيف" الطبيب سلطته.
- الحل: نحن بحاجة إلى نوع جديد من "المفتشين الصحيين" الذين يفحصون حقائق الذكاء الاصطناعي، وتصميمه، وقواعد الخصوصية الخاصة به قبل أن يُسمح له بالتحدث مع المرضى. لقد أصدر الباحثون مجموعة بيانات جديدة ومجموعة من الأدوات للمساعدة في بناء هؤلاء المفتشين.
باختصار: إن سوق الطب الرقمي مليء بالكاذبين الواثقين والتصاميم الخطيرة، و"مراجعات العملاء" لا تساعدنا في رصدهم. نحن بحاجة إلى ضوابط سلامة أفضل قبل أن نسمح لهؤلاء الأطباء الرقميين بدخول حياتنا.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.