← أحدث الأبحاث
📄 medicine

Inconsistent and divergent large language model safety guidance during intraoperative crises: a guideline- anchored benchmark

تكشف هذه الدراسة أن النماذج اللغوية الكبيرة الرائدة تظهر عدم اتساق وتبايناً كبيراً في تقديم التوجيهات المتعلقة بالسلامة والمرتكزة على الإرشادات أثناء الأزمات المحاكية داخل العمليات الجراحية، لا سيما فيما يتعلق بالتواصل والتصعيد، مما يسلط الضوء على الحاجة الماسة لتقييم موثوقيتها وقابليتها للتكرار بدلاً من الاكتفاء بالدقة الإجمالية وحدها لدعم القرار السريري.

المؤلفون الأصليون: Brian H. Park, Claire S. Soria, Preetham Suresh, Ryan Broderick, Bryan Sandler

نُشر 2026-09-07
📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة
CC BY 4.0

المؤلفون الأصليون: Brian H. Park, Claire S. Soria, Preetham Suresh, Ryan Broderick, Bryan Sandler

البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

في بيئة غرفة العمليات عالية المخاطر، الثواني لها قيمتها. فعندما تتدهور حالة المريض فجأة أثناء الجراحة، يجب على الفريق الطبي التحرك فوراً، متبعاً قوائم مراجعة صارمة لإنقاذ الحياة تم صقلها على مدى عقود. هذه البروتوكولات مصممة لاكتشاف الأخطاء قبل أن تسبب ضرراً، مما يضمن تواصل الفريق بوضوح، وتصعيد المشكلة إلى الأشخاص المناسبين، والقيام بمناورات محددة وحرجة. ومع بدء دخول أدوات الذكاء الاصطناعي المعروفة بنماذج اللغات الكبيرة إلى المجال الطبي، هناك أمل متزايد في أنها قد تعمل كمساعد رقمي، يقدم توجيهاً في الوقت الفعلي خلال هذه اللحظات الفوضوية. ومع ذلك، وعلى عكس الطبيب البشري الذي يعتمد على التدريب والخبرة، فإن هذه البرامج الحاسوبية تولد إجابات بناءً على أنماط في البيانات، ويمكنها أحياناً إنتاج استجابات مختلفة لنفس السؤال تماماً. إن السؤال الحاسم لسلامة المرضى ليس فقط ما إذا كان بإمكان الذكاء الاصطناعي تحديد المشكلة، بل ما إذا كان بإمكانه التوصية بالإجراءات الصحيحة والآمنة باستمرار في كل مرة تحدث فيها أزمة، وما إذا كان يمكن الوثوق به للقيام بذلك دون تردد أو تناقض.

لقد وضع فريق من الباحثين من جامعة كاليفورنيا سان دييجو نصب أعينهم اختبار هذه الموثوقية تحديداً. فقد أنشأوا محاكاة دقيقة تتضمن عشرة أنواع مختلفة من الطوارئ الجراحية، تتراوح من النزيف الشديد إلى انسداد الممرات الهوائية ومضاعفات القلب. وبدلاً من مطالبة الذكاء الاصطناعي بمجرد تشخيص المشكلة، قدم الباحثون للنماذج أزمة تتكشف خطواتها تدريجياً، وسألوا بعد كل مرحلة عما يجب على الفريق الجراحي فعله تالياً. تم اختبار النماذج مقابل قائمة صارمة مكونة من 150 إجراءً سلامياً محدداً مستمدة من الإرشادات الطبية وكتيبات الطوارئ المعتمدة. وشملت هذه الإجراءات أموراً مثل إعلان حالة الطوارئ، أو طلب المساعدة، أو إيقاف إجراء ضار، أو القيام بمناورة لإنقاذ الحياة. قام الباحثون بتشغيل كل سيناريو ثلاث مرات باستخدام ثلاثة نماذج مختلفة من نماذج الذكاء الاصطناعي الرائدة، مع معاملة البرامج الحاسوبية كما لو كانت أعضاء جدد ينضمون إلى غرفة العمليات. وكان الهدف هو معرفة ما إذا كانت النماذج ستعطي نفس النصيحة الآمنة في كل مرة، أم أن توجيهاتها ستنحرف وتتغير بشكل غير متوقع.

كشفت النتائج عن عدم اتساق كبير ومثير للقلق. فعند تقديم نفس سيناريو الأزمة إلى نفس النموذج عدة مرات، لم يعطِ الحاسوب الإجابة نفسها. وفي 29 من أصل 30 مزيجاً من النموذج والسيناريو، تغيرت نسبة إجراءات السلامة الصحيحة التي حددها النموذج من تشغيل إلى آخر. وفي المتوسط، كان الفرق في الأداء بين تشغيلين لنفس النموذج كبيراً، حيث تباين بنحو 15 إلى 18 نقطة مئوية. وهذا يعني أنه إذا سأل جراح نفس السؤال مرتين خلال حالة طوارئ حقيقية، فقد يقترح الحاسوب مجموعة مختلفة تماماً من الإجراءات في المرة الثانية، مما قد يؤدي إلى تفويت خطوة حرجة في المرة الأولى. وبينما حدد أحد النماذج، وهو Claude Opus 4.6، إجراءات صحيحة أكثر بشكل عام من غيره، إلا أنه لا يزال يعاني من عدم الاستقرار نفسه، ولم تكن الاختلافات في الدقة الإجمالية بين النماذج كبيرة بما يكفي لإعلان فائز واضح. وكانت أكثر التباينات خطورة في مجال التواصل والتصعيد؛ حيث فشلت النماذج تكراراً في اقتراح ضرورة إعلان حالة الطوارئ أو طلب مساعدة إضافية، وكان معدل تفويتها لهذه الخطوات الحاسمة يتفاوت بشكل هائل، حيث أخطأ أحد النماذح في هذه الخطوات بمعدل يقارب ثلاثة أضعاف نموذج آخر تحت ظروف متطابقة.

كما بحثت الدراسة فيما إذا كانت النماذج ستكتفي باقتراح إجراءات قد تضر المريض بالفعل. ولحسن الحظ، كانت هذه التوصيات غير الآمنة نادرة عبر جميع النماذج المختبرة. ومع ذلك، فإن حقيقة كون النماذج غير متسقة في توصياتها الآمنة تعد مصدر قلق كبير. وجد الباحثون أن النماذج كانت أفضل عموماً في اقتراح إجراءات طبية محددة، مثل إعطاء دواء أو إجراء عملية جراحية، لكنها واجهت صعوبة كبيرة في الجوانب "الناعمة" القائمة على العمل الجماعي في إدارة الأزمات، مثل تنظيم الفريق أو التواصل بشأن شدة الموقف. يشير هذا إلى أنه بينما قد يعرف الذكاء الاصطناği الحقائق الطبية، فإنه لا يفهم بشكل موثوق الديناميكيات البشرية المطلوبة لإدارة الأزمة بأمان. وخلص الباحثون إلى أنه لكي تكون هذه الأدوات مفيدة في غرفة العمليات، يجب تقييمها ليس فقط بناءً على ما إذا كانت صحيحة في الغالب، بل على ما إذا كانت قابلة للتكرار باستمرار. فالأداة التي تقدم نصيحة سلامة مختلفة لنفس المشكلة لا يمكن الوثوق بها لدعم الفريق الطبي عندما تكون حياة المريض على المحك. وتعمل هذه الدراسة كمعيار، ومقياس للذكاء الاصطناعي المستقبلي، مما يثبت أن الموثوقية لا تقل أهمية عن الدقة عندما تُستخدم هذه الأنظمة في المواقف الطبية عالية الضغط.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 📄 medicine →