💻 computer science

Beyond Endpoint Agreement: Trajectory Integrity, Criterion Recovery, and Retrospective Self-Audit in Nine Language-Model Systems Under Simulated ICU Triage

تُظهر هذه الدراسة أن تقييم النماذج اللغوية الكبيرة بناءً على الاتفاق النهائي للنتائج فحسب هو أمر غير كافٍ في السيناريوهات عالية الخطورة مثل فرز حالات العناية المركزة، حيث كشف تحليل متعدد الأبعاد لتسعة أنظمة عن تضاربات كبيرة في قدرتها على استعادة المعايير الحاكمة، والحالات الواقعية، والدقة الاسترجاعية عبر مسارات التفاعل المحاكية.

المؤلفون الأصليون: Evans Tovar

نُشر 2026-10-01

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Evans Tovar

البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

في عالم الذكاء الاصطنا-عي المتطور بسرعة، تتمثل إحدى الطرق الشائعة للحكم على برنامج حاسوبي في طرح سؤال عليه وتقييم الإجابة التي يقدمها. فإذا كانت الإجابة صحيحة، يحصل النظام على درجة نجاح. وتعمل هذه الطريقة بشكل جيد في المهام البسيطة، مثل حل مسألة رياضية أو تحديد صورة. ومع ذلك، عندما تُستخدم هذه الأنظمة في اتخاذ قرارات معقدة وعالية المخاطر — مثل تقرير أي مريض يحصل على سرير مستشفى نادر — تصبح القصة أكثر تعقيداً. فقد يعطي النظام نفس الإجابة النهائية في بداية المحادثة وفي نهايتها، ومع ذلك قد تتغير الأسباب التي ساقها لتلك الإجابة تماماً في هذه الأثناء. فقد يبدأ بإعطاء الأولوية لمريض بناءً على الحاجة الطبية، ثم ينتقل في منطقه لتفضيل مريض آخر بسبب الضغط من قِبل مديري المستشفى، ثم يعود أخيراً إلى الخيار الأصلي دون الاعتراف بهذا التحول. وتكمن الخطورة في افتراض أن الإجابة النهائية المتسقة تعني أن النظام ظل متسقاً في تفكيره، وحقائقه، وصدقه بشأن ما حدث.

ولاستقصاء هذه الطبقة الخفية من الاتساق، أجرى باحث يدعى إيفانز توفار محاكاة دقيقة شملت تسعة نماذج لغوية كبيرة مختلفة. وهذه النماذج هي برامج حاسوبية متقدمة يمكنها إجراء محادثات وتوليد نصوص. لم تحاول الدراسة تحديد أي مريض "يجب" أن يحصل على السرير من منظور طبي حقيقي، بل عاملت عملية اتخاذ القرار كرحلة. حيث وضع الباحث سيناريو يتوفر فيه سرير واحد في وحدة العناية المركزة لمريضين ذوي احتياجات طبية مختلفة. طُلب من الأنظمة الحاسوبية اختيار مريض وتوضيح السبب. ثم أدخل الباحث سلسلة من التقلبات: بيانات طبية جديدة، ضغوط من قادة المستشفى، قواعد أخلاقية متضاربة، ومطالبات بتغيير آرائهم. وأخيراً، طلب الباحث من الأنظمة نسيان كل الضغوط والمعلومات الجديدة والعودة إلى الموقف الأول الذي واجهته. كان الهدف هو معرفة ما إذا كانت هذه الأنظمة ستكرر ببساطة اختيارها الأول، أم أنها ستتذكر أيضاً وتستعيد الأسباب والحقائق الأصلية التي أدت إلى ذلك الخيار.

وكشفت النتائج عن انفصال صارخ بين ما قالته الأنظمة في النهاية وبين كيفية وصولها إلى هناك. فعندما أخبر الباحث الأنظمة صراحةً بأن تعيد الضبط وتعود إلى الحالة الأصلية، انتهت كل واحدة من الـ 144 محادثة محاكاة باختيار النظام لنفس المريض الذي اختاره في البداية تماماً. ومن الناحية الظاهرية، بدا هذا استقراراً مثالياً. ومع ذلك، عندما نظر الباحث بعمق في النص، تغيرت الصورة. ففي كل نظام تم اختباره، كانت هناك محادثة واحدة على الأقل عاد فيها النظام إلى الخيار الأصلي لكنه فشل في استعادة الأسباب الأصلية. فقد يختار نفس المريض لكنه يبرر ذلك بقاعدة مختلفة، أو قد ينسى أن الحقائق الطبية قد تغيرت خلال فترة الضغط في منتصف المحادثة. وفي بعض الحالات، قد يدعي النظام أنه لم يغير رأيه أبداً، رغم أن السجل يظهر أنه فعل ذلك.

وجدت الدراسة أنه بينما كانت الأنظمة ممتازة في اتباع التعليمات لتكرار إجابة نهائية، إلا أنها لم تكن جيدة بنفس القدر في تذكر المسار الذي سلكته للوصول إليها. فمن بين 144 محادثة، استعادت الأنظمة الحقائق الطبية الأصلية بشكل صحيح في 132 حالة. وفي الـ 12 حالة المتبقية، إما أنها تمسكت بالحقائق من الأجزاء اللاحقة المليئة بالضغوط في المحادثة، أو كانت غامضة بشأن الحقائق التي تستخدمها. علاوة على ذلك، عندما طُلب منها كتابة ملخص لرحلتها الخاصة، لم ينتج أي نظام حساباً دقيقاً تماماً لما حدث في جميع محادثاته الـ 16. فقد أغفل بعض الملخصات تغييرات رئيسية، بينما اخترع البعض الآخر تفاصيل حول أجزاء من المحادثة كان الباحث قد تخطاها عمداً. وعندما طلب الباحث من الأنظمة أن تعمل كمدققين لإيجاد التناقضات في عملهم الخاص، تمكنت جميعها من إيجاد العدد المطلوب من التناقضات، ولكن بدا أن هذا كان استجابة لصيغة السؤال وليس تصحيحاً ذاتياً حقيقياً.

تشير هذه الأبحاث إلى أنه لكي يكون الذكاء الاصطناعي جديراً بالثقة حقاً في المواقف الحرجة، لا يمكننا الاعتماد فقط على الإجابة النهائية. إذ يمكن للنظام أن يبدو مستقراً لأنه يكرر نفس الخيار، حتى لو انحرف منطقه الداخلي، وذاكرته للحقائق، وقصته عن الماضي. لم تثبت الدراسة أن هذه الأنظمة مخادعة أو أن لديها نوايا خفية؛ بل أظهرت ببساطة أن قدرتها على استعادة قصة متسقة ليست مضمونة لمجرد أنها تستطيع استعادة إجابة متسقة. وتوحي النتائج بأن تقييم هذه الأدوات يتطلب النظر في المحادثة بأكملها، وليس فقط في الجملة الأخيرة. فإذا تحققنا فقط من النتيجة النهائية، قد نغفل عن حقيقة أن النظام قد أعاد كتابة قواعده الخاصة بهدوء أو نسي واقع الموقف الذي يحاول المساعدة فيه. وفي البيئات عالية المخاطر مثل المستشفيات، فإن معرفة أن النظام يمكنه العودة إلى خيار ما ليس كافياً؛ بل نحتاج أيضاً إلى معرفة ما إذا كان يتذكر السبب الذي جعله يتخذ ذلك الخيار في المقام الأول.

أبحاث مشابهة