High-Stakes Decisions with Language Models: Insights from Emergency Triage

تخيل أنك قبطان سفينة فضاء تشق طريقها عبر حقل كويكبات ضبابي. حاسوب سفينتك ذكي للغاية؛ يمكنه النظر إلى نقطة باهتة ويقول لك: "هناك احتمال بنسبة 90% أن تكون هذه النقطة كويكباً خطيراً". لكن الحاسوب لا يعرف ماذا يفعل بهذا الرقم. إذا اصطدمت، تنفجر السفينة (خطأ في تفويت حالة طوارئ). وإذا أطلقت طلقة تحذيرية على سحابة غير ضارة، ستُهدر الوقود وتزعج الطاقم (إحالة غير ضرورية). يحتاج الحاسوب إلى قاعدة: "إذا كانت نسبة الخطر فوق 10%، أطلق الطلقة!" أو "لا تطلق إلا إذا كانت فوق 90%!". هذه القاعدة تسمى دالة المنفعة (utility function). في العالم الحقيقي، يواجه الأطباء هذا الموقف الضبابي نفسه كل يوم. إنهم يستخدمون الفرز الطبي (triage) لتقرير من يحتاج إلى مساعدة فورية ومن يمكنه الانتظار. لفترة طويلة، عرف العلماء أن اتخاذ هذه القرارات عالية المخاطر لا يتعلق فقط بتخمين الاحتمالات بشكل صحيح، بل بمعرفة مدى كرهك لارتكاب النوع الخاطئ من الأخطاء. إذا كنت خائفاً جداً من تفويت أزمة، فسترسل الجميع إلى المستشفى. وإذا كنت قلقاً جداً بشأن إضاعة الوقت، فقد تفوت حالة حياة أو موت. السؤال الكبير هو: عندما نطلب من عقول الكمبيوتر فائقة الذكاء (التي تسمى النماذج اللغوية الكبيرة) أن تكون هي القبطان، هل تعرف كيف تضع قواعدها الخاصة، أم أنها تكتفي بالتخمين فقط؟

تتعمق هذه الورقة البحثية في هذا السؤال من خلال التعامل مع فرز الطوارس الطبية ليس كمجرد لعبة تخمين بسيطة، بل كلغز قرار. أخذ الباحثون مجموعة من القصص الطبية (الحالات السريرية) حيث قرر الأطباء بالفعل من يحتاج إلى غرفة الطوارج ومن لا يحتاج. طلبوا من عدة نماذج ذكاء اصطناعي مختلفة قراءة هذه القصص، أولاً، لتخمين احتمالية حاجة المريض لرعاية طارئة، وثانياً، لتقرير ما إذا كان سيتم إرسالهم إلى غرفة الطوارئ. وجد الفريق شيئاً مفاجئاً: كانت نماذج الذكاء الاصطناعي بارعة حقاً في تخمين الاحتمالات. استطاعت التمييز بين المريض المريض والشخص السليم بدقة عالية. ومع ذلك، عندما جاء الأمر لاتخاذ القرار النهائي، كانت النماذج تتصرف وكأن لديها قاعدة سرية غير معلنة مفرطة في الحذر بشأن إرسال الناس إلى المستشفى.

اكتشف المؤلفون أن السلوك "السيئ" الذي لوحظ في أداة صحية استهلاكية شهيرة (والتي وُجد أنها تفوت أكثر من نصف حالات الطوارئ الحقيقية) لم يكن بسبب كون الذكاء الاصطناعي غبياً أو لا يفهم الطب. بدلاً من ذلك، كان بسبب استخدام الذكاء الاصطناعي لقاعدة افتراضية خفية تُعلي من قيمة توفير الموارد على حساب إنقاذ الأرواح. كان الأمر يشبه قبطاناً يرفض إطلاق طلقة التحذير إلا إذا تأكد بنسبة 99% من وجود الكويكب، رغم أن تفويت واحد منه سيكون كارثياً. تظهر الورقة أنه عندما أخبر الباحثون الذكاء الاصطناعي صراحةً: "مهلاً، تفويت حالة طوارئ أسوأ بخمس مرات من الإنذار الكاذب"، غير الذكاء الاصطناعي رأيه على الفور. بدأ يرسل المزيد من المرضى إلى غرفة الطوارئ، مما أدى إلى رصد حوالي 50% أكثر من حالات الطوارئ الحقيقية دون التسبب في زيادة هائلة في الزيارات غير الضرورية.

تشير الدراسة إلى أن المشكلة ليست في قدرة الذكاء الاصطناعي على التنبؤ بالمستقبل، بل في قدرته على اتباع أوامر القبطان بشأن ما هو أكثر أهمية. وجد الباحثون أنه بمجرد تغيير الكلمات في "الأمر" (prompt) لتحديد "تكلفة" الأخطاء المختلفة، يمكنهم توجيه الذكاء الاصطناعي ليعمل كطبيب يضع السلامة أولاً أو كطبيب يهدف لتوفير الموارد، حسب الحاجة. كما لاحظوا أنه بدون هذه التعليمات الواضحة، يبدو أن لكل نموذج ذكاء اصطناعي تفضيله الغريب وغير المرئي الذي لا يمكن لأحد رؤيته أو التحكم فيه. وتخلص الورقة إلى أنه لكي تكون هذه الأدوات آمنة ومفيدة في المستشفيات، لا يمكننا فقط أن نطلب منها "أن تكون ذكية". يجب علينا أن نخبرها صراحةً بكيفية وزن المخاطر، تماماً كما يجب على القبطان إعطاء أوامر واضحة لجهاز الملاحة الخاص به قبل دخول الضباب.