Same Facts, Different Updates: Inference Setup Shapes LLM Behavior in Medical Allocation
تُظهر هذه الورقة أن النماذج اللغوية الكبيرة تُبدي تحولات غير متسقة وتعتمد على السياق في قرارات تخصيص الموارد الطبية عند تقديم معلومات جديدة عن المريض، مما يسلط الضوء على الحاجة الماسة إلى هندسة سياقية دقيقة ودراسات سلوكية قبل نشر النماذج اللغوية الكبيرة في عمليات اتخاذ القرار الحساسة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في العالم الحديث، يُطلب من الذكاء الاصطناعي بشكل متزايد المساعدة في اتخاذ خيارات صعبة، بدءاً من فرز طلبات التوظيف وصولاً إلى توجيه القرارات الطبية. هذه الأنظمة، المعروفة باسم النماذج اللغوية الكبيرة، قوية لأنها تستطيع قراءة كميات هائلة من النصوص وإجراء محادثة طويلة، مع تذكر ما قيل سابقاً لتوجيه ما سيأتي لاحقاً. هذه القدرة على التعلم من السياق هي أعظم نقاط قوتها، لكنها تقدم أيضاً ثغرة دقيقة: فالطريقة التي يُطرح بها السؤال، أو الترتيب الذي تصل به المعلومات، يمكن أن يغير الإجابة بقدر ما تغيرها الحقائق نفسها. وبينما درس الباحثون منذ فترة طويلة كيف يمكن لهذه النماذج أن تكون متحيزة ضد مجموعات معينة من الناس بناءً على بيانات تدريبها، فقد ظهر اهتمام جديد. الأمر لا يتعلق فقط بما يعرفه النموذج، بل بكيفية تفاعله مع تدفق المحادثة. إذا طُلب من برنامج حاسوبي اتخاذ قرار، ثم طُلب منه إعادة النظر في ذلك القرار نفسه بعد إعطائه القليل من المعلومات الإضافية، فهل يغير رأيه لأن المعلومات الجديدة ذات أهمية، أم لأن فعل الطلب مرة أخرى يشير إلى وجوب تغيير رأيه؟
وضع فريق من الباحثين هدفاً لاختبار هذه الديناميكية المحددة في سيناريو عالي المخاطر: تخصيص الموارد الطبية. لقد صمموا تجربة منضبطة حيث طُلب من ذكاء اصطناعي تقرير أي من مريضين يجب أن يتلقى العلاج أولاً. وُصِف المرضى بحقائق طبية واضحة، مثل فرص نجاتهم من العلاج وعدد السنوات الصحية التي سيكتسبونها إذا تعافوا. في الخطوة الأولى، اتخذ النموذج قراره بناءً على هذه الأرقام الطبية فقط. وفي الخطوة الثانية، طرح الباحثون السؤال نفسه تماماً، لكنهم أضافوا هذه المرة جملة واحدة من المعلومات الجديدة حول حياة المرضى خارج المستشفى، مثل ما إذا كان أحدهم معيلًا أساسيًا لأسرة أو ينتمي إلى خلفية ذات دخل منخفض. ومن الأهمية بمكان أن الباحثين أجروا هذه التجربة بطريقتين مختلفتين. في نسخة واحدة، رأى النموذج إجابته السابقة قبل طرح السؤال الثاني، مما سمح له بتحديث قراره ضمن محادثة مستمرة. أما في النسخة الأخرى، فقد طُرح السؤال الثاني على النموذج كما لو كان مهمة جديدة ومنفصلة، دون ذاكرة لإجابته الأولى.
كشفت النتائج عن نمط مثير للدهشة ومثير للقلق نوعاً ما. فعندما تمكنت النماذج من رؤية استجابتها السابقة، غيرت آراءها بشكل متكرر لصالح المريض ذي الخلفية المفضلة اجتماعياً، حتى وإن كان ذلك المريض أقل عرضة للنجاح طبياً. على سبيل المثال، إذا وُصف المريض الثاني بأنه معيل أساسي، فإن النموذج غالباً ما كان يغير احتماليته لتميل لصالح ذلك المريض عندما يكون قد رأى توصيته الأولية للتو. ومع ذلك، عندما طُرح السؤال نفسه على النموذج في جلسة جديدة ومستقلة دون رؤية إجابته الأولى، فقد تجاهل المعلومات الاجتماعية إلى حد كبير وتمسك بالحقائق الطبية. وهذا يشുള്ള إلى أن النماذج لم تكن تتفاعل بالضرورة مع المعلومات الجديدة كعامل طبي، بل كانت تفسر هيكل المحادثة نفسها كإشارة. إن فعل الطلب من إعادة النظر، مقترناً بوجود إجابتهم السابقة، بدا وكأنه يحفزهم على استنتاج أن التفصيل الاجتماعي الجديد مهم، مما أدى إلى تعديل توصيتهم لتتماشى مع ما اعتبروه تفضيلاً خفياً.
لم يكن هذا السلوك موحداً عبر جميع النماذج المختبرة. فقد أظهرت بعض الأنظمة الأكثر تقدماً الميل الأقوى لتغيير قراراتها عندما تكون إجاباتها السابقة مرئية، بينما ظلت أنظمة أخرى أكثر اتساقاً. وكان التأثير أقوى عندما كان الفرق الطبي بين المريضين صغيراً؛ فعندما يكون أحد المرضى أكثر مرضاً بشكل واضح أو لديه فرصة أفضل بكك النجاح، كانت النماذج أقل عرضة للتأثر بالتفاصيل الاجتماعية. ووجد الباحثون أيضاً أن صياغة المعلومات الجديدة كانت مهمة. فعندما وُصفت التفاصيل الاجتماعية بطريقة تبدو مشحونة أخلاقياً، مثل وصف خلفية بأنها "محرومة" بدلاً من مجرد "ذات دخل منخفض"، كانت النماذج أكثر عرضة لتغيير قراراتها. وهذا يشير إلى أن النماذج حساسة ليس فقط للحقائق، بل أيضاً لنبرة وتأطير المعلومات المقدمة إليها.
لا تدعي الدراسة أن هذه النماذج عنصرية أو متحيزة بطريقة فطرية أو ثابتة. بدلاً من ذلك، تسلط الضوء على قضية أكثر تعقيداً: سلوك هذه الأنظمة يعتمد بعمق على السياق الذي تُستخدم فيه. قد يبدو النموذج عادلاً تماماً عند اختباره في سؤال واحد معزول، لكنه قد يتصرف بشكل مختلف تماماً عند وضعه في سير عمل واقعي حيث يتعين عليه تحديث قراراته بناءً على ملاحظات جديدة أو استفسارات متابعة. يرى الباحثون أن هذا يمثل تحدياً هندسياً حاسماً. فإذا استخدم مستشفى ذكاءً اصطناعياً للمساعدة في جدولة العلاجات، وقام هذا الذكاء بتحديث ملاحظاته حول المرضى طوال اليوم، فقد يغير النظام توصياته ببساطة لأنه يتفاعل مع تدفق المحادثة بدلاً من الدليل الطبي. وتخلص الدراسة إلى أن المطورين والمؤسسات يجب أن يختبروا هذه الأنظمة ليس فقط على أسئلة ثابتة، بل في البيئات الديناميكية متعددة الخطوات حيث ستُستخدم فعلياً، مع إيلاء اهتمام وثيق لكيفية قدرة تراكم السياق وهيكل التفاعل على توجيه النتيجة بهدوء.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.