Surrogate modeling for interpreting black-box LLMs in medical predictions
تقترح هذه الورقة إطار عمل للنمذجة البديلة يستخدم التلقين المكثف لتقريب وتفسير المعرفة الكامنة في النماذج اللغوية الكبيرة ذات الصندوق الأسود كمياً في التنبؤات الطبية، مما كشف بنجاح عن كل من التناقضات مع المعرفة الطبية الراسخة واستمرار التحيزات العرقية المفروضة علمياً لدعم نشر النماذج بشكل أكثر أماناً.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك طبيبًا آليًا فائق الذكاء وكلي المعرفة. هذا الروبوت قد قرأ كل الكتب الطبية، والمجلات، وسجلات المرضى الموجودة تقريبًا. يمكنه التنبؤ بما إذا كنت ستصاب بأمراض القلب أو حساب مدى كفاءة عمل كليتيك.
لكن هنا تكمن المشكلة: الروبوت عبارة عن "صندوق أسود".
تسأله: "ما هي مخاطري؟" فيعطيك إجابة. ولكن إذا سألته: "لماذا قلت ذلك؟ ما هي العوامل التي كانت أكثر أهمية؟ هل ارتكبت خطأً؟" يكتفي الروبوت بالتحديق فيك بصمت. لا يمكنه شرح طريقة تفكيره لأن معرفته مخفية داخل مليارات من الروابط الرياضية المعقدة التي لا يستطيع أي بشر تتبعها بالكامل.
تقدم هذه الورقة البحثية حيلة ذكية للتلصص داخل ذلك الصندوق الأسود دون كسرِه. ويطلقون عليها اسم "النمذجة البديلة" (Surrogate Modeling).
إليك كيف تعمل، باستخدام تشبيه بسيط:
التشبيه: عرض "خيال الظل"
تخيل أن الطبيب الآلي هو محرك دمى بارع يجلس خلف ستارة سميكة ومعتمة. لا يمكنك رؤية محرك الدمى أو الخيوط (الكود الداخلي)، لكن يمكنك رؤية الدمى (الإجابات) وهي تتحرك على المسرح.
أراد الباحثون فهم كيف يحرك محرك الدمى تلك الخيوط. لذا، لم يحاولوا قطع الستارة وفتحها، بل بدلاً من ذلك، أقاموا عرض خيال ظل على الجانب الآخر.
- المحاكاة (لعبة الظل): أنشأوا عالمًا وهميًا ضخمًا يضم 20,000 "مريض وهمي". أعطوا هؤلاء المرضى الوهميين كل التوليفات الممكنة من السمات: صغار وكبار، طوال وقصار، أصحاء ومرضى، أعراق مختلفة، وأنماط حياة مختلفة.
- الاستجواب (سؤال الروبوت): طلبوا من الطبيب الآلي التنبؤ بالنتائج الصحية لجميع المرضى الـ 20,000 الوهميين.
- الظل (النموذج البديل): أخذوا إجابات الروبوت واستخدموا رياضيات بسيطة (مثل معادلة جبرية أساسية) لرسم "ظل" لطريقة تفكير الروبوت.
هذا "الظل" ليس الروبوت نفسه، ولكنه يحاكي سلوك الروبوت بدقة تجعله يعمل كمرآة. ولأن الظل مصنوع من رياضيات بسيطة، يمكننا أخيرًا قراءة التعليمات.
ماذا وجدوا؟
من خلال النظر إلى هذا "الظل"، اكتشف الباحثون بعض الأشياء المفاجئة حول ما "يعرفه" الروبوت حقًا:
1. الروبوت مرتبك أحيانًا
في العالم الحقيقي، نعلم أن حمل وزن زائد حول الخصر (نسبة خصر إلى الورك عالية) أمر سيء للقلب.
- الظل كشف ذلك: اتفق اثنان من الروبوتات مع هذا. لكن روبوتًا واحدًا (Gemini) اعتقد في الواقع أن نسبة الخصر إلى الورك العالية هي أمر جيد لصحة قلبك! وروبوت آخر (GPT-4) اعتقد أن المستويات العالية من حمض اليوريك (مادة كيميائية في الدم) هي أمر جيد، بينما اعتبرتها الروبوتات الأخرى سيئة.
- الدرس المستفاد: حتى الروبوتات فائقة الذكاء يمكن أن تعاني من "الهلوسة" أو المعرفة المتناقضة. النموذج الظلي يعمل بمثابة علامة تحذير، يلوح بعلامة حمراء تقول: "مهلًا، هذا الروبوت يضع قواعده الخاصة!"
2. الروبوت يحمل تحيزات قديمة وضارة
لعقود من الزمن، استخدم الأطباء معادلات لتقدير وظائف الكلى تتضمن "تعديلًا عِرقيًا". فقد افترضوا أن السود يمتلكون كلى أقوى من البيض. وقد أثبت العلم منذ ذلك الحين أن هذا خطأ وعنصري؛ فالعرَق هو بناء اجتماعي وليس بيولوجيًا.
- الظل كشف ذلك: عندما سأل الباحثون الروبوتات لتقدير وظائف الكلى، أظهرت "الظلال" أن بعض الروبوتات (مثل GPT-4 وClaude) كانت لا تزال تستخدم تلك الرياضيات القديمة والعنصرية. لقد كانوا يعطون تلقائيًا درجات كلى أعلى للمرضى السود، حتى عندما كانت البيانات تقول عكس ذلك.
- الدرس المستفاد: الروبوتات لم تتعلم من الكتب المدرسية فحسب، بل تعلمت من الإنترنت الفوضوي والمنحاز. لقد حدد النموذج الظلي بدقة مقدار التحيز الموجود، موضحًا أن بعض الروبوتات كانت حتى أكثر انحيازًا من المعادلات القديمة التي تم دحضها.
لماذا يهم هذا؟
فكر في الطبيب الآلي كمحرك سيارة جديد. لن تقود سيارة بمحرك غامض يتسارع أحيانًا من تلقاء نفسه دون أن تعرف السبب. أنت بحاجة لمعرفة ما إذا كانت المكابح تعمل وما إذا كان التوجيه آمنًا.
- السلامة: هذا "النموذج الظلي" هو مفتش سلامة. فهو يساعد الأطباء والمرضى على الثقة بالذكاء الاصطناعي من خلال إثبات ما يعرفه الذكاء الاصطناعي، والأهم من ذلك، ما لا يعرفه أو أين يخطئ.
- السرعة: سؤال الروبوت مباشرة يكون بطيئًا وأحيانًا يعطي إجابات مختلفة لنفس السؤال (مثل تقلب المزاج). النموذج الظلي فوري ويعطي نفس الإجابة في كل مرة.
- العدالة: إنه يكشف التحيزات الخفية حتى نتمكن من إصلاحها قبل أن يبدأ الروبوت في علاج المرضى الحقيقيين.
الخلاصة
هذه الورقة لا تقول فقط "الذكاء الاصطناعي ذكي". بل تقول: "الذكاء الاصطناعي ذكي، ولكنه أيضًا صندوق أسود قد يكذب أو يكون منحازًا."
من خلال بناء نسخة "ظلية" بسيطة للذكاء الاصطناعي، منحنا الباحثون كشافًا لتسليط الضوء داخل ذلك الصندوق المظلم. لقد أظهروا لنا أنه بينما هذه النماذج قوية، فإننا بحاجة باستمرار إلى فحص "ظلالها" للتأكد من أنها لا تحمل أخطاء قديمة أو تحيزات خطيرة إلى مستشفياتنا. إنها أداة للتأكد من أن الطبيب الآلي ليس ذكيًا فحسب، بل آمن وعادل أيضًا.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.