🤖 machine learning

LAMP: Extracting Local Decision Surfaces From Large Language Models

إن LAMP (مسبار رسم خرائط العزو المحلي) هو إطار عمل خفيف الوزن، يعتمد على الصندوق الأسود، يقوم بمراجعة النماذج اللغوية الكبيرة من خلال ملاءمة بدائل خطية محلية لتفسيراتها المبلغ عنها ذاتياً، مما يسمح للباحثين بتقييم مدى اتساق استدلال النموذج المعلن مع تنبؤاته الفعلية.

المؤلفون الأصليون: Ryan Chen, Youngmin Ko, Zeyu Zhang, Catherine Cho, Sunny Chung, Mauro Giuffré, Dennis L. Shung, Bradly C. Stadie

نُشر 2026-04-28

📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Ryan Chen, Youngmin Ko, Zeyu Zhang, Catherine Cho, Sunny Chung, Mauro Giuffré, Dennis L. Shung, Bradly C. Stadie

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

مشكلة "الطاهي الغامض": فهم طريقة LAMP

تخيل أنك تتناول الطعام في مطعم فاخر وشهير عالمياً. الطاهي لغز كامل—لا يمكنك رؤية ما يدور داخل المطبخ، ولا تعرف وصفاته، ولا تعرف كيف تلقى تدريبه. أنت لا ترى سوى الطبق النهائي وملاحظة صغيرة على القائمة تقول: "هذا الطبق لذيذ لأنه يستخدم الريحان الطازج، وملح البحر، والثوم."

لديك مشكلة: هل تصدق الطاهي حقاً؟

ربما يقول الطاهي "ريحان" فقط لأن الكلمة تبدو فاخرة، لكنه في الواقع يضع كمية هائلة من الملح في الطبق ليجعله يبدو ذا طعم مميز. إذا طلبت منه "ملحاً أقل"، هل سيتغير الطبق فعلياً، أم سيستمر الطاهي في تقديم نفس الوجبة المالحة مدعياً أنها "غنية بنكهة الريحان"؟

النماذج اللغوية الكبيرة (LLMs) مثل ChatGPT هي مثل ذلك الطاهي الغامض. إنها تعطينا إجابة (الطبق) وسبباً (الوصفة). لكن الباحثين قلقون من أن "السبب" الذي تقدمه الذكاء الاصطناعي قد يكون مجرد كذبة مهذبة—طريقة لجعل إجابتها تبدو منطقية بينما هي في الواقع مجرد تخمين أو اتباع لانحياز خفي.

مرحباً بـ LAMP: "مختبر النكهات"

ابتكر الباحثون أداة جديدة تسمى LAMP (مسبار رسم خرائط العزو المحلي). بدلاً من محاولة اقتحام المطبخ لسرقة دفتر ملاحظات الطاهي السري (وهو أمر مستحيل مع النماذج "الصندوق الأسود" مثل GPT-4)، يعمل LAMP كـ "مختبر نكهات" عالي الدقة.

إليك كيف يعمل LAMP باستخدام عملية بسيطة مكونة من ثلاث خطوات:

1. قائمة "المكونات" (الاستخراج)

أولاً، نسأل الذكاء الاصطناعي: "لماذا أعطيت هذا الفيلم تقييم 5 نجوم؟" يستجيب الذكاء الاصطناعي: "لأن التمثيل كان رائعاً (الوزن: 0.8) والحبكة كانت مثيرة (الوزن: 0.2)." هذه هي "المكونات" و"أوزان الأهمية" الخاصة بها.

2. لعبة "ماذا لو؟" (الاضطراب)

هذا هو الجزء العبقري. لا يكتفي LAMP بأخذ كلام الذكاء الاصطناعي على محمل التصديق، بل يبدأ في لعب لعبة "ماذا لو؟"

يخبر الذكاء الاصطناعي: "حسناً، ماذا لو كان التمثيل مهماً بنسبة 0.4 فقط بدلاً من 0.8؟"
ثم: "ماذا لو كانت الحبكة مهمة بنسبة 0.5 بدلاً من 0.2؟"

يقوم LAMP بإنشاء عشرات النسخ "المختلفة قليلاً" من الوصفة. الأمر يشبه عالماً يغير كمية السكر في الكعكة قليلاً مراراً وتكراراً ليرى بالضبط متى يتوقف الطعم عن كونه حلواً ويبدأ في أن يصبح مراً.

3. رسم "الخريطة" (سطح القرار)

من خلال مراقبة كيفية تغير إجابات الذكاء الاصطناعي مع تعديل تلك المكونات، يرسم LAMP خريطة ("سطح القرار").

إذا قال الذكاء الاصطناعي "الحبكة مهمة"، ثم قمنا بتقليل وزن الحبكة وانخفض تقييم الذكاء الاصطناعي فعلياً: يؤكد LAMP: "نعم، الحبكة هي قرص تحكم حقيقي يمكنك تدويره."
إذا قال الذكاء الاصطناዊ "الحبكة مهمة"، ولكن تغيير وزن الحبكة لم يغير شيئاً في التقييم: يطلق LAMP إنذاراً: "تحذير! الذكاء الاصطناعي يكذب بشأن سبب اتخاذه لهذا القرار!"

لماذا يهمنا هذا؟

اختبر الباحثون LAMP في كل شيء، من مراجعات الأفلام إلى التشخيصات الطبية. وقد وجدوا أمرين مهمين للغاية:

"الأقراص" حقيقية: في معظم الأوقات، تعمل "أسباب" الذكاء الاصطناعي كأقراص تحكم حقيقية. إذا رفعت قرص "الإيجابية"، فإن توقع الذكاء الاصطناعي يتحرك بالفعل في ذلك الاتجاه. هذا يعني أن الذكاء الاصطناعي متسق إلى حد ما.
"اختبار الطبيب": في اختبار طبي عالي المخاطر، ساعد LAMP في إظهار الوزن الذي يعطيه الذكاء الاصطناعي لأعراض معينة. وهذا يسمح للطبيب البشري بالنظر إلى "الخريطة" والقول: "انتظر، الذكاء الاصطناعي يبني هذا التشخيص بناءً على عمر المريض بدلاً من أعراضه الفعلية. لا ينبغي لي الوثوق بهذا التشخيص."

الخلاصة

LAMP يشبه جهاز كشف الكذب لمنطق الذكاء الاصطناعي. فهو لا يحتاج لرؤية "عقل" الذكاء الاصطناعي ليعرف ما إذا كان صادقاً أم لا؛ بل يحتاج فقط لمعرفة ما إذا كان سلوك الذكاء الاصطناعي يتغير بالطريقة التي يدعي أنها ستحدث. إنه يحول "الصندوق الأسود" إلى آلة ذات أقراص ومفاتلات مرئية وقابلة للتنبؤ.

ملخص تقني: LAMP (مسبار رسم خرائط العزو المحلي)

العنوان: LAMP: استخراج أسطح القرار المحلي من النماذج اللغوية الكبيرة
المؤلفون: ريان تشين، يونغ مين كو، كاثرين تشو، وآخرون (نورث وسترن، ييل، مايو كلينك)
المكان: AISTATS 2026

1. المشكلة: فجوة "الأمانة" في مبررات النماذج اللغوية الكبيرة

تُستخدم النماذج اللغوية الكبيرة (LLMs) بشكل متزايد لتقديم مبررات نصية حرة (سلسلة الأفكال - Chain-of-Thought) لتفسير تنبؤاتها. ومع ذلك، تشير الأبحاث الحديثة إلى أن هذه المبررات غالبًا ما تكون غير أمينة: فقد تقدم النماذج تفسيرًا يبدو منطقيًا ولكنه لا يعكس في الواقع عملية اتخاذ القرار الأساسية (على سبيل المثال، تبرير تنبؤ متحيز أو الاعتماد على إشارات غير ذات صلة).

تتطلب طرق التفسير الحالية مثل LIME أو SHAP غالبًا الوصول إلى تدرجات النموذج (الصندوق الأبيض) أو تعمل في فضاء الرموز (tokens) عالي الأبعاد، وهو ما يفتقر إلى التفسير الدلالي. هناك حاجة إلى طريقة "صندوق أسود"، خفيفة الوزن، وذات معنى دلالي للتدقيق فيما إذا كانت الأسباب التي يذكرها النموذج "توجه" قراراته بالفعل.

2. المنهجية: إطار عمل LAMP

يقترح المؤلفون LAMP (مسبار رسم خرائط العزو المحلي)، وهي طريقة تعامل التفسيرات التي يقدمها النموذج عن ذاتها كنظام إحداثيات لرسم سطح قراره المحلي. بخلاف الطرق التي تسأل "هل هذا التفسير حقيقي؟"، يسأل LAMP "هل يتصرف النموذج باتساق مع العوامل التي يدعي أنها مهمة؟"

يتكون سير عمل LAMP من أربع خطوات رئيسية:

استخراج التفسير: يتم توجيه النموذج لتصنيف مدخل $x$ وفي الوقت نفسه إنتاج قائمة من العوامل التفسيرية $\{f_i\}$ وأوزان الأهمية المرتبطة بها $\{w_i\}$ .
الاضطراب العشوائي: لاستقصاء الهندسة المحلية، يقوم LAMP بإحداث اضطراب في متجه الوزن $w_0$ عن طريق إضافة تذبذب عشوائي $\delta$ . يُعاد استعلام النموذج باستخدام هذه الأوزان المحدثة لمراقبة كيفية تغير احتمال التنبؤ $P(x=c)$ .
تقليل الأبعاد (التجميع الميتافيزيقي): نظرًا لأن النماذج اللغوية الكبيرة يمكن أن تولد قوائم طويلة وفائضة من العوامل، يستخدم LAMP خطوة "تجميع ميتافيزيقي". حيث يطلب من النموذج دمج العوامل الخام في مجموعة أصغر (مثل $n=5$ ) من الموضوعات التجميعية. يضمن ذلك أن يكون النموذج البديل الناتج مستقرًا وقابلًا للتفسير.
ملاءمة البديل الخطي المحلي: يقوم LAMP بملاءمة نموذج خطي $\hat{y} = X\hat{\beta}$ حيث $X$ هي مصفوفة الأوزان المضطربة و $y$ هي الاحتمالات الناتجة. تمثل المعاملات $\hat{\beta}$ "أدوات التحكم" في سطح القرار، مما يشير إلى مدى تأثير التغيير في عامل معين على المخرجات.

الابتكار الرياضي: اشتق المؤلفون نصف قطر الاضطراب الأمثل ( $\delta^*$ ) باستخدام مفكك تايلور من الدرجة الثانية. يضمن ذلك بقاء الاضطرابات ضمن جوار يكون فيه سطح القرار خطيًا بدرجة كافية، مما يقلل من متوسط مربع الخطأ (MSE) الناتج عن الانحناء المحلي.

3. المساهمات الرئيسية

تدقيق مستقل عن النموذج: لا يتطلب LAMP الوصول إلى التدرجات أو القيم اللوغاريتمية (logits) أو التنشيطات الداخلية، مما يجعله مثاليًا لتدقيق النماذج المملوكة (مثل GPT-4 أو Claude).
التفسير الدلالي: من خلال العمل في "فضاء التفسير" (الموضوعات/العوامل) بدلاً من "فضاء الرموز" (الكلمات الفردية)، تكون درجات الأهمية الناتجة قابلة للقراءة من قبل البشر.
التأسيس النظري: تقدم الورقة إطارًا رياضيًا لتحديد مقياس الاضطرابات الأمثل بناءً على الانحناء المحلي (Hessian) وحجم العينة.
التحقق من خلال الواقع المضاد: يوضح المؤلفون أن الاضطرابات في "فضاء العوامل" يمكن ترجمتها إلى "فضاء النص" عبر إعادة الكتابة القائمة على النماذج اللغوية الكبيرة، مما يثبت أن الطريقة تلتقط تحولات سلوكية حقيقية.

4. النتائج التجريبية

قيم المؤلفون LAMP عبر تحليل المشاعر (IMDB)، وكشف المواضيع المثيرة للجدل (Pseudo-Harmful)، وتدقيق السلامة (HateBenchSet)، وملفات طبية لحالات أمراض الجهاز الهضمي.

دقة التنبؤ: حققت النماذج البديلة الخطية قيم $R^2$ عالية (التباين المفسر)، لا سيما في المناطق "الوسطى" (غير المؤكدة) من توزيع الاحتمالات.
الاتساق: نجحت نماذج LAMP البديلة في التنبؤ بمخرجات النموذج على النصوص المعاد كتابتها (الواقع المضاد). في كثير من الحالات، تفوق LAMP على LIME وكان منافسًا لـ SHAP، مع الحفاظ على تباين أقل بكثير.
المواءمة مع الخبراء: في المجال الطبي، تماشى معاملات النموذج البديل مع التوقعات الاتجاهية لأطباء الجهاز الهضمي. ومن الملاحظ أن عوامل النموذج تماشت مع أحكام الأطباء الفردية بشكل وثيق أكثر مما تماشى الأطباء مع بعضهم البعض.
المقارنة مع طرق الصندوق الأبيض: بينما يؤدي Integrated Gradients (IG) أداءً جيدًا في النماذج مفتوحة المصدر (Qwen)، فإن LAMP يوفر أداءً مماثلاً في بيئة الصندوق الأسود، مما يثبت فائدته لواجهات برمجة التطبيقات المغلقة.

5. الأهمية والآثار المترتبة

ينقل LAMP نموذج التفسير من الحكم على الأمانة (وهو أمر صعب) إلى توصيف الاتساق السلوكي (وهو أمر قابل للقياس).

التطبيقات العملية:

التدقيق في الحالات عالية الخطورة: في الطب أو القانون، يمكن للممارسين استخدام LAMP لمعرفة ما إذا كان تشخيص النموذج مدفوعًا بالفعل بالأعراض السريرية التي يدعي البحث عنها.
السلامة وكشف التحيز: يوفر أداة للكشف عما إذا كان النموذج "يخفي" اعتماده على السمات المحمية أو الإشارات المثيرة للجدل خلف مبررات تبدو حميدة.
التعاون بين الإنسان والذكاء الاصطناعي: من خلال توفير "خريطة" لكيفية دفع قرار النموذج، يتيح LAMP أنظمة ذكاء اصطناعي أكثر تفاعلية وقابلية للتحكم.