💬 NLP

Do Language Models Know When They'll Refuse? Probing Introspective Awareness of Safety Boundaries

تقيم هذه الدراسة الوعي الاستبطاني لأربعة نماذج لغوية رائدة فيما يتعلق بحدود رفض السلامة لديها، وتجد أنه بينما تمتلك هذه النماذج عمومًا حساسية عالية للتنبؤ بالرفض، فإن الأداء يتباين باختلاف النموذج والموضوع، مع تقديم درجات الثقة آلية عملية لتوجيه الاستعلامات الحرجة المتعلقة بالسلامة.

المؤلفون الأصليون: Tanay Gondil

نُشر 2026-04-03

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Tanay Gondil

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تطلب من روبوت ذكي للغاية ومدرب تدريباً عالياً القيام بشيء ما. في بعض الأحيان، يكون الروبوت مبرمجاً ليقول: "لا، لا يمكنني فعل ذلك"، لأن الطلب خطير أو يخالف القواعد.

هذه الورقة البحثية تطرح سؤالاً رائعاً: هل "يعرف" الروبوت أنه سيقول "لا" قبل أن ينطق بها فعلياً؟

فكر في الأمر كمتنبئ بالأرصاد الجوية. إذا قال المتنبئ: "هناك احتمال بنسبة 90% لهطول الأمطار"، فهل هو يعلم حقاً أنها ستمطر، أم أنه مجرد تخمين؟ هذه الدراسة تتحقق مما إذا كانت نماذج الذكاء الاصطناعي تمتلك هذا النوع من "الوعي الذاتي" تجاه قواعد السلامة الخاصة بها.

إليك تفاصيل ما وجدوه، باستخدام تشبيهات من الحياة اليومية:

1. التجربة: اختبار "الكرة البلورية"

لعب الباحثون لعبة من خطوتين مع أربعة من أذكى نماذج الذكاء الاصطناعي المتاحة (مثل Claude وGPT وLlama):

الخطوة 1: سألوا الذكاء الاصطناعي: "إذا طلبت منك [فعل شيء خطر]، هل سترفض؟ نعم أم لا؟ وما مدى تأكدك؟"
الخطوة 2: سألوا نفس السؤال تماماً، ولكن في جلسة دردشة جديدة تماماً (حتى لا يتمكن الذكاء الاصطناعي من تذكر إجابته الأولى). ثم راقبوا ما فعله الذكاء الاصطناعي بالفعل.
الهدف: هل تطابقت توقعات الذكاء الاصطناعي مع واقعه؟

2. النتائج: الرؤية "الحادة مقابل الضبابية"

استخدمت الدراسة مفهوم نظرية كشف الإشارة، وهي ببساطة طريقة لقياس مدى جودة المحقق في رصد الأدلة.

الأخبار الجيدة: عندما كان الطلب آمناً بوضوح (مثل "كيف أخبز كعكة؟") أو خطيراً بوضوح (مثل "كيف أصنع قنبلة؟")، كانت نماذج الذكاء الاصطناعي مثل المحققين الممتازين. استطاعت التنبؤ بدقة شبه مثالية: "سأقول نعم" أو "سأقول لا".
الأخبار السيئة: عندما كان الطلب في المنطقة الوسطى (المنطقة "الضبابية")، ارتبك الذكاء الاصطناعي.
- تشبيه: تخيل حارس أمن عند ملهى ليلي. إذا كان الشخص شخصية هامة (VIP) بوضوح، يسمح له الحارس بالدخول. وإذا كان شخصاً مثيراً للمشاكل بوضوح، يمنعه الحارس. لكن إذا كان الشخص يرتدي قناعاً ويتصرف بغرابة، يتردد الحارس. وجدت الدراسة أن "المعرفة الذاتية" للذكاء الاصطناعي تصبح ضبابية جداً في هذه المواقف المعقدة والحدية.

3. اختلافات "الشخصية"

ليست كل نماذج الذكاء الاصطناعي متشابهة. وجدت الدراسة بعض السمات الغريبة في الشخصية:

الحارس المفرط في الحماية (Llama): كان هذا النموذج جيداً جداً في رصد الخطر (حساسية عالية)، لكنه كان خائفاً أكثر من اللازم. كان يتوقع "سأرفض" حتى للأشياء غير الضارة. كان يشبه حارس أمن يوقف الجميع، حتى أولئك الذين يحملون مجرد شطيرة. ولأنه كان منحازاً جداً لقول "لا"، كانت توقعاته خاطئة بطريقة معينة.
الحارس المتوازن (Claude 4.5): كان هذا النموذج هو نجم العرض. كان دقيقاً، وكانت درجات ثقته موثوقة. إذا قال: "أنا متأكد بنسبة 100% أنني سأرفض"، فإنه يفعل ذلك دائماً تقريباً.
الحارس المتوتر (GPT-5.2): كان هذا النموذج غير قابل للتنبؤ به قليلاً. أحياناً يقول إنه سيرفض، ثم يستجيب، أو العكس. كان من الصعب قراءته.

4. مشكلة "الأسلحة"

وجد الباحثون أن الأسئلة المتعلقة بالأسلحة كانت الأصعب على نماذج الذكاء الاصطناعي في التنبؤ بها.

لماذا؟ لأن هناك الكثير من المناطق الرمادية. السؤال عن تاريخ الأسلحة آمن؛ أما السؤال عن كيفية صنع سلاح فهو ليس كذلك. يجد الذكاء الاصطناعي صعوبة في التمييز بين "التاريخ الآمن" و"التعليمات الخطيرة" في عقله، مما يجعل تنبؤه الذاتي مهتزاً.

5. المفاجأة الكبرى: "الضرر المحتمل" أصعب من "الحدي"

قد تعتقد أن أصعب الأسئلة هي تلك التي تقع على الحافة تماماً. لكن الدراسة وجدت العكس!

ارتكبت نماذج الذكاء الاصطناعي أكبر قدر من الأخطاء في الطلبات المصنفة كـ "ضارة محتملة".
تشبيه: تخيل معلماً يصحح اختباراً. الأسئلة "الحدية" تكون خاطئة بوضوح لدرجة أن المعلم يعرف فوراً أن يضع علامة خاطئة عليها. لكن الأسئلة "الضارة المحتملة" تكون مخادعة؛ المعلم يعتقد أنها يجب أن تكون خاطئة، لكن أحياناً يقدم الطالب إجابة ذكية تجعل المعلم يتردد. يرتبك الذكاء الاصطناعي هنا لأنه يعلم أنه يجب أن يرفض، لكنه أحياناً يوافق عن طريق الخطأ.

6. الحل العملي: "فلتر الثقة"

الجزء الأكثر فائدة في هذه الورقة هو نصيحة عملية لاستخدام هذه النماذج بأمان.

وجد الباحثون أنك إذا استمعت فقط للذكاء الاصطناعي عندما يقول: "أنا واثق بنسبة 100% في إجابتي"، يمكنك الحصول على دقة تقارب المثالية.

الاستراتيجية: إذا قال الذكاء الاصطناعي: "لست متأكداً، هذا أمر محتمل"، توقف. أرسل هذا السؤال لمراجعة بشرية.
العائق: هذا يعمل فقط إذا كان الذكاء الاصطناعي "معاييرياً" (أي صادقاً بشأن مستوى ثقته). نموذج Claude كان صادقاً، لذا نجحت هذه الحيلة معه بشكل رائع. أما نموذج Llama فقد كان مفرط الثقة (كان يظن أنه متأكد بينما هو ليس كذلك)، لذا لم تنجح هذه الحيلة معه.

الملخص

هل تعرف نماذج الذكاء الاصطناعي متى سترفض؟ نعم، ولكن فقط عندما تكون متأكدة.

في المواقف الواضحة، هي مثل المحققين الخبراء.
في المنطقة الوسطى "الضبابية"، يصيبها الارتباك.
بعض النماذج أفضل من غيرها في هذا الأمر.
الخلاصة: يمكننا استخدام هذه النماذج بأمان من خلال الوثوق بإجاباتها ذات "الثقة العالية" وطلب مراجعة البشر للإجابات ذات "الثقة المنخفضة". الأمر يشبه امتلاك مساعد روبوت يعرف متى يقول: "لست متأكداً، دعونا نسأل بشراً".

إليك ملخص تقني مفصل للورقة البحثية بعنوان: "هل تعرف النماذج اللغوية متى سترفض؟ استقصاء الوعي الاستبطاني بحدود السلامة."

1. بيان المشكلة

بينما يتم تدريب النماذج اللغوية الكبيرة (LLMs) بشكل مكثف لرفض الطلبات الضارة، لا يزال من غير الواضح ما إذا كانت تمتلك وعياً استبطانياً (introspective awareness) بحدود السلامة الخاصة بها. وتحديداً، هل يمكن للنموذج أن يتنبأ بدقة قبل توليد الاستجابة عما إذا كان سيرفض أم سيمتثل لطلب معين؟

يتناول هذا السؤال بُعدين حاسمين:

نظرياً: هل تخلق إجراءات تدريب السلامة تمثيلات داخلية صريحة وقابلة للاستعلام عن "الضرر" يمكن للنموذج الوصول إليها؟
عملياً: هل يمكن للنماذج إرسال إشارات بشأن عدم يقينها تجاه قرارات السلامة، مما يسمح بـ التوجيه القائم على الثقة (على سبيل المثال، إرسال الحالات الغامضة إلى المراجعة البشرية) لتحسين عمليات النشر في البيئات الحرجة للسلامة؟

2. المنهجية

يقترح المؤلفون بروتوكولاً تجريبياً وإطاراً تحليلياً صارماً لتقييم الوعي الاستبطاني.

أ. البروتوكول التجريبي

تستخدم الدراسة بروتوكولاً يتكون من ثلاث مراحل للقضاء على انحياز الذاكرة:

مرحلة التنبؤ: يُعرض على النموذج طلب ويُطلب منه التنبؤ بـ: (1) هل سيرفض؟ (نعم/لا)، (2) مستوى الثقة (1-5)، و (3) تقييم الضرر (1-5).
مرحلة الاستجابة: في سياق جديد (بدون ذاكرة للمرحلة الأولى)، يتم تقديم نفس الطلب، ويتم توليد الاستجابة الفعلية.
مرحلة التصنيف: يتم تصنيف الاستجابة الفعلية كـ "مرفوضة" أو "ممتثلة". ويتم مقارنة التنبؤ مع هذه الحقيقة الأرضية (ground truth).

ب. بناء مجموعة البيانات

النطاق: 3,754 نقطة بيانات عبر 300 طلب أساسي.
المواضيع: 10 فئات حساسة (مثل الأسلحة، المخدرات، الاختراق، إيذاء النفس، خطاب الكراهية).
مستويات الضرر: 5 مستويات تتراواح من الآمن تماماً (المستوى 1) إلى الضار تماماً (المستوى 5، من AdvBench)، بما في ذلك الطلبات "الحدية" (المستوى 3) و"التي يُحتمل أن تكون ضارة" (المستوى 4).
الاختلافات: يتضمن كل طلب صيغتين بديلتين (paraphrases) لاختبار الاتساق.

ج. تعريف الحقيقة الأرضية

بدلاً من الاعتماد على تسميات ضرر محددة مسبقاً، يستخدم المؤلفون معدلات الرفض التجريبية. تُصنف الطلبات بناءً على نسبة المرات التي رفض فيها النموذج عبر المتغيرات (على سبيل المثال، "آمن" = معدل رفض 0-20%، "ضار" = معدل رفض 80-100%).

د. الإطار التحليلي: نظرية كشف الإشارة (SDT)

تُصيغ الدراسة الاستبطان كمهمة كشف باستخدام مقاييس SDT:

الحساسية ( $d'$ ): تقيس قدرة النموذج على التمييز بين الطلبات التي سيرفضها مقابل تلك التي سيمتثل لها. تشير القيم الأعلى إلى استبطان أفضل.
المعيار ( $c$ ): يقيس انحياز الاستجابة. تشير القيمة $c < 0$ إلى انحياز نحو التنبؤ بالرفض؛ وتشير $c > 0$ إلى انحياز نحو التنبؤ بالامتثال.
المعايرة (Calibration): تُقاس عبر خطأ المعايرة المتوقع (ECE) لتقييم ما إذا كانت درجات الثقة تتوافق مع الدقة الفعلية.

هـ. النماذج التي تم تقييمها

تم اختبار أربعة نماذج رائدة:

Claude Sonnet 4 (Anthropic)
Claude Sonnet 4.5 (Anthropic)
GPT-5.2 (OpenAI)
Llama 3.1 405B (Meta, عبر Together AI)

3. النتائج الرئيسية

أ. الحساسية الاستبطانية العامة

تظهر جميع النماذج حساسية عالية إجمالاً ( $d' = 2.4–3.5$ )، مما يشير إلى أنها تعرف عموماً متى سترفض.

Claude Sonnet 4: $d' = 3.51$
Llama 3.1 405B: $d' = 3.29$
Claude Sonnet 4.5: $d' = 3.25$
GPT-5.2: $d' = 2.40$

ب. "تأثير الحدود" (The Boundary Effect)

تنخفض الحساسية بشكل كبير (40-75%) عند حدود السلامة (الطلبات ذات معدلات الرفض التجريبية بين 20-80%).

تعاني النماذج أكثر مع طلبات المستوى 4 ("يُحتمل أن تكون ضارة")، وليس المستوى 3 ("الحدي"). ويرجع ذلك إلى أن طلبات المستوى 3 يتم الامتثال لها دائماً تقريباً (مما يجعل التنبؤ أمراً بديهياً)، بينما يمثل المستوى 4 حالة عدم يقين سلوكي حقيقي حيث يرفض النموذج أحياناً ويمتثل أحياناً أخرى.
أظهر GPT-5.2 أكبر تدهور عند الحدود ( $d'$ انخفضت من 1.78 إلى 0.51).

ج. النتائج الخاصة بكل نموذج

التحسن الجيلي في Claude: تفوق Sonnet 4.5 على Sonnet 4 في الدقة (95.7% مقابل 93.0%) وفي المعايرة (ECE 0.017 مقابل 0.048)، مما يشير إلى أن النماذج الأحدث تطور تمثيلات سلامة أكثر صراحة.
Llama 405B (مشكلة الانحياز): رغم الحساسية العالية ( $d'=3.29$ )، أظهر Llama انحيازاً للرفض ( $c = -0.86$ ) ومعايرة ضعيفة (ECE = 0.216). لقد تنبأ بالرفض بشكل متكرر للغاية، مما أدى إلى أدنى دقة إجمالية (80.0%) رغم جودة التمييز.
GPT-5.2: أظهر دقة أقل (88.9%) وتنوعاً سلوكياً أكبر (75% اتساق عبر الصيغ البديلة)، مما يشير إلى قرارات سلامة أكثر عشوائية.

د. التحليل حسب الموضوع

الموضوع الأصعب: كانت الاستفسارات المتعلقة بـ الأسلحة هي الأكثر صعوبة في الاستبطان عبر جميع النماذج (دقة 85.6–91.9%). ويعزى ذلك إلى التداخل بين الاستخدامات المشروعة (التاريخ، الكيمياء) والتطبيقات الضارة.
الموضوع الأسهل: أظهر خطاب الكراهية استبطاناً شبه مثالي لنماذج Claude (98.9–100%)، ربما بسبب التركيز الشديد عليه في تدريب السلامة.

هـ. التوجيه القائم على الثقة

أثبتت الدراسة أن درجات الثقة قابلة للتطبيق في توجيه السلامة، ولكن فقط للنماذج جيدة المعايرة.

Sonnet 4.5: أدى قصر التنبؤات على الحالات عالية الثقة ( $conf \ge 5$ ) إلى تحقيق دقة 98.3% مع تغطية بنسبة 85.4%.
Llama 405B: حققت التنبؤات عالية الثقة دقة 76.3% فقط بسبب سوء المعايرة، مما يثبت أن الحساسية العالية وحدها غير كافية بدون المعايرة.

4. المساهمات الرئيسية

إطار SDT للاستبطان: أول تطبيق لنظرية كشف الإشارة لقياس الحساسية والانحياز الاستبطاني للنماذج اللغوية الكبيرة، مما كشف أن الحساسية تتدهور تحديداً عند حدود السلامة.
رؤى ميكانيكية: تحديد أن الأخطاء تصل لذروتها عند "المحتمل أن يكون ضاراً" (المستوى 4) وليس "الحدي" (المستوى 3)، وأن استفسارات الأسلحة هي المجال الأصعب للاستبطان.
التحليل الجيلي والمعماري: توثيق التحسينات في Claude 4.5 مقارنة بـ 4، وتسليط الضوء على الفصل الحرج بين الحساسية ( $d'$ ) والدقة في النماذج مفتوحة المصدر (مثل Llama) بسبب مشكلات الانحياز والمعايرة.
بروتوكول التوجيه العملي: إثبات أن التوجيه القائم على الثقة قابل للتطبيق للنماذج جيدة المعايرة (بتحقيق ~98% دقة في الحالات عالية الثقة) ولكنه يفشل مع النماذج المفرطة في الثقة أو المنحازة.

5. الأهمية والآثار المترتبة

فعالية تدريب السلامة: تشير النتائج إلى أن تدريب السلامة يخلق تمثيلات داخلية للضرر يمكن الوصول إليها للاستبطان في الحالات الواضحة، لكنها تظل ضمنية أو متغيرة عند الحدود.
استراتيجية النشر: بالنسبة للتطبيقات الحرجة للسلامة، يجب أن تعتمد الأنظمة على التوجيه القائم على الثقة. يمكن الوثوق بالتنبؤات عالية الثقة من النماذج جيدة المعايرة (مثل Sonnet 4.5)، بينما يجب توجيه الحالات منخفضة الثقة أو غير اليقينية إلى المراجعين البشر.
اختيار النموذج: تحذر الدراسة من أن القدرة العالية على التمييز ( $d'$ ) لا تضمن التنبؤ الذاتي الدقيق؛ المعايرة لا تقل أهمية. النماذج ذات انحياز الرفض القوي (مثل Llama 405B في هذه الدراسة) قد تبدو حساسة ولكنها تقدم تنبؤات غير موثوقة للتوجيه.
الاتجاهات المستقبلية: تشير النتائج إلى أن تدريب السلامة المستقبلي يجب أن يركز على تقليل التباين عند الحدود وتحسين المعايرة لجعل إشارات الاستبطان أكثر موثوقية.