🤖 AI

Deployment-Relevant Alignment Cannot Be Inferred from Model-Level Evaluation Alone

تجادل هذه الورقة بأن المواءمة ذات الصلة بالنشر لا يمكن استنتاجها من تقييمات مستوى النموذج وحدها، حيث تثبت من خلال عمليات التدقيق واختبارات الإجهاد أن المعايكات الحالية تفتقر إلى التحقق الموجه للمستخدم والقدرة على توجيه العمليات، مما يستوجب التحول نحو أطر تقييم على مستوى النظام تأخذ في الاعتبار صراحةً سياقات التفاعل وتبعية السقالات.

المؤلفون الأصليون: Varad Vishwarupe, Nigel Shadbolt, Marina Jirotka, Ivan Flechais

نُشر 2026-05-07

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Varad Vishwarupe, Nigel Shadbolt, Marina Jirotka, Ivan Flechais

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح للورقة البحثية باستخدام لغة بسيطة وتشبيهات إبداعية.

الفكرة الجوهرية: "اختبار السيارة" مقابل "الرحلة على الطريق"

تخيل أنك تريد معرفة ما إذا كانت سيارة جديدة ذاتية القيادة آمنة للقيادة على الطرق السريعة الحقيقية.

الممارسة الحالية (التقييم على مستوى النموذج):
في الوقت الحالي، يقوم الباحثون باختبار "عقل" السيارة (نموذج الذكاء الاصطناعي) في مرآب هادئ وخالٍ. يسألونها: "إذا ضغطتُ على المكابح، هل تتوقف؟" أو "إذا سألتك عن الوقت، هل تعطيني الوقت الصحيح؟"
إذا أجابت السيارة بشكل صحيح في المرآب، نفترض أنها آمنة للقيادة في أي مكان. نعطيها درجة عالية ونقول: "هذه السيارة متوافقة مع قواعد السلامة".

حجة الورقة البحثية:
يقول المؤلفون إن هذا خطأ خطير. فمجرد عمل عقل السيارة بشكل مثالي في المرآب لا يعني أنها ستتعامل جيداً مع طريق سريع ممطر، أو راكب مرتبك، أو تغيير مفاجئ في المسار.

المرآب = المعايير المرجعية الحالية (اختبار النموذج بمفرده).
الطريق السريع = العالم الحقيقي (حيث يُستخدم الذكاء الاصطناعي فعلياً).

تجادل الورقة بأنه لا يمكنك استنتاج كيفية سلوك السيارة على الطريق السريع بمجرد اختبارها في المرآب. لمعرفة ما إذا كان الذكاء الاصطناعي "متوافقاً" حقاً (آمناً ومفيداً) في العالم الحقيقي، يجب عليك اختباره أثناء القيادة، مع وجود ركاب، ومع وجود حركة مرور.

المستويات الأربعة للاختبار

يقسم المؤلفون اختبار الذكاء الاصطناعي إلى أربعة "طوابق" لمبنى. معظم الاختبارات الحالية تحدث في الطابق الثاني، لكننا نطلق ادعاءات حول الطابق الرابع.

الطابق 1: النموذج (العقل): اختبار الكود الخام والأوزان. ("هل الرياضيات تعمل؟")
الطابق 2: الاستجابة (الإجابة): إعطاء النموذج سؤالاً ثابتاً وتقييم إجابته الوحيدة. ("هل أجاب بـ '42' عندما سألناه 6×9؟") هذا هو المكان الذي يحدث فيه معظم الاختبارات الحالية.
الطابق 3: التفاعل (المحادثة): مراقبة كيفية تحدث الذكاء الاصطناعي عبر عدة جولات. هل يطلب توضيحاً؟ هل يسمح للمستخدم بتغيير الخطة؟ هل يعترف عندما يكون غير متأكد؟
الطابق 4: النشر (الوظيفة الحقيقية): عمل الذكاء الاصطناعي داخل شركة معينة، بقواعد حقيقية، ورؤساء حقيقيين، ومستخدمين حقيقيين.

المشكلة: نحن نختبر في الطابق 2، لكننا نطلق وعوداً عن الطابق 4. الفجوة بين هذه الطوابق هائلة.

الدراستان الكبيرتان (الأدلة)

لم يكتفِ المؤلفون بقول ذلك فحسب؛ بل أجروا دراستين لإثباته.

الدراسة 1: تدقيق "صندوق الأدوات"

نظروا في 11 أداة اختبار شهيرة للذكاء الاصطناعي (المعايير المرجعية) لمعرفة ما تقيسه بالفعل. استخدموا قائمة مراجعة تضم 8 "مهارات تفاعلية" مهمة، مثل:

دعم التحقق: هل يظهر الذكال الاصطناعي خطوات عمله حتى يتمكن المستخدم من التحقق مما إذا كان صحيحاً؟ (مثل إظهار خطوات حل مسألة رياضية).
قابلية التوجيه أثناء العملية: هل يمكن للمستخدم أن يطلب من الذكاء الاصطناعي تغيير طريقة حله للمشكلة؟ (مثل قول: "لا، جرب مساراً مختلفاً").

النتائج:

فراغ "التحقق": لم تتحقق أي واحدة من أصل 11 من المعايوهات مما إذا كان الذكاء الاصطناعي يساعد المستخدم على التحقق من الإجابة. لقد تحققوا فقط مما إذا كانت الإجابة "صحيحة"، وليس مما إذا كان بإمكان المستخدم الوثوق بها.
فجوة "قابلية التوجيه": لم يتحقق أي عدد يذكر مما إذا كان بإمكان المستخدم التحكم في العملية.
التجزئة: الاختبارات القليلة التي تحققت بالفعل من مهارات التفاعل كانت مشتتة. أحدها اختبر الذاكرة، والآخر اختبر استخدام الأدوات، ولكن لا يوجد شيء يختبر الصورة الكاملة. إنه يشبه امتلاك صندوق أدوات يحتوي على مطرقة وأخرى مفك براغي، ولكن ليس لديك مفتاح ربط.

التشبيه: تخيل أنك تحكم على طاهٍ فقط بناءً على مدى براعته في تقطيع البصل في مطبخ هادئ. أنت لا تراه أبداً وهو يتذوق الحساء، أو يسأل الزبون عما إذا كان لديه حساسية من المكسرات، أو يعدل الوصفة بناءً على مزاج الزبون. أنت لا تعرف ما إذا كان طاهياً جيداً، بل تعرف فقط أنه مقطع بصل جيد.

الدراسة 2: "نفس السيارة، طرق مختلفة" - اختبار الضغط

أخذ المؤلفون ثلاثة نماذج ذكاء اصطناعي مختلفة (Claude و GPT-4o و Llama) وأبقوا "عقولها" كما هي تماماً. ثم قاموا بتغيير "السقالات" (التعليمات والواجهة التي تغلف النموذج).

أعطوا النماذج أربعة "أزياء" مختلفة:

الدردشة العادية: مجرد تحدث.
وضع التوضيح: إجبار الذكاء الاصطناعي على طرح أسئلة قبل الإجابة.
وضع التخطيط: إجبار الذكاء الاصطناي على إظهار خطة قبل التنفيذ.
وضع التحقق: إجبار الذكاء الاصطناعي على إظهار افتراضاته وكيفية التحقق من الإجابة.

النتيجة الصادمة:

النموذج أ (Claude): عندما وُضع في "وضع التحقق"، أصبح بارعاً جداً في مساعدة المستخدمين على التحقق من الإجابات.
النموذج ب (GPT-4o): عندما وُضع في نفس "وضع التحقق"، لم يتغير على الإطلاق. ظل كما هو.
النموذج ج (Llama): لم يتغير إلا قليلاً، وفي بعض الحالات أصبح أسوأ في اتباع التعليمات.

الدرس المستفاد: "الزي" (تصميم النظام) يهم بقدر أهمية "العقل" (النموذج). لا يمكنك التنبؤ بكيفية سلوك النموذج في نظام حقيقي بمجرد النظر إلى النموذج وحده. نفس التعليمات تعمل بشكل رائع مع ذكاء اصطناعي واحد ولا تفعل شيئاً لآخر.

ماذا يجب أن نفعل بدلاً من ذلك؟

تقترح الورقة طريقة جديدة للإبلاغ عن نتائج الذكاء الاصطناعي، تسمى "ملف التوافق" (Alignment Profile).

بدلاً من قول: "هذا الذكاء الاصطناعي لديه درجة 95/100 وهو آمن للمستشفيات." (وهذه كذبة مبنية على اختبار المرآب).

يجب أن نقول: "هذا الذكاء الاصطناعي، عند استخدامه مع [تعليمات محددة] و [واجهة مستخدم محددة]، أظهر هذه السلوكيات المحددة. نحن لم نختبره في مستشفى حقيقي، لذا لا يمكننا الادعاء بأنه آمن لتلك الوظيفة المحددة."

المقترح:

توقف عن التظاهر بأن درجة واحدة تغطي كل شيء.
اختبر النظام بالكامل: اختبر النموذج بالإضافة إلى التعليمات بالإضافة إلى واجهة المستخدم معاً.
كن صادقاً بشأن الفجوة: صرّح بوضوح: "لقد اختبرنا هذا في المرآب. لم نختبره على الطريق السريع بعد".

الملخص

تجادل الورقة بأن توافق الذكاء الاصطناعي ليس خاصية للعقل وحده؛ بل هو خاصية للنظام بأكمله. لا يمكنك الحكم على سيارة ذاتية القيادة باختبار محركها في المختبر. يجب عليك قيادتها على الطريق، مع وجود راكب، وفي المطر. وإلى أن نبدأ في اختبار الذكاء الاصطناعي في هذا السياق، فإن ادعاءاتنا حول سلامته وفائدته ليست سوى مجرد تخمينات.

ملخص تقني: لا يمكن استنتاج التوافق ذي الصلة بالنشر من التقييم على مستوى النموذج وحده

بيان المشكلة

يركز التقييم الحالي للتوافق في تعلم الآلة بشكل أساسي على المقاييس المعتمدة على مستوى النموذج أو مستوى الاستجابة. تقوم المعايير المرجعية المؤثرة بتسجيل مخرجات النموذج تحت مدخلات ثابتة (مثل: الصدق، الامتثال للتعليمات، التفضيل الزوجي) وتعتبر هذه الدرجات دليلاً كافياً لادعاءات حول التوافق عند النشر (deployment alignment).

تجادل الورقة بأن هذا الاستنتاج غير صالح. فالتوافق ذو الصلة بالنشر هو ظاهرة على مستوى النظام تعتمد على التفاعل بين النموذج ( $M$ )، والسقالات ( $S$ — المطالبات، الذاكرة، الأدوات، واجهة المستخدم)، وسياق النشر ( $C$ — مجتمع المستخدمين، الرقابة، السياسة). ولأن المعايط المرجعية الحالية تبقي $S$ و $C$ ثابتين أو تتجاهلهما، فإنها لا تستطيع قياس الخصائص الجوهرية للأنظمة المنشورة، مثل دعم التحقق، أو قابلية التحكم في العملية، أو توزيع عبء الإصلاح. وتفترض الورقة وجود مشكلة "عدم القابلية للتعريف" (non-identifiability): حيث إن تقييم $M$ وحده لا يمكنه التمييز بين عمليات النشر المختلفة لنفس النموذج والتي تظهر سلوكيات مختلفة تماماً فيما يتعلق بالتوافق بسبب الاختلافات في $S$ .

المنهجية

تستخدم الورقة دراستين تجريبيتين رئيسيتين لدعم موقفها:

1. تدقيق المعايير المرجعية المهيكلة

النطاق: تدقيق مزدوج الترميز لـ 11 معياراً مرجعياً (بالإضافة إلى وحدة تحكم للتقييم الميتافيذي، JudgeBench) وامتداد إلى 16 معياراً إجمالاً.
المسطرة (Rubric): مسطرة مكونة من ثمانية أبعاد مستمدة من أدبيات التوافق التفاعلي وتوافق مستوى النشر (Terry et al., Shen et al., والعمل التجريبي على التأسيس/الإصلاح). الأبعاد هي:
- D1: توافق المواصفات (التعامل مع الطلبات غير المحددة بدقة).
- D2: توافق العملية/قابلية التحكم (تحكم المستخدم في عملية الاستدلال).
- D3: توافق التقييم/دعم التحقق (مساعدة المستخدمين على التحقق من المخرجات).
- D4: الاحتفاظ بسياق تعدد الدورات.
- D5: التأسيس/الأرضية المشتركة.
- D6: توزيع عبء الإصلاح.
- D7: التخصيص/التوافق الخاص بالمستخدم.
- D8: واقعية سير العمل/الرقابة.
البروتوكول: قام مبرمجان خارجيان مدربان بترميز المعايير بشكل مستقل على مقياس مرجعي من 0 إلى 2 (0: غائب، 1: جزئي/عرضي، 2: جوهري). وتم حل الخلافات عبر التوفيق القائم على المراجع.
الموثوقية: بلغ معامل كوهين $\kappa$ نحو 0.87 عبر 128 خلية من مجموعة الـ 16 معياراً.

2. اختبار الإجهاد الأعمى عبر النماذج

التصميم: دراسة تثبت أوزان النموذج ( $M$ ) وسياق النشر ( $C$ ) تقريباً مع تغيير السقالات التفاعلية ( $S$ ) فقط.
المتغيرات:
- النماذج: ثلاثة نماذج رائدة (Claude-Opus-4.7, GPT-4o, Llama-4-Scout).
- السقالات: أربعة حالات تتراوح من روبوت دردشة بسيط (C1) إلى مطالبات صريحة لدعم التحقق (C4).
- البيانات: 180 نصاً (60 لكل نموذج) عبر المجالات الطبية والقانونية والتقنية.
البروتوكول: تم تعمية النصوص، وتجريدها من مطالبات النظام، وترميزها من قبل مقيمين اثنين لـ D1 و D2 و D3. تم حل الخلافات باستخدام سياسة الحد الأدنى المحافظة.

النتائج الرئيسية

من تدقيق المعايير المرجعية

فراغ D3: دعم التحقق (D3) غائب في جميع المعايير الـ 11 التي تم تدقيقها. لا يوجد معيار يقيم صراحةً ما إذا كانت مخرجات النموذج تساعد المستخدم على التحقق من الإجابة أو نقدها أو فهمها.
الغياب شبه التام لقابلية التحكم: يكاد يكون التوافق مع العملية/التحكم (D2) غائباً، حيث لم يسجل قيمة غير صفرية إلا في معيار واحد ( $\tau$ -bench)، وحتى هناك سجل درجة جزئية فقط، وليس كتحكم صريح للمستخدم.
تجزئة المعايير التفاعلية: المعايير الأربعة التفاعلية المحددة (CURATe, Rifts, $\tau$ -bench, Common Ground) تقيس مجموعات فرعية مختلفة وغير متداخلة من الأبعاد. لا يوجد هدف تقييم موحد للتوافق التفاعلي.
البناء يحدد القياس: هيكل التقييم (كيفية بناء المعيار المرجعي) هو ما يحدد ما يتم قياسه، وليس مصدر البيانات. على سبيل المثال، يستخدم WildBench سجلات مستخدمين حقيقية لكنه يسجل قوائم مراجعة للاستجابة الواحدة، مما يجعله يفشل في التقاط الخصائص التفاعلية رغم واقعيته البيئية.

من اختبار الإجهاد عبر النماذج

فعالية السقالات المعتمدة على النموذج: تنتج نفس السقالة ( $S$ $S$ ) نتائج سلوكية مختلفة جذرياً عبر النماذج.
- Claude-Opus-4.7: عالي المرونة؛ رفعت سقالة التحقق C4 درجة D3 من 0.42 إلى 2.00 (الحد الأقصى).
- GPT-4o: مشبع؛ لم يكن لسقالة C4 نفسها أي تأثير ملموس على D3 (بقي عند 0.33).
- Llama-4-Scout: معكوس جزئياً؛ أظهر حساسية ضعيفة وغياباً فئوياً لـ D2 عبر جميع السقالات.
الاستنتاج: الفجوة التي حددها التدقيق (نقص قياسات الخصائص التفاعلية) لا يمكن سدها على مستوى النموذج لأن فعالية السقالة هي نفسها دالة في أوزان النموذج.

المساهمات الرئيسية

التأطير المفهرس بالمستويات: تقترح الورقة التمييز بين أربعة مستويات لتقييم التوافق: مستوى النموذج (الأوزان/الأهداف)، مستوى الاستجابة (المخرات تحت مدخلات ثابتة)، مستوى التفاعل (خصائص تعدد الدورات)، ومستوى النشر (النظام داخل سير العمل). وتجادل بأن الادعاءات يجب أن تكون مفهرسة لمستوى الدليل.
أدلة التدقيق المهيكلة: توفر دليلاً تجريبياً على أن منظومة المعايير المرجعية الحالية تفشل بشكل منهجي في قياس الأبعاد التفاعلية الحرجة (تحديداً D2 و D3).
إثبات عدم القابلية للتعريف: تثبت عبر اختبار الإجهاد أن $B = f(M, S, C)$ لا يمكن استنتاجه من $M$ وحدها، حيث تتفاعل $S$ مع $M$ بطرق تعتمد على النموذج.
أجندة التقييم: تقترح التحول من درجات التوافق الفردية إلى ملفات تعريف التوافق (alignment profiles). ويتضمن ذلك:
- تقديم الأدلة عبر الأبعاد الثمانية.
- استخدام بروتوكولات ذات سقالات ثابتة للتقييم التفاعلي القابل للمقارنة.
- قالب تقرير مكون من ستة صفوف (الملحق G.1) يجبر المؤلفين على تحديد نطاق ادعاءاتهم صراحة (أي تكوينات $M, S, C$ يدعمها الدليل).

الأهمية والادعاءات

تدعي الورقة أن اعتماد المجال على معايير المرجعية على مستوى الاستجابة لترخيص ادعاءات التوافق عند النشر هو أمر معيب بنيوياً. إن "الفجوة الاستدلالية" بين أداء المعيار المرجعي والسلوك عند النشر أكبر مما هو معترف به حالياً.

تكمن أهمية هذا العمل في:

تصحيح نطاق الادعاءات: الجدل بأن أدلة مستوى النموذج غير كافية لادعاءات مستوى النشر، وأن إضافة المزيد من المعايير المرجعية على مستوى الاستجابة لن يحل المشكلة.
الانضباط المنهجي: تقديم إطار عمل حيث يتم تحديد نطاق ادعاءات التوافق صراحةً بمستوى الدليل الذي تم جمعه، مما يمنع الخلط بين خصائص النموذج وسلوكيات النظام.
التحقق التجريبي: تقديم دليل مباشر على أن الخصائص التفاعلية ليست خصائص جوهرية للنموذج بل هي خصائص ناشئة عن النظام ( $M+S+C$ )، وأن هذه الخصائص تختلف بشكل كبير عبر النماذج حتى مع وجود نفس السقالة.

لا تدعي الورقة أن التقييم على مستوى النموذج عديم الفائدة، بل تدعي أنه غير كافٍ لادعاءات النشر. وهي تدعو المجتمع لتطوير مفردات وبروتوكولات تقييم تأخذ في الاعتبار النظام، والتفاعل، والمستخدم، بدلاً من التركيز فقط على النموذج.