🤖 AI

Compiling High-Level Neural Network Specifications into VNN-LIB Queries

تقدم هذه الورقة أول خوارزمية لترجمة مواصفات الشبكات العصبية عالية المستوى إلى استعلامات VNN-LIB محسنة وسليمة عددياً، متجاوزةً قيود المتغيرات الفريدة لدعم الأجزاء المنطقية المعقدة مثل المكممات والمواصفات متعددة الشبكات ضمن إطار عمل Vehicle.

المؤلفون الأصليون: Matthew L. Daggitt, Wen Kokke, Robert Atkey

نُشر 2026-02-13

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Matthew L. Daggitt, Wen Kokke, Robert Atkey

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

الصورة الكبيرة: ترجمة "الأفكار البشرية" إلى "تعليمات روبوتية"

تخيل أنك مهندس معماري يصمم مبنى. لديك رؤية سامية وجميلة: "أريد غرفة تسقط فيها أشعة الشمس على الأرض بزاوية 45 درجة، ولكن فقط إذا كانت النافذة مفتوحة". هذه هي المواصفات عالية المستوى (High-Level Specification).

الآن، تخيل أنك بحاجة للتحدث مع روبوت بناء لا يفهم إلا لغة محددة وصارمة للغاية. هو لا يهتم بـ "ضوء الشمس" أو "الزوايا"، بل يفهم فقط قائمة دقيقة من الإحداثيات لكل طوبة، ومجموعة صارمة من القواعد مثل: "إذا كانت الطوبة (أ) هنا، فيجب أن تكون الطوبة (ب) هناك". هذه هي صيغة VNN-LIB (اللغة التي تتحدث بها برمجيات حل الشبكات العصبية).

المشكلة:
في عالم البرمجيات التقليدية، لدينا مترجمون (مثل تلك المذكورة في الورقة البحثية، مثل Dafny) يمكنهم أخذ رؤيتك المعمارية عالية المستوى وتحويلها تلقائياً إلى تعليمات الروبوت الصارمة.

ولكن بالنسبة لـ الشبكات العصبية (Neural Networks) (أدمغة الذكاء الاصطناعي)، لم يكن هذا المترجم موجوداً. إذا أردت التحقق من سلامة ذكاء اصطناعي، كان عليك أن تكون روبوتاً بنفسك. كان عليك كتابة إحداثيات كل طوبة يدوياً، وكل معادلة رياضية معقدة. إذا أردت أن تقول: "تحقق مما إذا كان الذكاء الاصطناعي يتصرف بشكل جيد عندما أغير المدخلات قليلاً"، كان عليك القيام بالعمل الشاق لتحديد كيفية تأثير هذا التغيير عبر العمليات الحسابية. كان الأمر يشبه محاولة بناء ناطحة سحاب عن طريق تلوين كل طوبة يدوياً دون وجود مخطط هندسي.

الحل:
تقدم هذه الورقة البحثية مترجماً ذكياً (خوارزمية) يأخذ وصفك البشري السهل والمفهوم لكيفية تصرف الذكاء الاصطناعي، ويقوم تلقائياً بتحويله إلى التعليمات المنخفضة المستوى والصارمة التي يحتاجها الروبوت.

العقبات الثلاث الكبرى (وكيف تم حلها)

يوضح المؤلفون أن بناء هذا المترجم كان صعباً بسبب ثلاثة "أعطال" محددة في النظام:

1. قاعدة "لا متغيرات جديدة"

التشبيه: تخيل أن الروبوت يعمل في غرفة صغيرة مغلقة. لديه مجموعة ثابتة من الأدوات (المتغيرات) على الحائط، ولا يمكنه قبول أي أدوات جديدة تجلبها أنت معه.
التحدي: في مواصفاتك عالية المستوى، قد تقول: "لنسمِّ هذا المدخل x وذلك المدخل y". لكن الروبوت لا يعرف سوى المدخل 1 و المدخل 2.
الحل: المترجم هنا هو ساحر رياضيات. بدلاً من مجرد إعادة تسمية الأشياء، يقوم بحل اللغز. إذا قلت x = المدخل 1 + المدخل 2 ، فإن المترجم يجد طريقة لإعادة كتابة قاعدتك باستخدام المدخل 1 و المدخل 2 فقط. إنه يقوم بالجبر نيابة عنك حتى لا يحتاج الروبوت إلى أدوات جديدة.

2. مشكلة "الكثير من الطوب"

التشبيه: إذا كان لديك شبكة من الطوب بمقاس 10×10، فهذا يعني 100 طوبة. أما إذا كان لديك شبكة 784×784 (مثل صورة قياسية)، فهذا يعني أكثر من 600,000 طوبة.
التحدي: إذا حاول المترجم حل الرياضيات لكل طوبة على حده، فسيستغرق الأمر وقتاً أطول من عمر الكون. هذه هي مشكلة "الانفجار الأسي".
الحل: المترجم ذكي بما يكفي للنظر في هيكل الشبكة. بدلاً من حل 600,000 طوبة بشكل فردي، يقوم بحل "الصفوف" أو "الأعمدة" أولاً. إنه يجمع العمل معاً، مما يجعل العملية سريعة بما يكفي لتكون مفيدة، حتى للصور الكبيرة.

3. مشكلة "العمل المكرر"

التشبيه: تخيل أنك تطلب من الروبوت فحص نفس الباب ثلاث مرات متتالية؛ هذا هدر للوقت.
التحدي: عند ترجمة القواعد المعقدة، قد ينشئ النظام بالخطأ نسخاً متعددة من نفس الفحص (على سبيل المثال، فحص ما إذا كان الذكاء الاصطناعي آمناً لـ "المدخل أ" ثم مرة أخرى لـ "المدخل ب"، رغم أن أ و ب هما في الواقع الشيء نفسه).
الحل: المترجم يمتلك "راصداً". ينظر إلى جميع الفحوصات التي سيقوم بها، ويدرك أن "مهلاً، هذان الفحصان هما في الواقع نفس الشيء"، فيقوم بدمجهما في فحص واحد. هذا يوفر وقتاً هائلاً.

لماذا يهم هذا؟ (ما الفائدة؟)

قبل هذه الورقة البحثية، إذا أردت التحقق من سلامة ذكاء اصطناعي، كان عليك أن تكون خبيراً في الرياضيات يتحدث لغة الروبوت. كنت عالقاً في تفاصيل دقيقة ومعقدة.

مع هذه الأداة الجديدة:

يمكنك التحدث بشكل طبيعي: يمكنك كتابة مواصفات مثل "يجب أن تتوقف السيارة إذا تم اكتشاف مشاة"، دون القلق بشأن رياضيات البكسلات الخام.
يمكنك التعامل مع قواعد معقدة: يمكنك السؤال عن سيناريوهات "ماذا لو" التي تتضمن إصدارات متعددة من الذكاء الاصطناعي أو عمليات متسلسلة (مثل المشفر-المفكك/encoder-decoder)، وهو أمر كان مستحيلاً أو صعباً جداً في السابق.
إنها سريعة: تثبت الورقة أنه بالنسبة لمعظم المشكلات الواقعية، تتم هذه الترجمة فوراً تقريباً، حيث تتوسع خطياً (إذا أصبح المشكل ضعف الحجم، فإن الترجمة تستغرق ضعف الوقت، وليس مليون ضعف الوقت).

الخلاصة

تبني هذه الورقة البحثية الجسر بين النية البشرية والتحقق الآلي. فهي تسمح للمهندسين بكتابة قواعد منطقية عالية المستوى حول كيفية تصرف الذكاء الاصطناعي، ومن ثم تحويلها تلقائياً إلى الكود الصارم ومنخفض المستوى الذي تحتاجه أدوات فحص السلامة لإثبات أن الذكاء الاصطناعي آمن. إنها تحول وظيفة "سلامة الذكاء الاصطناعي" من حرفة يدوية عرضة للخطأ إلى تخصص هندسي قابل للتوسع والآلية.

1. بيان المشكلة

لقد أحدثت لغات المواصفات عالية المستوى (مثل Dafny وF*) ثورة في التحقق الرسمي من البرمجيات التقليدية، حيث تُترجم إلى استعلامات SMT-LIB منخفضة المستوى. ومع ذلك، تفتقر التحقق من الشبكات العصبية إلى بنية تحتية مماثلة. تتطلب الأدوات الحالية من المستخدمين كتابة مواصفات بتنسيقات منخفضة المستوى (مثل VNN-LIB) تكون قريبة من التمثيل الداخلي للمحلل (solver).

يبرز التحدي الجوهري، والذي يُطلق عليه اسم "فجوة التضمين" (embedding gap)، نتيجة للاختلافات الأساسية بين SMT-LIB وVNN-LIB:

قيود المتغيرات: يفرض VNN-LIB قيوداً على الاستعلامات بحيث تقتصر على مجموعة ثابتة ومحدودة من المتغيرات التي تمثل فقط مدخلات ومخرجات الشبكة المباشرة. ولا يمكنه إدخال متغيرات وسيطة عشوائية للمنطق المعرف من قبل المستخدم.
تعقيد التحويل: غالباً ما تتضمن المواصفات عالية المستوى متغيرات مستخدم (مثل المدخلات المعيرة، أو التنسورات المكممة) التي يجب تحويلها رياضياً إلى متغيرات الشبكة. في SMT-LIB، يمكن للمترجم ببساطة التصريح عن متغيرات جديدة، أما في VNN-LIB، فيتعين على المترجم حل معادلات متزامنة للتعبير عن متغيرات المستخدم بدلالة متغيرات الشبكة (على سبيل المثال، حل $x_0 = a_0 + a_1$ لإيجاد $a_0$ ).
القابلية للتوسع: عملية حذف المتغيرات الساذجة (مثل حذف غاوس - Gaussian elimination) هي $O(n^3)$ وتصبح غير قابلة للتطبيق عملياً بالنسبة للتنسورات الكبيرة (مثل مدخلات MNIST التي يصل فيها $n$ إلى 784).
قيود القدرة التعبيرية: تتجنب الأدوات عالية المستوى الموجودة (مثل DNNV وCAISAR) هذه التعقيدات من خلال حصر المستخدمين في قوالب أو مجموعات فرعية من المنطق، مما يمنع التعبير عن معيرة البيانات (data normalization)، أو المكممات من الدرجة الأولى، أو الخصائص التي تتضمن تطبيقات متعددة للشبكة.

2. المنهجية

يقدم المؤلفون خوارزمية ترجمة مبتكرة تقوم بتحويل لغة مواصفات عالية المستوى (جزء من منطق الدرجة الأولى الموسع بالتنسورات) إلى شجرة محسنة من استعلامات VNN-LIB. تتضمن العملية ثلاث مراحل رئيسية:

أ. لغات المصدر والهدف

لغة المصدر: تدعم المكممات (exists و forall)، وعمليات التنسور (التكديس، الفهرسة، الحساب)، وتطبيقات الشبكة. وهي تسمح بتحويل متغيرات المستخدم قبل دخولها إلى الشبكة.
لغة الهدف: VNN-LIB 2.0، والتي تتكون من إعلانات الشبكة والادعاءات (assertions) على مدخلات ومخرجات الشبكة فقط. يقوم المترجم بإخراج شجرة من الاستعلامات (ترافقات/تشتتات) للتعامل مع الهياكل المنطقية المعقدة.

ب. اللغة الوسيطة وتدفق الترجمة

تتم عملية الترجمة عبر لغة وسيطة من الاستعلامات الأولية (proto-queries) (قوائم من القيود المتشتتة ضمنياً) لتحسين حذف المتغيرات.

حذف المكممات (Quantifier Elimination):
- يتم حذف مكممات الوجود (exists) عن طريق ترجمة متن المكمم إلى استعلامات أولية ثم إزالة متغير المستخدم.
- يتم تحويل مكممات الكلية (forall) إلى مكممات وجود (exists) عن طريق نفي المتن (قوانين دي مورغان).
- القيد: لا تدعم الخوارزمية المكممات المتناوبة (مثل $\exists \forall$ )، لأن المحللات الحالية تتعامل فقط مع قابلية الإرضاء (satisfiability).
حذف المتغيرات (الخوارزمية 7):
- يحاول المترجم الحل من أجل متغيرات المستخدم باستخدام محلل جبري مجرد (مثل محلل الحساب الخطي).
- التحسين 1 (الاستبدال المباشر): إذا وجد المحلل مساواة (مثل $u = x_1$ )، فإنه يستبدل متغير المستخدم مباشرة، مما يتجنب التوسع لكل عنصر.
- التحسين 2 (التفكيك الهرمي): إذا فشل الحل المباشر، تقوم الخوارزمية بحذف متغيرات الابن (عناصر التنسور) بشكل متكرر وبطريقة البحث في العمق. هذا يمنع الانفجار الحسابي $O(n^3)$ في الحالات الشائعة حيث تكون القيود متفرقة أو قابلة للحل عند مستويات تنسور أعلى.
تحسين تطبيق الشبكة (الخوارزمية 9):
- يكتشف المترجم تطبيقات الشبكة الزائدة عن الحاجة. إذا كان لتطبيقين لنفس الشبكة مدخلات متساوية بشكل مثبت (مشتقة من قيود المساواة في المواصفات)، فإنه يتم دمجهما في تطبيق واحد.
- يتم تحقيق ذلك عن طريق حساب فئات التكافؤ عبر هرمية مؤشرات التنسور الناتجة عن قيود المساواة.

ج. السلامة (Soundness)

الخوارزمية سليمة عددياً. فهي تعتمد على سلامة المحلل الجبري الأساسي. إذا تعامل المحلل بشكل صحيح مع المجال العددي (مثل الأعداد الحقيقية أو العشرية)، فإن عملية الترجمة تحافظ على دلالات المواصفات الأصلية.

3. المساهمات الرئيسية

أول مترجم عام الغرض: أول خوارزمية قادرة على ترجمة مواصفات منطق الدرجة الأولى عالية المستوى مع التنسورات إلى استعلامات VNN-LIB.
تعزيز القدرة التعبيرية: تتضمن جزء اللغة المدعوم ميزات لم تكن متاحة سابقاً في أدوات مواصفات الشبكات العصبية:
- التحويل الحر لمتغيرات المستخدم قبل مدخلات الشبكة.
- مكممات من الدرجة الأولى.
- تطبيقات متداخلة عشوائية لعدة شبكات (تدعم الخصائص الفائقة مثل الرتابة أو تقطير المعلم والطالب).
- قيود غير خطية (تعتمد على المحلل).
أداء أمثل من حيث التعقيد الزمني: تحقق الخوارزمية تعقيداً زمنياً خطياً بالنسبة لحجم عناصر المدخلات للمواصفات الشائعة، متجنبة الانفجار الأسي للمناهج الساذجة.
التنفيذ: تم تنفيذ الخوارزمية ضمن إطار عمل Vehicle وهي مفتوحة المصدر.

4. النتيات وتقييم الأداء

قام المؤلفون بتقييم المترجم على ثلاث فئات من الاختبارات المرجعية:

ACAS Xu: مواصفة كبيرة وقابلة للتفسير لتجنب اصطدام الطائرات.
المتانة (Robustness): خصائص متانة كرة $\epsilon$ القياسية.
الرتابة (Monotonicity): الخصائص التي تتضمن تطبيقات متعددة للشبكة.

النتائج الرئيسية:

التوسع الخطي: يتوسع وقت الترجمة خطياً مع عدد عناصر المدخلات لمواصفات المتانة والرتابة. وهذا يعتبر أمثلاً من حيث التعقيد لأن عدد الادعاءات في استعلام المخرج هو أيضاً خطي.
السرعة: تمت ترجمة مواصفة ACAS Xu بأكملها (10 خصائص) إلى 42 استعلاماً في 0.47 ثانية.
دراسة الاستئصال (Ablation Study): أدى إزالة التحسين الهرمي (الذي يجبر على الحل لكل عنصر) إلى جعل أوقات الترجمة غير عملية حتى بالنسبة للشبكات الصغيرة، مما يؤكد ضرورة الخوارزمية المقترحة.

5. الأهمية

يعمل هذا العمل على سد الفجوة الحرجة بين القصد البشري القابل للقراءة وبين الترميزات على مستوى المحلل في التحقق من الشبكات العصبية.

سهولة الوصول: يقلل من حاجز الدخول لغير الخبراء، مما يسمح لهم بكتابة مواصفات دقيقة ومستقلة عن المحلل دون إدارة "فجوة التضمين" يدوياً.
القابلية للتطبيق في العالم الحقيقي: من خلال السماح بأن تكون معيرة البيانات جزءاً من المواصفات، يمكن للمستخدمين كتابة قيود بوحدات العالم الحقيقي (مثل أمتار/ثانية، راديان) بدلاً من قيم التنسور المعيرة.
الانضباط الهندسي: ينقل التحقق من الشبكات العصبية من مجال بحثي متخصص نحو تخصص هندسي قابل للتوسع من خلال توفير البنية التحتية اللازمة للتجريد عالي المستوى، على غرار ما هو موجود في التحقق من البرمجيات التقليدية.

باختصار، يوفر البحث حلاً نظرياً وعملياً قوياً للتحديات الخوارزمية المتمثلة في ترجمة المنطق عالي المستوى إلى تنسيق VNN-LIB المقيد، مما يتيح تحققًا أكثر تعبيرًا وكفاءة وسهولة في الوصول للشبكات العصبية.