🤖 machine learning

VNN-LIB 2.0: Rigorous Foundations for Neural Network Verification

تقدم هذه الورقة VNN-LIB 2.0، وهو معيار رسمي صارم للتحقق من الشبكات العصبية يقدم تجريدًا لـ "نظرية الشبكة" لفصل المواصفات عن نماذج ONNX المتطورة، مع توفير بناء لغوي دقيق ونظام أنواع ودلالات تم آليًا في لغة Agda لضمان الاتساق الداخلي والقدرة على التشغيل البيني.

المؤلفون الأصليون: Ann Roy, Allen Antony, Andrea Gimelli, Matthew L. Daggitt

نُشر 2026-05-11

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Ann Roy, Allen Antony, Andrea Gimelli, Matthew L. Daggitt

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول جعل فريق من الروبوتات المختلفة يحل لغزاً معاً. في عالم الذكاء الاصطناعي، هذه "الروبوتات" هي الشبكات العصبية (الأدمغة التي تقف وراء الذكاء الاصطناعي)، و"اللغز" هو التحقق (التأكد مما إذا كان الذكاء الاصطناعي سيتخذ قراراً آمناً أو صحيحاً).

لفترة طويلة، لم يكن الأشخاص الذين بنوا هذه الروبوتات والأشخاص الذين فحصوها يتحدثون نفس اللغة. لقد استخدموا معياراً يسمى VNN-LIB 1.0، لكنه كان أشبه بقاموس بكلمات مفقودة، وقواعد نحوية غائبة، وتعريفات تتغير في كل مرة ينظر إليها شخص ما.

تقدم هذه الورقة البحثية VNN-LIB 2.0، وهو "لغة" جديدة وصارمة تعالج هذه المشكلات. إليك كيف يشرح المؤلفون ذلك باستخدام مفاهيم بسيطة:

1. المشكلة: مترجم معطل

اعتبر VNN-LIB 1.0 كمترجم يحاول التحدث بلغتين في آن واحد ولكنه يستمر في الارتباك.

لا توجد قواعد نحوية: لم تكن هناك قواعد صارمة لكيفية كتابة السؤال. لذا، قد يفهم روبوت ما الجملة بطريقة، بينما يفهمها روبوت آخر بطريقة مختلفة.
مفردات محدودة: كان بإمكانه التعامل فقط مع الألغاز البسيطة (مدخل واحد، ومخرج واحد). لكن الذكاء الاصطناعي في العالم الحقيقي غالباً ما يمتلك مدخلات معقدة (مثل صورة و نص) ومخرجات متعددة.
ارتباك الأرقام العشرية (Floating Point): تستخدم أجهزة الكمبيوتر أرقاماً "تقريبية" (مثل 3.14159...)، لكن المعيار القديم لم يحدد ما إذا كان يجب التعامل معها كرياضيات دقيقة أو تقريبات تقريبية. أدى هذا إلى أخطاء خطيرة حيث يعتقد الروبوت أنه آمن، بينما هو ليس كذلك في الواقع.
مشكلة "الصندوق الأسود": اعتمد المعيار القديم على تنسيق ملف يسمى ON-NX (المخطط الهندسي للذكاء الاصطناعي). لكن ONNX لم يكن لديه تعريف رسمي وصارم لما تعنيه رموزها. كان الأمر أشبه بإعطاء روبوت مخططاً مرسوماً بأقلام التلوين، وهذا المخطط يغير رأيه باستمرار حول ماهية "الجدار".

2. الحل: "نظرية الشبكة" (المحول العالمي)

الابتكار الأكبر في هذه الورقة هو مفهوم يسمى نظرية الشبكة (Network Theory).

تخيل أنك تصنع محول طاقة عالمياً. أنت لا تريد بناء محول جديد لكل مقبس حائط في كل دولة (كل نسخة من ONNX). بدلاً من ذلك، تقوم بإنشاء واجهة عالمية تقول: "طال-ما كان المقبس يوفر الكهرباء، والجهد، والتأريض، يمكنني الاتصال".

نظرية الشبكة ( $\Psi$ ): هذه هي الواجهة العالمية. هي لا تهتم بالضبط كيف رُسم مخطط ONNX. هي تسأل فقط: "هل لديك طريقة لتعريف رقم؟ شكل؟ اتصال؟"
النتيجة: أصبح بإمكان VNN-LIB 2.0 الآن التحدث مع أي نسخة من ONX، حتى النسخ المستقبلية، دون الحاجة إلى إعادة كتابته. إنها تفصل بين السؤال (الاستعلام) وبين المخطط (النموذج)، مما يسمح لكل منهما بالتطور بشكل مستقل.

3. اللغة الجديدة: VNN-LIB 2.0

مع هذا الأساس الجديد، بنى المؤلفون لغة أكثر ذكاءً تتضمن ثلاثة تحديثات رئيسية:

جمل أغنى (بناء الجملة - Syntax): يمكنك الآن السؤال عن سيناريوهات معقدة. بدلاً من مجرد فحص روبوت واحد، يمكنك السؤال: "إذا عمل الروبوت (أ) والروبوت (ب) معاً، هل سيظلان آمنين؟" يمكنك أيضاً استراق النظر داخل "دماغ" الروبوت لفحص أفكاره الخفية (الطبقات الخفية)، وليس فقط الإجابة النهائية.
قواعد نحوية صارمة (نظام النوع - Type System): تجبرك اللغة الآن على أن تكون دقيقاً. إذا حاولت جمع "درجة حرارة" مع "لون"، ستقول لك اللغة: "لا، هذا ليس منطقياً". هذا يمنع الكمبيوتر من ارتكاب أخطاء رياضية عن طريق خلط أنواع مختلفة من الأرقام.
معانٍ واضحة (الدلالات - Semantics): لكل كلمة في اللغة الجديدة تعريف مثبت رياضياً. لا يوجد مجال للتخمين. إذا كتبت استعلاماً، سيعرف الكمبيوتر بالضبط ما هي المسألة الرياضية التي تطلب منه حلها.

4. خيار "العالم الحقيقي" مقابل "الرياضيات المثالية"

تقر الورقة بوجود موقف شائك: بعض الروبوتات يتم فحصها باستخدام "الرياضيات المثالية" (الأعداد الحقيقية)، بينما يعمل الروبوت الفعلي باستخدام "الرياضيات التقريبية" (الأرقام العشرية).

الطريقة القديمة: كان هذا خطراً خفياً. كان الفاحص يقول "آمن"، ولكن الروبوت الحقيقي قد يصطدم.
الطريقة الجديدة: تسمح لك VNN-LIB 2.0 بأن تقول صراحة: "أعلم أن هذا يستخدم رياضيات تقريبية، لكني أريد فحصه باستخدام رياضيات مثالية على أي حال". إنها تضع ملصق تحذير على الاستعلام: "استمر بحذر، قد يكون هذا غير دقيق تماماً". هذا يسم يتيح للباحثين استخدام أدوات قوية دون التظاهر بأن الرياضيات مثالية بينما هي ليست كذلك.

5. "المعيار الذهبي" للإثبات

للتأكد من أنهم لم يرتكبوا أي أخطاء في كتابة هذه اللغة الجديدة، لم يكتفِ المؤلفون بتدوينها فحسب؛ بل قاموا ببرمجتها في روبوت لإثبات الرياضيات يسمى Agda.

اعتبر Agda بمثابة محرر صارم للغاية يتحقق من كل قاعدة من قواعد اللغة الجديدة لضمان عدم وجود ثغرات منطقية.
ولأن اللغة "ميكانيكية" في Agda، يمكن لأي شخص الآن استخدام هذا الإثبات للتحقق من أن أدواتهم الخاصة (المعالجات/Solvers) تعمل بشكل صحيح. هذا يحول المعيار من مجرد "اقتراح" إلى "عقد مضمون رياضياً".

الملخص

باخت-صار، VNN-LIB 2.0 هي لغة جديدة، صارمة، ومرنة لطرح أسئلة حول سلامة الذكاء الاصطناعي. إنها تصلح القواعد النحوية المكسورة للماضي، وتسمح بأسئلة معقدة حول نماذج ذكاء اصطناعي متعددة، وتوفر أساساً مثبتاً رياضياً بحيث عندما تقول أداة ما "هذا الذكاء الاصطناعي آمن"، يمكننا حقاً الوثوق بأنها تعني بالضبط ما تقوله.

ملخص تقني: VNN-LIB 2.0: أسس صارمة للتحقق من الشبكات العصبية

بيان المشكلة

اعتمد مجتمع التحقق من الشبكات العصبية بشكل متزايد على معيار VNN-LIB (الإصدار 1.0) لتسهيل التوافق التشغيلي بين الحلّال (solvers) والأدوات عالية المستوى. ومع ذلك، يعاني الإصدار 1.0 من أربعة أوجه قصور حرجة تمنعه من أن يكون أساسًا رسميًا صارمًا:

افتقار إلى الصيغة الرسمية: لا يحدد الإصدار 1.0 صيغة لغة الاستعلام رسميًا، مما يؤدي إلى تنفيذات غير متوافقة متبادلة من قبل حلّال مختلفين.
قدرة تعبيرية محدودة: يفترض المعيار وجود شبكة واحدة بمدخل ومخرج واحد فقط. ولا يمكنه دعم عدة شبكات، أو مدخلات/مخرجات متعددة، أو الوصول إلى الطبقات الخفية بشكل أصيل، مما يجبر المستخدمين على دمج النماذج اصطناعيًا، وهو ما يحجب العلاقة بين المصنفات التي تم التحقق منها والنماذج المنشورة.
غياب نظام الأنواع: لا توجد آلية لتحديد الأنواع الرقمية (مثل الأعداد العائمة مقابل الأعداد الحقيقية)، مما يخلق غموضًا واحتمالية عدم سلامة (unsoundness) عندما تعامل الحلّالات الحسابات ذات الدقة المحدودة كأعداد حقيقية.
الافتقار إلى الدلالات (Semantics): يفتقر المعيار إلى دلالات رسمية، مما يجعل من المستحيل إثبات صحة الحلّالات، أو مولدات الاستعلامات، أو التحويلات رسميًا، ويعيق تطوير شهادات الإثبات.

يتمثل التحدي الفريد لـ VNN-LIB، والذي يميزه عن معايير مثل SMT-LIB، في أن الاستعلامات ليست مكتفية ذاتيًا؛ فهي تحدد خصائص نماذج شبكات عصبية خارجية (عادةً بتنسيق ONNX). وبما أن ONNX نفسها تفتقر إلى دلالات رسمية وتستمر في التطور، فإن تعريف معيار VNN-LIB صارم يتطلب فصل لغة الاستعلام عن إصدارات ONNX المحددة مع الحفاظ على التوافق.

المنهجية

يعالج المؤلفون هذه التحديات من خلال تطوير الأسس النظرية لـ VNN-LIB 2.0. الابتكار المنهجي الجوهري هو تقديم نظرية الشبكة ( $\Psi$ ).

1. تجريد نظرية الشبكة

يعرف المؤلفون "نظرية الشبكة" كطيف تجريدي يلتقط الحد الأدنى من الصيغة، وأحكام النوع، والدلالات المطلوبة من تنسيق نموذج الشبكة العصبية لتعريف VNN-LIB.

الفصل (Decoupling): تعمل $\Psi$ كواجهة. يوفر التنفيذ الملموس لـ $\Psi$ (على سبيل المثال، لـ ONNX v1.20.0) تعريفات محددة لأنواع العناصر، وتمثيلات التنسور (tensor)، وهياكل النماذج، ومراجع مخرجات العقد.
النمطية (Modularity): يتم تعريف VNN-LIB 2.0 بالنسبة لـ $\Psi$ مجردة. وهذا يسمح للمعيار بالبقاء مستقرًا حتى مع تطور ONNX؛ حيث يحتاج فقط إلى تحديث مثيل (instantiation) لـ $\Psi$ لإصدارات ONNX الجديدة، وليس معيار VNN-LIB نفسه.
الصياغة الرسمية: تمت صياغة المعيار بأكمله، بما في ذلك الصيغة والأنواع والدلالات، آليًا في مُثبت النظريات التفاعلي Agda لضمان الاتساق الداخلي واستبعاد حالات الغموض.

2. الصيغة الرسمية والقدرة التعبيرية

بناءً على نظرية الشبكة، حدد المؤلفون قواعد رسمية لـ VNN-LIB 2.0 تزيد من القدرة التعبيرية بشكل كبير:

شبكات متعددة: يمكن للاستعلامات التصريح عن شبكات متعددة، مما يدعم سيناريوهات مثل التحقق من (المعلم-الطالب) أو بنيات (المُشفّر-المفكك).
تكافؤ الشبكة: يقدم المعيار equal-to (بالإشارة إلى نفس ملف النموذج تمامًا) و isomorphic-to (بالإشارة إلى نماذج لها نفس بنية الرسم البياني ولكن بأوزان مختلفة محتملة). يسمح هذا للحلّالات بمشاركة الاستنتاجات (مثل حدود المتغيرات) عبر نسخ الشبكة.
العقد الخفية: يسمح بناء declare-hidden بوضع قيود على مخرجات الطبقات المتوسطة، وهو أمر ضروري للاستدلال حول عمليات الترميز أو آليات الانتباه (attention mechanisms).
المدخلات والمخرجات متعددة الأبعاد: دعم عدد عشوائي من المدخلات والمخرجات، لاستيعاب الشبكات متعددة الوسائط.

3. نظام الأنواع والدلالات

الأنواع (Typing): يفرض نظام أنواع رسمي سلامة رقمية. فهو يضمن إجراء العمليات الحسابية والمقارنات على أنواع متوافقة (على سبيل المثال، منع خلط float32 و int32 دون قواعد تحويل صريحة). يعتمد نظام الأنواع على الأحكام التي توفرها نظرية الشبكة الأساسية $\Psi$ .
الدلالات (Semantics): تُعرف دلالات الاستعلام كمسألة إرضاء رياضية. بالنظر إلى مجموعة من النماذج $M$ (المستمدة من $\Psi$ ) وتعيين مدخل $X$ ، تحدد الدلالات ما إذا كان هناك تعيين حيث تكون جميع التأكيدات (assertions) صحيحة.
الاستعلامات ذات القيم الحقيقية: لاستيعاب الحلّالات الحالية التي تعامل النماذج كدوال فوق الأعداد الحقيقية ( $\mathbb{R}$ )، قدم المعيار آلية لـ "الاستعلامات ذات القيم الحقيقية". باستخدام نوع متميز real ، يقوم مؤلف الاستعلام صراحةً بتفويض الحلّال لتفسير النماذج فوق $\mathbb{R}$ ، مع الإقرار باحتمالية عدم السلامة بسبب عدم دقة الأعداد العائمة. ويتم تحقيق ذلك من خلال إنشاء نظرية شبكة محددة $\Psi_{\mathbb{R}}$ مشتقة من النظرية الأساسية.

المساهمات الرئيسية

نظرية الشبكة ( $\Psi$ ): تقديم تجريد مبتكر يحدد الحد الأدنى من الواجهة الدلالية المطلوبة من تنسيق النموذج، مما يتيح تعريف VNN-LIB بشكل مستقل عن إصدارات ONNX المحددة.
الصيغة والقواعد الرسمية: قواعد نحوية خالية من السياق ودقيقة لـ VNN-LIB 2.0 تدعم الشبكات المتعددة، والطبقات الخفية، وهياكل المدخلات/المخرجات المعقدة.
نظام الأنواع الرسمي: نظام أنواع يفرض سلامة النوع الرقمي بالنسبة لنظرية الشبكة، مما يعالج الغموض في التمثيلات الرقمية.
الدلالات الرسمية: تعريف رياضي صارم لدلالات الاستعلام مُمَثَّل بنظرية الشبكة، مما يسمح بالبراهين الرسمية لصحة الأدوات التي تستهلك أو تولد VNN-LIB.
الصياغة الآلية (Mechanization): تمت صياغة المعيار بالكامل في Agda، مما يوفر مرجعًا معياريًا للتنفيذ وأساسًا للبراهين التي يتم فحصها آليًا.
التوسعة للقيم الحقيقية: نهج معياري لدعم التحليلات ذات القيم الحقيقية عبر نظرية شبكة مشتقة، مما يوازن بين الحاجة إلى السلامة وواقع قدرات الحلّالات الحالية.

النتائج والتحقق

الاتساق الداخلي: تثبت الصياغة في Agda الاتساق الداخلي للصيغة والأنواع والدلالات، مما يضمن خلو المعيار من حالات الغموض الموجودة في الإصدار 1.0.
عرض القدرة التعبيرية: توضح الورقة كيف يؤدي تحويل بسيط لنظرية الشبكة $\Psi$ إلى إنتاج حالة كاملة للاستعلامات ذات القيم الحقيقية، مما يبرز مرونة التجريد.
الاعتماد المجتمعي: تلقى المعيار ردود فعل إيجابية من مجتمع التحقق. وقد التزمت فرق الحلّالات الرائدة بدعم VNN-LIB 2.0، ومن المقرر استخدام المعيار الجديد في مسابقة VNN-COMP 2026.
دعم الأدوات: أصدر المؤلفون مكتبة عالية الأداء بلغة C++ (مع روابط لـ Python و Julia) تنفذ محلل (parser) وفاحص أنواع متوافق مع المعيار الجديد، إلى جانب صياغة Agda.

الأهمية

تزعم الورقة أن VNN-LIB 2.0 يوفر أسسًا قوية وصارمة للتحقق الموثوق من الشبكات العصبية. تكمن أهميته في مجالين متكاملين:

التوافق التشغيلي العملي: من خلال توسيع القدرة التعبيرية (الشبكات المتعددة، العقد الخفية) وتوحيد الصيغة، فإنه يُمكّن المجتمع من تحديد والتحقق من خصائص أغنى بطريقة موحدة، مما يسهل عمليات القياس والمقارنة بين الأدوات.
الصرامة النظرية: من خلال توفير دلالات رسمية ونظام أنواع، فإنه يضع "عقدًا صارمًا" بين الأدوات والحلّالات. وهذا يسمح بالتحقق الرسمي من الأدوات نفسها (الحلّالات، المحسنات، فاحصات البراهين) ويحل القضا issues الدقيقة المتعلقة بالسلامة الرقمية (مثل التمييز بين دلالات القيم الحقيقية ودلالات الأعداد العائمة).

يؤكد المؤلفون أنه على الرغم من أن العمل نظري، إلا أن له نتائج ملموسة: فهو يضمن التفسير غير الغامض للاستعلامات، ويوفر اللغة لحل المشكلات التقنية، ويمهد الطريق لشهادات إثبات يمكن التحقق منها رسميًا في المستقبل.