🤖 AI

Neurosymbolic Auditing of Natural-Language Software Requirements

تقدم هذه الورقة VERIMED، وهو مسار عمل عصبي رمزي يستفيد من النماذج اللغوية الكبيرة وحلال مشكلات التشكيل السات (SMT) لتدقيق متطلبات البرمجيات ذات اللغة الطبيعية من خلال اكتشاف الغموض عبر تنويعات الصياغة العشوائية والتحقق من الاتساق والسلامة عبر الإصلاح الموجه بالنماذج المضادة، محققاً طفرة كبيرة في دقة متطلبات سلامة الأجهزة الطبية.

المؤلفون الأصليون: Bethel Hall, William Eiers

نُشر 2026-05-14

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Bethel Hall, William Eiers

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك مهندس معماري لآلة منقذة للحياة، مثل جهاز غسيل كلى لتنظيف دم المرضى. تقوم بكتابة القواعد التي يجب أن تتبعها هذه الآلة بلغة إنجليزية بسيطة: "إذا توقف تدفق الدم، أطلق الإنذار."

المشكلة هي أن لغة البشر فوضوية. قد تكون الكلمات غامضة، أو الجمل متناقضة، أو قد تكون هناك قاعدة يستحيل اتباعها دون أن يلاحظ أحد ذلك. إذا حاول برنامج كمبيوتر بناء هذه الآلة بناءً على ملاحظاتك الفوضوية، فقد يبني شيئًا يبدو مثاليًا على الورق ولكنه في الواقع خطير للغاية.

تقدم هذه الورقة البحثية VERIMED، وهو نظام "نيوروسيمبليك" (neurosymbolic) جديد (وهو مصطلح معقد يعني تعاونًا بين ذكاء اصطناعي إبداعي وروبوت منطقي صارم) صُمم ليعمل كمدقق فائق لقواعد السلامة هذه.

إليك كيف يعمل VERIMED، مشروحًا عبر تشبيهات من الحياة اليومية:

١. المترجم وروبوت المنطق

فكر في النظام كأنه يتكون من جزأين:

المترجم (النموذج اللغوي الكبير - LLM): هذا ذكاء اصطناعي إبداعي يقرأ قواعدك باللغة الإنجليزية ويحاول ترجمتها إلى لغة رياضية صارمة (SMT) يمكن للكمبيوتر التحقق منها.
روبوت المنطق (محلل SMT): هذه آلة جامدة وغير مرنة تتحقق من الرياضيات. هي لا تهتم بـ "المشاعر" أو "النية"؛ هي تهتم فقط بما إذا كانت القواعد منطقية أم لا.

٢. "اختبار الضغط" للقواعد

قبل بناء الآلة، يقوم VERIMED بإجراء أربعة اختبارات محددة على القواعد المترجمة للعثور على العيوب الخفية:

اختبار "هل يمكن أن يحدث؟" (العبثية/الفراغ - Vacuousness): تخيل أن قاعدة تقول: "إذا كانت الآلة تحت الماء، أطفئ الطاقة." إذا كان من المفترض ألا تكون الآلة تحت الماء أبدًا، فهذه القاعدة عديمة الفائدة. يتحقق روبوت المنطق: "هل من الممكن فعليًا أن تكون الآلة تحت الماء؟" إذا كانت الإجابة "لا"، فإن الروبوت يصنف القاعدة كـ "شبح" — فهي موجودة ولكنها لا تفعل أي شيء.
اختبار "هل يمكن أن تنكسر؟" (القابلية للانتهاك - Violatability): يحاول الروبوت كسر القواعد. يسأل: "هل يمكنني جعل الآلة تفعل شيئًا غير آمن مع الاستمرار في اتباع القواعد؟" إذا وجد طريقة لكسر السلامة، فإنه يوضح لك بالضبط كيف (عبر "مثال مضاد")، مثل برهان يقول: "انظر، إذا ضبطت القرص على ٥٠، فإن الإنذار لا يعمل، رغم أنك قلت إنه يجب أن يعمل."
اختبار "الازدواجية" (التكرار - Redundancy): أحيانًا، تكتب قاعدتين تعنيان الشيء نفسه تمامًا. قد تكون إحداهما: "لا تسمح للضغط بأن يتجاوز ٢٠٠،" والأخرى تقول: "لا تسمح للضغط بأن يتجاوز ٢٠٠." يكتشف الروبوت هذه التكرارات ويقول لك: "أنت تكرر نفسك. هل تقصد وجود كليهما، أم أن إحداهما خاطئة؟"
اختبار "الانسجام العالمي" (الاتساق - Consistency): يتحقق الروبوت مما إذا كانت القواعد تتصارع مع بعضها البعض. إذا كانت القاعدة (أ) تقول "شغل المضخة" والقاعدة (ب) تقول "يجب أن تكون المضخة مطفأة"، وكلاهما يفترض أن يحدث في نفس الوقت، فإن الروبوت يصرخ: "هذا مستحيل!"

٣. "كاشف الغموض" (الخدعة السحرية)

هذه هي الفكرة الأكثر إبداعًا في الورقة البحثية. أحيانًا تكون الجملة غامضة جدًا بحيث يمكن تفسيرها بطريقتين مختلفتين.

التشبيه: تخيل أنك قلت لطاهٍ: "اطبخ شريحة اللحم حتى تنضج." قد يعتقد الطاهي أن "النضج" يعني متوسط الاستواء، بينما كنت تقصد النضج الكامل.
كيف يكتشف VERIMED ذلك: بدلاً من طلب ترجمة القاعدة من الذكاء الاصطناعي مرة واحدة، فإنه يطلب منه ترجمة نفس القاعدة خمس مرات، مثل سؤال خمسة طهاة مختلفين عن معنى "النضج".
- إذا كتب الطهاة الخمسة نفس الوصفة تمامًا، فالقاعدة واضحة.
- إذا كتب أحدهم "متوسط الاستواء" والآخر "نضج كامل"، فإن النظام يرصد هذا الخلاف. ثم يقول للإنسان: "مهلًا، قاعدتك غامضة! إليك طريقتان مختلفتان يمكن قراءة جملتك بهما. يرجى التوضيح."

٤. "ورشة الإصلاح"

عندما يجد روبوت المنطق خطأً أو غموضًا، فإنه لا يكتفي بقول "خطأ". بل يعمل كميكانيكي متعاون:

بالنسبة للمنطق المكسور: يظهر للذكاء الاصطناعي السيناريو الدقيق الذي فشلت فيه القاعدة (المثال المضاد). ثم يقوم الذكاء الاصطناعي بإعادة كتابة القاعدة لإصلاح تلك الثغرة المحددة.
بالنسبة للغة الغامضة: يوضح للإنسان نقطة الارتباك المحددة (على سبيل المثال: "هل درجة حرارة ٢٠٠ مشمولة أم مستبعدة؟"). يقوم الإنسان بالتوضيح، ويقوم النظام بإعادة الترجمة حتى يتفق الجميع.

ماذا وجدوا؟

اختبر الباحثون هذا النظام على مجموعة مكونة من ٦٤ قاعدة سلامة لآلة غسيل كلى.

النتائج: وجد النظام أن قاعدتين كانتا مكررتين (نسخ مكررة) و١٢ قاعدة كانت غامضة (يمكن قراءتها بعدة طرق).
الإصلاح: عندما استخدموا التغذية الراجعة من "المثال المضاد" (إظهار كيفية فشل الذكاء الاصطناعي تحديدًا)، قفزت قدرة الذكاء الاصطناعي على الإجابة على أسئلة السلامة من حوالي ٥٥٪ دقة إلى ما يقرب من ٩٩٪.
إصلاح الغموض: بعد أن قام النظام بتحديد القواعد الغامضة وقام البشر بتوضيحها، توقف الذكاء الاصطناعي عن إنتاج ترجمات متضاربة. انخفض "الغموض" إلى الصفر.

الخلاصة

إن VERIMED هو شبكة أمان. يستخدم ذكاءً اصطناعيًا إبداعيًا لترجمة القواعد البشرية إلى رياضيات، ويستخدم روبوت منطق صارم للتحقق مما إذا كانت هذه القواعد الرياضية متسقة، وغير غامضة، وآمنة حقًا. هو لا يتحقق فقط مما إذا كان الكود يعمل؛ بل يتحقق مما إذا كانت التعليمات الخاصة بالكود منطقية قبل بناء الآلة.

ملاحظة هامة: تنص الورقة صراحةً على أن هذا تم اختباره على متطلبات أجهزة طبية (آلات غسيل الكلى) ومضخة لتسكين الآلام. يحذر المؤلفون من أن هذا النظام هو أداة لمراجعة المتطلبات من قبل الخبراء، وليس بديلاً عن الخبراء البشر، ولا ينبغي استخدامه في الحياة الواقعية دون مراجعة بشرية مستقلة.

ملخص تقني: التدقيق العصبي الرمزي لمتطلبات البرمجيات باللغة الطبيعية

بيان المشكلة

غالبًا ما تعاني متطلبات البرمجيات المكتوبة باللغة الطبيعية، لا سيما في المجالات الحرجة للسلامة مثل الأجهزة الطبية، من الغموض، وعدم الاتساق، ونقص التوصيف. وتعد هذه العيوب خطيرة لأنها تنتقل إلى النماذج الرسمية والتنفيذات، مما قد يؤدي إلى التحقق من مواصفات خاطئة أو نشر سلوك غير آمن. وبينما حققت النماذج اللغوية الكبيرة (LLMs) تقدماً في مجال الصياغة الآلية (ترجمة اللغة الطبيعية إلى مواصفات قابلة للتحقق آلياً)، فإن الصلاحية النحوية وحدها لا تكفي. فقد تكون المواصفات الرسمية جيدة الصياغة ولكنها تظل غير متسقة عالمياً، أو تحتوي على شروط تشغيل غير قابلة للوصول (فراغ)، أو تسمح بتفسيرات متعددة للنص المصدر. وفي غياب صياغة رسمية مرجعية (ground-truth)، لا يوجد "أوراكل" (oracle) للكشف عن هذه الإخفاقات الدلالية، حيث تميل النماذج اللغوية الكبيرة غالباً إلى القراءة الأكثر شيوعاً إحصائياً أو تغفل القيود الضمنية.

المنهجية: إطار عمل VERIMED

يقترح المؤلفون إطار عمل VERIMED، وهو مسار عصبي رمزي (neurosymbolic) مصمم لتدقيق متطلبات اللغة الطبيعية عن طريق ترجمتها إلى نموذج موحد من نوع SMT (إرضاء النظريات المحددة) والاستفوت من استعلامات الحل (solver queries) للكشف عن العيوب. يعمل إطار العمل بناءً على مخطط ثابت لمتغيرات الحالة النوعية (حالات تحكم بولينية ومعاملات ذات قيم حقيقية) وقيود المجال.

يتكون المسار من أربع مراحل:

محلل الغموض (Ambiguity Resolver): قبل عملية الصياغة الرسمية، يتم فحص كل متطلب للتأكد من استقراره. يقوم النظام بأخذ عينات لـ $N$ من الصياغات الرسمية المستقلة من النموذج اللغوي الكبير عند درجة حرارة (temperature) مرتفعة. ويقوم بإجراء فحص تكافؤ ثنائي الاتجاه بين التشفيرات. إذا لم تكن التشفيرات متكافئة، يتم وضع علامة على المتطلب كونه "حساساً للغموض". يقوم الحل (solver) بإنشاء "شهود" (witnesses) ملموسة (حالات محددة تختلف فيها التشفيرات)، والتي تُغذى مرة أخرى للنموذذ اللغوي لإعادة كتابة المتطلب حتى تتقارب جميع العينات نحو تشفير واحد.
المصوغ الرسمي الآلي (Autoformalizer): يتم ترجمة المتطلبات التي تمت إزالة الغموض عنها إلى مواصفات SMT-LIB موحدة. يستخدم النظام حلقة إصلاح نحوي محدودة، حيث توجه رسائل خطأ الحل (solver error messages) النموذج اللغوي لإعادة توليد الكود غير الصحيح حتى يتم إنتاج نموذج صالح.
مدقق الخصائص (Property Verifier): تقوم هذه الوحدة بتنفيذ أربعة استعلامات تدقيق محددة على النموذج المجمع $M$ $M$ :
- الاتساق العالمي (Global Consistency): يتحقق مما إذا كان $M$ قابلاً للإرضاء. إذا كان غير قابل للإرضاء، يحدد "اللب غير المرضي" (unsat core) المتطلبات المتضاربة.
- الفراغ (Vacuousness): بالنسبة للمتطلبات الشرطية، يتحقق مما إذا كان يمكن استيفاء شرط التشغيل تحت قيود المجال.
- القابلية للانتهاك (Violatability): يتحقق مما إذا كان يمكن كسر متطلب ما ضمن المجال، مع إرجاع تعيين ملموس للانتهاك إن أمكن.
- التكرار (Redundancy): يتحقق مما إذا كان المتطلب مفروضاً بالفعل بواسطة بقية المواصفات.
مدقق الاستعلام (Query Verifier): تقوم هذه المرحلة بالتحقق من أسئلة السلامة القائمة على السيناريوهات. وهي تتحقق مما إذا كانت الإجابة المقترحة مستنتجة من النموذج ( $M \land s \land \neg a$ غير قابل للإرضاء). إذا تم العثور على انتهاك، يعيد الحل (solver) مثالاً مضاداً (counterexample). يعمل هذا المثال المضاد، جنباً إلى جنب مع المتطلبات المنتهكة، كآلية تغذية راجعة لحلقة الإصلاح لتصحيح إجابة النموذج اللغوي الكبير.

المساهمات الرئيسية

يقدم البحث المساهمات التالية:

إطار عمل عصبي رمزي: يقوم VERIMED بعملية ترجمة متطلبات اللغة الطبيعية إلى نموذج SMT واحد، باستخدام مخرجات الحل كإشارة أساسية للمراجعة اللاحقة.
تدقيقات SMT على مستوى المتطلبات: صاغ المؤلفون أربعة عمليات تدقيق (الاتساق، الفراغ، القابلية للانتهاك، التكرار) التي تضع معايير الجودة الراسخة حيز التنفيذ.
كشف الغموض عبر العشوائية: يقدم البحث طريقة لكشف الغموض من خلال استغلال الطبيعة العشوائية للنماذج اللغوية الكبيرة. فمن خلال أخذ عينات من صياغات متعددة والتحقق من عدم التكافؤ الثنائي الاتجاه لـ SMT، يحدد النظام المتطلبات التي تسمد قراءات متعددة محتملة. ثم تعمل الشهود المولدة من الحل على دفع التوضيح للغة الطبيعية.
الإصلاح الموجه بالمثال المضاد (CEGR): توضح الدراسة أن دقة التغذية الراجعة الرمزية تؤثر بشكل كبير على فعالية الإصلاح.

النتالئج التجريبية

تم تقييم إطار العمل على مجموعة مكونة من 64 متطلباً للسلامة باللغة الطبيعية من مواصفات جهاز غسيل كلى، مع تقييم ثانوي على مواصفات مضخة PCA.

الصياغة الرسمية والتدقيق: نجح النظام في توليد نموذج SMT قابل للفحص من قبل الحل لجميع المتطلبات الـ 64. كان النموذج متسقاً عالمياً ولم يحتوي على أي متطلبات فارغة. حدد التدقيق متطلبين (3.1%) كمتطلبات مكررة. كما تم تحقيق التكافؤ الدلالي في رحلة الذهاب والإياب (ترجمة SMT مرة أخرى إلى نص وإعادة الصياغة الرسمية) لـ 100% من المتطلبات، مع متوسط تشابه جيب التمام بنسبة 96.2% بين النصوص الأصلية والمعاد بناؤها.
كشف الطفرات: اكتشف المسار 97.3% من 256 متطلباً متحولاً (التي تمثل أخطاء مثل قمع الإنذارات الكاذبة وانتهاكات الحدود) عبر أربع فئات من الأخطاء.
الإصلاح الموجه بالمثال المضاد (CEGR): في مهمة الإجابة على الأسئلة، أدى استخدام الأمثلة المضادة الملموسة لـ SMT كتغذية راجعة (CEGR) إلى رفع دقة التحقق من 55.4% (بدون تغذية راجعة) إلى 98.5%. أما تقديم المتطلبات المنتهكة فقط (بدون المثال المضاد الملموس) فقد حقق دقة بنسبة 80.0%، مما يثبت أن حالة الشاهد الملموس هي المحرك الحاسم للإصلاح.
حل الغموض: حدد محلل الغموض 12 من أصل 64 متطلباً أنتجت تشفيرات متميزة. بعد التوضيح الموجه بـ SMT، تقاربت جميع المتطلبات المحددة نحو تشفير واحد (اتفاق ثنائي الاتجاه بنسبة 100%)، مما قلل متوسط التشفيرات المتميزة لكل متطلب من 1.59 إلى 1.00.

الأهمية والادعاءات

يزعم البحث أن VERIMED ينجح في تفعيل تدقيق متطلبات البرمجيات من خلال استعلامات SMT، معالجاً الطبيعة "غير المرئية" للعيوب الدلالية في الصياغة الرسمية الآلية. ويؤكد المؤلفون على ما يلي:

التباين العشوائي هو إشارة: إن عدم الاتفاق عبر الصياغات الرسمية المستقلة هو مؤشر موثوق للغموض في النص المصدر.
الدقة تهم: تعتمد فائدة التغذية الراجعة الرمزية بشكل كبير على تحديدها؛ فالأمثلة المضادة الملموسة أكثر فعالية بكثير للإصلاح من قوائم المتطلبات المجردة.
الاتساق ليس كافياً: الاتساق الداخلي لنموذج رسمي لا يضمن خلوه من العيوب؛ إذ يعد الحفاظ على السلوك وكشف الغموض مكملات ضرورية.

يحافظ المؤلفون على نطاق متواضع، مشيرين إلى أن نتائجهم خاصة بالأجهزة الطبية المتعلقة بالحقن، وأن هذا النهج يعتمد على إشارات وسيطة (الاتساق، الحساسية للطفرات، إل_خ) بدلاً من مقياس مباشر لأمانة القصد. كما يصرحون صراحةً بأنه لا ينبغي استخدام النتائج في التطبيقات الحرجة للسلامة دون مراجعة مستقلة من الخبراء، وأن التنفيذ الحالي لا يدعم المنطق الزمني الكامل، بل يقرب المتطلبات الزمنية عبر شروط الحالة الحالية.