Directed Neuro-Symbolic Stochastic Execution for Verification of Distributed Parallel AI Programs
تقدم هذه الورقة إطار عمل "التنفيذ العشوائي العصبي الرمزي الموجه" (DNSSE)، وهو إطار اختبار هجين يجمع بين التنبؤ بالجدولة الموجه بنماذج اللغات الكبيرة (LLM) وبين حل القيود الرمزية والطفرات العشوائية للتحقق بفعالية من برامج الذكاء الاصطناعي المتوازية والموزعة، محققاً تغطية للفروع وكشفاً لأخطاء التزامن أعلى بكثير من النماذج المرجعية الحالية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول العثور على حبة رمل واحدة محددة على شاطئ يتغير شكله باستمرار، ويتمدد، ويتحول. هذا هو الواقع اليومي للمهندسين الذين يبنون البرامج الحاسوبية الضخمة الشبيهة بالدماغ والتي تشغل الذكاء الاصطناعي الحديث. هذه البرامج لا تقف ساكنة؛ بل تعمل على مجموعات ضخمة من الحواسيب، مع آلاف العمال الصغار (الخيوط/threads) الذين يتحدثون جميعًا مع بعضهم البعض في نفس الوقت. المشكلة هي أنه عندما يكون لديك هذا العدد الكبير من العمال الذين يعملون في آن واحد، يصبح ترتيب قيامهم بالأشياء بمثابة يانصيب فوضوي. أحيانًا، إذا حاول عاملان الحصول على نفس قطعة المعلومات في اللحظة ذاتها، يمكن للنظام بأكمله أن يتعطل، أو يتجمد، أو يفقد البيانات. تُسمى هذه "أخطاء التزامن" (concurrency bugs)، وهي صعبة العثور عليها بشكل لافت للنظر لأنها لا تحدث إلا في ظل تركيبات محددة ونادرة جدًا من التوقيت والمدخلات.
وما يزيد الأمر سوءًا هو أن برامج الذكاء الاصطناعي هذه مليئة بالرياضيات المعقدة التي تتغير بناءً على البيانات التي تعالجها. أدوات الاختبار التقليدية تشبه المصباح اليدوي: يمكنها تسليط الضوء على مسار واحد في كل مرة، لكنها تصاب بالارتباك عندما ينقسم المسار إلى ملايين الاحتمالات، أو عندما تصبح الرياضيات غريبة جدًا بحيث يصعب عليها حسابها. وتحاول أدوات أخرى رمي السهام في الظلام، آملةً أن تصيب خطأً ما عن طريق الصدفة العشوائية، لكنها غالبًا ما تخطئ الأماكن الحساسة حيث تصطدم الرياضيات بالتوقيت. نحن بحاجة إلى طريقة لنكون أكثر ذكاءً في تحديد مكان بحثنا، نجمع بين دقة الآلة الحاسبة وبداهة المحقق المتمرس، كل ذلك أثناء التنقل في متاهة تغير جدرانها باستمرار.
هنا يأتي دور نهج جديد يسمى "التنفيذ العشوائي العصبي الرمزي الموجه" (DNSSE). فكر في DNSSE كفريق ذكي للغاية من ثلاثة محققين يعملون معًا لصيد هذه الأخطاء غير المرئية في برامج الذكاء الاصطناعي. المحقق الأول هو "المحرك الرمزي" (Symbolic Engine)، وهو عالم رياضيات صارم يمكنه حل الألغاز المنطقية البسيطة والمستقيمة بدقة تامة. المحقق الثاني هو "المحرك العشوائي" (Stochastic Engine)، وهو مستكشف شجاع يستخدم التخمين العشوائي والتجربة والخطأ للتعامل مع المسائل الرياضية غير الخطية الفوضوية التي تعجز عنها الرياضيات. أما المحقق الثالث، وهو الأكثر تميزًا، فهو "مجدول النماذج اللغوية الكبيرة" (LLM Scheduler) — وهو نموذج لغوي كبير يعمل كدليل سياحي متمرس. هذا الدليل قد قرأ الملايين من قصص الأكواد البرمجية ويمكنه التنبؤ بأي مسار عبر المتاهة الفوضوية من المرجح أن يؤدي إلى كارثة.
يشرح البحث كيف يجمع هذا الفريق بين هذه القوى الثلاث. فبدلاً من مجرد التخمين العشوائي أو محاولة حل كل مسار (والذي سيستغرق وقتًا طويلاً للغاية)، ينظر "الدليل السياحي" إلى الكود ويقول: "مهلًا، هذان العاملان على وشك الجدال حول نقطة ذاكرة مشتركة؛ فلنجبرهما على التصادم الآن". ثم يتحقق عالم الرياضيات مما إذا كانت الأرقام منطقية لهذا التصادم، ويحاول المستكشف العثور على مدخلات البيانات المحددة التي تجعل تلك الأرقام تعمل. وإذا أخطأ "الدليل"، فإن الفريق لديه شبكة أمان: حيث يعودون إلى الاستكشاف العشوائي، مما يضمن عدم توقف النظام.
نتائج هذا الأسلوب الجديد مبهرة. فعندما اختبر الباحثون نظام DNSSE على خمسة برامج ذكاء اصطناعي واقعية ومعقدة — تتراوح من تدريب النماذج إلى تقديم البيانات — وجدوا أنه يتفوق بمراحل على أفضل الأدوات الموجودة حاليًا. فبينما وجد أقوى أسلوب سابق 25 خطأً، وجد DNSSE نحو 73 خطأً، أي بمعدل 2.9 ضعفًا. كما تمكن من تغطية 91.6% من مسارات الكود الممكنة، وهي قفزة هائلة من متوسط التغطية البالغ 68.6% للأدوات الأخرى. حقق النظام ذلك دون أن يتوقف، حيث أتم عمله في بضعة آلاف من الثواني، بينما استنفدت الطرق الأخرى وقتها بعد 24 ساعة. وقد استخدم "الدليل السياحي" (النموذج اللغوي الكبير) حوالي 14.3% فقط من إجمالي وقت الحوسبة، مما يثبت أن القليل من التوجيه الذكي يذهب بعيدًا في ترويض فوضى الأنظمة الموزعة للذكاء الاصطناعي.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.