Persistent Human Feedback, LLMs, and Static Analyzers for Secure Code Generation and Vulnerability Detection

ملخص تقني: التغذية الراجعة البشرية المستمرة، والنماذج اللغوية الكبيرة (LLMs)، والمحللات الساكنة لتوليد كود آمن وكشف الثغرات الأمنية

بيان المشكلة
يتناول البحث الاعتماد المتزايد على النماذج اللغوية الكبيرة (LLMs) لتوليد كود برمجي آمن وكشف الثغرات الأمنية، مسلطاً الضوء على فجوة حرجة في منهجيات التقييم الحالية. وبينما تُستخدم هذه النماذج بشكل متزايد في تطوير البرمجيات، إلا أنها غالباً ما تولد أكواداً غير آمنة حتى عندما يتم توجيهها صراحةً بخلاف ذلك. وتُقيم الأدبيات الحالية النماذج بشكل أساسي باستخدام أدوات التحليل الساكن الآلية (مثل CodeQL وSemgrep) باعتبارها المرجع الوحيد للحقيقة (ground truth). ويرى المؤلفون أن هذا النهج معيب لأن المحللات الساكنة تظهر معدلات عالية من الإيجابيات الكاذبة (false-positives) وغالباً ما تفشل في التوافق مع حكم الخبراء البشريين فيما يتعلق بالثغرات الأمنية الفعلية. علاوة على ذلك، تفتقر الأطر الحالية إلى آليات لتخزين وإعادة استخدام ملاحظات الخبراء بشكل مستمر، مما يحد من قدرة النماذج اللغوية الكبيرة على التعلم من التصحيحات السابقة.

المنهجية
تعتمد الدراسة منهجية مكونة من شقين: مراجعة شاملة للأدبيات ودراسة تحقق تجريبية.

1. مراجعة الأدبيات: قام المؤلفون بمسح 2025 منشوراً من منصات هندسة البرمجيات رفيعة المستوى (A/A*) لتوصيف اتجاهات البحث الحالية. وحللوا المعايير المرجعية (benchmarks)، ولغات البرمجة المستهدفة، وعائلات النماذج، وأدوات التقييم المستخدمة في دراسات توليد الكود الآمن وكشف الثغرات الأمنية.
2. التحقق التجريبي:
   • بناء مجموعة البيانات: باستخدام تقنية التلقين "التحسين عبر النقد المتكرر" (Recursive Critiques Improvement - RCI) ونموذج GPT-4o، قام المؤلفون بتوليد 1,080 عينة كود بناءً على 108 مهمة فريدة مرتبطة بقائمة CWE Top 25.
   • إنشاء الحقيقة المرجعية (Ground Truth): قام مراجعان مدربان (طالب دكتوراه وطالب ماجستير)، تحت إشراف أكاديمي، بفحص العينات يدوياً لتصنيفها كـ "عرضة للثغرات" أو "آمنة" فيما يتعلق بـ CWE المستهدف المحدد. وتم حل الخلافات من خلال النقاش أو التحكيم من قبل الخبراء، مما حقق اتفاقاً عالياً بين المراجعين (معامل كوهين $\kappa = 0.94$).
   • مقارنة الأدوات: تمت مقارنة الحقيقة المرجعية التي تم التحقق منها يدوياً مع مخرجات أداتين شائعتي الاستخدام للتحليل الساكن، وهما CodeQL وSemgrep.
   • اقتراح إطار العمل: بناءً على النتائج، اقترح المؤلفون إطار عمل مفاهيمياً يدمج التغذية الراجعة البشرية في خط معالجة "التوليد المعزز بالاسترجاع" (RAG).

النتائج الرئيسية
كشفت الدراسة التجريبية عن تباينات كبيرة بين الأدوات الآلية والخبراء البشريين:

• الحقيقة المرجعية: كانت 61% من العينات المولدة آمنة حقاً، بينما احتوت 39% منها على ثغرات.
• أداء الأدوات: صنف Semgrep نسبة 60% من العينات كآمنة، بينما صنف CodeQL نسبة 80% كآمنة. وبينما بدا المعدل الإجمالي لـ Semgrep قريباً من الحكم البشري، أظهر تحليل كل عينة على حدة عدم توافق جوهري.
• مقايسات الدقة: 65% فقط من تقارير Semgrep و61% من تقارير CodeQL تطابقت بشكل صحيح مع تسميات الحقيقة المرجعية.
• تغطية CWE: فشلت كلتا الأداتين في اكتشاف ثغرات CWE المستهدفة في جزء كبير من حالات الحقيقة المرجعية، كما أبلغتا بشكل متكرر عن وجود ثغرات في CWE غير مستهدفة (والتي ظل سريانها غير معروف في هذه الدراسة).
• النقد الذاتي: لاحظت الدراسة أن النماذج اللغوية الكبيرة التي تقدم نقداً ذاتياً "محدداً" (أي ملاحظات مستهدفة وقابلة للتنفيذ) أنتجت كوداً أكثر أماناً (64% آمن) مقارنة بالنقد "العام" (56% آمن).

إطار العمل المقترح: التغذية الراجعة البشرية المستمرة
لمعالجة قيود الأدوات الساكنة والطبيعة المؤقتة لحلقات التغذية الراجعة الحالية، يقترح المؤلفون إطار عمل مفاهيمياً (موضح في الشكل 3) يدمج "الوكيل البشري في الحلقة" (Human-in-the-Loop - HIL) في خط معالجة RAG ديناميكي. يتكون إطار العمل من أربعة وكلاء:

1. وكيل التلقين (Prompt Agent): يدير عملية توليد الكود من خلال استرجاع التوجيهات الأمنية ذات الصلة من مصدر مزدوج لـ RAG (التغذية الراجعة البشرية والمعرفة الأمنية الخارجية) لتنقيح أمر المطور.
2. الوكيل الأمني (Security Agent): يقيم الكود المولد باستخدام المحللات الساكنة والنماذج اللغوية الكبيرة، وينتج تقارير قابلة للقراءة آلياً وبشرياً.
3. الوكيل البشري في الحلقة (HIL Agent): يعمل كصانع القرار النهائي. يقوم الخبراء بمراجعة تقارير الوكيل الأمني. وفي حالات الخلاف، يتم تخزين التغذية الراجعة للخبير بشكل مستمر في الـ RAG.
   • توزين الثقة (Trust Weighting): يخصص النظام أوزان ثقة ديناميكية للتغذية الراجعة بناءً على إجماع المراجعين والنجاح التجريبي التاريخي (باستخدام المتوسط المتحرك الأسي).
   • المراجعة المزدوجة: لمنع تسميم البيانات، تتطلب التغذية الراجعة الجديدة موافقة من مراجعين اثنين مختلفين قبل دخولها في حوض الاسترجاع النشط.
4. RAG ثنائي المصدر (Dual-Source RAG): خدمة معرفية مشتركة تعطي الأولوية للتغذية الراجعة التي تمت مراجعتها بشرياً (HF) على المعرفة الخارجية العامة (EVK) باستخدام دالة تسجيل مركبة تعاقب التناقضات بين النصائح العامة والتغذية الراجعة من الخبراء.

الأهمية والادعاءات
يزعم البحث أن الاعتماد فقط على أدوات التحليل الساكن لتقييم الكود المولد بواسطة النماذج اللغوية الكبيرة هو أمر غير موثوق ويشكل مخاطر على صحة الأبحاث الأمنية. ويؤكد المؤلفون أن التغذية الراجعة من الخبراء ليست ضرورية للحالات الفردية فحسب، بل يمكن أن تعمم على حالات مستقبلية مشابهة. وبالتالي، يهدف إطار العمل المقترح إلى تمكين النماذج اللغوية الكبيرة من إعادة استخدام التغذية الراجعة البشرية السابقة ديناميكياً، مما يحسن كلاً من توليد الكود الآمن وكشف الثغرات الأمنية. وتخلص الدراسة إلى أن مجتمع هندسة البرمجيات يجب أن يتجاوز التقييم المعتمد على الأتمتة فقط ويدمج حلقات تغذية راجعة مستمرة مدفوعة بالخبراء لضمان موثوقية النماذج اللغوية الكبيرة في السياقات الحساسة أمنياً.

القصور (التهديدات لصحة النتائج)
يقر المؤلفون بعدة قيود:

• صحة البناء (Construct Validity): اقتصرت مراجعة الأدبيات على منشورات عام 2025 في منصات هندسة البرمجيات، مما قد يؤدي لتجاهل بعض الأنماط في المنصات المتخصصة في الأمن (مثل USENIX Security أو CCS).
• الصحة الداخلية (Internal Validity): تعتمد تسميات الحقيقة المرجعية على التقييم اليدوي، وهو أمر عرضة للتحيز البشري رغم ارتفاع الاتفاق بين المراجعين.
• الصحة الخارجية (External Validity): ركزت التجارب على لغة Python المولدة بواسطة GPT-4o باستخدام تقنية RCI. وقد لا تعمم النتائج على لغات أخرى (خاصة اللغات منخفضة المستوى مثل C/C++)، أو مجالات مختلفة، أو نماذج لغوية كبيرة وأدوات تحليل ساكن أخرى.