💻 computer science

Demystifying the Mythos or Disrupting Bugonomics? From Zero-Day Asymmetry to Defender Remediation Throughput

تجادل هذه الورقة بأن التأثير الرئيسي للنماذج اللغوية الكبيرة على الأمن السيبراني لا يقتصر مجرد زيادة في اكتشافات الثغرات الصفرية، بل يتمثل في تحول جوهري في "اقتصاديات الثغرات" (bugonomics) حيث ينتقل عنق الزجاجة من إيجاد الثغرات إلى قدرة المدافع على التحقق من التقارير الناتجة وتصنيفها ومعالجتها، والتي ستشهد طفرة في الحجم وانخفاضاً في التكلفة.

المؤلفون الأصليون: Alfredo Pesoli, Herman Errico, Lorenzo Cavallaro

نُشر 2026-05-26

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Alfredo Pesoli, Herman Errico, Lorenzo Cavallaro

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح لورقة بحثية بعنوان "تفنيد الأسطورة أم تعطيل اقتصاديات الثغرات؟" (Demystifying the Mythos or Disrupting Bugonomics?) بلغة بسيطة واستخدام تشبيهات من الحياة اليومية.

الصورة الكبيرة: الأمر لا يتعلق بإيجاد المزيد من الثغرات، بل بإصلاحها بشكل أسرع

تخيل أنك تدير مكتبة ضخمة (الشيفرة البرمجية للإنترنت). لسنوات طويلة، كانت أكبر قصة أمنية تتعلق بثغرات "اليوم الصفر" (Zero-Day): وهي ثغرات نادرة، مخفية، ومكلفة للغاية في العثور عليها. لم يكن بإمكان سوى عدد قليل من الجواسيس النخبة (المخترقين الهجوميين) العثور عليها، وكانوا يبيعون هذه الأسرار بملايين الدولارات.

الآن، وصلت الذكاء الاصطناعي (AI). العناوين تقول: "الذكاء الاصطناعي وجد آلاف الثغرات!". تجادل الورقة البحثية بأنه بينما هذا صحيح، فإننا ننظر إلى الجزء الخطأ من القصة.

تقدم الورقة مفهومًا يسمى "اقتصاديات الثغرات" (Bugonomics). وهي تجادل بأن الذكاء الاصطناعي لا يجعل العثور على الثغرات أرخص فحسب؛ بل إنه يغير الاقتصاد الكامل لكيفية "التعامل" معها. العائق الحقيقي ليس العثور على الإبرة في كومة القش بعد الآن؛ بل في فرز كومة القش لمعرفة أي الإبر حقيقية، وخطيرة، وكيف يمكن إصلاحها دون إتلاف المكتبة.

التشبيه الجوهري: "مصنع الثغرات" مقابل "ورشة الإصلاح"

فكر في عالم الأمن كبنية مكونة من جزأين:

المصنع (إيجاد الثغرات): هنا يتألق الذكاء الاصطناعي. يمكنه فحص ملايين الأسطر من الكود وإنتاج آلاف "الشكوك" بوجود ثغرات بتكلفة زهيدة جداً.
ورشة الإصلاح (إصلاح الثغرات): هنا يعمل البشر (المسؤولون عن الصيانة). يتعين عليهم التحقق مما إذا كانت الثغرة حقيقية، ومعرفة مدى خطورتها، وكتابة "رقعة" (Patch) لإصلاحها، واختبارها، ثم إرسالها.

النقطة الرئيسية للورقة:
لقد حول الذكاء الاصطناعي "المصنع" إلى سير ناقل عالي السرعة. أصبح من الرخيص جداً إنتاج "شك" في وجود ثغرة ما. ومع ذلك، فإن "ورشة الإصلاح" لم تكبر. الأشخاص الذين يصلحون البرمجيات (خاصة في المشاريع مفتوحة المصدر) لا يزالون يعملون بنفس السرعة.

إذا أرسل المصنع 1,000 "شك" في اليوم، ولكن ورشة الإصلاح لا تستطيع التعامل إلا مع 10 إصلاحات حقيقية في اليوم، فسيحدث انسداد في النظام. تجادل الورقة بأن القيمة الحقيقية للذكاء الاصطناعي ليست فقط في حجم الثغرات المكتشفة، بل في مدى جودة "تغليف" تلك النتائج بحيث يمكن لورشة الإصلاح معالجتها بسرعة.

شرح المفاهيم الأساسية

1. "التقرير المرشح" مقابل "الحقيقة الفعلية"

تميز الورقة بين أنواع مختلفة من تقارير الثغرات:

التقرير المرشح (Candidate Report): روبوت يقول: "مهلاً، هذا السطر من الكود يبدو غريباً". (رخيص الصنع، وغالباً ما يكون خاطئاً).
النتيجة المؤكدة (Validated Finding): إنسان يتحقق ويقول: "نعم، هذه ثغرة حقيقية".
حزمة المعالجة (Remediation Package): مجموعة كاملة تحتوي على تقرير الثغرة، ودليل على عملها، وإصلاح مقترح.

التشبيه: تخيل مرشح البريد العشوائي (Spam Filter).

المرشح: يصنف رسالة ما على أنها "ربما تكون بريداً عشوائياً".
المؤكد: إنسان يفتح الرسالة ويؤكد أنها بريد عشوائي.
المعالجة: الإنسان يحذف الرسالة، ويحظر المرسل، ويحدث قواعد المرشح.
المشكلة: الذكاء الاصطناعي بارع في تحديد الرسائل التي "ربما تكون" بريداً عشوائياً. ولكن إذا حدد 10,000 رسالة يومياً، فسيصبح صندوق الوارد البشري مزدحماً للغاية. تقول الورقة إننا بحاجة للذكاء الاصطناعي للقيام بعملية "الحذف والحظر" (المعالجة)، وليس فقط مجرد "التحديد".

2. "الأسطورة" وأرقام "فايرفوكس" (Firefox)

تنظر الورقة في بيانات حقيقية من Anthropic (الشركة وراء ذكاء "Mythos" الاصطناعي) ومن Mozilla (متصفح Firefox).

النتيجة: وجد الذكاء الاصطناعي العديد من الثغرات. في إحدى الحالات، وجد 22 ثغرة في Firefox خلال أسبوعين.
العقبة: لكي يجد تلك الـ 22 ثغرة حقيقية، كان على الذكاء الاصطناعي تقديم 112 تقريراً. وهذا يعني أنه مقابل كل 5 تقارير يتم إرسالها، كان هناك تقرير واحد فقط لثغرة حقيقية وعالية الجودة.
التكلفة: بينما كانت تكلفة تشغيل الذكاء الاصطناعي ضئيلة جداً، إلا أن الوقت "البشري" المطلوب للتحقق من تلك الـ 112 تقريراً كان مكلفاً. تحسب الورقة أن تكلفة التحقق البشري من العمل قد تكون في الواقع أعلى من تكلفة الذكاء الاصطناعي نفسه.

3. أسطورة "الثغرة القديمة"

تحب العناوين الصحفية قول: "الذكاء الاصطناعي وجد ثغرة كانت مختبئة لمدة 20 عاماً!".

رأي الورقة: هذه طريقة سيئة لقياس النجاح. مجرد كون الثغرة قديمة لا يعني أنها خطيرة.
التشبيه: العثور على كرسي مكسوق ومغبر في مرآب لم يُستخدم منذ 20 عاماً ليس مخيفاً بقدر العثور على درجة غير ثابتة في جسر يستخدمه الناس يومياً. "عمر" الثغرة لا يخبرنا ما إذا كانت تشكل تهديداً حقيقياً. تقول الورقة يجب أن نتوقف عن استخدام "عمر الثغرة" كمقياس لمدى جودة الذكاء الاصطناعي.

4. أزمة المصادر المفتوحة (Open Source)

تسلط الورقة الضوء على مشكلة محددة في البرمجيات مفتوحة المصدر (البرمجيات المجانية التي يبنيها متطوعون).

الوضع: يمكن للذكاء الاصطناعي توليد فيض من تقارير الثغرات للبرمجيات المجانية.
المشكلة: المتطوعون الذين يديرون هذه البرمجيات ليس لديهم موظفون مأجورون للتحقق من هذه التقارير. هم يعملون بالفعل في الليالي وعطلات نهاية الأسبوع.
الخطر: إذا أغرقهم الذكاء الاصطناعي بتقارير منخفضة الجودة، فسيصاب المتطوعون بالاحتراق النفسي والإنهاك. تقترح الورقة أن الشركات التي تستخدم هذه البرمجيات يجب أن تدفع مقابل عمل "ورشة الإصلاح" (التحقق والإصلاح) بنفسها، بدلاً من مجرد إلقاء التقارير الخام على المتطوعين.

ما الذي يجب أن نقيسه بدلاً من ذلك؟

تجادل الورقة بأننا بحاجة لتغيير طريقة حديثنا عن أمن الذكاء الاصطناعي. بدلاً من السؤال: "كم عدد الثغرات التي وجدها الذكاء الاصطناعي؟" يجب أن نسأل:

كم عدد الثغرات "الحقيقية" التي وجدها؟ (الدقة - Precision)
كم وفر من الوقت البشري؟ (هل أعطانا إصلاحاً جاهزاً للاستخدام، أم مجرد تساؤل؟)
ما هي التكلفة لكل ثغرة "تم إصلاحها"؟ (ليس فقط تكلفة العثور عليها).

الخلاصة: التنسيق، وليس الاستبدال

تخلص الورقة إلى أن الذكاء الاصطناعي لن يحل محل خبراء الأمن البشر. بدلاً من ذلك، سيصبح أداة قوية في الفريق.

المستقبل: نحتاج إلى "تنسيق" (Orchestration) الذكاء الاصطناعي مع الأدوات الأخرى. يمكن للذكاء الاصطناعي فحص الكود وصياغة إصلاح، ولكن يجب على إنسان (أو أداة متخصصة) التحقق منه.
الهدف: الهدف ليس إيجاد أكبر عدد من الثغرات؛ بل هو شحن أكثر البرمجيات "أماناً".
الدرس المستفاد: إن عصر "اليوم الصفر" (حيث كان العثور على ثغرة حدثاً نادراً ومكلفاً) ينتقل إلى عصر "إنتاجية المعالجة" (حيث أصبح العثور على الثغرات سهلاً، لكن إصلاحها على نطاق واسع هو الجزء الصعب).

باختصار: لقد خفض الذكاء الاصطناعي سعر العثور على المشكلة، لكن سعر حل المشكلة لا يزال مرتفعاً. الفائزون سيكونون أولئك الذين يمكنهم استخدام الذكاء الاصطناعي ليس فقط للعثور على المشكلة، بل لتقديم حل جاهز للإصلاح لورشة الإصلاح.

ملخص تقني: هل هو تفكيك لأسطورة "الميثوس" أم زعزعة لاقتصاديات الثغرات (Bugonomics)؟

بيان المشكلة

أدت العروض التوضيحية الأخيرة للنماذج اللغوية الكبيرة (LLMs)، مثل "Mythos Preview" من Anthropic، إلى ظهور روايات تشير إلى أن الذكاء الاصطناعي سيعيد تشكيل الأمن السيبراني بشكل جذري عبر أتمتة اكتشاف الثغرات البرمجية. ومع ذلك، تركز هذه الروايات غالبًا على معالم القدرة (مثل عدد الأخطاء المكتشفة) بينما تهمل الحقائق الاقتصادية الكامنة. تجادل الورقة بأن المجتمع الأمني يفتقر إلى إطار عمل لتحليل الاقتصاد التشغيلي لاكتشاف الثغرات.

تتمثل المشكلة الجوهرية في تحول محتمل في مشهد "اقتصاديات الثغرات" (bugonomics): فبينما قد تؤدي النماذج اللغوية الكبيرة إلى خفض تكلفة إنشاء تقارير المرشحين للثغرات (النماذج ذات الإشارة المنخفضة) بشكل كبير، إلا أنها لا تقلل تلقائيًا من التكاليف المرتبطة بالتحقق، وتقييم الأثر، والفرز، ودمج الإصلاحات. وهذا يخلق خطرًا يتمثل في أن حجم التقارير قد يغمر القدرة البشرية النادرة المطلوبة لمعالجتها، لا سيالما في بيئات المصادر المفتوحة. تسعى الورقة إلى نقل النقاش من "الذكاء الاصطناعي يجد المزيد من الثغرات" إلى "كيف تغير النماذج اللغوية الكبيرة هيكل تكلفة إنتاج النتائج الأمنية القابلة للتنفيذ؟".

المنهجية

يستخدم المؤلفون عدسة "اقتصاديات الثغرات" (bugonomics)، والتي تُعرف بأنها دراسة كيفية تغير قيمة نماذج الثغرات مع تغير تكلفة إنتاجها. تتضمن المنهجية ما يلي:

النمذجة الاقتصادية: تبني الورقة نموذج تكلفة يفصل دورة حياة الثغرة إلى مراحل متميزة:
- $C_G$ : تكلفة توليد تقارير المرشحين.
- $C_V$ : تكلفة التحقق من التقارير، وإعادة إنتاجها، وإزالة التكرار.
- $C_I$ : تكلفة تحديد الأثر أو قابلية الاستغلال.
- $C_R$ : تكلفة تجهيز الإصلاح (الاختبارات، الرقع البرمجية، والتعليل).
- $C_T$ : تكلفة فرز ومراجعة ونشر الإصلاح من قبل المسؤول عن الصيانة (Maintainer).
- يتم نمذجة التكلفة الإجمالية كالتالي: $C_{total} = C_G + C_V + C_I + C_R + C_T$ .
تحليل البيانات العامة: يحلل المؤلفون بيانات عامة من:
- Anthropic's Mythos Preview: فحص تكاليف الحملات ومعدلات الاكتشاف.
- تعاون Mozilla Firefox: تحليل نسبة التقارير المقدمة إلى الثغرات المقبولة (112 تقريرًا أسفرت عن 22 ثغرة مقبولة، أي بنسبة قبول تبلغ ~19.6%).
- أسواق الاستغلال وبرامج مكافآت الثغرات (VRPs): استخدام أسعار وسطاء الاستغلال العامة (مثل مدفوعات Crowdfense التي تصل لملايين الدولارات للثغرات الصفرية) وبيانات برامج مكافآت الثغرات (مثل مدفوعات Google لعام 2025) كخطوط أساس للقيمة الهجومية والدفاعية.
التدقيق المصطلحي: تميز الورقة بدقة بين:
- تقرير المرشح (Candidate Report): شك مبني على نموذج.
- الثغرة المقبولة (Accepted Vulnerability): مشكلة أمنية مؤكدة.
- الثغرة القابلة للاستغلال (Exploitable Vulnerability): مشكلة ذات مسار هجوم موثوق.
- سلسلة الاستغلال (Exploit Chain): تركيبة من التقنيات للوصول العملياتي.
- النتيجة الأمنية القابلة للتنفيذ (Actionable Security Outcome): نتيجة تم التحقق منها، أو إثبات للأثر، أو إصلاح تم نشره.

المساهمات الرئيسية

تقدم الورقة أربع مساهمات رئيسية:

إعادة صياغة اقتصاديات الثغرات: تنقل السرد من "عدم التماثل في الثغرات الصفرية" (حيث يمتلك الهجوم الأفضلية بسبب ندرة الاستغلالات عالية القيمة) إلى "إنتاجية الإصلاح من جانب المدافع". تفترض الحجة أن التحول القريب ليس في انهيار أسعار الاستغلال، بل في تغيير مكان الاختناق: من إيجاد الثغرات إلى استيعابها وإصلاحها.
ربط إشارات السوق: تربط بين أسعار أسواق الاستغلة العامة، وبيانات برامج مكافآت الثغرات، وخطوط الحوادث الأساسية لتوضيح أن النماذج اللغبية الكبيرة تعيد تسعير سير عمل المدافعين. فبينما يصبح توليد المرشحين أرخص، تزدل قيمة حزم الإصلاح الغنية بالأدلة، وتصبح قدرة المسؤولين عن الصيانة النادرة هي القيد الأساسي.
نموذج تكلفة لسير عمل النماذج اللغبية الكبيرة: يقدم المؤلفون نموذجًا كميًا يفصل تكاليف توليد المرشحين عن تكاليف التحقق، وأدلة الأثر، وتجهيز الإصلاح. يوضح هذا النموذج أن توليد المرشحين "الرخيص" يمكن أن يؤدي إلى تكاليف إجمالية عالية إذا لم تؤخذ أعباء التحقق والفرز في الاعتبار.
التمايز بين المخرجات: تفصل بين اقتصاديات تقوية الجانب الدفاعي (مثل معالجة الديون التقنية) وبين البحث غير المقيد عن الثغرات الصفرية، مجادلة بأن تقارير المرشحين، وأدلة الأثر، وسلاسل الاستغلال العملياتية ليست مخرجات اقتصادية قابلة للتبادل.

النتائج والملاحظات

بناءً على تحليل البيانات العامة، تخلص الورقة إلى استنتاجات محددة:

اقتصاديات مستوى الحملة: في Mythos Preview، أنتجت حملة بتكلفة أقل من 20,000 دولار "عشرات" من النتائج. وهذا يعني أن تكلفة كل تقرير تبلغ حوالي 417-833 دولارًا، لكن تكلفة كل ثغرة قابلة للتنفيذ أعلى بسبب تكاليف التحقق والفرز غير المعروفة.
اختناق التحقق: في تعاون Firefox، أسفر 112 تقريرًا عن 22 ثغرة مقبولة (نسبة قبول 19.6%). تقدر الورقة أنه إذا استغرق التحقق من 0.5 إلى 2 ساعة لكل تقرير بأسعار الخبراء، فإن تكلفة التحقق وحدها (5,600 - 56,000 دولار) يمكن أن تتجاوز تكاليف استدلال النموذج. وهذا يشير إلى أنه مع انخفاض $C_G$ ، تصبح $C_V$ و $C_T$ هي القيود المهيمنة.
تكاليف تطوير الاستغلال: بينما أفادت Anthropic بنحو 4,000 دولار مقابل مئات المحاولات التي أسفرت عن اثنين من استغلالات المتصفح "الخشنة" في بيئة معزولة، تشير الورقة إلى أن هذا لا يعادل تكلفة سلسلة استغلال جاهزة للإنتاج، والتي تتطلب التخفي، والموثوقية، وتجاوز الدفاعات المتعددة الطبقات.
عدم التماثل في المصادر المفتوحة: يمكن للاكتشاف بمساعدة النماذج اللغبية الكبيرة توليد تقارير بسرعة الآلة، لكن قدرة المسؤولين عن الصيانة على التحقق والنشر لا تتوسع تلقائيًا. وهذا يخلق عدم تماثل حيث قد يمتص المسؤولون في المصادر المفتحة تدفقًا كبيرًا من التقارير منخفضة الجودة دون امتلاك الميزانية لمعالجتها.
إعادة تسعير برامج مكافآت الثغرات (VRP): بدأت برامج مكافآت الثغرات في تعديل الحوافز. ومع انخفاض تكلفة توليد المرشحين، تتحول البرامج نحو المكافآت التي تتضمن أدوات إعادة الإنتاج، والتعليل على قابلية الاستغلال، وتوجيهات الإصلاح، مما يعني أنها تدفع مقابل "جودة حزمة المراجعة" وليس مجرد الشبهة الأولية.

الأهمية والادعاءات

تزعم الورقة أن أهمية النماذج اللغبية الكبيرة في الأمن لا تكمن في القضاء على سوق الثغرات الصفرية، بل في تفكيك غموض عملية اكتشاف الثغرات وتحول الاختناق الاقتصادي.

تفكيك الغموض: تعمل النماذج اللغبية الكبيرة على خفض الحد الأدنى لإنتاج نتائج معقولة ومدعومة بالأدلة، مما يجعل عملية "إيجاد الثغرات" أقل اعتمادًا على المتخصصين النخبويين وأكثر ارتباطًا بمسألة حجم الإنتاجية (Throughput).
تحول الاختناق: ينتقل القيد الحرج من الاكتشاف إلى الإصلاح. المورد النادر لم يعد القدرة على إيجاد ثغرة، بل القدرة على التحقق منها، وتحديد أولوياتها، ونشر إصلاح لها.
الاتجاه الاستراتيجي: تدعو الورقة إلى التنسيق (Orchestration) بدلاً من الاستبدال. يجب دمج النماذج الرائدة مع التحليل الساكن، واختبار الفرز (Fuzzing)، والتنفيذ الرمزي. الهدف هو إنتاج "حزم مراجعة" (رقع برمجية، اختبارات، تعليل) تقلل العبء المعرفي على المسؤولين عن الصيانة.
الديون التقنية: أحد التطبيقات عالية التأثير للنماذج اللغبية الكبيرة ليس فقط صيد الثغرات الصفرية، بل معالجة الديون التقنية (مثل عدم اتساق التحقق من المدخلات، أو واجهات برمجة التطبيقات المهجورة) حيث تترجم المخرجات مباشرة إلى أعمال يمكن للمدافعين نشرها.
مقاييس المستقبل: تجادل الورقة بأن المجال يجب أن يتجاوز مجرد "عد الثغرات المكتشفة". يجب أن تقيس التقارير المستقبلية الدقة، والتكلفة لكل ثغرة مقبولة، والتكلفة لكل ثغرة عالية الخطورة، والإصلاحات المقبولة لكل ساعة عمل للمسؤول عن الصيانة.

يخلص المؤلفون إلى أنه بينما تعتبر النماذج اللغبية الكبيرة مهمة استراتيجية، إلا أنها لا تجعل المدافعين عاجزين اقتصاديًا. بدلاً من ذلك، فهي ترفع الحد الأدنى للمراجعة الأمنية الروتينية وتحول التركيز الاستراتيجي نحو تحويل التفكير القابل للتوسع حول الثغرات إلى تحسينات أمنية متينة ومقبولة، لا سيما داخل نظام المصادر المفتوحة.