3659 ورقة بحثية
تكشف هذه الورقة أنه على الرغم من تحقيق أداء تصنيف يقترب من المثالية، إلا أن دفاعات حقن الأوامر الحالية تعاني من "فجوة أداء-متانة" حرجة، حيث تتسبب المطالبات المموّهة متعددة العمليات في انهيار التضمين الكامن وهشاشة هندسية تفشل المقاييس القياسية في اكتشافها.
تقدم هذه الورقة البحثية "الوكلاء متعددون الوسائط حاملو الأدلة" (ECA)، وهي بنية آمنة تمنع إخفاقات التفويض الناجمة عن الهلوسة من خلال اشتراط التحقق من استدعاءات الأدوات مقابل شهادات أدلة خارجية محددة النوع، بدلاً من الاعتماد على الادعاءات الإدراكية غير المتحقق منها للنموذج.
تقترح هذه الورقة إطار تجميع قوي ثنائي المراحل يجمع بين تسجيل الثقة المدرك للنمط وآليات الوصول المتعدد القائمة على الثقة وآليات السمعة الطولية للكشف بفعالية عن هجمات الباب الخلفي والتخفيف من حدتها في أنظمة التعلم الاتحادي عبر الهواء مع الحفاظ على دقة المهمة الرئيسية.
تقترح هذه الورقة بروتوكولاً آمناً، يحافظ على الخصوصية، وقابلاً للتحقق لعمليات جمع التوقيعات الإلكترونية في سويسرا، وذلك عبر الاستفادة من الطبيعة المتوازية لعمليات الجمع النشطة المتعددة لضمان خصوصية المشاركة دون الحاجة إلى قناة مجهولة.
تقترح هذه الورقة وسيلة حماية ما قبل النموذج تستفيد من قابلية انتقال هجمات كسر الحماية من النماذج اللغوية الكبيرة إلى نماذج المسودة الأصغر لتوليد استجابات مسودة، مما يمكّن الحواجز الموجودة من اكتشاف المطالبات غير الآمنة بدقة أكبر قبل استدلال النموذج المستهدف مع تجنب التكاليف الحسابية العالية للتدقيق ما بعد النموذج.
تقدم هذه الورقة RoboJailBench، وهو أول إطار تقييم معياري لهجمات كسر الحماية في أنظمة الذكاء الاصطناعي المتجسد، والذي يعالج الفجوات الحالية من خلال إنشاء تصنيف أمني، وإنشاء مسار بيانات لتباين النوايا، وتوفير مقاييس موحدة لتقييم المقايضة بين الأمان والمنفعة في نماذج الرؤية واللغة المتجسدة.
تجادل هذه الورقة بأنه في حين أن تدابير الأمن السيبراني الجامعية المكثفة تخلق عوائق في إمكانية الوصول لجميع الطلاب، إلا أنها تضعف بشكل غير متناسب طلاب الشراكات الدولية — لا سيما أولئك المنضوين تحت البرامج البريطانية الصينية — من خلال جعل الموارد الرقمية الأساسية غير قابلة للوصول بسبب التفاوت في المناطق الزمنية، ونقص الدعم التقني في الموقع، وبروتوكولات المصادقة الصارمة التي لا تراعي المتعلمين عن بُعد.
تقترح هذه الورقة إطار عمل XAI FL-IDS، وهو إطار مبتكر يدمج التعلم الاتحادي مع القابلية للتفسير القائمة على SHAP لتمكين كشف التسلل الموزع عالي الدقة والمحافظ على الخصوصية، مع توفير رؤى شفافة حول عمليات اتخاذ القرار.
تحلل هذه الورقة بروتوكول النقل (P2P) الجديد الإصدار الثاني (V2) لشبكة بيتكوين، كاشفةً أنه على الرغم من تخفيفه للثغرات المعروفة، إلا أن عيوب التصميم المفاهيمي لا تزال تمكّن المهاجمين على مستوى الشبكة من تنفيذ هجمات كسر العزلة (eclipse) وهجمات خفض المستوى (downgrade) مستمرة، مما يستدعي اقتراح تدابير مضادة جديدة.
تقدم هذه الورقة معياراً قائماً على التتبع لتقييم كيفية تأثير محاذاة السلامة على وكلاء الأمن المستقلين، كاشفةً أنه في حين يمكن لمشتقات النماذج غير المقيدة أن تحسن بشكل كبير من اكتشاف الثغرات والترسيخ في حالات محددة مثل Gemma، إلا أن هذه المكاسب ليست عالمية عبر جميع النماذج أو المهام، وتبرز الحاجة إلى مقاييس سلامة على مستوى النظام تتجاوز مجرد معدلات الرفض البسيطة.