3659 ورقة بحثية
تقترح هذه الورقة إطار عمل للخصوصية التفاضلية التكيفية المدركة للفئات (CA-ADP) متكاملاً مع بنية (3D CNN-BiLSTM) التي تضبط مستويات الضجيج ديناميكياً بناءً على تكوين الفئات في الدفعة الصغيرة (mini-batch) لتحقيق ضمانات خصوصية رسمية مع تحسين أداء اكتشاف السقوط بشكل كبير عبر مجموعات بيانات مرجعية متعددة مقارنة بطرق الضجيج الموحد التقليدية.
تقدم هذه الورقة الموقفية منصة CyberAId، وهي منصة هجينة متعددة الوكلاء مصممة لتعزيز الأمن السيبراني المالي من خلال دمج وكلاء فرعيين متخصصين يعتمدون على النماذج اللغوية الكبيرة (LLMs) مع بيانات التتبع التقليدية لأنظمة إدارة الأحداث والمعلومات الأمنية (SIEM) للتغلب على اختناقات الاستنتاج، وضمان الامتثال التنظيمي، وتمكين الدفاع الجماعي المحافظ على الخصوصية عبر المؤسسات المالية.
تقدم هذه الورقة RefusalGuard، وهو إطار عمل للضبط الدقيق يحافظ على الهندسة ويخفف من تدهور السلامة في النماذج اللغوية من خلال تقييد التحديثات في فضاء التمثيل الخفي لمنع تشويه البنى ذات الصلة بالسلامة مع الحفاظ على أداء المهام.
تقدم هذه الورقة "Trojan Hippo"، وهو هجوم ذاكرة مستمر يستغل الحمولات الخاملة في وكلاء النماذج اللغوية الكبيرة (LLM agents) لتسريب البيانات الحساسة عند استجابة محفزات معينة، وتقترح إطار تقييم ديناميكي يوضح أنه بينما يمكن للدفاعات الحالية أن تخفف من هذه الهجمات بشكل كبير، إلا أنها غالباً ما تسبب تكاليف فادحة في المنفعة، مما يسلط الض الضوء على المقايضة الحرجة بين الأمن والمنفعة في نشر أنظمة الذاكرة الآمنة.
تقدم هذه الورقة هجوم التلاعب بالترحيل (RTA)، وهو تهديد جديد يوضح أن أجهزة الترحيل الخارجية الخبيثة في بنيات الوكلاء من نوع "أحضر مفتاحك الخاص" (BYOK) يمكنها تجاوز محاذاة النماذج اللغوية الكبيرة عن طريق التلاعب بالاستجابات بعد توليدها، محققةً معدلات نجاح عالية للهجوم تعجز الدفاعات الحالية عن تخفيف حدتها بشكل كامل.
تقدم هذه الورقة نموذج تهديد موحداً لإجراء دراسة استئصال مهيكلة حول هجمات الخصوصية ضد النماذج اللغوية الكبيرة، كاشفةً أنه في حين تُظهر هجمات العضوية والباب الخلفي موثوقية عالية، فإن استنتاج السمات واستخراج البيانات يظلان تحدياً كبيراً ومع ذلك يشكلان مخاطر جسيمة، مما يسلط الضوء في النهاية على أن ثغرات الخصوصية تعتمد بشكل كبير على السياق وتدفعها خيارات تصميم النظام المحددة.
تقترح هذه الورقة سير عمل شامل للتعلم الاتحادي الحافظ للخصوصية للبيانات الجدولية الحساسة، يدمج بين إخفاء الهوية، وكشف انحراف العميل للتخفيف من حدة التسمم، ومنهجية مبتكرة لتخصيص ميزانيات الخصوصية التفاضلية بناءً على مخاطر إعادة تحديد الهوية، مما يظهر أداءً فائقاً للنموذج مقارنة بنهج الميزانية الثابتة على السجلات الطبية.
تقدم الورقة البحثية ContextualJailbreak، وهو إطار عمل تطوري لاختبار الاختراق (red-teaming) يستخدم عوامل طفرة مبتكرة وتصنيفًا متدرجًا للضرر لتحسين التمهيد الحواري متعدد الأدوار، محققًا معدلات نجاح شبه مثالية في كسر الحماية على نماذج مفتوحة متنوعة، ومظهرًا قابلية نقل كبيرة إلى النماذج المغلقة الرائدة مع الكشف عن تباينات صارخة في متانة المحاذاة عبر مختلف المزودين.
يُعد FunFuzz إطار عمل للتفتيش التطوري متعدد الجزر يستفيد من النماذج اللغوية الكبيرة مع مطالبات تكيفية موجهة بالتغذية الراجعة وهجرة دورية للمرشحين للتغلب على حساسية المطالبات وتباين أخذ العينات، مما يحقق تغطية فائقة للمترجمات ويكتشف مدخلات فريدة أكثر تسبب الفشل مقارنة بالنهج السابقة القائمة على النماذج اللغوية الكبيرة.
تقدم هذه الدراسة مراجعة شاملة للسلامة في الذكاء الاصطناዊ المجسد من خلال تقديم تصنيف موحد متعدد المستويات يفحص الهجمات والدفاعات عبر مسار الوكيل بأكمله، وتوليف الرؤى من أكثر من 400 ورقة بحثية لتحديد التحديات الحرجة وتقديم خارطة طريق لبناء أنظمة واقعية آمنة وقوية وموثوقة.