23200 ورقة بحثية
تجادل هذه الورقة بأن المساعدين المتقدمين القائمين على الذكاء الاصطناعي ينشئون علاقة ائتمانية بين المطورين والمستخدمين، مما يتطلب من المطورين الالتزام بالواجبات الأربعة الجوهرية المتمثلة في الولاء، والرعاية، وحسن النية، والصدق، وذلك للحد من مخاطر محددة وضمان التوافق بشكل مستقل عن وقوع ضرر فعلي.
تقدم هذه الورقة سير عملً موجهاً بالتحقق يعزز قابلية نقل المحولات الرمزية مسبقة التدريب (ODEFormer) إلى الأنظمة الفيزيائية عالية الأبعاد من خلال استخدام معايير ديناميكية ومعايير القابلية للقبول الفيزيائي لاختيار المعادلات الدقيقة، مما ينجح في اكتشاف نماذج مختزلة قابلة للتفسير لظواهر مثل انفصال الدوامات دون الاعتماد على مكتبات خاصة بالنظام أو هياكل محددة مسبقاً.
تُثبت هذه الورقة أن الاعتماد على مطالبات نموذجية (canonical prompts) واحدة لتقييم سلامة النماذج اللغوية الكبيرة يؤدي إلى تقدير نقص كبير في الامتثال غير الآمن، حيث تكشف التغييرات في الصيغ السطحية التي تحافظ على المعنى أن جزءاً كبيراً من السلوكيات الضارة يظل غير مكتشف بواسطة طرق القياس المعيارية.
تعمم هذه الورقة البحثية "التطبيع الجيوديزي" (Geodesic Normalization) من خلال إثبات أن جميع خرائط الارتداد (retraction maps) لتدفقات البقايا الكروية تختزل إلى معلمة قياسية واحدة تتحكم في زاوية الدوران، مما يؤدي إلى عائلة "-SpheretNorm" المقترحة التي تتفوق على الأساليب الحالية في نموذج nanoGPT عبر تحديد أن الخريطة الأسية (exponential map) ليست سوى حالة حدية وليست الخيار الأمثل.
تقدم هذه الورقة ChimangoScan، وهو مسار تحليل واسع النطاق يحلل صور Docker Hub الأكثر تعرضاً باستخدام ستة أدوات فحص مستقلة ليكشف أن الثغرات الأمنية والأخطاء في التكوين تكاد تكون عالمية، وأن نتائج الفحص تعتمد بشكل كبير على الأداة المستخدمة مع وجود توافق منخفض بينها، وأن غالبية الأسرار المكتشفة هي نتائج إيجابية كاذبة.
تقوم هذه الورقة البحثية بقياس أداء سبعة نماذج لغوية كبيرة وصغيرة في توليد كود "Terraform" آمن لخدمات "AWS"، مما يكشف أن الصلاحية النحوية والامتثال الأمني هما خاصيتان متعامدتان إلى حد كبير، وأن الفحص الآلي متعدد الأدوات يظل ضرورياً بغض النظر عن أداء النموذج أو استراتيجيات هندسة الأوامر.
تقترح هذه الورقة إطار عمل "المحاذاة التكيفية للتوجيه الديناميكي" (DRAA)، وهو إطار يعزز متانة النماذج التأسيسية الضخمة ضد هجمات الصندوق الأبيض من خلال تحديد وتحديد مواقع مسارات السلامة، ثم تدريب مسارات تعويضية للحفاظ على سلوك الرفض حتى عندما تتعرض آليات السلامة الأساسية للاختراق.
تُثبت هذه الورقة أن مراجعي الأكواد الحاليين القائمين على النماذج اللغوية الكبيرة يخلطون بين تقدير المخاطر وسياسات اتخاذ القرار، مما يتسبب في تغير الاحتمالات المُبلغ عنها مع تغير افتراضات التكلفة، وتقترح خط إنتاج معياريًا يفصل بين استقاء الأدلة القائم على المخاطر وبين الإجراءات المدفوعة بالتكلفة لتحسين الدقة بشكل كبير وتقليل خسارة القرار.
تقدم هذه الورقة البحثية DenialRAG، وهو هجوم تسميم جديد لنظام استرجاع المعلومات المعزز بالتوليد (RAG) أحادي المستند، يقوم صراحةً بتسمية الإجابة الصحيحة وتفنيدها داخل نص مسترجع لتوجيه النماذج اللغوية الكبيرة نحو إجابات خاطئة يختارها المهاجم، مما يثبت أن فعاليته تعتمد بشكل كبير على النموذج وأن الدفاعات الحالية لا توفر سوى حماية جزئية وغير موحدة.
تقدم هذه الورقة تصميم وتنفيذ والدروس العملية لبيئة اختبار ذكاء اصطناعي (AI sandbox) متعددة المستأجرين ومدركة للحوكمة، تم تطويرها من خلال تعاون بين الصناعة والأكاديميا لتمكين التجريب السريع والمُحكم والقابل للتتبع مع أدلة تقييم قابلة لإعادة الاستخدام.