Efficient Preference Poisoning Attack on Offline RLHF
تقترح هذه الورقة طريقتين فعالتين للهجوم، هما هجوم الشبكة المدرك للثنائية (BAL-A) وهجوم البحث عن المطابقة الثنائية (BMP-A)، اللذان يستغلان إزاحة التدرج المستقلة عن المعلمات والناجمة عن قلب الملصقات لحل مشكلة تسميم التفضيلات المستهدفة في التعلم التعزيزي من التغذية الراجعة البشرية غير المتصل (offline RLHF) كمسألة تقريب ثنائي متفرّق مهيكل.