AttnTrace: Contextual Attribution of Prompt Injection and Knowledge Corruption
تقدم هذه الورقة البحثية AttnTrace، وهي طريقة فعالة ودقيقة لتتبع حقن الأوامر (prompt injection) وفساد المعرفة (knowledge corruption) في النماذج اللغوية الكبيرة ذات السياق الطويل عبر الاستفادة من أوزان الانتباه، والتي تتفوق على الحلول الحالية الرائدة في كل من السرعة والفعالية مع تمكين الكشف المحسن عن التعليمات المحقونة.