Scam2Prompt: A Scalable Framework for Auditing Malicious Scam Endpoints in Production LLMs
تقدم الورقة البحثية Scam2Prompt، وهو إطار عمل قابل للتوسع يكشف عن ثغرة أمنية حرجة ومتفاقمة في النماذج اللغوية الكبيرة المستخدمة في الإنتاج، حيث تنجح المطالبات المؤتمتة المستمدة من مواقع الاحتيال الخبيثة في تحفيز توليد كود ضار في ما يصل إلى 47.3% من الحالات عبر نماذج متعددة، مما يجعل تدابير السلامة الحالية مثل الحواجز الوقائية وتوليد المحتوى المدعوم بالاسترجاع (RAG) غير كافية.