TEMPLATEFUZZ: Fine-Grained Chat Template Fuzzing for Jailbreaking and Red Teaming LLMs
यह शोध पत्र TEMPLATEFUZZ को प्रस्तुत करता है, जो एक सूक्ष्म-स्तरीय (fine-grained) फज़िंग फ्रेमवर्क है जो ओपन-सोर्स और कमर्शियल दोनों प्रकार के LLMs में न्यूनतम सटीकता ह्रास के साथ काफी उच्च जेलब्रेक सफलता दर प्राप्त करने के लिए एलिमेंट-लेवल म्यूटेशन और ह्यूरिस्टिक सर्च के माध्यम से चैट टेम्पलेट कमजोरियों का व्यवस्थित रूप से शोषण करता है।