Black-box, Adaptive, Efficient, Transferable, Harmful, Applicable... Attacks Are All You Need to Break LLMs
यह शोध पत्र इनडायरेक्ट हार्म ऑप्टिमाइज़ेशन (IHO) को प्रस्तुत करता है, जो एक ब्लैक-बॉक्स, एडेप्टिव और कुशल जेलब्रेक अटैक विधि है जो विभिन्न सुरक्षा प्रणालियों के विरुद्ध लार्ज लैंग्वेज मॉडल्स की एडवरसैरियल रोबस्टनेस का आकलन करने के लिए एक मानकीकृत मूल्यांकन बेसलाइन के रूप में कार्य करता है।