Evaluating the Robustness of Safety-Aligned LLM Behavior to Short Contextual Prefixes
यह शोध पत्र प्रदर्शित करता है कि छोटे, स्वचालित रूप से अनुकूलित प्रीफिक्स (prefixes), उच्च-जोखिम वाले निर्णय संबंधी दुविधाओं में ओपन लार्ज लैंग्वेज मॉडल्स के सुरक्षा संरेखण (safety alignment) को महत्वपूर्ण रूप से बाधित कर सकते हैं, जो उनके अंतर्निहित स्थिर लक्ष्यों को बदले बिना उनकी व्यवहारिक सुरक्षा में एक गंभीर मजबूती अंतराल (robustness gap) को प्रकट करता है।