SafeDream: Safety World Model for Proactive Early Jailbreak Detection
यह शोधपत्र SafeDream को प्रस्तुत करता है, जो एक हल्का, बाहरी वर्ल्ड-मॉडल फ्रेमवर्क है जो लेटेंट स्पेस में संचयी सुरक्षा क्षरण (cumulative safety erosion) को मॉडल करके और भविष्य के जोखिमों का पूर्वानुमान लगाकर मल्टी-टर्न जेलब्रेक हमलों का सक्रिय रूप से पता लगाता है, जिससे लक्षित LLM के वेट्स (weights) में संशोधन किए बिना हानिकारक सामग्री उत्पन्न होने से पहले ही शीघ्र पहचान संभव हो पाती है।