Metaphor Is Not All Attention Needs
Dit artikel onderzoekt waarom poëtische herformuleringen grote taalmodellen succesvol kunnen jailbreaken, en stelt vast dat deze kwetsbaarheid niet voortkomt uit een onvermogen om literaire formaten te herkennen, maar uit opgehoopte stijlmatige irregulariteiten die de verwerkingspatronen van het model wijzigen en veiligheidsmechanismen omzeilen, onafhankelijk van detectie van schadelijke inhoud.