Attribution Consistency in Fine Tuning Makes Refusal Less Sensitive to Paraphrase in a Small Tool Using LLM Agent
Deze voorlopige studie toont aan dat het toepassen van Latent Attribution Regularization (LAR) tijdens het fine-tunen de attributieconsistentie van een kleine tool-gebruikende LLM-agent verbetert, waardoor de gevoeligheid voor geparafraseerde schadelijke verzoeken wordt verminderd en weigeringsbeslissingen worden gestabiliseerd zonder de detectieprestaties significant te compromitteren, hoewel het risico op excessieve weigering met zich meebrengt als het op onschadelijke voorbeelden wordt toegepast.