Attribution Consistency in Fine Tuning Makes Refusal Less Sensitive to Paraphrase in a Small Tool Using LLM Agent
Questo studio preliminare dimostra che l'applicazione della Latent Attribution Regularization (LAR) durante il fine-tuning migliora la coerenza dell'attribuzione di un piccolo agente LLM per l'uso di strumenti, riducendo così la sua sensibilità alle richieste dannose parafrasate e stabilizzando le decisioni di rifiuto senza compromettere significativamente le prestazioni di rilevamento, sebbene rischi un rifiuto eccessivo se applicata a esempi innocui.