Attribution Consistency in Fine Tuning Makes Refusal Less Sensitive to Paraphrase in a Small Tool Using LLM Agent
이 예비 연구는 미세 조정 과정에서 잠재 기여도 정규화(Latent Attribution Regularization, LAR)를 적용하는 것이 소규모 도구 사용 LLM 에이전트의 기여도 일관성을 향상시켜, 탐지 성능을 크게 저하시키지 않으면서도 바꾸어 표현된 유해한 요청에 대한 민감도를 줄이고 거절 결정을 안정화하는 동시에, 무해한 예시에 적용될 경우 과도한 거절의 위험이 있음을 입증한다.