🤖 AI

FiLoRA: Focus-and-Ignore LoRA for Controllable Feature Reliance

FiLoRA는 근본적인 작업 의미론을 변경하지 않으면서 자연어 지시어를 사용하여 특정 내부 특징 경로를 선택적으로 증폭하거나 억제함으로써 멀티모달 파운데이션 모델의 특징 의존도를 제어 가능한 방식으로 조절할 수 있게 하는, 지시 조건부의 매개변수 효율적 프레임워크이다.

원저자: Hyunsuk Chung, Soyeon Caren Han, Seungyeon Ji, Jinwoo Kim, Eun-Jung Holden, Kyungreem Han

게시일 2026-08-20

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Hyunsuk Chung, Soyeon Caren Han, Seungyeon Ji, Jinwoo Kim, Eun-Jung Holden, Kyungreem Han

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

보고, 듣고, 읽는 현대의 인공지능 시스템은 이러한 서로 다른 감각들을 결합하여 세상을 이해하는 데 놀라운 능력을 보여주고 있습니다. 사용자가 이러한 시스템에 영화 포스터를 설명하거나 목소리에서 감정을 식별하도록 요청할 때, 시스템은 단어의 의미를 처리하는 경로와 색상, 모양 또는 소리의 패턴을 분석하는 경로 등 방대한 내부 네트워크를 활용합니다. 수년 동안 연구자들은 모델이 결론에 도상 도달하기 위해 어떤 내부 경로를 사용하는지 관찰할 수 있었으며, 종종 시스템이 줄거리보다는 포스터의 색상으로 영화의 장르를 판단하는 것과 같은 오해의 소지가 있는 지름길(shortcuts)에 의존한다는 사실을 발견했습니다. 그러나 중요한 격차가 남아 있었습니다. 과학자들이 모델이 이러한 실수를 저지르는 과정을 관찰할 수는 있었지만, 모델에게 그 지름길을 사용하지 말고 대신 올바른 정보에 집중하라고 명령하는 것은 쉽지 않았습니다. 행동을 관찰할 수 있는 능력이 곧 그것을 제어할 수 있는 권한을 자동으로 부여하는 것은 아니기 때문입니다.

새로운 연구는 이러한 격차를 메우기 위해 설계된 FiLoRA(Focus-and-Ignore LoRA, 집중 및 무시 LoRA)라는 방법론을 소개합니다. 연구진은 자연어 명령을 사용하여 멀티모달 모델의 내부 작동 방식을 직접 조절할 수 있는 방법을 개발했습니다. 이 기술은 단순히 모델이 내놓는 최종 답변을 바꾸는 것이 아니라, 사용자가 시스템의 내부 처리 과정 중 정확히 어느 부분을 증폭하고 어느 부분을 억제할지 직접 지시할 수 있게 해줍니다. 예를 들어, 사용자가 "스토리에 집중하라"거나 "시각적 외형을 무시하라"고 명령하면, 시스템은 이 명령을 따르기 위해 내부 계산을 물리적으로 조정합니다. 이 접근 방식은 모델이 다양한 유형의 정보에 의존하는 것을 사후에 분석만 가능한 고정된 특성이 아니라, 능동적으로 관리할 수 있는 대상으로 취급합니다.

연구진은 영화 포스터와 줄거리를 바탕으로 장르를 식별하는 것부터 오디오 및 비디오 클립에서 감정을 인식하고 이미지를 설명하는 것에 이르기까지 여러 가지 다양한 과업에 대해 이 아이디어를 테스트했습니다. 일반적인 시나리오에서 표준 모델은 어둡고 침울한 색조의 영화 포스터를 보고, 실제로는 로맨스 영화임에도 불구하고 이를 공포 영화라고 추측할 수 있습니다. 이는 모델이 '어두운 색상은 공포 포스터에 자주 등장한다'는 지름길을 학습했기 때문에 발생합니다. 새로운 FiLoRA 방법을 사용하면 연구진은 "물리적 외형을 무시하라"와 "의미론적 서사에 집중하라"는 지침을 줄 수 있습니다. 이렇게 했을 때, 모델은 오해의 소지가 있는 색상으로부터 주의를 성공적으로 돌려 텍스트로 된 줄거리 요약에 의존했습니다. 그 결과, 시스템 전체를 처음부터 다시 훈련하거나 과업을 변경하지 않고도, 특정 내부 경로를 통해 정보의 흐름을 게이팅(gating)하거나 제어함으로써 로맨스라는 올바른 분류를 달성했습니다.

이를 구현하기 위해 연구진은 모델의 학습 과정을 의미론적 의미, 시각적 세부 사항, 음향적 특징 등 서로 다른 종류의 정보를 담당하는 별개의 그룹으로 나누었습니다. 그런 다음 각 그룹에 작고 조절 가능한 제어 메커니즘을 부착했습니다. 명령이 주어지면 시스템은 해당 텍st를 일종의 디머 스위치(dimmer switches) 역할을 하는 제어 신호 세트로 변환합니다. 만약 명령이 "스토리에 집중하라"는 것이라면, 스토리 처리 경로를 위한 스위치는 높이고, 시각적 외형 경로를 위한 스위치는 낮춥니다. 이 과정은 모델이 처리하는 모든 개별 사례에 대해 실시간으로 일어납니다. 연구는 이 방법이 다양한 유형의 데이터와 다양한 모델 크기에 걸쳐 일관되게 작동함을 보여주었으며, 이는 이 제어가 특정 설정의 우연한 결과가 아니라 아키텍처의 견고한 특징임을 입증합니다.

연구 결과는 이러한 모델이 정보를 사용하는 방식이 기존 생각보다 훨씬 더 유연하다는 것을 시사합니다. 연구진이 오해의 소지가 있는 시각적 단서를 완전히 제거한 실험에서, 표준 방식으로 훈련된 모델들은 종종 실패하거나 불안정해졌는데, 이는 모델이 해당 지름길에 의존하게 되었음을 보여줍니다. 반면, FiLoRA에 의해 유도된 모델들은 안정적이고 정확한 모습을 유지하며, 핵심적이고 의미 있는 정보에 의존하도록 학습되었음을 입증했습니다. 또한 연구진은 이 제어가 경직된 명령뿐만 아니라 복잡한 자연어 명령과도 작동한다는 것을 발견했습니다. 사용자가 "시각적 스타일을 언급하지 말고 주요 동작을 설명하라"거나 "배경 단서는 무시하고 사람들 사이의 상호작용에 집중하라"고 요청하더라도, 시스템은 그에 따라 내부적 초점을 재구성하며 응답했습니다.

이 작업은 인공지능이 어떻게 결정을 내리는지 단순히 분석하는 단계에서, 그 과정에 능동적으로 개입하는 단계로의 전환을 의미합니다. 자연어 명령이 내부 계산을 위한 정밀한 제어 신호로 쓰일 수 있음을 보여줌으로써, 이 연구는 이러한 시스템을 더욱 신뢰할 수 있고 투명하게 만드는 새로운 도구를 제공합니다. 이는 미래에 우리가 복잡한 AI 모델에게 무엇에 주의를 기울여야 할지 단순히 말함으로써 편향이나 오류를 피하도록 유도할 수 있으며, 이를 통해 모델이 결론에 도달하기 위해 올바른 근거를 사용하도록 보장할 수 있음을 시사합니다. 단순히 운이나 지름길을 통해 정답을 맞히는 것이 아니라, 결정의 올바른 이유에 집중할 수 있는 능력은 더욱 신뢰할 수 있고 통제 가능한 인공지능을 향한 중요한 진전입니다.

기술 요약: FiLoRA – 제어 가능한 특징 의존성을 위한 Focus-and-Ignore LoRA

문제 정의

멀티모달 파운데이션 모델은 이질적인 신호(텍스트, 시각, 오디오)를 통합하지만, 예측을 수행할 때 과업 관련 의미론적 정보보다는 표면적인 "지름길(shortcut)" 단서(예: 포스터 색상, 배경 패턴, 화자 정체성)에 의존하는 경우가 많습니다. 기존 방법들은 이러한 행동을 사후적으로 분석하거나 데이터 수준에서 개입할 수는 있지만, 추론 과정에서 모델이 내부 특징 경로(feature pathways)를 어떻게 사용하는지를 명시적으로 제어하는 능력은 부족합니다. 현재의 인스트럭션 튜닝(instruction tuning)과 프롬프팅은 표면적인 출력을 변경할 뿐, 그에 상응하는 내부 연산의 변화를 보장하지는 않습니다. 또한, FIT나 FocalLoRA와 같은 방법들은 출력 정렬이나 계층적 적응에 집중할 뿐, 고정된 과업 정의 하에서 특정 특징별 연산 경로를 선택적으로 활성화하거나 억제하는 메커니즘을 제공하지는 않습니다. 본 연구가 다루는 핵심 질문은 다음과 같습니다: 자연어 인스트럭션을 사용하여, 과업 정의, 레이블 공간, 또는 기본 표현(base representations)을 변경하지 않고도 멀티모달 모델의 내부 특징 의존성을 명시적으로 제어할 수 있는가?

방법론: FiLoRA

저자들은 내부 특징 의존성을 조절하기 위해 설계된 인스트럭션 조건부 매개변수 효율적 적응 프레임워크인 **FiLoRA (Focus-and-Ignore LoRA)**를 제안합니다.

1. 경로 수준 제어를 위한 그룹화된 LoRA (Grouped LoRA)

표준 LoRA는 레이어당 하나의 차별화되지 않은 저차원 업데이트( $\Delta W = BA^\top$ )를 적용하여 특징 기여도를 뒤섞습니다. FiLoRA는 이러한 업데이트를 기능적 연산 경로(예: 의미론적 추론, 시각적 외형 처리, 음향 추출)와 정렬된 그룹( $\mathcal{G}$ )으로 분해합니다. 적응된 가중치 행렬은 다음과 같습니다:
$W' = W + \sum_{g \in \mathcal{G}} \Delta W_g$
여기서 각 $\Delta W_g$ 는 특정 특징 경로에 대응하는 저차원 적응값입니다. 이러한 구조적 분해를 통해 파라미터 수준에서 서로 다른 특징 소스들을 독립적으로 조절할 수 있습니다.

2. 인스트럭션 조건부 게이팅 (Instruction-Conditioned Gating)

이러한 그룹들을 동적으로 제어하기 위해, FiLoRA는 게이팅 메커니즘을 도입합니다. 자연어 인스트럭션 $I_i$ 는 연속적인 표현 $z_i = h_\phi(I_i)$ 로 인코딩되며, 시그모이드 함수를 통해 게이트 벡터 $g(I_i) \in [0, 1]^{|\mathcal{G}|}$ 로 매핑됩니다. 최종 적응식은 다음과 같습니다:
$W' = W + \sum_{g \in \mathcal{G}} g_g(I_i) \Delta W_g$
게이트는 인스트럭션의 의미(예: "Semantic Narrative에 집중하라" vs "Physical Appearance를 무시하라")에 따라 각 그룹별 업데이트의 기여도를 부드럽게 스케일링합니다. 베이스 모델의 파라미터는 동결된 상태로 유지되어, 변화된 행동이 표현의 드리프트(representation drift)가 아닌 특징 의존성의 조절을 반영하도록 보장합니다.

3. 제어된 개입 학습 (Controlled Intervention Training)

인스트럭션을 특정 의존성 패턴과 연관시키기 위해, 학습 과정에서는 **제어된 감독 신호(controlled supervision signal)**를 활용합니다. 학습 중에 감독 타겟은 동일한 레이블 공간 내에 머물면서도 서로 다른 증거 소스(예: 의미론적 단서 vs 외형 기반 단서)를 강조하도록 다양하게 변화됩니다. 이 신호는 모델을 특정 특징 유형 쪽으로 편향시키는 개입 메커니즘으로 사용되지만, 모델의 입력으로는 제공되지 않습니다. 모델은 인스트럭션 조건부 게이팅과 최적화 목적 함수 사이의 상호작용만을 통해 인스트럭션 의미와 구별된 특징 사용 패턴을 학습합니다. 게이팅 동작을 안정화하기 위해 약한 게이트 정규화 항(weak gate regularization term)이 선택적으로 적용됩니다.

주요 기여

특징 의러성 제어의 공식화: 본 논문은 인스트럭션 준수를 단순한 출력 수준의 행동 제어가 아닌, 특징 의존성에 대한 제어된 개입의 문제로 공식화했습니다.
FiLoRA 프레임워크: 미분 가능하고 인스트럭션 조건부인 내부 연산 경로의 조절을 가능하게 하는 그룹화 및 게이팅된 LoRA 프레임워크를 도입했습니다.
실증적 검증: 다양한 멀티모달 벤치마크(분류 및 생성 과업)를 통해, FiLoRA가 다양한 인스트럭션(자연어, 패러프레이즈, 조합형) 하에서 일관되고 해석 가능하며 견고한 특징 사용 제어를 달성함을 입증했습니다.

결과

저자들은 다양한 백본 모델(Qwen2.5-VL, Gemma-3n, Qwen2.5-Omni, AV-HuBERT, AudioCLIP)을 사용하여 제어된 분류 설정(Tiny MM-IMDb, CREMA-D, RAVDESS)과 생성 과업(Flickr30K 이미지 캡셔닝)에서 FiLoRA를 평가했습니다.

제어 가능한 조절: FiLoRA는 특징 의존성의 체계적인 변화를 유도합니다. "Focus-core" 인스트럭션은 의미/서사 경로와 관련된 게이트를 일관되적으로 증폭시키는 반면 외형/인구통계학적 경로를 억제합니다. 반대로, "Ignore-core" 인스트럭션은 지름길(shortcut)과 관련된 특징들로 의존성을 이동시킵니다.
기능적 재분배: 게이트 조절 범위(GMR) 및 **의존성 민감도(RS)**와 같은 지표는 이러한 게이트 변화가 예측의 기능적 변화를 일으킨다는 것을 확인시켜 줍니다. Focus-core 인스트럭션 하에서는 예측 민감도가 핵심 경로에 집중되며, Ignore-core 인스트럭션 하에서는 지름길 경로로 이동합니다.
일반화: 이 방법은 인스트럭션 형식(템플릿, 패러프레이즈, 조합형 인스트럭션)과 모델 규모 및 아키텍처 전반에 걸쳐 일반화됩니다.
생성 능력: 이미지 캡셔닝에서 FiLoRA는 전체 캡션 품질(CIDEr/CLIPScore)을 저하시키지 않으면서, 인스트럭션에 따라 의미적 상호작용이나 시각적 속성을 강조하도록 캡션 내용을 성공적으로 변경합니다.
견고성: FiLoRA는 타겟팅된 지름길 특징 개입 상황에서 풀 파인튜닝(full fine-tuning), 표준 LoRA, 그리고 프롬프트 전용 베이스라인에 비해 더 높은 결정 안정성과 더 완만한 성능 저하를 보여줍니다.
어블레이션(Ablation): FiLoRA의 효과는 의미론적으로 유의미한 특징 그룹화에 의존합니다. 무작위 또는 거친(coarse) 그룹화는 제어 가능성을 크게 감소시킵니다.

의의 및 주장

본 논문은 FiLoRA가 내부 모델 행동에 개입하는 실질적인 메커니즘을 제공하며, 출력 수준의 프롬프팅이나 사후 해석을 넘어선 새로운 관점의 제어 가능성을 제시한다고 주장합니다. 인스트럭션을 특징 의존성에 대한 제어된 개입으로 취급함으로써, 저자들은 멀티모달 인스트럭션 준수가 단순히 무엇을 출력할지를 제어하는 것이 아니라, 정보를 어떻게 내부적으로 사용할지를 규제하는 것이어야 한다고 논합니다. 이 연구는 인스트럭션 조건부 파라미터 적응이 내부 연산 경로를 조종하는 신뢰할 수 있는 도구가 될 수 있음을 시사하며, 이를 통해 모델이 서로 다른 의존성 조건(예: "옳은 이유로 옳게 행동하기") 하에서도 동일한 과업을 수행할 수 있게 합니다. 저자들은 자신의 접근 방식이 고정된 과업 의미 내에서 작동하며 과업 자체를 재정의하는 것은 아니라는 점을 언급하며 신중한 태도를 유지하지만, 구조화된 방식을 통해 특정 모달리티나 특징 그룹에 대한 내부 의존성을 분석하고 제어할 수 있는 방법을 제공합니다.