Concept-Guided Fine-Tuning: Steering ViTs away from Spurious Correlations to Improve Robustness

이 논문은 LLM 과 VLM 을 활용해 자동 생성된 개념 기반 마스크를 사용하여 비전 트랜스포머 (ViT) 의 내부 관련성 지도를 정렬함으로써, 배경과 같은 허위 상관관계에 의존하는 문제를 해결하고 분포 변화에 대한 강건성을 향상시키는 새로운 파인튜닝 프레임워크를 제안합니다.

핵심

🎨 제목: "AI 의 눈썹을 고쳐주자: 개념 가이드 미세 조정 (CFT)"

1. 문제: AI 는 왜 '배경'에 속아넘어갈까요?

우리가 AI 에게 "새"를 찍은 사진을 보여주면, AI 는 새의 '부리'나 '날개'를 보고 "아, 새네!"라고 맞춥니다. 그런데 현실에서는 AI 가 종종 엉뚱한 이유를 대며 실수합니다.

• 비유: imagine(상상해 보세요) AI 가 치킨을 구별하는 일을 한다고 칩시다.
  • 정상적인 학습: 치킨의 모양, 색깔, 튀김옷을 보고 "치킨"이라고 판단.
  • AI 의 실수 (허위 상관관계): 치킨이 나오는 접시나 식탁보를 보고 "아, 이 접시 위에 있는 건 치킨이야!"라고 판단.
  • 결과: 치킨을 접시 없이 그릇에 담아주거나, 배경이 다른 사진을 주면 AI 는 "이건 치킨이 아니야!"라고 엉뚱하게 답합니다.

기존의 연구들은 AI 가 '배경'을 보지 못하게 막으려 했지만, 단순히 "배경은 무시하고 앞쪽만 봐"라고만 했습니다. 하지만 새를 구별할 때 '날개'나 '부리'처럼 구체적인 특징을 보는 게 더 중요하죠.

2. 해결책: "개념 가이드 미세 조정 (CFT)"

이 논문은 AI 의 뇌를 다시 훈련시켜, 배경이 아니라 '새의 부리'나 '날개' 같은 구체적인 특징을 보게 만듭니다. 이를 CFT라고 부릅니다.

이 과정은 크게 세 단계로 이루어지는데, 마치 AI 에게 새로운 '학습 지도'를 만들어주는 과정과 같습니다.

• 1 단계: AI 가 모르는 '개념'을 찾아내기 (LLM 활용)

  • 사람이 직접 "새의 부리", "날개"라고 일일이 알려줄 필요 없습니다. 대신, **거대 언어 모델 (LLM, 예: GPT)**에게 "새를 구별하는 특징은 뭐야?"라고 물어봅니다. AI 가 "부리, 날개, 깃털" 같은 답을 내놓으면, 이를 AI 가 배울 '개념' 목록으로 만듭니다.
  • 비유: 요리사 (AI) 가 요리를 잘하려면 재료를 알아야 하죠. 우리는 AI 에게 "치킨 요리의 핵심 재료는 닭고기야!"라고 알려주는 셈입니다.

• 2 단계: 이미지에서 그 개념을 찾아내기 (VLM 활용)

  • 이제 **시각 - 언어 모델 (VLM)**을 이용해, 실제 사진 속에서 "부리"나 "날개"가 어디에 있는지 찾아냅니다. 사람이 일일이 표시할 필요 없이, AI 가 자동으로 찾아냅니다.
  • 비유: 요리사에게 "닭고기가 이 접시 여기 있구나!"라고 손가락으로 가리켜주는 것과 같습니다.

• 3 단계: AI 의 시선을 바로잡기 (미세 조정)

  • 이제 AI 가 사진을 볼 때, 배경이 아니라 찾아낸 '부리'나 '날개' 영역에 집중하도록 훈련시킵니다. 동시에, 여전히 정확한 분류를 할 수 있도록 원래의 능력도 유지시킵니다.
  • 비유: AI 가 "접시"를 보고 치킨을 추측하려 하면, "아니야, 접시가 아니라 닭고기를 봐!"라고 지도자가 채찍질하며 시선을 바로잡는 것입니다.

3. 놀라운 결과: 적은 데이터로 큰 효과

이 방법은 엄청난 양의 데이터가 필요하지 않습니다.

• 비유: 보통 AI 를 가르치려면 수만 장의 사진을 보여줘야 하지만, 이 방법은 한 클래스당 3 장씩, 전체 클래스의 절반만 사용해도 됩니다. 마치 핵심 요약본만 보고도 시험을 잘 보는 학생처럼 말이죠.

실험 결과, 이 방법으로 훈련된 AI 는 다음과 같은 변화를 보였습니다:

1. 배경이 바뀌어도 잘 맞춥니다: 치킨을 접시가 아닌 그릇에 담아도, 혹은 배경이 숲이든 바다든 상관없이 "치킨"이라고 정확히 맞힙니다.
2. 이해할 수 있는 이유를 보여줍니다: AI 가 왜 그 답을 냈는지 보여주는 '주목도 지도 (Relevance Map)'를 보면, 이제 배경이 아니라 정확히 치킨의 몸통을 보고 있다는 것을 확인할 수 있습니다.
3. 보지 못한 것도 잘 맞춥니다: 훈련할 때 보지 못한 새 종류나 물체라도, '부리'나 '날개' 같은 개념을 배우는 법을 익혔기 때문에 잘 구별해냅니다.

4. 결론: 왜 이것이 중요한가요?

기존의 방법은 AI 에게 "배경은 무시해"라고만 했지만, 이 논문은 **"무엇을 봐야 하는지 (개념)"**를 가르쳐 줍니다.

• 핵심 메시지: AI 를 단순히 '정답 맞추기 기계'가 아니라, 사물의 본질 (개념) 을 이해하는 똑똑한 관찰자로 바꾸는 것입니다.
• 일상적 의미: 자율주행차가 비가 오거나 눈이 오는 날에도, 혹은 도로 표지판이 낯설어도 안전하게 운전할 수 있도록, AI 가 도로 상황의 핵심을 보게 만들어주는 기술입니다.

이 연구는 AI 가 더 튼튼하고 (Robust), 우리가 이해할 수 있는 (Interpretable) 방향으로 발전하는 중요한 한 걸음입니다.

기술 요약

1. 문제 정의 (Problem)

현대적인 비전 트랜스포머 (ViT) 모델은 ImageNet 과 같은 표준 벤치마크에서 뛰어난 성능을 보이지만, 분포 외 (Out-of-Distribution, OOD) 데이터에서는 성능이 급격히 저하되는 약점을 가지고 있습니다.

• 근본 원인: 모델들이 객체의 의미론적 특징 (semantic features) 이 아닌, **위조 상관관계 (spurious correlations)**에 의존하기 때문입니다. 예를 들어, '새'를 인식할 때 날개나 부리와 같은 객체 본연의 특징보다는 배경의 질감이나 문맥적 단서 (예: 하늘 배경) 에 집중하는 경향이 있습니다.
• 기존 방법의 한계: 기존 정규화 방법들은 대부분 단순한 '전경 - 배경 (foreground-background)' 이분법적 마스크를 사용합니다. 이는 객체 내부의 미세한 의미론적 개념 (예: '긴 부리', '날개') 을 포착하지 못하며, 이진 분리만으로는 강인한 인식을 보장하기에 불충분합니다. 또한, 많은 방법들이 완전한 재학습 (full retraining) 이나 수동으로 주석된 세그멘테이션 마스크를 필요로 하여 확장성이 떨어집니다.

2. 제안 방법: 개념 기반 미세 조정 (CFT)

저자들은 **Concept-Guided Fine-Tuning (CFT)**이라는 새로운 프레임워크를 제안합니다. 이는 수동 주석 없이 모델의 내부 추론을 의미 있는 개념 수준으로 유도하여 강인성을 높이는 사후 (post-hoc) 미세 조정 기법입니다.

핵심 단계

1. 개념 제안 (Concept Proposal):
   • LLM(대형 언어 모델) 기반의 레이블 없는 방법을 사용하여 각 클래스에 대한 문맥 인식형 의미론적 개념 (예: '긴 부리', '지느러미') 을 자동으로 생성합니다.
2. 공간적 위치 지정 (Spatial Grounding):
   • 생성된 개념 텍스트를 Vision-Language Model(VLM, 예: GroundedSAM) 에 입력하여 학습 이미지 내에서 해당 개념의 위치를 자동으로 세그먼트합니다.
   • 검증 단계: 개념이 해당 클래스 이미지에서 얼마나 자주 나타나고 (Occurrence Rate), 객체 영역을 얼마나 잘 덮는지 (Spatial Coverage) 를 기준으로 검증하여 신뢰할 수 있는 개념 마스크 집합을 구축합니다.
3. 미세 조정 (Fine-Tuning):
   • 관련성 맵 (Relevance Map) 정렬: AttnLRP(Attention-aware Layer-wise Relevance Propagation) 를 사용하여 모델의 예측에 기여하는 영역 (관련성 맵) 을 계산합니다.
   • 손실 함수 (Loss Function):
     • 정렬 손실 (Alignment Loss): 모델의 관련성 맵이 검증된 개념 마스크 영역에서는 높게, 배경 영역에서는 낮게 되도록 유도합니다 ($L_{concept}$ 및 $L_{non-concept}$).
     • 분류 일관성 손실 (Classification-Consistency Loss): 미세 조정 과정에서 분류 정확도가 떨어지는 것을 방지하기 위해, 모델이 원래 예측한 클래스에 대한 확신을 유지하도록 하는 보조 손실 ($L_{cls}$) 을 추가합니다.

데이터 효율성

• ImageNet-1K 의 반수 클래스만 사용하며, 각 클래스당 3 장의 이미지 (총 1,500 장) 만으로 미세 조정이 가능합니다.
• 수동 주석이 전혀 필요하지 않으며, 대규모 사전 학습 모델에도 적용 가능합니다.

3. 주요 기여 (Key Contributions)

1. 새로운 프레임워크: 수동 주석 없이 LLM 과 VLM 을 결합하여 자동으로 생성된 '개념 기반 마스크'를 사용하여 ViT 의 추론을 유도하는 CFT 프레임워크를 제안했습니다.
2. 강인성 향상: 5 개의 OOD 벤치마크 (ImageNet-A, ObjectNet, ImageNet-R 등) 에서 기존 ViT 모델들의 성능을 크게 향상시켰습니다.
3. 일반화 능력: 미세 조정 시 사용되지 않은 클래스 (held-out classes) 에 대해서도 강인성 향상이 관찰되어, 모델이 특정 클래스의 단서를 암기하는 것이 아니라 근본적인 추론 방식을 개선했음을 증명했습니다.
4. 해석 가능성: 생성된 관련성 맵이 객체의 의미론적 부분 (부리, 지느러미 등) 과 더 잘 정렬됨을 확인하여, 모델의 의사 결정 과정을 더 투명하게 만들었습니다.
5. 개념 vs 전경: 기존 전경 - 배경 마스크보다 세부적인 의미론적 개념 마스크가 모델 강인성 향상에 더 효과적인 감독 신호임을 실험적으로 입증했습니다.

4. 실험 결과 (Results)

• OOD 강인성: ViT-B, DINOv2, DeiT, ConvNeXt-V2 등 다양한 모델에서 CFT 를 적용한 결과, ImageNet-A(자연적 적대적 예제) 와 ObjectNet(시점/배경 변화) 에서 기존 방법 (GradMask, RRR, RRDA) 보다 Top-1 및 Top-5 정확도가 일관되게 크게 향상되었습니다.
  • 예: ViT-B 기준 ImageNet-A Top-1 정확도는 Original(13.26%) 에서 CFT(27.76%) 로 약 2 배 이상 향상.
• 기하학적 불변성: SI-Score 벤치마크 (위치, 회전, 크기 변화) 에서도 CFT 가 가장 우수한 성능을 보이며, 객체의 구조적 특징에 의존하는 학습이 기하학적 변환에 대한 불변성을 높임을 확인했습니다.
• 관련성 맵 정렬: 생성된 관련성 맵과 Ground-truth 객체 마스크 간의 IoU 및 mAP 가 기존 모델 대비 유의미하게 증가하여, 모델이 배경이 아닌 객체 본질에 집중하게 되었음을 입증했습니다.
• Ablation Study:
  • 개념 기반 마스크가 단순 객체 세그멘테이션 마스크보다 더 나은 성능을 냅니다.
  • 분류 일관성 손실 ($L_{cls}$) 과 배경 억제 손실 ($L_{non-concept}$) 이 모두 강인성 향상에 필수적입니다.
  • AttnLRP 가 다른 설명 방법 (GradCAM 등) 보다 더 우수한 관련성 맵을 생성하여 CFT 에 적합함을 확인했습니다.

5. 의의 및 결론 (Significance)

이 논문은 현대 비전 모델의 가장 큰 약점인 '위조 상관관계 의존성'을 해결하기 위해, 자동화된 개념 기반 지도 학습이라는 새로운 패러다임을 제시합니다.

• 확장성: 수동 주석 없이 소량의 데이터로 대규모 모델을 효율적으로 튜닝할 수 있어 실용적입니다.
• 신뢰성: 모델이 배경이나 문맥적 단서가 아닌, 객체의 본질적인 특징을 학습하도록 유도함으로써 실제 환경 (배경이 다양하거나 통제되지 않은 상황) 에서의 배포 신뢰도를 높입니다.
• 해석 가능성: 모델이 '왜' 그 클래스를 예측했는지에 대한 설명을 의미론적으로 명확하게 만들어, 신뢰할 수 있는 AI 개발에 기여합니다.

결론적으로, CFT 는 비전 모델이 단순히 데이터를 암기하는 것을 넘어, **개념적 추론 (conceptual reasoning)**을 통해 더 강인하고 해석 가능한 지능을 갖추도록 하는 중요한 진전입니다.