Do LLMs and VLMs Share Neurons for Inference? Evidence and Mechanisms of Cross-Modal Transfer

1. 문제 정의 (Problem)

대규모 비전 - 언어 모델 (LVLMs) 은 캡션 생성, 추천, 상호작용 등 다양한 분야에서 빠르게 발전했으나, **다단계 추론 (multi-step inference)**과 **구성적 의사결정 (compositional decision-making)**이 필요한 작업에서는 강력한 텍스트 전용 대규모 언어 모델 (LLMs) 에 비해 여전히 성능이 떨어집니다.

기존의 접근 방식은 LVLM 의 크기를 키우고 더 많은 멀티모달 데이터를 학습시키는 것이었으나, 이는 다음과 같은 한계가 있습니다:

• 데이터 부족: 텍스트 코퍼스에 비해 이미지 - 추론 쌍 (image-rationale pairs) 데이터가 매우 부족합니다.
• 전이 불명확: LLM 이 획득한 추론 능력을 멀티모달 환경으로 어떻게 효과적으로 전이시킬지 명확하지 않습니다.

따라서, LLM 의 성숙된 추론 능력을 저비용으로 LVLM 에 전이할 수 있는 방법이 필요한 상황입니다.

2. 방법론 (Methodology)

이 논문은 LLM 과 LVLM 이 추론 과정에서 **공유하는 내부 계산 구조 (내부 뉴런)**가 존재하는지 탐구하고, 이를 활용한 효율적인 전이 프레임워크를 제안합니다.

가. 공유 추론 기반의 발견 (Exploring Shared Inference Basis)

• 뉴런 활성화 프로파일링: LLM 과 LVLM 이 추론 태스크 (수학 문제 해결 등) 를 수행할 때 가장 강하게 활성화되는 뉴런 (단위) 을 식별합니다.
  • 텍스트 모델과 비전 - 언어 모델 모두에서 추론 입력을 처리할 때 활성화되는 뉴런의 50% 이상이 겹치는 것을 발견했습니다.
  • 특히, attn.k (Attention Key) 행렬과 attn.v (Attention Value) 행렬에서 공유 뉴런이 집중적으로 분포하며, 초기 층과 후기 층에서 클러스터링되는 경향을 보입니다.
• 인과적 프로빙 (Causal Probing):
  • 비활성화 실험: 공유 뉴런의 파라미터를 0 으로 설정 (Deactivation) 했을 때, 모델의 추론 성능이 0 으로 붕괴되는 반면, 무작위 뉴런을 제거했을 때는 성능 저하가 상대적으로 적었습니다. 이는 공유 뉴런이 추론에 필수적임을 의미합니다.
  • 증폭 실험 (Amplification): 공유 뉴런의 활성을 증폭시켰을 때, 모델이 수학 관련 개념 (대수, 기하, 측정 등) 에 대한 추론을 더 잘 수행함을 확인했습니다. 이는 공유 뉴런이 추론에 필요한 개념적 semantics 을 인코딩하고 있음을 보여줍니다.

나. 제안된 프레임워크: SNRF (Shared Neuron Low-Rank Fusion)

이러한 통찰을 바탕으로, LLM 의 추론 회로를 LVLM 에 효율적으로 전이하는 SNRF를 제안합니다.

1. 공유 뉴런 식별: 추론 프롬프트에 대한 교차 모델 활성화 프로파일링을 통해 LLM 과 LVLM 이 공통으로 활성화하는 뉴런 집합 ($S_{shared}$) 을 식별합니다.
2. 저랭크 근사 (Low-Rank Approximation): 소스 모델 (LLM) 과 타겟 모델 (LVLM) 의 가중치 차이 ($\Delta = W_{src} - W_{tgt}$) 를 계산하고, 이를 SVD 를 통해 저랭크 근사 ($\Delta^{(r)}$) 합니다.
3. 선택적 주입 (Selective Injection): 저랭크 업데이트를 공유 뉴런 부분공간 ($S_{shared}$) 에만 마스크하여 적용합니다.
   • 수식: $\tilde{W}_{\ell,p} = W_{\ell,p}^{tgt} + \beta \cdot M_{S_{\ell,p}}(\Delta^{(r)}_{\ell,p})$
   • 이 방식은 LVLM 의 시각적 지각 경로 (perceptual pathways) 는 유지하면서, 텍스트 기반의 추론 능력만 선택적으로 강화합니다.
   • 대규모 멀티모달 파인튜닝 없이 파라미터 효율적으로 수행됩니다.

3. 주요 기여 (Key Contributions)

1. 실증적 발견: LLM 과 LVLM 이 언어 추론 과정에서 상위 활성화 뉴런의 상당 부분 (50% 이상) 을 공유하며, 이는 모달리티와 상관없이 보편적인 추론 서브스페이스가 존재함을 증명했습니다.
2. 개념적 해석 도구: 증폭 기반 뉴런 분석을 통해 공유 뉴런이 수학 및 추론 관련 개념을 인코딩하고 인과적으로 모델 출력에 영향을 미친다는 것을 규명했습니다.
3. SNRF 프레임워크: 공유 뉴런을 재사용하여 LLM 의 성숙된 추론 능력을 LVLM 에 저비용으로 전이하는 파라미터 효율적인 방법을 제안하고, 다양한 벤치마크에서 검증했습니다.

4. 실험 결과 (Results)

다양한 멀티모달 벤치마크 (MathVista, ScienceQA, MMMU-Pro, MME, POPE 등) 에서 SNRF 를 평가했습니다.

• 추론 성능 향상:
  • MathVista: CoT(Chain-of-Thought) 와 Solution 점수가 평균적으로 크게 향상되었습니다 (예: Qwen2.5-VL-7B 에서 Solution +4.6, CoT +4.5).
  • ScienceQA: 텍스트 추론이 중요한 작업에서 평균 +7.64 점의 큰 향상을 보였습니다.
  • MMMU-Pro: 검증이 어려운 고난도 추론 작업에서 성능이 크게 개선되었습니다 (Intern2.5-VL-4B 에서 0.000 → 0.186).
• 지각 능력 유지:
  • MME(지각/인지) 및 POPE(할루시네이션) 점수는 거의 변하지 않거나 오히려 소폭 향상되어, SNRF 가 모델의 시각적 지각 능력을 해치지 않고 추론 능력만 강화함을 입증했습니다.
• 기타 방법론 대비 우위:
  • 기존 선형 병합 (Linear Merge), DARE, FRANK 등의 모델 병합 기법보다 SNRF 가 추론 성능 향상과 지각 능력 유지 사이에서 더 균형을 잘 잡았습니다.
  • 대규모 SFT(지도 미세조정) 나 RL 기반 학습을 거친 모델들과 비교해도 경쟁력 있는 성능을 보였습니다.

5. 의의 및 결론 (Significance)

이 논문은 LLM 과 LVLM 이 추론을 위해 공유하는 내부 뉴런 서브스페이스가 존재한다는 것을 최초로 규명했습니다. 이는 다음과 같은 중요한 시사점을 가집니다:

• 모달리티 간 지식 전이의 새로운 패러다임: 대규모 멀티모달 데이터를 추가로 학습시키지 않고도, 텍스트 모델의 추론 회로를 공유 뉴런을 통해 효율적으로 멀티모달 모델로 전이할 수 있음을 보여줍니다.
• 해석 가능성 (Interpretability): 추론 능력이 특정 뉴런 집합에 의해 구현된다는 것을 밝혀, 모델의 내부 작동 원리를 이해하고 제어하는 데 기여합니다.
• 실용적 가치: 계산 비용과 데이터 비용을 크게 절감하면서도 고수준의 추론 능력을 갖춘 멀티모달 모델을 구축할 수 있는 실용적인 방법론 (SNRF) 을 제공합니다.

결론적으로, 이 연구는 멀티모달 모델의 추론 능력 격차를 해소하기 위해 공유 뉴런 기반의 저비용 전이 학습이 유효한 전략임을 입증했습니다.