Large Language Models Align with the Human Brain during Creative Thinking

이 연구는 170 명의 참가자 fMRI 데이터를 기반으로 창의적 사고 중 인간 뇌와 대형 언어 모델 (LLM) 의 정렬이 모델 크기와 아이디어 독창성에 비례하며, 사후 학습 목표가 창의성 최적화, 인간 행동 미세 조정, 추론 훈련에 따라 뇌의 창의적 신경 기하학과의 정렬을 선택적으로 재구성함을 규명했습니다.

핵심

🧠 핵심 비유: "창의적인 요리사 (AI) 와 인간의 뇌"

상상해 보세요. 여러분은 **'새로운 요리 레시피를 생각해 내는 대회'**에 참가했습니다.

• 인간 참가자: 뇌를 열심히 쓰며 독특한 요리를 생각합니다.
• AI (대형 언어 모델): 방대한 데이터를 바탕으로 새로운 요리를 제안합니다.

이 연구는 인간이 요리를 생각할 때 뇌에서 일어나는 전기 신호와 AI 가 요리를 생각할 때 내부에서 일어나는 데이터 처리 과정을 비교했습니다. 마치 두 사람의 '생각의 지도'가 얼마나 겹치는지 확인하는 것과 같습니다.

🔍 주요 발견 3 가지

1. AI 가 클수록, 그리고 더 창의적일수록 뇌와 비슷해집니다 (하지만 초기에만!)

• 비유: 큰 도서관 (대형 AI) 일수록 인간이 새로운 아이디어를 떠올릴 때 뇌가 사용하는 '창의적 회로'를 더 잘 따라갑니다.
• 결과: AI 가 질문을 받고 **생각을 시작하는 순간 (초기 단계)**에는, 모델이 크고 창의적인 점수를 잘 받을수록 인간의 뇌 신호와 매우 비슷하게 움직였습니다.
• 하지만: AI 가 정답을 말하기 시작하면 (생성 단계) 이 유사성은 사라집니다. AI 가 말을 꺼내면, 인간의 뇌 신호와는 다른 독자적인 길을 가기 시작하는 것입니다. 마치 인간은 "아, 이걸로 요리할까?"라고 고민하다가, AI 는 "이게 정답이야!"라고 확신하며 다른 방향으로 달려가는 것과 같습니다.

2. AI 의 '깊은 생각' 층이 인간 뇌와 가장 잘 맞습니다

• 비유: AI 는 여러 층으로 된 빌딩처럼 생겼습니다. 1 층은 단순한 단어 뜻, 100 층은 복잡한 논리와 창의성입니다.
• 결과: 창의적인 아이디어를 낼 때는 AI 의 **최상층 (깊은 층)**에서 일어나는 일이 인간의 뇌 활동과 가장 비슷했습니다. 이는 창의성이 단순한 단어 나열이 아니라, 고도의 추상적 사고임을 보여줍니다.

3. "교육 방식"이 뇌와 얼마나 닮았는지 결정합니다 (가장 중요한 부분!)

연구진은 같은 AI 모델에 **다른 방식으로 '교육 (학습)'**을 시켰을 때 어떤 일이 일어나는지 보았습니다. 이는 마치 같은 재능을 가진 학생에게 서로 다른 선생님을 붙여주는 것과 같습니다.

• 🎨 창의성 특화 교육 (Creative Training):

  • 결과: 이 AI 는 고급 창의적 아이디어를 낼 때 인간의 뇌와 아주 잘 맞았습니다. 반면, 평범하고 지루한 아이디어를 낼 때는 뇌와 맞지 않게 되었습니다.
  • 의미: "더 창의적으로 생각하라"고 가르치면, AI 는 인간처럼 독창적인 뇌 회로를 사용하게 됩니다.

• 🧠 논리/추론 특화 교육 (Reasoning Training):

  • 결과: 이 AI 는 창의적인 아이디어를 낼 때 오히려 인간 뇌와 반대 방향으로 움직였습니다. 대신 평범하고 논리적인 아이디어를 낼 때는 인간 뇌와 비슷해졌습니다.
  • 의미: "정답을 찾아라", "논리적으로 추론하라"고 가르치면, AI 는 창의적인 인간 뇌의 방식에서 멀어지고, 분석적이고 계산적인 방식으로 변해버립니다.

• 👤 인간 행동 모방 교육:

  • 결과: 인간의 행동을 그대로 따라 하도록 가르친 AI 는 창의적이든 아니든, 모든 상황에서 인간 뇌와 가장 잘 맞았습니다.

💡 이 연구가 우리에게 주는 메시지

1. AI 는 아직 인간처럼 '생각'하지 못합니다. 질문을 받을 때만 인간과 비슷하게 생각하지만, 막상 답을 만들어내는 과정에서는 인간과 다른 길을 걷습니다.
2. 교육 방식이 AI 의 '뇌'를 바꿉니다. 우리가 AI 에게 무엇을 강조하느냐에 따라, AI 의 내부 작동 방식이 인간 뇌의 '창의적 영역'에 가까워지거나, 반대로 '논리적 계산 영역'으로 멀어질 수 있습니다.
3. 창의성을 키우려면? 만약 AI 에게 진정한 창의성을 부여하고 싶다면, 단순히 논리적 문제 풀이 (수학, 코딩 등) 만 가르치는 것은 역효과를 낼 수 있습니다. 대신 다양한 아이디어를 내고 실험하도록 훈련해야 인간 뇌와 더 닮은 창의적인 AI 가 될 것입니다.

📝 한 줄 요약

"인공지능이 창의적인 아이디어를 낼 때, 그 '생각의 지도'는 인간 뇌와 닮아 있지만, 우리가 가르치는 방식 (교육) 에 따라 그 닮음의 정도가 완전히 달라집니다. 논리만 가르치면 창의성은 사라지고, 창의성을 가르쳐야 인간과 진짜 비슷해집니다."

기술 요약

논문 요약: 창의적 사고 중 대형 언어 모델 (LLM) 과 인간 뇌의 정렬 (Alignment)

이 연구는 대형 언어 모델 (LLM) 이 창의적 사고 (특히 발산적 사고) 를 수행할 때 인간 뇌의 신경 활동과 얼마나 정렬되는지를 탐구한 최초의 체계적인 연구입니다. 기존 연구가 수동적인 언어 처리에 집중했던 것과 달리, 본 연구는 능동적인 창의적 과제를 수행하는 LLM 과 인간 뇌의 정렬 관계를 분석했습니다.

1. 연구 배경 및 문제 제기 (Problem)

• 창의적 사고의 중요성: 발산적 사고 (divergent thinking) 는 새로운 아이디어를 생성하는 창의성의 핵심 엔진으로 간주됩니다.
• 기존 연구의 한계: 최근 LLM 이 창의성 벤치마크 (예: 대체 용도 테스트, AUT) 에서 인간 수준의 성능을 보이며, 성능이 높은 모델일수록 인간 언어 시스템과 더 잘 정렬된다는 사실이 밝혀졌습니다. 그러나 기존 뇌 -LLM 정렬 연구는 주로 수동적인 텍스트 읽기나 청각 과제를 대상으로 했으며, 능동적인 창의적 사고 과정에서의 정렬 여부는 미해결 상태였습니다.
• 핵심 질문: 창의적 사고 과제를 수행하는 LLM 은 인간이 창의성을 발휘할 때 활성화되는 뇌 영역 (특히 발산적 사고와 관련된 뇌 네트워크) 과 정렬되는가? 그리고 모델의 크기나 후속 학습 (post-training) 목표가 이 정렬에 어떤 영향을 미치는가?

2. 방법론 (Methodology)

• 데이터 (Brain Data):

  • Beaty et al. (2018) 의 fMRI 데이터 (170 명) 를 사용했습니다.
  • 과제: 창의적 과제인 '대체 용도 테스트 (AUT, Alternate Uses Task)'와 통제 과제인 '물체 특성 과제 (OCT, Object Characteristics Task)'를 수행했습니다.
  • 뇌 영역: 창의성 관련 네트워크인 **기본 모드 네트워크 (DMN)**와 전두 - 두정 네트워크 (FPN), 그리고 대조군으로 **체감운동 네트워크 (Somatomotor Network)**를 분석했습니다.
  • 전처리: 일반 선형 모델 (GLM) 을 사용하여 단일 시추 (single-trial) 베타 맵을 추정하고, 노이즈 천장 (noise ceiling) 으로 정규화하여 정렬 점수를 계산했습니다.

• 모델 (Model Data):

  • 크기가 다양한 (270M ~ 72B 파라미터) 오픈소스 LLM 들 (Gemma, Llama, Qwen, DeepSeek 등) 을 사용했습니다.
  • 추출 단계: 기존 연구와 달리 **프롬프트 입력 단계 (Prompt stage)**와 모델 응답 생성 후 단계 (Generation stage) 모두에서 중간 레이어의 활성화 (activations) 를 추출하여 분석했습니다.

• 분석 기법:

  • 표현 유사성 분석 (RSA, Representational Similarity Analysis): LLM 의 표현 공간 (RDM) 과 인간 fMRI 데이터의 표현 공간 간의 기하학적 유사성을 측정하여 정렬도를 평가했습니다.
  • 정렬 요인 분석: 모델 크기, AUT 점수 (창의성 성능), 그리고 다양한 후속 학습 (Creativity-optimized, Human-behavior fine-tuning, Reasoning-chain) 이 고/저 창의성 응답에 미치는 영향을 분석했습니다.

3. 주요 기여 (Key Contributions)

1. 능동적 창의성 과제의 첫 뇌 -LLM 정렬 연구: 수동적 언어 처리를 넘어, 능동적인 발산적 사고 (AUT) 맥락에서 뇌 -LLM 정렬을 체계적으로 조사했습니다.
2. 단계 의존적 정렬 발견: 모델 속성 (크기, 성능) 과 뇌 정렬 간의 관계가 '프롬프트 처리 단계'에서는 강하게 나타나지만, '응답 생성 단계'에서는 약화되는 것을 발견했습니다.
3. 후속 학습 목표의 선택적 영향 규명: 창의성 최적화, 인간 행동 모방, 추론 (Chain-of-Thought) 학습 등 서로 다른 후속 학습 목표가 모델 표현을 인간 창의적 사고의 신경 기하학 (neural geometry) 의 서로 다른 영역으로 이끄는 것을 입증했습니다.

4. 주요 결과 (Results)

• 모델 크기와 성능에 따른 정렬:

  • 프롬프트 단계: DMN(기본 모드 네트워크) 에서 모델 크기가 클수록, 그리고 AUT 창의성 점수가 높을수록 인간 뇌와의 정렬도가 유의미하게 증가했습니다 (모델 크기: $r=0.58$, AUT 점수: $r=0.51$).
  • 생성 단계: 모델이 응답을 생성한 후에는 정렬도가 모델 간에 더 다양해졌으며, 크기와 성능과의 상관관계가 약화되었습니다. 이는 모델이 생성 과정에서 인간의 창의적 사고 패턴과 점점 멀어질 수 있음을 시사합니다.
  • 뇌 네트워크 특이성: 이러한 효과는 창의성과 관련된 DMN 과 FPN 에서만 관찰되었으며, 창의성과 무관한 체감운동 네트워크나 통제 과제 (OCT) 에서는 관찰되지 않았습니다 (이중 분해 효과).

• 모델 레이어의 영향:

  • 창의적 사고 중 뇌 정렬은 모델의 **상위 레이어 (higher layers)**에서 더 강하게 나타났습니다. 이는 창의성이 고차원적인 인지 과정임을 반영하며, 추상적이고 과업 민감적인 표현이 뇌 활동과 더 잘 일치함을 보여줍니다.

• 후속 학습 (Post-training) 의 선택적 효과:

  • 창의성 최적화 모델 (CrPO): 고창의성 응답에 대한 정렬은 유지하면서 저창의성 응답에 대한 정렬을 감소시켰습니다. (목표에 부합하는 선택적 정렬)
  • 인간 행동 모방 모델 (Minitaur): 고/저 창의성 응답 모두에 대한 정렬이 증가했습니다.
  • 추론 훈련 모델 (DeepSeek-R1 Distill): 가장 놀라운 결과로, 고창의성 응답에 대한 정렬은 음 (-) 의 값을 보이고 저창의성 응답에 대한 정렬은 양 (+) 의 값을 보였습니다. 이는 추론 (Chain-of-Thought) 훈련이 모델의 표현을 창의적 사고의 신경 기하학에서 멀어지게 하고, 분석적/체계적 처리 방향으로 전환시킴을 시사합니다.

5. 의의 및 결론 (Significance & Conclusion)

• 창의성 평가의 새로운 패러다임: 기존 행동적 벤치마크를 넘어, 뇌 정렬 (neural plausibility) 을 통해 LLM 의 창의적 인지 능력을 평가할 수 있는 새로운 지표를 제시했습니다.
• 후속 학습 전략의 함의: 현재 많은 LLM 이 수렴적 사고 (정답이 있는 문제 해결, 코딩 등) 를 위한 데이터로 학습되고 있습니다. 본 연구는 이러한 훈련이 모델의 발산적 사고 (창의성) 능력을 저하시킬 수 있음을 시사합니다. 특히 추론 훈련은 창의적 신경 패턴을 억제하는 방향으로 작용할 수 있습니다.
• 미래 방향: 창의적 문제 해결이 필요한 복잡한 과제를 수행하기 위해서는, 창의성 최적화나 인간 행동 모방과 같은 후속 학습 전략이 모델의 신경 정렬을 유지하거나 향상시키는 데 필수적임을 강조합니다.

요약하자면, 이 논문은 LLM 이 창의적 사고를 할 때 인간 뇌와 정렬되는지, 그리고 어떻게 학습 목표에 따라 그 정렬이 달라지는지를 신경과학적 관점에서 규명하여, 창의적 AI 개발을 위한 중요한 통찰을 제공했습니다.