The Third Ambition: Artificial Intelligence and the Science of Human Behavior

이 논문은 생산성과 정렬에 이어 인공지능 연구의 세 번째 목표로서, 대규모 언어 모델을 인간 행동과 문화, 도덕적 추론을 연구하는 과학적 도구로 활용하는 새로운 패러다임을 제시하고 그 방법론과 한계를 탐구합니다.

핵심

🎯 AI 연구의 세 가지 목표

지금까지 AI 연구는 주로 두 가지 목적을 위해 움직여 왔습니다.

1. 생산성 (Productivity): "일 잘하는 도구를 만드자."
   • 비유: AI 를 초고속 드릴이나 자동화 로봇으로 생각하세요. 인간이 하던 일을 더 빠르고 정확하게 대신하게 해서 경제를 부양하는 것입니다.
2. 정렬 (Alignment): "착한 도구를 만들자."
   • 비유: AI 를 안전장치가 달린 자동차로 생각하세요. 너무 빨라져서 사람을 다치게 하거나, 나쁜 짓을 하지 않도록 인간이 원하는 가치와 규칙에 맞게 조종하는 것입니다.

그런데 이제 '세 번째 목표'가 등장합니다.

3. 이해 (Understanding): "인간을 연구하는 거울을 만들자."
   • 비유: AI 를 거대한 거울이나 인간 문화의 압축된 샘플로 생각하세요. 이 거울은 인간이 직접 실험할 수 없는 방대한 양의 말과 행동 패턴을 보여줍니다.

---

🪞 AI 는 왜 '인간 연구 도구'가 될 수 있을까요?

이 논문의 핵심은 **"AI 는 인간이 아니지만, 인간이 남긴 말의 흔적을 모두 기억하고 있다"**는 점입니다.

• 거대한 도서관의 요약본: AI 는 수조 개의 책, 뉴스, SNS 글, 법률 문서 등을 읽으며 훈련했습니다. AI 는 이 모든 것을 소화해서 **"인간이 어떻게 생각하고, 싸우고, 도덕적으로 판단하는지"**에 대한 통계적 패턴을 머릿속에 담고 있습니다.
• 인간 문화의 '압축 파일': 저자들은 AI 를 **'인간 상징 행동의 응축체 (Condensate)'**라고 부릅니다. 마치 수만 장의 사진을 한 장의 고해상도 이미지로 압축한 것처럼, AI 는 인간 사회의 복잡한 문화와 심리를 압축해 놓은 상태입니다.

예를 들어:
"인간은 정의와 충성 중 무엇을 더 중요하게 생각할까?"라고 물으면, AI 는 수백만 개의 인간 글을 바탕으로 "대부분의 인간은 이런 상황에서 이렇게 답한다"는 패턴을 보여줍니다. 이는 인간을 하나하나 인터뷰하는 것보다 훨씬 빠르고 넓은 데이터를 제공합니다.

---

⚠️ 주의할 점: 거울은 왜곡될 수 있다

하지만 이 거울은 완벽하지 않습니다. 두 가지 큰 문제가 있습니다.

1. 데이터 편향 (불완전한 샘플):
   • AI 가 배운 데이터는 인터넷에 있는 글들입니다. 즉, 문맹률이 높은 지역, 구전 문화, 소수자의 목소리는 빠져 있을 수 있습니다. 마치 "전 세계의 모든 사람이 쓴 글"을 읽은 것처럼 보이지만, 사실은 "인터넷을 잘 쓰는 부유한 나라의 사람들"이 쓴 글만 읽은 것과 비슷합니다.
2. 정렬 (Fine-tuning) 의 문제:
   • 우리가 실제로 쓰는 AI 는 개발자들이 "나쁜 말은 하지 마, politeness(예의) 를 지켜라"라고 교육 (Fine-tuning) 시켰습니다.
   • 비유: 거울에 분홍색 필터를 씌운 것과 같습니다. 인간이 실제로는 욕을 하거나 편견을 가질 수 있지만, AI 는 "착한 AI"가 되려고 그 부분을 가립니다. 그래서 AI 가 보여주는 인간상은 실제 인간보다 너무 이상적이고 깨끗할 수 있습니다.

---

🔬 어떻게 과학적으로 사용할까? (방법론)

이 논문의 제안은 AI 를 인간을 대체하는 것이 아니라, 인간을 연구하는 새로운 현미경으로 쓰자는 것입니다.

• 가상 실험실: AI 에게 "만약 당신이 A 나라 사람이라면 어떻게 생각할까?"라고 물어보며 다양한 시나리오를 테스트해 볼 수 있습니다.
• 역사적 비교: 과거의 책으로만 훈련된 AI 와 현재의 인터넷으로 훈련된 AI 를 비교하면, "수백 년 동안 인간의 도덕관이 어떻게 변했는지"를 분석할 수 있습니다.
• 삼각측량 (Triangulation): AI 의 답변을 믿기만 하지 않고, 기존 설문조사나 실제 인간 실험 결과와 비교해 봅니다. AI 와 인간이 다르게 반응한다면, 그 차이가 무엇을 의미하는지 연구합니다.

---

💡 결론: AI 는 '인간 심리'의 답이 아니라 '질문'을 던져준다

이 논문은 AI 가 인간을 완벽하게 이해하거나 대체할 수 있다고 주장하지 않습니다. 대신 다음과 같이 말합니다.

"AI 는 인간이 스스로 깨닫지 못했던 문화적 패턴과 편향을 보여주는 초거대 데이터베이스입니다. 우리는 이 AI 를 통해 인간이 어떻게 이야기하고, 갈등하고, 가치를 정하는지 새로운 방식으로 관찰할 수 있습니다."

한 줄 요약:
AI 를 단순히 '일하는 로봇'이나 '위험한 괴물'로만 보지 말고, 인간 사회의 거대한 거울로 활용하여 우리가 몰랐던 인간 본성과 문화의 패턴을 찾아내자고 제안하는 것입니다.

기술 요약

제시된 논문 "The Third Ambition: Artificial Intelligence and the Science of Human Behavior (제 3 의 야망: 인공지능과 인간 행동의 과학)" 은 W. Russell Neuman 과 Chad Coleman (NYU) 에 의해 작성되었으며, 인공지능 (AI) 연구의 새로운 패러다임을 제안합니다. 이 논문의 핵심 내용은 다음과 같습니다.

1. 문제 제기 (Problem)

기존의 AI 연구는 두 가지 지배적인 '야망 (Ambition)'에 의해 조직되어 왔습니다.

1. 생산성 (Productivity): AI 를 업무 자동화, 경제 효율성 증대, 인간 노동 대체를 위한 도구로 활용하는 것.
2. 정렬 (Alignment): AI 시스템이 인간의 가치와 안전 기준에 부합하도록 행동하도록 보장하는 것 (편향, 오용, 통제 상실 방지).

그러나 이 두 가지 접근법 사이에는 간과된 제 3 의 야망이 존재합니다. 즉, 대규모 언어 모델 (LLM) 을 인간 행동, 문화, 도덕적 추론을 연구하기 위한 **과학적 도구 (Scientific Instrument)**로 활용하는 것입니다. 기존 사회과학 방법론 (설문, 실험, 민족지 등) 은 규모와 접근성 측면에서 한계가 있으며, LLM 은 방대한 양의 인간 생성 텍스트를 학습하여 인간 사회의 상징적 행위를 압축한 '응축체 (Condensate)'로서 이러한 한계를 극복할 잠재력을 가지고 있습니다. 하지만 현재 LLM 을 사회과학 연구에 활용하는 데에는 '정렬 (Fine-tuning)' 과정으로 인한 데이터 왜곡, 훈련 데이터의 편향성, 그리고 모델의 출력물이 진정한 인간인지에 대한 인식론적 회의론 등의 장벽이 존재합니다.

2. 방법론 (Methodology)

저자들은 LLM 을 인간을 대체하는 주체가 아닌, 거시적 인간 행동을 관찰하는 **'관측 인프라 (Observational Infrastructure)'**로 재정의합니다. 구체적인 방법론적 혁신은 다음과 같습니다.

• 개념적 정의:
  • Condensate (응축체): 모델 자체가 인간 상징적 행동의 학습된 확률 분포 (압축된 형태) 이며, 직접 관찰할 수 없음.
  • Generative Output (GO, 생성 출력): 프롬프트에 대한 모델의 응답으로, 전통적인 사회과학의 인터뷰나 설문 응답에 해당함.
• 기술적 접근:
  • Instruct-only 및 모듈형 적응 (Modular Adaptation): 강력한 '정렬 (Alignment)' 필터링 (RLHF 등) 은 문화적 규범을 왜곡할 수 있으므로, 연구 목적에는 '지시만 수행하는 (Instruct-only)' 모델이나 LoRA(Low-Rank Adaptation) 와 같은 경량 모듈을 사용하여 특정 데이터 (언어, 역사, 문화) 에만 초점을 맞춘 변형을 연구하는 것이 바람직함.
  • 계산적 실험 (Computational Experiments): 프롬프트를 체계적으로 변형 (Perturbation) 하여 도덕적 딜레마, 정치적 프레임, 사회적 역할 등을 조작하고 모델의 반응을 관찰함으로써 인간 행동 패턴을 시뮬레이션.
  • 합성 인구 표본 (Synthetic Population Sampling): 다양한 인구통계학적 속성을 가진 가상의 에이전트를 생성하여 대규모 설문 조사와 유사한 분석 수행.
  • 비교 역사적 분석 (Comparative-Historical Modeling): 특정 역사적 시기의 텍스트로 학습된 모델을 구축하여 시대별 가치관과 담론의 변화를 추적.
  • Ablation Studies (결손 연구): 훈련 데이터의 특정 부분 (예: 종교 텍스트, 법률 텍스트) 을 제거하거나 정렬 필터를 완화하여 어떤 문화적 요소가 특정 추론에 필수적인지 분석.
• 검증 (Validation): LLM 결과를 인간 데이터와 완전히 일치하는 것으로 간주하지 않고, 기존 연구 결과와의 수렴 (Convergence), 삼각측량 (Triangulation), 그리고 체계적인 편차 분석을 통해 타당성을 확보.

3. 주요 기여 (Key Contributions)

• 새로운 과학적 야망의 정립: AI 를 단순한 생산 도구나 통제 대상이 아닌, 인간 문화와 심리를 연구하는 '거울 (Mirror)'이자 '현미경'으로 위치시킴.
• 방법론적 프레임워크 제공: LLM 을 사회과학 연구에 적용할 때 필요한 개념적 용어 (Condensate, GO), 기술적 전략 (Instruct-only, LoRA), 그리고 검증 절차를 체계화함.
• 정렬 (Alignment) 의 이중성 규명: 정렬이 안전성을 높이는 동시에 연구자가 관찰하려는 '진짜' 인간 문화의 복잡성 (갈등, 편견, 도덕적 모호함) 을 가릴 수 있음을 지적하고, 연구용으로는 덜 정렬된 모델을 사용해야 함을 주장.
• 역사적 맥락의 확장: 콘텐츠 분석, 텍스트 마이닝, 계산 사회과학의 전통을 LLM 시대에 맞게 확장하여, 텍스트를 단순한 데이터가 아닌 '문화적 잔여물'로 분석하는 새로운 관점 제시.

4. 결과 및 발견 (Results & Findings)

논문의 실험적 사례들을 통해 다음과 같은 가능성을 확인했습니다.

• 인간 행동 패턴의 재현: LLM 은 기존 심리학 및 사회학 실험 (예: 트롤리 문제, Heinz 딜레마, 공정성 인식) 에서 관찰된 인간의 도덕적 판단과 행동 패턴을 높은 상관관계로 재현함.
• 프롬프트 민감성: 프롬프트의 프레임 (권위자 vs 익명자, 손실 vs 이득) 을 바꾸면 모델의 응답이 체계적으로 변화하며, 이는 인간의 인지 편향과 유사한 패턴을 보임.
• 문화적 변이: 특정 언어나 문화권 데이터로 학습된 모델은 해당 문화의 규범과 가치관을 반영하여 다른 모델과 구별되는 응답을 생성함.
• 정렬의 영향: RLHF 와 같은 강력한 정렬을 거친 모델은 '이상화된' 도덕적 답변을 내놓는 경향이 있어, 실제 인간 사회의 논쟁적이고 복잡한 도덕적 지형을 왜곡할 수 있음.

5. 의의 및 중요성 (Significance)

• 사회과학의 패러다임 전환: LLM 은 유전체학 (Genomics) 의 인간 게놈 프로젝트나 천문학의 망원경과 유사하게, 관측 가능한 영역을 비약적으로 확장하는 도구입니다. 이를 통해 인간이 직접 관찰하기 어렵거나 불가능했던 대규모 담론 구조, 규범의 트레이드오프, 역사적 변이를 체계적으로 분석할 수 있게 됩니다.
• 이론과 실증의 연결: LLM 은 인간을 대체하는 것이 아니라, 기존 실험, 설문, 민족지 연구와 보완적 (Complementary) 관계를 형성하여 가설 생성과 대규모 패턴 발견을 지원합니다.
• 신중한 실험주의 (Cautious Experimentalism): LLM 을 인간처럼 취급하는 과도한 anthropomorphism(인간화) 을 경계하면서도, 이를 과학적 도구로 활용하는 엄격한 방법론적 규율을 요구합니다.
• 공공 과학 자원: LLM 이 단순한 상업적 제품이 아니라 인류의 상징적 행위를 기록한 공유 과학 인프라 (Shared Scientific Resource) 로서 인식되어야 함을 강조합니다.

결론적으로, 이 논문은 AI 를 인간 행동 연구의 '제 3 의 야망'으로 끌어올림으로써, 사회과학이 새로운 시대에 맞춰 데이터의 규모와 분석의 깊이를 혁신할 수 있는 길을 제시합니다.