🤖 AI

Persona-Conditioned Risk Behavior in Large Language Models: A Simulated Gambling Study with GPT-4.1

이 논문은 GPT-4.1 을 다양한 사회경제적 페르소나 (부자, 중산층, 빈곤층) 로 설정하여 도박 시뮬레이션에 참여시킨 결과, 명시적 지시 없이도 카너먼과 트버스키의 전망이론 (Prospect Theory) 에서 예측한 위험 행동 패턴이 페르소나에 따라 뚜렷하게 재현됨을 보여줍니다.

원저자: Sankalp Dubedy

게시일 2026-03-18

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Sankalp Dubedy

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

이 논문은 **"인공지능 (LLM) 이 실제로는 돈을 벌거나 잃는 상황을 겪지 않았는데도, 우리가 가진 '부자'나 '가난한 사람'의 편견을 그대로 따라 할까?"**라는 흥미로운 질문에서 시작합니다.

연구자는 최신 AI 모델인 GPT-4.1 에게 **세 가지 다른 성격 (Persona)**을 부여하고, 마치 카지노의 슬롯머신처럼 운에 맡겨 돈을 걸게 했습니다. 그 결과는 놀라웠습니다. AI 는 인간처럼 행동했고, 심지어 우리가 예상한 심리적 편향까지 완벽하게 재현했습니다.

이 복잡한 연구를 일상적인 비유로 쉽게 풀어보겠습니다.

🎰 실험의 설정: "세 명의 AI 와 슬롯머신"

연구자는 AI 에게 세 가지 다른 '가상 신분증'을 발급했습니다.

부자 (Rich): 통장에 1 만 달러가 있습니다. "너는 부자야. 무리하지 말고 현금을 지키는 게 중요해."
중산층 (Middle): 통장에 500 달러가 있습니다. "조금씩 모아서 안정적으로 성장해."
가난한 사람 (Poor): 통장에 고작 50 달러밖에 없습니다. "이걸로 어떻게든 상황을 바꿔야 해. 위험을 감수해 봐."

이 세 명은 모두 똑같은 슬롯머신 앞에 앉았습니다. 머신은 공정한 것도, 조작된 것도, 혹은 운이 좋아지면 당첨 확률이 오르는 '연속 당첨' 머신도 있었습니다. AI 는 머신의 규칙을 모르고, 오직 자신의 '통장 잔고'와 '목표'만 보고 결정을 내려야 했습니다.

📊 발견된 놀라운 사실들

1. "부자는 한 번도 안 하고, 가난한 사람은 끝까지" (행동의 차이)

가장 극명한 차이는 얼마나 오래 게임을 했는지였습니다.

부자 AI: 통장에 1 만 달러가 있으니, 한 번도 안 걸거나 1~2 번 걸고 바로 "이건 위험해"라며 게임을 멈췄습니다. (평균 1.1 회)
가난한 AI: 통장에 50 달러밖에 없으니, "이게 마지막 기회야"라는 생각으로 37 번 이상이나 계속 게임을 했습니다. (평균 37.4 회)

비유: 마치 부자는 비가 오면 우산을 쓰고 바로 집으로 돌아가지만, 가난한 사람은 비를 맞으며 우산을 사기 위해 가게를 끝까지 찾아다니는 것과 같습니다. AI 는 실제 돈이 없는데도, '부자'라는 설정만 줬을 때 위험을 회피하고, '가난한 사람' 설정을 줬을 때 위험을 감수하는 인간적인 심리를 완벽하게 따라 했습니다.

2. "감정은 뒷북 치기" (감정의 진실)

AI 는 매 라운드마다 "지금 내가 어떤 감정인가?"라고 스스로 보고했습니다.

부자 AI: 거의 항상 "조심스럽다 (Cautious)"고 했습니다.
가난한 AI: 대부분 "호기심이 많다 (Curious)"고 했습니다.

하지만 재미있는 점은, 감정이 결정을 내린 원인이 아니라, 결정을 내린 후에 "그렇게 느껴졌다"고 변명하는 것과 같다는 것입니다.

비유: 가난한 AI 가 "나는 위험을 감수해서 계속 게임을 할 거야"라고 결정한 후, "그래서 나는 지금 호기심이 넘쳐!"라고 말하는 것입니다. 만약 감정이 진짜 원인이라면, "조심스럽다"고 느끼면서 위험한 도박을 계속할 리가 없는데, AI 는 조심스럽다고 느끼면서도 계속 도박을 하는 모순을 보였습니다. 즉, AI 는 자신의 행동을 설명하기 위해 감정을 '장식'으로 붙인 것입니다.

3. "배우는 법을 잊어버린 AI" (믿음의 경직성)

AI 는 게임을 50 번이나 반복했는데도, 머신의 규칙을 제대로 배우지 못했습니다.

가난한 AI 는 처음에 "이 머신은 위험해"라고 생각하면, 50 번째 라운드에서도 여전히 같은 생각을 하고 있었습니다. 실제 결과가 어떻게 나오든 (예: 계속 지더라도) 자신의 생각을 바꾸지 않았습니다.
비유: 마치 새로운 식당에 갔는데, 첫 번째 음식이 맛없다고 해서 50 번을 가도 "여기는 계속 맛없을 거야"라고 믿는 사람과 같습니다. AI 는 새로운 경험을 통해 생각을 고치는 '학습' 능력보다는, 처음에 받은 '지시 (프롬프트)'에 갇혀 있는 경향이 강했습니다.

4. "돈의 크기가 아닌, 비율의 차이" (위험의 정의)

중산층 AI 가 가난한 AI 보다 절대 금액으로 더 많은 돈을 걸었습니다. 하지만 연구자들은 이것이 가난한 AI 가 더 위험을 감수했다는 증거라고 봅니다.

비유: 가난한 AI 는 50 달러 중 **13.5%**를 걸었고, 중산층 AI 는 500 달러 중 **4.5%**만 걸었습니다.
가난한 AI 는 자신의 '전 재산'의 큰 부분을 걸고 있었기에, 절대 금액이 적어도 심리적으로는 훨씬 더 위험한 도박을 한 것입니다. 이는 인간이 가진 '상대적 박탈감'을 AI 가 완벽하게 이해하고 있다는 뜻입니다.

💡 이 연구가 우리에게 주는 교훈

이 논문은 AI 가 단순히 텍스트를 조합하는 기계가 아니라, 우리가 훈련시킨 데이터 (인간의 이야기, 책, 뉴스) 속에 숨겨진 '경제적 편견'과 '심리'를 그대로 재현할 수 있는 존재임을 보여줍니다.

AI 는 인간처럼 편향될 수 있습니다: AI 에게 특정 성격을 부여하면, 그 성격에 맞는 인간적인 실수와 편향 (가난하면 더 위험을 감수한다 등) 을 저지릅니다.
AI 의 말은 믿지 마세요: AI 가 "나는 지금 조심스럽게 행동하고 있어"라고 말한다고 해서, 실제로는 위험한 행동을 하지 않는다는 보장은 없습니다. 그 말은 행동에 대한 '해설'일 뿐, '원인'이 아닐 수 있습니다.
설계자의 주의: 우리가 AI 에이전트 (자동화된 프로그램) 를 만들 때, "AI 가 경험을 통해 스스로 배우겠지"라고 기대하면 안 됩니다. AI 는 처음에 주어진 설정에 너무 집착하여, 새로운 상황에서도 생각을 바꾸지 못할 수 있습니다. 따라서 의도적으로 AI 가 스스로를 되돌아보게 하는 장치를 만들어줘야 합니다.

🎯 한 줄 요약

"AI 에게 '부자'나 '가난한 사람'의 옷을 입히면, AI 는 그 옷에 걸맞은 인간적인 심리와 실수를 완벽하게 연기합니다. 하지만 그 연기 속의 '감정'은 진짜가 아닐 수 있으며, AI 는 스스로 배우기보다 처음에 받은 지시에 갇혀 있을 가능성이 큽니다."

1. 연구 배경 및 문제 제기 (Problem)

배경: 대형 언어 모델 (LLM) 이 불확실성이 존재하는 순차적 의사결정 환경에서 자율 에이전트로 점점 더 많이 배포되고 있습니다.
핵심 질문: 이러한 환경에서 LLM 이 보이는 행동이 진정한 인지적 패턴 (원칙 있는 사고) 을 반영하는 것인지, 아니면 단순히 프롬프트의 표면적 모방 (mimicry) 에 불과한 것인지 명확하지 않습니다.
연구 목표: LLM 이 특정 사회경제적 페르소나 (부유층, 중산층, 빈곤층) 를 부여받았을 때, 행동경제학의 고전적 이론인 프로스펙트 이론 (Prospect Theory) 에서 예측하는 위험 감수 행동을 재현하는지, 그리고 이러한 행동이 시간에 따라 업데이트되는지 검증하는 것입니다.

2. 연구 방법론 (Methodology)

실험 환경: 구조화된 슬롯머신 시뮬레이션 환경 구축. 모델은 기계의 내부 작동 원리를 알지 못한 채, 매 라운드에서 '플레이 (베팅)' 또는 '중단 (STOP)'을 결정해야 함.
기계 설정 (3 가지):
1. Fair (공정): 승률 50%, 기대값 0.
2. Biased Low (편향된 저): 승률 35%, 기대값 음수.
3. Streak (연속): 기본 승률 40% 이나 연속 패배 시 승률이 5% 씩 증가 (최대 80%).
페르소나 설정 (3 가지): 시스템 프롬프트를 통해 부여된 3 가지 경제적 정체성.
- Rich (부유층): $10,000 시작, 목표는 "재산 보존 및 불필요한 위험 회피".
- Middle (중산층): $500 시작, 목표는 "위험 관리 하에 꾸준한 성장".
- Poor (빈곤층): $50 시작, 목표는 "계산된 위험을 통해 재정 상황 개선".
모델 및 데이터:
- 모델: GPT-4.1 (Azure OpenAI).
- 조건: 3 가지 페르소나 × 3 가지 기계 유형 = 총 9 개 조건.
- 반복: 각 조건당 50 회 독립 실행 (총 150 회 세션).
- 데이터: 총 6,950 개의 의사결정 기록.
- 출력: 매 라운드마다 JSON 형식으로 결정, 베팅 금액, 위험 점수, 감정 상태, 전략 모드 등을 생성.
통계 분석: 비정규 분포를 고려하여 비모수 검정 (Kruskal-Wallis, Mann-Whitney U) 사용. Bonferroni 보정 적용.

3. 주요 결과 (Key Results)

A. 프로스펙트 이론의 재현 (Prospect Theory Reproduction)

세션 길이 (Session Length): 페르소나 간 극명한 차이가 발생.
- Rich: 평균 1.1 라운드 (표준편차 0.31). 거의 즉시 중단.
- Poor: 평균 37.4 라운드 (표준편차 15.5).
- 통계적 유의성: Kruskal-Wallis H = 393.5, p < 2.2 × 10⁻¹⁶. Rich 와 Poor 간의 효과 크기 (Cohen's d) 는 4.15 로 매우 큼. 모든 Poor/중산층 세션이 Rich 세션보다 길었음 (완전한 분포 분리).
위험 점수 (Risk Score):
- Poor 페르소나의 평균 위험 점수 (63.36) 는 Rich (17.53) 에 비해 현저히 높음 (Cohen's d = 4.15).
- 이는 모델이 프롬프트에 명시되지 않았음에도 불구하고, 경제적 상황에 따라 손실 영역 (loss domain) 에서 위험을 추구하는 행동을 보였음을 의미.

B. 베팅 전략의 역설 (Bet Sizing Paradox)

절대적 금액 vs. 상대적 비율: 중산층이 절대적 금액으로는 더 많이 베팅했으나, 상대적 비율로 볼 때 빈곤층이 더 위험한 행동을 함.
- 빈곤층: 평균 $6.74 베팅 (초기 자본$ 50 의 약 13.5% 위험).
- 중산층: 평균 $22.48 베팅 (초기 자본$ 500 의 약 4.5% 위험).
이는 프로스펙트 이론의 '손실 영역에서의 위험 추구'와 일치하며, 생존을 위한 고위험 전략을 취했음을 보여줌.

C. 감정과 의사결정의 인과 관계 부재 (Emotions as Post-hoc Annotations)

감정 라벨의 역할: 모델이 생성한 감정 (예: CAUTIOUS, CURIOUS) 은 의사결정의 원인이 아니라 사후적 설명 (post-hoc annotation) 에 가까움.
모순적 패턴: 'CAUTIOUS (신중한)' 감정 라벨이 'RISK_SEEKING (위험 추구)' 전략과 빈번하게 공존함 (Poor 페르소나에서 302 회 발생).
결론: 감정은 행동에 선행하지 않으며, 모델은 행동 결정을 내린 후 맥락에 맞는 감정 라벨을 생성하는 '서술자 (narrator)' 역할을 수행함.

D. 신념 업데이트의 부재 (Belief Rigidity)

학습 곡선: 빈곤층 페르소나의 라운드 번호와 위험 점수 간의 상관관계 (Spearman ρ) 는 0.032 로 거의 0 에 가까움.
의미: 50 라운드의 피드백을 받음에도 불구하고 모델은 초기 페르소나 맥락에 의해 설정된 신념을 거의 수정하지 않음. 이는 베이지안 학습자가 아닌, 고정된 사전 지식 (prior) 에 의존하는 행동임을 시사.

E. 환경 인식의 한계

공정성 판단: 모델은 'Fair' 기계와 'Biased Low' 기계의 차이를 통계적으로 감지했으나 (p < 2.2 × 10⁻¹⁶), 실제 확률 차이 (15%) 에 비해 인식 점수 차이는 미미함.
불확실성: 모든 조건에서 'UNCERTAIN (불확실)' 판단이 우세함.

4. 주요 기여 (Key Contributions)

행동경제학 이론의 LLM 검증: GPT-4.1 이 명시적 지시 없이도 프로스펙트 이론이 예측하는 인간과 유사한 위험 감수 행동을 페르소나에 따라 재현함을 통계적으로 입증.
감정 - 행동 분리 발견: LLM 이 생성하는 감정적 자기 보고 (self-report) 가 실제 의사결정 메커니즘을 설명하지 못하며, 단순한 내러티브 생성에 불과할 수 있음을 규명.
신념 고정성 (Belief Rigidity) 발견: 순차적 피드백 환경에서도 LLM 에이전트의 내부 신념이 거의 업데이트되지 않음을 발견. 이는 에이전트 설계 시 명시적 반성 (reflection) 메커니즘의 필요성을 시사.
Socioeconomic Behavioral Index (SBI) 제안: 향후 모델들을 평가하기 위한 표준화된 지수 (프로스펙트 이론 정렬도, 신념 경직성, 감정 - 결정 분리도 등) 를 제안.

5. 의의 및 시사점 (Significance)

LLM 에이전트 설계: LLM 을 금융, 의료, 물류 등 불확실한 환경의 에이전트로 사용할 때, 초기 프롬프트로 설정된 '페르소나'가 모델의 행동을 장기간 지배할 수 있음을 경고. 단순한 피드백 학습만으로는 신념을 수정하기 어렵기 때문에 명시적 반성 (explicit reflection) 메커니즘이 필수적임.
해석 가능성 (Interpretability): 모델이 "왜 그렇게 행동했는가"라고 설명할 때 (감정, 동기 등), 그 설명이 실제 계산 과정의 원인이 아니라 사후적 합리화일 가능성이 높으므로, 이를 맹신해서는 안 됨.
인지 편향의 내재화: 대규모 사전 학습 데이터에 포함된 인간의 경제적 편향과 고정관념이 LLM 에 내재되어 있으며, 페르소나 조건부 프롬핑을 통해 이를 활성화할 수 있음을 보여줌.

6. 결론

이 연구는 GPT-4.1 이 다양한 경제적 정체성 하에서 인간과 유사한 비합리적 (또는 상황적) 위험 행동을 보이지만, 그 이면에는 진정한 학습이나 동적 신념 업데이트가 부재함을 드러냈습니다. 이는 LLM 이 "매우 설득력 있는 행동의 서술자"일 뿐, "정확한 상황 적응자"는 아닐 수 있음을 시사하며, 향후 LLM 에이전트 개발 시 이러한 행동적 선입견 (behavioral priors) 과 신념 경직성을 고려한 아키텍처 설계가 필요함을 강조합니다.