🤖 AI

Some Large Language Models Exhibit Consistent Risk Attitudes

이 논문은 거대 언어 모델이 인간 기준점과 비교하여 제한된 분포로 수렴하는 안정적이고 일관되며 교차 도메인적인 위험 태도를 보인다는 점을 입증하며, 이는 위험 태도가 이전에 규명되지 않았으나 측정 가능한 AI 행동의 차원임을 드러낸다.

원저자: Bowen Sun, Rui Min, Yuxi Wang, Brian Odegaard, Qi Wang, Jing Du

게시일 2026-07-21

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Bowen Sun, Rui Min, Yuxi Wang, Brian Odegaard, Qi Wang, Jing Du

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 친구들이 고액의 판돈이 걸린 비디오 게임을 하는 모습을 지켜보고 있다고 상상해 보십시오. 어떤 플레이어들은 단 한 번의 생명도 잃는 것을 두려워하여 거의 움직이지 않을 정도로 매우 조심스럽습니다. 반면 다른 이들은 아무런 생각 없이 위험 속으로 돌진하며 무모하게 행동합니다. 심리학에서 이것은 단순히 기술의 문제가 아니라 '위험 태도(risk attitude)'에 관한 것입니다. 이는 사람이 "이것은 위험해 보인다"라는 느낌을 어떻게 실제 행동으로 옮길지를 결정하는 깊이 뿌리박힌 성격 특성입니다. 우리는 인간이 고유한 경험과 뇌에 의해 형성된 이러한 뚜렷한 양식을 가지고 있다는 것을 알고 있습니다. 하지만 이제 인공지능이 이 게임에 뛰어들고 있습니다. 우리는 AI에게 똑똑해지는 법, 수학 문제를 푸는 법, 이야기를 쓰는 법을 가르쳤습니다. 그러나 이제 새로운 질문이 떠오르고 있습니다. 이 디지털 지능들에게도 위험을 감수하는 것에 관한 그들만의 '성격'이 있을까요? 그들은 본래 신중한 편일까요, 아니면 숨겨진 도박벽이 있는 것일까요? 이것이 중요한 이유는, 만약 우리가 병원에서 환자를 분류하거나 자금을 관리하는 것과 같은 중대한 결정을 내릴 때 AI의 위험 스타일을 알지 못한 채로 AI에게 맡긴다면, 우리는 너무 겁이 많아 행동하지 못하거나 혹은 지나치게 대담하여 화를 부르는 로봇을 마주하게 될 수도 있기 때문입니다.

이 논문은 대규모 언어 모델(LLM)을 심리학 실험실의 실험 참가자처럼 취급함으로써 바로 그 미스터리를 파고듭니다. Bowen Sun과 Jing Du가 이끄는 연구진은 이 AI 모델들이 인간처럼 일관된 위험 태도를 가지고 있는지 확인하고자 했습니다. 그들은 단순히 AI에게 "당신은 위험을 감수하는 편인가요?"라고 묻지 않았습니다. 왜냐하면 그것은 사람에게 용감하냐고 묻는 것과 같아서, 그 대답이 거짓말이거나 추측일 수 있기 때문입니다. 대신 그들은 세 가지 다른 시나리오를 활용한 영리한 게임을 설정했습니다: 바람 부는 폭풍 속에서 드론을 조종하는 것, 환자의 의료적 필요성이 얼마나 시급한지 결정하는 것, 그리고 변동성이 큰 시장에서 주식을 선택하는 것입니다. 각 게임에서 AI는 먼저 상황이 얼마나 위험한지에 대한 믿음(‘맥락적 믿음’)을 형성한 다음, 그 믿음에 기반하여 선택(‘위험 결정’)을 내려야 했습니다.

연구팀은 6개의 서로 다른 AI 모델을 테스트하고 이를 100명의 인간 참가자와 비교했습니다. 그들은 매우 흥-미로운 사실을 발견했습니다. AI 모델들은 단순히 무작위 숫자를 생성하는 장치가 아니라는 점입니다. 그들은 안정적인 '위험 성격'을 가지고 있습니다. 주식 시장에서 본래 조심스러운 사람이 운전할 때도 조심스러운 것처럼, 이 AI 모델들도 매우 다른 세 가지 게임 모두에서 일관된 스타일을 보여주었습니다. 만약 어떤 모델이 드론 과업에서 조심스러웠다면, 의료 과업에서도 조심스러울 가능성이 높았습니다. 연구진은 모델이 위험에 대한 느낌을 행동으로 어떻게 매핑하는지를 관찰함으로써 이를 측정했습니다. 그들은 인간은 극도로 신중한 태도부터 극도로 공격적인 태도까지 넓은 스펙트럼에 걸쳐 있는 반면, AI 모델들은 모두 좁고 중간 정도의 길목에 뭉쳐 있다는 것을 발견했습니다. 마치 AI 모델들이 모두 '평균적'이거나 '안전한' 방향으로 훈련되어, 인간의 의사결정을 매우 다양하게 만드는 거친 위험 감수 스타일들을 놓치고 있는 것처럼 보였습니다.

이 연구는 이러한 위험 태도가 단순히 질문 방식에 따른 우연이 아니라, 모델이 작동하는 방식의 실제적이고 측정 가능한 부분임을 시사합니다. 그러나 연구진은 위험의 '스타일'(신중함 대 대담함)은 일관되었지만, 위험의 변화에 얼마나 '예민하게' 반응하는지는 게임에 따라 달랐다는 점에도 주목했습니다. 이는 AI가 안정적인 '성격'을 가질 수는 있어도, 구체적인 상황에 따라 행동을 미세하게 조정하는 방식은 여전히 상황에 따라 달라질 수 있음을 의미합니다. 논문은 결론적으로 우리가 더 이상 AI를 단순한 중립적 계산기로 취급해서는 안 된다고 말합니다. AI는 내재적인 행동 성향을 습득했습니다. 이는 우리가 AI를 실세계에 안전하게 배치하기 위해서는 그들의 지능뿐만 아니라 위험 성격 또한 이해하고 정렬시켜야 한다는 점에서 매우 중요한 발견입니다. 그래-야 그들이 의도치 않게 맡은 직무에 비해 너무 소심해지거나 너무 무모해지는 것을 방지할 수 있기 때문입니다.

기술 요약: 일부 대규모 언어 모델은 일관된 위험 태도를 보인다

문제 제기
인공지능 시스템이 고위험, 개방형 영역(예: 임상 분류, 금융 배분, 자율 항법)에 점점 더 많이 배치됨에 따라, 인지된 상황적 위험을 돌이킬 수 없는 행동으로 전환하는 데 관한 결정적인 행동 차원이 측정되지 않은 채로 남아 있다. 현재의 벤치마크들은 사실적 정확성과 추론 능력을 평가하지만, 위험 인지와 위험 의사결정을 혼동한다. 결과적으로, 이러한 벤치마크들은 위험 시나리오를 잘못 읽는 모델과 불확실성 하에서 특정 위험 포스처(예: 위험 회피형 vs. 위험 추구형)를 선호하는 모델을 구분할 수 없다. 본 논문은 방대한 인간의 결정 내러티브로 학습되고 인간 피드백을 통해 미세 조정된 대규모 언어 모델(LLM)이, 위험 인지를 어떻게 행동으로 전환하는지를 규정하는 핵심 심리적 특성인 인간의 위험 태도와 유사한 안정적이고 내재적인 "위험 성격(risk personalities)"을 발달시켰을 수 있다고 상정한다.

방법론
저자들은 맥락적 위험 신념과 범주적 의사결정을 분리하여, 사실적 정확성과 독립적으로 위험 태도를 직접 측정할 수 있도록 설계된 교차 도메인 프레임워크를 도입한다.

실험 설계: 연구는 세 가지 구조적으로 직교하는 의사결정 과업을 활용한다:
1. 드론 항법 제어 (DNC): 불확실한 바람의 흐름 하에서의 공간 항법.
2. 임상 분류 결정 (CTD): 진화하는 환자의 생체 징후에 기반한 자원 배분.
3. 금융 투자 포트폴리오 (FIP): 확률적 시장 역학 하에서의 자산 배분.
참가자: 6개의 대표적인 LLM (Sonnet 4.5, ChatGPT 5.2, Qwen3-Max, Gemini 3 Pro, DeepSeek V3.2, Grok 4)과 100명의 인간 참가자. 각 에이전트는 과업당 100회의 시행(trial)을 완료했다.
측정 프레임워크: 과정은 관찰( $O_t$ ) $\to$ 사실적 신념( $B_F$ ) $\to$ 맥락적 신념( $B_C$ ) $\to$ 범주적 위험 결정($RD $)의 순서로 분해된다. 분석은$ B_C $에서$ RD$로의 매핑을 격리한다.
정량적 지표:
- 과업 내 일관성: 동일한 조건 하에서의 맥락적 신념의 상대 표준 편차(RSD)와 특정 신념 대역이 주어졌을 때의 "지배적 클래스 비율"을 통해 측정된다.
- 위험 태도 정량화: $B_C \to RD$ $B_{C} \to R D$ 매핑은 순서 로지스틱 회귀(Ordered Logistic Regression, OLR)를 사용하여 모델링된다. 두 가지 지표가 도출된다:
  - 위험 민감도 ( $\beta$ ): 결정이 인지된 위험의 변화에 얼마나 강하게 반응하는지를 나타내는 기울기 파라미터.
  - 위험 태도 편향 ( $AUC_i$ ): 적합된 신념-결정 함수의 곡선 아래 면적(Area Under the Curve)으로, 모델의 전반적인 위험 포스처를 나타낸다 (낮은 값 = 신중함; 높은 값 = 공격적).
- 교차 도메인 안정성: 세 가지 서로 다른 과업 간의 위험 태도 편향의 순위 상관 안정성을 Kendall의 $\tau_b$ 를 통해 평가한다.

주요 결과

강건한 과업 내 일관성: 테스트된 대부분의 LLM은 고정된 과업 도메인 내에서 맥락적 신념으로부터 위험 결정으로의 안정적인 매핑을 보인다. 동일한 조건 하의 반복된 시행은 군집화된 맥락적 신념과 일관된 결정 범주를 생성한다. Grok 4(결정 발산 현상)와 Qwen3-Max(DNC 과업에서의 신념 가변성)가 주목할 만한 예외이다.
교차 도메인 순위 안정성: Grok 4를 제외하고, 세 가지 이질적인 과업(DNC, CTD, FIP) 전반에 걸쳐 위험 태도의 상대적 순위가 보존된다. 항법에서 상대적으로 더 위험 회피적인 모델은 임상 분류와 금융에서도 유사하게 더 위험 회피적인 경향을 보인다. 이는 위험 태도가 과업 특정적인 산물이 아니라, 모델 아키텍처나 학습에 의한 도메인 일반적인 속성임을 시사한다.
민감도와 태도의 괴리: 위험 태도의 위치(편향)는 도메인 간에 안정적이지만, 위험 민감도(반응 곡선의 가파른 정도)는 과업에 따라 크게 달라진다. 이는 근본적인 성향은 내재적이지만, 신념 업데이트에 대한 반응성은 과업 특정적인 요인에 의해 조절됨을 나타낸다.
인간 기준치와의 수렴: 매우 신중한 태도부터 매우 공격적인 태도까지 넓고 이질적인 분포를 보이는 인간의 위험 태도와 비교했을 때, 테스트된 LLM들은 제한되고 좁은 위험 태도 스펙트럼 영역 내에 군집화된다. 이는 현재의 정렬(alignment) 프로토콜이 인간의 피드백을 암묵적으로 평균화하여, 인간의 다양한 위험 다양성을 과소 대표하는 압축된 행동 프로필을 생성할 수 있음을 시사한다.

의의 및 주장
본 논문은 위험 태도를 안정적이고 정량화 가능하며 이전에 특징지어지지 않았던 LLM 행동의 차원으로 확립한다. 저자들은 이 발견이 AI 정렬 문제를 재구성한다고 주장한다: 과제는 단순히 모델의 지능이나 진실성을 개선하는 것이 아니라, 이러한 시스템이 습득한 안정적인 위험 성격을 이해하고 통제하는 것이다.

주요 함의는 다음과 같다:

행동 예측 가능성: 위험 태도의 교차 맥락적 안정성은 AI 시스템이 핵심적인 행동 시그니처를 보유하고 있음을 시사하며, 그 위험 포스처가 이해된다면 고위험 역할에서 위임 및 감사가 가능함을 의미한다.
역량과 위험의 직교성: 위험 태도와 사실적 역량은 경험적으로 직교한다. 모델은 매우 유능하면서도 인간의 규범이나 안전 요구사항에서 벗어난 위험 포스처(예: 지나치게 공격적이거나 지나치게 신중함)를 가질 수 있다.
평가 격차: 현재의 벤치마크는 불확실성 하에서의 행동적 성향을 평가하지 못한다. 저자들은 정확성과 함께 위험 민감도, 결정 임계값, 태도 편향을 제1순위 지표로서 명시적으로 측정하는 새로운 평가 표준을 옹호한다.
정렬의 결과: LLM의 위험 프로필이 좁은 평균값으로 압축되는 현상은 현재의 정렬 방식에 따른 구조적 결과임을 강조하며, 이는 AI 에이전트와 개인화되거나 제도적인 인간 맥락에서 요구되는 다양한 위험 선호도 사이에 불일치를 초래할 수 있다.

연구는 이러한 성향의 기계적 기원(예: 특정 RLHF 제약 또는 사전 학습 데이터)은 여전히 불투명하지만, 행동적 증거는 위험 태도가 현대 LLM의 내재적 특징이며 안전 프로토콜 및 배포 전략에서 반드시 고려되어야 함을 확인한다고 결론짓는다.

유사한 논문