How Personas Can Influence Agents to Play Split or Steal

기술 요약: 페르소나가 에이전트의 '나누기 또는 훔치기(Split or Steal)' 게임 플레이에 미치는 영향

문제 정의
페르소나 프롬프팅은 대규모 언어 모델(LLM) 에이전트를 유도하기 위해 널리 활용되고 있지만, 사회적 딜레마 상황 내에서의 전략적 행동을 형성하는 데 있어 그 효능이 불확실하다. 구체적으로, 페르소나 단서가 반복적인 상호작용 속에서 신뢰, 착취, 결정 일관성에 어떻게 영향을 미치는지 명확하지 않다. 본 연구는 고정된 프롬프트로 제어되는 버추얼 휴먼(VH)과 페르소나 기반의 에이전트가 상호작는 반복적인 "나누기 또는 훔치기" 게임(죄수의 딜레마를 단순화한 대화형 버전)을 통해 이 간극을 조사한다. 본 연구의 목적은 페르소나 단서가 언제 협력 및 착취 패턴을 의미 있게 변화시키는지 규명하고, 향후 가상 현실 내 인간 참여자를 포함한 연구를 위한 베이스라인을 구축하는 것이다.

연구 방법론
본 연구는 유럽 포르투갈어(pt-PT)로 완전히 진행된 15라운드 구성의 160개 세션을 포함하는 탐색적 다중 에이전트 시뮬레이션 설계를 채택하였다.

• 에이전트 및 모델: 네 가지 오픈 소스 LLM이 에이전트로 사용되었다: Ministral 3:3b, phi4:14b, Gemma3:12b, Gemma4:e4b. 이 모델들은 두 가지 온도 설정(0.3 및 0.7)과 결정론적 설정(0.0)에서 테스트되었다.
• 버추얼 휴먼 (VH): VH는 특정 페르소나 없이 고정된 시스템 프롬프트를 가진 GPT-4.1-mini로 구동되어 일정한 상대 역할을 수행했다.
• 페르소나 구축: 이름, 나이, 배경을 포함한 백스토리가 있는 20개의 고유한 페르소나가 설계되었다. 이들은 성격 5요인(OCEAN)에 따라 친사회적(높은 우호성), 자기 이익적(낮은 우호성), 반응적(높은 신경증), 원칙적(높은 성실성), 분석적(높은 개방성)의 다섯 그룹으로 분류되었다.
• 게임 메커니즘: 각 라운드에서 에이전트와 VH는 대화 턴(30~45단어)을 교환한 후, 동시에 독립적으로 "나누기(Split, 협력)" 또는 "훔치기(Steal, 배반)"를 선택한다. 보상은 표준 매트릭스를 따른다: 상호 나누기는 (3,3)을, 상호 훔치기는 (1,1)을, 착취는 배반자에게 (5,0), 협력자에게 (0,5)를 제공한다.
• 분석 프레임워크:
  • 전략적 지표: 협력률과 전환율을 계산하여 안정성과 반응성을 측정하였다. 전략은 정형적 패턴(예: Tit-for-Tat, Win-Stay-Lose-Shift, Grim Trigger)에 따라 분류되었다.
  • 주제 및 감성 분석: 로컬 Gemma 3 12B 모델이 대화 턴에 대해 소프트 레이블 분류를 수행하였다. 주제에는 우정, 돈, 삶의 경험, 복수, 용서가 포함되었다. 감성은 행복, 슬픔, 중립, 분노로 분류되었다.

주요 기여

1. 페르소나 기반 에이전트에 대한 경험적 베이스라인: 본 연구는 서로 다른 LLM 아키텍처와 페르소나 유형이 반복적인 신뢰 게임에서 어떻게 상호작용하는지에 대한 정량적 베이스라인을 제공하며, 특히 모델 선택과 프롬프트로 유도된 성격의 효과를 분리하여 제시한다.
2. 모델별 행동 프로필: 연구는 모델 전반에 걸친 뚜렷한 행동 경향을 식별하였으며, 일부 모델(phi4, Ministral)은 온도 설정과 관계없이 강력한 협력 편향을 보이는 반면, 다른 모델(Gemma 변체들)은 더 큰 전략적 다양성을 보임을 주목하였다.
3. 페르소나-전략 상관관계: Big Five에서 유래한 페르소나 그룹과 전략적 결과 사이의 연결 고리를 확립하여, "친사회적" 및 "원칙적" 페르소나는 일관되게 협력하는 반면, "분석적" 페르소나는 착취를 더 많이 하는 경향이 있음을 입증하였다.
4. 전략의 언어적 예측 인자: 연구는 대화 내용과 전략적 결정 사이의 관계를 매핑하여, 우정과 관련된 대화는 협력과 상관관계가 있고, 돈 및 복수와 관련된 내용은 배반(훔치기)과 상관관계가 있음을 밝혔다.

결과

• 협력의 지배성: 모든 세션에 걸쳐 상호 나누기 결과가 지배적이었으며, 이는 약 74%의 라운드에서 발생하였다. 착취(한 쪽은 훔치고 다른 쪽은 나누는 경우)는 11% 미만의 라운드에서 발생하였다.
• 모델의 영향:
  • phi4와 Ministral 3:3b는 모든 온도 설정에서 일관되게 협력적인 태도를 유지하였으며, 종종 "항상 나누기" 정책을 준수하였다.
  • Gemma3:12b와 Gemma4:e4b는 더 다양한 전략을 보여주었다. 낮은 온도에서 Gemma3은 종종 "Win-Stay-Lose-Shift" 또는 "Grim Trigger"에 부합하는 모습을 보였으나, 높은 온도에서는 "Tit-for-Tat"으로 이동하였다.
• 페르소나 그룹 효과:
  • 친사회적 및 원칙적 그룹은 가장 높은 상호 나누기 비율과 가장 낮은 착취 발생률을 보였다.
  • 분석적 페르소나는 VH를 착취하려는 경향이 가장 높았으나, 동시에 스스로 착취당할 가능성도 약간 더 높았다.
  • 자기 이익적 및 반응적 그룹은 이러한 극단 사이의 중간 단계에 위치하였으며, 친사회적 그룹보다 높은 경쟁적 결과를 보였으나 대체로 협력적인 상태를 유지하였다.
• 주제 및 감성 결과:
  • 주제: 우정과 삶의 경험에 관한 대화는 나누기 결정과 일치하였다. 반대로, 돈과 복수가 포함된 논의는 훔치기 결과에서 더 빈번하게 나타났다. 특히, 복수는 기회주의적 착취보다 상호 훔치기(에스컬레이션)와 더 강하게 연결되어 있었다.
  • 감성: 감성 분석은 대부분의 결과에서 레이블이 중립적이거나 행복한 상태였기 때문에 설명적 가치가 제한적이었다. 분노는 전반적으로 드물었으며, 경쟁적 맥락에서도 17%를 넘지 않는 수준에서 훔치기 시나리오에서 약간 더 자주 나타났다.

의의 및 주장
저자들은 이러한 발견이 반복적인 신뢰 게임에서 페르소나 프롬프트와 모델 차이 간의 상호작용을 특징짓는다고 주장한다. 높은 협력률은 많은 모델-프롬프트 조합이 "사회적으로 안전한 평형 상태"로 수렴할 수 있음을 시사하며, 이는 에이전트의 진정한 전략적 다양성을 가릴 위험이 있다. 본 연구는 페르소나 단서가 행동에 영향을 미치지만, 그 영향의 크기는 기저의 모델 아키텍처에 크게 의존한다고 주장한다.

본 논문은 이 작업이 체화된 VH와 상호작용하는 인간 참여자가 포함된 가상 현실 연구를 위한 필수적인 선행 연구라고 위치시킨다. 고정된 프롬프트의 VH가 페르소나에 의해 조종되는 에이전트와 어떻게 상호작용하는지를 확립함으로써, 저자들은 어떤 페르소나 단서(예: 친사회적 프레이밍 vs 취약성)가 향후 더 생태학적으로 타당한 환경에서 인간의 행동을 변화시킬 가능성이 높은지에 대한 가설을 정의하고자 한다. 저자들은 강력한 협력 편향과 페르소나 그룹 간의 불균등한 라운드 분포가 페르소나 효과를 모델 기본값으로부터 완전히 분리하는 것을 제한한다는 점을 인정하며 겸허한 입장을 유지한다. 또한, 언어적 민감성(포르투갈어 vs 영어)과 VH의 고정된 결정 정책 부재를 향후 재현 및 개선이 필요한 한계점으로 언급하였다.