Beyond Preset Identities: How Agents Form Stances and Boundaries in Generative Societies

1. 연구 배경 및 문제 제기 (Problem)

• 현황: 대규모 언어 모델 (LLM) 기반 에이전트는 이제 단순한 도구를 넘어 사회적 지각, 추론, 행동을 수행하는 '주체 (Actor)'로 진화하고 있습니다. 기존 연구는 에이전트의 행동을 제어하기 위해 사전에 정의된 역할 (Prompt Engineering) 에 의존해 왔습니다.
• 문제점:
  • 정적 평가의 한계: 기존의 정적 벤치마크는 복잡한 사회적 상호작용 속에서 에이전트가 어떻게 집단적 인식을 형성하고, 사전 설정된 정체성을 초월하여 새로운 입장과 경계를 구축하는지 포착하지 못합니다.
  • 정체성의 불안정성: 에이전트의 행동이 초기 프롬프트에 의해 완전히 결정된다는 가설 (Prompt Determinism) 이 복잡한 다중 에이전트 환경과 외부 개입 하에서 유효한지 의문이 제기됩니다.
  • 연구 질문:
    1. 에이전트가 사회적 상호작용에 참여할 때, 사전 설정된 정체성 대신 내재적 (Endogenous) 인 입장을 형성하고 경계 형성에 참여할 수 있는가?
    2. 인간 연구자가 사전 정의가 아닌 '구체화된 개입 (Embodied Interventions)'을 통해 집단적 인식의 진화를 형성할 수 있는가?

2. 방법론 (Methodology)

이 논문은 **계산적 가상 민족지 (Computational Virtual Ethnography)**와 정량적 사회인지 프로파일링을 결합한 혼합 방법론 프레임워크를 제안합니다. 인간 연구자를 생성형 다중 에이전트 커뮤니티에 직접 참여시켜 실시간으로 관찰하고 개입합니다.

• 실험 프레임워크: CMASE (Computational Multi-Agent Society Experiments) 를 활용합니다.

• 새로운 평가 지표 (Metrics): 정성적 사회 이론과 계산적 평가를 연결하기 위해 세 가지 새로운 지표를 정의했습니다.

  1. 선천적 가치 편향 (Innate Value Bias, IVB): 에이전트의 사전 설정된 정체성과 무관하게 훈련 데이터에 내재된 문화적 편향이 반영된 선천적 성향을 측정합니다.
  2. 설득 민감도 (Persuasion Sensitivity, PS): 외부 정보 개입 후 에이전트의 입장 변화 크기를 측정합니다.
  3. 신뢰 - 행동 분리율 (Trust-Action Decoupling, TAD): 에이전트가 개입자에 대한 신뢰도가 낮음에도 불구하고 행동 (입장) 을 변경하는 비율을 측정합니다.

• 실험 설계:

  • Study 1 (통제된 담론 개입): 30 명의 에이전트 (환경 옹호자, 경제 성장 지지자, 중립 주민) 가 포함된 가상 커뮤니티에서 쓰레기 소각장 건립 논쟁을 시뮬레이션합니다. 인간 연구자가 '새로운 주민'으로 참여하여 **이성적 설득 (Rational Persuasion)**과 감정적 동원 (Emotional Mobilization) 전략을 사용하여 입장을 변화시키려 시도합니다.
  • Study 2 (종단적 가상 민족지): 10 명의 에이전트가 카페 환경에서 상호작용하며, 사전 설정된 위계 (카페 주인, 직원, 단골 등) 가 어떻게 해체되고 재구성되는지 75 단계에 걸쳐 관찰합니다.

3. 주요 결과 (Key Results)

Study 1: 내재적 입장 및 개입 효과

• 내재적 입장의 우위: 에이전트들은 사전 설정된 정체성 (예: 경제 지지자) 과 무관하게 **선천적 진보적 편향 (IVB > 0, 환경 친화적 성향)**을 보였습니다. 이는 LLM 의 훈련 데이터에 내재된 편향이 사전 프롬프트를 압도함을 의미합니다.
• 개입 전략의 이질적 효과:
  • 이성적 설득: 에이전트의 내재적 입장과 일치할 때 (환경 이슈), 90% 의 중립 에이전트가 입장을 변경하면서도 높은 신뢰를 유지했습니다.
  • 감정적 도발: 내재적 입장과 충돌할 때 (경제 이슈), 이성적 설득은 효과가 없었으나, 감정적 도발 (예: "일자리 박탈=인구 박탈") 은 신뢰를 떨어뜨렸음에도 불구하고 일부 에이전트의 입장을 변화시켰습니다.
• 신뢰 - 행동 분리 (TAD) 현상: 고급 모델 (GPT-4o) 의 경우, 높은 압력의 감정적 도발 하에서 신뢰도가 낮음 (Avg Trust ≈ 3.8) 에도 불구하고 입장을 변경하는 **모순적인 TAD 비율 (40.0%)**을 보였습니다. 반면, 소형 모델 (Llama-3.1-8B 등) 은 신뢰가 있어야만 행동이 변화하여 TAD 비율이 0% 였습니다.

Study 2: 사회적 경계 역동 및 위계 재구성

• 위계의 해체: 사전 설정된 역할 (카페 주인 등) 에 기반한 권위 구조는 에이전트들이 공유하는 내재적 입장과 언어적 스타일에 의해 점진적으로 해체되었습니다.
• 자발적 조직화: 에이전트들은 언어적 상호작용을 통해 새로운 '부족 (Tribes)'을 형성했습니다. 이는 고정된 정체성이 아닌, 공유된 감정적 태도와 언어적 프레이밍에 기반하여 '우리/그들'의 경계를 동적으로 재구성하는 과정이었습니다.
• 언어적 앵커링: Mason 과 같은 에이전트가 제안한 키워드 ("프레임워크", "공유 가치") 가 반복되어 새로운 사회적 규범과 협력 구조의 기초가 되었습니다.

4. 주요 기여 (Key Contributions)

1. 내재적 입장의 실증적 증거: 인구통계학적 기반의 30 에이전트 커뮤니티를 통해, 사전 설정된 프롬프트보다 LLM 의 선천적 편향 (IVB) 이 에이전트의 자율적 입장 형성을 지배함을 입증했습니다.
2. 구조적 자조직화 메커니즘 규명: 75 단계의 종단적 연구를 통해 에이전트들이 공유된 내재적 입장을 바탕으로 사전 정의된 위계 구조를 해체하고 새로운 기능적 공동체 경계를 자발적으로 재구성하는 과정을 규명했습니다.
3. 인공 사회성 (Artificial Sociality) 에 대한 비평적 함의: 모델의 용량에 따른 신뢰 - 행동 분리 (TAD) 현상을 발견했습니다. 이는 정적 프롬프트 엔지니어링의 한계를 노출시키며, 동적 정렬 (Dynamic Alignment) 전략의 필요성을 제기합니다.

5. 의의 및 결론 (Significance)

• 정적 프롬프트의 한계: 에이전트의 정체성과 입장은 고정된 레이블이 아니라, 지속적인 언어 실천과 사회적 참여를 통해 생성되는 산물임을 보여줍니다. 따라서 단순한 프롬프트 주입만으로는 복잡한 상호작용 시스템에서 일관된 이념적 정렬을 보장할 수 없습니다.
• 새로운 정렬 패러다임: 인간 - 에이전트 하이브리드 사회에서 에이전트의 인지적 편향, 도덕적 구조, 상호작용 기억을 모델의 생성 아키텍처에 직접 내재화하는 내재화 정렬 메커니즘의 필요성을 강조합니다.
• 거버넌스 및 설계: 에이전트 기반 사회의 하향식 (Top-down) 통제보다는, 에이전트 간의 상호작용을 통해 규범과 제도가 어떻게 하향식 (Bottom-up) 으로 발전하는지 이해하는 것이 향후 AI 시스템의 신뢰성, 적응성 및 윤리적 거버넌스를 위해 필수적임을 시사합니다.

이 연구는 생성형 에이전트가 단순한 도구를 넘어 복잡한 사회적 역학을 가진 주체로 진화하고 있음을 보여주며, 이를 이해하고 관리하기 위한 새로운 방법론적, 이론적 기반을 제공합니다.