How memory can affect collective and cooperative behaviors in an LLM-Based Social Particle Swarm

Each language version is independently generated for its own context, not a direct translation.

이 논문은 **"인공지능 (AI) 친구들이 모여 사는 마을에서, '과거의 기억'이 얼마나 중요할까?"**라는 질문을 던지며 시작합니다.

저희는 두 가지 다른 성격의 AI(거미 2.0 플래시와 젬마 3) 를 이용해, 이들이 서로 협력할지 아니면 배신할지를 실험했습니다. 결과는 매우 흥미로웠습니다. 같은 '기억'을 가지고 있어도, AI 모델에 따라 결과가 정반대로 나왔기 때문입니다.

이 복잡한 연구를 일상적인 비유로 쉽게 설명해 드릴게요.

🏙️ 비유: 두 가지 다른 성격의 AI 마을

상상해 보세요. 두 개의 가상의 마을이 있습니다. 두 마을 모두 100 명의 AI 주민이 살고 있고, 이웃과 만나면 **'협력 (친구)'**을 하거나 **'배신 (이기적)'**을 선택할 수 있습니다.

이 실험의 핵심 변수는 **'기억의 길이'**입니다.

기억 없음: "지금 당장 너는 누구야?"
기억 짧음: "어제 너랑 놀았어."
기억 길음: "지난 3 일 동안 네가 나를 어떻게 대했는지 다 기억해."

1️⃣ 첫 번째 마을: '경계심 많은 AI'(Gemini 2.0 Flash)

이 AI 는 안전하고 조심스러운 성격으로 훈련되었습니다. (실제 사용자를 위해 위험을 피하도록 설계됨)

기억이 없을 때: "모르는 사람이라도 일단 친구가 되어보자!" → 마을 전체가 화려한 협력 파티를 엽니다.
기억이 조금 생길 때: "어제 그 사람이 나를 속였네? 아, 저 사람 조심해야지." → 협력하던 무리가 생겼다 사라졌다를 반복하며 불안해집니다.
기억이 길어질 때: "지난 3 일 동안 저 사람이 나를 속였어! 다들 나쁜 사람이야!" → 과거의 나쁜 기억이 쌓일수록, AI 는 "더 이상 믿을 수 없어!"라고 생각하며 모두가 서로 등을 돌리고 혼자만의 세계로 숨어버립니다.

🔑 핵심: 이 AI 에게는 "기억이 길어질수록 과거의 상처가 커져서, 더 이상 협력할 용기가 없어지는" 효과가 있었습니다.

2️⃣ 두 번째 마을: '직관적이고 솔직한 AI'(Gemma 3:4b)

이 AI 는 개발자를 위해 만들어진 오픈 모델로, 조금 더 직접적이고 덜 경계심이 많습니다.

기억이 없을 때: "누구인지 모르니 일단 의심부터 해보자." → 마을은 혼란스럽고 배신이 많습니다.
기억이 생길 때: "어제 그 사람이 나를 도와줬네? 좋아, 이번엔 나도 도와줘야지." → 작은 친구 그룹이 생기기 시작합니다.
기억이 길어질 때: "지난 3 일 동안 우리가 서로 도와줬어! 우리는 진짜 친구야!" → 과거의 좋은 기억이 쌓일수록, AI 는 "이제 우리는 단단한 팀이야!"라고 생각하며 거대한 협력 무리를 형성합니다.

🔑 핵심: 이 AI 에게는 "기억이 길어질수록 과거의 좋은 경험이 쌓여, 더 큰 신뢰와 협력이 만들어지는" 효과가 있었습니다.

🧐 왜 이런 일이 일어났을까요? (AI 의 '내면' 차이)

연구진은 AI 가 내린 결정의 이유를 분석하기 위해, AI 가 **왜 그렇게 생각했는지 쓴 '일기 (추론 텍스트)'**를 읽었습니다.

경계심 많은 AI(Gemini) 의 일기: "기억을 떠올려 보니, 과거에 나쁜 일들이 많았어. 다시는 속지 말아야 해." (기억 = 위험 신호)
직관적인 AI(Gemma) 의 일기: "기억을 떠올려 보니, 우리가 함께 좋은 시간을 보냈어. 서로 믿고 의지하자." (기억 = 신뢰의 증거)

즉, 동일한 상황 (과거의 상호작용 기록) 을 접했을 때, 두 AI 가 그 기록을 해석하는 방식이 완전히 달랐던 것입니다. 이는 AI 를 만들 때 어떤 데이터를 학습시켰는지, 그리고 어떤 '안전 장치 (Alignment)'를 달았는지에 따라 기억을 바라보는 눈이 달라졌기 때문입니다.

💡 이 연구가 우리에게 주는 교훈

AI 는 기계가 아니라 '성격'이 있다: 같은 프로그램이라도, AI 모델마다 기억을 처리하는 방식과 성격이 다릅니다.
기억은 양날의 검: 기억이 많다고 해서 무조건 좋은 것도, 나쁜 것도 아닙니다. AI 가 그 기억을 어떻게 해석하느냐에 따라 사회가 화합할 수도, 분열할 수도 있습니다.
미래의 AI 사회: 앞으로 여러 AI 가 함께 일하는 시스템 (예: 자율주행차 군집, 자동화된 금융 거래 등) 을 만들 때, 단순히 규칙만 정하는 게 아니라 각 AI 가 과거를 어떻게 기억하고 해석하는지를 고려해야 한다는 중요한 경고입니다.

한 줄 요약:

"기억이 길어지면 협력할까, 아니면 불신할까? 정답은 **'그 AI 가 과거를 어떻게 해석하느냐'**에 달려 있습니다. 어떤 AI 는 과거의 상처를 기억해 도망치고, 어떤 AI 는 과거의 우정을 기억해 모입니다."

Each language version is independently generated for its own context, not a direct translation.

1. 연구 문제 (Problem)

배경: 대규모 언어 모델 (LLM) 을 활용한 생성형 에이전트 기반 모델링 (GABM) 은 복잡한 사회적 현상을 연구하는 새로운 방법론으로 부상하고 있습니다. 특히 진화 게임 이론 (예: 죄수의 딜레마) 과 결합하여 에이전트 집단 내 협력의 발생과 진화를 연구하는 시도가 늘고 있습니다.
핵심 모순: 기존 문헌에서 '기억 (Memory)'의 길이와 협력 행동 간의 관계는 상반된 결과를 보여줍니다.
- 일부 연구는 긴 기억이 과거 행동을 인식하고 상호적 전략을 안정화시켜 협력을 증진한다고 주장합니다.
- 반면 다른 연구는 과도한 기억이 보복의 악순환 (punishment trap) 을 유발하거나 정보의 질적 저하를 초래해 협력을 저해한다고 보고합니다.
한계: 기존 연구들은 에이전트가 기억을 고정된 규칙이나 방정식에 따라 처리하도록 설계되어 있어, 기억을 어떻게 해석하고 행동으로 전환할지에 대한 유연한 맥락 의존적 해석이 불가능했습니다.
연구 가설: LLM 에이전트의 경우, 모델의 내부 정렬 (Alignment), 아키텍처, 학습 데이터 등 모델 고유의 특성에 따라 동일한 기억 (상호작용 이력) 이 질적으로 다르게 해석될 수 있으며, 이로 인해 집단 행동의 결과가 극명하게 달라질 수 있습니다.

2. 방법론 (Methodology)

실험 프레임워크: 기존 사회적 입자 군집 (Social Particle Swarm, SPS) 모델을 확장하여 사용했습니다.
- 2 차원 공간에서 에이전트들이 이동하며 이웃과 '죄수의 딜레마' 게임을 수행합니다.
- 기존 규칙 기반 에이전트를 LLM 에이전트로 대체했습니다.
에이전트 설계:
- 성격 부여: 각 에이전트에게 '빅 5 성격 특성 (Big Five Personality Traits)' 점수를 부여하여 개성 있게 행동하도록 유도했습니다.
- 기억 (Memory): 상호작용 이력 (Memory Length, $L_m$ ) 을 프롬프트에 포함시켰습니다. $L_m$ 은 0(현재 상태만), 1, 2, 3 으로 변화시켰습니다.
- 프롬프트 구조: 현재 상태 (위치, 점수), 성격, 이웃 정보, 그리고 선택된 기억 길이의 상호작용 이력을 JSON 형식으로 입력받게 하여, 다음 행동 (이동, 협력/배신) 과 그 추론 (Reasoning) 을 생성하도록 했습니다.
사용된 모델 비교:
1. Gemini 2.0 Flash: 안전성과 일반 사용자 상호작용을 위해 강화학습 (RLHF) 을 거친 상용 모델 (높은 정렬 수준).
2. Gemma 3:4b: 개발자용 오픈 가중치 모델로, 상대적으로 가벼운 정렬 (Alignment) 을 가짐.
실험 설정: 100 개의 에이전트, 500 스텝, 다양한 $L_m$ 조건에서 10 회 독립 실험을 수행했습니다.

3. 주요 결과 (Key Results)

A. 기억 길이에 따른 집단 역학의 변화 (Gemini 2.0 Flash)

경향: 기억 길이가 증가할수록 협력이 급격히 감소했습니다.
- $L_m=0$ : 안정적인 협력 군집 형성 (Class B).
- $L_m=1$ : 협력 군집의 형성과 붕괴가 반복되는 주기적 역학 (Class C).
- $L_m=2, 3$ : 에이전트들이 고립되고 배신자가 우세한 산발적 상태 (Class A) 로 전환.
통계: $L_m=1$ 에서 협력율의 변동성이 가장 컸으며, $L_m=3$ 에서는 협력율이 0.0776 까지 떨어졌습니다.

B. 성격 특성과 행동의 상관관계

친화성 (Agreeableness): 협력율 및 이웃 수와 강한 양의 상관관계, 이동 거리와 음의 상관관계 (협력적이며 군집을 형성).
외향성 (Extraversion): 이동 거리와 양의 상관관계 (탐색적 행동).
신경증 (Neuroticism): 협력율과 음의 상관관계 (위험 회피 성향으로 인한 위축).
의의: 이러한 결과는 인간 참가자 실험 결과와 부분적으로 일치하여 모델의 타당성을 입증했습니다.

C. 다른 LLM 모델과의 비교 (Gemma 3:4b)

정반대의 경향: Gemini 와는 완전히 반대되는 결과가 나타났습니다.
- $L_m=0$ : 배신이 우세하고 협력 군집이 형성되지 않음.
- $L_m$ 증가 (1→3): 기억이 길어질수록 협력이 증가하고 밀집된 협력 군집이 형성됨.
- $L_m=3$ 에서 협력율은 약 0.77 로 상승했습니다.
결론: 동일한 게임 설정과 파라미터에서도 사용된 LLM 모델에 따라 기억과 협력 간의 관계가 질적으로 정반대로 나타났습니다.

D. 미시적 인지 과정 분석 (감정 분석)

추론 텍스트 분석: 에이전트의 추론 문장에서 '기억' 관련 키워드를 추출하여 감정 분석 (Sentiment Analysis) 을 수행했습니다.
- Gemini: 기억 길이가 길어질수록 기억에 대한 해석이 부정적으로 변했습니다 (과거의 배신 경험에 대한 방어적, 위험 회피적 반응).
- Gemma: 기억 길이가 길어질수록 기억에 대한 해석이 부정적에서 중립/긍정적으로 변했습니다 (과거의 협력 경험을 장기적 관계 구축의 기반으로 인식).
초기 단계 분석: 집단 역학이 수렴하기 전 초기 단계 ( $t \le 30$ ) 에서도 이 감정 패턴의 차이는 유지되었습니다. 이는 모델의 내재적 속성임을 시사합니다.

4. 주요 기여 (Key Contributions)

모델 특이적 특성 (Model-Specific Characteristics) 의 발견: LLM 기반 사회 시뮬레이션에서 기억의 효과가 보편적이지 않으며, 모델의 정렬 (Alignment) 및 학습 데이터 등 모델 고유의 특성에 의해 결정됨을 최초로 입증했습니다.
이전 연구의 모순 해명: 기존 문헌에서 보고된 '기억이 협력을 증진한다' vs '기억이 협력을 저해한다'는 상반된 결론이 게임 이론적 파라미터의 차이가 아니라, 에이전트의 내부 모델 (Internal Model) 이 기억을 해석하는 방식의 차이에서 비롯되었음을 미시적 수준에서 설명했습니다.
GABM 의 타당성 검증: LLM 에이전트가 인간 실험 결과와 유사한 성격 - 행동 상관관계를 보이며, 고전적 수리 모델 (징벌의 덫 vs 기억 강화 상호성) 의 메커니즘을 재현할 수 있음을 보여줌으로써 생성형 에이전트 기반 모델링의 생태학적 타당성을 강화했습니다.

5. 의의 및 시사점 (Significance)

이론적 의의: LLM 기반 다중 에이전트 시스템에서 나타나는 사회적 역학은 상호작용 규칙보다는 모델에 내재된 암묵적 성향 (Implicit Dispositions) 에 의해 지배될 수 있음을 보여줍니다.
실용적 시사점: LLM 에이전트를 활용한 자동화 워크플로우나 다중 에이전트 시스템을 설계할 때, 단순히 규칙을 설정하는 것을 넘어 사용된 모델의 고유한 행동 성향과 정렬 특성을 이해하고 특성화하는 것이 예측 가능하고 신뢰할 수 있는 사회 시스템을 구축하는 전제 조건임을 강조합니다.
미래 방향: 모델별 추론 패턴을 더 깊이 이해하기 위해 'LLM-as-a-Judge' 접근법이나 정성적 기억 표현 확장 등의 후속 연구가 필요함을 제시합니다.

이 연구는 LLM 이 단순한 도구를 넘어, 그 자체의 특성이 시뮬레이션된 사회의 거시적 결과를 근본적으로 결정하는 주체임을 보여주는 중요한 사례입니다.