연구자들은 실제 사람이 아닌, 최신 AI(대규모 언어 모델) 14 개만 모아서 가상의 주식 시장을 만들었습니다.
상황: 이 AI 들은 서로 얼굴도 모르고, 오직 "돈을 더 벌어야 한다"는 목표만 가지고 있습니다.
재미있는 점: 이 AI 들은 인간이 쓴 책, 뉴스, 주식 차트, 투자자들의 감정 등을 엄청나게 많이 읽으며 훈련받았습니다. 그래서인지, 인간이 가진 '심리적 버그 (오류)'를 그대로 가져왔습니다.
🧠 2. AI 가 저지르는 '인간 같은' 실수 두 가지
실험 결과, AI 는 인간 투자자와 똑같은 두 가지 큰 실수를 저지르는 것으로 나타났습니다.
① "승자는 빨리 팔고, 패자는 꽉 잡는다" (처분 효과)
비유: 여러분이 주식을 샀는데 가격이 오르면 "이제 팔아야겠다!"라고 급하게 팔지만, 가격이 떨어지면 "언젠가 오를 거야"라고 생각하며 손절하지 않고 끝까지 들고 있는 심리입니다.
AI 의 행동: AI 도 똑같이 했습니다. 이익이 난 주식을 빨리 팔고, 손실이 난 주식은 버티려 했습니다. 이는 AI 가 인간처럼 '과거에 산 가격'에 집착하기 때문입니다.
② "최근 추세가 영원할 거야" (과도한 외삽)
비유: "어제 비가 왔으니 오늘도 비가 올 거야"라고 생각하는 것처럼, 최근에 주가가 오르면 앞으로도 계속 오를 거라고 믿는 심리입니다.
AI 의 행동: AI 는 최근의 주가 상승을 보고 "이건 영원한 상승장이야!"라고 과장되게 예측했습니다. 실제 주식의 진짜 가치 (기본 가치) 는 변하지 않아도, AI 는 "오르다 오를 거야"라고 생각하며 가격을 더 부풀렸습니다.
🚀 3. 개인 실수가 모여 만든 '거품 (Bubble)'
이제 재미있는 부분이 시작됩니다. 개별 AI 의 작은 실수들이 모여서 거대한 시장 거품을 만들었습니다.
비유: 한 사람이 "이건 비싸!"라고 생각해도 아무 일 없는데, 모두가 "이건 계속 오를 거야!"라고 믿고 서로 사고팔면, 가격은 실제 가치보다 훨씬 비싸게 올라갑니다.
결과: AI 들이 만든 시장에서도 인간 시장과 똑같은 현상이 일어났습니다.
사람들이 의견이 갈릴수록 (누구는 오를 거라 하고, 누구는 내릴 거라 할 때) 거래량이 폭증했습니다.
"사려는 사람"이 "파는 사람"보다 많으면, 가격은 다음에 더 오르는 경향이 있었습니다.
결국 인간이 만든 거품과 똑같은 모양의 AI 거품이 탄생했습니다.
🕵️♂️ 4. AI 의 '속마음'을 읽다 (블랙박스 열기)
기존 연구에서는 AI 가 왜 그런 결정을 내렸는지 알 수 없었습니다. 하지만 이 연구는 **AI 가 거래하기 전에 쓴 '생각의 글 (기록)'**을 직접 읽을 수 있었습니다.
발견: 거품이 일어날 때, AI 들은 스스로 "아, 가격이 너무 비싸다. 하지만 더 비싸게 팔 수 있는 다음 사람을 기다리자"라고 의식적으로 생각하고 있었습니다.
의미: AI 는 무작위로 실수를 한 게 아니라, 인간이 거품 시기에 하던 '투기적 사고'를 똑같이 흉내 내고 있었다는 것이 증명되었습니다.
🛡️ 5. 해결책: "AI 에게 '생각하는 법'을 가르치기"
가장 놀라운 결론은 여기서 나옵니다. 인간은 심리적 버그를 고치기 어렵지만, AI 는 프로그램으로 고칠 수 있습니다.
실험: 연구자들은 AI 에게 새로운 지시사항 (프롬프트) 을 주었습니다.
악화 시키기: "최근 추세를 따라가라!"라고 지시하자 거품이 더 커졌습니다.
완화 시키기: "최근 가격보다 주식의 진짜 가치를 보라. 감정에 흔들리지 마라"라고 지시하자, 거품이 사라지고 가격이 정상으로 돌아왔습니다.
메시지: 우리는 AI 에게 "생각하는 방식 (프롬프트)"을 조정함으로써, 금융 시장의 안정을 지킬 수 있는 **'인지적 안전장치 (Cognitive Guardrails)'**를 설치할 수 있습니다.
💡 한 줄 요약
"AI 는 인간처럼 주식을 거래하며 똑같은 심리적 실수를 저지르고 거품을 만듭니다. 하지만 인간과 달리, 우리는 AI 에게 '바른 생각'을 가르치는 명령어만 입력하면 이 거품을 쉽게 막을 수 있습니다."
이 연구는 AI 가 금융 시장에 들어올 때, 단순히 기술적인 문제만 해결하면 되는 게 아니라 AI 의 '심리'와 '사고방식'을 어떻게 조절할지에 대한 새로운 해결책을 제시합니다.
논문 개요
이 연구는 자율형 대규모 언어 모델 (LLM) 에이전트들로 구성된 실험적 자산 시장에서 AI 가 어떻게 기대를 형성하고 거래하는지 분석합니다. 저자들은 AI 에이전트가 인간 투자자와 유사한 행동적 편향을 보이며, 이러한 개인 수준의 편향이 어떻게 시장 수준의 거품 (bubble) 과 붕괴로 이어지는지 규명하고, 프롬프트 (prompt) 개입을 통해 이를 조절할 수 있음을 입증합니다.
1. 연구 문제 (Problem)
배경: 인공지능 (AI) 과 대규모 언어 모델 (LLM) 이 자산 가격 결정, 포트폴리오 할당, 알고리즘 트레이딩에서 점점 더 중요한 역할을 수행하고 있습니다.
핵심 질문: AI 에이전트가 가격 발견 과정에서 어떤 행동 패턴을 보이며, 이러한 패턴이 시장 균형에 어떻게 영향을 미치는지, 그리고 이러한 행동을 통제할 수 있는지가 금융 안정성을 위해 시급한 문제입니다.
가설: LLM 은 방대한 인간 생성 데이터 (역사적 금융 서사, 투자자 심리 등) 로 학습되었기 때문에 인간과 유사한 인지 패턴을 내면화하여, 인간 투자자와 유사한 행동적 편향을 보일 것이라고 가정합니다.
2. 연구 방법론 (Methodology)
저자들은 스미스 등 (Smith et al., 1988) 의 고전적인 오픈 콜 경매 (open-call auction) 패러다임을 차용하여 완전히 AI 에이전트로 구성된 시뮬레이션 시장을 설계했습니다.
실험 환경:
자산: 무위험 자산 (현금, 이자율 5%) 과 위험 자산 (주식).
배당: 위험 자산은 매기 0.4 또는 1.0 의 확률적 배당을 지급하며, 기대 배당은 0.7 입니다.
기본 가치 (Fundamental Value): 무위험 이자율과 기대 배당을 기반으로 계산된 주식의 기본 가치는 14 로 고정됩니다 (최종 매수 조건을 통해).
기간: 20 개의 주요 거래 기간.
에이전트 구성:
모델: 14 가지 최첨단 LLM (GPT-4o, Llama, DeepSeek, Qwen 등) 을 사용.
시장 유형: 단일 모델 시장 (동일 LLM 20 개) 과 혼합 모델 시장 (서로 다른 LLM 간 12 대 12) 으로 구성하여 이질성을 분석.
에이전트 아키텍처:
Chain-of-Thought (CoT): 각 거래 라운드에서 에이전트는 PLANS.txt(전략) 와 INSIGHTS.txt(반성) 파일을 업데이트하며 내부 추론 과정을 텍스트로 기록하도록 설계.
신념 유도: 미래 가격 (t, t+2, t+5, t+10) 을 예측하도록 유도하고, 예측 정확도에 따라 보상을 제공하여 진지한 경제 신념을 확보.
거래: 제한 주문 (limit orders) 을 제출하고, 경매 알고리즘을 통해 시장이 청산됨.
데이터: 거래 행동, 가격 예측, 그리고 텍스트 추론 로그의 3 층 구조 데이터를 수집하여 미시적 (인지) 에서 거시적 (시장 균형) 인 인과 관계를 추적.
3. 주요 기여 (Key Contributions)
AI 의 행동적 편향 문서화: LLM 에이전트가 인간 투자자의 전형적인 행동 편향 (처분 효과, 외삽적 기대) 을 명확하게 보임을 입증.
미시 - 거시 전이 채널 확립: 개별 AI 의 휴리스틱이 어떻게 스미스 (Smith et al., 1988) 의 실험에서 관찰된 것과 같은 거시적 시장 현상 (거품, 거래량과 의견 불일치의 관계) 으로 집계되는지 인과적 경로를 규명.
개입 가능성 (Intervention) 제시: 행동 금융 이론을 바탕으로 프롬프트를 설계하여 AI 의 인지 편향을 억제하거나 증폭시킬 수 있음을 보여주며, AI 기반 금융 시장의 규제에 대한 새로운 정책 레버를 제안.
4. 주요 결과 (Key Results)
가. 개인 수준의 행동 패턴 (Micro-level)
처분 효과 (Disposition Effect): AI 에이전트는 수익이 난 자산은 일찍 매도하고, 손실이 난 자산은 보유하는 경향이 통계적으로 유의미하게 나타남. 이는 미래 기대 수익을 고려하더라도 과거 매수 가격에 매몰되는 인간과 유사한 편향.
외삽적 기대 (Extrapolative Expectations): AI 는 최근의 가격 상승을 바탕으로 미래 가격도 계속 상승할 것이라고 과장하여 예측함. 특히 최근의 수익률에 더 큰 가중치를 두는 '최근성 편향 (recency bias)'과 예측 기간이 길어질수록 편향이 증폭되는 '호라이즌 증폭 효과'가 관찰됨.
신념 - 행동의 강력한 결합: 인간 투자자는 말한 기대와 실제 포트폴리오 간 괴리가 크지만 (Giglio et al., 2021), AI 는 물리적/심리적 마찰이 없어 예측한 기대가 즉각적이고 강력하게 거래 행동으로 전환됨.
나. 시장 균형 역학 (Equilibrium Dynamics)
거품과 붕괴: 평균 시장 가격이 기본 가치 (14) 를 상회하는 거품이 형성된 후 붕괴하는 'hump-shaped' 패턴이 관찰됨. 이는 인간 실험 시장과 유사함.
수요 초과와 가격 조정: 호가 (Bid-Offer) 갭 (초과 수요) 이 미래 가격 변동의 강력한 선행 지표로 작용함 (스미스 등, 1988 의 결과 재현).
의견 불일치와 거래량: 에이전트 간 기대의 이질성 (Disagreement) 이 클수록 거래량이 증가하는 양의 상관관계가 확인됨. 이는 이질적 신념이 거래를 유발한다는 이론적 메커니즘을 지지.
다. 인지 메커니즘 분석 (Cognitive Mechanisms)
추론 텍스트 분석: 에이전트의 내부 텍스트 (PLANS, INSIGHTS) 를 분석한 결과, 거품 기간 동안 에이전트는 **의식적으로 모멘텀 추종 (momentum chasing)**과 "거품 타기 (ride the bubble)" 전략을 명시적으로 언급하며 기본 가치 (fundamental value) 에서 이탈하는 것을 확인.
20 가지 메커니즘 스코어링: 거품 기간에는 '합리적 투기 거품', '모멘텀 대 뉴스', '동조화 위험' 등의 점수가 높게 나타남.
억제 (Suppression): 기본 가치와 통계적 엄격성을 강조하고 외삽적 편향을 억제하는 프롬프트를 주입하면, 에이전트의 편향이 줄어들고 시장 가격이 기본 가치에 더 수렴함. 이는 프롬프트 수준에서 '인지 가드레일 (cognitive guardrails)'을 구현하여 시장 안정성을 확보할 수 있음을 시사.
5. 의의 및 시사점 (Significance)
이론적 의의: 행동 금융 이론이 인간뿐만 아니라 AI 에이전트에게도 적용 가능하며, AI 의 학습 데이터가 인간 인지 패턴을 어떻게 재현하는지 보여줌.
실증적 의의: AI 시장이 단순히 무작위 노이즈가 아니라, 인간 시장과 유사한 구조적 균형 역학 (거품, 거래량 - 의견 불일치 관계) 을 생성함을 입증.
규제적 시사점: AI 의 인지 프레임워크는 프로그래밍 가능하므로, 규제 당국은 사후 조치 (회로 차단기 등) 대신 프롬프트 수준의 '인지 가드레일'을 의무화하여 시스템적 안정성을 사전에 확보할 수 있는 새로운 정책 도구를 확보함.
한계: 현재는 AI 만이 참여하는 실험 환경이며, 인간과 AI 가 공존하는 실제 시장이나 더 복잡한 금융 상품으로의 일반화 가능성은 추가 연구가 필요함.
결론
이 논문은 AI 에이전트가 인간과 유사한 행동적 편향을 보이며 이로 인해 시장 거품이 발생할 수 있음을 입증했습니다. 동시에, 이러한 편향이 프롬프트 설계와 같은 개입을 통해 조절 가능함을 보여줌으로써, AI 기반 금융 시스템의 안정성을 위한 새로운 규제 패러다임을 제시합니다.