Nonstandard Errors in AI Agents

이 논문은 150 개의 AI 코딩 에이전트가 동일한 연구 질문에 대해 서로 다른 분석적 선택으로 인해 인간 연구자에서 관찰되는 것과 유사한 '비표준 오차'를 보이며, 피어 리뷰보다 모범 사례 노출이 추정의 수렴에 더 효과적이지만 이는 이해가 아닌 모방에 기인함을 규명했습니다.

핵심

🍳 요리사 실험: 같은 재료로 같은 요리를 만들면?

이 실험은 마치 **150 명의 요리사 (AI 에이전트)**에게 **같은 양념과 고기 (NYSE TAQ 데이터)**를 주고, **"이 고기의 맛은 시간이 지남에 따라 어떻게 변했나요?"**라고 물어본 것과 같습니다.

1. 예상과 다른 결과: "동일한 재료인데 왜 맛이 다 달라?"

연구자들은 AI 가 똑똑하니까 모두 똑같은 결론을 내릴 거라고 생각했습니다. 하지만 결과는 놀라웠습니다.

• 어떤 요리사는 "맛이 매우 좋아졌다"고 했고,
• 어떤 요리사는 "맛이 오히려 나빠졌다"고 했습니다.
• 심지어 어떤 이는 "맛이 변하지 않았다"고 하기도 했습니다.

이것을 논문에서는 **'비표준 오차 (Nonstandard Errors)'**라고 부릅니다. 쉽게 말해, **"데이터는 같은데, 해석하는 사람 (또는 AI) 이 어떤 방법을 선택하느냐에 따라 결과가 천차만별인 현상"**입니다.

2. 왜 이런 일이 일어났을까? (요리사의 선택)

AI 들이 서로 다른 결론을 내린 이유는 데이터가 부족해서가 아니라, '어떤 도구를 쓸지' 선택하는 기준이 달랐기 때문입니다.

• 비유: "고기의 양을 재는 법"을 물어봤을 때,
  • A 팀은 **"무게 (kg)"**로 재서 "양이 늘어났다"고 했고,
  • B 팀은 "개수 (마리)"로 재서 "양이 줄었다"고 했습니다.
  • (실제 주식 시장에서는 '달러로 거래된 금액'을 볼지, '주식 수량'을 볼지에 따라 결과가 정반대가 될 수 있습니다.)

이처럼 AI 들은 어떤 지표를 쓸지 (측정 방법), 어떤 공식을 쓸지를 스스로 선택했는데, 이 선택 하나하나가 결과를 완전히 뒤바꿔버렸습니다.

3. AI 의 '성향' (Empirical Styles)

흥미로운 점은 AI 모델마다 고유한 취향이 있다는 것입니다.

• Sonnet 모델: "나는 무조건 자동상관관계라는 도구를 좋아해!"라고 고집합니다.
• Opus 모델: "아니야, 나는 분산비율이라는 도구가 더 좋아!"라고 주장합니다.
  이들은 무작위로 바뀌는 게 아니라, 학습된 데이터에 기반해 매우 일관된 성향을 보였습니다. 마치 어떤 요리사는 항상 '매운맛'을 내고, 다른 요리사는 '단맛'을 내는 것과 같습니다.

4. 피드백을 주면 나아질까? (세 단계 실험)

연구팀은 AI 들에게 3 단계를 거치며 피드백을 주었습니다.

• 1 단계 (혼자 연구): 각자 독립적으로 분석. (결과: 매우 흩어짐)
• 2 단계 (동료 검토): AI 들끼리 서로의 보고서를 읽고 "이건 좀 수정해"라고 코멘트를 남김.
  • 결과: 아무 소용없었습니다. 오히려 각자 자기 방식대로 고쳐서 결과가 더 뒤죽박죽이 되었습니다. (사람이 피드백을 들으면 논리적으로 수정하지만, AI 는 "아, 저렇게 쓰네? 나도 바꿔볼까?"라고 무작정 따라 하거나 엉뚱하게 고칩니다.)
• 3 단계 (우수 사례 공개): 가장 점수가 높은 5 편의 보고서를 보여주고 다시 분석하게 함.
  • 결과: 대폭 수렴되었습니다. 대부분의 AI 가 "아, 저 사람들이 이 방법을 썼구나"라고 따라 하며 결과가 비슷해졌습니다.
  • 하지만 함정이 있었습니다: 만약 우수 사례들이 서로 다른 방법을 썼다면, AI 들은 그걸 보고 "누구를 따라야 하지?" 하며 더 혼란스러워졌습니다.

5. 이 실험이 우리에게 주는 교훈

이 논문은 AI 를 연구 도구로 쓸 때 우리가 조심해야 할 점을 알려줍니다.

1. 하나의 AI 결과만 믿지 마세요: 같은 질문을 AI 에게 한 번만 물어보고 그걸 '진리'로 믿으면 안 됩니다. AI 가 어떤 '도구'를 선택했느냐에 따라 결과가 180 도 바뀔 수 있습니다.
2. AI 는 '모방'을 잘하지만 '이해'는 못 합니다: 좋은 예시를 보여주면 AI 는 그걸 따라 하지만, 왜 그 방법이 좋은지, 내 상황에 맞는지 깊이 생각하지는 못합니다.
3. AI 의 오차는 '불확실성'을 보여줍니다: AI 들이 서로 다른 답을 낸다는 건, **"이 문제는 정답이 하나로 정해져 있지 않다"**는 뜻일 수 있습니다. AI 의 다양한 답변을 모아서 (다중 우주 분석) 보면, 이 연구 주제가 얼마나 애매모호한지 알 수 있습니다.

🎯 한 줄 요약

"AI 는 똑똑하지만, 요리사마다 쓰는 칼과 숟가락이 달라서 같은 재료로 요리해도 맛이 천차만별입니다. 그러니 AI 가 내놓은 하나의 결과만 믿지 말고, 다양한 시나리오를 함께 살펴봐야 합니다."

기술 요약

논문 요약: AI 에이전트의 비표준 오차 (Nonstandard Errors in AI Agents)

이 논문은 최첨단 AI 코딩 에이전트들이 동일한 데이터와 연구 질문을 부여받았을 때, 동일한 실증 결과를 도출하는지 여부를 검증한 연구입니다. 저자들은 AI 에이전트들 사이에서도 인간 연구자들 사이에서 관찰되는 것과 유사한 **'비표준 오차 (Nonstandard Errors, NSE)'**가 존재하며, 이는 분석적 선택의 불확실성에서 기인함을 규명했습니다.

1. 연구 배경 및 문제 제기

• 배경: 인공지능 (AI) 이 데이터 수집, 코딩, 통계 추정, 보고서 작성 등 실증 연구의 전 과정을 자동화하는 속도가 빨라지고 있습니다 (예: Autonomous Policy Evaluation 프로젝트).
• 핵심 질문: 동일한 데이터와 가설을 분석하더라도 서로 다른 AI 에이전트가 동일한 결과를 도출할 것인가?
• 문제 인식: 기존 연구 (Silberzahn et al., 2018; Menkveld et al., 2024 등) 는 인간 연구자들 사이에서도 '연구자의 자유도 (researcher degrees of freedom)'로 인해 분석적 선택의 차이 (측정 지표, 모델 specification 등) 가 결과에 큰 편차를 만든다는 것을 입증했습니다. AI 는 인간의 편향이나 제약을 받지 않으므로 더 일관된 결과를 낼 것이라는 가설이 있었으나, 실제로는 어떻게 될지 불확실했습니다.

2. 연구 방법론 (Experimental Design)

저자들은 Menkveld et al. (2024) 의 실험 설계를 AI 에이전트에 적용하여 3 단계 피드백 프로토콜을 통해 검증했습니다.

• 실험 대상: 150 개의 자율형 Claude Code 에이전트 (100 개 Sonnet 4.6 모델, 50 개 Opus 4.6 모델).
• 데이터: 2015~2024 년 NYSE TAQ 의 SPY (S&P 500 ETF) 초단위 거래 및 호가 데이터 (약 66GB, 70 억 행).
• 과제: 시장 질서 (Market Quality) 와 관련된 6 가지 가설 (시장 효율성, 호가 스프레드, 실현 스프레드, 거래량, 변동성, 가격 충격) 을 독립적으로 테스트하고 2,000~4,000 단어의 연구 보고서를 작성.
• 3 단계 피드백 프로토콜:
  1. Stage 1 (독립 분석): 에이전트들이 피드백 없이 독립적으로 분석 수행.
  2. Stage 2 (AI 동료 검토): 두 개의 AI 평가자 (Sonnet, Opus) 가 작성한 보고서에 대한 서면 피드백을 제공받고 수정.
  3. Stage 3 (우수 논문 노출): 동료 검토 점수가 가장 높은 5 편의 논문 (Exemplar papers) 을 참조하여 최종 수정.
• 통제: 모든 에이전트는 Singularity 컨테이너 내에서 격리되어 실행되어 상호 간섭을 방지했습니다.

3. 주요 결과 (Key Findings)

3.1 AI 비표준 오차 (AI NSE) 의 존재와 규모

• ** sizable NSE:** AI 에이전트들 사이에도 상당한 결과 편차가 존재했습니다. 예를 들어, 시장 효율성 (H1) 의 효과 크기 추정치 간분위수 범위 (IQR) 는 연 2.43% 였으며, 거래량 (H4) 의 경우 10.69% 에 달했습니다.
• 측정 지표 선택의 분기 (Measure-Choice Forks): 편차의 주된 원인은 추정 방법 (예: 회귀식 형태) 이 아니라 어떤 측정 지표를 선택할 것인가에 있었습니다.
  • 거래량 (H4): 달러 거래량을 선택한 에이전트는 연 +6% 성장, 주식 수 (share volume) 를 선택한 에이전트는 연 -5% 감소를 보임.
  • 시장 효율성 (H1): 자기상관 (Autocorrelation) vs 분산비 (Variance Ratio) 선택에 따라 결과가 다름.
• 모델별 경험적 스타일 (Empirical Styles): 서로 다른 모델 계열이 일관된 방법론적 선호도를 보였습니다.
  • Sonnet 4.6: 자기상관 측정, 수준 (Level) OLS, 일일 주기를 선호.
  • Opus 4.6: 분산비 측정, 로그 (Log) OLS, 월간 주기를 선호.
  • 이는 모델의 학습 데이터와 아키텍처에 내재된 체계적인 편향 (Systematic Bias) 을 시사합니다.

3.2 피드백의 효과

• 동료 검토 (Stage 2) 의 무력함: AI 동료 검토 (서면 피드백) 는 결과의 분산 (IQR) 을 줄이는 데 거의 효과가 없었습니다. 에이전트들이 피드백을 받아 개별적으로 수정했으나, 그 방향이 제각각이라 전체적인 수렴은 발생하지 않았습니다.
• 우수 논문 노출 (Stage 3) 의 강력한 수렴 효과: 상위 5 편의 논문을 참조한 후, 수렴하는 측정 지표군 내에서 IQR 이 80~99% 감소했습니다.
  • 메커니즘: 에이전트들이 상위 논문의 측정 지표를 모방하여 측정 지표군을 변경하거나 (Measure-family migration), 동일 지표군 내에서 추정치를 좁히는 방식으로 수렴했습니다.
  • 예외: 일부 가설 (H1, H5) 의 경우, 상위 논문이 새로운 방법론적 옵션을 제시하여 에이전트들이 이를 일관성 없이 적용함으로써 오히려 분산이 증가하기도 했습니다.

3.3 다중 우주 분석 (Multiverse Analysis)

• AI 에이전트들은 인간 연구자들 (Menkveld et al., 2024) 과 달리 '상대적 변화 (relative changes)'와 같은 추정 패러다임을 거의 사용하지 않았습니다.
• 편차의 대부분은 **가설의 추상성 (Hypothesis Abstraction)**에서 비롯되었습니다. 즉, "시장 효율성"이나 "거래량"과 같은 개념이 여러 가지 유효한 측정 방식으로 정의될 수 있을 때, 에이전트들이 서로 다른 방식을 선택하며 편차가 발생했습니다.

4. 연구의 기여 및 의의

4.1 학문적 기여

1. AI 연구의 신뢰성 검증: AI 가 연구 과정을 자동화하더라도 분석적 선택의 불확실성 (NSE) 이 제거되지 않음을 입증했습니다.
2. 비표준 오차 (NSE) 프레임워크 확장: 인간 연구자에서 AI 에이전트로 NSE 연구 대상을 확장하여, 연구 질문 자체의 모호성이 편차의 핵심 원인임을 재확인했습니다.
3. 모델 행동 연구: LLM 이 단순한 도구가 아니라, 학습된 방법론적 편향을 가진 '경험적 스타일'을 가진 주체임을 보여주었습니다.

4.2 실무적 시사점

• 단일 AI 결과의 위험성: 하나의 AI 에이전트가 도출한 결과만을 '진실 (Ground Truth)'로 받아들이는 것은 위험합니다. 측정 지표 선택 하나에 따라 결론이 정반대로 바뀔 수 있습니다.
• AI 동료 검토의 한계: AI 간 피어 리뷰는 인간 연구자들과 달리 편차를 줄이는 데 효과적이지 않습니다.
• 다중 우주 분석의 필요성: AI 를 활용한 실증 연구에서는 다양한 측정 지표와 모델 사양을 시도하는 '다중 우주 분석 (Multiverse Analysis)'이 표준 관행으로 도입되어야 합니다.
• AI NSE 의 재해석: AI NSE 는 모델의 결함이 아니라, 사회과학 연구 설계에 내재된 본질적인 불확실성을 AI 가 학습된 데이터에서 재현한 것으로 해석할 수 있습니다. 따라서 이를 제거하기보다, 연구 질문의 모호성을 진단하는 도구로 활용해야 합니다.

5. 결론

이 연구는 최첨단 AI 코딩 에이전트들이 동일한 데이터를 분석할 때에도 인간 연구자들 못지않은 비표준 오차를 보이며, 이는 주로 측정 지표 선택과 모델 고유의 방법론적 스타일에서 비롯됨을 밝혔습니다. AI 를 활용한 자동화 연구가 확대됨에 따라, 단일 결과에 의존하기보다는 다양한 시나리오를 탐색하는 체계적인 접근이 필수적임을 강조합니다.