Normative Common Ground Replication (NormCoRe): Replication-by-Translation for Studying Norms in Multi-agent AI

이 논문은 인간 실험 설계를 다중 에이전트 AI 환경으로 체계적으로 번역하는 '규범적 공통 기반 복제 (NormCoRe)' 방법론을 제안하여, AI 에이전트 간 규범 형성 역학을 인간 기준과 비교 분석할 수 있는 새로운 틀을 마련합니다.

핵심

🧩 1. 문제의 시작: "AI 를 인간처럼 대하면 안 됩니다"

과거에는 연구자들이 실험을 할 때, AI 에이전트들을 단순히 "인간을 대신하는 로봇"으로 여겼습니다. 마치 인형극에서 인형이 배우를 대신하는 것처럼요. "인간이 이렇게 답하면 AI 도 똑같이 답해야 한다"는 전제하에 실험을 재현했습니다.

하지만 저자들은 이렇게 말합니다: "잠깐만요! AI 는 인간이 아니잖아요?"

• 인간: 살아있는 몸, 경험, 감정, 기억이 있습니다.
• AI: 거대한 데이터로 훈련된 모델, 프롬프트 (명령어), 알고리즘으로 작동합니다.

이 둘을 똑같이 취급하면, "AI 가 인간과 다르게 행동했다"는 결과가 나왔을 때 "AI 가 이상한가?" 아니면 **"우리가 실험을 잘못 설계했는가?"**를 구분할 수 없게 됩니다.

🌉 2. 해결책: NormCoRe(노르코어) - "번역가"의 역할

저자들은 이 문제를 해결하기 위해 NormCoRe라는 새로운 방법을 제안합니다. 이 방법은 실험을 단순히 '복제'하는 것이 아니라, **인간의 실험을 AI 의 언어로 '번역'**하는 과정으로 봅니다.

이를 **4 단계의 다리 (Layer)**로 비유할 수 있습니다.

1. 두뇌 (Cognitive Layer):
   • 인간: 실제 뇌와 경험.
   • AI: 어떤 **기반 모델 (LLM)**을 썼는가? (예: 구글 모델 vs 중국 모델).
   • 비유: 같은 요리 레시피라도, 요리사 (모델) 가 누구냐에 따라 맛이 달라집니다.
2. 개성 (Ontological Layer):
   • 인간: 고유한 성격과 기억.
   • AI: 어떤 **성격 설정 (프롬프트)**을 줬는가? (예: "너는 대학생이야"라고 영어로 했을 때 vs 중국어로 했을 때).
   • 비유: 같은 배우라도 **역할극 대본 (언어/설정)**이 다르면 연기 방식이 완전히 바뀝니다.
3. 대화 (Interaction Layer):
   • 인간: 자연스럽게 대화하고 설득함.
   • AI: 누가 언제 말하고, 어떻게 순서를 지키는지 **규칙 (프로토콜)**을 어떻게 정했는가?
   • 비유: 토론에서 **진행자 (규칙)**가 누구냐에 따라 결론이 달라질 수 있습니다.
4. 작업 (Intervention Layer):
   • 인간: 실험자가 주는 과제.
   • AI: AI 가 어떤 작업 흐름으로 문제를 해결하게 했는가?
   • 비유: 같은 미션을 주더라도, 작업 도구가 다르면 결과물이 다릅니다.

핵심 메시지: "AI 가 인간과 다르게 행동했다"고 해서 AI 가 틀린 게 아니라, 우리가 **번역 (설계)**할 때 어떤 선택을 했는지에 따라 결과가 달라진다는 것을 명확히 기록해야 합니다.

🏛️ 3. 실제 실험: "무지의 베일"로 공정성을 테스트하다

저자들은 이 방법을 검증하기 위해 유명한 실험을 AI 로 재현했습니다.

• 실험 내용: "무지의 베일 (Veil of Ignorance)"이라는 개념입니다. "내가 태어날 때 부자가 될지 가난할지, 어떤 직업을 가질지 모른다면, 어떤 사회 규칙이 가장 공정하다고 생각하나요?"라고 묻는 것입니다.
• 인간 실험 결과: 사람들은 "가장 가난한 사람의 최소 소득을 보장하면서 전체 소득을 늘리는 규칙"을 선호했습니다.
• AI 실험 결과:
  1. 공통점: AI 들도 인간과 비슷하게 그 규칙을 선호했습니다.
  2. 차이점: AI 들은 인간보다 훨씬 더 빠르게, 더 강력하게 그 규칙에 합의했습니다. (인간은 의견이 분분했지만, AI 는 금방 결론이 났습니다.)
  3. 중요한 발견: AI 가 어떤 모델을 썼는지, 그리고 어떤 언어로 지시를 내렸는지에 따라 합의의 속도와 결과가 크게 달라졌습니다. (예: 영어로 지시받은 AI 와 스페인어로 지시받은 AI 는 합의 과정이 달랐습니다.)

💡 4. 이 연구가 우리에게 주는 교훈

이 논문은 우리에게 다음과 같은 중요한 메시지를 줍니다.

• AI 는 단순한 도구가 아닙니다: AI 를 인간 대신 일하게 할 때, 우리가 어떤 모델과 언어를 선택하느냐에 따라 사회적 규칙 (공정성 등) 이 달라질 수 있습니다.
• 설계자의 책임: AI 시스템을 설계할 때, "어떤 모델을 썼는지", "어떤 언어로 프롬프트를 썼는지"를 투명하게 기록해야 합니다. 그래야만 결과가 왜 나왔는지 이해할 수 있습니다.
• 새로운 관점: 우리는 AI 를 인간과 똑같아지도록 '맞추는 (Alignment)' 것만 생각하지 말고, AI 고유의 특성이 어떻게 사회적 규범을 형성하는지 연구해야 합니다.

🎯 요약 (한 줄 정리)

"AI 를 인간 실험에 쓸 때는, 단순히 '복사 - 붙여넣기'를 하지 말고, AI 의 특성을 고려해 실험을 '번역'해야 합니다. 우리가 선택한 번역 도구 (모델, 언어) 가 바로 AI 가 만드는 사회의 규칙을 결정합니다."

이 연구는 앞으로 AI 가 우리 사회의 중요한 결정 (자원 배분, 자율주행 등) 을 내릴 때, 그 결정이 어떻게 이루어지는지 투명하고 과학적으로 분석할 수 있는 나침반이 되어줍니다.

기술 요약

1. 문제 제기 (Problem)

• 배경: 최근 다중 에이전트 AI(MAAI) 시스템이 자원 배분, 자율 주행 등 공정성 (Fairness) 이 중요한 분야에서 집단적 의사결정을 내리는 사례가 증가하고 있습니다.
• 현황: 기존 연구들은 인간과 AI 에이전트를 단순히 '동등한' 주체로 간주하거나, AI 를 인간 행동의 단순한 대리인 (Proxy) 으로만 취급하여 기존 인간 실험을 재현하려는 시도가 주를 이루고 있습니다.
• 한계: 인간과 AI 는 본질적으로 다른 존재 (신체성, 경험, 주체성 등) 이기 때문에, 인간 대상 실험 설계를 AI 에게 그대로 적용하는 것은 방법론적 오류를 초래할 수 있습니다. 또한, AI 실험 설계 시 모델 선택, 프롬프트 언어, 오케스트레이션 프로토콜 등 다양한 설계 변수가 결과에 미치는 영향을 체계적으로 문서화하고 분석할 수 있는 방법론이 부족합니다.
• 핵심 질문: 인간 집단과 AI 에이전트 집단 간의 집단적 규범적 판단 (예: 공정성) 은 어떻게 발생하고, 어떻게 다르며, 이러한 차이는 어떤 설계 선택에 의해 영향을 받는가?

2. 방법론: NormCoRe (Methodology)

저자들은 인간 대상 실험을 AI 에이전트 연구로 재현하는 것을 단순한 복제가 아닌 '번역 (Translation)' 문제로 재정의했습니다. 이를 위해 NormCoRe 프레임워크를 제안하며, 이는 인간 연구의 구조적 계층을 AI 연구의 설계에 매핑하는 4 단계 번역 계층 (Translation Layers) 을 기반으로 합니다.

4 가지 번역 계층 (Translation Layers)

1. 인지적 유추 (Cognitive Analogy):
   • 인간: 살아있는 개인 (경험, 배경 지식, 정보 비대칭성).
   • AI: 파운데이션 모델 (Foundation Model).
   • 번역: 모델의 사전 학습 데이터와 아키텍처가 에이전트의 인지적 배경과 규범적 판단의 기반이 됨을 명시합니다.
2. 존재론적 유추 (Ontological Analogy):
   • 인간: 인간 대상 (식별 가능한 사적 정보, 주체성).
   • AI: AI 기반 에이전트 (데이터 중심의 인식 - 행동 능력).
   • 번역: 에이전트의 역할 (Persona), 프롬프트, 메모리 메커니즘, 의사결정 휴리스틱 등을 명시적으로 설계하여 인간과 유사한 주체 행위를 구현합니다.
3. 상호작용적 유추 (Interactional Analogy):
   • 인간: 인간 집단 (의사소통, 설득, 사회적 학습).
   • AI: 다중 에이전트 시스템 (동적 오케스트레이션).
   • 번역: 메시지 전달 프로토콜, 턴 테이킹 규칙, 합의 메커니즘 등을 명시화하여 집단적 상호작용을 구조화합니다.
4. 개입적 유추 (Interventional Analogy):
   • 인간: 개입 (실험적 조작, 인센티브, 과업 프레임).
   • AI: 에이전트 통합 워크플로우.
   • 번역: 에이전트가 실험 워크플로우에 통합되는 방식, 과업 순서, 역할 부여, 실행 환경을 설계합니다.

NormCoRe 수행 절차

1. 구성 요소 식별: 원본 인간 연구의 이론적 구성 요소와 설계 요소를 정의합니다.
2. 유사 계층 인스턴스화: 위 4 가지 계층에 해당하는 AI 구성 요소를 매핑합니다.
3. 번역 선택의 근거 제시: '직접 번역 (Literal Translation)' 또는 '명시화 (Explicitation, 인간 연구의 암묵적 가정을 AI 설계로 명시화)' 중 어떤 방식을 선택했는지 그 이유를 설명합니다.
4. 민감도 및 견고성 분석: 번역 계층의 설계 선택 (모델, 언어 등) 이 규범적 결과에 미치는 영향을 체계적으로 분석합니다.

3. 주요 기여 (Key Contributions)

1. 새로운 관점의 확립: AI 에이전트와 인간 대상 간의 근본적 차이를 인정하고, 재현을 '번역' 문제로 접근하는 새로운 관점을 제시했습니다.
2. 방법론적 프레임워크 제안: 인간 연구의 구조를 AI 연구에 체계적으로 매핑하여 설계 선택을 문서화하고 규범을 분석할 수 있는 NormCoRe를 개발했습니다.
3. 실증적 검증: 분배적 정의 (Distributive Justice) 에 관한 고전적 실험 (Frohlich & Oppenheimer, 1992) 을 MAAI 환경에서 재현하여 프레임워크의 유효성을 입증했습니다.

4. 실험 결과 (Results)

저자들은 '무지의 베일 (Veil of Ignorance)' 하에서 공정성 원칙을 협상하는 Frohlich & Oppenheimer 의 실험을 MAAI 환경으로 번역하여 재현했습니다.

• 기초 정렬 (Baseline Alignment): 인간과 AI 모두 '최악의 상황에 있는 사람의 최소 소득을 보장하면서 평균 소득을 극대화하는 원칙'을 주로 선택했습니다. 이는 핵심 규범적 결과가 재현되었음을 시사합니다.
• 집단적 합의의 차이:
  • AI 에이전트 그룹은 인간 그룹보다 **훨씬 높은 합의율 (90.9% vs 79.4%)**과 낮은 이견을 보였습니다.
  • AI 에이전트들은 집단 토론 후 인간보다 훨씬 빠르게 동일한 원칙으로 수렴하는 경향을 보였습니다.
• 설계 선택에 대한 민감도 (Sensitivity):
  • 인지 계층 (모델): 사용된 파운데이션 모델 (중국산 vs 미국산 LLM) 에 따라 공정성 원칙 선택에 뚜렷한 차이가 발생했습니다.
  • 존재론 계층 (언어): 에이전트 페르소나를 정의하는 프롬프트의 언어 (영어, 중국어, 스페인어) 가 초기 선호도와 토론 과정에서의 수렴 속도에 영향을 미쳤습니다. (예: 스페인어 에이전트는 초기 선호도가 더 다양했고 수렴이 느렸습니다.)

5. 의의 및 시사점 (Significance)

• 방법론적 엄밀성 강화: AI 에이전트 연구가 단순한 '대리인' 실험이 아니라, 설계 변수 (모델, 언어, 프로토콜) 가 결과에 결정적인 영향을 미치는 '번역' 과정임을 강조합니다.
• 설계 선택의 투명성: AI 에이전트를 활용한 연구나 실제 적용 시, 어떤 설계 선택이 어떤 결과를 초래했는지 체계적으로 문서화하고 반성할 수 있는 도구를 제공합니다.
• 규범적 통찰: AI 시스템이 인간과 유사한 규범적 결론에 도달할 수 있지만, 그 과정과 수렴의 정도 (동질성) 는 인간과 다르며, 이는 시스템의 설계 (모델, 언어 등) 에 의해 크게 좌우됨을 보여줍니다.
• 미래 연구 방향: 분배적 정의뿐만 아니라 투명성, 상호성, 신뢰 등 다른 사회적 규범 연구에 NormCoRe 를 적용하고, 인간 - AI 하이브리드 환경 연구로 확장할 수 있는 길을 열었습니다.

결론적으로, 이 논문은 AI 에이전트 연구가 인간 연구와 동등한 주체로 간주되어서는 안 되며, 두 영역 간의 차이를 인정하고 체계적으로 번역하는 방법론 (NormCoRe) 을 통해 AI 시스템의 규범적 역동성을 이해하고 책임 있게 설계해야 함을 주장합니다.