기술 요약: 기계의 인간 유사 지능 벤치마킹에 관하여

문제 정의

본 논문은 인공지능(AI) 시스템 평가의 결정적인 공백을 다룬다. 현재의 벤치마크는 모델이 인간과 유사한 인지 능력을 보유하고 있는지 평가하기에는 불충분하다. 최근의 AI 모델들이 다양한 과업에서 높은 성능을 보여주고 있음에도 불구하고, 저자들은 기존의 평가 패러다임이 인간과 기계의 인지적 유사성을 포착하는 데 실패하고 있다고 주장한다.

핵심 문제는 표준 벤치마크가 다음 사항들에 의존한다는 점이다:

1. 인간에 의해 검증된 라벨의 부재: 많은 데이터셋이 실제 인간 반응의 분포를 무시한 채, 큐레이터나 다수결에 의해 도출된 단일 "정답(ground-truth)" 라벨을 사용한다.
2. 변동성 표현의 미흡함: 벤치마크는 인간의 반응 변동성과 불확실성을 폐기하며, 본질적으로 주관적인 과업(예: 도덕적 추론, 유머 감지)조차 단일한 객관적 정답이 있는 것으로 취급한다.
3. 생태적 타당성 결여: 과업들이 지나치게 단순화되어 있어, 현실 세계의 복잡성, 모호성, 맥락적 뉘앙스가 결여되어 있다.

저자들은 인간 수준의 지능(인간의 정확도와 양적으로 대등하거나 이를 능가하는 것)과 인간 유사 지능(오류 프로필, 불확실성 분포, 단계적 신념을 포함하여 인지적 패턴에서 질적인 유사성을 보이는 것)을 구분한다. 그들은 현재의 도구들이 이 두 개념을 혼동하고 있으며, 이로 인해 AI의 능력을 잘못 규정할 수 있다고 주장한다.

방법론

주장을 입증하기 위해 저자들은 상식 및 마음 이론(Theory of Mind, ToM) 추론을 요구하는 것으로 알려진 9개의 기존 AI 벤치마크에 대해 인간 평가 연구를 수행했다.

• 선택된 벤치마크: 사회적 IQA, 도덕적 허용 가능성, 윤리적 질문, 사회적 지지, 아이러니 식별, 블랙 유머, 판타지 추론을 다루는 BIG-Bench(Srivastava et al., 2022)의 7개 과업과, 마음 이론 추론을 위한 BigToM 및 ToMBench.
• 데이터 수집:
  • 참가자: Prolific을 통해 모집된 117명의 참가자.
  • 자극(Stimuli): 9개 벤치마크에서 무작위로 샘플링된 30개의 자극 (총 2,685개의 주석 달린 시행).
  • 절차: 표준적인 다지선다형 선택 대신, 참가자들은 각 답변 옵션에 대해 0–100 슬라이더를 사용하여 점수를 매겼다 (예: "매우 반대"에서 "매우 찬성"까지).
  • 불확실성 측정: 각 평점 이후, 참가자들은 별도의 0–100 척도로 자신의 **확신도(confidence)**를 보고했다. 이 이중 측정 설계는 단계적 판단(신념의 정도)과 인식적 불확실성(그 판단에 대한 확신)을 분리한다.
• 분석: 저자들은 인간의 반응 분포와 신뢰도 수준을 기존 벤치마크의 정답 라벨 및 우연 수준(chance levels)과 비교했다.

주요 결과

인간 재주석(re-annotation) 결과, 표준 벤치마크 라벨과 실제 인간 행동 사이에 상당한 불일치가 드러났다:

1. 정답과의 낮은 일치도: 9개 벤치마크 전반에서 인간의 정확도(벤치마크의 단일 라벨과의 일치도)는 평균 **69.7%**였다.
   • 일부 과업은 우연 수준보다 낮게 나타났다 (예: 사회적 지지는 50%의 우연 수준 대비 45%).
   • 도덕적 허용 가능성(72% 일치), 아이러니 식별(73% 일치), 사회적 IQA(68% 일치)에서 상당한 불일치가 발견되었다.
   • 오직 단순 윤리적 질문만이 높은 일치도(88%)를 보였다.
2. 단계적 신념 vs 이진 라벨: 인간의 응답은 드물게 이진형으로 나타났다. 참가자들은 "비지지적"이라고 라벨링된 자극에 대해 평균 69.4점(0–100 척도 기준)을 주는 등 빈번하게 중간 단계의 평점을 제공했으며, 이는 **단계적 신념(graded beliefs)**이 이진 라벨로는 포착될 수 없음을 나타낸다.
3. 구조화된 불확실성: 참가자들은 다양한 정도의 확신도를 보고했다. 사회적 지지 및 도덕적 허용 가능성과 같은 과업에서는 낮은 확신도 보고가 흔했으나, 아이러니 식별과 같은 다른 과업에서는 서로 다른 견해에 대해 높은 확신을 보이기도 했다. 이는 변동성이 단순한 노이즈나 혼란이 아니라 **구조화된 의견 차이(structured disagreement)**임을 시사한다.
4. 현재 설계의 한계: 본 연구는 단일 정답 라벨에 의존하는 것이 비교의 기준을 오도하며, 인간 인지의 분포적 특성을 모델링하는 데 실패함을 보여준다.

주요 기여 및 권고 사항

본 논문은 미래의 AI 벤치마킹을 개선하기 위해 인지 과학의 모범 사례로부터 도출된 다섯 가지 구체적인 권고 사항을 제안한다:

1. 실제 인간을 기준으로 측정하라: "인간 유사" AI의 정답 라벨은 단순히 큐레이션된 답변이 아니라 인간으로부터 수집된 응답 데이터여야 한다. 이는 단일한 객관적 정답이 존재하지 않는 주관적 과업에서 필수적이다.
2. 인구 분포를 대상으로 평가하라: 모델은 다수결에 의한 하드 라벨(hard labels)이 아닌, 인간 판단의 **전체 분포(soft labels)**를 대상으로 평가되어야 한다. 모델이 인구 수준의 변동성과 하위 집단을 포착할 수 있도록 확률 분포 비교(예: KL 발산, Wasserstein 거리)를 포함해야 한다.
3. 단계성 및 불확실성을 평가하라: 벤치마크는 개별 주석가로부터 단계적 판단과 확신도를 이끌어내고 측정해야 한다. 이는 현실 세계의 의사결정의 미묘함과 인간 추론의 내재적 불측성을 포착하며, 이진 선택이 가리는 부분을 드러낸다.
4. 메타 이론에 기반을 두라: 벤치마크 설계는 (학습 데이터에 의해 오염되었거나 AI에 대한 구성 타당성이 부족할 수 있는 심리학 테스트를 단순히 채택하는 것이 아니라) 인지적 구성 요소(하위 구성 요소 및 관찰 가능한 징후 정의)에 대한 메타 이론으로부터 시작되어야 한다.
5. 인지적으로 풍부한 과업을 설계하라: 여러 인지 과정을 통합하고, 체계적 절제(systematic ablation)(맥락 제거)를 활용하며, 구조화된 모호성을 포함함으로써 자연스러운 행동을 유도하는 과업을 설계해야 한다. 이는 단순한 Q&A 형식을 넘어 AI가 현실의 복잡성과 불확실성을 어떻게 다루는지 평가하는 방향으로 나아가야 함을 의미한다.

의의 및 범위

저자들은 이 연구를 인지 과학자와 AI 연구자 모두를 향한 행동 촉구로 규정하며, 평가 관행을 엄격한 인지 모델링과 일치시킬 것을 강조한다.

• 과학적 가치: 오류 패턴, 편향, 불확실성을 가로지르는 기계와 인간 지능의 엄격한 비교는 두 존재의 본질을 이해하는 데 필수적이다.
• 실용적 가치: 규범적 정답이 존재하지 않는 주관적 과업(도덕적 추론, 사회적 적절성, 유머 등)의 경우, 인간 유사 분포 평가가 필요하다. 반대로 수학이나 단백질 구조 예측과 같이 규범적 표준이 있는 과업의 경우, 인간과 유사한 오류 패턴을 모방하는 것은 역효과를 낼 수 있으며, 본 논문의 권고 사항은 해당 영역을 의도한 것이 아니다.
• 한계: 저자들은 고품질의 인간 데이터를 수집하는 것이 자원 집약적임을 인정하며, 인간 유래 메타 이론을 AI 시스템으로 전이하는 문제는 여전히 열려 있는 과제임을 밝힌다. 저자들은 AI가 모든 인간의 인지적 한계(예: 해로운 편향)를 복제해야 한다고 주장하는 것이 아니라, 인간 변동성의 구조를 이해하는 것이 안전하고 협력적이며 해석 가능한 AI 파트너를 구축하는 데 필수적이라고 주장한다.

결론적으로, 본 논문은 "인간 유사" AI에 대한 진정한 이해를 달성하기 위해서는 단순한 정확도 측정을 넘어 변동성, 불확실성, 그리고 생태적 타당성을 가치 있게 여기는 프레임워크로 나아가야 하며, 이는 수십 년간의 인지 과학 연구에 깊이 뿌리를 두어야 한다고 강조한다.