📄 other

Humans Disengage, Reasoning Models Persist: An Item-Controlled Dissociation in Deliberation Allocation

이 논문은 숙고 할당(deliberation allocation)에 있어 인간과 대규모 추론 모델(LRM) 사이의 결정적인 괴리를 밝히는데, 즉 두 집단 모두 전반적으로 어려운 문제에 더 많은 시간을 소비한다는 점은 유사하지만, 인간은 결국 틀린 문항에 대해서는 시간을 덜 투자하는 반면(어려운 과업을 포기함), LRM은 역설적으로 실패한 문제에서 더 긴 추론 흔적을 생성한다는 점(불확실성 속에서도 지속함)은 표면적인 유사성에도 불구하고 정지 및 제어 정책에서의 근본적인 차이를 부각한다.

원저자: Han-yu Wang

게시일 2026-07-23

📖 5 분 읽기🧠 심층 분석

CC BY 4.0

원저자: Han-yu Wang

원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 아주 어려운 수학 시험을 치르고 있는 두 명의 서로 다른 학생을 지켜보고 있다고 상상해 보세요. 한 명은 아주 똑똑한 인간 십 대이고, 다른 한 명은 문제를 단계별로 "생각하며" 풀도록 설계된 초지능형 컴퓨터 프로그램입니다. 오랫동안 과학자들은 이 둘을 어떻게 비교할 수 있을지에 대해 매료되어 왔습니다. 그들은 표면적인 유사성을 발견했습니다. 문제가 까다로워지면 인간과 컴퓨터 모두 그 문제에 더 많은 시간을 소비한다는 점입니다. 이것은 마치 자동차의 속도계를 보는 것과 같습니다. 길이 가팔라지면 두 운전자 모두 속도를 줄입니다. 이러한 관찰은 컴퓨터가 인간과 유사한 정신적 기어를 사용하여 어떤 문제가 어렵고 쉬운지를 파별함으로써, 인간과 비슷하게 "생각"하기 시작했다는 믿음을 낳았습니다.

하지만 여기에 반전이 있습니다. 두 운전자가 똑같이 가파른 언덕에서 속도를 줄인다고 해서, 그들이 같은 방식으로 운전하고 있다는 뜻은 아닙니다. 한 운전자는 커브를 조심스럽게 통과하기 위해 속도를 줄이는 것일 수도 있고, 다른 운전자는 무엇을 해야 할지 몰라 지도만 멍하니 바라보며 혼란스러워하느라 속도를 줄이는 것일 수도 있습니다. 인공지능과 인간 심리학계의 큰 질문은 이것입니다. 어떻게 이 생각하는 존재들은 계속 시도할지, 아니면 포기할지를 결정하는가? 그들은 자신이 어려워하는 문제에 더 많은 노력을 기울이는가, 아니면 손실을 줄이기 위해 물러나는가? 이를 이해하는 것은 단순히 수학 점수에 관한 것이 아닙니다. 이것은 컴퓨터가 진정으로 우리처럼 추론하는 법을 배우고 있는 것인지, 아니면 단지 동일한 내부 논리 없이 생각하는 '모습'만을 흉내 내고 있는 것인지를 밝혀내는 일입니다.

거대한 "사고"의 불일치

연구자 한유(Han-yu Wang)의 새로운 연구는 이 미스터리의 층위를 벗겨내어 눈앞에 숨겨진 놀라운 비밀을 찾아냈습니다. 인간과 고급 "추론" AI 모델은 어떤 문제가 어려운지에 대해서는 서로 동의하지만, 그 문제에 대해 무엇을 할 것인가에 대해서는 완전히 의견이 엇갈립니다.

비디오 게임을 생각해보세요. 플레이어가 너무 강력한 보스를 만났을 때, 영리한 인간 플레이어는 "지금은 너무 어렵다"라고 깨닫고, 다른 전략을 시도하거나 다른 레벨로 이동하는 등 시간을 낭비하지 않기로 결정할 수 있습니다. 그들은 몰입을 중단합니다. 하지만 이 연구에 따르면 AI는 정반대로 행동합니다. AI는 문제를 틀렸을 때 멈추지 않습니다. AI는 틀린 답을 내놓기 전까지 훨씬 더 많은 텍스트, 더 많은 "생각", 그리고 더 많은 단계를 생성하며 계속 나아갑니다.

핵심 발견: "틀림" vs "맞음"의 간극
이 연구는 인간과 6개의 서로 다른 AI 모델이 동일한 시각적 퍼즐(H-ARC라고 불림)을 해결하는 방대한 데이터를 조사했습니다. 연구진은 두 가지를 측정했습니다:

등록(Registration): 그들은 어떤 퍼즐이 어려운지에 대해 동의했는가? 예. 인간과 AI 모두 어려운 퍼즐에서 더 많은 시간이 걸렸습니다.
할당(Allocation): 문제를 틀렸을 때, 그들은 문제를 맞혔을 때와 비교하여 시간을 더 많이 썼는가, 아니면 적게 썼는가? 아니오. 여기서 그들은 갈라집니다.

인간: 인간이 퍼즐을 틀렸을 때, 인간은 문제를 맞혔을 때보다 그 문제에 더 적은 시간을 썼습니다. 데이터에 따르면 "코헨의 d(Cohen's d)" 값은 -0.10입니다. 이는 "포기" 전략을 시사합니다. 만약 인간이 막혔다고 느끼면, 종종 빠르게 생각을 멈춥니다.
AI 모델: AI가 문제를 틀렸을 때, AI는 훨씬 더 많은 시간을 썼습니다. AI 모델들은 1.47에서 3.13 사이의 "코헨의 d" 값을 보여주었습니다. 이는 AI가 분명히 실패하고 있음에도 불구하고 계속해서 "생각"(토큰)을 쏟아냈음을 의미합니다.

이 논문은 이것이 단순한 작은 오류가 아니라, 어떻게 "생각"하는지에 대한 근본적인 차이라고 주장합니다. 인간의 패턴은 몰입 대 포기의 형태를 띱니다. 우리는 해결할 수 있다고 생각하는 문제에는 머물고, 할 수 없는 문제에서는 그만둡니다. 반면 AI의 패턴은 불확실성 기반의 길이를 보입니다. AI가 불확실할 때, 그것은 도움이 되지 않더라도 더 긴 추론의 사슬을 생성하며 계속 말을 이어갑니다.

"흔적"의 단서들

AI가 왜 이렇게 행동하는지 이해하기 위해, 연구진은 AI가 생성한 실제 텍스트(그것의 "사고 흔적")를 살펴보았습니다. 그들은 AI가 문제를 틀리기 직전에, 텍스트가 "헤징(hedging, 확언을 피함)"과 "자기 의심"으로 가득 차 있다는 것을 발견했습니다. AI는 "잠깐, 사실은," "흠," 또는 "다시 고려해보자"와 같은 말을 하고 있었습니다. 그것은 경로가 불확각하여 스스로에게 말을 걸고 있었지만, 멈추지는 않았습니다.

대조적으로, 인간이 문제를 빠르게 틀렸을 때는 움직임(예: 퍼즐의 그리드 수정 횟수)이 적었는데, 이는 인간이 이미 그 퍼즐이 노력할 가치가 없다고 결정했음을 시사합니다. 연구는 인간에게 있어 멈추는 결정은 영리한 메타인지적 선택이라고 제안합니다. AI에게 있어 멈추는 결정은 다른 규칙에 묶여 있는 것처럼 보입니다. 즉, AI는 자신이 잘못된 방향으로 가고 있다는 것을 알더라도, 예산(budget)을 다 쓰거나 벽에 부딪힐 때까지 계속 나아갑니다.

이것이 의미하는 바 (그리고 의미하지 않는 바)

이 논문은 AI가 "멍청하다"거나 인간이 "완벽하다"고 말하려는 것이 아닙니다. 대신, AI와 인간은 서로 다른 규칙 책을 가지고 플레이하고 있다고 제안합니다.

AI가 반드시 생각을 못 하는 것은 아닙니다: AI는 "만약 불확실하다면, 더 많은 텍로를 생성하라"라는 규칙을 따르고 있는 것일 수도 있습니다. 이것은 어떤 작업에서는 좋은 전략이 될 수 있지만, 이 퍼즐들에서는 헛된 노력으로 이어집니다.
"사고"는 같지 않습니다: AI가 인간의 추론처럼 보이는 긴 텍스트 사슬을 만들어낸다고 해서, 그것이 인간과 같은 정신적 정지 규칙을 사용하고 있다는 뜻은 아닙니다. 연구는 AI의 "생각"이 혼란스러울 때 쳇바퀴를 도는 햄스터와 같으며, 반면 인간은 길이 가팔라지면 발길을 돌리기로 결정하는 등산객과 같다는 것을 보여줍니다.

연구진은 또한 다른 유형의 퍼즐(직관적 물리 및 이진 추론 등)에서도 이를 테스트했습니다. 패턴은 유지되었습니다. AI는 실수에 대해 추가적인 시간을 계속 쏟아부은 반면, 인간은 시간을 적게 쓰는 경향이 있었습니다. 그러나 특정 유형의 퍼즐(Cortes)에서는 AI의 행동이 약간 변했는데, 이는 "불확실성 기반의 길이" 규칙이 수행되는 특정 게임의 종류에 따라 달라질 수 있음을 보여줍니다.

결론

이 연구는 AI가 생각할 수 없다는 것을 증명하는 것이 아니라, AI와 인간이 생각을 할당하는 방식이 다르다는 것을 증명합니다. 표면적인 유사성(둘 다 어려운 일에 더 오래 걸림)은 깊은 차이를 숨기고 있습니다. 인간은 막혔다고 느낄 때 생각을 멈추는 경향이 있는 반면, AI 모델은 막혔을 때도 계속 생각(하고 말)하는 경향이 있습니다.

저자들은 AI를 진정으로 이해하기 위해서는 단지 얼마나 오래 생각하는지가 아니라, 언제 멈추는지를 보아야 한다고 제안합니다. 그들은 이를 테스트하기 위한 새로운 방법을 제 제안합니다. 만약 AI의 "생각"을 조기에 차단(절단, truncation)한다면, 그 추가적인 단어들이 실제로 도움이 되었는지 아니면 그저 소음이었는지를 알 수 있을 것입니다. 그렇게 하기 전까지, 이 논문은 AI의 "지속성"이 틀린 답에 대한 집착이, 그들의 내부 논리가 우리와 근본적으로 다르다는 신호라고 결론짓습니다. 이는 인간과 같은 AI를 구축하는 경주에서, 우리가 매우 잘 "생각하는 것처럼 보이지만", 언제 멈춰야 할지는 전혀 모르는 기계를 만들고 있을지도 모른다는 점을 상기시켜 줍니다.

기술 요약: 인간은 중단하고, 추론 모델은 지속한다

문제 정의

심사숙고(deliberation)의 인지 과학에서 핵심적인 질문은 에이전트가 언제 사고를 계속할지, 그리고 언제 사고를 중단할지를 어떻게 결정하느냐 하는 것이다. 이전 연구(예: de Varda et al., 2025)는 대규모 추론 모델(LRM)과 인간 사이의 "교차 항목(cross-item)" 정렬을 입증했다. 즉, 두 시스템 모두 객관적으로 어려운 항목에 대해 더 긴 흔적(LRM의 경우 추론 토큰, 인간의 경우 반응 시간)을 생성한다는 것이다. 이는 공유된 난이도 등록(difficulty registration), 즉 과업이 어렵다는 것을 인지하는 능력을 시사한다.

그러나 이러한 표면적 유사성은 **심사숙고 할당(deliberation allocation)**의 잠재적 괴리, 즉 난이도를 등록한 후에 에이전트가 자신의 성공 또는 실패와 관련하여 어떻게 계산 자원을 스케줄링하는지의 문제를 가린다. 본 논문은 항목 간 상관관계만으로는 공유된 추론 메커니즘과 우연한 난이도 등급 매칭을 구분할 수 없다고 주장한다. 핵심 문제는 LRM과 인간이 동일한 항목에 대해 난이도가 고정되었을 때, 정답 및 오답 시도에 대해 심사숙고 자원(시간/토큰)을 동일한 방식으로 할당하는지 여부를 결정하는 것이다.

방법론

본 연구는 공개된 비식별 데이터셋(H-ARC, INTUIT, Cortes)과 6종의 오픈 웨이트 사고형 LRM(예: DeepSeek-R1, Qwen-QwQ, gpt-oss) 및 비사고형 베이스라인(DeepSeek-V3)을 사용하여, 항목 제어 및 결과 조건부 분석을 적용한 2단계 진단(two-level diagnostic) 프레임워크를 채택한다.

1. 2단계 진단

1단계: 난이도 등록 (교차 항목): 서로 다른 항목에 대해 LRM의 흔적 길이와 인간의 반응 시간 사이의 상관관계를 측정한다. 이는 두 시스템이 어떤 항목이 어려운지에 대해 일치한다는 발견을 재현한다.
2단계: 심사숙고 할당 (항목 내): 동일한 에이전트 및 동일한 항목 내에서 심사숙고 길이와 정답 여부 사이의 관계를 측정한다. 이것이 본 연구의 참신한 기여이다. 이는 "에이전트가 정답을 맞히거나 틀렸을 때 각각 더 많은 심사숙고를 수행하는가?"라는 질문을 던진다.

2. 통계적 접근법

지표: 주요 지표는 로그 심사숙고에 대한 d-비율(d-ratio)(Cohen's d)이며, $(\bar{\ell}_{wrong} - \bar{\ell}_{right}) / s_{pooled}$ $(\overset{ˉ}{ℓ}_{w r o n g} - \overset{ˉ}{ℓ}_{r i g h t}) / s_{p oo l e d}$ 로 계산된다.
- 양(+)의 d: 에이전트가 실패 시 더 오래 심사숙고함.
- 음(-)의 d: 에이전트가 성공 시 더 오래 심사숙고함.
통제 변수: 난이도로부터 할당을 분리하기 위해 저자들은 **항목 고정 효과 회귀(item fixed-effects regressions)**를 사용한다. 이는 항목 정체성을 흡수하여, 비교가 동일 항목 내에서의 순수한 정답 여부에 의해 주도되도록 보장한다.
범위: 본 분석은 반복 측정 관점의 엄격한 '에이전트 내' 분석이라기보다 '항목 제어' 방식이다. 데이터는 (항목 $\times$ 모델) 쌍당 하나의 결과만을 제공하기 때문이다. 대조는 동일한 특정 항목을 시도하는 모델들(및 인간) 사이에서 식별된다.

3. 메커니즘 프로브(Mechanistic Probes)

행동적 괴리를 해석하기 위해 저자들은 흔적 내용을 분석했다:

인간 데이터: 반응 시간을 "액션 횟수(grid edits)"로 분해하여 "포기(abandonment, 빠른 오류)"와 "몰입적 실패(engaged failure, 느린 오류)"를 구분했다.
LRM 데이터: 추론 흔적을 분석하여 "자기 의심 마커(hesitation/hedging)", 자기 수정 마커, 어휘 반복률을 확인하여 흔적의 길이가 불확실성과 상관관계가 있는지 조사했다.

주요 결과

1. 할당 격차 (부호 역전)

주요 데이터셋(H-ARC)에서 극명한 해리가 나타난다:

인간: **음(-)**의 d-비율( $d = -0.10$ )을 보인다. 난이도를 통제했을 때, 인간은 틀린 시도에서 더 적은 시간을 소비한다. 이는 몰입 대 포기(engagement vs. abandonment) 정책을 시사한다. 즉, 인간은 해결할 수 있다고 기대하는 항목에는 지속적으로 임하고, 그렇지 않은 항목은 빠르게 포기한다.
사고형 LRM: **양(+)**의 d-비율( $d = 1.47–3.13$ )을 보인다. 난이도를 통제했을 때, LRM은 틀린 시도에서 더 많은 토큰을 소비한다. 이는 불확실성에 따른 길이(length-on-uncertainty) 정책을 시사한다. 모델은 불확실할 때 더 긴 체인을 생성하며, 바로 이때 실패할 가능성이 높다.

2. 견고성 및 일반화

교차 패러다임: 부호 역전 현상은 LRM이 $d > 0$ 을 보이고 인간이 $d \approx 0$ 을 보이는 INTUIT(직관적 물리)에서도 유지된다.
경계 사례 (Cortes): Cortes(이진 관계 추론)에서 LRM 단독의 항목 내 기울기는 양(+)의 방향으로 바뀌지만(H-ARC와 반대), 에이전트 유형과 정답 여부 사이의 상호작용은 여전히 유의미하다. 왜냐하면 인간은 훨씬 더 강한 양의 기울기를 보이기 때문이다. 해리는 생존하지만, 메커니즘 해석은 더 복잡해진다.
베이스라인: 비사고형인 DeepSeek-V3 역시 틀린 시도에서 더 많은 토큰을 소비하는 경향(양의 d-비율)을 보이는데, 이는 이 "불확실성에 따른 길이" 행동이 단순한 '사고' 기능이 아니라 불확실성 하에서의 베이스 모델 생성 특성일 수 있음을 시사한다.

3. 메커니즘 증거

인간의 몰입: 정답 시도에 대한 인간의 양의 항목 내 기울기는 액션 횟수에 의해 매개된다. 빠른 오답(포기)은 느린 오답(몰입적 실패)보다 유의미하게 적은 액션을 가진다. 이는 "몰입 대 포기" 가설을 뒷받침한다.
LRM의 불확실성: H-ARC에서 오답 체인은 훨씬 더 많은 자기 의심/헤징(hedging) 마커를 포함한다. Cortes에서는 더 높은 5-gram 반복률과 낮은 type-token 비율을 보인다. 이러한 표면적 마커들은 모델이 "갇혀 있거나" 불확실하여, 정확도를 개선하지 못한 채 더 많은 토큰을 생성하고 있음을 시사한다.

주요 기여

등록과 할당의 분리: 본 논문은 흔히 혼동되는 두 가지 행동 수준인 '난이도 등록'과 '자원 할당'을 구분한다. LRM과 인간이 어떤 항목이 어려운지에 대해서는 일치하지만(등록), 그 항목에 자원을 어떻게 할당하는지에 대해서는 근본적으로 다르다(할당)는 것을 보여준다.
항목 제어 진단: 항목 정체성을 고정하여 결과 조건부 분석을 수행하는 엄격한 진단법을 도입했다. 이를 통해 교차 항목 상관관계(난이도 등록)가 항목 내 심사숙고 정책과 독립적임을 밝혀냈다.
정렬의 재정의: 본 논문은 흔적 길이에 나타나는 외견상의 일치가 실제로는 정반대의 내부 정책을 숨기고 있는 "표면적 유사성"이라고 주장한다. 이는 인간-LRM의 정렬 문제를 흔적 길이 자체가 아니라 **중단 및 제어 정책(stopping and control policies)**의 문제로 재정의한다.

의의 및 주장

본 논문은 관찰된 해리가 현재의 LRM이 인간과 유사한 메타인지적 제어를 구현하고 있다는 관념에 도전한다고 주장한다.

메타인지적 디커플링(Decoupling): 인간에게서 모니터링(불확실성)은 제어(중단/포기)와 결합되어 있다. 반면 LRM에서는 불확실성 마커(헤징 등)가 오답 시도에서 증가하지만, 이는 중단(stopping)과 약하게 결 결합되어 있다. 즉, 모델은 결과가 틀릴 가능성이 높음에도 불구하고 계속해서 토큰을 생성한다.
자원 합리적 해석: 인간의 패턴은 기대 한계 이득이 사라질 때 계산을 철회하는 자원 합리적 정책과 일치한다. LRM의 패턴은 불확실한 항목에 대해 최종적인 효용과 상관없이 추가 토큰을 할당하는 정책을 시사하며, 이는 정확도보다는 다른 목적(예: 학습 신호, 검증기 보상)을 최적화하는 것일 수 있다.
방법론적 전환: 저자들은 LRM과 인간 인지 모델을 비교하는 향후 연구가 반드시 교차 항목 일치성 테스트와 항목 내 할당 테스트를 병행해야 한다고 강조한다. 교차 항목 상관관계에만 의존하는 것은 공유된 추론 메커니즘을 주장하기에 불충분하다.

한계: 저자들은 데이터가 관찰적임을 명시한다. 즉, 오답 시의 추가 토큰이 '제로(0)'의 가치를 가진다는 것을 증명한 것이 아니라, 단지 그 할당 패턴이 인간의 행동과 반대된다는 것을 보여준 것이다. 저자들은 이 추가 토큰이 "유용한 탐색"인지 아니면 "패딩(padding)"인지를 결정하기 위해 "제어된 절단(controlled truncation)" 실험이 필요하다고 제안한다. 또한 본 연구는 오픈 웨이트 모델에 국한되며 폐쇄형 최첨단 시스템에 대한 테스트는 포함하지 않았다.