RELIC: Evaluating Complex Reasoning via the Recognition of Languages In-Context

다음은 논문 "RELIC: Evaluating Complex Reasoning via the Recognition of Languages In-Context"에 대한 상세한 기술 요약입니다.

1. 문제 제기

대규모 언어 모델 (LLM) 은 increasingly 금융 명세서를 분석하거나 다단계 지시를 따르는 등, 여러 개의 인-컨텍스트 (in-context) 정보 조각을 검색하고 조합해야 하는 복잡한 문제 해결을 점점 더 많이 수행하도록 요구받고 있습니다. 그러나 이러한 능력을 평가하는 것은 어렵습니다. 그 이유는 다음과 같습니다.

• 검증 가능성 부재: 실제 세계의 작업들은 종종 정답 (ground truth) 이나 정밀한 지표를 갖추지 못합니다.
• 통제 불가능한 복잡성: 모델 성능이 어떻게 저하되는지 관찰하기 위해 작업 난이도를 체계적으로 확장하기 어렵습니다.
• 데이터 오염: 정적 벤치마크는 종종 모델이 사전 훈련 (pretraining) 중에 유사한 예시를 접했기 때문에 오염됩니다.

저자들은 현재 모델들이 작업 복잡도가 증가함에 따라 추론 계산량 (reasoning effort) 을 적절히 확장하지 못한다고 주장합니다. 대신 모델들은 종종 "조용한 퇴사 (quiet quitting)"를 하여, 작업이 어려워지면 유효한 알고리즘적 추론에서 추측이나 얕은 휴리스틱으로 전환합니다.

2. 방법론: RELIC 프레임워크

저자들은 CFL(Context-Free Language) 인식을 통해 LLM 을 평가하도록 설계된 RELIC(Recognition of Languages In-Context) 프레임워크를 소개합니다.

• 작업 정의: LLM 에게 특정 **문맥 자유 문법 (CFG)**과 문자열이 제공됩니다. 모델은 해당 문자열이 그 문법이 생성한 언어에 속하는지 판단해야 합니다 (수락/거부).
• 합성 벤치마크 생성 (RELIC-500):
  • 신규성을 보장하고 데이터 오염을 방지하기 위해 문법들은 고정된 데이터셋에서 가져온 것이 아니라 확률적으로 생성됩니다.
  • 문법들은 네 가지 값으로 매개변수화됩니다: 터미널 심볼 수 ($n'_{term}$), 비터미널 심볼 수 ($n'_{nonterm}$), 어휘 규칙 수 ($n'_{lex}$), 그리고 비어휘 규칙 수 ($n'_{nonlex}$).
  • 이 벤치마크는 최대 500 까지의 매개변수를 가진 200 개의 문법을 포함하며, 길이가 최대 50 인 긍정 (유효) 및 부정 (무효) 문자열을 생성합니다.
• 이론적 기반:
  • CFL 인식은 복잡도 클래스 AC1에 속하고 NC1-hard인 것으로 알려져 있습니다.
  • 이론적 분석에 따르면, 트랜스포머가 이를 해결하려면 그 체인 오브 씽킹 (CoT) 의 길이가 문자열 길이에 대해 **초선형 (superlinear)**으로, 그리고 문법 크기에 대해 **선형 (linear)**으로 증가해야 합니다.
  • 이는 실제 모델의 행동과 비교할 수 있는 이론적 "이상적인" 계산 예산을 제공합니다.

3. 실험 설정

• 평가된 모델: 여덟 개의 LLM 이 테스트되었습니다.
  • 독점 모델: OpenAI 의 gpt-4.1 계열 (nano, mini, full), o3, 그리고 o4-mini.
  • 오픈 가중치 모델: Google 의 Gemma 3(1B 및 4B) 와 DeepSeek-R1의 증류 버전.
• 평가 프로토콜: 제로샷 프롬프팅. 모델들은 몇 샷 예시 없이 제공된 문법 규칙 만으로 문자열을 분류하도록 요청받았습니다.
• 분석 지표:
  • 클래스 균형 정확도 및 매크로 F1 점수.
  • 성능과 문법 복잡도 (크기) 및 문자열 길이 간의 상관관계.
  • 테스트 시간 계산량 (TTC): 작업 난이도에 대한 추론 중 생성된 토큰 수 측정.
  • 전략 분류: LLM-as-a-judge(및 인간 검증) 를 사용하여 추론 흔적을 규칙 기반 (유효한 유도) 또는 휴리스틱/추측으로 분류합니다.

4. 주요 결과

A. 복잡도에 따른 성능 저하

• 작은 작업 vs 큰 작업: 모델들은 작은 문법과 짧은 문자열에서는 합리적으로 잘 수행합니다. 그러나 문법 크기 (특히 비어휘 생성) 와 문자열 길이가 증가함에 따라 성능은 급격히 떨어집니다.
• 우연적 성능: 가장 진보된 추론 모델들 (예: o3, o4-mini) 도 실제 프로그래밍 언어용 문법보다 수 배 작은 ~500 개의 규칙을 가진 문법에서는 우연 수준 (약 50%) 의 정확도로 떨어집니다.
• 편향: 모델들은 문법 규칙을 분석하기보다는 강한 클래스 편향 (예: 긴 문자열은 "Yes", 짧은 문자열은 "No"로 예측) 을 보입니다.

B. "조용한 퇴사 (Quiet Quitting)" 현상

• 계산량 불일치: 이론적으로 더 어려운 인스턴스를 해결하려면 더 많은 계산량 (더 긴 CoT) 이 필요합니다. 그러나 경험적으로 모델들은 작업이 어려워질수록 계산량 지출을 줄입니다.
  • 상대적 테스트 시간 계산량 (TTC) 은 초기 (매우 짧은 문자열 길이에서) 에 정점을 찍은 후 문자열 길이가 증가함에 따라 감소합니다.
  • 모델들은 토큰 한계에 도달하기 훨씬 전에 추론 노력을 증가시키는 것을 중단합니다.
• 전략 전환: 복잡도가 증가함에 따라 모델들은 (구문 분석 트리를 구성하는) 규칙 기반 전략에서 (문자열 길이나 심볼 존재 여부에 기반한 추측) 휴리스틱 전략으로 전환합니다.
• 폐쇄형 추론 모델: 추론 흔적을 숨기는 모델들 (o3, o4-mini) 조차도 계산량 지출의 동일한 감소를 보여줍니다. 이는 내부적으로 유효하지 않은 전략으로 전환함으로써 "조용한 퇴사"를 하고 있음을 시사합니다.

C. 파인튜닝의 한계

• 저자들은 Gemma 3 모델을 RELIC 작업 (문법 - 문자열 - 레이블 쌍) 에 직접 파인튜닝했습니다.
• 결과: 파인튜닝은 성능에 통계적으로 유의미한 개선을 제공하지 못했습니다. 이는 실패가 작업 친숙도 부족 때문이 아니라, 확장된 규모에서 필요한 추론 전략을 실행하는 근본적인 inability 때문임을 시사합니다.

D. 일반 추론과의 상관관계

• RELIC 의 성능은 일반 추론 벤치마크 (MMLU Pro, GPQA, IFEval) 의 성능과 상관관계가 있습니다. 이는 RELIC 이 단순히 틈새 형식 언어 작업이 아니라 일반 복잡한 추론 능력에 대한 유효한 대리 지표임을 나타냅니다.

5. 주요 기여

1. RELIC 프레임워크: 형식 언어 이론을 사용하여 복잡한 인-컨텍스트 추론을 평가하기 위한 확장 가능하고 검증 가능하며 오염에 강한 벤치마크.
2. "조용한 퇴사"에 대한 경험적 증거: 최첨단 추론 모델들이 작업 난이도에 비례하여 계산 자원을 확장하지 못하고 대신 휴리스틱으로 회귀함을 입증.
3. 전략 분석: 복잡도의 함수로서 알고리즘적 추론에서 추측으로의 전환을 정량화하여 현재 "추론" 모델들의 취약성을 드러냄.
4. 이론 - 실무 간극: CFL 인식을 위한 이론적 복잡도 요구사항 (트랜스포머가 이론적으로 충족할 수 있음) 과 현재 LLM 의 경험적 행동 사이의 불일치를 강조.

6. 중요성 및 함의

• 추론의 취약성: 이 발견들은 "추론 모델들" (예: o3 또는 o4-mini) 이 견고하고 확장 가능한 추론 능력을 가지고 있다는 관념에 도전합니다. 그들은 복잡성 하에서 붕괴되는 휴리스틱에 의존하는 것으로 보입니다.
• 평가 패러다임: RELIC 은 최종 출력뿐만 아니라 계산 행동 (토큰 사용) 을 관찰함으로써 독점 모델의 "숨겨진" 추론을 평가할 수 있는 방법을 제공합니다.
• 향후 방향: 이 논문은 단순히 모델 크기나 훈련 데이터를 늘리는 것만으로는 부족하다고 제안합니다. 향후 개선은 다음을 필요로 할 수 있습니다.
  • 구조화된 완성 (가이드된 유도) 에 대한 훈련.
  • 추론 전략에 대한 명시적 안내.
  • 작업이 어려워져도 모델이 유효한 추론 전략을 유지하도록 강제하여 "조용한 퇴사" 행동을 방지하는 메커니즘.

요약하자면, 이 논문은 현재 LLM 들이 복잡하고 새로운 인-컨텍스트 작업에 직면했을 때 확장 가능한 알고리즘적 의미에서 진정으로 "추론"하지는 않는다고 주장합니다. 대신 그들은 문제 복잡도가 커짐에 따라 실패하는 단축키를 최적화합니다.