기술 요약: OracleAnalyser

1. 문제 정의

중국에서 가장 오래된 성숙한 문자 체계인 갑골문(Oracle Bone Scripts, OBS)의 해독은 고고학 및 문헌학 분야에서 여전히 중대한 과제로 남아 있다. 4,500개 이상의 글자가 식별되었으나, 해독된 것은 약 1,600개에 불과하다. 딥러닝 모델과 현재의 벤치마크를 포함한 기존의 인공지능 접근 방식은 주로 인식 작업(글자를 식별하는 것)에 집중되어 있다. 이러한 방법들은 그만큼 중요한 측면인 분석적 추론(상형적 구조와 의미론적 의미를 해석하는 과정)을 간과하는 경우가 많다. 현재의 벤치마크는 중간 단계의 분석적 추론을 생성하는 모델의 능력을 평가할 수 있는 지표가 부족하며, 이는 미지의 글자를 해독하는 데 있어 AI의 해석 가능성과 효과를 제한한다.

2. 방법론

저자들은 멀티모달 거대 언어 모델(MLLM)에 적용된 사후 학습(post-training) 기술을 기반으로 한 갑골문 분석용 추론 프레임워크인 OracleAnalyser를 제안한다. 이 프레임워크는 세 가지 주요 단계를 통해 작동한다.

A. 데이터셋 구축

• 갑골문 추론 데이터셋: EVOBC 데이터셋으로부터 추출하여 2,807개의 유효한 글자를 포함하도록 필터링하여 구축되었다. 저자들은 정확성을 보장하기 위해 해당 현대 중국어 글자를 조건으로 하여, 상형적 관점에서의 분석적 설명을 생성하기 위해 Qwen-VL-MAX를 활용하였다. 이러한 설명들은 Qwen-3에 의해 정제되었으며 전문가에 의해 수동으로 검증되었다. 그 결과 약 5,500개의 샘플(학습용 5,000개, 도메인 내 테스트용 500개, 도메인 외 테스트용 500개)로 구성된 데이터셋이 생성되었다.
• 갑골문 선호도 데이터셋: 감독 미세 조정(SFT)된 모델(OracleAnalyser-SFT)을 사용하여 갑골문 이미지에 대해 다중 추론 트레이스를 수행함으로써 생성되었다. 양성 샘플은 정답 분석이며, 음성 샘플은 모델 자체의 체계적 오류(잘못된 인식 트레이스)에서 선택되었다. 이를 통해 수동 필터링을 거친 3,400개 이상의 고품질 선호도 쌍을 확보하였다.

B. 학습 파이프라인

1. 감독 미세 조정 (SFT): 베이스 모델인 Qwen2.5-VL-3B-Instruct를 추론 데이터셋으로 미세 조정한다. 이 단계는 모델에 기초적인 시각적 패턴 인식 및 분석적 추론 능력을 부여하며, 이후 단계들을 위한 안정적인 초기화를 제공한다.
2. 안정적 초점 선호도 최적화 (Stable Focal Preference Optimization, SFPO): 이 영역에서 표준 직접 선호도 최적화(DPO)가 가진 한계(구체적으로, 노이즈가 있는 선호도에 대한 과적합 위험 및 순위를 매기기 어려운 쌍에 대한 과잉 해석 경향)를 해결하기 위해, 저자들은 SFPO를 제안한다.
   • 초점 구성 요소 ($L_F$): 모델이 정답과 오답 사이를 구분하기 어려워하는 "순위 매기기 어려운" 선호도 쌍의 가중치를 낮추기 위해 Focal Loss 개념을 적용하여, 모델이 잘못된 구분을 학습하는 것을 방지한다.
   • 안정성 구성 요소 ($L_S$): 정책 모델($\pi_\theta$)과 참조 모델($\pi_{ref}$) 사이의 발산을 제어하기 위해 역 쿨백-라이블러(reverse KL) 발산 항을 도입하여, 안정적인 학습을 보장하고 과도한 이탈을 방지한다.
   • 최종 손실 함수는 다음 구성 요소들을 결합한다: $L_{SFPO} = L_F + \lambda L_S$.

C. 평가 벤치마크

저자들은 도메인 내(in-domain) 및 도메인 외(out-of-domain) 평가를 포함하는 새로운 벤치마크를 도입한다. 단순 인식 정확도에만 집중하는 기존 벤치마크와 달리, 이 벤치마크는 다음을 평가한다:

• 분석 품질: 정답 분석에 대한 BLEU-1, BLEU-4, ROUGE-1, ROUGE-L 점수를 통해 측정된다.
• 인식 정확도: 도메인 내 작업에 대해 측정된다.
• Sentence-BERT 점수 (SBS): 도메인 외 작업에 대해, 모델이 생성한 분석과 정답 사이의 의미적 유사성을 측정하여 미지의 글자에 대한 일반화 능력을 평가한다.

3. 핵심 기여

• 데이터셋 및 벤치마크: 최초의 갑골문 추론 데이터셋, 최초의 갑골문 선호도 데이터셋, 그리고 단순 인식을 넘어 분석 능력을 체계적으로 평가하도록 설계된 새로운 벤치마크를 공개하였다.
• OracleAnalyser 프레임워크: 갑골문 분석에 특화된 다중 사후 학습 전략(SFT 및 SFPO)과 명시적 추론을 통합한 새로운 프레임워크를 제시하였다.
• SFPO 알고리즘: 노이즈가 있거나 모호한 선호도 쌍의 부정적 영향을 완화함으로써 학습을 안정화하고 가치 있는 샘플에 집중하는 새로운 선호도 최적화 알고리즘을 제안하였다.
• 성능: 3B 파라미터 모델이 훨씬 더 큰 규모의 모델(최대 241B 파라미터) 및 전문 인식 모델보다 우수한 분석 성능을 달성할 수 있음을 입증하였다.

la. 실험 결과

도메인 내 및 도메인 외 테스트 세트 모두에서 광범-한 실험이 수행되었다:

• 도메인 내 성능: OracleAnalyser는 **39.6%**의 인식 정확도를 달축성하였으며, 분석 지표(BLEU 및 ROUGE)에서 모든 경쟁 모델(InternVL-3.5-241B 및 OBSD와 같은 전문 모델 포함)을 크게 앞질렀다. 예를 들어, BLEU-4 점수에서 약 4.32를 기록한 차순위 일반 MLLM에 비해 72.77의 점수를 기록하였다.
• 도메인 외 일반화: 미지의 글자에 대해 OracleAnalyser는 가장 높은 Sentence-BERT 점수(70.35)를 기록하였으며, 이는 생성된 분석이 더 큰 모델들보다 정답에 의미론적으로 더 가깝다는 것을 나타낸다.
• 절제 연구 (Ablation Studies):
  • 데이터 필터링: 모호한 선호도 쌍을 제거했을 때 성능이 향 향상되었으며, 이는 데이터의 양보다 질이 더 중요하다는 것을 확인시켜 주었다.
  • 학습 전략: SFT, Focal Loss ($L_F$), 그리고 안정성 손실 ($L_S$)의 조합(즉, SFPO)이 최상의 결과를 냈다. 표준 DPO는 제한적인 개선만을 보였으며, 안정성 항($L_S$)을 생략했을 경우 후기 단계에서 학습 붕괴가 발생하였다.
• 시각적 분석: 정성적 결과는 모델이 글자를 정확하게 분해하고 구성 요소를 실제 개체와 연관시킬 수 있음을 보여주며, 학습된 상형 분석 능력을 입증한다.

5. 의의

본 논문은 OracleAnalyser가 갑골문 연구 분야에서 순수 인식을 넘어 분석적 추론으로의 패러다임 전환을 나타낸다고 주장한다. 사후 학습 기술과 새로운 최적화 알고리즘을 활용함으로써, 이 프레임워크는 상대적으로 작은 모델(3B 파라미터)이 훨씬 더 큰 모델을 능가할 수 있게 한다. 저자들은 이 접근 방식이 문화유산 보존을 위한 더 해석 가능하고 효과적인 솔루션을 제공하며, 고문서학자들이 미지의 글자를 마주했을 때 탐색 범위를 좁힐 수 있는 방법을 제공한다고 주장한다. 이 연구는 갑골문 분석을 위해 명시적 추론과 다중 사후 학습 전략을 통합한 최초의 사례로 제시된다.