기술 요약: CENTURIA – 고고학적 도기 메타데이터를 위한 OCR 기반 필드 추출

문제 정의

고고학 연구는 과거 사회의 연대기적 및 경제적 차원을 재구성하는 데 있어 도기를 핵심적인 자료로 활용하며 이에 크게 의존한다. 디지털 기록이 증가하고 있음에도 불구하고, 도기 유물의 기록은 여전히 수기로 작성된 기술적 단면도와 필기체 메타데이터 주석을 포함하는 아날로그 프로세스에 머물러 있다. 설령 이러한 문서들이 사후에 디지털화된다 하더라도, 중요한 발굴 맥락, 유형학적 분류, 인벤토리 번호를 담고 있는 필기체 주석들은 계산적 분석이 불가능한 상태로 남게 된다.

현재의 최첨단 필기 텍스트 인식(HTR) 및 키 정보 추출(KIE) 모델들은 이 영역에서 다음과 같은 중대한 문제에 직면해 있다:

1. 도메인 격차(Domain Gap): 표준 벤치마크(예: IAM, READ)는 순차적인 텍로와 정형화된 읽기 순서에 초점을 맞추고 있어, 고고학 기록에서 발견되는 공간적으로 흩어진 주석, 흐릿한 잉크, 밀집된 도메인 특화 약어 등을 처리하지 못한다.
2. 제로샷 실패(Zero-Shot Failure): 사전 학습된 모델들은 고고학적 용어 처리에 어려움을 겪으며, 이로 인해 높은 전사 오류율이 발생하여 원문 텍스트가 구조적 분석에 활용되기에는 불충분하게 된다.
3. 벤치마크 부재: HTR 및 필드 추출에 대한 체계적인 평가를 제공하는 기존 데이터셋이 존재하지 않아, 유산 관리자들이 자신의 아카이브에 자동화 도구를 도입할 수 있는지 그 타당성을 평가하기 어렵다.

방법론

본 논문은 스캔된 도기 문서를 구조화된 기계 판독 가능 메타데이터로 변환하기 위해 2단계 파이프라인인 **필기 텍스트 인식(HTR)**과 **필드 추출(KIE)**을 제안한다.

1. CENTURIA 데이터셋

저자들은 이 특정 과업을 위한 최초의 벤치마크인 CENTURIA를 소개한다. 이 데이터셋은 오스트리아 카르눈툼(Carnuntum)의 로마 유적지에서 수집된 507개의 전문가 검증 스캔본으로 구성되어 있다.

• 주석(Annotation): 각 기록에는 텍キスト 및 도면에 대한 경계 상자(bounding boxes), 수기 전사본, 그리고 7가지 의미론적 범주(발굴(출처, 프로젝트, 유물 번호 등), 도기 형태, 유물 범주, 출판 유형, 표면 처리, 측정값, 기타)에 걸친 구조화된 필드 수준 레이블이 포함되어 있다.
• 층화(Stratification): 데이터셋은 6번의 발굴 캠페인(1976–2017)에 걸쳐 다양한 필기 스타일, 서기 관습, 문서 상태(예: 취소선이 그어진 텍스트, 겹쳐진 주석)를 포착한다.
• 분할(Split): 비례 층화 무작위 분할을 사용하여 57개의 샘플은 학습(미세 조정)용으로, 450개는 테스트용으로 할당하였다.

2. 모델 및 적응 전략

연구에서는 서로 다른 패러다임에 걸친 5가지 오픈 소스 OCR 모델을 평가한다:

• 2단계 탐지-인식 모델: TrOCR (CRAFT를 이용한 라인 세그멘테이션 포함).
• 전체 페이지 시각-언어 모델(VLMs): olmOCR (1세대), olmOCR2 (2세대, RLVR 학습됨), Florence2 (범용 모델), LightOnOCR (1B 파라미터의 경량 모델).

도메인 격차를 해소하기 위해 세 가지 도메인 적응 전략을 테스트하였다:

• 제로샷 지시 프롬프팅(Zero-shot Instruction Prompting): 도메인 특화 어휘 목록과 지침 제공.
• 퓨샷 프롬프팅(Few-shot Prompting): 입력 컨텍스트에 $k$개의 주석된 예시($k \in \{1, 5, 8\}$) 포함.
• LoRA 미세 조정(LoRA Fine-tuning): 저계수 적응(Low-Rank Adaptation)을 사용하여 소규모 학습 세트($n=57$)에서 매개변수 효율적 미세 조정 수행.

3. 필드 추출

전사된 텍스트를 구조화된 스키마에 매핑하기 위해 두 가지 추출 방법을 비교하였다:

• REGEX 기반: 정규 표현식과 통제된 어휘집(그라운드 트루스 생성 과정과 동일)을 사용하는 규칙 기반 스크립트.
• LLM 기반: 자연어 프롬프팅을 통해 전체 전사 시퀀스로부터 필드를 추론하는 Qwen3-8B 사용.

주요 결과

전사 성능

• 제로샷의 한나계: 모든 모델은 상당한 도메인 격차를 보였으며, 흩어진 텍스트에 대한 측정 지표인 SpACER-M의 에러율은 15.58%에서 32.35% 사이였다. 필드 수준의 정확도(Exact Match Rate, EMR)는 매우 낮았으며(예: olmOCR2는 30.55% EMR 달성), 특히 출판 유형 및 유물 범주와 같은 도메인 특화 필드의 경우 정확도가 거의 0에 수렴했다.
• LoRA의 영향: 단 57개의 샘플로 미세 조정을 수행했을 때 성능이 극적으로 향상되었다.
  • SpACER-M은 olmOCR2와 LightOnOCR 모두에서 **<1.5%**로 떨어졌다.
  • 필드 수준 EMR은 **>89%**로 상승했다 (olmOCR2 92.08%, LightOnOCR 89.40%).
  • 이는 최소한의 전문가 검증 주석 예산만으로도 도메인 격차를 극복할 수 있으며, 제로샷 프롬프팅이나 퓨샷 전략(후자의 경우 LightOnOCR이 반복적인 출력 루프에 빠지는 현상 발생)보다 우수함을 입증한다.

필드 추출 성능

• 전사가 병목 구간: 추출 정확도는 전사 품질에 크게 의존했다. LoRA 미세 조정이 텍스트 품질을 개선함에 따라 추출 정확도도 함께 높아졌으며, 미세 조정된 입력값에 대해서는 REGEX와 LLM 추출기 사이에 유의미한 차이가 없었다 (둘 다 약 90%의 전체 정확도 달성).
• 오류 모드: 주요 실패 원인은 추출 로직의 실패보다는 캐릭터 수준의 OCR 오류(예: 날짜나 측정값에서의 숫자 치환)였다. 짧은 도메인 특화 토큰(예: 표면 처리 약어)은 REGEX 적용 시 누락되는 경향이 있었고, LLM은 이러한 토근에 대해 잘못된 값을 생성(hallucination)하는 경향이 있었다.

실무 배포 휴리스틱

저자들은 아카이브 처리를 자동화하기 위한 교차 파이프라인 신뢰도 추정 전략을 제안한다:

• 네 가지 파이프라인 조합(두 모델 $\times$ 두 추출기)을 실행했을 때, 네 가지 모두가 일치하는 필드는 **98.7%**의 확률로 정답이다.
• "스마트 머지(Smart Merge)" 휴리스틱(다수결 투표 및 충돌에 대한 규칙 기반 해결)을 사용하면, **56.4%**의 문서를 **95.5%**의 필드 정밀도로 자동 승인할 수 있다.
• 이를 통해 유산 관리자는 파이프라인 간 불일치가 발생하는 나머지 약 44%의 문서에만 수동 검토 노력을 집중할 수 있다.

의의 및 주장

본 논문은 CENTURIA가 필기된 고고학적 도기 문서에 대한 HTR 및 필드 추출을 위한 첫 번째 체계적인 벤치마크임을 주장한다. 이 연구의 주요 기여는 수십 년간의 필기 문서로부터 검색 가능한 메타데이터로의 자동 전환이 현실적인 주석 예산 내에서 가능하다는 것을 입증한 데 있다.

저자들이 강조한 핵심 결론은 다음과 같다:

1. 소규모 데이터의 충분성: 높은 정확도의 도메인 적응을 위해 방대한 데이터셋이 필요하지 않다. 약 57개의 전문가 검증 샘플로 미세 조정을 수행하는 것만으로도 전사 에러를 15% 이상에서 1.5% 미만으로 줄이기에 충분하다.
2. 파이프라인 견고성: 제로샷 모델은 실패하지만, LoRA 미세 조정과 교차 파이프라인 검증을 결다면 대규모 아카이브 디지털화를 위한 실행 가능한 워크플로우를 구축할 수 있다.
3. 접근성: 데이터셋, 체크포인트, 코드를 CC-BY-4.0 조건으로 공개함으로써, 저자들은 유산 관리자들이 자신의 아카이브에 이러한 도구를 도입할 때 정보에 입각한 결정을 내릴 수 있도록 돕고자 한다. 즉, 접근 불가능한 시각적 기록에서 구조화되고 계산 가능한 데이터로 전환하는 것을 목표로 한다.

저자들은 일반화 가능성에 대해 신중한 태도를 유지하며, 흩어진 주석이나 약어와 같은 과제는 전 세계적으로 공통적이지만, 교차 아카이브 일반화는 특정 기록 관행, 스크립트 및 언어에 따라 달라질 수 있으므로 추가적인 평가가 필요하다고 언급하였다.