DohaScript: A Large-Scale Multi-Writer Dataset for Continuous Handwritten Hindi Text

이 논문은 531 명의 다양한 필체에서 수집된 6 개의 전통적인 힌디어 도하 (doha) 를 동일한 텍스트로 전사한 대규모 병렬 스타일 코퍼스 'DohaScript'를 소개하여, 기존 데이터셋의 한계를 극복하고 연속적인 힌디어 필기 인식 및 분석 연구를 위한 표준 벤치마크를 제시합니다.

핵심

이 논문은 **'도하스크립트 (DohaScript)'**라는 이름의 새로운 데이터셋을 소개하는 연구입니다. 쉽게 말해, 인도어 (힌디어) 로 쓴 손글씨를 인공지능이 잘 읽을 수 있도록 도와주는 거대한 '연습용 교재'를 만든 이야기입니다.

이 복잡한 연구를 일상적인 언어와 비유로 설명해 드릴게요.

1. 왜 이 연구가 필요했을까요? (문제점)

지금까지 인공지능이 손글씨를 읽는 기술 (OCR) 은 영어 (라틴 문자) 에서는 매우 잘 작동합니다. 하지만 **힌디어 (데바나가리 문자)**는 상황이 다릅니다.

• 영어: 알파벳이 따로따로 떨어져 있습니다. (예: a, b, c)
• 힌디어: 글자 위에 긴 가로선 (시로레카, Shirorekha) 이 그어져 글자들을 하나로 연결합니다. 마치 연결된 구슬이나 줄에 꿴 비즈처럼 생겼습니다.

기존에 있던 힌디어 손글씨 데이터는 너무 적었고, 대부분 글자 하나나 짧은 단어만 담고 있었습니다. 마치 알파벳 'A'만 100 번 연습하게 해놓고, 실제 문장을 읽으라고 하는 것과 비슷합니다. 그래서 인공지능이 실제 문장을 읽으려 하면 매우 어려워했습니다.

2. 도하스크립트 (DohaScript) 란 무엇인가요? (해결책)

연구팀은 531 명의 다른 사람으로부터 **힌디어 시 (도하, Doha)**를 한 장씩 받아 모았습니다.

• 동일한 시, 다른 필체: 모든 사람이 똑같은 6 편의 시를 썼습니다. 하지만 사람마다 손글씨 스타일 (필체) 이 다릅니다.
• 비유하자면: 531 명의 요리사가 똑같은 레시피로 요리를 했지만, 각자 손맛이 다 다른 경우입니다.
• 효과: 이렇게 하면 인공지능은 "글자 자체의 의미"가 아니라 **"사람마다 글씨를 쓰는 스타일의 차이"**만 집중해서 배울 수 있습니다.

3. 이 데이터셋의 특별한 점 3 가지

① 다양한 사람, 다양한 스타일 (531 명)

한 명이나 두 명이 쓴 게 아니라, 531 명의 다양한 사람 (남녀, 나이, 지역) 이 참여했습니다.

• 비유: 한 반의 학생들 전원이 똑같은 숙제를 제출했지만, 531 가지의 서로 다른 필체를 볼 수 있는 상황입니다. 인공지능이 다양한 필체를 익히기에 최적입니다.

② '선생님'이 엄격하게 채점 (품질 관리)

모든 제출된 글씨를 그대로 쓰지 않았습니다. 흐릿하거나 너무 지저분한 글씨는 걸러냈습니다.

• 비유: 사진 찍듯이, 초점이 잘 맞고 선명한 사진만 골라내서 **'고화질 버전'**과 **'일반 버전'**으로 나누어 정리했습니다. 인공지능이 배우기 좋은 깨끗한 자료와, 현실적인 난이도를 위한 자료로 구분한 것입니다.

③ 난이도 표시 (쉬움, 보통, 어려움)

글씨를 읽는 것이 얼마나 어려운지 페이지별로 등급을 매겼습니다.

• 비유:
  • 쉬움: 줄이 깔끔하게 나열된 글씨.
  • 보통: 줄이 약간 비틀어지거나 겹치는 글씨.
  • 어려움: 줄이 엉켜서 어디가 끝이고 시작인지 알기 힘든 글씨.
  • 인공지능이 단계별로 훈련할 수 있도록 도와줍니다.

4. 이 데이터로 무엇을 할 수 있나요? (활용)

1. 손글씨 읽기 (OCR): 은행 영수증, 학교 숙제, 편지 등 힌디어 손글씨를 자동으로 텍스트로 바꿔줍니다.
2. 누가 썼는지 찾기 (필적 감정): 같은 문장을 썼을 때, 이 글씨가 A 씨 것인지 B 씨 것인지 인공지능이 구분할 수 있게 합니다.
3. 새로운 글씨 만들기 (생성형 AI): 인공지능이 새로운 사람의 필체처럼 힌디어 글을 써내게 할 수 있습니다.
4. 문서 분석: 글자 사이의 간격이 좁거나 줄이 비틀어진 복잡한 문서도 분석할 수 있게 됩니다.

5. 결론: 왜 이것이 중요한가요?

이 연구는 힌디어를 사용하는 수억 명의 사람들이 디지털 시대에 더 쉽게 소통할 수 있는 발판을 마련했습니다.

마치 인공지능에게 힌디어 손글씨를 가르치는 '전국 규모의 모의고사'를 만든 것과 같습니다. 이 데이터가 공개되면서, 앞으로 힌디어 손글씨를 읽는 인공지능은 훨씬 똑똑해지고, 인도와 같은 지역의 디지털 발전에 큰 도움이 될 것입니다.

한 줄 요약:

"531 명이 똑같은 시를 쓴 531 가지의 필체를 모아, 인공지능이 힌디어 손글씨를 완벽하게 읽을 수 있도록 만든 '최고급 훈련 교재'를 공개했습니다."

기술 요약

1. 문제 제기 (Problem Statement)

• 데이터 부족 및 편향: 힌디어 (데바나가리 문자) 는 전 세계적으로 수억 명의 화자를 보유하고 있음에도 불구하고, 공개된 벤치마크 데이터셋에서 handwritten(손글씨) 텍스트는 심각하게 과소 대표되어 있습니다.
• 기존 데이터셋의 한계:
  • 규모 및 범위: 기존 리소스들은 대부분 규모가 작거나, 개별 문자 (isolated characters) 나 짧은 단어 수준에 국한되어 있습니다.
  • 연속성 부재: 데바나가리 문자는 단어 내에서 문자들이 '시로레카 (shirorekha, 수평 머리선)'로 연결되고 복잡한 리거처 (ligature) 형태를 띠는 특징이 있으나, 기존 데이터셋은 이러한 연속적이고 융합된 구조를 반영하지 못합니다.
  • 통제된 콘텐츠 및 다양성 부족: 대부분의 데이터셋은 통제된 어휘 내용이나 다양한 필기체 (writer-level diversity) 를 제공하지 않아, 현대적인 데이터 기반 분석 (OCR, 작가 식별, 생성 모델 등) 에 한계가 있습니다.
• 연구의 단절: 대규모 공개 데이터셋의 부재로 인해 연구가 파편화되어 있으며, 공정한 방법론 비교나 신뢰할 수 있는 벤치마크 설정이 어렵습니다.

2. 방법론 (Methodology)

2.1 데이터 수집 프로토콜 (Data Collection Protocol)

• DohaScript 데이터셋: 531 명의 고유한 기여자 (contributors) 로부터 수집된 대규모 다중 필기체 힌디어 텍스트 데이터셋입니다.
• 통제된 텍스트 (Controlled Text): 모든 참여자가 동일한 6 개의 전통적인 힌디어 시구 (Doha, 2 행 시) 를 필사하도록 설계되었습니다.
  • 목적: 어휘적 다양성 대신 **어휘적 일관성 (lexical consistency)**을 강조하여, 언어적 내용과 독립적으로 필기체 스타일 변이를 체계적으로 분석할 수 있게 합니다.
  • 커퍼스 구성: 총 89 단어, 361 자 (공백 제외), 55 개의 고유 문자로 구성되며, 데바나가리 문자의 모든 음운론적 및 정서적 특징 (모음, 자음, 반모음, 구개음, 치음, 비음화 등) 을 포괄합니다.
• 참여 및 메타데이터:
  • 531 명의 참여자 (여성 135 명, 남성 396 명) 로 구성되었으며, 인도 전역의 다양한 지역 (마디아 프라데시, 비하르, 우타르 프라데시 등) 과 교육 수준을 아우릅니다.
  • 나이, 성별, 지역 주 (State) 등 비식별 인구통계학적 메타데이터를 수집하여 사회언어학적 분석을 지원합니다.

2.2 데이터 품질 관리 및 검증 (Quality Curation & Validation)

• 자동화 품질 평가 시스템:
  • 라플라시안 분산 (Laplacian Variance): 이미지 선명도 (sharpness) 를 정량화하기 위해 사용되었으며, 흐릿한 이미지와 선명한 이미지를 구분하는 초기 지표로 활용되었습니다.
  • CNN 기반 분류기: 라플라시안 분산만으로는 잉크 밀도, 배경 노이즈 등 다차원적인 품질 요인을 포착하기 어렵다고 판단, 합성곱 신경망 (CNN) 을 학습시켜 이미지 품질을 직접 분류하도록 설계했습니다.
  • 분류 체계: 4 단계 (Low, Medium, Good, Excellent) 또는 2 단계 (Low-Medium vs High) 로 분류합니다.
• 필터링 결과:
  • 전체 531 개 샘플 중 CNN 기반 필터링을 통해 **288 개 (54.2%)**의 고품질 핵심 하위 집합을 추출했습니다.
  • 나머지 243 개는 저품질 (흐림, 조명 불량 등) 이지만, 실제 세계의 열악한 조건을 반영하는 '도전적'인 하위 집합으로 남겨두어 모델의 견고성 (robustness) 평가에 활용합니다.

2.3 페이지 레이아웃 난이도 주석 (Layout Difficulty Annotations)

• 문장 분리 (Line Segmentation) 난이도 평가:
  • 단순한 이미지 품질뿐만 아니라, 필기체 구조적 특성 (줄 간격, 기준선 불안정성, shirorekha 의 연속성 등) 으로 인한 문장 분리 난이도를 평가합니다.
  • 평가 방법: 휴리스틱 기반의 문장 분리 파이프라인을 적용하여 페이지별 난이도 점수 ($S \in [0, 100]$) 를 산출하고, 이를 기반으로 Easy, Medium, Complex 3 단계로 레이블링합니다.
  • 결과: 전체 데이터의 약 52.7% 가 'Complex'로 분류되어, 실제 필기체 분석의 어려움을 잘 반영합니다.

3. 주요 기여 (Key Contributions)

1. 대규모 다중 필기체 데이터셋 (DohaScript): 데바나가리 연속 필기체 텍스트를 위한 첫 번째 대규모 (531 명, 531 페이지) 공개 데이터셋을 제공합니다.
2. 병렬 스타일 코퍼스 (Parallel Stylistic Corpus): 모든 필기체가 동일한 텍스트를 기반으로 하여, 필기체 스타일 변이와 언어적 내용을 분리하여 분석할 수 있는 고유한 구조를 가집니다. 이는 작가 식별, 스타일 분석, 생성 모델링에 이상적입니다.
3. 심층적인 메타데이터 및 품질 주석:
   • 비식별 인구통계학적 정보 (나이, 성별, 지역).
   • 객관적인 선명도 기준과 CNN 기반 품질 분류.
   • 페이지 수준의 레이아웃 난이도 (Easy/Medium/Complex) 주석.
4. 재현 가능한 벤치마크: 데이터 준비, 전처리, 품질 평가, 실험을 위한 전체 코드 (GitHub) 와 데이터 (Google Drive) 를 공개하여 연구의 투명성과 재현성을 보장합니다.

4. 결과 (Results)

• 품질 분류 성능:
  • 이진 분류기 (Binary CNN): 테스트 정확도 96.26%, F1 점수 0.96.
  • 4 단계 분류기 (Four-class CNN): 테스트 정확도 85.98%. 'Medium'과 'Good' 클래스 간의 경계 모호성으로 인해 약간의 성능 저하가 관찰되었으나, 전반적으로 강력한 일반화 능력을 보였습니다.
• 문장 분리 난이도 분석:
  • 전체 531 페이지 중 완벽한 문장 분리 (12 줄 모두 정확) 는 29.57% 에 불과했습니다.
  • 대부분의 페이지 (52.7%) 가 'Complex' 난이도로 분류되어, 데바나가리 필기체의 구조적 복잡성 (줄 간격 밀집, 기준선 편차 등) 이 인식 모델에 큰 도전 과제를 제시함을 입증했습니다.
• 데이터셋 특성: 필터링된 고품질 하위 집합은 평균 블러 점수 (blur score) 가 5000 이상으로, 원본 데이터 (평균 3268) 대비 53% 향상된 선명도를 보이며 학습용 베이스라인으로 적합함을 확인했습니다.

5. 의의 및 영향 (Significance)

• 저자원 (Low-Resource) 환경에서의 연구 촉진: 힌디어 및 데바나가리 필기체 분석을 위한 표준화된 벤치마크를 제공하여, 기존에 파편화되었던 연구 노력을 통합합니다.
• 다양한 하위 작업 지원:
  • 손글씨 인식 (HTR/OCR): 연속적인 텍스트와 문맥 의존성을 고려한 인식 모델 개발.
  • 작가 식별 및 생체 인식: 동일한 텍스트를 쓴 다양한 필기체 비교를 통한 개인 식별 연구.
  • 생성 모델링: 반복되는 어휘와 다양한 스타일을 활용한 필기체 합성 및 스타일 전이 (Style Transfer) 연구.
  • 문서 레이아웃 분석: 복잡한 필기체 구조에서의 줄 분리 및 레이아웃 분석 기술 평가.
• 실용적 가치: 실제 세계의 다양한 필기체 조건 (선명도, 조명, 필기 습관) 을 포괄하는 데이터셋을 제공함으로써, 실제 환경에서 배포 가능한 강건한 AI 모델 개발에 기여합니다.

이 논문은 데바나가리 필기체 인식 및 분석 연구의 새로운 표준을 제시하며, 특히 대규모 다중 필기체 데이터의 부재를 해결함으로써 해당 분야의 발전에 중요한 이정표가 될 것으로 기대됩니다.