Optical Character Recognition of Historical Moroccan Arabic Calligraphy Using Transformer-Based TrOCR

수 세기 동안 기록된 문자는 인류의 기억을 담는 주요 그릇으로서, 문명의 법률, 이야기, 과학적 발견들을 시간을 넘어 전달해 왔습니다. 그러나 종이가 노후화되고 잉크가 흐려짐에 따라, 이러한 문서들은 물리적 부식과 생소한 필체라는 층에 갇혀 현대인의 눈에는 읽을 수 없는 상태가 되곤 합니다. 컴퓨터 과학 분야에서 광학 문자 인식(OCR)이라 불리는 기술은 연구자들이 인쇄된 텍스트를 거의 완벽한 정확도로 읽도록 기계를 가르쳐 온 오랜 역사를 가지고 있습니다. 하지만 기계가 역사적 필사본의 무질서하고 흐르는 듯하며 종종 손상된 페이지를 마주할 때, 그들은 자주 비틀거립니다. 특히 아랍어 서예의 경우, 단어 내의 글자들이 서로 복잡하고 연속적인 사슬 형태로 연결되어 있으며, 이는 필자마다 매우 다양하게 나타나기 때문에 문제가 더욱 심각합니다. 마그리비(Maghribi) 서체라고 알려진 독특한 양식으로 쓰인 모로코 아랍어 필사본이라는 특수하고 문화적으로 풍부한 전통의 경우, 글자들이 서로 맞닿고 겹치며 변형되는 방식이 표준 판독 소프트웨어를 혼란스럽게 만들기 때문에 이 과제는 특히 어려웠습니다.

두 명의 독립적인 연구자인 아드난 메다위(Adnane Mehdaoui)와 카디자 엘 마루피(Khadija El Maaroufi)는 개별 글자를 분리해야 하는 전통적인 필요성을 우회하는 새로운 접근 방식을 개발함으로써 이 문제에 맞섰습니다. 잉크가 번지거나 글자가 합쳐질 때 흔히 실패하는 작업인 '단어를 구성 요소로 자르는 것' 대신, 그들은 현대적인 인공지능 시스템이 텍스트 한 줄 전체를 하나의 연결된 이야기로 바라보도록 훈련시켰습니다. 문장 전체의 맥락을 한 번에 이해하도록 설계된 트랜스포머(Transformer)라는 유형의 고급 컴퓨터 모델을 사용하여, 그들은 이 까다로운 역사적 페이지들을 해독할 수 있는 시스템을 만들었습니다. 그들의 연구는 세심한 이미지 정화와 고립된 형태가 아닌 글의 흐 흐름으로부터 학습하는 모델을 결합함으로써, 이전에는 눈앞에 있으면서도 숨겨져 있었던 모로코 유산의 비밀을 푸는 것이 가능하다는 것을 보여줍니다.

연구자들은 모로코에서 발견되는 독특한 마그리비 서체를 대표하는 오픈 소스 아카이브에서 가져온 200페이지의 컬렉션으로 시작했습니다. 이 페이지들은 결코 깨끗한 상태가 아니었습니다. 불균일한 조명, 흐릿한 잉크, 시간이 흐르며 뒤틀린 종이와 같은 고대 문서 특유의 질병을 앓고 있었습니다. 컴퓨터가 이 이미지들을 읽을 수 있도록 하기 위해, 팀은 먼저 데이터를 정화하고 정리하기 위한 특화된 파이프라인을 구축했습니다. 그들은 어두운 잉크가 오래된 종이 위로 도드라지도록 대비를 조정했고, 그 후 스마트 탐지 시스템을 사용하여 각 텍스트 줄이 어디서 시작되고 끝나는지를 찾아냈습니다. 이 단계는 매우 중요했는데, 역사적 필체는 종종 기울어지거나 위치가 변하여 표준 도구들이 한 문장이 끝나고 다음 문장이 시작되는 지점을 구분하기 어렵게 만들기 때문입니다. 시스템은 잉크의 간격과 밀도를 자동으로 분석하여 페이지를 개별 줄로 나누었으며, 이를 통해 다음 학습 단계로 넘어갈 준비가 된 깨끗한 이미지 세트를 생성했습니다.

줄들이 격리되자, 연구자들은 TrOCR이라 불리는 강력한 도구로 눈을 돌렸습니다. 이는 트랜스포머 기반 광학 문자 인식(Transformer-based Optical Character Recognition)을 의미합니다. 한 번에 한 글자씩 식별하려고 시도했던 기존 시스템들과 달리, 이 모델은 텍스트 한 줄 전체를 동시에 바라봄으로써 작동합니다. 이 모델은 셀프 어텐션(self-attention)이라는 메커니즘을 사용하는데, 이는 컴퓨터가 텍스트를 읽을 때 이미지의 서로 다른 부분들의 중요도를 가늠할 수 있게 해줍니다. 예를 들어, 어떤 글자가 약간 왜곡되었거나 점(dot)이 누락되었다면, 모델은 주변 글자들과 전체적인 형태를 살펴보고 누락된 부분이 무엇일지 추측할 수 있습니다. 이러한 맥락 이해 능력은 글자의 모양이 단어의 시작, 중간, 끝에 따라 변하고, 글자 위나 아래의 작은 점 하나가 의미를 완전히 바꿀 수 있는 아랍어에서 필수적입니다.

이 모델에게 모로코 아랍어를 가르치기 위해, 연구자들은 처음부터 시작하지 않았습니다. 그들은 이미 수천 개의 영어 필기 문서를 학습한 모델을 가져와 이를 아랍어 스크립트에 적응시키는 전이 학습(transfer learning) 기법을 사용했습니다. 이는 피아노를 이미 배운 사람이 리듬과 선율의 기본을 이미 이해하고 있기 때문에 완전 초보자보다 새로운 악기를 더 빨리 배울 수 있는 것과 비슷합니다. 그 후 모델은 모로코 데이터셋을 통해 미세 조정(fine-tuning)되었으며, 마그리비 서체의 특정한 곡선, 연결, 스타일을 인식하는 법을 배웠습니다. 팀은 약 8,000쌍의 이미지와 그에 맞는 텍스트 전사본을 사용하여 시스템을 훈련시켰으며, 모델이 본 적 없는 자료에서 얼마나 잘 수행하는지 테스트하기 위해 또 다른 2,000쌍을 따로 떼어 두었습니다.

이 훈련의 결과는 컴퓨터가 올바른 텍스트와 비교했을 때 얼마나 많은 글자를 틀렸는지를 계산하는 문자 에러율(Character Error Rate)이라는 표준 지표를 사용하여 측정되었습니다. 테스트 세트에서 모델은 5%를 약간 상회하는 에러율을 달enc성했습니다. 이는 텍-스트 한 줄에 100개의 문자가 있다면, 시스템이 95개 이상의 문자를 정확하게 식별했음을 의미합니다. 연구자들은 성능이 훈련, 검증, 테스트 단계 전반에 걸쳐 일관되게 유지되었다는 점에 주목했는데, 이는 모델이 단순히 보여준 특정 페이지들을 암기한 것이 아니라 스크립트의 패턴을 진정으로 학습했음을 시사합니다. 이러한 수준의 정확도는 필체의 가변성과 손상의 존재로 인해 완벽한 인식이 매우 높은 기준이 되는 역사적 문서 분야에서 매우 유의미합니다.

이러한 성공에도 불구하고, 저자들은 이 작업이 고대 필사본을 읽는 데 발생하는 모든 문제를 해결하는 완전한 솔루션은 아니라는 점을 주의 깊게 언급합니다. 이 시스템은 여전히 디아크리틱 마크(diacritical marks), 즉 발음이나 의미를 나타내기 위해 글자 위나 아래에 놓이는 작은 점이나 선들을 처리하는 데 어려움을 겪고 있는데, 이들은 오래된 문서에서 희미하거나 누락되는 경우가 많습니다. 만약 이 표식들이 잘못 읽히면 단어의 의미가 완전히 바뀔 수 있습니다. 또한, 모델은 정교하게 추출된 텍스트 줄을 대상으로 훈련되었으므로, 여백에 적힌 주석이나 여러 열로 구성된 텍스트와 같이 복잡한 레이아웃을 가진 전체 페이지를 아직 다루지는 못합니다. 연구자들은 또한 주석이 달린 데이터의 부족이 여전히 주요 장애물임을 강조했는데, 훈련 세트를 만드는 데 전문가의 수동 전사가 필요하며 이는 느리고 어려운 과정이기 때문입니다.

연구는 딥러닝이 큰 진전을 이루었지만, 아직 인간의 전문성을 대체하거나 노화된 종이의 모든 물리적 한계를 극복할 수는 없다고 결론짓습니다. 그러나 메다위와 엘 마루피가 취한 접근 방식은 견고한 길을 제시합니다. 지능적인 이미지 전처리와 전체 줄의 맥락을 이해하는 모델을 결합함으로써, 그들은 모로코의 역사적 유산을 디지털화하는 속도를 크게 높일 수 있는 도구를 만들어냈습니다. 이 작업은 단순히 숫자의 목록을 만들어내는 것이 아닙니다. 이는 연구자들이 이전에는 읽기 너무 어려웠던 수 세기의 언어적, 문화적 지식에 접근하고 보존할 수 있도록 하는 실질적인 프레임워크를 제공합니다. 이 분야가 발전함에 따라, 오류를 수정하기 위한 언어 모델의 통합과 더 나은 데이터 증강 기법의 개발은 이러한 시스템을 더욱 정교하게 만들어, 마그레브의 기록된 역사를 현대 세계에 더 가깝게 가져다줄 것입니다.