기술 요약: 아랍 문학의 역사적 시대 자동 분류

문제 정의

아랍어는 약 1,500년의 역사 동안 새로운 어휘의 등장, 기존 용어의 퇴보, 사용 양상의 변화 등으로 특징지어지는 상당한 의미론적 및 어휘적 변천을 겪어왔다. 역사학자와 언어학자들은 전통적으로 아랍 문학을 뚜렷한 시대(예: 전 이슬람 시대, 이슬람 시대, 아바스 시대, 오스만 시대, 현대)로 구분해 왔으나, 특히 시(poetry) 영역 이외의 분야에서 아랍 텍스트를 시간대별로 자동 분류하는 연구는 눈에 띄게 부족한 실정이다. 기존의 아랍어 텍스트 분류 작업은 주로 감성 분석이나 주제 분류에 집중되어 있어, 시간적 시대 구분에 대한 탐구는 거의 이루어지지 않았다. 더욱이, 문학적 시대 사이의 경계는 종종 논쟁의 대상이 되고 중첩되며 명확하게 정의되지 않기 때문에, 텍스트를 특정 역사적 시기로 할당하는 작업은 머신러닝 모델에 있어 복잡한 과제가 된다.

방법론

본 연구는 신경망 및 딥러닝 기법을 사용하여 아랍어 텍스트를 역사적 시대로 자동 분류한다. 연구에는 두 가지 공개 코퍼스가 활용된다:

1. OpenITI: 다양한 저자의 종교 및 문학 텍스트를 포함하는 대규모 아랍어 산문 코퍼스 (약 15억 단어).
2. APCD (Arabic Poem Comprehensive Dataset): 12개의 뚜렷한 시대를 아우르는 3,701명의 시인으로부터 추출된 약 180만 구절의 시 데이터셋.

실험 설계

연구는 저자의 문체(authorial style)가 미치는 영향을 평가하기 위해 두 가지 별도의 프로토콜 하에 실험을 수행하였다:

• 저자 불일치 (Author-Disjoint): 평가 세트의 저자가 훈련 세트에 존재하지 않도록 하여, 모델이 저자 특유의 스타일이 아닌 시대 수준의 문체론적 신호를 학습하도록 강제함.
• 저자 통합 (Merged-Author): 저자가 훈련 및 평가 세트에 모두 등장하게 하여, 모델이 저자의 문체를 하나의 특징(feature)으로 활용할 수 있도록 함.

클래스 설정

본 연구는 다양한 분류 세분도를 평가하였다:

• 이진 분류 (Binary): 고전(Classical) 대 현대(Modern).
• 사전 정의된 역사적 시대: Daif (1982), Al-Fakhoury (1951), Ghoniem (2017)의 체계를 바탕으로 한 3~5개 시대.
• 커스텀 시대 구분 (Custom Periodizations): 300년, 200년, 100년 단위의 고정된 시간 구간 (결과적으로 5, 8, 15개 클래스 생성).

모델 및 전처리

• 모델: 주요 테스트 아키텍처는 완전 연결 피드포워드 인공 신경망 (ANN) 및 **순환 신경망 (RNN)**이며, 구체적으로 LSTM, GRU, 양방향 GRU (BiGRU)를 활용하였다. CNN과 로지스틱 회귀는 베이스라인으로 사용되었다.
• 토큰화: RNN을 위해 단어 수준(word-level)과 문자 수준(character-level) 토큰화를 모두 탐색하였다.
• 전처리: 데이터 정제(HTML 및 비아랍어 숫자 제거), 정규화(모음 기호 및 Kashida 제거), 불용어 제거 단계를 포함한다. **표층형 추출 (Lemmatization, Farasa 사용)**은 특히 시 데이터셋에 대해 어휘 크기를 줄이고 과적합을 완화하기 위해 선택적으로 적용되었다.
• 평가: 성능은 정확도(Accuracy), 정밀도(Precision), 재현율(Recall), 그리고 매크로 평균 F1-스코어(Macro-averaged F1-score)를 사용하여 측정되었다. 통계적 유의성은 두 비율 차이 검정(difference-between-two-proportions test)을 통해 평가되었다.

주요 기여

1. 체계적 탐구: 아랍 문학 텍스트(산문 및 시 모두)를 뚜렷한 역사적 시대로 자동 분류하는 것을 체계적으로 조사한 첫 번째 연구이다.
2. 이중 데이터셋 분석: 전 이슬람 시대부터 현대에 이르기까지의 스펙트럼을 다루는 두 가지 다양한 공개 코퍼스(산문을 위한 OpenITI, 시를 위한 APCD)를 통해 모델을 평가하였다.
3. 저자 문체의 영향: 저자 불일치 및 저자 통합 실험 프로토콜을 비교함으로써 저자의 문체 효과를 명시적으로 분리하여 조사하였다.
4. 세분도 비교: 이진 분류부터 미세한 15개 시대 설정에 이르기까지 다양한 시간적 해상도에 따른 분류 성능을 조사하였으며, 사전 정의된 역사적 시대와 커스텀 시간 구간을 비교하였다.
5. 모델 평가: 이 특정 아랍어 시간적 과업에 대한 ANN과 RNN(단어 및 문자 수준)의 비교 분석을 제공한다.

결과

연구의 주요 결과는 다음과 같다:

• 실행 가능성: 자동 시대 분류는 실행 가능하지만 도전적인 과제이다. 모델은 무작위 추측보다 일관되게 높은 성능을 보였으나, 클래스 수와 데이터셋에 따라 성능 차이가 크게 나타났다.
• 모델 성능:
  • ANNs는 대부분의 다중 클래스 설정에서 RNN보다 우수한 성능을 보였다.
  • RNNs (특히 단어 수준)는 이진 분류 작업에서 경쟁력 있는 성능을 보였으며, 시 데이터에 대해 이전의 CNN 기반 베이스라인(Orabi et al., 2020)과 대등하거나 이를 상회하는 결과를 달ato.
• 데이터셋별 특성:
  • OpenITI (산문): 이진 분류에서 F1-스코어는 0.67 (저자 불일치) 및 0.83 (저자 통합)을 기록했다. 클래스 수가 증가함에 따라 성능이 급격히 하락하였다 (예: 15개 클래스 F1 ≈ 0.20). 아바스 시대가 가장 식별하기 쉬웠으며, 이슬람 시대와 현대 시대가 가장 어려웠다.
  • APCD (시): 이진 분류에서 F1-스코어는 0.78 (저자 불일치) 및 0.79 (저자 통합)를 기록했다. 표층형 추출(Lemmatization)은 시 분류에서 주목할 만한 성능 향상을 가져왔다. 12개 시대 설정에서는 낮은 성능(F1 ≈ 0.18–0.25)을 보여, 미세한 구분의 어려움을 나타냈다.
• 저자의 영향: 저자를 통합했을 때 산문(OpenITI)의 경우 전반적으로 성능이 향상되었는데, 이는 저자의 문체가 강력한 예측 변수임을 시사한다. 그러나 시(APCD)의 경우 저자 통합이 거의 효과가 없었으며, 이는 시적 문체가 이 맥락에서 특정 저자의 정체성에 덜 의존하거나 모델이 시대 특유의 특징에 더 의존함을 의미한다.
• 전처리: 불용어를 제거하는 것은 성능을 개선하지 못했으며, 오히려 유지하는 것이 더 나은 결과를 낳았다. 표층형 추출은 시 데이터셋의 결과를 개선했으나 산문에서는 결정적이지 않았다.
• 혼동 패턴: 오분류는 주로 연속된 시대 사이(예: 이슬람 대 아바스, 오스만 대 현대)에서 발생하였으며, 이는 문학적 진화가 불연속적인 단계가 아닌 점진적인 연속체라는 가설을 뒷받침한다. 인접한 시대를 통합했을 때 정확도가 크게 향상되었다 (예: OpenITI의 경우 시대를 병합했을 때 정확도가 43.6%에서 76.6%로 상승).

의의 및 주장

본 논문은 아랍 문학의 자동 시대 분류가 점진적인 언어 변화와 중첩되는 경계로 인해 어렵지만, 머신러닝을 위한 실행 가능한 과업임을 겸허히 주장한다.

• 문학적 연속체: 결과는 아랍 문학사가 연속체로 모델링되는 것이 더 적합함을 시사한다. 인접한 시대 사이의 높은 혼동률은 날카로운 시간적 경계가 인위적인 구성물이며 언어적 실체와 항상 일치하지는 않는다는 점을 보여준다.
• 유용성: 자동 분류는 문학 데이터를 정리하고, 언어 변화를 추적하며, 특정 시대에 귀속된 저작물을 인증하는 데 도움을 줄 수 있다. 이는 시간의 흐름에 따른 트렌드, 주제, 문체적 요소의 대규모 분석을 용이하게 한다.
• 향후 방향: 저자들은 향arian 고전 아랍어를 위한 표층형 추출 개선, 시간적 편향을 고려한 사전 학습된 트랜스포머(예: AraBERT, MARBERT) 평가, 그리고 텍스트를 전기적 자원과 연결하기 위한 개체명 인식(NER)과 같은 외부 지식의 결합 등을 제안한다. 또한 텍스트 재사용 탐지(불필요한 구절 제거)가 분류 성능에 미치는 영향에 대한 연구도 제안하였다.