DRetHTR: Linear-Time Decoder-Only Retentive Network for Handwritten Text Recognition

이 논문은 손글씨 인식 (HTR) 에서 트랜스포머의 키 - 밸류 캐시 증가로 인한 병목 현상을 해결하기 위해, 선형 시간 복잡도와 메모리 효율성을 제공하면서도 최첨단 정확도를 달성하는 디코더 전용 'DRetHTR' 모델을 제안합니다.

핵심

이 논문은 **"손글씨를 읽는 인공지능을 더 빠르고 가볍게 만드는 새로운 방법"**에 대한 이야기입니다.

기존의 최신 기술 (트랜스포머) 은 손글씨를 읽을 때 정확도는 좋지만, 마치 거대한 도서관에서 모든 책을 한 권씩 펼쳐보며 메모장을 채워가는 것처럼 무겁고 느린 문제가 있었습니다. 이 논문은 그 문제를 해결하기 위해 **'DRetHTR'**이라는 새로운 모델을 제안합니다.

이 복잡한 내용을 일상적인 비유로 쉽게 설명해 드릴게요.

---

1. 문제: "기억력 과부하"에 시달리는 기존 AI

기존의 손글씨 인식 AI 는 글을 읽을 때마다 **지금까지 본 모든 글자 (키-값 캐시)**를 메모리에 쌓아두면서 다음 글자를 예측합니다.

• 비유: 마치 책을 읽을 때마다, 처음부터 지금까지 읽은 모든 페이지를 복사해서 책상 위에 쌓아두는 사람과 같습니다.
• 결과: 글이 길어질수록 책상 (메모리) 은 점점 더 넓어지고, 복사 (계산) 하는 데 시간이 너무 오래 걸립니다.

2. 해결책: "DRetHTR" - 기억을 요약하는 새로운 방식

이 논문에서 만든 DRetHTR은 모든 과거를 기억하는 대신, 중요한 정보만 간추려서 다음 단계로 넘기는 방식을 사용합니다.

• 비유: 이 사람은 책을 읽을 때, 지금 읽고 있는 문장만 기억하고, 이전 내용은 '핵심 요약 노트' 한 장에 적어두고 다음 페이지로 넘어갑니다.
• 효과: 책상 (메모리) 크기는 글자 수와 상관없이 일정하게 유지되고, 읽는 속도도 글이 길어지더라도 변하지 않습니다. (선형 시간/메모리)

3. 핵심 기술 1: "눈과 귀"를 나누어 쓰기 (ARMF)

손글씨 인식은 두 가지 정보가 섞여 있습니다. **이미지 (손글씨 모양)**와 텍스트 (문맥).
기존 방식은 이 둘을 모두 같은 방식으로 처리하다가 혼란이 생겼습니다. DRetHTR 은 이 둘을 역할에 따라 다르게 처리합니다.

• 이미지 처리 (눈): "이 글자가 A 인지 B 인지"를 판단할 때는 **정밀한 비교 (Softmax Attention)**가 필요합니다. 이때는 모든 이미지를 한눈에 훑어보며 정확한 위치를 잡습니다.
• 텍스트 처리 (귀): "앞에 '사과'가 왔으니 뒤에는 '나무'가 올 것 같다"는 문맥 흐름을 읽을 때는 **간결한 요약 (Retention)**만으로도 충분합니다.
• 비유: 사진을 볼 때는 확대경 (정밀 분석) 을 쓰지만, 이야기를 이어갈 때는 기억력 (요약) 만으로 충분하다는 철학입니다. 이렇게 나누니 정확도는 유지하면서 속도는 빨라졌습니다.

4. 핵심 기술 2: "층층이 쌓인 망원경" (Layer-wise Gamma Scaling)

AI 는 여러 개의 층 (Layer) 으로 이루어져 있습니다. 기존 방식은 모든 층이 똑같은 방식으로 기억력을 조절했는데, DRetHTR 은 층마다 다른 전략을 씁니다.

• 아래층 (초기층): 현미경처럼 가까운 글자들 사이의 관계 (예: 'ㄱ'과 'ㅏ'가 붙어 '가'가 됨) 에 집중합니다.
• 위층 (후기층): 망원경처럼 먼 곳의 문맥 (예: 문장 전체의 주제) 을 파악합니다.
• 비유: 마치 건물을 지을 때, 1 층은 기초 공사에 집중하고, 10 층은 전망을 보는 것과 같습니다. 이렇게 층마다 초점을 달리하니, 복잡한 손글씨도 더 자연스럽게 이해할 수 있게 됩니다.

5. 실제 성과: 빠르고, 가볍고, 똑똑하다

이 새로운 방식을 적용한 결과, 기존 기술보다 다음과 같은 놀라운 성과를 거두었습니다.

• 속도: 같은 크기의 모델보다 1.6~1.9 배 더 빠릅니다. (약 2 배 빠름)
• 메모리: 메모리 사용량이 38~42% 줄었습니다. (휴대폰에서도 더 가볍게 실행 가능)
• 정확도: 속도가 빨라졌는데도, 정확도는 기존 최고 수준과 비슷하거나 더 좋습니다.

요약

이 논문은 **"손글씨를 읽는 AI 가 더 이상 무거운 짐을 지고 갈 필요는 없다"**는 것을 증명했습니다.
기존의 '모든 것을 기억하며 읽는' 방식 대신, "이미지는 정밀하게, 문맥은 요약해서" 읽는 새로운 방식을 도입함으로써, 빠르고 가벼우면서도 똑똑한 손글씨 인식 기술을 완성했습니다. 이제 역사적인 문서나 복잡한 공문서도 훨씬 더 쉽고 빠르게 디지털화할 수 있게 된 셈입니다.

기술 요약

1. 문제 정의 (Problem)

• 현재의 한계: 최신 손글씨 텍스트 인식 (HTR) 시스템은 주로 Transformer 기반 모델을 사용합니다. 그러나 Transformer 의 자기 주의 (Self-Attention) 메커니즘은 시퀀스 길이가 증가함에 따라 Key-Value (KV) 캐시가 선형적으로 증가하여, 디코딩 속도가 느려지고 메모리 사용량이 급증하는 문제가 있습니다.
• 필요성: 긴 문서나 실시간 처리가 필요한 환경에서 Transformer 의 이차적 (Quadratic) 인 계산 복잡도와 메모리 부담을 해결하면서도, 동등한 정확도를 유지할 수 있는 효율적인 아키텍처가 필요합니다.

2. 제안 방법론 (Methodology: DRetHTR)

저자들은 Retentive Network (RetNet) 을 기반으로 한 Decoder-Only 아키텍처인 DRetHTR을 제안했습니다. 이 모델은 선형 시간 (Linear-Time) 과 선형 메모리 (Linear-Memory) 로 디코딩이 가능하도록 설계되었습니다.

핵심 구성 요소 및 기술적 혁신

1. Attention-Retention Modality Fusion (ARMF):

   • 이미지 토큰과 텍스트 토큰이 결합된 시퀀스를 처리할 때, 모든 토큰에 대해 Softmax Attention 을 사용하면 KV 캐시가 커지고, 모든 토큰에 Retention 을 적용하면 이미지 - 텍스트 간의 유연한 결합이 약화되는 딜레마가 발생합니다.
   • 해결책: ARMF 는 이미지 - 이미지 및 이미지 - 텍스트 상호작용에는 Softmax Attention을 사용하여 정렬 (Alignment) 을 강화하고, 텍스트 - 텍스트 상호작용 (자기 생성) 에만 Softmax-free Retention을 적용합니다.
   • 이를 통해 텍스트 생성 시 KV 캐시가 생성된 텍스트 길이에 따라 증가하지 않도록 하여, 디코딩 복잡도를 $O(N_T)$에서 $O(1)$ (이미지 길이는 고정됨) 로 낮춥니다.

2. 레이어별 감마 스케일링 (Layer-wise Gamma Scaling):

   • Softmax 를 제거하면 Attention 의 '국소적 (Local) 에서 전역적 (Global) 인' 유도 편향 (Inductive Bias) 을 잃게 됩니다.
   • 해결책: RetNet 의 감쇠 인자 ($\gamma$) 를 레이어별로 다르게 적용합니다.
     • 얕은 레이어 (Shallow Layers): 작은 $\gamma$ 값을 사용하여 **단거리 의존성 (Local dependencies)**을 강조합니다.
     • 깊은 레이어 (Deep Layers): 큰 $\gamma$ 값을 사용하여 **광범위한 문맥 (Global context)**을 포착합니다.
   • 이 전략은 Transformer 의 계층적 특징을 모방하여 정확도 손실 없이 효율성을 극대화합니다.

3. 이미지 임베딩 모듈:

   • 기본 패치 임베딩 대신 EfficientNetV2를 사용하여 특징 추출 능력을 강화했습니다.
   • 손글씨 영역에 맞춰 스트라이드 (stride) 를 조정하고, 드롭아웃을 적용하여 ImageNet 사전 학습 과적합을 방지합니다.

3. 주요 기여 (Key Contributions)

• 선형 시간/메모리 디코딩: KV 캐시 없이도 재귀적 (Recurrent) 인 추론을 통해 긴 시퀀스 처리 시 메모리 효율성과 속도를 획기적으로 개선했습니다.
• 효율성과 정확도의 동시 달성: 동일한 크기의 Decoder-Only Transformer 베이스라인 (DTrHTR) 대비 1.6~1.9 배 빠른 추론 속도와 38~42% 적은 메모리 사용량을 달성하면서도 정확도는 유지하거나 오히려 향상시켰습니다.
• 새로운 아키텍처 설계: 이미지와 텍스트의 융합 (Fusion) 과 텍스트 생성 (Generation) 을 위해 Softmax Attention 과 Retention 을 혼합한 ARMF 구조를 제안했습니다.

4. 실험 결과 (Results)

논문은 IAM (영어), RIMES (프랑스어), READ-2016 (독일어), Bentham (영어) 등 4 가지 주요 벤치마크에서 모델을 평가했습니다.

• 정확도 (CER - Character Error Rate):
  • IAM: 2.26% (SOTA 수준)
  • RIMES: 1.81%
  • Bentham: 3.46%
  • READ-2016: 4.21%
  • 기존 Transformer 기반 모델 (DTrOCR 등) 과 비교하여 동등하거나 더 우수한 성능을 보였습니다.
• 효율성:
  • 추론 속도: Transformer 대비 1.6~1.9 배 빠름.
  • 메모리 사용: 38~42% 감소.
  • Beam Search 확장성: Beam size 가 커질수록 Transformer 는 KV 캐시 관리 오버헤드로 인해 메모리와 시간이 급증하지만, DRetHTR 은 고정된 상태 (Fixed-size state) 를 유지하여 확장성이 뛰어납니다.

5. 의의 및 결론 (Significance)

• HTR 분야의 패러다임 전환: Transformer 의 높은 정확도를 유지하면서, 그 치명적인 단점인 계산 및 메모리 비용을 획기적으로 줄인 Decoder-Only RetNet이 HTR 에 효과적임을 증명했습니다.
• 실용적 가치: 대량의 손글씨 문서 아카이브를 디지털화하거나 실시간 손글씨 입력 처리가 필요한 환경에서, 하드웨어 제약을 덜 받으면서도 고성능을 발휘할 수 있는 솔루션을 제공합니다.
• 미래 지향성: Softmax-free 메커니즘이 손글씨 인식과 같은 시각 - 언어 융합 작업에서도 효과적일 수 있음을 보여주었으며, 긴 시퀀스 처리에 대한 새로운 가능성을 제시했습니다.

요약하자면, DRetHTR은 손글씨 인식의 정확도를 희생하지 않으면서도 Transformer 의 비효율적인 KV 캐시 문제를 해결한 차세대 경량화 모델로서, 효율적인 HTR 시스템 구축을 위한 강력한 대안이 됩니다.