Bridging the Linguistic Divide: A Survey on Leveraging Large Language Models for Machine Translation

"언어적 격차 해소: 기계 번역을 위한 대규모 언어 모델 활용에 대한 조사"라는 제목의 조사 논문에 대한 상세한 기술적 요약은 다음과 같습니다.

1. 문제 제기

기계 번역 (MT) 은 규칙 기반 시스템에서 신경 인코더-디코더 모델로 진화해 왔습니다. 그러나 저자원 언어, 도메인 적응(예: 의료, 법률, 금융), 담화 수준의 일관성(문서 단위 번역) 을 특히로 중요한 과제가 여전히 남아 있습니다. 전통적인 MT 시스템은 많은 언어에서 희귀한 대규모 병렬 말뭉치에 크게 의존합니다. 대규모 언어 모델 (LLM) 은 문맥 학습 (in-context learning) 과 지시 따르기 (instruction following) 와 같은 새로운 능력을 제공하지만, 이를 MT 에 적용하면 새로운 복잡성이 발생합니다:

• 데이터 부족: 병렬 데이터가 거의 없거나 전혀 없는 언어를 어떻게 번역할 것인가?
• 방법론적 혼란: 프롬프팅과 파인튜닝 중 언제 어떤 것을 사용해야 하는가?
• 할루시네이션 및 편향: LLM 은 그럴듯하지만 잘못된 번역을 생성하거나 편향을 보일 수 있습니다.
• 평가: 전통적인 지표 (BLEU) 와 학습된 지표 (COMET) 조차도 담화 품질, 스타일, 인간 선호도를 포착하는 데 어려움을 겪으며, LLM 기반 평가자는 새로운 편향을 도입합니다.
• 문맥 활용: LLM 은 큰 컨텍스트 창을 가지고 있음에도 불구하고 긴 문서 컨텍스트를 효과적으로 활용하지 못하는 경우가 많습니다.

2. 조사 방법론

저자들은 구조화된 경량 PRISMA 스타일 프로세스에 따라 포괄적인 조사를 수행했습니다:

• 데이터 소스: 문헌은 Google Scholar, ACL Anthology, arXiv, Google Search 에서 검색되었습니다.
• 범위: LLM 의 부상 이후인 2022 년 이후에 출판된 논문이 우선적으로 고려되었습니다.
• 필터링: 일반화 가능성이 없는 좁은 언어/도메인에 초점을 맞춘 논문은 제외되었습니다. 수화 및 멀티모달 번역과 같은 특수 도메인은 텍스트 간 MT 에 초점을 맞추기 위해 제외되었습니다.
• 분류: 문헌은 네 가지 주요 기둥으로 조직되었습니다:
  1. 합성 데이터 생성.
  2. 번역 방법론 (프롬프팅 vs. 파인튜닝).
  3. 언어별 성능 (LLM vs. 인코더-디코더).
  4. 평가 및 문장 수준 이상 (문서/문학).

3. 주요 기여 및 기술적 발견

A. 합성 데이터 생성

• 역할: 저자원 및 도메인 적응에 중요합니다.
• 기법: 역번역, 순방향 번역, 그리고 다의어 처리 (LexMatcher 등) 를 위한 의미 인식 증강.
• 발견: 합성 데이터는 명시적 추론을 통한 것이 아니라 병렬 신호 커버리지를 증가시킴으로써 주로 성능을 향상시킵니다. 그러나 저자원 방향에서는 특히 할루시네이션과 충분성 오류를 겪습니다.
• 선호 신호: 최근 연구에 따르면, DPO 나 RLHF 를 통해 LLM 이 후보를 순위 매기는 합성 선호 쌍을 생성하면 인간 주석이 없어도 견고성을 향상시킬 수 있으며, 단 데이터가 신중하게 필터링되어야 합니다.

B. 번역 방법론

본 조사는 접근 방식을 두 가지 주요 패러다임으로 분류합니다:

1. 프롬프팅 기반 기법:

   • 제로샷: 고자원 언어에서는 효과적이지만, BLEU 점수에서는 Google Translate 와 같은 전문 MT 시스템보다 뒤처지는 경우가 많으나, 인간 선호도는 LLM 을 더 선호할 수 있습니다.
   • 문맥 학습 (ICL): 성능은 일반적으로 더 많은 예시 (최대 5 샷) 와 함께 향상되지만, 그 이후에는 이득이 감소합니다. 예시 선택(의미적 유사성 대 무작위) 과 순서가 결정적입니다. 고품질이고 일관된 예시가 무작위 예시보다 우수합니다.
   • 고급 프롬프팅:
     • 생각의 사슬 (CoT): 지나치게 문자 그대로의 추론을 강제함으로써 MT 품질을 일반적으로 악화시킵니다.
     • 사전 사슬: 어휘 매핑을 연결함으로써 저자원 언어에 효과적입니다.
     • 에이전트 워크플로우: 다중 에이전트 토론 및 자기 정제 (예: TEaR, MAD) 는 인간 교정 과정을 시뮬레이션하여 정확도를 향상시키지만, 계산 비용이 많이 듭니다.

2. 파인튜닝 접근법:

   • 지도 파인튜닝 (SFT): 안정적이고 고성능의 결과를 제공하지만, 형식성 제어나 일반 지시 따르기 와 같은 발현된 LLM 능력을 저하시킬 위험이 있습니다.
   • 파라미터 효율적 파인튜닝 (PEFT): LoRA 및 QLoRA와 같은 기법은 전체 파인튜닝과 비교할 수 있는 성능을 달성하면서 훨씬 적은 파라미터 (종종 1% 미만 업데이트) 로 달성합니다.
   • 선호 기반 최적화: CPO(대조적 선호 최적화) 및 RLHF와 같은 방법은 모델을 인간 선호도와 정렬시켜, 특히 합성 선호 데이터가 사용되는 저자원 설정에서 표준 SFT 를 종종 능가합니다.

C. 언어별 성능

• 고자원 언어: LLM(특히 GPT-4) 은 제로샷 설정에서 전통적인 MT 시스템과 경쟁하거나 우위를 점합니다.
• 저자원 언어: 전통적인 인코더-디코더 모델 (예: 파인튜닝된 M2M100) 은 LLM 보다 일관되게 우위를 점합니다. LLM 은 구조적으로 먼 언어와 병렬 데이터가 전혀 없는 극도로 저자원 환경에서 어려움을 겪습니다.
• 다국어의 저주: 많은 언어로 확장하면 특히 XX→영어 방향에서 충돌이 발생합니다. 이를 완화하기 위한 방향 인식 학습 (DAT) 및 그룹별 모델 병합과 같은 해결책이 등장하고 있습니다.
• 특수 도메인: LLM 은 프롬프팅을 통해 문장 수준에서 용어를 잘 처리하지만, 금융, 의료와 같은 고위험 도메인에서의 문서 수준 일관성은 여전히 과제로 남아 있으며, 종종 파라미터 수준의 적응이 필요합니다.

D. 평가 및 문장 수준 이상

• 심판자로서의 LLM: LLM 은 시스템 수준에서 인간 판단과 강한 상관관계를 보이지만, 세그먼트 수준에서는 불안정하고 편향적입니다 (프롬프트 문구, verbosity, 입력 순서에 민감함).
• 문서 단위 번역: 높은 점수가 효과적인 문맥 사용을 보장하지는 않습니다. LLM 은 문맥이 명시적으로 구조화되지 않는 한 (예: 검색, 상태 추적, 또는 다단계 정제를 통해) 문간 정보에 둔감한 경우가 많습니다.
• 문학 번역: 스타일과 담화를 모델링해야 합니다. 다중 에이전트 워크플로우와 긴 컨텍스트 프롬프팅은 유망하지만, 자동 지표는 문학적 뉘앙스를 포착하지 못하므로 인간 평가가 필요합니다.

4. 실험 결과 (4.4 절)

저자들은 WMT14(En↔De) 에서 Qwen2.5-1.5B-Instruct 모델을 사용하여 통제된 실험을 수행했습니다:

• 프롬프팅 vs. 학습: 파인튜닝 (전체 SFT 및 LoRA 모두) 은 특히 더 어려운 En→De 방향에서 퓨샷 프롬프팅을 크게 능가했습니다.
• LoRA 효율성: LoRA 는 가장 좋은 균형을 이루었으며, De→En에서는 전체 파인튜닝을 능가했지만 En→De에서는 뒤처졌습니다.
• 예시 선택: 이 설정에서는 무작위 선택 대비 유사성 기반 선택의 일관된 이점이 발견되지 않았으나, 3 샷 프롬프팅이 1 샷 대비 미미한 이득을 제공했습니다.
• 방향 비대칭: 모든 방법에서 De→En 이 En→De 보다 일관되게 우위를 점했습니다.

5. 중요성 및 권장 사항

본 조사는 LLM 기반 MT 를 전통적 시스템의 대체물이 아닌, 순수 규모에서 데이터 품질, 선호도 정렬, 그리고 문맥 활용으로 초점을 이동시키는 진화로 위치시킵니다.

향후 연구를 위한 주요 권장 사항:

1. 신호 품질 > 프롬프팅 복잡성: 저자원 언어의 경우, 복잡한 추론 프롬프트보다 고품질 병렬/합성 데이터와 선호 신호가 더 나은 결과를 낳습니다.
2. 선호 기반 학습: 선호 최적화 (CPO, RLHF) 를 사후 단계가 아닌 핵심 구성 요소로 간주하여 인간 판단과 정렬해야 합니다.
3. 발현 능력 보존: 파인튜닝 전략은 일반 지시 따르기 및 스타일 제어와 같은 '파괴적 망각'을 피하도록 설계되어야 합니다.
4. 다양화된 평가: 단일 지표를 넘어 다중 지표 보고와 구조화된 LLM 기반 오류 분석을 사용해야 하며, 세그먼트 수준 LLM 평가가 취약하다는 점을 인정해야 합니다.
5. 명시적 문맥 모델링: 문서 단위 MT 는 단순히 더 긴 컨텍스트 창이 아니라, 문맥 선택 및 상태 추적을 위한 명시적 메커니즘이 필요합니다.

결론:
이 분야는 LLM 의 유연성과 명시적 감독 및 구조화된 제어를 결합한 하이브리드 시스템으로 이동하고 있습니다. 미래의 성공은 모델 크기에 덜 의존하고, 언어적 신호, 최적화 목표, 그리고 인간 선호도가 얼마나 효과적으로 통합되는지에 더 의존할 것입니다.