기술적 요약: 토큰 단위 중국어 은유 식별을 위한 재현 가능한 다중 아키텍처 베이스라인

문제 제기

은유는 언어 전반에 걸쳐 광범위하게 존재하지만, 은유 식별 절차 VU(MIPVU) 프레임워크 하에서 중국어의 은유 관련 단어를 토큰 수준으로 계산적으로 식별하는 작업은 영어에 비해 상대적으로 덜 탐구된 상태입니다. 기존 영어 연구는 Transformer 기반 시퀀스 라벨러와 MelBERT 와 같은 특수 아키텍처를 활용하여 강력한 베이스라인을 확립했습니다. 그러나 중국어의 경우, 유일하게 널리 이용 가능한 MIPVU 주석 코퍼스인 **PSU 중국어 은유 코퍼스 (PSU CMC)**는 공유되고 재현 가능한 프로토콜 하에서 현대적인 인코더 파인튜닝, MelBERT 스타일의 어휘 융합, 또는 지시 튜닝된 대규모 언어 모델 (LLM) 을 통해 체계적으로 평가된 바가 없습니다. 또한, 중요한 자원 격차가 존재합니다. MelBERT 는 기본 의미 표현 (일반적으로 영어의 경우 WordNet 해설) 에 의존하지만, 이에 상응하는 공개된 중국어 자원은 존재하지 않았습니다.

방법론

본 논문은 PSU CMC 에서 세 가지 서로 다른 모델 계열을 비교함으로써 재현 가능한 베이스라인을 확립하며, 다섯 개의 무작위 시드를 사용하여 파일 단위 70/10/20 의 고정된 훈련/개발/테스트 분할을 적용합니다.

1. 자원 구축: MCD7 기본 의미 임베딩

중국어용 MelBERT 적응을 가능하게 하기 위해, 저자들은 **현대 중국어 사전 제 7 판 (MCD7)**에서 기본 의미 자원을 구축했습니다.

• 파이프라인: 74,823 개의 사전 항목을 파싱하여 가장 구체적이거나 주요한 의미 (일반적으로 첫 번째 정의) 를 추출했습니다. 교차 참조는 재귀적으로 해결되었습니다.
• 인코딩: 기본 의미 텍스트는 Chinese RoBERTa-wwm-ext-large를 사용하여 1024 차원 벡터로 인코딩되었습니다.
• 커버리지: 이 자원은 PSU CMC 의 고유 토큰 중 71.51% 를 커버합니다. 어휘 외 토큰은 영벡터 (zero-vector) 폴백을 받습니다.
• 배포: 임베딩과 파이프라인은 공개되지만, 저작권 문제로 인해 원본 해설 텍스트는 재배포되지 않습니다.

2. 모델 아키텍처

본 연구는 세 가지 모델 계열에 걸쳐 네 가지 구성을 평가합니다.

• 인코더 파인튜닝 (RoBERTa): Chinese RoBERTa-wwm-ext-large와 선형 헤드를 사용한 표준 토큰 분류.
• MelBERT 적응: 은유 이론에 기반한 두 개의 병렬 채널을 통합한 RoBERTa 의 확장:
  • MIP 채널: 문맥 표현과 MCD7 에서 파생된 기본 의미 벡터를 대비시킵니다.
  • SPV 채널 (선택적 선호도 위반): 토큰 표현과 지역 문맥을 대비하여 이상치를 표시합니다.
  • 변형: 전체 (MIP + SPV + 융합), MIP 전용, SPV 전용.
• 지시 튜닝 생성 (Qwen): QLoRA(4 비트 양자화 + 저랭크 어댑터)로 파인튜닝된 Qwen3.5-9B. 이 작업은 모델이 은유 토큰의 구조화된 JSON 목록을 출력하는 생성 문제로 설정됩니다. 여섯 가지 작업 형식이 테스트되었으며, "생성적 JSON 추출 (Q2)"이 최상으로 선정되었습니다.

3. 실험 프로토콜

• 지표: 클래스 불균형 (양성 토큰 9.16%) 으로 인해 양성 클래스 F1(Test pos-F1) 이 주요 지표입니다.
• 시드: 모든 모델에 대해 공정한 비교를 보장하기 위해 다섯 개의 고정 시드 ({42, 123, 2024, 7, 31415}) 를 사용합니다.
• 하드웨어: 단일 NVIDIA RTX 5090.

주요 결과

성능 비교

• 최고 성능자: **MelBERT(MIP 전용)**가 테스트 양성 F1 0.7281 ± 0.0050으로 최고 성능을 달성했습니다.
• 비교:
  • MelBERT 전체 (MIP+SPV): 0.7270 ± 0.0069 (MIP 전용보다 약간 낮음).
  • 일반 RoBERTa: 0.7142 ± 0.0121.
  • Qwen3.5-9B(QLoRA): 0.6157 ± 0.0113.
• 생성 격차: Qwen 생성 베이스라인은 인코더 기반 모델보다 약 11 개의 절대 F1 포인트 뒤처집니다.

주요 발견 사항

1. 중국어에서의 SPV 채널 비효과성: 영어 결과에서는 SPV 가 성능 향상에 기여하는 것과 대조적으로, 중국어에서 SPV 채널은 신뢰할 수 있는 긍정적 신호를 제공하지 않습니다. MIP 전용 구성이 전체 구성보다 성능이 우수하며 시드 변동성이 현저히 낮습니다 (0.0050 대 0.0069). 저자들은 이것이 중국어에서 관습적 은유가 지배적이어서 은유 - 문맥 쌍이 빈번하게 발생하며 선택적 위반을 유발하지 않기 때문이라고 가설을 세웠습니다.
2. LLM 의 정밀도 - 재현율 비대칭성: Qwen 베이스라인은 인코더에 비해 주로 낮은 재현율(0.5526) 로 고통받으며, 정밀도는 유사하게 유지합니다. 이는 생성 모델이 모호하거나 경계선 사례를 누락하게 만드는 이산적 결정을 내린다는 것을 시사하며, 저랭크 적응 (QLoRA) 으로 인해 이러한 한계가 더욱 악화됩니다.
3. 형식 민감성: 여러 Qwen 작업 형식은 용량이 아닌 설계 문제로 실패했습니다. 구체적으로, BIO 태깅 (Q4) 은 PSU CMC 의 중국어 은유가 주로 단일 토큰이기 때문에 "I-"태그가 무용지물이 되어 실패했으며, 짧은 컨텍스트 윈도우를 가진 구조화된 생성 (Q8 v1) 은 감독 토큰 잘림으로 인해 실패했습니다.
4. 레지스터 난이도: 성능은 레지스터에 따라 달라지며, 소설이 가장 어렵고 (최저 F1, 최고 변동성), 학술 분야가 가장 쉽습니다. 이는 은유 밀도와 새로움과 상관관계가 있습니다. 소설에는 더 많은 새로운, 문맥 의존적 은유가 포함되어 있습니다.

기여 및 의의

본 논문은 세 가지 주요 기여를 주장합니다.

1. 재현 가능한 베이스라인: PSU CMC 에 대한 토큰 단위 중국어 은유 식별을 위한 첫 번째 체계적이고 다중 아키텍처 베이스라인을 제공하며, 전체 코드, 분할 매니페스트, 시드별 출력을 포함합니다.
2. MCD7 기본 의미 자원: 권위 있는 현대 중국어 사전에서 파생된 새로운 자원을 도입하여, 중국어에서 MelBERT 스타일의 어휘 융합을 처음으로 가능하게 했습니다.
3. 실증적 통찰:
   • SPV 채널이 MIPVU 하의 중국어 은유 식별에는 유익하지 않음을 입증했습니다.
   • 정밀도를 선호하는 편향을 지적하며, 현재 지시 튜닝된 LLM(특히 QLoRA 적응 Qwen) 이 세밀한 토큰 단위 작업에 갖는 특정 한계를 강조했습니다.
   • 생성 작업 형식의 실패는 종종 모델 용량이 아닌 형식 설계 (예: 단일 토큰 현상에 대한 BIO 태그) 로 인한 것임을 확인했습니다.

저자들은 이 연구를 미래 연구를 위한 "공통 참조점"으로 위치시키며, 향후 시스템들이 비공식적 추정치가 아닌 이러한 특정 구성과 시드 프로토콜과 비교해야 한다고 촉구합니다. 그들은 QLoRA 튜닝된 LLM 이 즉시 인코더와의 격차를 메울 것으로 기대하지는 않지만, 미래 연구는 다중 의미 MelBERT 통합이나 인코더의 정밀도와 LLM 의 재현율을 결합한 하이브리드 패러다임을 탐구할 수 있음을 겸손하게 언급합니다.