SA-RGLP: Syntax-Aware Residual Graph Label Propagation with LLM Soft Priors for Metaphor Detection

언어는 종종 수수께끼를 던지는 살아있는 생명체와 같습니다. 작가가 학생이 어려운 개념을 "파악했다(grasped)"라고 말할 때, 이는 단단한 물체를 손으로 꽉 쥐는 물리적 행위를 묘사하는 것이 아닙니다. 이는 우리가 한 사물을 다른 사물의 언어를 빌려 이해하는 인지적 지름길인 은유를 사용하는 것입니다. 언어를 데이터의 문자열로 처리하는 컴퓨터에게 이러한 수수께끼는 해결하기 매우 까다로운 문제입니다. 기계는 "grasp"가 보통 도구를 잡는 것을 의미한다는 것은 쉽게 인식할 수 있지만, 동일한 단어가 추상적인 이해를 설명하기 위해 의미가 변화했을 때를 구별하는 데는 어려움을 겪습니다. 이러한 어려움은 중요한데, 은유는 단순히 시적인 수사가 아니라 인간이 생각하고, 느끼고, 소통하는 방식의 근간이기 때문입니다. 만약 컴퓨터가 물리적인 움켜씸과 정신적인 이해 사이의 차이를 구분할 수 없다면, 그 컴퓨터는 이야기나 뉴스 보고, 혹은 대화를 진정으로 이해할 수 없습니다.

수년 동안 연구자들은 컴퓨터에게 이러한 숨겨진 의미를 포착하도록 가르치기 위해 노력해 왔습니다. 대부분의 방법은 각 문장을 고립된 섬처럼 취급하여, 대상 단어 주변의 단어들을 분석해 그것이 은유적으로 사용되었는지 결정했습니다. 이 방식은 단순한 경우에는 충분히 잘 작동하지만, 더 큰 그림을 놓치게 됩니다. 은유는 무작위적인 사고가 아니라 일정한 패턴을 따릅니다. 우리가 "grasp"라는 단어를 "이해하다"라는 뜻으로 사용하는 방식은 수천 개의 서로 다른 문장 전반에 걸쳐 반복되는 주제입니다. 문장을 한 번에 하나씩만 살펴봄으로써, 컴퓨터는 문장들 사이의 연결 고리를 놓치게 됩니다. 더욱이, 방대한 양의 텍스트로 학습된 강력한 AI 시스템인 거대 언어 모델(LLM)은 단어가 어떻게 사용되는지에 대한 깊은 지식을 가지고 있음에도 불구하고, 인간의 지도 없이 특정하고 까다로운 사례들에 그 지식을 일관되게 적용하는 데는 종종 어려움을 겪습니다.

신장대학교의 한 연구팀은 이 간극을 메우기 위한 새로운 접근법인 SA-RGLP를 개발했습니다. 모든 문장을 별개의 퍼즐로 취급하는 대신, 이 시스템은 전체 문장 집합을 하나의 연결된 지도로 바라봅니다. 모든 문장이 한 권의 책인 거대한 도서관을 상상해 보십시오. 전통적인 방식은 책 한 권을 읽고, 덮고, 다음 책으로 넘어갑니다. 그러나 이 새로운 시스템은 서가를 돌아다니며 "개념을 파악하는 것"에 관한 책이 "도구를 잡는 것"에 관한 책과 같은 선반에 놓여 있으며, "밧줄을 잡는 것"에 관한 책도 그 근처에 있다는 사실을 알아차립니다. 이러한 다양한 용법들이 서로 어떻게 연관되어 있는지 파악함으로써, 시스템은 특정 맥락에서 단어가 무엇을 의미하는지에 대해 훨씬 더 똑똑한 추측을 할 수 있습니다.

과정은 문장 자체에 대한 세심하고 단계적인 분석으로 시작됩니다. 시스템은 먼저 대상 단어와 그 주변 환경을 살피며, 문법과 각 단어가 수행하는 구체적인 역할에 주의를 기울입니다. 시스템은 다음과 같이 자문합니다. '단어가 묘사하는 물리적 행동이 그것과 결합된 추상적인 아이디어와 충돌하는가?' 만약 학생이 개념을 "파악한다면", 시스템은 물리적인 잡기와 추상적인 아이디어 사이의 긴장 상태를 기록합니다. 이 초기 점검은 첫 번째 추측을 만들어내지만, 연구자들은 이러한 국소적인 관점만으로는 확신하기에 충분하지 않다는 것을 알고 있었습니다.

이 추측을 개선하기 위해, 시스템은 두 번째 지능 계층인 '지식 많은 상담가' 역할을 하는 거대 언어 모델을 도입합니다. 이 상담가는 단순히 "예" 또는 "아니오"라는 간단한 답변을 내놓는 것이 아닙니다. 대신, 증거를 무게 있게 다루며 예를 들어 "이 단어가 은유적으로 사용될 확률은 75%이고, 직설적으로 사용될 확률은 25%이다"와 같이 미묘한 확률을 제시합니다. 이러한 "소프트(soft)"한 조언은 엄격한 결정을 너무 일찍 강요하기보다 인간의 언어에서 흔히 나타나는 불확실성을 보존합니다.

가장 중요한 혁신은 세 번째 단계에서 일어납니다. 시스템은 분석한 모든 문장을 가져와 의미의 유사성에 따라 하나의 글로벌 네트워크를 구축합니다. 만약 어떤 문장은 "grasp"를 "이해하다"라는 뜻으로 사용하고, 다른 문장은 "잡다"라는 뜻으로 사용한다면, 시스템은 그 연결 고리를 인식합니다. 그런 다음 시스템은 잔차 그래프 레이블 전파(residual graph label propagation)라고 불리는 과정을 통해 이 네트워크 전체에 정보를 공유합니다. 이것을 마치 미스터리를 풀기 위해 모인 사람들의 모임이라고 생각해 보십시오. 만약 한 사람이 확신하지 못한다면, 그는 이웃들에게 단서를 구합니다. 만약 이웃들이 강력한 증거를 가지고 있다면, 그 증거는 의구심을 해소하는 데 도움을 줍니다. 이 디지털 네트워크에서, 시스템은 명확한 사례들의 확신에 찬 예측이 모호한 사례들의 불확실한 예측을 부드럽게 유도하도록 합니다. 이는 초기 추측을 덮어쓰는 것이 아니라, 전체 데이터셋의 집단 지성을 사용하여 오류를 수정하며 추측을 정교하게 다듬는 과정입니다.

연구진은 이 방법을 수백 개의 문장으로 구성된 작은 컬렉션부터 수천 개의 예시가 담긴 거대한 데이터셋에 이르기까지 세 가지 서로 다른 데이터 세트에 대해 테스트했습니다. 결과는 놀라웠습니다. 작은 데이터 세트에서는 시스템이 잘 작동했지만, 더 크고 복잡한 데이터 세트에서는 기존 방식보다 성능이 현저히 뛰어났습니다. 이 시스템은 이 분야에서 사용되는 두 개의 주요 벤치마크에서 역대 가장 높은 정확도 점수를 기록했습니다. 이 연구는 국소적인 문법 이해, 거대 언어 모델의 광범위한 지식, 그리고 문장 간의 연결 능력을 결합함으로써, 시스템이 고립된 방식으로는 도달할 수 없는 수준의 정밀도로 은유를 탐지할 수 있음을 보여주었습니다.

결정적으로, 연구진은 시스템의 이러한 서로 다른 부분들을 제거했을 때 어떤 일이 발생하는지도 테스트했습니다. 문장 간의 연결을 보는 능력을 제거했을 때 시스템의 성능은 급격히 떨어졌으며, 이는 글로벌 지도가 필수적임을 입증했습니다. 거대 언어 모델의 미묘한 조언을 제거했을 때 시스템의 정확도는 낮아졌으며, 이는 외부 지식이 중요한 보완재임을 보여주었습니다. 연구는 은유를 이해하는 최선의 방법은 단어를 진공 상태의 단일 단어로 보는 것이 아니라, 인간의 표현이라는 거대하고 상호 연결된 웹의 일부로서 보는 것이라는 결론을 내렸습니다. 이 접근 방식은 자연어 처리 분야를 인간이 의미를 구축하기 위해 언어를 사용하는 방식에 대한 진정한 이해에 한 걸음 더 가깝게 만듭니다.