💬 NLP

Learning Chain Of Thoughts Prompts for Predicting Entities, Relations, and even Literals on Knowledge Graphs

이 논문은 소량의 데이터로도 그래디언트 접근 없이 체인 오브 씽킹 (CoT) 프롬프트를 학습하여 지식 그래프의 링크 예측 및 복잡한 OWL 추론 작업에서 기존 임베딩 기반 모델보다 우수한 성능을 보이는 RALP 라는 새로운 프레임워크를 제안합니다.

원저자: Alkid Baci, Luke Friedrichs, Caglar Demir, N'Dah Jean Kouagou, Axel-Cyrille Ngonga Ngomo

게시일 2026-04-15

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Alkid Baci, Luke Friedrichs, Caglar Demir, N'Dah Jean Kouagou, Axel-Cyrille Ngonga Ngomo

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

1. 문제 상황: 낯선 손님을 맞을 때의 당황

기존 방식 (KGE 모델) 은 어떻게 작동했나요?
기존의 지식 그래프 모델들은 마치 **"외국어만 배우는 학생"**과 같습니다.

이 학생은 '한국어' (예: 서울, 한국) 나 '영어' (예: London, UK) 같은 익숙한 단어는 아주 잘 알고 있습니다.
하지만 갑자기 **'에티오피아'**나 **'스와질란드'**처럼 본 적 없는 낯선 이름이 나오거나, **'인구수'**나 **'GDP'**처럼 숫자가 들어가는 질문을 받으면 당황해서 정답을 못 맞춥니다.
또한, 새로운 관계 (예: "어떤 나라가 어떤 언어를 쓰는지") 를 배울 때마다 다시 공부를 시작해야 하는 번거로움이 있습니다.

RALP 의 등장: 만능 통역사
이 연구팀은 "왜 굳이 새로운 언어를 새로 배우게 할까? 이미 모든 언어를 알고 있는 **거대한 인공지능 (LLM)**을 활용하자!"라고 생각했습니다.

RALP 는 낯선 이름이나 숫자가 나오더라도, 그 단어의 의미와 맥락을 이해하는 능력이 뛰어난 LLM 을 사용합니다.
마치 유능한 통역사가 낯선 외국인의 말을 듣고 문맥을 파악해 번역하듯, RALP 는 그래프의 정보를 바탕으로 빠진 조각을 추측합니다.

2. 핵심 기술: "생각의 사슬" (Chain of Thought) 을 가르치는 마법

RALP 의 가장 큰 특징은 **"정답을 외우는 게 아니라, '생각하는 법'을 가르친다"**는 점입니다.

기존 방식: "A 가 B 라면 C 가 된다"는 공식을 수학적으로 외워두는 방식 (벡터 점수).
RALP 방식: "A 라는 나라가 있고, B 라는 관계가 있을 때, 왜 C 가 될 수 있는지 이유를 설명하는 과정을 생각해보자"는 **지시문 (프롬프트)**을 최적화합니다.

비유: 요리 레시피 찾기

기존 모델은 "맛있는 요리를 만들려면 이 재료 (벡터) 를 섞어라"라고만 알려줍니다.
RALP 는 "요리사 (LLM) 에게 '이 재료를 보고 어떤 요리가 어울릴지 생각해보고, 그 이유를 설명해줘'라고 말해줍니다."
그리고 MIPRO라는 도구를 써서, 요리사가 가장 맛있는 요리를 만들어내는 **최고의 지시문 (레시피)**을 자동으로 찾아냅니다. 이 과정은 30 개의 예시만 있어도 가능합니다.

3. RALP 가 해결하는 3 가지 미션

이 시스템은 세 가지 다른 상황에서 활약합니다.

① 빠진 사람 찾기 (엔티티 예측)

상황: "프랑스의 수도는?"이라고 물었을 때, '파리'를 찾아내는 것.
RALP 의 역할: 낯선 나라나 관계가 나와도, "프랑스는 유럽에 있고, 수도는 보통 큰 도시야"라는 상식과 맥락을 이용해 정답을 찾아냅니다. 기존 모델보다 5% 이상 더 정확하게 맞췄습니다.

② 숫자 예측 (리터럴 예측)

상황: "가봉의 1 인당 GDP 는 얼마일까?"라고 물었을 때, 정확한 숫자를 예측하는 것.
RALP 의 역할: 단순히 숫자를 맞추는 게 아니라, **"가봉의 전체 GDP 를 인구로 나누고, 다른 나라들의 데이터와 비교해보니 1,000 달러에서 15,000 달러 사이일 것 같아"**라고 추론 과정을 거쳐 답을 내놓습니다.
결과: 실제 값과 매우 가깝게 예측했을 뿐만 아니라, "이 정도 범위라면 맞을 확률이 높다"는 **신뢰도 (구간)**까지 알려줍니다.

③ 복잡한 규칙 이해 (OWL 추론)

상황: "아이가 있고, 그 아이가 여자라면?" 같은 복잡한 논리 규칙을 적용해 사람을 분류하는 것.
RALP 의 역할: "사람이 아니거나, 사람이면..." 같은 복잡한 논리식을 자연어 (영어) 로 번역해서 LLM 이 이해하기 쉽게 만들어줍니다. 마치 법률가가 복잡한 법조문을 일반인이 이해할 수 있게 설명해주는 것과 같습니다.

4. 왜 이것이 중요한가요? (장점)

적은 데이터로 학습: 30 개 정도의 예시만 있으면, 거대한 인공지능이 스스로 "어떻게 생각해야 정답을 잘 맞출지"를 배웁니다. (기존 방식은 수만 개의 데이터가 필요함)
새로운 것에도 강함: 처음 보는 사람, 관계, 숫자라도 의미를 이해하면 정답을 맞출 수 있습니다. (기존 방식은 처음 보는 건 아예 못 맞음)
데이터를 채워줌: RALP 가 찾아낸 빠진 조각들을 기존 데이터에 추가하면, 다른 AI 모델들도 더 똑똑해질 수 있습니다. (데이터 증강)

5. 한계점 (현실적인 문제)

물론 완벽하지는 않습니다.

데이터가 너무 많으면: 인공지능이 한 번에 읽을 수 있는 글자 수 (토큰) 에 제한이 있어, 아주 거대한 지도를 한 번에 모두 보여주기엔 부족할 수 있습니다.
이름이 너무 짧으면: 'Q123' 같은 코드 이름만 있으면 인공지능이 "이게 무슨 뜻이지?"라고 헷갈려합니다. 사람 이름이나 나라 이름처럼 의미 있는 단어로 바꿔줘야 잘 작동합니다.
이상치: 데이터에 아주 이상한 숫자 (예: 어떤 나라의 인플레이션이 1 만 7 천% 라는 등) 가 섞여 있으면, 인공지능이 혼란을 겪을 수 있습니다.

요약

이 논문은 **"지식 그래프를 채우는 일"**을 **"수학적 계산"**에서 **"언어적 추론"**으로 바꾼 혁신적인 시도입니다.

기존의 단단하지만 유연하지 않은 돌 (기존 모델) 대신, **유연하고 상식적인 통역사 (RALP)**를 고용하여, 낯선 정보와 숫자까지 자연스럽게 이해하고 연결하는 세상을 제안합니다. 이는 인공지능이 더 역동적이고 복잡한 현실 세계의 정보를 다룰 수 있는 새로운 길을 열어줍니다.

논문 요약: 지식 그래프에서의 엔티티, 관계, 리터럴 예측을 위한 학습 체인 오브 씽크스 (CoT) 프롬프트 (RALP)

이 논문은 지식 그래프 (Knowledge Graph, KG) 의 링크 예측 (Link Prediction) 문제를 해결하기 위해 기존 임베딩 기반 모델을 대체하거나 보완하는 새로운 패러다임을 제시합니다. 저자들은 RALP (Reasoning-Augmented Link Prediction) 라는 프레임워크를 제안하여, 연속적인 벡터 파라미터 대신 문자열 기반의 체인 오브 씽크스 (Chain-of-Thought, CoT) 프롬프트를 학습하여 삼중항 (Triple) 의 점수를 매기도록 합니다.

1. 문제 정의 (Problem)

기존의 지식 그래프 임베딩 (KGE) 모델은 엔티티와 관계를 연속적인 벡터로 표현하고 학습된 스코어링 함수를 사용하여 링크 예측을 수행합니다. 그러나 이러한 방법론은 다음과 같은 한계를 가집니다:

미시적 (Unseen) 개체 문제: 학습 데이터에 존재하지 않는 새로운 엔티티나 관계를 처리하는 데 어려움을 겪습니다.
리터럴 (Literal) 처리의 부재: 수치 값이나 텍스트와 같은 리터럴을 포함한 추론이 어렵습니다.
동적/이질적 그래프의 한계: 변화무쌍하고 다양한 데이터를 가진 그래프에서 일반화 성능이 떨어집니다.

반면, 사전 학습된 대규모 언어 모델 (LLM) 은 프롬프팅 (Prompting) 을 통해 소수 샷 (Few-shot) 또는 제로 샷 (Zero-shot) 학습에서 뛰어난 일반화 능력을 보입니다. 하지만 기존 LLM 기반 KG 작업들은 대부분 수동으로 설계된 프롬프트 템플릿에 의존하거나, 모델 구조를 변경하고 미세 조정 (Fine-tuning) 을 수행해야 했습니다.

2. 방법론 (Methodology)

저자는 링크 예측 문제를 프롬프트 학습 (Prompt Learning) 문제로 재정의했습니다.

2.1 RALP 프레임워크

기존의 벡터 파라미터화된 스코어링 함수 $\phi_\Theta$ 대신, 문자열 파라미터화된 스코어링 함수 $\phi_{\beta \le c}$ 를 학습합니다. 여기서 $\beta_{\le c}$ 는 최대 $c$ 개의 토큰으로 구성된 학습된 CoT 프롬프트입니다.

입력: (주어, 술어) 쌍 또는 전체 삼중항.
처리: LLM 에 프롬프트를 입력하여 삼중항의 참일 가능성 (Likelihood) 을 추론하고 점수를 산출합니다.
학습 방식: 경사 하강법 (Gradient Descent) 대신 **베이지안 최적화 (Bayesian Optimization)**를 기반으로 한 MIPRO 알고리즘을 사용하여, 그래디언트 접근 없이도 최적의 프롬프트 문자열을 탐색합니다.

2.2 주요 접근법

RALP (기본): LLM 의 내재된 컨텍스트 학습 능력을 활용하여 기본 프롬프트로 예측 수행.
RALP† (최적화): MIPRO 알고리즘을 사용하여 특정 지식 그래프와 작업에 최적화된 CoT 프롬프트를 자동 학습. 30 개 미만의 소수 예시만으로도 고품질의 프롬프트를 도출합니다.

2.3 확장 적용

지식 그래프 증강 (Enrichment): 학습된 RALP 를 사용하여 기존 훈련 데이터에 누락된 것으로 보이는 삼중항을 발견하고 추가함으로써, 기존 KGE 모델의 훈련 데이터를 보강할 수 있습니다.
수치 리터럴 예측: 회귀 손실 (MSE 등) 을 사용하여 수치 값을 예측하며, 점수 예측뿐만 아니라 신뢰구간 (Interval Range) 을 함께 제공합니다.
OWL 추론: 복잡한 클래스 표현식 (예: $\exists hasChild.Female$ ) 에 대한 인스턴스 검색을 수행합니다.

3. 주요 기여 (Key Contributions)

새로운 패러다임: 링크 예측을 벡터 임베딩이 아닌 문자열 기반 CoT 프롬프트 학습 문제로 전환했습니다.
경사 없는 최적화: MIPRO 를 통해 그래디언트 접근 없이 소수 예시 (≤30 개) 만으로 고품질 프롬프트를 자동 학습합니다.
범용성: 미시적 (Unseen) 엔티티, 관계, 그리고 수치 리터럴까지 포함한 다양한 예측 작업에 적용 가능합니다.
데이터 증강: 학습된 프롬프트를 통해 기존 KGE 모델의 일반화 성능을 향상시키는 데이터 증강 기법을 제안했습니다.
오픈 소스: 구현 코드, 훈련 및 평가 파이프라인을 공개했습니다.

4. 실험 결과 (Results)

저자들은 Countries, LitWD1K, Father 등 다양한 벤치마크 데이터셋에서 실험을 수행했습니다.

전도적 링크 예측 (Transductive Link Prediction):
- RALP†는 Countries 데이터셋에서 MRR 1.000을 달성하여 기존 SOTA 모델들을 능가했습니다.
- 기존 KGE 모델 (DistMult, KeCi 등) 에 RALP 로 생성된 데이터를 증강하면, 모든 모델에서 평균적으로 5% 이상 MRR 향상을 보였습니다.
수치 리터럴 예측:
- LitWD1K 데이터셋에서 인구, GDP, 기대 수명 등 수치 값을 예측했습니다.
- 예측된 평균값은 실제 값과 매우 근사했으며, 예측 구간 (Interval) 의 커버리지 (ICR) 가 75% 이상으로 신뢰할 수 있는 불확실성 추정이 가능함을 입증했습니다.
OWL 추론 (Instance Retrieval):
- Father 데이터셋의 복잡한 클래스 표현식에 대한 인스턴스 검색에서 Jaccard 유사도 88% 이상을 달성했습니다.
- 특히 **맨체스터 구문 (Manchester Syntax)**을 사용할 때 DL 구문보다 LLM 의 추론 성능이 더 뛰어났습니다.

5. 의의 및 결론 (Significance & Conclusion)

이 연구는 지식 그래프 완성 (Knowledge Graph Completion) 분야에서 임베딩 기반 방법론의 한계를 넘어, LLM 의 추론 능력을 활용한 유연한 대안을 제시했습니다.

유연성: 새로운 엔티티나 관계가 추가되어도 재학습 없이 프롬프트만 조정하면 대응 가능합니다.
해석 가능성: CoT 를 통해 모델이 어떻게 결론에 도달했는지 추론 과정을 확인할 수 있습니다.
미래 전망: 수치 리터럴 예측과 복잡한 논리 추론 (OWL) 에서의 성공은 LLM 이 동적이고 이질적인 지식 그래프를 처리하는 핵심 기술로 자리 잡을 가능성을 보여줍니다.

결론적으로, RALP 는 소수의 예시만으로 자동화된 프롬프트 최적화를 통해 지식 그래프의 링크 예측, 수치 예측, 논리 추론을 통합적으로 해결하는 강력한 프레임워크임을 입증했습니다.