Probabilistic Circuits for Knowledge Graph Completion with Reduced Rule Sets

당신이 로봇에게 세상을 이해하는 법을 가르치려 한다고 상상해 보세요. 단순히 백과사전 한 권을 통째로 로봇의 뇌에 들이붓는 것이 아니라, "비가 오면 땅이 젖는다"와 같은 일련의 논리적인 "만약 ~라면, 그러면 ~이다(if-then)" 규칙을 주는 것입니다. 이것이 바로 **지식 그래프(Knowledge Graphs)**의 세계이며, 이는 사람, 장소, 사물에 대한 사실들을 연결하는 거대한 디지털 지도입니다. **지식 그래프 완성(Knowledge Graph Completion)**의 목표는 로봇이 누락된 사실을 추론하도록 돕는 것입니다. 예를 들어, "앨리스는 밥의 누나이고, 밥은 찰리의 형제라면, 앨리스는 찰리의 누나이다"라는 것을 알아내는 것과 같습니다.

오랫동안 가장 똑똑한 로봇들은 추측에는 뛰어나지만 '왜' 그렇게 추측했는지 설명하는 데는 서툰 "블랙박스" 수학을 사용해 왔습니다. 그래서 과학자들은 투명성(설명 가능성)을 위해 예전 방식인 규칙 기반 접근법으로 돌아갔습니다. 왜냐하면 그 방식은 논리의 연쇄 과정을 명확히 볼 수 있기 때문입니다. 하지만 여기 함정이 있습니다. 이 규칙 기반 로봇들이 블랙박스만큼 똑똑해지려면 수만 개의 규칙을 암기해야 했습니다. 이는 마치 단 세 권의 책만 읽으면 되는 미스터리를 풀기 위해 2만 권의 책이 있는 도서관을 통째로 읽어야 하는 것과 같습니다. 그중 대부분의 책은 선반 위에 놓여 먼지만 쌓인 채 방치되어 있으며, 이로 인해 로봇은 느려지고, 혼란스러워하며, 이해하기 어려워집니다.

이 논문은 단순하고 대담한 질문을 던집니다: 우리는 거대한 창고 대신 아주 작고 엄선된 규칙 도서관만을 사용하여 로봇을 똑같이 똑똑하게 가르칠 수 있을까? 저자들은 지식 그래프와 논리를 활용하여 "확률적 회로(Probabilistic Circuits)"라고 불리는 영리한 새로운 방법을 제안합니다. 이것을 단순한 규칙서가 아니라, 어떤 규칙이 잘 작동하는지 정확히 알고 있는 "초스마트 사서"라고 생각해보세요. 규칙을 개별적인 사실로 취급하는 대신, 이 사서는 규칙들이 서로 어떻게 "어울려 다니는지"를 학습합니다. 그들은 이 방법을 통해 필요한 규칙의 수를 70%에서 96%까지 줄이면서도 동일하거나 심지어 더 나은 결과를 얻을 수 있다는 것을 발견했습니다. 실제로 그들이 제안한 방식으로 선택된 아주 작은 수의 규칙을 사용했을 때, 기존 방식이 동일한 적은 수의 규칙을 사용할 때보다 무려 31배 더 정확했습니다. 그들은 자신들의 접근 방식이 수학적으로 견고하며 모호한 가정에 의존하지 않는다는 것을 증명함으로써, AI를 놀라울 정도로 똑똑하면서도 놀라울 정도로 단순하게 만드는 방법을 제시했습니다.

문제점: "규칙의 폭발"

당신이 사건을 해결하려는 탐정이라고 상상해 보세요. 기존 방식(AnyBURL와 같은 시스템이 사용하는 방식)은 지금까지 기록된 모든 단서와 이론, 예를 들면 20,000개를 모두 모으는 것입니다. 특정 미스터리를 해결하려고 할 때, 시스템은 그 20,000개의 단서를 모두 확인합니다. 문제는 무엇일까요? 그중 대부분은 특정 사건에는 쓸모가 없다는 점입니다. 의료 용어를 다루는 UMLS라는 데이터셋에서, 기존 시스템은 최고 점수를 얻기 위해 20,000개의 규칙이 필요했지만, 실제로 사용된 것은 약 12,938개뿐이었습니다. 이는 책상 위를 어지럽히는 7,000개 이상의 낭비되는 규칙이 있다는 뜻입니다!

이는 세 가지 큰 골칫거리를 만듭니다:

1. 혼란: 만약 당신이 시스템에 "그걸 어떻게 알아냈지?"라고 묻는다면, 시스템은 20,000개의 규칙이 뒤섞인 엉망진창인 더미를 가리킬 것이며, 이로 인해 어떤 규칙이 실제로 중요했는지 알 수 없게 됩니다.
2. 메모리 과부하: 수만 개의 규칙을 저장하고 관리하는 것은 많은 컴퓨터 메모리를 소모하며, 이는 공간이 제한적인 대규모 언어 모델(LLM)과 같은 다른 스마트한 시스템에 이 규칙들을 입력하고 싶을 때 문제가 됩니다.
3. 느린 사고: 대부분 쓸모없는 규칙의 산더를 검색해야 하기 때문에, 일관성을 확인하거나 복잡한 "만약 ~라면" 식의 질문에 답하는 과정이 매우 느리고 어려워집니다.

해결책: "스마트 사서" (확률적 회로)

저자들은 스마트 사서처럼 작동하는 새로운 프레임워크를 도입했습니다. 단순히 규칙을 나열하는 대신, 이 사서는 규칙들의 집합에 대한 "확률 분포"를 학습합니다. 쉬운 말로, 시스템은 어떤 규칙들이 팀처럼 함께 움직이는지를 학습합니다.

작동 원리는 다음과 같습니다:

• 지표 스위치(The Indicator Switch): 시스템이 학습하는 모든 규칙에 대해, 특정 상황에서 해당 규칙이 활성화될지 결정하는 작은 "스위치"(지표)를 추가합니다.
• 팀 학습하기: 시스템은 이미 알고 있는 사실들(훈련 데이터)을 살펴보고, 어떤 스위치들이 보통 함께 켜지는지를 학습합니다. 이를 위해 **확률적 회로(Probabilistic Circuit, PC)**라는 구조를 사용합니다. PC를 하나의 플로우차트(순서도)라고 생각하세요. PC는 모든 규칙이 독립적으로 행동한다고 가정하지 않고, 다양한 규칙의 조합이 참이 될 확률을 계산합니다.
• 독립성 가정 배제: 기존 시스템들의 흔한 실수는 규칙 A가 규칙 B와 아무런 관련이 없다고 가정하는 것입니다. 이 논문은 규칙들이 서로 영향을 주고받는다는 것을 증명합니다. PC는 이러한 복잡한 관계를 학습하여, 작지만 성능이 뛰어난 팀을 선발할 수 있게 해줍니다.

결과: 적을수록 좋다

연구팀은 의료 기록(UMLS), 가족 계보(Kinship), 일반 지식(WN18RR) 등 8가지 벤치마크 데이터셋을 통해 테스트를 진행했습니다. 결과는 놀라웠습니다:

• 대폭적인 감소: 최고 성능에 도달하는 데 필요한 규칙의 수를 70%에서 96%까지 줄였습니다. 예를 들어, UMLS 데이터셋에서 기존 방식은 최고 점수인 0.964(Hits@10)를 얻기 위해 20,000개의 규칙이 필요했지만, 새 방식은 단 1,000개만으로도 동일한 점수를 얻었습니다.
• "31배"의 향상: 자신들이 만든 작은 최적화된 규칙 세트를 기존 방식의 작은 규칙 세트와 비교했을 때, 새 방식이 최대 31배 더 우수했습니다. 이는 기존 방식이 적절한 소수의 규칙을 뽑아내는 데 매우 서툴렀던 반면, 새 방식은 탁월한 선택자였음을 보여줍니다.
• 높은 효율성: 기존 시스템의 경우 UMLS 데이터셋에서 규칙의 약 **64%**만이 실제로 사용되었습니다. 반면 새 시스템에서는 1,000개의 규칙 중 **86.8%**가 활성화되었습니다. 즉, 쓸모없는 규칙에 공간을 낭비하지 않았습니다.
• 성능 보존: 이 작은 규칙 세트들을 사용했음에도 불구하고, 기존 방식의 거대하고 방대한 전체 규칙 세트가 가진 최고 성능의 **91%**를 유지했습니다.

그들은 이 새로운 시스템을 사용하는 세 가지 방법을 테스트했습니다:

1. SingletonLB: 한 번에 하나의 규칙만을 사용하여 추측을 수행합니다 (단순하고 빠른 접근 방식).
2. SingletonExact: 단일 규칙에 대한 정확한 확률을 계산합니다 (매우 정밀함).
3. GreedyLB: 단계별로 작은 규칙 그룹을 구축합니다 (중간 단계의 접근 방식).

"SingletonExact" 방식이 가장 뛰어났으며, 종종 기존 방식이 자신의 거대한 전체 라이브러리를 사용할 때보다 더 높은 성능을 보였습니다. 예를 들어, CODEX-S 데이터셋에서 새 방식은 단 **5%**의 규칙(20,000개 대비 1,000개)만을 사용하고도 기존 방식 최고 점수의 **99.95%**를 달 Achieve 했습니다.

이것이 왜 중요한가

이것은 단순히 컴퓨터 메모리를 아끼는 문제가 아닙니다. 이것은 AI를 신뢰할 수 있게 만드는 일입니다. 만약 AI 의사가 환자에게 특정 질환이 있다고 말한다면, 당신은 "왜" 그런지 알고 싶을 것입니다. 만약 그 이유가 20,000개의 규칙이 뒤섞인 복잡한 목록이라면, 당신은 그것을 믿을 수 없습니다. 하지만 만약 시스템이 가장 적절하다고 판단한 50개의 명확하고 간결한 규칙 체인을 근거로 제시한다면, 당신은 그 논리를 이해하고 검증할 수 있습니다.

저자들은 자신들의 방법이 탄탄한 수학(구체적으로 Nilsson의 확률 논리)에 근거하고 있음을 보여주었습니다. 즉, 이는 단순히 운 좋게 맞춘 것이 아니라, 사실을 지어내지 않으면서 불확실성을 다루는 엄격한 방식이라는 뜻입니다. 또한 이 접근 방식은 특정 유형의 규칙 생성기에 의존하지 않으므로, 자신들이 사용한 시스템뿐만 아니라 어떤 시스템에서 학습된 규칙에도 적용될 수 있다는 점을 언급했습니다.

요약하자면, 이 논문은 미스터리를 풀기 위해 2만 권의 책이 담긴 도서관이 필요하지 않다는 것을 증명합니다. 올바른 "스마트 사서"가 있다면, 단 하나의 완벽하게 선택된 책장만으로도 문제를 해결할 수 있으며, 이를 통해 AI는 더 빠르고, 더 명확하며, 여전히 똑똑하게 유지될 수 있습니다.