💬 NLP

Beyond Factual Knowledge: Benchmarking and Learning Step-Level Procedural Rule Reasoning in Large Language Models

이 논문은 단계별 절차적 규칙 추론을 평가하기 위한 대규모 벤치마크인 RuleWorld를 소개하고, KV 캐시 내에 규칙을 동적으로 주입하고 재참조함으로써 복잡한 다단계 추론 작업에서 LLM의 성능을 크게 향상시키는 엔드투엔드 프레임워크인 DynaRule을 제안한다.

원저자: Bohan Yu, Pengfei Cao, Chen Han, Chenxi Zhou, Zhiheng Zhang, Zhiyang Xie, Wenhao Teng, Xiangwen Liao, Jun Zhao, Kang Liu

게시일 2026-08-25

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Bohan Yu, Pengfei Cao, Chen Han, Chenxi Zhou, Zhiheng Zhang, Zhiyang Xie, Wenhao Teng, Xiangwen Liao, Jun Zhao, Kang Liu

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

거대 언어 모델은 이야기를 쓰고, 수학 문제를 풀며, 놀라울 정도로 유창하게 언어를 번역할 수 있는 차세대 인공지능의 엔진입니다. 이들은 방대한 양의 텍스트를 흡수하여 단어들이 어떻게 결합하여 의미를 형성하는지에 대한 통계적 패턴을 학습함으로써 작동합니다. 수년 동안 연구자들은 파리가 프랑스의 수도라는 사실을 아는 것과 같이, 사실을 회상하는 능력에 대해 이 모델들을 테스트해 왔습니다. 하지만 현실 세계의 사고에 있어 그만큼 중요한 또 다른 종류의 지식이 있습니다. 바로 절차적 지식(procedural knowledge)입니다. 이것은 무엇이 사실인지 아는 것이 아니라, 일련의 지침에 따라 어떻게 행동하거나 추론해야 하는지를 아는 것입니다. 특정하고 복잡한 법률을 새로운 사건에 적용해야 하는 변호사나, 희귀 질환을 진단하기 위해 상세한 프로토콜을 따르는 의사를 상상해 보십시오. 이러한 상황에서 정답은 기억 속에 저장되어 있는 것이 아닙니다. 거대하고 외부적인 규칙집으로부터 단계별로 찾아내고, 선택하고, 적용해야 합니다. 현재 이 분야가 직면한 질문은, 이 강력한 모델들이 진정으로 이를 수행하는 법을 배울 수 있는지, 아니면 단순히 내부적인 추측에 의존하며 규칙을 이해하는 척하는 것인지에 대한 것입니다.

이를 확인하기 위해, 연구진은 '룰월드(RuleWorld)'라고 불리는 거대한 테스트 환경을 구축했습니다. 연구진은 모델에게 단 하나의 퍼즐을 풀기 위한 몇 가지 규칙만을 주는 대신, 거의 500만 개에 달하는 추상적인 규칙을 포함하는 라이브러리를 만들었습니다. 이 규칙들은 "만약 생명체가 숲에 들어오면, 불에 탄다"와 같이 일상생활과는 무관하고 의도적으로 기이하게 설정되었는데, 이는 모델이 자신의 내부 지식을 사용하지 못하도록 하기 위함입니다. 규칙은 형식적인 논리 문장과 평이한 영어 문장이라는 두 가지 방식으로 작성되었습니다. 그런 다음 연구진은 모델을 테스트하기 위해 세 가지 유형의 과제를 설계했습니다. 첫 번째는 간단하게, 질문에 답하기 위한 규칙 하나를 찾는 것이었습니다. 두 번째는 더 복잡하게, 각각 다른 규칙을 필요로 하는 여러 질문에 동시에 답하는 것이었습니다. 세 번째는 가장 어려운 과제로, 첫 번째 단계의 답이 다음 단계의 시작점이 되는 일련의 문제들을 해결하는 것이었으며, 이는 모델이 긴 논리적 단계 과정을 통해 자신의 진행 상황을 추적할 것을 요구했습니다.

기존 모델들을 이 새로운 벤치마크로 테스트했을 때, 결과는 극명했습니다. 가용 가능한 규칙의 수가 많아질수록 가장 발전된 모델들조차 고전했습니다. 수천 개의 규칙이 있는 풀(pool)에서 선택해야 할 때, 모델들은 종종 잘못된 규칙을 집어 들거나 다단계 체인의 중간에서 길을 잃었습니다. 답변 전 관련 텍스트를 검색하도록 모델을 돕는 표준적인 방법들은 취약한 것으로 드러났습니다. 그 방법들은 첫 번째 단계를 위한 올바른 규칙은 찾아냈지만, 두 번째 단계를 위해 검색을 업데이트하는 데 실패하여 오류의 연쇄를 일으켰습니다. 모델들은 본질적으로 전체 규칙집을 한꺼번에 머릿속에 담아두려 노력하고 있었으며, 이는 각 특정 순간에 중요한 것에 집중하는 모델의 능력을 압도했습니다.

이를 해결하기 위해 연구진은 '다이나룰(DynaRule)'이라 불리는 새로운 시스템을 개발했습니다. 규칙을 한 번 읽고 지나가는 정적인 목록으로 취급하는 대신, 다이나룰은 모델이 생각하는 동안 규칙에 접근하고 이를 업데이트할 수 있는 동적인 자원으로 취급하도록 가르칩니다. 이 시스템은 규칙을 모델의 내부 메모리 구조에 직접 임베딩함으로써 작동하며, 이 과정은 모델이 속도를 늦추지 않고 규칙에 접근할 수 있게 해줍니다. 결정적으로, 모델은 언제 기어를 바꿔야 하는지를 인식하도록 훈련됩니다. 모델은 하나의 추론 단계를 마치고 다음 규칙을 찾아야 할 때마다, 특수한 내부 신호인 정신적 '검색' 명령을 내뱉는 법을 배웁니다. 이 신호가 발사되면, 모델은 즉시 전체 규칙 라이브러리를 재평가하여 이전에 사용했던 규칙들은 버리고, 현재 단계에 필요한 새로운 규칙들에 주의를 집중합니다. 이는 규칙을 찾는 행위를 일회성 검색에서, 추론 체인과 함께 진화하는 지속적이고 학습 가능한 과정으로 변화시킵니다.

이 접근 방식의 결과는 상당했습니다. 룰월드 벤치마크에서 다이나룰은 강력한 외부 검색 도구를 사용하는 다른 모든 방법들을 일관되게 능가했습니다. 만 개의 규칙이 있는 풀에 직면했을 때, 이 새로운 시스템은 높은 정확도를 유지하며 첫 시도에서 85% 이상의 확률로 올바른 규칙을 식별해 낸 반면, 다른 방법들은 성능이 급격히 떨어졌습니다. 여러 단계가 필요한 과제에서 다이나룰은 기존의 가장 우수한 대안들보다 평균 정확도를 거의 20포인트 향상시켰습니다. 이 시스템은 모델이 거대한 규칙 집합에 대한 자신의 주의력을 능동적으로 관리하도록 가르침으로써, 복잡한 논리적 풍경을 안정적으로 탐색할 수 있음을 입증했습니다. 연구진은 모델이 단순히 규칙을 암기한 것이 아니라, 규칙을 찾아 적용하는 일반적인 방법을 배웠다는 것을 발견했습니다. 이는 이전에 본 적 없는 규칙들로 테스트했을 때도 마찬가지였습니다. 이는 모델에게 작업이 진행됨에 따라 자신의 초점을 동적으로 업데이트할 수 있는 방법이 주어진다면, 모델의 방대한 내부 지식과 외부 지침을 따르는 능력 사이의 간극을 메울 수 있음을 시사합니다.

기술 요약: 사실적 지식을 넘어 – 대규모 언어 모델의 단계별 절차적 규칙 추론 벤치마킹 및 학습

1. 문제 정의

대규모 언어 모델(LLM)은 텍text 이해와 생성에는 뛰어나지만, 외부에서 제공된 **절차적 규칙(procedural rules)**을 대규모로 신뢰성 있게 국지화(localize)하고 적용하는 데 어려움을 겪는다. 기존의 LLM 지식 능력 평가는 주로 사실적 지식에 초점을 맞추고 있어, 절차적 지식(어떻게 행동하거나 추론하는가)을 간과하는 경우가 많다. 또한, 현재의 규칙 추론 벤치마크는 일반적으로 관련 규칙을 인스턴스별 전제로 제공하는데, 이는 재사용 가능한 규칙을 개별 질문을 위한 힌트로 축소시킨다. 이러한 설계는 모델이 다음을 수행할 수 있는지 여부를 모호하게 만든다:

특정 쿼리에 대해 대규모 공유 규칙 저장소에서 올바른 재사용 가능 규칙을 식별할 수 있는가.
대상 규칙이 동적으로 변하는 다단계 추론 체인 전반에서 이러한 규칙들을 신뢰성 있게 적용할 수 있는가.

현재의 방법론들은 두 가지 주요 과제에 직면해 있다:

검색 및 활용의 취약성: 주입된 규칙들은 종로 매우 추상적이며 질문의 표면 형태와 약하게 매칭되어, 대규모 환경에서 검색 및 적용이 불안정하다.
단계별 불안정성: 병렬 집계 및 다단계(multi-hop) 추론 과정에서 필요한 규칙은 단계마다 변한다. RAG(Retrieval-Augmented Generation)나 내부 주입 방식과 같은 기존 접근법은 다단계 추론 중에 의미론적 불일치나 불안정한 규칙 선택 문제를 겪는 경우가 많다.

2. 방법론

2.1 RuleWorld 벤치마크

저자들은 LLM의 규칙 활용 능력을 측정하기 위해 설계된 대규모 벤치마크인 RuleWorld를 도입한다.

규모 및 성격: 이 벤치마크는 추상적이고, 상식에 의존하지 않으며, 엔티티 독립적인 494만 개의 외부 제공 절차적 규칙으로 구성된다. 이는 모델이 내재된 지식에 의존하는 것을 방지한다.
구조: 규칙은 네 가지 주요 유형(속성, 환경, 행동, 상태)과 7개의 하위 유형으로 구성되며, 1차 논리(FOL)와 자연어(NL) 형식 모두로 제공된다. 규칙들은 전역적으로 일관되고 충돌이 없어, 한 규칙의 결론이 다른 규칙의 전제가 될 수 있다.
태스크 유형: 규칙 활용의 뚜렷한 모드를 포착하기 위해 세 가지 QA 유형을 정의한다:
1. 단일 규칙 QA (Single-Rule QA): 정확히 하나의 규칙을 적용함 (50K 인스턴스).
2. 병렬 다중 규칙 QA (Parallel Multi-Rule QA): 하나의 인스턴스 내에서 여러 독립적인 하위 질문을 해결하고 답을 집계함 (3.25M 인스턴스, 최대 8개의 골드 규칙).
3. 다단계 규칙 QA (Multi-Hop Rule QA): 중간 결론이 후속 단계의 전제가 되는 순차적 추론 (77.7K 인스턴스, 최대 4단계 홉).
전체 범위: 벤치마크는 11개 하위 태스크에 걸쳐 337만 개의 QA 인스턴스를 포함한다.

2.2 DynaRule 프레임워크

저자들은 규칙을 모델의 내부 KV 캐시에 주입하고, 검색을 학습 가능한 단계별 프로세스로 변환하는 엔드 투 엔드 프레임워크인 DynaRule를 제안한다.

KV 캐시를 통한 규칙 주입: 외부 규칙을 사전 학습된 문장 인코더로 인코딩하고, 단일 레이어 어댑터를 통해 LLM의 임베딩 공간으로 투영한다. 이러한 규칙 표현(Key-Value 쌍)은 컨텍스트 토큰과 함께 KV 캐시에 직접 삽붙되어, 주의 메커니즘(attention mechanism)이 규칙 세트를 포함하도록 확장한다.
신뢰도 레이어 식별 (Confidence Layer Identification): 저자들은 주입된 규칙에 대한 어텐션 엔트로피가 최소화되는 트랜스포머 내의 특정 "신뢰도 레이어"를 식별한다. 이 레이어는 가장 날카로운 어텐션 분포를 보이며, 이는 관련 규칙에 대한 결정적인 집중을 나타낸다.
스택형 단계별 어텐션 학습 (Stacked Step-Level Attention Training):
- 각 특정 추론 단계에서 필요한 규칙으로 주의를 유도하기 위해 특수 <search> 토큰을 도입한다.
- 학습에는 **스택형 단계별 어텐션 손실(Stacked Step-Level Attention Loss)**이 포함된다. 첫 번째 단계의 경우, 검색은 질문에 의해 조건화된다. 이후 단계( $t \ge 2$ )에서는 정답 이전에 <search> 토ке이 삽arsa되며, 이 토큰의 은닉 상태(hidden state)가 규칙 세트에 다시 어텐션을 수행하는 쿼리 역할을 한다.
- 학습 목표는 공유 후보 풀(모든 단계의 골드 규칙으로 증강됨)을 구축하고, 현재 단계의 올바른 규칙에 높은 어텐션을 유도하는 동시에 다른 단계의 규칙을 하드 네거티브(hard negatives)로 취급하는 교차 엔트로피 손실을 적용한다.
추론 과정: 추론 중에 모델은 내부 공간 내에서 규칙 검색과 업데이트를 완전히 수행한다. 디코더가 <search> 토큰을 출력하면, 모델은 신뢰도 레이어에서 규칙 세트에 대한 어텐션을 재계산하고, 새로운 규칙을 선택하여 KV 캐시의 오래된 규칙 항목을 교체한다. 이를 통해 다단계 추론을 지원하기 위한 동적 규칙 재-어텐션 및 업데이트가 가능하다.

3. 주요 기여

RuleWorld 벤치마크: FOL 및 NL 형태의 수백만 개 추상적 절차적 규칙을 포함하며, 4가지 유형, 7가지 하위 유형, 11가지 QA 하위 태스크를 다루는 대규모 벤치마크이다. 이는 대규모 공유 규칙 풀과 단일 규칙, 병렬 다중 규칙, 다단계 추론에 대한 통제된 평가를 독특하게 결합한다.
DynaRule 프레임워크: 외부 규칙을 KV 캐시에 주입하는 엔드 투 엔드 규칙 통합 방법이다. 이는 학습 가능한 <search> 기반의 단계별 어텐션 메커니즘을 활용하여 규칙을 동적으로 선택하고 업데이트함으로써, 검색을 내부적이고 미분 가능한 프로세스로 변환한다.

4. 실험 결과

Qwen2.5-7B-Instruct를 베이스 모델로 하여 Prompting, RAG (Dense, BM25, Hybrid), KBLaM, SR-KI를 포함한 강력한 베이스라인들과 RuleWorld에서 실험을 진행하였다.

규칙 추론 성능:
- 기존 LLM들(DeepSeek V3.2 및 GPT-5.5 포함)은 대규모 규칙 풀(예: 10K 규칙) 환경에서 정확도가 급격히 떨어지는 등 상당한 어려움을 겪는다.
- DynaRule는 모든 베이스라인을 일관되게 능가한다. 이는 가장 강력한 베이스라인보다 평균 QA 정확도를 최대 19 포인트 향상시킨다.
- 특정 하위 태스크에서는 최대 48 포인트의 이득을 보인다.
- 10K 규칙 환경에서 DynaRule은 85% 이상의 Recall@1과 90% 이상의 Recall@10을 달성하여, 가장 강력한 베이스라인보다 60 포인트 이상 앞선다.
검색 성능:
- DynaRule는 우수한 규칙 국지화 능력을 보여주며, Recall@1에서 가장 강력한 베이스라인을 최대 61.98 포인트(FOL) 및 53.42 포인트(NL) 차이로 앞선다.
- 여러 단계의 검색 과정을 거쳐도 격차를 좁히지 못하는 반복적 RAG 방식(IRCoT, ReAct)과 달리, DynaRule의 내부 단계별 검색은 규칙 국지화를 디코딩 과정과 일치시킨다.
효율성:
- DynaRule은 효율적으로 확장된다. KV 캐시 주입은 $O((M+N)N)$ 의 복잡도를 가지며, 이는 긴 규칙 컨텍스트에 대한 이차적(quadratic) 프롬프트 주입보다 훨씬 저렴하다.
- 높은 토큰 처리량을 유지하면서 첫 토큰 생성 시간(TTFT)과 총 추론 시간을 단축한다.
일반화:
- 학습에 사용되지 않은 규칙 저장소(unseen rules)에 대해 테스트했을 때, DynaRule은 상당한 성능(10K 규칙에서 50.20% exact match)을 유지하며, 이는 모델이 특정 학습 규칙을 암기하는 것이 아니라 전이 가능한 정렬(transferable alignment)을 학습했음을 나타낸다.
어블레이션(Ablation):
- 주입된 세트에서 올바른 규칙을 제거하면 정확도가 거의 0에 가깝게 무너지며, 이는 모델이 내부 지식이 아닌 주입된 규칙에 의존함을 확인시켜 준다.

5. 의의 및 주장

본 논문은 DynaRule이 파라미터 지식과 명시적 규칙 그라운딩(grounding) 사이의 결정적인 간극을 해결한다고 주장한다. 규칙 검색, 업데이트 및 추론을 모델의 내부 공간 내에서 통합함으로써, 이 프레임워크는 LLM이 다음을 수행할 수 있게 한다:

각 추론 단계에서 관련 절차적 규칙을 식별한다.
안정적인 다단계 추론을 지원하기 위해 오래된 규칙을 동적으로 교체한다.
전통적인 검색 방법들이 실패하는 대규모의 추상적 규칙 풀에서도 신뢰할 수 있는 절차적 추론을 달 수 있다.

이 연구는 현재 LLM이 단계별 절차적 규칙 추론에 어려움을 겪고 있음을 강조하며, 단계별 동적 통합이 더 견고하고 신뢰할 수 있는 추론 능력을 향한 실행 가능한 경로임을 입증한다. 저자들은 현재의 범위(FOL/NL 한정)와 규칙 풀이 수백만 개로 확장됨에 따라 발생하는 임베딩 기반 규칙 표현의 정보 손실에 대한 한계를 언급하며, 향리적 인덱싱 및 더 풍부한 규칙 표현에 대한 향후 연구 방향을 제시한다.