기술 요약: ADVENT – ILP를 위한 LLM 기반 자동 술어 발명(Automatic Predicate Invention)

1. 문제 정의

귀납 논리 프로그래밍(Inductive Logic Programming, ILP)은 인간이 해석 가능한 관계적 규칙을 학습할 수 있는 기계 학습 패러다임이다. 그러나 ILP의 성능는 사전에 정의된 배경 지식(Background Knowledge, BK)의 품질에 크게 제약을 받는다. 적절한 술어가 없다면, ILP 시스템은 대상 개념을 효과적으로 설명하는 규칙을 발견하기 어렵다. **술어 발명(Predicate Invention, PI)**은 보조 술어를 도입하여 가설 공간을 확장함으로써 이 문제를 해결한다.

기존의 PI 접근 방식은 두 가지 근본적인 한계에 직면해 있다:

1. 탐색 공간의 폭발: 인간의 가이드가 없으면 PI는 구문론적 열거(syntactic enumeration)로 퇴보하여, 유용한 패턴을 자동으로 발견하기 어렵게 만든다.
2. 의미론적 결여: 전통적인 방법은 구문적 기호 조작을 통해 작동하며, 의미 있는 개념적 이해가 결여된 이름 없는 술어(예: inv1, inv2)를 생성한다. 이는 새로운 과제에 대한 관련성 평가를 방해하고, 과제 간 지식 재사용이나 평생 학습(lifelong learning)을 불가능하게 한다.

대규모 언어 모델(LLM)은 암시적 패턴을 인식하고 의미 있는 술어 정의를 생성할 잠재력을 가지고 있지만, LLM의 추론에만 의존하는 것은 구문 위반이나 특정 사례에 대한 과적합(overfitting)을 포함한 신뢰성 문제를 야기한다.

2. 방법론: ADVENT

저자들은 LLM의 가추법적(abductive) 추론과 Prolog의 연역적(deductive) 검증을 ILP 파이프라인 내에서 통합한 신경-기호(neuro-symbolic) 프레임워크인 ADVENT를 제안한다. 이 시스템은 4단계에 걸쳐 삼중 추론 사이클(가추, 연역, 귀납)로 작동한다.

A. 표현 체크 (Representation Check, RC)

발명을 시도하기 전, 경량 휴리스틱을 사용하여 현재의 BK가 충분한지 결정한다.

• 메커니즘: 시스템은 예시의 10%를 샘플링하고, 제한된 변수 수준 탐색을 위해 1%를 "시드(seed)"로 사용한다.
• 논리: 만약 ILP 학습기가 변수 수준의 일반화를 찾지 못하고 ground unit clause(시드만을 커버함)만을 생성한다면, 시스템은 발명 루프를 트리거한다. RC를 통과하면 시스템은 발명을 건너뛰고 규칙 귀납 단계로 진행한다.

B. LLM-PI 루프 (반복적 발명)

RC가 실패하면 반복 루프가 시작된다:

1. 가추적 생성 (LLM): LLM은 BK 스키마, 양성/음성 예시 샘의 샘플, 그리고 지식 풀(Knowledge Pool)(이름과 정의가 포함된 이전에 발명된 술어 목록)을 전달받는다. LLM은 암시적 패턴을 식별하고 Prolog 정의, 인자 개수(arity), 사용 모드를 갖춘 후보 술어를 제안하도록 프롬프트된다.
2. 연역적 검증 (Prolog): 제안된 술어는 두 단계의 검증을 거친다:
   • 구문/구조 체크: Prolog는 런타임 오류나 정의되지 않은 술어를 포착하기 위해 해당 정의를 컨설트(consult)한다.
   • 행동 체크: 술어가 예시의 부분 집합에 대해 실행된다. 결과는 클래스별(양성 vs 음성)로 분할되어 LLM에 대조적으로 제시된다.
3. 정교화 (Refinement): 구체적인 실행 결과(예: 거짓 양성/음성)를 바탕으로 LLM은 술어 정의를 정교화한다. 이 루프는 최대 반복 횟수에 도달하거나 유효한 술어가 발견될 때까지 계속된다.

C. ILP 규칙 귀납

RC가 일반화 가능한 패턴이 존재함을 확인하면(초기 또는 발명 후), ILP 학습기(Aleph)가 규칙 귀납을 수행한다.

• 발명된 보조 술어들이 BK에 주입된다.
• ILP 시스템은 상수 수준의 탐색을 수행하여, 변수를 특정 값에 접지(grounding)함으로써 LLM의 고차원적 발명을 보완하고 인스턴스 수준의 구분을 포착한다.

D. 지식 풀 및 과제 간 재사용

성공적으로 발명된 술어와 학습된 규칙은 지식 풀에 축적된다. 이후의 과제를 위해 이 풀은 참조 역할을 하며, LLM이 관련성을 평가하고 이전의 발명으로부터 새로운 술어를 구성할 수 있게 하여 누적 학습을 지원한다.

3. 주요 기여

1. ADVENT 프레임워크: ILP에서 술어 발명을 자동화하기 위해 LLM의 가추적 생성과 Prolog의 연역적 검증을 결합한 새로운 메커니즘을 제시한다.
2. 형식 검증 통합: LLM의 논리 정교화를 가이드하기 위해 구체적인 연역적 결과를 제공하는 Prolog 기반 검증기를 통합하여, LLM 생성 논리의 신뢰성 격차를 해결한다.
3. 해석 가능한 과제 간 재사용: LLM이 발명된 술어의 정의를 해석하여 관련성을 평가할 수 있음을 입증함으로써, 인간의 해석 가능성을 유지하면서 과제 간 지식의 선택적 재사용 및 구성을 가능하게 한다.

4. 실험 결과

이 프레임워크는 7개의 서로 다른 LLM을 사용하여 9개의 포커 핸드 개념(도메인 지식을 은폐하기 위해 Michalski Train 문제로 매핑됨)에 대해 평가되었다.

• ILP 베이스라인: 위치 독립적(position-free) 관계 설정에서 ILP 단독으로는 완전히 실패했으며(0/9), 위치 의존적(position-dependent) 설정에서는 6/9만을 달ach했다.
• LLM 기반 PI (검증 없음): 모델 평균 **58%**의 성공률을 기록하며, LLM이 구문 기반 탐색으로는 접근할 수 없는 암시적 패턴(예: 변수 부등식, 산술 수열)을 식별할 수 있음을 보여주었다.
• 형식 검증 (ADVENT): 평균 성공률을 **80%**로 높였다. 신뢰 구간이 검증이 없는 조건과 겹치지 않았으며, 이는 Prolog 검증이 정교화를 효과적으로 가이드함을 확인시켜 준다.
• 자기 비판(Self-Critique)과의 비교: 형식 검증은 7개 모델 중 5개에서 자기 비판보다 우수한 성능을 보였다. 자기 비국은 덜 신뢰할 수 있었으며, 때때로 표면적인 특징에 과적합되는 경향을 보였다.
• 지식 풀의 영향: 지식 풀을 활용하면 구성적 개념(예: Straight Flush, Royal Flush)에서 성공률이 최대 +31 퍼센트 포인트 증가했다. 그러나 더 단순한 과제(예: Flush)의 경우, 풀이 불필요한 복잡성을 초래하여 성능이 약간 하락했는데, 이는 재사용과 간섭 사이의 트레이드오프를 나타낸다.

5. 의의 및 주장

본 논문은 ADVENT가 ILP에서 술어 발명을 자동화하고 과제 간 지식 재사용을 가능하게 하는 유망한 방향을 제시한다고 주장한다.

• 격차 해소: ILP의 상징적 엄밀함과 LLM의 의미론적 이해 사이의 간극을 성공적으로 메웠으며, 이를 통해 시스템이 모호한 기호가 아닌 의미 있는 이름(예: has_duplicate_rank)을 가진 술어를 발명할 수 있게 하였다.
• 신뢰성: LLM의 출력을 형식적 연역 실행에 접지하는 것이 논리 프로그램을 정교화하는 데 있어 자기 평가보다 우월함을 입증하였다.
• 한 limitations: 저자들은 지식 풀을 관리하기 위해 LLM의 컨텍스트 창에 의존하는 점(풀이 커짐에 따라 주의력이 분산될 수 있음)과 평가가 변형된 포커 핸드 도메인에 국한되었다는 점 등 현재의 한계를 겸허히 인정하였다. 향후 연구로는 선택적 검색 메커hi즘 개발과 더 넓은 실제 데이터셋에서의 테스트가 제안되었다.