T-ILR: a Neurosymbolic Integration for LTLf

기술 요약: T-ILR: LTLf를 위한 뉴로심볼릭 통합

문제 정의
뉴로심볼릭(NeSy) 학습은 정적 도메인에서 심볼릭 지식과 딥러닝을 통합하는 데 성공하며 성과를 입증해 왔으나, 시간적 논리 사양(temporal logic specifications)을 처리하기 위한 방법론은 여전히 미개척 영역으로 남아 있다. DFA(유한 상태 오토마타)를 구축하여 유한 트레이스 상의 선형 시간 논리(LTLf)로 표현된 시간적 공식을 나타내는 방식(Umili et al., 2023)과 같은 기존의 시간적 NeSy 통합 접근법들은 효과적이기는 하지만, LTLf 공식을 DFA로 변환하는 과정의 복잡성(De Giacomo and Vardi, 2013)과 이후 학습 과정에서의 오토마타 파싱 오버헤드로 인해 높은 계산 비용을 초래한다. 또한, 대부분의 NeSy 프레임워크는 정적 추론을 위한 1차 또는 명제 논리에 집중되어 있어, 동적이고 시간적으로 구조화된 환경은 해결되지 않은 과제로 남아 있다.

방법론: 시간적 반복 국소 정제 (Temporal Iterative Local Refinement, T-ILR)
저자들은 외부 오토마타 표현 없이 시퀀스 기반 작업에 LTLf 사양을 딥러닝 아키텍처에 직접 통합하도록 설계된 새로운 뉴로심볼릭 프레임워크인 T-ILR을 제안한다. 이 프레임워크는 fLTLf(퍼지 LTLf)의 퍼지 해석을 활용하여 ILR(Iterative Local Refinement) 알고리즘(Daniele et al., 2023)을 확장한 것이다.

T-ILR 아키텍처는 두 가지 주요 모듈로 구성된다:

1. 인지 모듈 (Perception Module): 원시 관측값(예: 이미지)을 일련의 퍼지 진릿값(fuzzy truth values)으로 매핑하는 파라미터 신경망($f_\theta$)이다. 이 모듈은 원시 데이터로부터 LTLf 공식의 원자 명제(atomic propositions)를 그라운딩(grounding)한다. 작업에 따라 상호 배타적 기호(mutually exclusive symbols)를 위해 소프트맥스(softmax)를, 혹은 비상호 배타적 기호(non-mutually exclusive symbols)를 위해 시그모이드(sigmoid) 활성화 함수를 사용한다.
2. 심볼릭 모듈 (Symbolic Module): 이 모듈은 유한 트레이스 상에 정의된 퍼지 의미론(fLTLf)을 사용하여 LTLf 사양을 평가한다. 원래의 LTLf 공식은 퍼지 대응물($\tilde{\Phi}$)로 변환되어 ILR 레이어를 통해 처리된다. ILR 레이어는 공식을 계산 그래프로 분해하고 각 논리 연결 노드에 최소 정제 함수(Minimal Refinement Functions, MRF)를 적용한다. 이 과정은 인지 모듈의 퍼지 출력을 원래의 예측으로부터 편차를 최소화하면서 논리적 제약 조건(목표 진릿값 $t=1$)을 만족하도록 반복적으로 정제한다.

결정적으로, T-ILR은 논리 연산자가 미분 가능하도록 유지하기 위해 괴델 논리 의미론(Gödel logic semantics, 구체적으로 Zadeh t-norm)을 활용한다. 이를 통해 명시적인 DFA 구축 없이도, 목표 진릿값 만족도를 기반으로 계산된 손실 함수를 통해 엔드 투 엔드(end-to-end) 경사 하강법 기반 최적화가 가능해진다.

주요 기여

• LTLf의 직접 통합: 본 논문은 DFA 구축의 계산적 병목 현상을 피하면서 퍼지 시간 논리를 통해 LTLf 사양을 신경망에 직접 임베딩하는 방법을 소개한다.
• ILR의 확장: 저자들은 ILR 알고리즘을 fLTLf를 사용하여 시간적 트레이스 상에서 작동하도록 확장함으로써, 미분 가능한 프레임워크 내에서 시간적 연산자(Next, Until)를 다룰 수 있게 하였다.
• 미분 가능한 시간적 추론: 이 프레임워크는 논리적 제약을 통한 역전파(back-propagation)를 지원하여, 인지 모듈이 시간적 조건을 만족하는 심볼릭 표현을 학습할 수 있도록 한다.

실험 결과
저자들은 MNIST 이미지 시퀀스를 이용한 약지도 이진 분류 작업에서 T-ILR을 최신 DFA 기반 접근법(Umili et al., 2023)과 비교 평가하였다. 평가는 상호 배타적(ME) 및 비상호 배타적(NME) 기호 발생 상황, 그리고 다양한 시퀀스 길이와 알파벳 크기를 포함하여 수행되었다.

• 정확도: T-ILR은 DFA 베이스라인에 비해 개선된 정확도를 보여주었다. ME 설정에서 T-ILR은 20개 케이스 중 9개에서 베이스라인보다 우수한 성능을 보였으며, 더 복잡한 NME 설정에서는 20개 케이스 중 13개에서 베이스라인을 앞질렀다. T-ILR은 시퀀스 길이가 길어지고 알파벳 크기가 커져도 높은 정확도를 유지한 반면, DFA 방식은 이러한 복잡한 설정에서 상당한 성능 저하를 보였다.
• 계산 효율성: T-ILR은 우수한 계산 효율성을 나타냈다. DFA 방식은 특히 알파벳이 크고 시퀀스가 긴 구성에서 오토마타 파싱 비용으로 인해 타임아웃(60분 초과)이 발생하는 경우가 많았다. 반면, T-ILR은 학습 시간을 제한 시간 내에 지속적으로 완료하며 현저히 낮은 실행 시간을 보여주었다.

의의 및 주장
본 논문은 T-ILR이 시간적 도메인에서 심볼릭 표현과 뉴럴 표현 사이의 가교로서 퍼지 논리 기반 의미론의 생존 가능성을 검증한다고 주장한다. 결과는 fLTLf를 통해 시간적 지식을 직접 임베딩하는 것이 오토마타 기반 방식보다 인지 모듈 내에서 더 안정적이고 효율적인 학습을 가능하게 함을 시사한다. 저자들은 T-ILR이 동시 발생 사건(NME)을 처리하고 시퀀스 길이에 따라 확장 가능하다는 점을 들어, 이것이 시간적 NeS 추론의 유망한 방향임을 강조한다.

저자들은 자신들의 연구를 동적 도메인으로 확장된 기존 NeSy 패러다임의 연장선으로 겸허하게 규정하며, 괴델 논리를 사용했으나 향후 연구에서 다른 퍼지 의미론(예: Lukasiewicz, Product)도 탐구될 수 있음을 언급하였다. 또한, 이 접근법이 예측 및 처방적 프로세스 모니터링과 같은 실제 도메인에 적용될 수 있다고 제안하였으나, 현재 연구 범위 내에서 즉각적인 배포를 주장하지는 않았다.