Compliance-Aware Predictive Process Monitoring: A Neuro-Symbolic Approach

이 논문은 기존 서브심볼릭 접근법의 한계를 극복하기 위해 논리 텐서 네트워크 (LTN) 를 활용하여 도메인 지식과 규제 준수를 예측 프로세스 모니터링 모델에 주입하는 신경-상징적 방법을 제안하고, 이를 통해 준수율과 예측 정확도를 동시에 향상시켰음을 보여줍니다.

핵심

이 논문은 **"예측 과정 모니터링 (Predictive Process Monitoring)"**이라는 복잡한 기술을, 인공지능 (AI) 과 인간의 지혜를 결합한 새로운 방식으로 어떻게 더 똑똑하고 안전하게 만들 수 있는지 설명합니다.

간단히 말해, **"데이터만 보고 미래를 예측하는 AI 에게, '규칙'과 '상식'을 가르쳐서 실수를 줄이고 더 정확한 예측을 하게 만드는 방법"**입니다.

이 내용을 일상적인 비유와 함께 쉽게 풀어보겠습니다.

---

1. 문제점: "데이터만 믿는 AI 의 한계"

기존의 AI 는 마치 수천 편의 드라마를 보고 '다음 장면'을 예측하는 초능력을 가진 학생과 같습니다.

• 잘하는 점: 과거 데이터를 많이 보면 패턴을 잘 찾아냅니다. (예: "보통 수술 후 2 시간 안에 항생제를 주면 환자가 회복한다")
• 못하는 점: 하지만 논리적인 규칙이나 비즈니스의 제약을 모릅니다.
  • 예시: "환자가 퇴원한 지 1 주일이 지나지 않으면 수술을 계획할 수 없다"는 병원 규칙이 있는데, 과거 데이터에 우연히 그런 예외가 몇 건 섞여 있다면, AI 는 "아, 수술 전에 퇴원 안 해도 되네?"라고 착각하고 틀린 예측을 할 수 있습니다.
  • 즉, 데이터에 없는 새로운 규칙이나 안전 규정을 지키지 못해 위험한 예측을 할 수 있습니다.

2. 해결책: "논리와 수학의 결혼 (뉴로 - 심볼릭 AI)"

이 논문은 **뉴로 - 심볼릭 (Neuro-Symbolic)**이라는 방법을 제안합니다. 이는 **데이터 학습 능력 (신경망)**과 **논리적 추론 능력 (상징적 지식)**을 결혼시킨 것입니다.

• 비유: 이제 AI 는 단순히 드라마를 보는 학생이 아니라, 의사 (규칙) 와 함께 일하는 수석 간호사가 됩니다.
  • 의사 (규칙): "수술 전에는 반드시 검사를 해야 해!"라고 명확한 지시를 줍니다.
  • 간호사 (데이터): 과거 환자 기록을 바탕으로 "보통 이 환자는 회복할 확률이 높아"라고 통계적 예측을 합니다.
  • 결합: 두 명이 협력하면, 통계적으로 확률이 낮아도 "규칙상 불가능한 경우"는 예측하지 않게 됩니다.

3. 어떻게 작동할까? (4 단계 프로세스)

이 시스템은 4 단계로 규칙을 AI 에게 주입합니다.

1. 특징 추출 (Feature Extraction): 과거 기록 (이벤트 로그) 에서 중요한 정보들을 뽑아냅니다.
   • 비유: 환자의 나이, 수술 시간, 검사 결과 같은 '데이터 조각'들을 모으는 것.
2. 규칙 추출 (Rule Extraction): 그 데이터 조각들 사이에 숨겨진 규칙을 찾아냅니다.
   • 비유: "검사 (A) 가 끝나야 수술 (B) 을 한다"거나 "나이가 60 세 이상이면 특별한 주의가 필요하다"는 규칙을 찾아내는 것.
3. 지식 베이스 만들기 (Knowledge Base Creation): 찾아낸 규칙을 컴퓨터가 이해할 수 있는 논리 언어 (수학 공식 같은 것) 로 정리합니다.
   • 비유: 규칙들을 '법전'처럼 정리해서 AI 가 참고할 수 있게 하는 것.
4. 지식 주입 (Knowledge Injection): 이 '법전'을 AI 의 학습 과정에 직접 섞어줍니다.
   • 비유: AI 가 공부할 때, "이런 경우는 절대 틀리면 안 돼!"라고 옆에서 계속 알려주며 가르치는 것.

4. 세 가지 주입 방법 (규칙을 가르치는 세 가지 방식)

논문에 따르면 규칙을 가르치는 세 가지 방법이 있습니다.

• A. 입력 확장 (Feature Expansion): "규칙을 새로운 정보로 바꿔서 입력한다."
  • 비유: 환자가 '당뇨병'이 있고 '60 대'라면, AI 가 직접 계산하지 않아도 "이 환자는 고위험군이다"라는 새로운 태그를 붙여주는 것.
• B. 출력 정제 (Output Refinement): "예측 결과를 규칙에 맞춰 수정한다."
  • 비유: AI 가 "수술해도 될 것 같아 (확률 80%)"라고 예측했는데, 규칙상 "아직 준비가 안 됨"이라면, AI 가 강제로 "아니야, 안 돼 (확률 0%)"라고 고쳐주는 것.
• C. 병행 제약 (Parallel Constraints): "규칙을 지키는지 따로 감시한다."
  • 비유: AI 가 예측을 하는 동안, 옆에서 감시관이 "규칙대로 움직였니?"라고 체크하고, 규칙을 어기면 점수를 깎아주는 것.

5. 실험 결과: 왜 이것이 중요한가?

연구진은 실제 병원 데이터 (패혈증, 대출 승인 등) 로 실험을 했습니다.

• 결과: 규칙을 배운 AI 는 데이터가 부족해도 (예: 규칙을 위반한 사례가 거의 없는 경우) 규칙을 잘 지켰고, 예측 정확도도 기존 AI 보다 훨씬 높았습니다.
• 핵심: 기존 AI 는 "데이터에 없으면 모른다"고 했지만, 이 새로운 AI 는 **"규칙이 있으니 모를 수 없다"**는 것을 증명했습니다.

요약: 이 논문이 우리에게 주는 메시지

이 논문은 **"AI 가 똑똑해지려면 단순히 더 많은 데이터를 먹이는 것만으로는 부족하다"**고 말합니다. 대신 사람들이 이미 알고 있는 '상식'과 '규칙'을 AI 에게 직접 가르쳐야 합니다.

• 기존 AI: "과거에 이런 일이 100 번 있었으니, 다음에도 100 번 일어날 거야!" (하지만 규칙상 불가능한 일이라면?)
• 이 논문이 제안하는 AI: "과거 데이터도 중요하지만, 규칙상 불가능한 일이니 그건 절대 일어나지 않아."라고 논리적으로 판단합니다.

이 방법은 의료, 금융, 제조업 등 실수하면 큰 문제가 생기는 분야에서 AI 를 더 안전하고 신뢰할 수 있게 만들어 줄 것입니다.

기술 요약

1. 문제 정의 (Problem)

기존의 예측 프로세스 모니터링 (Predictive Process Monitoring, PPM) 접근법은 주로 LSTM, Transformer 와 같은 심층 신경망 (Sub-symbolic) 에 의존합니다. 이러한 데이터 중심 모델은 과거 이벤트 로그의 패턴을 학습하여 프로세스 결과를 예측하는 데 탁월하지만, 다음과 같은 한계를 가집니다.

• 도메인 지식의 부재: 의료, 금융 등 규제 준수 (Compliance) 가 중요한 분야에서 "수술은 환자가 퇴원한 지 1 주일이 지나야만 계획할 수 있다"와 같은 명시적인 비즈니스 규칙이나 논리적 제약을 모델에 반영하기 어렵습니다.
• 규칙 위반 예측: 순수 데이터 기반 모델은 학습 데이터에 규칙 위반 사례가 포함되거나, 새로운 비즈니스 규칙이 도입되었을 때 이를 반영하지 못해 비준수적인 예측을 하거나 정확도가 떨어질 수 있습니다.
• 해석 가능성 부족: 신경망의 블랙박스 특성으로 인해 왜 특정 예측이 나왔는지에 대한 논리적 근거를 제공하기 어렵습니다.

2. 방법론 (Methodology)

저자들은 신경 - 심볼릭 (Neuro-Symbolic) 인공지능을 활용하여 데이터 기반 학습과 심볼릭 논리 추론을 결합한 새로운 프레임워크를 제안합니다. 핵심 기술은 Logic Tensor Networks (LTN) 를 기반으로 합니다.

A. 전체 파이프라인

제안된 접근법은 4 단계로 구성됩니다:

1. 특징 추출 (Feature Extraction): 이벤트 로그에서 제어 흐름 (Control-flow), 시간 (Temporal), 페이로드 (Payload) 특징을 추출합니다.
2. 규칙 추출 (Rule Extraction): 프로세스 마이닝 기법과 도메인 지식을 활용하여 제어 흐름 규칙 (LTL 기반), 시간 규칙 (SLA 기반), 페이로드 규칙 (통계 기반) 을 자동 또는 수동으로 추출합니다.
3. 지식 베이스 생성 (Knowledge Base Creation): 추출된 규칙을 1 차 논리 (First-Order Logic, FOL) 로 변환하여 구조화된 지식 베이스를 생성합니다.
   • 클래스 의존 지식: 분류 결과와 직접 관련된 지식 (결과 지향적, 비결과 지향적).
   • 클래스 독립 지식: 분류 결과와 무관한 일반적인 프로세스 제약 (예: 활동 순서).
4. 지식 주입 (Knowledge Injection): 생성된 논리 규칙을 LTN 기반 이진 분류기에 주입합니다. 주입 방식은 세 가지로 나뉩니다:
   • 특징 확장 (Feature Expansion, Block A): 클래스 독립/비결과 지향적 지식을 입력 특징 공간에 새로운 특징으로 추가합니다.
   • 출력 정제 (Output Refinement, Block B): 클래스 의존/결과 지향적 지식을 사용하여 분류기 (Predicte $P$) 의 출력 값을 직접 수정하거나 제약합니다.
   • 병렬 제약 (Parallel Constraints, Block C): 주요 분류 작업과 병렬로 작동하는 보조 예측자를 통해 구조적 규칙을 준수하도록 정규화합니다.

B. LTN 기반 학습

LTN 은 퍼지 논리 (Fuzzy Logic) 시맨틱스를 사용하여 논리식을 미분 가능한 계산 그래프에 통합합니다.

• 목적 함수: 지식 베이스 내의 모든 논리식의 만족도 (Satisfiability) 를 최대화하도록 모델 파라미터를 최적화합니다.
• 장점: 데이터의 확률적 패턴과 논리적 제약을 동시에 학습하며, 부분적인 준수나 불확실성에도 강건하게 대응할 수 있습니다.

3. 주요 기여 (Key Contributions)

1. 준수 인식 예측 프로세스 모니터링 프레임워크: PPM 에 신경 - 심볼릭 AI 를 처음 적용하여, 비즈니스 규칙을 예측 모델의 학습 과정 자체에 통합했습니다.
2. 다양한 지식 주입 전략: 특징 확장, 출력 정제, 병렬 제약이라는 세 가지 구체적인 주입 메커니즘을 제안하고, 각각의 역할과 효과를 체계적으로 분석했습니다.
3. 데이터 부족 상황에서의 강건성: 학습 데이터에 준수 사례가 극도로 부족한 상황에서도 논리 규칙을 통해 높은 준수율과 예측 정확도를 달성할 수 있음을 증명했습니다.
4. 다양한 도메인 적용: 의료 (Sepsis), 금융 (BPIC2012/2017), 교통 벌금 (Traffic fines) 등 다양한 실제 이벤트 로그를 통해 접근법의 유효성을 검증했습니다.

4. 실험 결과 (Results)

실제 이벤트 로그 4 개 (Sepsis, BPIC2012, BPIC2017, Traffic fines) 를 사용하여 LSTM, Transformer, 시맨틱 로스 (Semantic Loss) 기반 모델 등 8 가지 변형 모델과 비교 평가했습니다.

• 예측 성능 향상: 지식 주입이 된 LTN 모델 (LTN-L, LTN-T) 은 순수 데이터 기반 모델 (LSTM, TFR) 및 시맨틱 로스 모델보다 모든 데이터셋에서 정확도 (Accuracy) 와 F1 점수가 높았습니다. 특히 데이터가 적거나 준수 사례가 드문 Sepsis 데이터셋에서 F1 점수가 18.4% 까지 향상되었습니다.
• 준수율 (Compliance) 개선: 제안된 모델은 학습 데이터에 준수 사례가 3~13% 만 존재하는 경우에도 90% 이상의 준수율을 유지했습니다. 반면, 기존 모델은 학습 데이터의 분포에 의존하여 준수율이 급격히 떨어졌습니다.
• 주입 방식 비교:
  • 출력 정제 (Output Refinement, B): 가장 강력한 성능 향상을 보였으며, 새로운 준수 제약에 가장 효과적으로 적응했습니다.
  • 특징 확장 (Feature Expansion, A): 단독 사용 시 효과가 제한적이었으나, 출력 정제와 결합 시 성능을 보강했습니다.
  • 병렬 제약 (Parallel Constraints, C): 구조적 규칙을 학습에 반영하여 과적합을 방지하는 데 기여했습니다.

5. 의의 및 결론 (Significance & Conclusion)

이 논문은 예측 프로세스 모니터링 분야에서 데이터의 통계적 패턴과 도메인의 논리적 지식을 통합하는 새로운 패러다임을 제시합니다.

• 실무적 가치: 규제 준수 (Compliance) 가 필수적인 의료, 금융, 제조 등 고위험 분야에서 모델이 비즈니스 규칙을 위반하는 예측을 방지하고, 신뢰할 수 있는 의사결정을 지원할 수 있습니다.
• 기술적 의의: 신경망의 유연성과 심볼릭 논리의 엄격함을 결합하여, 데이터가 부족하거나 노이즈가 많은 환경에서도 견고한 예측 모델을 구축할 수 있음을 입증했습니다.
• 향후 과제: 자동화된 템플릿을 통한 특징 - 규칙 매핑, 더 복잡한 프로세스 태스크 (다음 활동 예측, 시간 예측 등) 로의 확장, 그리고 실제 의료 현장에서의 심층 사례 연구가 계획되어 있습니다.

요약하자면, 이 연구는 "데이터만 믿는 AI"에서 "규칙과 데이터를 모두 존중하는 AI"로의 전환을 통해 예측 프로세스 모니터링의 신뢰성과 정확성을 획기적으로 높인 획기적인 작업입니다.