💻 computer science

Model-Semantics-Aware Predictive Process Monitoring

이 논문은 이벤트 로그와 프로세스 모델 사이의 간극을 메우기 위해 프로세스 시맨틱 사전(Process Semantics Dictionary)을 사용하여 트레이스를 변환함으로써 행동 시맨틱을 명시적으로 통합하고, 이를 통해 예측 정확도를 크게 향상시키며 딥러닝 기반 프로세스 모니터링을 위한 아키텍처 독립적인 토대를 제공하는 모델-시맨틱 인식 예측 프로세스 모니터링(Model-Semantics-Aware Predictive Process Monitoring, MSA-PPM) 패러다임을 소개한다.

원저자: Dinh-Lam Pham, Jinyeong Lee, Tsagaantsooj Batzaya, Hyun Ahn, Minjae Park, Ilkyeun Ra, Kwanghoon Kim

게시일 2026-09-30

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Dinh-Lam Pham, Jinyeong Lee, Tsagaantsooj Batzaya, Hyun Ahn, Minjae Park, Ilkyeun Ra, Kwanghoon Kim

원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

현대 사회에서 기업은 프로세스, 즉 대출 승인, 패키지 배송, 또는 의료 청구 처리와 같이 작업을 시작부터 끝까지 진행하는 일련의 단계들을 기반으로 운영됩니다. 이러한 운영을 원활하게 유지하기 위해 기업들은 이벤트 로그라고 불리는 디지털 기록에 의존합니다. 이 로그는 모든 행동이 발생한 정확한 순서대로 기록된 상세한 일기와 같습니다. 수년 동안 전문가들은 이 일기들을 사용하여 프로세스의 다음 단계가 무엇일지 예측해 왔습니다. 만약 대출 신청이 방금 신용 검사를 통과했다면, 시스템은 다음 단계가 서류 검토가 될 것이라고 예측할 수 있습니다. 예측 프로세스 모니터링(predictive process monitoring)이라고 알려진 이 분야는 역사를 통해 학습하여 미래를 예견하는 강력한 컴퓨터 프로그램을 사용하여 점점 더 정교해지고 있습니다. 그러나 한 가지 결정적인 문제가 오랫동안 배경에 남아 있었습니다. 디지털 일기는 실제로 일어난 순서를 기록하지만, 그 순서가 비즈니스 규칙이 의도한 순서와 항상 일치하는 것은 아닙니다. 두 작업이 동시에 발생할 수 있을 때, 로그는 단순히 무작위적인 지연이나 특정 작업자의 일정 때문에 한 작업이 다른 작업보다 먼저 일어난 것으로 나타날 수 있습니다. 데이터를 학습하는 컴퓨터에게 이러한 무작위적인 순서는 엄격한 규칙처럼 보이며, 실제 비즈니스 설계에는 존재하지 않는 가짜 인과관계를 만들어냅니다.

한 연구팀은 이 혼란을 해결하기 위한 새로운 방법을 제안하며, 초점을 가공되지 않은 일기에서 비즈니스의 근본적인 청사진으로 전환했습니다. 그들의 연구는 컴퓨터가 예측을 시도하기 전에 프로세스의 진정한 의미를 이해하는 방법을 도입합니다. 컴퓨터에 무질서한 현실 세계의 사건 순서를 그대로 입력하는 대신, 그들은 먼저 공식적인 프로세스 모델, 즉 비즈니스가 어떻게 작동해야 하는지를 정의하는 지도를 살펴봄으로써 데이터를 정제합니다. 그들은 두 작업이 병렬로 발생하도록 설계되었을 때, 로그에 나타나는 순서는 종 often 타이밍의 우연인 경우가 많다는 점을 확인했습니다. 이러한 병렬 관계를 인식함으로써, 연구진은 로그가 만들어내는 가짜 연결 고리를 제거할 수 있었습니다. 그들은 번역기 역할을 하는 특별한 의미 사전(dictionary of meanings)을 구축하여, 혼란스러운 현실 세계의 로그를 비즈니스의 진정한 논리를 반영하는 더 깨끗한 버전으로 변환했습니다. 이렇게 정제된 버전은 무작위 타이밍 때문에 존재하는 '유령' 규칙들을 제거하고, 오직 중요한 실제 의존성만을 남깁니다.

연구진은 이 접근 방식이 실제로 효과가 있는지 테스트하기 위해, 시뮬레이션된 은행 거래 시스템에서 기록된 678,000개 이상의 이벤트를 포함하는 방대한 데이터셋에 이를 적용했습니다. 그들은 이 데이터를 가져와 두 가지 유형의 고급 컴퓨터 학습 시스템에 실행했습니다. 하나는 시간에 따른 순서를 기억하며 학습하는 시스템이고, 다른 하나는 전체적인 그림을 한꺼번에 살펴보며 학습하는 시스템입니다. 두 경우 모두, 원래의 무질서한 로그를 사용했을 때의 결과와 새롭게 정제된 의미 인식 로그를 사용했을 때의 결과를 비교했습니다. 차이는 명확하고 측정 가능했습니다. 컴퓨터가 정제된 데이터로부터 학습했을 때, 다음 단계를 추측하는 능력이 크게 향상되었습니다. 순서를 기억하며 학습하는 시스템의 경우 정확도가 5퍼센트 포인트 이상 뛰어올랐습니다. 전체적인 그림을 보는 시스템의 경우 정확도가 거의 5퍼센트 포인트 상승했습니다. 이 수치들이 작아 보일 수 있지만, 대규모 데이터의 세계에서 이는 상당한 신뢰성의 도약을 의미합니다. 더 중요한 것은, 개선이 단순히 정답을 더 자주 맞히는 것에 국한되지 않고, 시스템이 희귀한 정답을 찾는 능력도 향상되었으며 흔한 정답에 대해 실수를 피하는 데에도 더 나아졌다는 점입니다.

연구진은 이러한 이득이 컴퓨터 프로그램을 더 복잡하게 만들어서가 아니라 데이터 자체에서 온 것임을 확실히 하기 위해 주의를 기울였습니다. 그들은 입력값만 바꿨을 뿐, 무질서한 로그와 정제된 로그에 대해 정확히 동일한 컴퓨터 모델을 사용했습니다. 이는 개선이 전적으로 데이터 준비 방식에서 비롯되었음을 입증했습니다. 이 연구는 무작위 타이밍에 의해 생성된 가짜 규칙을 제거함으로써, 컴퓨터가 비즈스를 움직이는 실제 관계에 집중할 수 있음을 보여주었습니다. 또한 팀은 한 번에 하나의 정제된 의미를 추가하며 단계별로 이 방법을 테스트했습니다. 그들은 데이터를 더 많이 수정할수록 컴퓨터의 성능이 더 좋아진다는 것을 발견했으며, 이는 그들의 방법이 루프나 선택과 같은 로그의 다른 유형의 혼란을 해결하는 데 확장될 수 있음을 시사합니다. 이 작업은 더 나은 예측의 비결이 더 똑똑한 컴퓨터를 만드는 것이 아니라, 관찰하고 있는 프로세스의 진정한 구조를 이해함으로써 세상(데이터)을 더 명확하게 보도록 가르치는 것일 수 있음을 보여줍니다.

기술 요약: 모델-의미론-인지적 예측 프로세스 모니터링 (MSA-PPM)

1. 문제 정의

예측 프로세스 모니터링(Predictive Process Monitoring, PPM)은 장기 단기 메모리(LSTM) 네트워크나 트랜스포머(Transformer)와 같은 딥러닝 아키텍처에 점점 더 많이 의존하고 있다. 그러나 기존의 접근 방식은 여전히 **로그 중심적(log-centric)**이다. 이들은 관찰된 이벤트 시퀀스를 프로세스 의미론의 직접적인 표현으로 취급하며, 시스템에 의해 실행된 트레이스의 이벤트 순서가 기저의 비즈니스 프로세스 모델에 정의된 인과 관계를 정확하게 반영한다는 암묵적인 가정을 전제로 한다.

본 논문은 시스템 실행 트레이스와 모델 정의 의미론 사이의 결정적인 **의미론적 간극(semantic gap)**을 식별한다. 이벤트 로그는 개별 실행을 포착하는데, 여기에는 **실행 특유의 아티팩트(execution-specific artifacts)**가 포함될 수 있다. 예를 들어, 병렬 프로세스에서는 자원 가용성이나 시스템 타이밍에 따라 형제 활동(sibling activities)이 임의의 순서로 실행될 수 있다. 로그 중심적 접근 방식은 이러한 임의의 인터리빙(interleaving)을 유향 순차 의존성(예: 활동 A $\to$ 활동 B)으로 해석하여, 실제 프로세스 모델에는 존재하지 않는 "유령 엣지(phantom edges)"를 생성한다. 결과적으로, 예측 모델은 진정한 구조적 의존성이 아닌 부수적인 실행 순서를 학습하게 되어 일반화 능력과 정확도가 제한된다.

2. 방법론: MSA-PPM 및 MSA-PTP

이 간극을 해결하기 위해 저자들은 **모델-의미론-인지적 예측 프로세스 모니터링(Model-Semantics-Aware Predictive Process Monitoring, MSA-PPM)**을 제안한다. 이 패러다임은 예측 아키텍처를 수정하는 것에서 학습 전 입력 데이터의 의미론적 품질을 정제하는 것으로 초점을 전환한다. 핵심 계산 프레임워크는 **모델-의미론-인지적 프로세스 트레이스 전처리(Model-Semantics-Aware Process Trace Preprocessing, MSA-PTP)**이다.

2.1 프로세스 의미론 사전 (Process Semantics Dictionary, PSD)

MSA-PTP는 모델 정의 의미론을 기계 처리 가능한 모듈형 표현으로 도입하는 **프로세스 의미론 사전(PSD)**을 소개한다. PSD는 다음과 같은 지식을 저장하도록 설계되었다:

병렬성 (Parallelism)
배타적 선택 (Exclusive-choice)
루프 (Loops)
동기화 (Synchronization)
시간적, 자원, 조직 및 제약 의미론 (Temporal, resource, organizational, and constraint semantics)

PSD는 프로세스 발견(process discovery)과 예측 학습 사이의 명시적인 인터페이스 역할을 하며, 특정 신경망 아키텍처와 독립적으로 적용될 수 있도록 의미론적 지식을 외재화한다.

2.2 운영 실현: 병렬 의미론 (Parallel Semantics)

운영적 검증으로서, 본 연구는 MSA-PPM의 병렬 의미론 구성 요소를 구현한다. 방법론은 4단계 파이프라인을 따른다:

프로세스 발견: $\rho$ -알고리즘을 사용하여 이벤트 로그로부터 정확한 구조적 정보 제어 넷(Structured Information Control Net, SICN) 지향 프로세스 모델을 발견한다. 이 알고리즘은 결합(conjunctive, 병렬) 구조를 포함한 구조적 패턴을 식별한다.
의미론 추출: 발견된 모델을 분석하여 **형제 활동 집합( $SA_k$ )**을 식별한다. 이들은 동일한 병렬 구조에 속하며 동시에 활성화되는 활동들의 그룹이다.
유령 엣지 식별: 시스템은 **유향 유령 엣지(directed phantom edges)**를 식별한다. 트레이스 내의 유향 관계 $(a_i, a_j)$ $(a_{i}, a_{j})$ 는 다음 조건을 만족할 때 유령 엣지로 분류된다:
- $a_j$ 가 트레이스에서 $a_i$ 바로 다음에 온다.
- $a_i$ 와 $a_j$ 가 모두 동일한 형제 활동 집합( $SA_k$ )에 속한다.
- 관계 $(a_i, a_j)$ 가 발견된 프로세스 모델에서 정의된 인과 의존성이 아니다.
의미론적 트레이스 변환: PSD를 사용하여 시스템 실행 트레이스에 매핑 함수 $\phi_{par}$ 를 적용한다. 형제 집합 내의 활동들은 고유한 의미론적 식별자(예: $PID_k$ )로 대체된다. 이 변환은 병렬 형제들 간의 임의적인 실행 순서에 대한 예측적 유의성을 제거하여, 병렬 인터리빙만 다를 뿐인 트레이스들을 하나의 의미론적으로 일관된 표현으로 변환한다.

2.3 예측 학습

변환된 트레이스(모델-의미론-인지적 프로세스 트레이스)는 표준 기술(word2index, zero-padding)을 사용하여 고정 길이의 모델-의미론-인지적 접두사(Model-Semantics-Aware Prefix, MSAP) 벡터로 변환된다. 이 벡터들은 내부 아키텍처를 수정하지 않고 표준 예측 모델에 입력된다. 본 연구는 두 가지 구별되는 아키텍처를 사용하여 이 접근 방식을 평가한다:

LSTM: 시퀀스 학습을 나타내는 순환 신경망.
Transformer: 장거리 의존성을 포착하기 위해 셀프 어텐션(self-attention) 메커니즘을 활용하는 모델.

3. 주요 기여

본 논문은 네 가지 주요 기여를 설명한다:

MSA-PPM 패러다임: 의미론적 전처리를 통해 모델 정의 프로세스 의미론을 예측 학습에 통합하여, 의미론적 해석과 예측 모델을 분리하는 새로운 프레임워크.
프로세스 의미론 사전 (PSD): 모델 정의 의미론(병렬, 루프, 선택 등)을 특정 학습 작업과 독립적인 재사용 가능한 지식으로 조직하기 위한 모듈형 표현.
유령 엣지 인지적 의미론 전처리: 병렬 의미론을 위한 구체적인 실현으로서, 임의의 실행 순서로 인해 발생하는 유향 유령 엣지를 식별하고 제거하여 일반적인 트레이스를 모델-의미론-인지적 트레이스로 변환함.
아키텍처 독립적 검증: 모델 자체를 변경하지 않고도 의미론적 전처리가 다양한 딥러닝 아키텍처(LSTM 및 Transformer)에서 예측 성능을 향상시킨다는 경험적 증거.

4. 실험 결과

방법론은 대규모 은행 거래 이벤트 로그 데이터셋(10,000개 인스턴스, 113개 활동 유형)을 사용하여 검증되었다. 실험은 동일한 훈련 설정(100 에포크, Adam 옵티마이저, 동일 하이퍼파라미터)을 사용하여 베이스라인(전통적인 로그 중심 전처리)과 MSA-PPM 접근 방식(의미론적으로 수정된 전처리)을 비교하였다.

4.1 성능 향상

결과는 다음의 지표에서 일관된 개선을 보여주었다:

LSTM 모델:
- 정확도(Accuracy): 75.65%에서 **81.28%**로 증가 (+5.63 퍼센트 포인트).
- F1-Score: 71.84%에서 **75.10%**로 증가 (+3.26 퍼센트 포인트).
- 정밀도(Precision)와 재현율(Recall) 또한 유의미한 이득을 보였다.
Transformer 모델:
- 정확도(Accuracy): 75.64%에서 **80.54%**로 증가 (+4.90 퍼센트 포인트).
- F1-Score: 72.00%에서 **76.78%**로 증가 (+4.78 퍼센트 포인트).
- 특히, **재현율(Recall)**이 상당히 개선되어(+6.46 퍼센트 포인트), 실제 다음 활동을 더 잘 식별함을 나타냈다.

4.2 점진적 검증

점진적 실험 결과, 더 많은 병렬 프로세스 의미론 사전(PSD) 항목이 포함됨에 따라 성능이 점진적으로 향상되는 것이 밝혀졌다. 이는 의미론적 지식이 상호 보완적이며, 실행 순서의 아티팩트를 제거하는 것이 예측 입력 공간의 품질을 체계적으로 향상시킨다는 것을 시사한다.

5. 의의 및 주장

본 논문은 관찰된 성능 향상이 아키텍처의 복잡성이 아니라 순수하게 의미론적 정제로부터 기인한다고 주장한다. 유향 유령 엣지를 제거하고 임의의 실행 순서를 모델 정의 식별자로 대체함으로써, MSA-PPM 프레임워크는 딥러닝 모델이 실행 순서 아티팩트가 아닌 진정한 행동 의존성을 학습할 수 있게 한다.

저자들은 세 가지 주요 결론을 제시한다:

의미론적 타당성의 중요성: 의미론적으로 일치하지 않는 트레이스 관계를 교정하는 것은 신경 모델의 복잡성을 증가시키지 않고도 예측 성능을 향상시킨다.
가교로서의 PSD: PSD는 모델 정의 의미론을 프로세스 발견에서 예측 전처리로 전달하는 명시적인 메커즘을 제공하며, 프로세스 발견 $\to$ PSD $\to$ 의미론적 트레이스 변환 $\to$ 예측 학습으로 이어지는 직접적인 파이프라인을 생성한다.
아키텍처 독립성: 순환(LSTM) 및 어텐션 기반(Transformer) 모델 모두에서 나타난 일관된 개선은 MSA-PPM의 이점이 단일 학습 메커니즘에 국한되지 않음을 입증한다.

본 연구는 MSA-PPM을 아키텍처 독립적인 의미론적 향상 패러다임으로 포지셔닝한다. 저자들은 예측 트레이스의 의미론적 타당성을 개선하는 것이 예측 아키텍처를 발전시키는 것과 구별되면서도 상호 보완적인 전략이라고 주장한다. 비록 본 연구에서는 병렬 의미론 구성 요소만을 운영하였으나, PSD의 모듈형 공식은 향후 배타적 선택, 루프, 동기화 및 기타 의미론적 범주로 확장할 수 있는 토대를 마련한다.