기술 요약: ATOM – 적응형 및 최적화된 동적 시계열 지식 그래프 구축

1. 문제 정의

비정형 텍스트로부터 지식 그래프(Knowledge Graphs, KGs)를 구축하는 것은 실시간 분석 및 동적 메모리 프레임워크를 위해 매우 중요하다. 그러나 기존의 정적 KG는 실시간 데이터의 시간 민감성을 포착하지 못한다는 한계가 있다. 시계열 지식 그래프(Temporal Knowledge Graphs, TKGs)는 사실(fact)에 타임스탬프를 결함으로써 이 문제를 해결하려 하지만, 기존 방식들은 실제 운영 환경에 배포될 때 세 가지 주요한 한계에 직면한다:

1. 포괄성 부족(Lack of Exhaustivity): 현재의 제로샷(zero-shot) 또는 퓨샷(few-shot) 방식은 LLM의 "망각 효과(forgetting effect)"로 인해 입력 컨텍스트 길이가 길어짐에 따라 핵심 관계를 누락하는 경우가 많다.
2. 불안정성(Instability): 동일한 텍스트에 대해 동일한 추출 프롬프트를 여러 번 실행하더라도 결과가 다르게 나타나, 일관되지 않은 그래프 구조를 생성한다.
3. 확장성 및 지연 시간(Scalability and Latency): 엔티티 해상도(entity resolution) 및 시계열 병합을 위해 순차적 처리와 과도한 LLM 호출에 의존함으로써 병목 현상이 발생하며, 이는 대규모 데이터셋에 대한 실시간 업데이트를 불가능하게 만든다.

또한, 많은 기존 방법론은 관찰이 이루어진 시점과 사실 자체의 유효 기간을 혼동하여 시간적 부정확성을 초fold 초래한다.

2. 방법론: ATOM 프레임워크

저자들은 동적 시계열 지식 그래프(Dynamic Temporal Knowledge Graphs, DTKGs)를 구축하고 지속적으로 업데이트하기 위해 설계된 퓨샷, 확장 가능한 프레임워크인 ATOM(AdapTive and OptiMized)을 제안한다. 이 아키텍처는 이중 시간 모델링(dual-time modeling) 접근 방식과 병렬 처리 파이프라인으로 정의된다.

2.1 이중 시간 모델링 (Dual-Time Modeling)

ATOM은 두 가지 시간적 차원을 구분한다:

• 관찰 시간 ($t_{obs}$): 정보가 관찰되거나 수집된 시점.
• 유효 기간 ($t_{start}, t_{end}$): 사실이 참으로 유지되는 고유한 시간 간격.
  이러한 분리를 통해 시스템은 관찰 시간을 LLM의 컨텍스트로 사용하여 상대적인 시간 표현(예: "한 달 전")을 유효 기간으로 추론할 수 있다.

2.2 핵심 아키텍처

프레임워크는 세 가지 순차적 모듈을 통해 작동한다:

모듈 1: 원자적 사실 분해 (Atomic Fact Decomposition)
원시 문서를 직접 처리하는 대신, ATOM은 비정형 텍스트를 최소 단위의 자기 완결적인 "원자적 사실(atomic facts)"로 분해한다. 각 사실은 정확히 하나의 정보만을 전달한다.

• 근거: 이는 긴 컨텍스트에서 모델이 두드러진 정보만을 우선시하고 핵심 관계를 누락하는 LLM의 "망각 효과"를 완화한다.
• 최적화: 실험을 통해 높은 포괄성(> 0.8)을 유지하기 위한 최적의 청크 크기가 400 토큰 미만임을 확인하였다.

모듈 2: 원자적 TKG 구축 (Atomic TKG Construction)
각 원자적 사실로부터 시스템은 병렬로 5-튜플(주체, 관계, 객체, $t_{start}$, $t_{end}$)을 추출한다.

• 전처리: 추출 과정에서 시스템은 "종료 동작(end-action)" 사실(예: "더 이상 CEO가 아니다")을 수정된 종료 시간을 가진 긍정적 대응 형태(예: $t_{end}$ 설정)로 변환한다. 이는 추후 병합을 용이하게 하기 위함이다.
• 컨텍스트: 상대적 시간 표현을 처리할 수 있도록 LLM을 가이드하기 위한 퓨샷 예시가 제공된다.

모듈 3: 병렬 원자적 병합 및 DTKG 업데이트 (Parallel Atomic Merge and DTKG Update)
추출된 원자적 TKG들은 이진 병합(binary merge) 알고리즘을 사용하여 병렬로 병합되며, 확장성을 보장하기 위해 병합 단계에서는 LLM 호출을 피한다.

• 엔티티 해상도 (Entity Resolution): 정확한 일치 또는 코사인 유사도($\theta_E = 0.8$)를 기반으로 엔티티를 병합한다.
• 관계 해상도 (Relation Resolution): 의미적 유사성($\theta_R = 0.7$)을 기반으로 관계 명칭을 병합한다.
• 시간적 해상도 (Temporal Resolution): 동일한 $(subject, relation, object)$를 가지지만 서로 다른 유효 기간을 가진 사실들을 감지하고 정렬하여, 중복 엣지를 생성하는 대신 사실의 이력을 확장한다.
• 병렬성: 병합 프로세스는 반복적이고 병렬화되어 있으며, 단일 통합 스냅샷을 얻을 때까지 단계적으로 TKG의 수를 줄여 나간다.

3. 주요 기여

• 원자적 분해 전략: LLM 기반 추출에서 포괄성과 안정성을 모두 향상시키기 위해 텍스트를 원자적 사실로 나누는 새로운 접근 방식을 제시한다.
• 이중 시간 모델링: 관찰 시간과 유효 기간을 분리하여 DTKG를 공식적으로 정의함으로써 시간적 추론 정확도를 개선한다.
• 확장 가능한 병렬 아키텍처: 추출과 병합을 분리하고 병렬 처리를 활용하여, 순차적 또는 LLM 의존적 병합 방식에 비해 지연 시간을 크게 단축하는 파이프라인을 구축한다.
• 오픈 소스 구현: 프레임워크는 관련 코드, 프롬프트 및 데이터셋과 함께 오픈 소스 파이썬 라이브러리로 공개된다.

4. 실험 결과

저자들은 2020-COVID-NYT 서브셋(1,076개 기사)을 대상으로 Graphiti 및 iText2KG를 포함한 베이스라인들과 ATOM을 비교 평가하였다.

• 포괄성 (Exhaustivity): ATOM은 사실적-시간적 재현율($R_{f,t}$) 측면에서 베이스라인 방법들보다 약 18% 더 높은 포괄성을 달しまいました. 이는 텍스트를 원자적 사실로 분해하는 것이 긴 컨텍스트 처리 시 발생하는 정보 손실을 방지함을 입증했다.
• 안정성 (Stability): 원자적 사실을 사용함으로써, ATOM은 안정성(실행 간 자카드 유사도로 측정)을 약 33% 개선하였으며, 원시 리드 문단을 처리할 때보다 출력의 변동성을 크게 줄였다.
• 지연 시간 및 확장성 (Latency and Scalability): 병렬 아키텍처를 통해 90% 이상의 지연 시간 감소를 달성하였다 (Graphiti 대비 93.8%, iText2KG 대비 95.3%). 시스템은 입력 사실의 수에 따라 효과적으로 확장되는 반면, 베이스라인들은 순차적 또는 LLM 중심의 해상 단계로 인해 지연 시간이 증가하는 문제를 겪는다.
• 일관성 (Consistency): ATOM은 우수한 시간적 해상도를 보여주었으며, 서로 다른 유효 기간을 가진 사실들을 단일 이력으로 올바르게 병합하였다. 반면 Graphiti는 별도의 관계를 생성하는 경향이 있었다.

참고 (트레이드오프): 포괄성이 높아짐에 따라 사실적 정밀도(factual precision, ~9% 감소)와 사실적-시간적 정밀도(factual-temporal precision, ~1% 감소)는 약간 감소하였다. 이는 분해 과정에서 생성된 의미적으로는 그럴듯하지만 엄격한 골드 스탠다드(gold-standard)는 아닌 "추론된" 사실들과 미세한 시간 할당 오류에 기인한다.

5. 의의 및 주장

본 논문은 ATOM이 TKG의 이론적 잠재력과 실제 동적 실시간 환경 배치 사이의 결정적인 간극을 해결한다고 주장한다. 원자적 분해를 통해 안정성과 포괄성을 확보하고, 병렬 병합을 통해 확장성을 달성함으로써, ATOM은 지식 그래프의 지속적이고 저지연 업데이트를 가능하게 한다.

저자들은 ATOM을 동적 메모리가 필요한 에이전트 시스템과 실시간 시간적 추론이 필요한 애플리케이션을 위한 강력한 솔루션으로 포지셔닝한다. 또한 분해 단계에서의 오류 전파 가능성과 2단계 프로세스의 계산 비용을 포함한 한계를 인정하며, 향 성능과 비용을 더욱 최적화하기 위해 원자적 사실 분해에 특화된 LLM 미세 조정(fine-tuning)을 향후 연구 과제로 제시한다.