yProv4DV: 재현 가능한 데이터 시각화를 위한 기술적 요약

이 논문은 과학적 연구에서 데이터 시각화 결과의 재현성(reproducibility) 부족 문제를 해결하기 위해 제안된 yProv4DV라는 경량 Python 라이브러리를 소개합니다. 연구자들은 종종 코드, 입력 데이터, 실행 환경, 그리고 출력물이 포함된 완전한 맥락 없이 그림 (plot) 만 공유하는 경우가 많으며, 이는 독립적인 검증과 재사용을 어렵게 만듭니다. yProv4DV 는 이러한 격차를 메우기 위해 최소한의 코드 수정으로 provenance(출처 및 생성 이력) 정보를 자동으로 추적하고 패키징하는 솔루션을 제공합니다.

1. 문제 정의 (Problem)

• 재현성 부재: Python 기반 데이터 시각화 (Matplotlib, Seaborn 등) 는 강력한 그래픽 생성을 가능하게 하지만, 연구자들은 종종 임시 (ad-hoc) 로 수정된 작은 스크립트들을 사용합니다. 이로 인해 특정 그림을 생성한 정확한 입력 데이터, 코드 버전, 실행 환경, 그리고 처리 이력을 추적하기 어렵습니다.
• 기존 도구의 한계: 기존 재현성 솔루션 (Git, 컨테이너화, 워크플로우 관리 시스템 등) 은 대규모 파이프라인이나 코드 버전 관리에 초점을 맞추고 있습니다. 그러나 시각화 스크립트는 가볍고 워크플로우 시스템과 분리되어 실행되는 경우가 많아, 이러한 도구들이 시각화 생성의 구체적인 맥락을 포착하지 못합니다.
• Provenance 표준의 복잡성: W3C PROV 와 같은 표준은 표현력이 뛰어나지만, 구현이 복잡하고 작은 스크립트에 통합하기 위한 오버헤드가 커서 일상적인 데이터 시각화 작업에서는 거의 사용되지 않습니다.

2. 방법론 및 아키텍처 (Methodology & Architecture)

yProv4DV 는 별도의 워크플로우 엔진을 도입하거나 코드 구조를 대폭 변경하지 않고, 실행 중인 스크립트를 관찰하고 기록하는 경량 런타임 레이어로 작동합니다. 주요 구성 요소는 다음과 같습니다.

• 실행 모니터링 (Execution Monitoring): Python 스크립트가 실행되는 동안 파일 읽기/쓰기 이벤트를 가로채 (intercept) 자동으로 추적합니다. 사용자의 코드 로직을 변경하지 않고 투명하게 작동합니다.
• 아티팩트 추적 (Artifact Tracking): 시각화 과정에 관여하는 리소스를 세 가지 범주로 분류하여 추적합니다.
  • Inputs: 실행 중 접근된 파일 (자동 감지 또는 log_input 지시어).
  • Outputs: 스크립트가 생성한 파일 (자동 감지 또는 log_output 지시어).
  • Source Code: 시각화를 생성한 모든 Python 스크립트 및 로컬 모듈.
• Provenance 생성 (Provenance Generation): W3C PROV 데이터 모델을 기반으로 실행의 형식적 설명을 생성합니다. 이는 JSON, DOT, SVG 형식으로 내보내져 기계가 읽을 수 있는 메타데이터와 인간이 해석 가능한 시각적 그래프를 제공합니다.
• 재현성 패키징 (Reproducibility Packaging): 수집된 아티팩트와 메타데이터를 RO-Crate (Reproducible Object Crate) 아카이브로 패키징합니다. 각 실행은 독립적인 재현성 패키지를 생성하며, 이는 입력 데이터, 코드, 환경 설정, 생성된 이미지를 모두 포함합니다.

3. 주요 기능 및 사용법 (Key Features & Usage)

• 최소한의 통합: 사용자는 라이브러리를 import 하고 yprov4dv.start_run() 함수를 호출하기만 하면 됩니다.
• 자동 추적: 스크립트가 open() 등의 표준 함수로 파일을 읽거나 쓸 때, yProv4DV 가 이를 자동으로 감지하여 입력/출력으로 기록합니다.
• 수동 제어: 자동 감지가 불가능한 경우나 특정 파일을 제외/포함해야 하는 경우 log_input, log_output, untrack_file 등의 지시어를 사용하여 유연하게 제어할 수 있습니다.
• 대용량 파일 처리: 파일 크기가 너무 큰 경우 skip_files_larger_than 파라미터를 설정하여 전체 복사 없이 메타데이터만 기록하거나 특정 임계값을 넘지 않는 파일만 추적할 수 있습니다.
• 지원 라이브러리: Pandas, NumPy, PyTorch, Xarray 등 주요 데이터 시각화 및 처리 라이브러리를 지원합니다.

4. 결과 및 사례 (Results & Examples)

• 시각화 파이프라인 구조화: 기존에는 이미지와 스크립트가 1:1 로 매핑되어 관리되던 것을, 하나의 재사용 가능한 스크립트에서 여러 번 실행하더라도 각 실행마다 완전히 문서화된 출력물 (RO-Crate) 을 생성하도록 변경합니다.
• 실제 적용 사례 (AIMP-Bench): 300 개 이상의 머신러닝 훈련 세션에서 다양한 하드웨어 및 GPU 의 성능을 분석하는 데 사용되었습니다. yProv4DV 를 통해 생성된 300 개 이상의 재현성 번들 (reproducibility bundles) 이 저장되어, 각 차트와 실행 환경의 정확한 이력을 추적할 수 있었습니다.
• 생성된 아티팩트: 실행 후 생성된 RO-Crate 은 입력 파일 (CSV 등), 요구사항 파일 (requirements.txt), 소스 코드, 생성된 이미지, 그리고 W3C PROV 표준을 준수하는 메타데이터를 포함하여, 다른 사용자가 환경을 설정하고 코드를 재실행하여 동일한 결과를 얻을 수 있게 합니다.

5. 의의 및 기여 (Significance & Contributions)

• 그래프 수준의 재현성 달성: 전체 계산 파이프라인뿐만 아니라, 과학적 논문 내의 개별 그림 (figure) 단위에서도 재현성을 보장할 수 있는 첫 번째 도구 중 하나입니다.
• 기술적 장벽 해소: 복잡한 워크플로우 시스템 도입 없이, 코드에 한 줄만 추가하여 provenance 추적을 가능하게 함으로써 연구자들의 참여 장벽을 낮춥니다.
• FAIR 원칙 준수: 생성된 아티팩트는 W3C PROV 와 RO-Crate 표준을 따르므로, FAIR(Findable, Accessible, Interoperable, Reusable) 원칙에 자동으로 부합하여 데이터의 장기 보존 및 공유를 용이하게 합니다.
• 학술적 투명성 향상: 동료 검토 (peer review) 를 간소화하고, 연구 결과의 재현 및 교육적 재사용을 촉진하여 과학적 보고의 무결성을 높입니다.

결론적으로, yProv4DV 는 연구자들이 별도의 부담 없이 데이터 시각화 워크플로우의 재현성을 확보할 수 있도록 돕는 실용적인 도구로, 개방형 과학 (Open Science) 원칙을 실현하는 데 중요한 기여를 할 것으로 기대됩니다.