기술 요약: Ryze – 생물 의학 논문으로부터의 증거 기반 데이터 합성

문제 정의

범용 시각-언어 모델(VLM)은 현재 생물 의학 연구 워크플로우에 필요한 신뢰성을 갖추지 못하고 있습니다. 이 분야의 과학적 추론은 논문 내의 여러 모달리티(그림, 차트, 표, 캡션 및 주변 설명 텍스트)에 분산된 증거를 해석하는 데 크게 의존합니다. 기존의 사후 학습(post-training) 파이프라인은 두 가지 주요 병목 현상에 직면해 있습니다:

1. 데이터 희소성 및 비용: 고품질의 도메인 특화 QA 쌍을 확보하려면 값비싼 전문가 주석 작업이 필요합니다.
2. 증거 퇴화: 기존의 합성 데이터 방식은 과학적 답변에 필수적인 구조적 맥락(예: 차트 축과 캡션 사이의 연결, 또는 표의 행과 헤더 사이의 관계)을 보존하는 데 실패하는 경우가 많습니다. 학습 예시가 이러한 구성 요소를 놓치게 되면, 모델은 근거에 기반한 추론을 배우는 대신 얕은 단서나 암기된 패턴을 학습하게 됩니다. 또한, 범용 OCR 및 문서 변환 도구는 복잡한 과학적 PDF를 처리할 때 환각(hallucination)이나 레이아웃 오류를 유발하여 학습 데이터에 전파되고 모델 성능을 저하시킵니다.

방법론

Ryze는 인간의 주석 없이 원시 생물 의학 논문을 증거가 풍부한 학습 세트와 특화된 VLM(BioVLM-8B)으로 변환하도록 설계된 완전 자동화 시스템입니다. 이 시스템은 네 개의 상호 연결된 모듈을 통해 폐쇄 루프(closed loop)로 작동합니다.

1. 차트 인지 추출 및 정제 (Chart-Aware Extraction and Cleansing)

OCR 환각과 레이아웃 오류를 완화하기 위해, Ryze는 5단계 파이프라인을 채택합니다:

• 레이아웃 탐지: Surya를 사용하여 페이지를 텍스트 블록, 그림, 표, 캡션으로 분할하여, 단일 패스 OCR에서 흔히 손실되는 공간적 관계를 보존합니다.
• 구조적 변환: 섹션 계층 구조를 유지하면서 텍스트 영역을 마크다운(Markdown)으로 변환합니다.
• 교차 참조 복구: 인라인 참조(예: "Figure 3")를 복구하고 시각적 요소와 그 캡션 및 해석 텍스트를 결합하여, 전체 증거 맥락이 사용 가능하도록 보장합니다.
• 특화 추출: 차트/표 인지 추출(GLM-OCR 사용)을 적용하여 차트를 구조화된 수치 기술로 파싱하고, 표를 병합된 셀과 다중 행 헤더를 정확하게 처리하는 HTML로 변환합니다.
• LLM 기반 정제: 최종 단계(Qwen3 사용)에서는 환각 탐지, 도메인 용어 수정(예: 화학식 교정), 요소 간 일관성 검증을 수행하여 데이터가 합성 파이프라인에 들어가기 전 검증을 마칩니다.

2. 증거 풍부 QA 합성 (Evidence-Enriched QA Synthesis)

합성 파이프라인은 구조화된 문서를 고품질 QA 쌍으로 변환합니다:

• 태스크 인지 질문 생성: 벤치마크 질문을 그대로 복사하는 대신, 시스템은 평가 벤치마크로부터 거친 수준의 추론 기술 카테고리(예: "차트 해석")를 추출합니다. 이러한 카테고리는 대형 VLM(Qwen3-VL-235B)에 의해 다양화되어 새로운 질문을 생성합니다. 결정적으로, 훈련에는 특정 벤치마크 질문이나 정답이 사용되지 않으며, 모든 정답은 오직 소스 PDF 코퍼스에만 근거합니다.
• 증거 검색: 생성된 각 질문은 캡션, OCR 주석, 관련 단락을 포함하여 구조화된 문서 저장소에서 검색된 포괄적인 증거 세트와 쌍을 이룹니다.
• 능동적 데이터 증강: 평가 피드백 루프는 성능이 저하된 도메인 카테 カテゴ리 를 식별하고, 이를 통해 타겟팅된 QA 쌍을 합성하기 위한 새로운 오픈 액세스 논문의 자동 검색 및 처리를 트리거합니다.

3. 단계별 게이트형 사후 학습 (Progress-Gated Post-Training)

Ryze는 데이터 효율성과 추론 능력을 최적화하기 위해 두 단계의 훈련 전략을 채택합니다:

• 캘리브레이션 단계 (SFT): 베이스 모델(Qwen3-VL-8B)은 LoRA를 사용하여 도메인 용어와 시각-텍스트 정렬을 주입하기 위해 텍스트 전용 및 비전 QA 배치를 교대로 학습하는 지도 미세 조정(SFT)을 거칩니다.
• 진행 게이트 (Progress Gate): 시스템은 약 1M 토큰 증가 시마다 벤치마크 성능을 모니터링합니다. 정확도 향상이 정체되면 SFT를 중단합니다.
• 정제 단계 (RL): 누적된 데이터는 그룹 상대 정책 최적화(GRPO)를 사용하는 강화 학습(RL) 형식으로 변환됩니다. 이 단계는 별도의 보상 모델 없이도 복잡한 생물 의학 질문에 대해 일관된 추론 체인을 생성하는 데 집중함으로써 증거 기반 추론을 강화합니다.

4. 평가 및 피드백

시스템은 벤치마크 카테고리(예: LitQA2, FigQA, TableQA)를 통해 성능을 평가합니다. 설정된 임계값 미만으로 약점이 감지되면 QA 템플릿 라이브러리가 업데이트되며, 이는 모델을 반복적으로 개선하기 위한 새로운 데이터 합성 라운드를 트리거합니다.

주요 결과

LAB-Bench(8개 생물학 카테기, 1,967개 샘플)에서 평가한 결과, 생성된 BioVLM-8B 모델은 다음과 같은 유의미한 개선을 보여주었습니다:

• 성능: BioVLM-8B는 48.0%의 가중 평균 정확도를 달성하여, 베이스 모델인 Qwen3-VL-8B보다 12.6 퍼센트 포인트(pp) 높았으며, 상용 모델인 GPT-5.2보다 3.8 pp 앞섰습니다.
• 훈련 효율성: SFT 전용 버전(43.7%)만으로도 이미 GPT-5.2(44.2%)와 대등한 수준에 도달했습니다. 이후의 GRPO 단계가 전체적인 우위를 점하기 위한 결정적인 +4.3 pp의 격차를 제공했습니다.
• 데이터 품질: 동일한 토큰 예산 하에서, Ryze가 합성한 데이터는 인간이 큐레이션한 데이터셋인 PubMedQA(+17.1 pp) 및 MedQA(+14.7 pp)보다 뛰어난 성능을 보였습니다.
• 비용 효율성: OCR, 합성, 훈련을 포함한 전체 엔드 투 엔드 파이프라인 비용은 클라우드 GPU 기준 200달러 미만으로, 전문가의 주석 없이도 소규모 연구실에서 접근 가능하며 재현 가능합니다.
• 일반화: 증거 풍집 데이터셋은 다양한 베이스 아키텍처(Qwen2.5, LLaMA-3.2, Gemma-2)에서 성능을 향상시켰으며, 텍스트와 비전 구성 요소를 모두 갖춘 모델에서 가장 큰 이득이 관찰되었습니다.

의의 및 주장

본 논문은 Ry-ze가 저비용으로 과학 문헌을 특화된 VLM으로 변환하면서도 "증거 기반" 성격을 보존하는 법이라는 중요한 시스템 문제를 해결한다고 주장합니다. 핵심 통찰은 과학적 문서의 전체 맥락적 구조(시각적 요소, 캡션 및 참조 텍스트)를 보존하는 것이 인간이 큐레이션한 대안이나 맥락을 고려하지 않는 자동화된 접근 방식보다 근본적으로 우수한 훈련 데이터를 생성한다는 것입니다.

도메인 적응을 "전문가 주석 병목 현상"에서 재현 가능한 자동화 파이프라인으로 전환함으로써, Ryze는 소규모 연구 팀이 특정 과학 벤치마크에서 크고 비싼 상용 모델을 능가하는 모델을 제작할 수 있게 합니다. 저자들은 현재 초점이 생물 의학에 맞춰져 있지만, 시스템은 다른 과학 분야로 일반화되도록 설계되었으며, 기후 변화, 지질학, 토목 공학 분야에서의 초기 실험 결과도 유망함을 강조합니다.

한계점

저자들은 현재 평가가 생물학 도메인에 국한되어 있으며, 다른 분야로의 일반화에는 추가적인 검증이 필요하다고 언급했습니다. 또한, GPT-5.2는 시각적 이해(FigQA) 및 시퀀스 분석(SeqQA, SuppQA)이 중요한 카테고리에서 여전히 우위를 점하고 있어, 멀티모달 추론 능력의 개선 여지가 있음을 나타냅니다. 또한, 더 큰 모델에 대한 단계별 게이트 방식의 스케일링 동작에 대해서도 추가적인 조사가 필요합니다.