기술 요약: MARD – 메커니즘 수준의 DDI 예측을 위한 미러 증강 추론 증류(Mirror-Augmented Reasoning Distillation)

1. 문제 정의 및 동기

현재의 약물 상호작용(DDI) 예측 시스템은 주로 이 작업을 평면적인 다중 레이블 분류 문제로 취급하며, 상호작용의 존재 여부나 단일한 광범위한 패밀리 레이블만을 출력합니다. 이러한 접근 방식은 임상적 현실을 반영하지 못합니다: 처방자는 메커니즘에 대한 설명(어떤 효소나 수송체가 관여하는지), 방향성(어느 약물이 다른 약물에 영향을 미치는지), 그리고 '경고 피로(alert fatigue)'를 방지하기 위한 근거 제시를 필요로 합니다. 기존의 근거 생성 시스템은 스키마 제약이 부족하고, 약물 순서를 $A \to B$에서 $B \to A$로 바꿨을 때 나타나야 하는 약리학적 대칭성을 강제하지 못하며, 존재하지 않는 단백질 표적이나 메커니즘을 인용하는 환각(hallucination) 현상을 겪습니다.

나아가, 이 작업에 직접 적용된 최첨단 거대 언어 모델(LLM)들은 세 가지 직교하는 실패 양상을 보입니다:

1. 미러 불일치(Mirror Inconsistency): $(A, B)$와 $(B, A)$에 대한 예측이 패밀리나 방향성 측면에서 서로 달라지는 현상.
2. 클래스 불균형 붕t(Class-Imbalance Collapse): 메커니즘 패밀리 간의 47:1 불균형으로 인해 모델이 지배적인 "Adverse Risk" 어트랙터로 붕괴되는 현상.
3. 근거 환각(Evidence Hallucination): 그럴듯해 보이지만 근거가 없는 인용을 생성하는 현상.

본 연구의 질문은, 테스트 시점에 최첨단 모델에 접근할 수 없는 소형 언어 모델(SLM)이 스키마에 기반하고, 미러 안정성을 갖추며, "콜드(cold)" 약물/쌍(학습 시 보지 못한 데이터)에 강건하고, 완전히 감사 가능한 DDI 예측을 수행할 수 있는가 하는 것입니다.

2. 방법론: MARD 파이프라인

저자들은 2026년 4월 릴리스된 DrugBank(1.45M 쌍, 7개 메커니즘 패밀리, 147개 하위 유형)를 사용하여 4단계 파이프라인으로 학습된 7B 파라미터 모델인 **MARD (Mirror-Augmented Reasoning Distillation)**를 제안합니다.

2.1 데이터 및 스키마

• 계층 구조(Taxonomy): 방향성 태그($A \to B$, $B \to A$, 양방향, 해당 없음)를 포함하는 구조화된 7-패밀리/147-하위 유형 계층.
• 근거 풀($E_p$): 각 쌍에 대해 모델은 구조화된 필드(PK 플래그, 단백질 표적, 경로)와 $K=5$개의 유사한 레이블링된 이웃 쌍의 검색 블록을 받습니다. 결정적으로, 이 풀은 자유 텍스트가 아닌 구조화된 형태이므로 모든 인용된 식별자는 검증 가능합니다.
• 누출 방지 분할(Leakage-Safe Splits): 세 가지 프로토콜이 정의됩니다: Random-Split (Warm), Drug-Cold (학습에 해당 약물이 없음), Pair-Cold (테스트 쌍이 학습 데이터와 두 약물을 공유하지 않음).

2.2 학습 혁신

파이프라인은 식별된 실패를 해결하기 위해 결합된 세 가지 학습 혁신을 채택합니다:

1. 교차-교사 합의 증류 (Cross-Teacher Consensus Distillation):

   • 세 가지 다양한 교사 모델(Qwen2.5-72B, DeepSeek-R1-70B, Llama-3.3-70B)로부터 후보를 생성합니다.
   • 4계층 판단 스택(규칙 기반 QC, DDI-PRM 스코어링, 자기 일관성, 그리고 외부 패밀리 탐지를 위한 GPT-4o 프로브)을 통해 합의된 추론 궤적(trace)을 선택합니다.
   • 이는 체계적인 편향을 줄이고 고품질의 스키마 준수 학습 데이터를 보장합니다.

2. 위치 제한 KL을 적용한 미러 증강 SFT (Mirror-Augmented SFT with Position-Restricted KL):

   • 대칭성을 강제하기 위해, 모든 학습 예시는 뒤집힌 쌍($AB$와$BA$)과 함께 쌍을 이룹니다.
   • **위치 제한 KL 발산(Position-Restricted KL Divergence)**은 단일 "방향 태그" 토큰에 대해서만 적용됩니다. 이는 쌍의 순서가 바뀔 때 방향 태그는 반드시 반전되어야 한다는 제약을 강제하는 동시에, 자유 형식의 추론 텍러 텍스트는 결합하지 않고 분리하여 스타일의 다양성을 보존합니다.
   • 이를 통해 모델이 두 순서에 대해 동일한 문자열로 붕괴되는 것(성능 저하의 원인)을 방지하면서도, 핵심적인 방향성은 안정적으로 유지하도록 합니다.

3. 하드 네거티브를 활용한 PRM 가중치 DPO (PRM-Weighted DPO with Hard Negatives):

   • DDI-PRM (Process Reward Model): 자동 검증 가능한 단계 레이블로 학습된 LoRA 미세 조정 보상 헤드입니다. 단계는 DrugBank 필드에 대해 근거가 있고, 방향이 보존되며, 패밀리가 일치하고, PK 플래그와 일치할 경우 보상을 받습니다. 인간 판독자는 필요하지 않습니다.
   • 하드 네거티브 (Hard Negatives): 프로그램 방식으로 "틀린" 궤적을 구성합니다(예: 추론 텍스트는 동일하게 유지하면서 최종 구조화된 답변 블록의 패밀리만 "Adverse Risk"로 변경). 이는 모델이 표면적인 단서가 아닌 구조화된 레이블 오류로부터 학습하도록 강제합니다.
   • 가중치 부여: DPO 목적 함수는 PRM 마진($\omega_i$)에 의해 가중치가 부여되어, 모델이 불확실성을 느끼는 예제에 우선순위를 둡니다.

2.3 메커니즘 인식 검색 (Mechanism-Aware Retrieval)

검색 채널은 복합 유사도 점수(Pathway Jaccard, Protein Jaccard, ATC 깊이, SMILES Tanimoto)를 기반으로 $K=5$개의 레이블링된 이웃 쌍을 가져옵니다. 검색 유니버스는 데이터 누출을 방지하기 위해 엄격하게 학습 쌍으로 제한됩니다.

3. 주요 결과

32개의 시스템(20개의 OpenDDI 베이스라인, 구조적 모델, 오픈 의료 LLM, GPT-4o 및 Claude Sonnet 4.6과 같은 최첨단 모델 포함)을 대상으로 평가되었습니다:

• 콜드 분할 일반화 (Cold-Split Generalization): MARD-7B는 약물 쌍의 참신함(novelty)에도 불구하고 정확도가 유지되는 유일한 시스템입니다.
  • Pair-Cold에서 MARD-7B는 0.540의 macro-F1을 달성하여, 최고의 구조적 베이스라인(XGBoost)보다 12.7 pp, 최고의 OpenDDI 아키텍처(DDIMDL)보다 13.9 pp 높은 성능을 보였습니다.
  • 반면, DeepDDI-MLP는 Warm에서 Pair-Cold로 넘어갈 때 -47.5 pp 급락합니다.
• 미러 안정성 (Mirror Stability): MARD는 Pair-Cold에서 미러 패밀리 안정성(MFS) 0.977과 미러 예측 대칭성(MPS) 0.78을 달성하였으며, 이는 대칭성 제약이 없는 모방 베이스라인(51.4% 에러율)을 크게 상회하는 수치입니다.
• 환각률 (Hallucination Rate): 시스템은 $3.7 \times 10^{-4}$의 환각률을 보이며 환각이 거의 없습니다. 식별된 모든 인용 오류는 조작된 참조가 아니라 2026년 4월 릴리스에서 은퇴된 레거시 DrugBank ID인 것으로 확인되었습니다.
• 최첨단 모델 비교: MARD-7B는 Pair-Cold에서 GPT-4o보다 6.7 pp 우수하며, Warm 분할에서 Claude Sonnet 4.6보다 우수하면서도 API 비용의 약 1% 수준의 비용을 사용합니다.
• 안티-메모리제이션 시그니처 (Anti-Memorisation Signature): 빈도와 정확도 사이에 양의 상관관계를 보이는 구조적 베이스라인과 달리, MARD의 정확도는 드물게 나타나는 약물에서 오히려 증가합니다 (Spearman $\rho = -0.76$). 이는 모델이 공생 통계가 아닌 구조화된 약리학적 추론에 의존하고 있음을 나타냅니다.

4. 기여

1. 재현 가능한 프로토콜: 7-패밀리/147-하위 유형 분류, 누출 방지 콜드 분할 프로토콜, 4가지 추론 품질 지표(MFS, MPS, CSA, HR)를 특징으로 하는 메커니즘 수준의 DDI 레이블링 및 평가 프로토콜.
2. MARD 학습 레시피: 위치 제한 대칭-KL, 프로그램 방식의 하드 네거티브를 포함한 PRM 가중치 DPO, 메커니즘 인식 검색이 결합된 통합 학습 방법.
3. 판독자가 필요 없는 학습 신호: 인간이나 LLM 판독자 없이도 DrugBank 필드에 대해 결정론적으로 검증 가능한 프로세스 보상 및 선호도 데이터를 제공하는 시스템.
4. 암기 이상의 추론 증거: 드문 약물에서의 정확도 역전 현상을 통해, 성능 향상이 단순한 공생 통계가 아닌 구조화된 약리학적 추론에서 비롯되었음을 입증함.

5. 의의 및 한계

의의:
본 논문은 DDI 예측의 병목 현상이 파라미터 수가 아니라 구조화된 약리학적 추론 능력에 있다고 주장합니다. MARD는 엄격한 스키마 제약, 대칭성 강제, 자동 검증 가능한 보상을 통해 학습된 7B 모델이 최첨단 모델 및 특화된 그래프 기반 아키텍처보다 새로운 약물 쌍에 대해 더 뛰어난 성능을 보일 수 있음을 보여줍니다. 이 시스템은 일반적인 경고가 아닌 실행 가능한 메커니즘을 제공함으로써 경고 피로를 줄이는, 감사 가능한 저비용 임상 의사결정 지원의 경로를 제시합니다.

한계 (저자들이 명시한 내용):

• 선택 vs 생성 격차: 모델은 $\ge 65\%$의 쌍에 대해 올바른 패밀리를 생성하지만, 단일 커밋 형태의 "배포 가능한" 시스템은 "풍부한 후보 오라클(rich candidate oracle)"보다 약 16 pp 뒤처집니다. 저자들은 이를 생성의 문제가 아닌 검증/선택의 문제로 규정합니다.
• 희소성 천장 (Sparsity Ceiling): 자동 검증 가능한 근거는 DrugBank의 큐레이션 밀도에 제한됩니다. 근거 필드가 희소한 패밀리(예: PK_Distribution)는 잘 구축된 패밀리(예: Adverse Risk, 0.77)에 비해 낮은 정확도(0.26)를 보입니다.
• 좁은 대칭성: 대칭성 제약이 방향 태그에만 적용됩니다. 이는 추론의 다양성을 보존하지만, 전체적인 삼중 일치(패밀리, 하위 유형, 방향)에 대한 MPS는 패밀리 안정성보다 낮습니다 (~0.80).
• 연구 산물: 저자들은 MARD가 의료 기기가 아님을 명시합니다. 배포 시에는 자격을 갖춘 약사나 의사가 개입해야 하며, 출력값은 독립적인 검증을 거쳐야 하는 가설로 취급되어야 합니다.

논문은 남은 성능 격차가 후보 선택의 과제임을 밝히며, 향후 학습된 검증기(learned verifier) 연구를 촉발하는 과제로 남겨두었습니다. 현재의 릴리스는 이 연구를 가능하게 하기 위한 코퍼스, 검색 인덱스 및 학습 코드를 제공합니다.