CORE-Acu: Structured Reasoning Traces and Knowledge Graph Safety Verification for Acupuncture Clinical Decision Support

이 논문은 추상적 추론과 환각 문제를 해결하기 위해 구조화된 사고 체인과 지식 그래프 안전 검증을 통합한 신경-상징적 프레임워크 'CORE-Acu'를 제안하여 침술 임상 의사결정 지원의 해석 가능성과 안전성을 획기적으로 향상시켰음을 보여줍니다.

핵심

🏥 문제: "똑똑하지만 위험한" 인공지능 의사

지금까지 나온 인공지능 (LLM) 은 책을 많이 읽어서 말을 잘하고, 논리도 그럴듯하게 펼칩니다. 하지만 침술 같은 의료 분야에서는 두 가지 큰 문제가 있었습니다.

1. 깜깜한 상자 (Black Box): "왜 이 침을 찌르라고 했지?"라고 물어보면, 인공지능은 "그냥 느낌이 그렇게 들었어"라고 대답합니다. 이유를 설명해 주지 못하죠.
2. 환각 (Hallucination): 인공지능은 가끔 아주 그럴듯하지만 틀린 말을 합니다. 예를 들어, "임신한 환자에게 '합곡'이라는 침을 찌르세요"라고 조언할 수 있는데, 사실 이 침은 임산부에게 위험해서 절대 찌르면 안 됩니다. 인공지능은 이 위험을 모르고 엉뚱한 말을 할 수 있습니다.

🛠️ 해결책: CORE-Acu (사고와 안전을 동시에 잡은 시스템)

저자들은 이 문제를 해결하기 위해 CORE-Acu를 만들었습니다. 이 시스템은 세 가지 핵심 아이디어로 작동합니다.

1. "생각의 과정"을 보여주는 지도 (S-CoT)

기존 인공지능은 "증상 → 치료"로 바로 점프합니다. 하지만 CORE-Acu 는 중간 단계를 강제로 거치게 합니다.

• 비유: 요리사가 "재료만 보고 요리 이름만 외워서" 요리를 하는 게 아니라, "재료 → 조리법 → 맛의 원리 → 최종 요리" 순서로 차근차근 설명하며 요리하는 것과 같습니다.
• 효과: 인공지능이 왜 그 침을 선택했는지, 어떤 논리로 진단을 내렸는지 사람이 이해할 수 있는 단계별 설명을 해줍니다.

2. "절대 위반 금지" 안전수칙 (지식 그래프 & 거부권)

인공지능이 실수를 하더라도 실제 환자에게 해가 되는 일은 절대 일어나지 않게 막습니다.

• 비유: 인공지능이 요리를 하려고 할 때, 옆에 **전문 안전 관리인 (Knowledge Graph)**이 서 있습니다. 만약 인공지능이 "임산부에게 위험한 재료를 넣으려" 하면, 관리인이 **"STOP! 그건 금지된 재료야!"**라고 즉시 막아섭니다.
• 작동 방식: 인공지능이 답을 내놓으면, 관리인이 미리 만들어 둔 '안전 규칙 책'과 대조합니다. 위험한 침을 추천하면 즉시 "틀렸습니다. 다시 생각하세요"라고 알려주고, 고칠 기회를 줍니다. 고쳐도 안 되면 아예 "의사에게 확인하세요"라고 멈춥니다.

3. "중요한 단어"에 집중하는 훈련 (LMERL)

인공지능은 자주 나오는 단어 (예: "그", "이") 에는 잘 반응하지만, 생명을 구하는 중요한 단어 (예: 특정 침의 이름, '임신 중 금지' 같은 말) 에는 소홀할 수 있습니다.

• 비유: 학생이 시험을 볼 때, "의"나 "는" 같은 쉬운 글자를 맞추는 점수는 1 점이지만, **"위험한 침 이름"**을 맞추는 점수는 100 점으로 치는 것입니다.
• 효과: 인공지능이 훈련할 때, 위험한 의학 용어를 틀리면 큰 벌점을 받고, 맞추면 큰 보상을 받도록 훈련시켜서, 중요한 이름은 절대 틀리지 않게 됩니다.

---

📊 결과: 얼마나 잘할까요?

이 시스템을 테스트한 결과는 놀라웠습니다.

• 안전성: 기존 유명 인공지능 (GPT-4o 등) 은 테스트 1,000 건 중 **8.5%**나 위험한 실수를 했습니다. 하지만 CORE-Acu 는 0 건의 안전 위반을 기록했습니다. (100% 안전!)
• 이해력: 인공지능이 내린 진단과 치료법이 얼마나 논리적인지 전문가들이 평가했는데, CORE-Acu 가 가장 높은 점수를 받았습니다.

💡 결론

이 논문은 **"인공지능이 의료 분야에서 일하려면, 단순히 말을 잘하는 것만으로는 부족하다"**는 것을 보여줍니다.

CORE-Acu 는 인공지능에게 ①생각하는 과정을 말하게 하고, ②안전 규칙을 철저히 지키게 하며, ③중요한 단어는 절대 틀리지 않게 훈련시킴으로써, 이제야 비로소 실제 임상에서 쓸 수 있는 안전한 인공지능 의사를 탄생시켰습니다.

이 기술은 앞으로 침술뿐만 아니라, 사람의 생명과 직결된 모든 의료 분야에서 인공지능이 안전하게 쓰일 수 있는 길을 열어줄 것입니다.

기술 요약

1. 연구 배경 및 문제 정의 (Problem)

대형 언어 모델 (LLM) 은 임상 의사결정 지원 (CDS) 분야에서 잠재력을 보이지만, 침술 (Acupuncture) 과 같은 전통 의학 분야에 적용할 때 다음과 같은 치명적인 한계가 존재합니다.

• 블랙박스 추론 및 할루시네이션: LLM 은 확률적 토큰 예측에 기반하여 작동하므로, 추론 과정이 추적 불가능하고 의학적 사실과 다른 할루시네이션을 생성할 위험이 큽니다.
• TCM 논리의 생략: 한의학은 '변증 (Syndrome Differentiation)'을 통해 병기 (Pathology) 와 치료 원칙 (Principle) 을 도출한 후 침구 (Acupoints) 를 선택하는 복잡한 인과 과정을 거칩니다. 기존 모델들은 종종 이 중간 추론 단계를 생략하고 증상에서 처방으로 직접 매핑하려는 경향이 있어, 임상적 신뢰성을 떨어뜨립니다.
• 안전성 위험 (Safety Violations): 침술은 신체적 개입이므로 임신 중 특정 경혈 (예: 합곡 LI4) 금지 등 엄격한 금기 사항이 존재합니다. 확률적 생성만으로는 이러한 '절대적 안전 규칙 (Hard Constraints)'을 강제하기 어렵습니다.
• 용어 왜곡 (Terminology Drift): 일반적 최적화 (교차 엔트로피 손실) 는 빈도가 높은 일반 단어와 안전에 치명적인 전문 용어 (경혈명 등) 를 동등하게 취급합니다. 이로 인해 중요한 의학적 엔티티의 생성 정확도가 낮아질 수 있습니다.

2. 제안된 방법론: CORE-Acu (Methodology)

저자들은 CORE-Acu(Constrained Ontology Reasoning Engine for Acupuncture) 라는 신경 - 심볼릭 (Neuro-Symbolic) 프레임워크를 제안했습니다. 이는 구조화된 추론 흔적과 지식 그래프 기반의 안전 검증을 통합합니다.

2.1. 구조화된 추론 흔적 (Structured Chain-of-Thought, S-CoT)

• 데이터셋 구축: 침술 임상 데이터에서 증상 $\rightarrow$ 진단 (변증) $\rightarrow$ 병기 $\rightarrow$ 치료 원칙 $\rightarrow$ 경혈 선택의 인과 관계를 명시적으로 인코딩한 최초의 대규모 S-CoT 데이터셋 (Acu-Reasoning, 42,512 개 샘플) 을 구축했습니다.
• 스키마 제약 미세 조정: 모델이 임의의 생성을 하지 않도록, 진단과 처방 사이의 논리적 연결을 강제하는 스키마 제약 미세 조정 (Schema-Constrained Fine-Tuning) 을 수행하여 추론 과정을 해석 가능하게 만들었습니다.

2.2. 심볼릭 거부 메커니즘 (Symbolic Veto Mechanism)

• TCM 안전 지식 그래프 (KG) 구축: WHO 표준 및 국가 표준에 기반하여 4,628 개의 노드와 12,500 개의 엣지를 가진 도메인 특화 KG 를 구축했습니다. 여기에는 금기 사항 (예: 임신 시 특정 경혈 금지) 이 논리적 규칙으로 인코딩되어 있습니다.
• Generate-Verify-Revise (GVR) 루프:
  1. Generate: LLM 이 초기 처방을 생성합니다.
  2. Verify: 생성된 처방을 KG 와 대조하여 금기 사항 위반 여부를 확인합니다.
  3. Revise: 위반이 발견되면, 구체적인 오류 정보 (예: "임신 시 LI4 는 금지됨") 를 피드백으로 주어 모델을 수정하게 합니다.
  4. Fallback: 일정 횟수 (Tmax) 내 수정이 불가능하면 인간 확인을 요청하는 안전 장치 (Hard Fallback) 를 발동합니다.

2.3. 어휘 기반 엔티티 가중 손실 (Lexicon-Matched Entity-Reweighted Loss, LMERL)

• 빈도 - 중요도 불일치 해결: 일반 텍스트와 달리 안전에 중요한 전문 용어는 빈도가 낮지만 중요도가 높습니다. LMERL 은 도메인 사전 (Lexicon) 에 기반하여 이러한 고위험 엔티티 (경혈명, 증후군 등) 에 대한 그래디언트 가중치 ($\alpha$) 를 적응적으로 증폭시킵니다.
• 효과: 모델이 자주 등장하는 일반 단어보다 안전에 필수적인 전문 용어의 정확도를 높일 수 있도록 미세 조정 방향을 유도합니다.

3. 주요 기여 (Key Contributions)

1. 최초의 침술 S-CoT 데이터셋 및 스키마 제약 학습: TCM 의 암묵적 추론을 명시적이고 검증 가능한 인과 체인으로 변환하여 블랙박스 문제를 해결했습니다.
2. 심볼릭 거부 메커니즘을 통한 하드 안전 경계 설정: 확률적 생성이 아닌 결정론적 규칙 (KG) 을 통해 금기 사항을 실시간으로 차단하고 수정하는 폐쇄 루프 시스템을 구축했습니다.
3. LMERL 을 통한 엔티티 정확도 향상: 도메인 특화 손실 함수를 도입하여 안전에 치명적인 의학적 용어의 생성 오류를 획기적으로 줄였습니다.

4. 실험 결과 (Results)

1,000 개의 홀드아웃 (held-out) 임상 사례를 대상으로 한 실험 결과는 다음과 같습니다.

• 안전성 (Safety):

  • CORE-Acu: 안전 위반률 0% (1,000 건 중 0 건).
  • GPT-4o: 동일 규칙 하에서 8.5% 의 안전 위반률 발생.
  • HuatuoGPT-o1-7B (의료 특화 모델): 12.0% 의 위반률로, 도메인 지식이 있어도 명시적 제약이 없으면 침술 금기 사항을 준수하지 못함을 보여줌.
  • Ablation Study: KG 검증 및 수정 루프를 제거한 경우 안전 위반률이 4.0% 로 상승하여, 심볼릭 검증의 필수성을 입증했습니다.

• 추론 품질 및 엔티티 정확도:

  • Entity-F1 Score: CORE-Acu(0.4612) 가 GPT-4o(0.2906) 및 기타 베이스라인보다 월등히 높은 점수를 기록하여, 경혈 및 증후군 같은 핵심 의학적 엔티티의 생성 정확도가 뛰어남을 보였습니다.
  • 추론 논리성: 전문가 평가 및 LLM-as-a-Judge 평가에서 CORE-Acu 는 '병리 논리 (Pathological Logic)'와 '추론 유효성 (Reasoning Validity)'에서 가장 높은 점수를 받았습니다. 반면, GPT-4o 는 처방 자체는 그럴듯하지만 진단 및 병리 논리에서 심각한 불일치를 보였습니다.

• 최적화 민감도 분석: LMERL 의 가중치 파라미터 $\alpha=1.5$ 일 때 엔티티 정확도와 언어 유창성 간의 최적 균형을 이루는 것으로 확인되었습니다.

5. 의의 및 결론 (Significance)

CORE-Acu 는 침술 임상 의사결정 지원 시스템으로서 추론의 감사 가능성 (Auditability) 과 절대적인 안전 준수 (Safety Compliance) 를 동시에 달성한 최초의 신경 - 심볼릭 프레임워크입니다.

• 임상적 신뢰성 확보: LLM 의 블랙박스 특성을 구조화된 추론과 심볼릭 검증을 통해 해결하여, 실제 임상 현장에서의 도입 장벽을 낮췄습니다.
• 안전 중심의 AI 설계: 확률적 생성의 한계를 인정하고, 결정론적 규칙 (Knowledge Graph) 을 통해 '0% 안전 위반'을 달성할 수 있음을 입증했습니다.
• 미래 방향: 현재 지식 그래프의 범위 확장, 위험 등급 모델링의 정교화, 그리고 혀나 얼굴 이미지와 같은 다중 모달 신호 통합을 통해 더 포괄적인 임상 지원이 가능해질 것으로 기대됩니다.

이 연구는 의료 AI 가 단순히 유창한 답변을 생성하는 것을 넘어, 엄격한 안전 규칙과 논리적 일치를 준수하는 방향으로 진화해야 함을 강력하게 시사합니다.