Mozi: Governed Autonomy for Drug Discovery LLM Agents

이 논문은 약물 발견 분야에서 LLM 에이전트의 무제어 도구 사용과 장기 신뢰성 문제를 해결하기 위해, 자유로운 추론과 구조화된 실행을 결합한 이중 계층 아키텍처 '모지 (Mozi)'를 제안하고 이를 통해 과학적 유효성을 보장하며 오류 누적을 방지하는 견고한 자율 과학자 시스템을 구현했음을 보여줍니다.

핵심

모지 (Mozi): 의약 개발을 위한 '규칙을 잘 지키는 AI 과학자'

이 논문은 약물 개발이라는 매우 어렵고 위험한 일을 AI 가 대신하게 할 때, AI 가 엉뚱한 짓을 하지 않도록 **안전장치를 갖춘 새로운 시스템 '모지 (Mozi)'**를 소개합니다.

기존의 AI 는 마치 "무작정 상상력이 풍부한 예술가"처럼, 때로는 멋진 아이디어를 내기도 하지만, 사실과 다른 거짓말 (할루시네이션) 을 하거나 중요한 계산 실수를 반복하기도 합니다. 약을 만드는 과정에서 이런 실수는 막대한 비용과 시간을 낭비하게 만듭니다.

모지는 이 문제를 해결하기 위해 **"자유로운 상상"과 "엄격한 규칙"을 동시에 가진 두 개의 층 (Layer)**으로 이루어진 독특한 구조를 제안합니다.

---

🏗️ 모지의 구조: "지휘자"와 "현장 작업자"

모지는 크게 두 가지 역할로 나뉩니다. 마치 건설 현장을 생각하면 이해하기 쉽습니다.

1. 지휘자 층 (Control Plane): "엄격한 감독관"

• 역할: AI 가 무엇을 할지, 어떤 도구를 쓸지 결정하는 지휘자입니다.
• 비유: 건설 현장의 안전 관리 감독관이나 프로젝트 매니저입니다.
• 하는 일:
  • AI 가 "내가 지금 이걸 해볼까?"라고 막연하게 생각할 때, "아니야, 너는 지금 이 도구만 쓸 수 있어. 그건 위험하니까 금지!"라고 규칙을 지시합니다.
  • AI 가 실수하면 즉시 멈추고 다시 계획 (재계획) 을 세우게 합니다.
  • 모든 결정 과정을 기록해서 나중에 누가 봐도 "왜 이런 결정을 했는지" 알 수 있게 만듭니다.

2. 작업 층 (Workflow Plane): "전문 기술자"

• 역할: 실제로 약을 설계하고 실험하는 기술자들입니다.
• 비유: 숙련된 건축 기술자들이 모여 있는 작업대입니다.
• 하는 일:
  • 약을 개발하는 표준적인 과정 (표적 찾기 → 후보 물질 찾기 → 최적화) 을 **자동화된 작업 흐름 (Skill Graphs)**으로 만듭니다.
  • 예를 들어, "단백질 구조를 준비하지 않고는 docking(결합 실험) 을 할 수 없다"는 엄격한 데이터 규칙을 따릅니다.
  • 중간에 인간 전문가가 "이건 좀 더 확인해 봐"라고 말하면, 작업을 잠시 멈추고 기다리는 **휴식 시간 (Human-in-the-Loop)**을 가집니다.

---

🧩 왜 모지가 필요한가요? (기존 AI 의 문제점)

기존의 AI 에이전트는 자유로운 대화는 잘하지만, 약물 개발처럼 실수가 치명적인 분야에서는 약점이 있습니다.

• 할루시네이션 (거짓말): AI 가 존재하지 않는 단백질 데이터를 만들어내거나, 잘못된 화학식을 입력하면, 그 뒤의 모든 계산이 쓰레기가 됩니다. (일명 "쓰레기 들어가면 쓰레기 나온다")
• 길고 복잡한 과정: 약을 개발하려면 수백 단계의 과정이 이어집니다. AI 가 중간에 길을 잃으면 (Drift), 처음부터 다시 시작해야 할 수도 있습니다.
• 안전 문제: AI 가 마음대로 고가의 컴퓨터 자원을 쓰거나, 위험한 실험을 지시할 수 있습니다.

모지는 "자유로운 사고는 하되, 실행은 규칙 안에서만 하라"는 원칙으로 이 문제를 해결합니다.

---

🚀 모지는 어떻게 작동할까요? (실제 사례)

논문에서는 모지가 크론병, 파킨슨병, 패혈증이라는 세 가지 난치병을 치료할 약을 찾는 과정을 시뮬레이션했습니다.

1. 크론병 (장염): AI 가 새로운 약을 설계하라고 했을 때, 모지는 먼저 질병과 관련된 단백질을 찾아내고, 그 구조를 확인한 뒤, 새로운 분자를 직접 디자인했습니다. 중간에 실험이 실패해도 시스템이 멈추지 않고 다른 방법을 찾아냈습니다.
2. 파킨슨병 (뇌 질환): 뇌에 약이 도달하려면 독성이 없어야 합니다. 모지는 초기 후보 물질들이 뇌에 해로운 독성을 가진 것을 발견하자, 인간 전문가의 확인을 받고 독성이 없는 새로운 구조로 다시 설계했습니다.
3. 패혈증 (감염증): 수만 개의 분자를 빠르게筛选 (선별) 했습니다. 일부 실험이 오류를 일으켰지만, 모지는 그 오류를 작업 흐름 안에서만 막아내고 전체 시스템이 멈추지 않도록 했습니다.

---

💡 핵심 요약: 모지의 장점

1. 안전한 자율성 (Governed Autonomy): AI 가 스스로 생각할 수는 있지만, 안전 규칙을 어기면 작동하지 않습니다.
2. 실수 방지 (Error Containment): 한 단계에서 실수가 나면, 그 실수가 다음 단계로 퍼지지 않도록 방화벽 역할을 합니다.
3. 인간과의 협업 (Human-in-the-Loop): AI 가 중요한 결정을 내리기 전에 전문 과학자에게 "이게 맞나요?"라고 물어봅니다.
4. 투명성 (Auditability): AI 가 어떤 순서로, 왜 그 약을 만들었는지 모든 과정을 기록해 두어, 나중에 검증이 가능합니다.

🎯 결론

**모지 (Mozi)**는 단순히 "약물을 찾아주는 AI"가 아니라, **"규칙을 잘 지키고, 실수를 바로잡으며, 인간 과학자와 함께 일하는 신뢰할 수 있는 동료 과학자"**입니다.

이 시스템이 보편화되면, 수년 걸리던 약물 개발 과정을 더 빠르고 안전하게 진행할 수 있게 되어, 더 많은 환자들이 새로운 약을 조기에 받을 수 있게 될 것입니다.

기술 요약

Mozi: 약물 발견을 위한 거버넌스 자율성 (Governed Autonomy) 을 갖춘 LLM 에이전트

이 논문은 국제 디지털 경제 아카데미 (IDEA) 의 연구팀이 제안한 Mozi라는 새로운 에이전트 프레임워크를 소개합니다. Mozi 는 생성형 AI 의 유연성과 계산 생물학의 결정론적 엄격함을 결합하여, 고위험 분야인 약물 발견 (Drug Discovery) 에 대규모 언어 모델 (LLM) 에이전트를 안정적으로 배포하기 위한 솔루션을 제시합니다.

1. 문제 정의 (Problem)

약물 발견 파이프라인은 표적 식별 (Target Identification) 에서 리드 최적화 (Lead Optimization) 에 이르는 복잡하고 장기적인 (long-horizon) 과정입니다. 기존 LLM 에이전트들은 다음과 같은 한계로 인해 이 분야에서 실용화되지 못했습니다.

• 제약 없는 도구 사용 (Unconstrained Tool Use): 일반 LLM 에이전트는 도구 사용 시 환각 (hallucination) 이 발생하거나, 엄격한 표준 운영 절차 (SOP) 를 따르지 못해 실행 오류를 초래합니다.
• 장기 신뢰성 부족 (Poor Long-Horizon Reliability): 초기 단계의 작은 오류나 환각이 파이프라인 하위로 전파되어 기하급수적으로 증폭되며, 전체 실험의 재현성을 해칩니다.
• 감시 및 안전성 부재: 규제된 환경에서 에이전트의 의사결정 경로를 추적 (audit) 하거나, 위험한 행동을 차단할 수 있는 거버넌스 메커니즘이 부족합니다.

2. 방법론: Mozi 아키텍처 (Methodology)

Mozi 는 **이중 계층 구조 (Dual-Layer Architecture)**를 통해 유연한 추론과 엄격한 실행을 분리하여 조화시킵니다.

2.1 계층 A: 제어 평면 (Control Plane) - 거버넌스 엔진

• 역할: 비구조화된 사용자 의도를 해석하고, 권한 기반의 감독자 - 작업자 (Supervisor-Worker) 위계 구조를 유지합니다.
• 주요 기능:
  • 역할 기반 도구 격리 (Role-based Tool Isolation): 에이전트의 역할 (예: 연구원 vs 계산원) 에 따라 접근 가능한 도구를 물리적으로 제한합니다.
  • 제한된 행동 공간: 에이전트가 실행 가능한 행동 범위를 사전에 정의하여 무분별한 탐색을 방지합니다.
  • 반성 기반 재계획 (Reflection-based Replanning): 각 단계 후 결과를 평가하여 정보가 부족하거나 오류가 발생하면 맹목적으로 진행하지 않고 동적으로 계획을 수정합니다.
  • 감사 가능한 궤적: 모든 의사결정 과정을 기록하여 재현성과 규정 준수를 보장합니다.

2.2 계층 B: 워크플로우 평면 (Workflow Plane) - 실행 엔진

• 역할: 약물 발견의 표준 프로세스를 상태가 있는 (stateful) **스킬 그래프 (Skill Graphs)**로 구체화합니다.
• 주요 기능:
  • 상태 관리 및 데이터 계약: 각 단계 (Target ID, Hit ID, H2L, LO) 를 방향성 비순환 그래프 (DAG) 로 구성하여 데이터 흐름과 과학적 논리를 강제합니다.
  • 형식 적응기 (Format Adapters): 입력/출력 데이터를 검증하고 정제하여 "쓰레기 입력, 쓰레기 출력 (Garbage In, Garbage Out)" 문제를 방지합니다.
  • Human-in-the-Loop (HITL) 체크포인트: 불확실성이 높은 결정 지점 (예: 표적 선정, 후보 물질 최종 승인) 에서 전문가의 개입을 유도하여 과학적 타당성을 검증합니다.
  • 오류 격리: 계산 도구의 실패가 전체 파이프라인을 중단시키지 않도록 그래프 로직 내에서 격리하고 처리합니다.

2.3 통합: MCP (Model Context Protocol)

두 계층은 MCP 를 통해 연결되며, 이는 이기종 생물학적 도구와 데이터베이스를 표준화된 인터페이스로 추상화하여 모듈식 통합을 가능하게 합니다.

3. 주요 기여 (Key Contributions)

1. 거버넌스 자율성 (Governed Autonomy) 개념 정립: LLM 의 유연성과 과학적 엄격함을 동시에 만족시키는 새로운 아키텍처를 제안했습니다.
2. 이중 계층 설계: 추론 (Layer A) 과 실행 (Layer B) 을 분리함으로써 장기 작업에서의 오류 전파를 방지하고 재현성을 확보했습니다.
3. PharmaBench 벤치마크 구축: 약물 발견 에이전트를 평가하기 위해 88 개의 태스크 (TDC 데이터, HLE 문제 등) 로 구성된 새로운 벤치마크를 제안했습니다.
4. 실제 사례 연구: 크론병, 파킨슨병, 패혈증에 대한 종단간 (end-to-end) 약물 발견 파이프라인 실행을 통해 시스템의 유효성을 입증했습니다.

4. 실험 결과 (Results)

• PharmaBench 성능: Mozi 는 기존 베이스라인 (Biomni 등) 보다 분류 정확도 (MCQ acc.) 와 회귀 성능 (SMAPE) 에서 우수한 결과를 보였습니다. 특히 오픈소스 모델 (Qwen3-235B) 을 사용할 때 성능이 크게 향상되었습니다.
• HLE (Human-Last Exam) 태스크: 복잡한 과학적 추론이 필요한 28 개의 약물 발견 질문에서 Mozi 는 웹 검색을 포함한 다른 최신 모델들보다 높은 정확도를 기록했습니다.
• 케이스 스터디 (Case Studies):
  • 크론병: 생성형 모델 (DiffSBDD) 을 활용하여 새로운 분자를 설계하고, 5 개의 리드 후보를 도출했습니다.
  • 파킨슨병: 인간 전문가의 개입을 통해 결합 부위를 수정하고, 독성 (hERG 차단 등) 문제를 자동으로 우회하여 임상 기준 (DNL-201) 과 경쟁력 있는 분자를 발견했습니다.
  • 패혈증: AutoDock Vina 의 실패를 그래프 로직이 격리하여 전체 워크플로우를 중단 없이 성공적으로 완수했습니다.
• 비교 분석: Mozi 는 다른 에이전트 플랫폼 (Biomni, K-Dense, BIOS) 보다 더 엄격한 제약 조건을 준수하며, 물리/화학적 제약 (분자량, BBB 투과성 등) 을 위반하지 않는 고품질 후보 물질을 생성했습니다.

5. 의의 및 결론 (Significance)

Mozi 는 LLM 을 단순한 대화형 도구가 아닌, **신뢰할 수 있는 공동 과학자 (Co-scientist)**로 변모시키는 중요한 진전입니다.

• 안전성과 규제 준수: 제약 산업의 엄격한 규제 환경에서 에이전트의 사용을 가능하게 하는 거버넌스 메커니즘을 제공합니다.
• 재현성과 감사 가능성: 모든 실행 단계가 추적 가능하여 과학적 발견의 신뢰성을 높입니다.
• 인간과 AI 의 협업: HITL 체크포인트를 통해 전문가의 직관과 AI 의 계산 능력을 결합하여, 고위험 의사결정의 정확도를 극대화합니다.

이 연구는 AI 가 복잡한 과학적 파이프라인을 자율적으로 수행하면서도 안전하고 통제 가능하게 만드는 새로운 패러다임을 제시하며, 향후 AI 기반 약물 발견의 상용화에 중요한 기반을 마련했습니다.