Procela: Epistemic Governance in Mechanistic Simulations Under Structural Uncertainty

이 논문은 항생제 내성 (AMR) 확산과 같은 구조적 불확실성 하에서 시뮬레이션이 고정된 메커니즘의 가중치 조정이나 무효화를 넘어, 실행 시점에 새로운 메커니즘을 동적으로 추가하거나 실패하는 요소를 제거하고 변수의 해결 정책을 변경하며 인과 그래프 자체를 실험을 통해 진화시키는 '에피스테믹 거버넌스' 프레임워크인 Procela 를 제안합니다. 이 프레임워크는 실패 시 자동 복귀를 보장하며, 이를 통해 오류를 20.4% 감소시키고 누적 후회도를 69% 개선합니다.

핵심

프로셀라 (Procela): "스스로를 의심하는" 시뮬레이션의 새로운 세계

이 논문은 **"우리가 만든 시뮬레이션이 스스로를 점검하고, 잘못된 가정을 고칠 수 있을까?"**라는 아주 흥미로운 질문에서 시작합니다.

기존의 시뮬레이션은 마치 고정된 레시피처럼 작동합니다. "이 재료를 넣으면 이 결과가 나온다"는 규칙을 처음에 정해두고, 그 규칙이 절대 변하지 않는다고 가정합니다. 하지만 현실 세계는 그렇게 단순하지 않습니다. 예를 들어, 병원에서 항생제 내성균이 퍼지는 원인이 '환자 간 접촉' 때문인지, '오염된 환경' 때문인지, 아니면 '항생제 남용' 때문인지 정확히 알 수 없는 경우가 많습니다.

이 논문은 이런 불확실한 상황에서 작동하는 새로운 프레임워크인 **'프로셀라 (Procela)'**를 소개합니다. 프로셀라는 시뮬레이션이 스스로를 과학자처럼 행동하게 만듭니다.

---

🏥 비유: "혼란스러운 병원 응급실"

이해를 돕기 위해 병원 응급실을 상상해 보세요.

1. 기존 방식 (고정된 레시피):

   • 의사 A 는 "환자가 서로 접촉해서 병이 퍼진다"고 믿고 격리 조치를 합니다.
   • 의사 B 는 "병실 바닥이 더러워서 퍼진다"고 믿고 청소에 집중합니다.
   • 의사 C 는 "항생제를 너무 많이 써서 문제가 생긴다"고 믿고 약을 줄입니다.
   • 문제점: 기존 시뮬레이션은 이 중 한 명을 미리 선택해서 "너만 믿어!"라고 명령합니다. 만약 오늘부터 원인이 '바닥'에서 '접촉'으로 바뀌었다면? 그 시뮬레이션은 계속 잘못된 처방을 내리며 환자를 위험에 빠뜨립니다.

2. 프로셀라 방식 (스스로를 점검하는 팀):

   • 프로셀라는 세 명의 의사 (A, B, C) 를 모두 팀에 둡니다.
   • 기억력: 각 의사는 과거의 모든 추측과 그 결과를 기억합니다.
   • 지배자 (Governance): 이 팀에는 **'팀장'**이 있습니다. 팀장은 의사의 말만 듣는 게 아니라, "지금 환자가 왜 안 좋아지고 있지?"라고 끊임없이 질문합니다.
   • 실험: 팀장은 "지금 B 의사가 틀린 것 같아. B 의사를 잠시 쉰 상태로 두고 A 와 C 만으로 치료해 보자"라고 말합니다.
   • 결과 확인: 만약 B 의사를 쉰 상태에서 환자가 나아지면, "아, B 의사가 맞았구나! B 는 다시 쉰 상태로 두자"라고 결정합니다. 반대로 환자가 더 나빠지면 "아, B 의사가 필요했구나"라고 다시 B 를 불러옵니다.

이것이 바로 프로셀라가 하는 일입니다. 시뮬레이션이 고정된 규칙을 따르는 게 아니라, 실시간으로 "내가 지금 맞는 가정을 하고 있는가?"를 테스트하고, 틀리면 즉시 수정합니다.

---

🔑 핵심 개념 4 가지 (간단히 설명)

1. 기억력을 가진 변수 (Variables as Memory):

   • 일반적인 시뮬레이션의 변수는 단순히 숫자만 저장합니다. 하지만 프로셀라의 변수는 **"누가, 언제, 어떤 확신으로 이 값을 제안했는지"**를 모두 기억합니다. 마치 회의록을 꼼꼼히 남기는 비서처럼요.

2. 경쟁하는 이론 (Mechanisms):

   • 서로 다른 가설 (접촉설, 환경설, 항생제설) 을 가진 여러 '메커니즘'이 동시에 작동합니다. 이들은 서로 경쟁하며 "내가 맞다!"라고 주장합니다.

3. 지배자 (Governor - 도메인 무관한 4 가지 기능):

   • 시스템의 '감독관'입니다. 이 감독관은 특정 도메인에 국한되지 않고, 사용자가 정의한 신호를 기반으로 4 가지 일반적인 능력을 수행합니다:
     • 관찰 (Observe): 사용자가 정의한 도메인 신호를 지속적으로 모니터링합니다.
     • 결정 (Decide): 신호가 특정 임계값을 넘으면 조치를 취할지 결정합니다.
     • 행동 (Act): 실패하는 메커니즘을 제거하거나, 새로운 메커니즘을 추가하거나, 해결 규칙 (예: 가중 투표에서 가장 높은 신뢰도로 변경) 을 바꾸거나, 실험을 수행합니다.
     • 학습 (Learn): 성공적인 구성은 유지하고, 실패한 시도는 자동으로 원래 상태로 되돌립니다.
   • 핵심 차이: 기존 앙상블 (Ensemble) 이 세 개의 고정된 지도 중 하나를 선택하는 것이라면, 프로셀라는 항해 도중 새로운 지도를 직접 그리거나, 없던 나침반을 추가하거나, 선장이 나침반을 해석하는 방식을 바꿀 수 있습니다.

4. 지휘자 (Executive):

   • 전체 과정을 조율하며 모든 기록을 남깁니다. "어떤 결정이 언제, 왜 내려졌는지"를 투명하게 기록하여 나중에 검증할 수 있게 합니다.

---

📊 실제 실험 결과: 병원 내성균 (AMR) 사례

이론만 설명하면 어렵죠? 연구진은 실제 병원 내성균 확산 시나리오로 이 시스템을 테스트했습니다. 이 사례는 프로셀라가 특정 도메인 (AMR) 에 맞게 어떻게 적용되는지를 보여줍니다.

• 상황: 병원 내성균의 원인이 시간과 장소에 따라 변했습니다 (처음엔 항생제 문제, 중간엔 환경 오염, 나중엔 환자 접촉).
• 기존 방식: 한 가지 원인만 가정하고 시뮬레이션하면, 원인이 바뀔 때 예측이 완전히 빗나갔습니다.
• 프로셀라 방식 (AMR 도메인 특화 신호 활용):
  • 이 실험에서는 지배자가 세 가지 구체적인 신호를 관찰했습니다. (이 신호들은 AMR 도메인 예시이며, 프로셀라 시스템 자체가 이를 고정하지는 않습니다.)
    1. 커버리지 (Coverage): 각 메커니즘 가족이 예측 정확도를 얼마나 유지하는지 측정.
    2. 취약성 (Fragility): 어떤 개입을 적용해야 할지 메커니즘들 간의 의견 불일치 정도를 측정.
    3. 프로브 (Probe): 특정 메커니즘 가족을 일시적으로 격리하여 단독 성능을 측정.
  • 시스템이 "아, 지금 환경 오염이 원인인 것 같다"라고 감지하자마자 (예: 취약성 신호가 높아짐), 접촉 이론을 끄고 환경 이론을 강화했습니다.
  • 그 결과, 예측 오차를 20% 이상 줄였습니다.
  • 더 중요한 점은, 실험이 실패하면 즉시 원래 상태로 되돌려서 큰 실수를 막았다는 것입니다.

💡 왜 이것이 중요한가요?

이 논문은 **"모델은 고정된 것이 아니라, 살아있는 가설이어야 한다"**는 새로운 패러다임을 제시합니다.

• 기존: "우리가 만든 모델이 정답이다." (틀리면 어떡하지? -> 무너짐)
• 프로셀라: "우리가 만든 모델은 가설일 뿐이다. 틀리면 고쳐보자." (틀려도 괜찮음 -> 스스로 고침)

이는 기후 변화 예측, 경제 위기 대응, 로봇 제어 등 정답을 알 수 없는 복잡한 상황에서 매우 유용합니다. 프로셀라는 시뮬레이션이 스스로를 과학자처럼 만들어, 불확실한 세상에서도 더 똑똑하게 적응하게 해줍니다.

한 줄 요약:

프로셀라는 "내가 지금 틀린 걸까?"라고 스스로 질문하고, 실험을 통해 정답을 찾아내는, 스스로 진화하는 시뮬레이션입니다.

기술 요약

Procela: 구조적 불확실성 하의 기계적 시뮬레이션을 위한 인식론적 거버넌스 (Epistemic Governance)

이 문서는 Kinson Vernet 이 작성한 논문 "Procela: Epistemic Governance in Mechanistic Simulations Under Structural Uncertainty"의 기술적 요약입니다. 이 논문은 고정된 온톨로지 (ontology) 를 가정하는 기존 시뮬레이션의 한계를 극복하고, 시뮬레이션이 스스로의 가정을 검증하고 구조를 동적으로 변경할 수 있는 새로운 프레임워크인 Procela를 제안합니다.

---

1. 문제 제기 (The Problem)

기존의 기계적 시뮬레이션 (Mechanistic Simulations) 은 실행 전 변수, 인과 관계, 해결 정책 (resolution policies) 이 고정되어 있다고 가정합니다. 그러나 실제 세계, 특히 항생제 내성 (AMR) 전파와 같은 복잡한 시스템에서는 진정한 인과 구조가 논쟁의 대상이거나 식별 불가능한 경우가 많습니다.

• 고정된 온톨로지의 실패: AMR 의 경우, 전파 경로가 '환자 간 접촉', '환경적 저장고', '항생제 선택 압력' 중 어느 것인지 관찰 데이터만으로는 구분하기 어렵습니다.
• 불확실성의 소거: 연구자가 시뮬레이션 설계 단계에서 하나의 온톨로지를 강제로 선택하면, 모델이 불완전하다는 인식론적 불확실성 (epistemic uncertainty) 이 초기에 소거됩니다.
• 기존 접근법의 한계: 모델 평균화 (Model averaging) 나 강건 제어 (Robust control) 는 고정된 모델 집합 내에서만 작동하며, 모델 자체의 유효성을 질문하거나 구조를 변경하지 못합니다.

2. 방법론: Procela 프레임워크 (일반적 아키텍처)

Procela 는 Python 3.10+ 기반의 오픈소스 프레임워크로, 시뮬레이션을 정적인 모델이 아닌 진행 중인 과학적 과정으로 재정의합니다. 이는 네 가지 핵심 추상화 (Abstractions) 에 기반하며, 기존 앙상블 방법이나 모델 평균화와는 근본적으로 다른 **런타임 구조적 변이 (Runtime Structural Mutation)**를 가능하게 합니다.

2.1 핵심 추상화

1. 기억을 가진 인식론적 권위자로서의 변수 (Variables as memory-bearing epistemic authorities):
   • 기존 변수는 단순히 값을 저장하지만, Procela 의 변수는 경쟁 가설의 전체 이력 (히스토리) 을 저장합니다.
   • 각 가설은 값, 신뢰도 (confidence), 생성 소스 (메커니즘 키), 타임스탬프를 포함합니다.
   • 충돌 시 가중 투표, 최고 신뢰도 선택 등의 **해결 정책 (Resolution Policy)**을 통해 단일 값을 도출합니다.
2. 인과 단위로서의 메커니즘 (Mechanisms as causal units):
   • 각 메커니즘은 하나의 과학적 가설 (인과 관계) 을 인코딩합니다.
   • 여러 메커니즘이 동일한 현상을 설명하기 위해 경쟁할 수 있으며, 서로 다른 과학적 관점을 반영합니다.
3. 1 순위 시민으로서의 거버넌스 (Governance as first-class citizen):
   • 관찰 (Observe): 시스템의 인식론적 상태를 모니터링하기 위해 사용자가 정의한 **도메인 특화 신호 (Domain-defined signals)**를 관찰합니다. Procela 는 내장된 지표를 제공하지 않으며, 신호의 정의는 전적으로 도메인 전문가에게 맡겨집니다.
   • 결정 (Decide): 관찰된 신호가 미리 정의된 임계값 (thresholds) 을 위반할 때 거버넌스 로직이 발동됩니다.
   • 행동 (Act): 거버넌스는 시뮬레이션 아키텍처에 **구조적 변이 (Structural Mutation)**를 수행합니다. 이는 단순히 기존 메커니즘의 가중치를 조절하거나 비활성화하는 것을 넘어, 다음과 같은 동적 변경을 포함합니다:
     • 초기화 시 존재하지 않았던 새로운 메커니즘을 동적으로 추가하거나, 실패한 메커니즘을 완전히 제거합니다.
     • 변수의 **해결 정책 (Resolution Policy)**을 런타임에 변경합니다.
     • 인과 그래프 (Causal Graph) 를 수정하는 **실험 (Experiments)**을 수행합니다.
   • 학습 (Learn): 실행된 구조적 변이 (실험) 가 실패로 판명되면, 시스템은 자동으로 **되돌림 (Automatic Reversion)**을 수행하여 이전의 안정된 상태로 복귀합니다. 이는 "관찰 - 가설 수립 - 실험 - 평가 - 결론"이라는 과학적 방법론을 시뮬레이션 내부에 내재화합니다.
4. 실행기 (Executive):
   • 시뮬레이션의 전체 흐름을 조율하며, PRE/RUNTIME/POST 단계에서 불변식을 평가하고 메커니즘을 실행합니다. 모든 변경 사항과 가설 이력을 감사 가능한 형태로 기록합니다.

---

3. 사례 연구: 병원 네트워크 내 항생제 내성 (AMR) 전파

Procela 프레임워크를 AMR 전파 시나리오에 적용하여 검증했습니다. 이 사례 연구에서는 프레임워크의 일반적 기능이 구체적인 도메인 신호와 전략으로 어떻게 구현되는지 보여줍니다.

• 환경: 3 개의 병원 유닛이 연결된 네트워크.

• 경쟁 온톨로지: 접촉 전파 (Contact), 환경적 전파 (Environmental), 선택 압력 (Selection) 을 가정하는 3 개의 메커니즘 가족 (Family).

• 지상 진리 (Ground Truth): 시뮬레이션 도중 3 번의 regime shift(선택 $\to$ 환경 $\to$ 접촉) 가 발생하지만, 메커니즘들은 이를 알지 못함.

• 도메인 특화 신호 및 거버넌스 전략:

  • 커버리지 (Coverage): 메커니즘이 관측값을 얼마나 정확히 예측하는지 측정. (커버리지 감소는 해당 온톨로지가 현재 regimes 와 맞지 않음을 시사).
  • 정책 취약성 (Policy Fragility): 메커니즘들이 제안하는 개입 (Isolation, Cleaning, Stewardship 등) 이 얼마나 불일치하는지 측정. (높은 불일치는 의사결정 불확실성을 의미).
  • 최근 오차 (Recent Error): 현재 예측 정확도를 측정하여 시스템 실패를 감지.
  • 구조적 탐사 (Structural Probe): 주기적으로 각 가족을 격리하여 단독 예측 성능을 측정하는 실험.

  구체적 거버넌스 전략:

  1. 정책 취약성 거버넌스: 메커니즘 간 불일치가 높을 때 해결 정책 변경 (가중 평균 $\to$ 최고 신뢰도).
  2. 커버리지 감소 거버넌스: 특정 메커니즘 가족의 예측 정확도가 지속적으로 낮아지면 해당 가족을 일시적으로 비활성화하거나 제거.
  3. 구조적 탐사: 주기적으로 각 가족을 격리하여 단독 예측 성능을 측정하고, 실패 시 자동 되돌림.

4. 주요 결과 (Results)

50 회 독립 실행의 평균 결과를 바탕으로 한 주요 성과는 다음과 같습니다.

전략	평균 절대 오차 (MAE) 개선	누적 후회 (Cumulative Regret) 개선	비고
거버넌스 없음 (Baseline)	-	-	고정된 모델 경쟁
정책 취약성	-1.6% (악화)	-9.8%	실험이 실패할 경우 오차가 크게 증가
커버리지 감소	+20.4%	+35.5%	예측 정확도 향상 최적. 불필요한 개입을 억제.
구조적 탐사	+9.3%	+69.0%	의사결정 (개입 선택) 최적화. 최적 개입에 근접.
결합 거버넌스	+8.2%	+61.6%	불안정성 증가,但仍优于 Baseline

• 예측 vs 의사결정 트레이드오프: '커버리지 감소'는 예측 오차를 가장 크게 줄였으나, '구조적 탐사'는 최적의 개입을 선택하는 데 가장 효과적이었습니다. 이는 "예측 최적화 $\neq$ 의사결정 최적화"임을 보여줍니다.
• 실험 성공률: 거버넌스는 시스템 오차가 높을 때 (위험 시) 실험을 성공적으로 수행하고, 안정적일 때는 개입을 자제했습니다.
• 감사 가능성: 모든 구조 변경과 가설 이력이 암호화되어 기록되어, 모델 진화의 완전한 감사 추적을 가능하게 했습니다.

5. 기여 및 의의 (Contributions & Significance)

1. 패러다임의 전환: 시뮬레이션을 "세계를 모델링하는 도구"에서 "자신의 모델링 과정을 모델링하는 적응형 시스템"으로 변화시켰습니다.
2. 구조적 학습의 실현: 런타임에 모델 구조 (메커니즘 활성화/비활성화, 새로운 메커니즘의 동적 추가/제거, 인과 그래프 변경) 를 변경하여 구조적 불확실성 (Structural Uncertainty) 에 대응하는 최초의 프레임워크입니다. 이는 단순한 가중치 조정이 아닌 아키텍처 수준의 진화를 의미합니다.
3. 과학적 방법론의 내재화: 시뮬레이션이 스스로 가설을 검증하고 증거에 기반하여 모델을 수정하는 자율 과학자 역할을 수행합니다.
4. 도메인 중립성: AMR 사례를 통해 입증되었으나, 기후 모델링, 경제학, 로봇공학 등 경쟁 이론이 존재하는 모든 복잡한 시스템에 적용 가능한 범용 아키텍처입니다.
5. 투명성과 책임성: 모든 거버넌스 결정과 구조 변경이 암호학적 키로 추적 가능하여, 고위험 분야 (의료, 정책) 에서의 인간 - AI 협업 및 감독을 지원합니다.

결론

Procela 는 고정된 온톨로지의 한계를 넘어, **인식론적 거버넌스 (Epistemic Governance)**를 통해 시뮬레이션이 불확실한 환경에서 스스로 적응하고 성능을 향상시킬 수 있음을 입증했습니다. 특히 AMR 사례에서 예측 오차를 20.4% 줄이고 의사결정 후회를 69% 개선한 결과는, 구조적 불확실성이 존재하는 복잡한 시스템 관리에 있어 이 프레임워크의 실용적 가치를 강력하게 시사합니다.