🤖 machine learning

Epistemology gives a Future to Complementarity in Human-AI Interactions

이 논문은 인식론적 관점, 특히 계산적 신뢰론을 활용하여 인간-AI 상호작용에서 '상호보완성'을 단순한 예측 정확도 지표가 아닌 신뢰할 수 있는 인식적 과정의 증거로 재정의함으로써, 이론적 토대를 강화하고 의사결정 및 거버넌스 실무에 대한 실용적 지침을 제시합니다.

원저자: Andrea Ferrario, Alessandro Facchini, Juan M. Durán

게시일 2026-04-23

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Andrea Ferrario, Alessandro Facchini, Juan M. Durán

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

이 논문은 **"인간과 AI 가 함께 일할 때, 정말로 둘 다 혼자 할 때보다 더 잘할 수 있을까?"**라는 질문에 대해 새로운 답을 제시합니다.

기존의 연구들은 "AI 와 인간이 합쳐진 팀이 혼자일 때보다 더 높은 점수를 받으면 (보완성, Complementarity)" 그것이 성공이라고 여겼습니다. 하지만 저자들은 이 방식에는 큰 문제가 있다고 말합니다. 마치 **"두 사람이 함께 공을 차면 혼자 쏘는 것보다 더 멀리 간다"**는 사실만 보고 "이 팀은 완벽하다"고 결론 내리는 것과 비슷합니다. 하지만 그 공이 멀리 간다고 해서, 그 과정이 안전하거나, 두 사람이 너무 지치지는 않았는지, 그리고 그 공이 정말로 골대에 들어가는지 (정확한지) 는 알 수 없기 때문입니다.

이 논문은 이 문제를 해결하기 위해 **인식론 (지식에 대한 철학)**을 도입하여, 인간-AI 관계를 **'신뢰할 수 있는 과정'**으로 재정의합니다.

🍳 핵심 비유: "요리사와 자동 오븐"

이 논문의 내용을 이해하기 위해 **요리사 (인간)**와 **자동 오븐 (AI)**을 예로 들어보겠습니다.

1. 기존 방식의 문제점: "점수만 보는 요리사"

기존 연구는 요리사와 오븐이 함께 요리를 했을 때, 각각 혼자 할 때보다 맛이 더 좋으면 (점수가 높으면) "완벽한 팀"이라고 칭찬했습니다.

문제 1 (이론적 빈약함): 왜 맛이 좋아졌는지, 어떤 원리로 좋아졌는지에 대한 깊은 설명이 없습니다.
문제 2 (실제 상황과의 괴리): 요리를 하는 순간에는 "아, 지금 이 요리는 혼자보다 더 맛있을 거야!"라고 미리 알 수 없습니다. 점수는 요리가 다 된 뒤에나 알 수 있습니다.
문제 3 (비용 무시): 맛을 조금 더 좋게 하려고 요리사가 오븐을 3 시간 동안 감시하고, 오븐을 10 번이나 재설정했다면? 그 '조금 더 나은 맛'을 위해 너무 많은 노력이 들었습니다.
문제 4 (다른 가치 무시): 맛이 조금 더 좋아졌더라도, 음식에 독이 섞였거나 (공정성 문제), 요리사가 너무 지쳐서 다음 요리를 못 한다면 (신뢰성 문제) 그건 좋은 팀이 아닙니다.

2. 새로운 제안: "신뢰할 수 있는 주방 시스템"

저자들은 "점수 (보완성)" 자체를 목표 삼는 대신, **"이 주방 시스템이 신뢰할 수 있는가?"**를 묻습니다. 이를 위해 **'계산적 신뢰론 (Computational Reliabilism)'**이라는 안경을 씁니다.

이 안경을 쓰면, '보완성 (함께 했을 때 더 잘함)'은 성공의 최종 결과가 아니라, **"이 시스템이 신뢰할 수 있다는 증거 중 하나"**로 바뀝니다.

신뢰의 3 가지 기둥 (Reliability Indicators):
1. 기술적 성능 (RI1): 요리사와 오븐이 실제로 얼마나 잘 맞는지 (과거의 점수, 보완성).
2. 과학적 기준 (RI2): 이 요리법이 의학/법률 등 해당 분야의 기준에 맞는지, 재료 (데이터) 가 적절한지.
3. 사회적 관행 (RI3): 주방의 규칙, 요리사의 교육, 오븐의 업데이트 관리, 누가 책임을 지는지 등 시스템이 잘 돌아가는 환경.

3. "효율적인 보완성"이란 무엇인가?

이 논문은 단순히 "함께 하면 더 잘한다"는 것을 넘어, **"비용을 고려한 효율적인 보완성"**을 강조합니다.

비유: 만약 요리사가 오븐의 작은 오류를 고치기 위해 10 분을 쓰고, 그 결과 요리 맛이 1% 만 좋아진다면? 이는 비효율적입니다.
해결책: 논문은 **"순수 이득 (Net Gain)"**을 계산하라고 제안합니다.
- 맛의 향상도 - (노력 비용 × 기준치)
- 만약 이 값이 양수라면, 그 팀은 '신뢰할 수 있는 효율적인 팀'입니다.
- 만약 음수라면, 점수가 조금 더 좋아졌더라도 그 시스템은 신뢰할 수 없습니다.

💡 이 논문의 핵심 메시지 3 가지

점수 (보완성) 는 만능 열쇠가 아니다:
인간과 AI 가 함께 일해서 점수가 조금 더 올랐다고 해서 무조건 좋은 것은 아닙니다. 그 점수가 올라가는 데 너무 많은 비용이 들거나, 다른 중요한 가치 (공정성, 안전성) 를 해쳤다면 의미가 없습니다.
신뢰는 '과정'에서 나온다:
우리는 AI 가 혼자 얼마나 잘하는지보다, 인간과 AI 가 어떻게 소통하고, 어떤 규칙 아래 일하며, 문제가 생겼을 때 어떻게 대처하는지를 봐야 합니다. 과거에 "함께 일했을 때 더 잘했다"는 기록은 그 시스템이 신뢰할 수 있다는 증거 중 하나일 뿐, 전부는 아닙니다.
실무자를 위한 체크리스트:
이 논문의 저자들은 AI 시스템을 도입하려는 병원, 기업, 정부에 **"최소 보고 체크리스트"**를 제안합니다.
- "이 시스템은 언제 쓰지?"
- "누가 교육받고 있나?"
- "함께 일했을 때의 이득이, 들인 노력 (시간, 비용) 보다 큰가?"
- "실수가 났을 때 어떻게 고치는가?"
  이 체크리스트를 통해 AI 와 인간의 팀이 단순히 '점수'가 좋은 게 아니라, 진짜로 신뢰할 수 있는 파트너인지 판단해야 한다고 말합니다.

🚀 결론: 미래는 어디로 가는가?

이 논문은 **"AI 와 인간이 함께 일할 때, 서로의 약점을 보완해서 더 잘하는 것 (보완성)"**은 여전히 좋은 목표입니다. 하지만 그것을 맹목적으로 쫓기보다는, **"그 과정이 얼마나 신뢰할 수 있고, 비용 대비 효과가 있는가?"**를 종합적으로 평가하는 지식 기반의 접근법으로 바꿔야 한다고 말합니다.

마치 조종사와 자동 조종장치의 관계를 생각해보면 됩니다. 자동 조종장치가 비행기를 더 잘 날린다고 해서 무조건 믿는 게 아니라, 조종사가 어떻게 훈련받았는지, 시스템이 어떤 상황에서 작동하는지, 그리고 그 조합이 안전하고 효율적인지 확인해야 비로소 그 비행기를 신뢰할 수 있는 것입니다.

1. 문제 제기 (Problem)

인간-AI 상호작용 연구에서 '상호보완성'은 AI 시스템의 도움을 받은 인간이 인간 단독 또는 AI 단독보다 더 나은 의사결정을 내린다는 주장입니다. 그러나 현재 상호보완성 개념은 다음과 같은 네 가지 주요 이론적 도전에 직면해 있어 실증적 환경에서 달성하기 어렵고, 독립적인 표준 (Gold Standard) 으로 사용하기에 부적합합니다.

이론적 부재 (Lack of Theoretical Anchoring): 상호보완성이 정보 처리 모델에 기반한 구체적인 이론적 토대가 부족하며, 신뢰 (Reliance) 와 상호보완성을 구분하는 명확한 메커니즘이 부재합니다.
결정 시점의 적용 한계 (Limited Applicability at Decision Time): 상호보완성 지표 (CTP) 는 정답 (Ground Truth) 에 의존하는 사후 (Ex-post) 평가 지표입니다. 따라서 실제 의사결정 순간에는 AI 를 신뢰할지, 인간이 판단할지, 혹은 대안을 찾을지 결정하는 데 직접적인 도움을 주지 못합니다.
상대적 정확도만 강조 (More than Relative Accuracy): 상호보완성은 절대적 성능이 낮더라도 구성 요소 단독보다 나쁘지 않으면 성립합니다. 그러나 실제 고위험 (High-stakes) 환경에서는 공정성, 강건성, 설명 가능성 등 정확도 외의 다양한 요구사항이 중요하며, CTP 는 이를 반영하지 못합니다.
성과 - 비용 프로필 무시 (Ignores Magnitude-Cost Profile): 상호보완성을 달성하기 위해 필요한 인지적 노력, 시간, 조직적 비용과 얻어지는 성능 향상 간의 트레이드오프를 고려하지 않습니다. 미미한 성능 향상을 위해 과도한 비용이 든 경우에도 상호보완성으로 간주될 수 있습니다.

2. 방법론 (Methodology)

저자들은 상호보완성을 독립적인 성능 지표가 아닌, 계산적 신뢰주의 (Computational Reliabilism, CR) 프레임워크 내의 **신뢰성 지표 (Reliability Indicator)**로 재해석합니다.

계산적 신뢰주의 (CR) 적용:
- CR 은 신념이 '신뢰할 수 있는 과정 (Reliable Process)'을 통해 생성되었을 때 정당화 (Justified) 된다는 과정 신뢰주의를 계산 시스템에 적용합니다.
- 인간-AI 상호작용 (PT-HAI) 을 AI 시스템 단독이 아닌, 인간과 AI 가 고정된 상호작용 프로토콜 하에 수행하는 **계산 과정 (Computational Process)**으로 정의합니다.
신뢰성 지표의 재분류:
상호보완성을 CR 의 세 가지 신뢰성 지표 유형 중 하나인 Type-RI1(기술적 성능 및 운영 행동) 의 핵심 지표로 위치시킵니다.
- Type-RI1 (기술적/운영적): 상호보완성 (CTP), 오류 완화 패턴, 하위 그룹별 성능 등.
- Type-RI2 (인식론적/과학적 표준): 작업의 타당성, 증거 적합성, 불확실성 관리, 윤리적 제약 준수 등.
- Type-RI3 (사회 - 기술적 관행): 교육, 워크플로우 통합, 모니터링, 책임 소재, 업데이트 관리 등.
효율적 상호보완성 (Efficient Complementarity) 정의:
- 상호보완성의 순이익 (Net Gain) 을 정의하기 위해 **비용 변환 파라미터 ( $\lambda$ )**를 도입합니다.
- 순 상호보완성 이득 ( $\Delta_{net}$ ): $\Delta_{net} = \Delta_{gross} - \lambda \cdot c(D)$ $Δ_{n e t} = Δ_{g r oss} - λ \cdot c (D)$
  - 여기서 $\Delta_{gross}$ 는 절대적 성능 향상, $c(D)$ 는 상호작용 비용, $\lambda$ 는 기관이 수용 가능한 비용 대비 이득의 임계값입니다.
- 이득이 비용 ( $\lambda \cdot c(D)$ ) 을 초과할 때만 '효율적인 상호보완성'으로 간주합니다.

3. 주요 기여 (Key Contributions)

이론적 재위치 (Theoretical Repositioning): 상호보완성을 독립적인 '성공 기준'이 아닌, 인간-AI 팀의 예측이 인식론적으로 정당화될 수 있음을 보여주는 **역사적 근거 (Historical Evidence)**로 재정의했습니다. 이는 상호보완성이 단독으로 신뢰성을 보장하지는 않지만, 신뢰성 평가의 중요한 구성 요소가 됨을 보여줍니다.
CR 프레임워크 내 통합: 상호보완성을 계산적 신뢰주의의 신뢰성 지표 체계에 통합하여, 상대적 정확도뿐만 아니라 시스템의 강건성, 인간 전문성, 제도적 적합성 등을 종합적으로 평가할 수 있는 틀을 마련했습니다.
실용적 가이드라인 및 체크리스트 개발:
- 최소 보고 체크리스트 (Minimal Reporting Checklist): 인간-AI 상호작용의 정당성을 입증하기 위해 설계자, 규제기관, 이해관계자가 반드시 보고해야 할 항목 (프로토콜, 사용자 역량, 상호보완성 증거, 비용, 불확실성 관리 등) 을 제시했습니다.
- 효율적 상호보완성 측정: 성능 향상과 비용 간의 균형을 평가하는 정량적 지표 ( $\Delta_{net}$ ) 와 임계값 설정 방법 (정책 기반, 유추 기반, 합의 기반) 을 제안했습니다.

4. 결과 및 사례 분석 (Results & Examples)

논문의 이론적 틀을 적용한 세 가지 사례 분석을 통해 다음과 같은 통찰을 도출했습니다.

기술자 피부과 의사 (The Technologist Dermatologist):
- 높은 Type-RI1(상호보완성), Type-RI2(전문성), Type-RI3(교육 및 감사) 를 모두 충족하여 높은 신뢰성을 가짐. 상호보완성 이득이 명확하고 비용이 적절할 때 신뢰성이 강화됨.
신뢰할 수 있는 학생 (All complementarity and no credentials):
- Type-RI1(상호보완성) 은 강하지만, Type-RI2(검증 부재) 와 Type-RI3(제도적 승인 부재) 이 약함. 결과적으로 전체 PT-HAI 의 신뢰성은 낮음. 이는 상호보완성만으로는 신뢰성을 보장할 수 없음을 시사함.
상호보완성이 효용이 없는 경우 (When complementarity does not pay):
- 법의학 음성 분석 사례. 상호보완성 이득은 미미하지만, Type-RI3(엄격한 프로토콜, 검증 범위, 책임 소재) 가 강력함. 이 경우 상호보완성 이득을 극대화하려 하기보다, 절차적 안정성과 법적 방어 가능성을 유지하는 것이 신뢰성에 더 중요함.

5. 의의 및 시사점 (Significance)

인식론적 정당성 확보: AI 지원 의사결정이 고위험 환경에서 인식론적으로 타당한지 판단할 때, 상호보완성이라는 단일 지표에 의존하지 않고 포괄적인 신뢰성 프로필을 평가해야 함을 강조합니다.
설계 및 거버넌스 방향 전환:
- 설계자: 상호보완성 자체를 최적화하는 것이 아니라, 상호작용 프로토콜을 통해 오류를 수정하고 검증할 수 있는 구조를 설계해야 합니다.
- 규제기관: 상호보완성을 강제적인 준수 목표로 삼기보다, 시스템의 수명 주기 전반에 걸친 신뢰성 (모니터링, 업데이트 관리, 역량 유지) 을 평가해야 합니다.
비용 민감성 강조: 성능 향상이 가져오는 인지적, 조직적 비용을 고려하지 않은 상호보완성은 실질적 가치가 없으며, '효율적 상호보완성' 개념을 통해 비용 대비 이득을 정량화해야 함을 주장합니다.

결론적으로, 이 논문은 상호보완성을 인간-AI 협업의 '목적'이 아닌, 신뢰할 수 있는 인간-AI 팀을 구성하기 위한 '증거' 중 하나로 재정의함으로써, AI 지원 의사결정의 인식론적 기반을 강화하고 실용적인 거버넌스 체계를 마련하는 데 기여합니다.