기술 요약: 인간의 백업(Human Fallback) 관리: 개선되는 AI와 노동자 이동성 하에서의 기술 투자

문제 정의

본 논문은 자율적인 AI 시스템을 도입하는 기업들이 직면한 중대한 운영적 및 전략적 딜레마, 즉 **노동자 참여(worker engagement)**의 최적 수준을 결정하는 문제를 다룬다. AI는 일상적인 실행 측면에서 인간 노동자보다 뛰어난 성능을 보이는 경우가 많지만, 여전히 불완전하며 실패, 도메인 제한 또는 가용성 문제에 직면할 수 있다. 결과적으로 기업은 인간의 검토와 개입을 위해 얼마나 많은 업무를 남겨둘 것인지 결정해야 한다.

이 결정에는 다음과 같은 역동적인 트레이드오프가 존재한다:

1. 현재의 산출량 vs 미래의 기술: 노동자를 참여시키는 것(검토나 개입을 하게 하는 것)은 일반적으로 AI가 더 빠르거나 정확하기 때문에 현재의 운영 산출량을 낮춘다. 그러나 참여를 줄이는 것은 **기술 퇴보(deskilling)**를 초래하는 반면, 참여를 높이는 것은 **실행을 통한 학습(learning-by-doing)**을 촉진한다.
2. 백업 동기(The Fallback Motive): 기업은 AI가 실패할 때를 대비하여 인간의 기술을 보유해야 한다.
3. 선별 동기(이동성 하에서의 Sorting Motive): 임금이 표준화되어 있어(기업이 임금을 높여 유인할 수 없는 상황) 노동자들이 경쟁적인 노동 시장에서 직업을 선택할 때, 노동자들은 해당 직업이 제공하는 **기술 궤적(skill trajectories)**을 기준으로 직업을 선택한다. 따라서 기업의 참여 정책은 숙련된 노동자를 유인하기 위한 도구가 된다.

본 논문은 이러한 동기들이 어떻게 상호작용하는지, 단일 기업 독점 체제와 노동자 이동성이 있는 경쟁 시장에서 어떻게 달라지는지, 그리고 두 가지 뚜렷한 AI 발전 차원인 **역량(capability, 작동 시의 품질)**과 **신뢰도(reliability, 작동 확률)**가 참여 전략에 어떤 영향을 미치는지 조사한다.

방법론

저자들은 연속적인 노동자 집단과 개선되는 AI 시스템을 특징으로 하는 간결한 2기간 분석 모델을 개발하였다.

모델 기본 요소

• 시간: 두 기간 ($t=1, 2$).
• AI 속성:
  • 역량 ($\alpha_t$): AI가 작동할 때의 유효 처리량.
  • 신뢰도 ($1-\pi_t$): AI가 작동할 확률; $\pi_t$는 실패 확률.
  • AI는 시간이 지남에 따라 개선됨 ($A_2 \ge A_1$), 즉 $\alpha_2 \ge \alpha_1$ 이고 $\pi_2 \le \pi_1$ 임을 의미한다.
• 노동자 기술 ($s_t$): 보조 없이 달성 가능한 유효 처리량으로 측정된다. 모델은 벤치마크 미달 노동자 ($s_t < \alpha_t$)에 초점을 맞추며, 이들에게 참여는 현재 산출량을 감소시킨다.
• 참여 ($h_t \in [0,1]$): 워크플로가 노동자를 통해 수행되는 비율.
  • 산출량: AI가 작동할 때, 산출량은 AI 역량과 노동자 기술의 가중 평균이다. AI가 실패할 때, 산출량은 노동자의 기술이다.
  • 기술 역학: 기술은 전이 함수 $g(s_t, h_t; A_t)$를 통해 진화한다.
    • 퇴보: 수동적인 AI 의존($1-h_t$)은 격차 $(\alpha_t - s_t)$에 비례하여 기술 손실을 일으킨다.
    • 학습: 능동적인 참여($h_t$)는 격차와 AI 실패 빈도에 비례하여 기술을 구축한다 (학습은 AI가 작동하면서 동시에 가끔 실패할 때 가장 활발히 일어난다).
• 임금: 기술의 볼록 함수인 $W(s)$로서 시장 청산 방식으로 모델링된다. 기업은 급여를 통해 차별화할 수 없으며, 오직 직무 설계(참여)를 통해서만 차별화할 수 있다.
• 이동성: 로짓 선택(logit choice) 프레임워크를 통해 모델링된다. 노동자들은 각 기업의 참여 정책이 제공하는 기대 미래 기술 궤적(및 그에 따른 미래 임금)을 바탕으로 두 개의 ex-ante 동일한 기업 사이에서 분류(sorting)된다. 매개변수 $\eta$는 분류 마찰을 나타낸다.

분석 접근 방식

1. 단일 기업 벤치마크: 저자들은 먼저 (이동성이 없는) 독점 상황에서의 최적 참여 정책을 구한다. 여기서 기업은 오직 백업 동기: 즉, 2기 기간에 AI가 실패할 때를 대비해 기술을 보존하는 것에만 관심을 둔다.
2. 두 기업 간 이동성: 저자들은 노동자가 기술 궤적에 따라 분류되는 두 번째 기업을 도입한다. 저자들은 다음을 구분하여 참여 게임의 내쉬 균형을 분석한다:
   • 종료 기간 (Period 2): 백업 동기가 사라지며, 참여는 순수하게 노동자를 유인하기 위한 목적이 된다.
   • 초기 기간 (Period 1): 참여는 현재의 산출량 손실, 미래의 백업 가치, 그리고 분류 우위를 균형 있게 고려한다.
3. 비교 정학(Comparative Statics): 모델은 AI 역량($\alpha$)과 신뢰도($\pi$)의 변화가 참여 수준과 타겟 기술 집단에 어떻게 영향을 미치는지 분석한다.

주요 기여

본 논문은 세 가지 주요 이론적 기여를 한다:

1. 참여 역전(The Engagement Reversal): 본 논문은 노동 시장의 이동성에 따라 기업이 어떤 노동자를 가장 많이 참여시키는지에 대한 근본적인 변화를 식별한다.
   • 이동성이 없을 때: 기업은 가장 숙련도가 낮은 노동자를 가장 많이 참여시킨다. 이들은 메워야 할 기술 격차가 가장 크기 때문에, 단위 참여당 구축 비용이 가장 저렴한 "백업" 역량을 형성한다.
   • 이동성이 있을 때: 기업은 가장 숙련된(그러나 여전히 벤치마크 미달인) 노동자를 가장 많이 참여시킨다. 이들은 AI 프런티어에 가장 가까워 참여 비용(산출량 격차)이 적으며, 결과적인 기술 궤적이 이동하는 노동자를 유인하는 데 가장 가치가 높다.
2. AI 발전 차원의 분리: 본 논문은 역량과 신뢰도가 서로 다른, 때로는 상충하는 채널을 통해 참여에 영향을 미친다는 점을 보여준다. 이는 AI의 발전을 하나의 지표로 취급할 때 흔히 발생하는 오류를 바로잡는다.
   • 역량: 이동성 하에서, 높은 역량은 참여를 높인다. 왜냐하면 더 높은 역량의 AI는 기업이 노동자에게 제공할 수 있는 기술 격차를 넓혀, 직업의 가치 제안을 강화하기 때문이다.
   • 신뢰도: 효과는 비단조적(non-monotone)이다. 높은 신뢰도는 백업의 필요성을 줄여 참여를 낮추기도 하지만, 학습을 위한 "연습" 기회 또한 줄인다. 참여는 중간 정도의 신뢰도에서 가장 높게 나타나는데, 이는 시스템이 유용할 만큼 충분히 작동하면서도, 인간의 연습을 요구하고 보상할 만큼은 적절히 실패하기 때문이다.
3. 전문화와 무임승차(Specialization and Free-Riding): 모델은 이동성 하에서 ex-ante 동일한 기업들이 내생적으로 전문화될 수 있음을 보여준다. 한 기업은 "기술 구축자(skill-builder)"(노동자를 유인하기 위해 참여함)가 될 수 있고, 다른 기업은 "무임승차자(free-rider)"(비용을 절감하기 위해 참여를 줄이고, 첫 번째 기업이 구축한 기술을 공유된 노동 풀을 통해 활용함)가 될 수 있다. 이러한 전문화는 무임승차자가 구축자보다 더 많은 수익을 올리는 비대칭적 균형으로 이어질 수 있다.

주요 결과

1. 단일 기업 벤치마크 (백업 동기)

이동성이 없는 경우, 기업은 특정 목표 기술 수준($s^*$)을 목표로 한다.

• 타겟팅 규칙: 기업은 $s^*$에 도달할 만큼만 노동자를 참여시킨다.
• 기술 기울기(Skill Gradient): 참여는 초기 기술에 대해 **비증가(non-increasing)**한다. 기업은 가장 낮은 기술을 가진 노동자에게는 최대한 참여시키고(성장 여력이 크고 임금 비용이 낮음), 가장 높은 기술을 가진 노동자에게는 참여를 줄인다(이미 목표치에 가깝거나 유지 비용이 너무 높음).
• AI 신뢰도: AI가 더 신뢰할 수 있게 될수록($\pi_2 \to 0$), 백업의 가치는 감소하며 기업은 참여를 줄인다. AI 역량($\alpha_2$)은 이 설정에서 참여에 영향을 주지 않는데, 이는 기업이 AI가 실패할 때만 인간의 기술을 가치 있게 여기기 때문이다.

2. 노동자 이동성과 선별 동기

노동자가 기업 간에 이동할 수 있는 경우:

• 타겟팅의 역전: 기업은 참여를 더 높은 숙련도를 가진 노동자 쪽으로 전환한다.
  • 이유: 벤치마크 미달 노동자의 경우, 참여의 비용은 손실되는 산출량 격차($\alpha - s$)이다. 이 격차는 고숙련 노동자에게서 더 작다. 동시에, 볼록한 임금 구조 하에서 고숙련 노동자에게 기술 궤적의 가치는 더 높다.
• 참여의 역전: 기업의 조절 레버(참여)는 동일하지만, 타겟 인구가 뒤바뀐다. 즉, 기술 분포의 하단에서 상단으로 타겟이 이동한다.
• 타이밍의 역전: 이동성은 참여의 타이밍을 역전시킬 수 있다. 기업은 비용 절감을 위해 1기에는 참여를 줄였다가, 노동자를 유인하기 위해 2기에는 완전히 참여시킬 수 있다. 반면 단일 기업은 백업 역량을 구축하기 위해 조기에 참여시킬 것이다.

3. AI 발전에 대한 비교 정학

• 역량 ($\alpha$): 이동성 하에서, AI 역량의 증가는 참여를 높인다. 더 유능한 AI는 더 큰 성능 격차를 만들어내어, 기업이 제공하는 기술 궤적을 노동자에게 더욱 가치 있게 만든다.
• 신뢰도 ($\pi$): 이동성 하에서, 관계는 **종 모양(hump-shaped)**을 띤다.
  • 신뢰도가 매우 높으면, 참여가 낮다 (백업 필요성 감소, 학습 기회 감소).
  • 신뢰도가 매우 낮으면, 참여가 낮다 (잦은 실패가 현재의 마진을 너무 빠르게 갉아먹음).
  • 참여는 중간 정도의 신뢰도에서 정점에 달한다. 이때 시스템은 생산적일 만큼 신뢰할 수 있으면서도, 가치 있는 학습 기회를 제공할 만큼은 불확실하다.

4. 비대칭적 전문화

두 기업 간의 게임에서, 만약 "기술 스필오버(skill spillover, 노동자가 다른 기업으로 이동하는 것)"가 참여 비용에 비해 강하다면, 기업들은 다음과 같이 나뉠 수 있다:

• 기술 구축자 (Skill-Builder): 고숙련 노동력을 구축하기 위해 완전히 참여한다.
• 무임승차자 (Free-Rider): 기술을 구축하는 비용을 피하면서, 공유된 노동 풀을 통해 구축된 기술을 활용하기 위해 완전히 참여를 줄인다.
  무임승차자는 기술 구축 비용을 피하면서도 결과적인 노동 풀에 접근함으로써 종종 더 높은 이익을 얻는다.

의의 및 주장

본 논문은 인간-AI 협업 설계를 이동하는 노동자의 기술을 형성하는 인적 자본 투자 문제로 다룬 최초의 분석 모델 중 하나라고 주장한다.

• 문제의 재구성: 저자들은 AI 보조 생산에서의 인간 참여가 단순히 최소화해야 할 운영 비용이 아니라, 이동 가능한 인적 자본에 대한 전략적 투자라고 주장한다.
• 정책적 시사점: 연구 결과는 기업이 단순히 AI 효율성을 극대화하기 위해 인간의 참여를 완전히 끌 수 없음을 시사한다. 그렇게 할 경우 AI 실패 시 필요한 백업 역량이 약화될 뿐만 아니라, 결정적으로 더 나은 기술 구축 궤적을 제공하는 경쟁사로 가장 가치 있는 노동자들을 빼앗길 수 있다.
• AI 발전에 대한 미묘한 차이: 논문은 AI의 발전을 단일 지표로 취급하는 것이 불충분함을 강조한다. 역량과 신뢰도의 구분은 노동자 참여 수준에 대한 상이한 전략적 대응을 이끌어낸다.
• 범위의 제한: 저자들은 본 모델이 2기 기간의 추상화라는 한계를 인정한다. 향-미래의 연구에서는 기술과 AI가 함께 진화하는 더 긴 기간을 탐구할 수 있음을 시사한다. 그러나 모델의 범위 내에서, 참여 역전과 신뢰도의 비단조적 효과에 대한 발견은 견고한 이론적 통찰로 제시된다.