Token Taxes: mitigating AGI's economic risks

이 논문은 AGI 가 초래할 수 있는 경제적 위험을 완화하기 위해 기존 컴퓨팅 거버넌스 인프라를 통해 집행 가능한 토큰 세금 (모델 추론 시 부과되는 사용량 기반 과세) 을 제안하고, 그 장단점 및 실행 방안을 논의합니다.

핵심

🌪️ 문제: "일하는 사람이 사라지면 세금은 누가 내나요?"

과거 산업혁명 때도 기계가 사람의 일을 빼앗아 가난이 심해졌던 적이 있습니다. 하지만 이번 AI 혁명은 훨씬 더 무섭습니다.

• 상황: AI 가 의사의 진단, 변호사의 소송, 공장의 생산까지 모든 일을 해냅니다.
• 위험: 사람들이 일할 곳이 사라지면, 정부가 걷을 수 있는 '소득세'도 사라집니다.
• 결과: 정부는 돈이 없어져서 국민을 돌볼 수 없게 되고, 국민은 정부에 영향력을 행사할 수 없는 '무력한 존재'가 됩니다. 마치 오일 (석유) 만 팔고 국민은 가난한 '자원 부국'처럼 되어버리는 것입니다.

💡 해결책: "사용할 때마다 내는 '통행료'"

저자들은 기존의 '로봇세 (회사가 로봇을 쓸 때 내는 세금)'는 부족하다고 봅니다. 대신 **AI 가 실제로 일을 할 때마다 내는 '토큰 세금'**을 제안합니다.

🍕 비유: 피자 배달비와 세금

기존의 로봇세는 **"피자 가게를 소유한 사람이 내는 세금"**이라면, 토큰 세금은 **"피자를 시켜서 먹은 사람이 내는 세금"**입니다.

1. 어떻게 작동하나요?

   • AI 를 사용할 때마다 '토큰 (데이터 조각)'을 사용합니다.
   • 이 토큰을 사용할 때마다 **사용료에 작은 세금 (예: 10%)**이 붙어서 정부로 들어갑니다.
   • 예시: AI 한 번 쓰는데 1 달러를 쓴다면, 0.1 달러는 세금으로 정부에 납부됩니다.

2. 왜 이것이 더 좋을까요? (두 가지 큰 장점)

   • 장점 1: 도둑질하기 어렵다 (강력한 감시)

     • AI 회사가 "우리는 토큰을 1 개만 썼어요"라고 거짓말을 하면 어떡하죠?
     • 이 논문은 **클라우드 제공업체 (구글, 아마존 같은 서버 회사)**를 '세금 감시관'으로 세웁니다.
     • 3 단계 감시 시스템:
       1. 블랙박스 감시: 서버가 "어떤 요청이 들어왔는지"만 보고 토큰 수를 세어봅니다.
       2. 평균 기준 (Norm): 회사가 거짓말을 하면, "보통 이 정도 일을 하면 토큰이 얼마나 쓰이는지" 평균치를 적용해 강제로 세금을 걷습니다.
       3. 화이트박스 감시: 그래도 의심되면 AI公司内部의 모든 기록을 열어보게 합니다.
     • 즉, 서버 회사가 정부를 대신해 세금을 걷고 감시하므로 AI 회사가 도망칠 수 없습니다.

   • 장점 2: 부의 불평등을 줄인다 (공정한 분배)

     • AI 기술은 미국이나 중국 같은 강대국에 집중되어 있습니다. 만약 'AI 회사'에 세금을 매기면, 그 돈은 강대국만 가져갑니다.
     • 하지만 **'사용하는 곳'**에 세금을 매기면 이야기가 달라집니다.
     • 비유: 미국에서 만든 피자가 한국에서 팔리면, 한국 정부가 그 피자를 먹는 한국인들에게서 세금을 걷는 것입니다.
     • 이렇게 하면 AI 기술을 가진 강대국뿐만 아니라, AI 를 사용하는 개발도상국도 세금을 받아 국민을 돌볼 수 있게 되어 세계 불평등이 줄어듭니다.

🛡️ 반대 의견과 대응 (걱정되는 점들)

저자들은 반대 의견도 고려했습니다.

1. "세금을 내면 AI 개발이 느려지겠지?"
   • 대응: 경제학자와 함께 컴퓨터 시뮬레이션 (에이전트 모델링) 을 돌려서, 세금을 얼마나 매겨야 혁신은 살리면서 세금도 걷을 수 있는지 정교하게 계산해야 합니다.
2. "컴퓨터 성능 (FLOP) 에 세금을 매기는 게 나을 수도 있지 않나?"
   • 대응: 둘은 서로 배타적이지 않습니다. "성능에 대한 세금"과 "사용량에 대한 세금"을 섞어서 쓰는 것이 가장 좋을 수도 있습니다.
3. "미국이나 중국 같은 AI 강대국이 반대하면 어떡하나요?"
   • 대응: 한 나라가 혼자 하면 강대국이 막을 수 있지만, 유럽 연합 (EU) 처럼 여러 나라가 뭉쳐서 (연합) 세금을 매기면 강대국도 거스를 수 없습니다. GDPR(개인정보보호법) 이 미국 반대에도 불구하고 유럽에서 성공한 것처럼요.

📝 결론

이 논문은 **"AI 가 모든 일을 해내는 세상이 오면, 우리는 '사용할 때마다' 세금을 내야 한다"**고 말합니다.

기존의 '로봇세'는 회사를 잡는 것이지만, **'토큰 세금'**은 AI 가 실제로 일하는 순간을 포착하여, 서버 회사가 감시하고, 전 세계가 공평하게 혜택을 보도록 만드는 똑똑한 방법입니다. 이를 통해 AI 시대에 정부가 국민을 돌볼 수 있는 돈을 확보하고, 빈부격차를 막을 수 있다는 것이 핵심입니다.

기술 요약

논문 개요

이 논문은 초지능 (AGI) 의 발전이 가져올 심각한 경제적 위험, 특히 정부 세수 감소, 생활 수준 하락, 시민의 권력 박탈 등을 분석하고, 이를 완화하기 위한 새로운 거버넌스 도구인 **'토큰세 (Token Tax)'**를 제안합니다. 저자들은 기존 로봇세 (Robot Tax) 논의의 한계를 지적하며, 토큰세만이 실행 가능하고 형평성 있는 해결책이 될 수 있음을 주장합니다.

---

1. 문제 정의 (Problem)

AGI 의 등장은 과거 산업혁명 (엔겔스의 정지, Engel's Pause) 보다 훨씬 더 심각한 경제적 불안정을 초래할 수 있습니다. 주요 위험 요소는 다음과 같습니다.

• 정부 재정 위기: AGI 가 인간 노동을 대체함에 따라 노동 소득세가 급감하고, 이는 정부의 주요 세원인 동시에 사회 안전망 재정을 위협합니다.
• 시민의 점진적 권력 상실 (Disempowerment): 정부가 세수를 위해 인간 노동에 의존하지 않게 되면, 시민의 필요에 반응할 유인이 사라집니다. 이는 자원 부국 (Rentier States) 에서 자원이 풍부한 국가가 국민을 소외시키는 '자원의 저주'와 유사한 현상을 초래할 수 있습니다.
• 글로벌 불평등 심화: 연산 능력 (Compute) 과 선진 AI 모델이 미국과 중국 등 '컴퓨팅 북 (Compute North)'에 집중되어 있어, '컴퓨팅 사우스 (Compute South)' 국가들은 AI 의 경제적 혜택을 누리지 못하고 불평등이 심화될 것입니다.

---

2. 방법론 및 제안된 솔루션 (Methodology & Proposed Solution)

저자는 **토큰세 (Token Tax)**를 AGI 경제적 위험에 대한 1 차 방어선으로 제안합니다.

토큰세의 정의 및 구조

• 정의: 모델 추론 (Inference) 시 판매 시점에 부과되는 사용량 기반 (Usage-based) 할증료입니다.
• 과세 방식: AI 모델 제공자가 청구하는 토큰 비용에 일정 비율 (예: 10%) 을 추가하여 정부에 직접 납부합니다. 이는 기존 로봇세 제안 (법인세 인상, 자동화 세금 등) 과 달리, 모델이 '호스팅'되는 곳이 아닌 '사용'되는 곳에서 가치를 포착합니다.

집행을 위한 3 단계 감사 파이프라인 (Staged Audit Pipeline)

AI 모델 제공자가 토큰 사용량을 은폐하여 세금을 회피하는 것을 방지하기 위해, 클라우드 컴퓨팅 제공자가 중개자 역할을 하며 다음 3 단계 감사를 수행하도록 제안합니다.

1. 1 단계: 블랙박스 토큰 감사 (Black-box Token Audits)
   • 클라우드 제공자가 메타데이터 (사용된 연산량, 워크로드 유형) 를 기반으로 토큰 사용량을 독립적으로 기록하고 검증합니다.
   • AI 실험실의 보고된 데이터와 클라우드 로그를 교차 검증하여 허위 보고를 차단합니다.
2. 2 단계: 규범 기반 세율 적용 (Norm-based Tax Rates)
   • 기업이 토큰 수치를 조작하여 이윤을 부풀리는 경우, 해당 모델 카테고리의 평균 토큰 사용량 (규범) 을 기준으로 세금을 부과합니다.
   • 이는 블랙박스 접근만으로도 가능하며, 기업이 세금을 회피할 수 있는 상한선을 설정합니다.
3. 3 단계: 화이트박스 감사 (White-box Audits)
   • 최종 단계로, 기업이 생성 과정에 대한 정보 (모델 내부 구조 등) 를 제 3 자 감사인에게 공개하도록 법적으로 강제합니다.
   • 이를 통해 토큰 수치를 정확히 확인할 수 있게 되어, 모든 조작이 불가능해집니다.

---

3. 주요 기여 및 장점 (Key Contributions & Advantages)

기존 로봇세 제안과 비교하여 토큰세가 가지는 두 가지 독보적인 장점을 강조합니다.

1. 실행 가능성 (Enforceability):
   • 기존에 존재하는 컴퓨팅 거버넌스 인프라 (클라우드 제공자) 를 활용하여 블랙박스 또는 화이트박스 방식으로 감사가 가능합니다. 이는 별도의 새로운 인프라 구축 없이도 즉시 적용 가능한 실행 메커니즘을 제공합니다.
2. 글로벌 불평등 완화 (Mitigation of Global Inequality):
   • 세금을 모델이 '호스팅'된 곳 (주로 미국, 중국 등) 이 아니라, 토큰이 '사용'된 곳 (전 세계 소비자 국가) 에서 부과합니다.
   • 이를 통해 컴퓨팅 사우스 국가들도 AI 사용에 따른 세수 혜택을 받을 수 있어, 글로벌 불평등을 완화하는 효과가 있습니다.

---

4. 대안적 관점 및 논의 (Alternative Views & Discussion)

저자는 토큰세에 대한 주요 반론과 대안을 검토하고 대응책을 제시합니다.

• 혁신 저해 우려 (Disincentivize Innovation):
  • 반론: 세금이 혁신을 억제하거나 기업들이 조세 회피처로 이동할 수 있음.
  • 대응: **에이전트 기반 모델링 (Agent-Based Modeling, ABM)**을 활용하여 다양한 AGI 성장 시나리오 하에서 토큰세의 시장 영향을 정량적으로 예측해야 함을 제안합니다.
• FLOP 세 (FLOP Tax) 의 우위:
  • 대안: 연산 단위 (FLOP) 에 직접 부과하는 세금이 더 적합하다는 주장.
  • 대응: 토큰세와 FLOP 세는 상호 배타적이지 않으며, FLOP 세의 집행 장점과 토큰세의 소비 기반 형평성 장점을 결합한 하이브리드 접근법이 최적의 정책 프레임워크가 될 수 있음을 인정합니다.
• AI 강국의 거부권 (AI Superpowers Veto):
  • 위협: 미국과 중국 같은 AI 강국이 소국들의 토큰세 도입을 경제/외교적 힘으로 차단할 수 있음.
  • 대응: 개별 국가의 일방적 조치가 아닌, **의지 있는 국가들의 연합 (Coalition of the willing)**을 통한 지역적 합의 (예: EU 의 GDPR, AI Act 사례) 를 통해 거부권을 무력화해야 함을 주장합니다.

---

5. 결과 및 의의 (Results & Significance)

• 결과: 이 논문은 구체적인 실행 로드맵 (3 단계 감사 파이프라인) 과 정책적 대안을 제시함으로써, AGI 의 경제적 위험을 이론적 차원을 넘어 실질적인 거버넌스 도구로 다룰 수 있음을 보여줍니다.
• 의의:
  • 거버넌스 패러다임 전환: AI 안전 연구가 주로 '능력 (Capability)' 위험에 집중해 온 반면, '경제적 위험'에 대한 체계적인 대응책을 제시했습니다.
  • 형평성 있는 과세: 기술의 편재성을 고려하여, AI 의 경제적 편익이 전 세계적으로 공정하게 분배되도록 하는 세제 구조를 제안했습니다.
  • 실용적 접근: 기존 인프라를 활용한 실행 가능한 감사 메커니즘을 제안하여, 정책 입안자와 기술 거버넌스 연구자들에게 구체적인 행동 지침을 제공합니다.

결론

이 논문은 AGI 시대에 인간 노동의 가치 하락과 재정 위기를 막기 위해, 사용량 기반의 토큰세를 도입하고 클라우드 인프라를 활용한 엄격한 감사 시스템을 구축해야 한다고 강력히 주장합니다. 이는 단순한 세금 부과를 넘어, AGI 시대의 경제적 불평등과 시민의 권력 상실을 방지하는 핵심 거버넌스 장치로 기능할 것입니다.