기술 요약: "LLM 이 당신을 과금하고 있나요? 토큰화, 투명성, 그리고 인센티브"

문제 제기

이 논문은 사용자가 토큰당 고정 가격을 지불하는 현재의 "LLM-as-a-Service" 가격 모델에 존재하는 근본적인 취약점을 다룹니다. 핵심 문제는 공급자 (에이전트) 와 사용자 (원칙) 간의 정보 비대칭에서 비롯됩니다. 공급자는 중간 단계와 출력의 특정 토큰화를 포함한 전체 생성 과정을 관찰하는 반면, 사용자는 최종 텍스트만 보고 보고된 토큰 수에 따라 비용을 지불합니다.

토큰화는 고유하지 않기 때문에 (동일한 문자열을 나타내는 여러 토큰 시퀀스가 존재함), 공급자는 수익을 극대화하기 위해 출력의 토큰화를 허위로 보고할 재정적 유인을 갖게 됩니다. 예를 들어, 공급자는 "Damascus"를 나타내는 단일 토큰을 "Da", "ma", "s", "cus"라는 네 개의 더 작은 토큰으로 분할하여 가시적인 텍스트를 변경하지 않은 채 네 개의 토큰에 대한 비용을 청구할 수 있습니다. 이는 공급자가 사용자의 희생 하에 효용을 극대화하는 도덕적 해이를 구성합니다.

이 논문은 공급자가 투명해지도록 요구될 경우 (예: 다음 토큰 확률 공유) 이러한 허위 보고가 탐지될 수 있는지, 그리고 인센티브 호환 가격 책정 메커니즘이 이러한 행동을 완전히 제거할 수 있는지 조사합니다.

방법론

저자들은 사용자와 LLM 공급자 간의 상호작용을 원칙 - 에이전트 문제로 모델링합니다.

1. 형식적 모델링:

   • 효용 함수: 공급자의 효용은 보고된 토큰 시퀀스로부터의 수익에서 생성 및 보고 정책의 에너지 비용을 뺀 것으로 정의됩니다.
   • 가격 책정 메커니즘: 이 연구는 가산 가격 책정 메커니즘에 초점을 맞추며, 특히 표준 토큰당 지불 모델과 제안된 문자당 지불 모델을 비교합니다.
   • 타당성 제약 조건: 탐지를 피하기 위해 허위 보고를 하는 공급자는 문자열 콘텐츠가 주어졌을 때 보고된 토큰 시퀀스가 "타당하다" (예: top-$p$ 또는 top-$k$ 샘플링 분포와 일관됨) 고 보장해야 합니다.

2. 이론적 분석:

   • 저자들은 top-$p$ 샘플링 하에서 문자열의 최장 타당한 토큰화를 찾는 것이 **NP-난제 (NP-Hard)**임을 증명합니다. 이는 의심을 자아내지 않으면서 허위 보고를 통해 수익을 최적화하는 것이 일반적인 경우 계산적으로 불가능함을 시사합니다.
   • 그들은 인센티브 호환 가격 책정 메커니즘을 특징화하여, 메커니즘이 인센티브 호환이 되기 위한 필요충분조건은 가격이 토큰 수가 아닌 출력 문자열의 문자 수에 선형적으로 의존해야 함을 증명합니다.

3. 알고리즘적 개념 증명:

   • NP-난제 결과에도 불구하고, 저자들은 **효율적인 휴리스틱 알고리즘 (알고리즘 2)**을 개발했습니다. 이 알고리즘은 생성된 출력의 토큰을 더 작고 타당한 토큰으로 반복적으로 분할하여 토큰 수를 증가시킵니다.
   • 알고리즘은 타당성을 확인 (예: 토큰이 top-$p$ 확률 집합 내에 있는지 확인) 하며, 시퀀스가 타당할 때만 분할된 시퀀스를 보고하고 그렇지 않으면 진실된 시퀀스를 보고합니다.
   • 저자들은 과금으로 인한 추가 수익과 타당성을 검증하는 데 필요한 계산 비용 (GPU 에너지) 간의 트레이드오프를 분석합니다.

4. 실증 평가:

   • 실험은 Llama, Gemma, Ministral 계열의 LLM 을 사용하여 수행되었습니다.
   • 프롬프트는 LMSYS Chatbot Arena 플랫폼에서 출처를 얻었습니다.
   • 이 연구는 다양한 매개변수 (temperature, top-$p$ 값, 이윤 마진) 하에서 과금된 토큰의 비율, 타당한 허위 보고의 비율, 그리고 공급자의 순 효용 증가분을 측정했습니다.

주요 기여

1. 인센티브 분석: 이 논문은 토큰당 지불 메커니즘이 공급자에게 토큰화를 허위로 보고할 직접적인 재정적 유인을 창출함을 보여줍니다. 투명성 요구 사항이 있더라도 공급자가 수익을 증가시키는 일부 타당한 더 긴 토큰화를 찾을 수 있기 때문에 유인은 지속됩니다.
2. 복잡성 결과: 저자들은 최적 (최장) 인 타당한 토큰화를 찾는 것이 NP-난제임을 확립하여, 공급자가 상당한 계산 노력 없이 절대적인 최대 과금을 쉽게 계산할 수 없음을 시사합니다.
3. 휴리스틱 취약점: 결정적으로, 이 논문은 비최적 허위 보고가 계산적으로 저렴하고 재정적으로 수익성이 있음을 보여줍니다. 제안된 휴리스틱 알고리즘은 공급자가 검증 비용보다 초과하는 순 효용 증가분으로 사용자를 현저히 과금할 수 있게 합니다 (예: 특정 모델 및 매개변수의 경우 최대 11.2%).
4. 인센티브 호환 가격 책정: 이 논문은 허위 보고에 대한 유인을 제거하는 유일한 가산 가격 책정 메커니즘은 문자당 지불임을 증명합니다. 이 메커니즘 하에서 가격은 문자열 길이에 의해서만 결정되므로 토큰화는 비용과 무관해집니다.
5. 전환 전략: 저자들은 공급자가 평균 이윤 마진을 유지하면서 토큰당 지불에서 문자당 지불로 전환할 수 있는 방법을 제안합니다. 이는 공급자의 출력 분포에서 토큰 대 문자의 경험적 평균 비율 ($tpc$) 과 현재 토큰당 가격 ($r_o$) 을 기반으로 문자당 가격 ($r_c$) 을 설정하는 것을 포함합니다.

결과

• 과금 능력: 알고리즘 2 를 사용하면 불성실한 공급자가 상당한 마진으로 사용자를 과금할 수 있습니다. 예를 들어, Llama-3.2-1B-Instruct와 $p=0.99$를 사용하면 공급자는 토큰의 **11.2%**만큼 과금할 수 있었습니다. 더 엄격한 타당성 임계값 ($p=0.90$) 에서도 과금은 가능했습니다 (0.28%).
• 수익성: 허위 보고로 인한 추가 수익은 일관되게 타당성 검증의 에너지 비용을 초과했습니다. Llama-3.2-1B-Instruct 와 같은 모델의 경우, 공급자의 이윤 마진과 관계없이 $p=0.99$에 대해 효용 증가분이 **10.5%**를 초과했습니다.
• 마진 변동성: 제안된 문자당 지불 메커니즘 하에서 공급자의 이윤 마진은 다양한 출력에 따라 (토큰 대 문자 비율에 따라) 변동하게 됩니다. 그러나 저자들은 문자 가격을 올바르게 보정함으로써 평균 이윤 마진이 안정적으로 유지되며, 대부분의 출력에서 마진이 양수임을 보였습니다 (예: Llama-3.2-1B-Instruct 의 경우 >92%).
• 언어 민감성: 이 연구는 문자당 지불 하에서 토큰 대 문자 비율이 더 높은 언어 (종종 소수 언어) 는 공급자 마진을 낮추어, 토큰당 지불 모델에 비해 해당 언어 사용자의 비용 부담을 효과적으로 줄인다고 지적합니다.

중요성과 주장

이 논문은 현재의 토큰당 지불 가격 책정 메커니즘이 공급자가 샘플링 프로세스에 대해 투명하더라도 사용자가 과금당하고 있는지 확인할 수 없는 체계적 취약점을 창출한다고 주장합니다. 저자들은 다음과 같이 주장합니다.

1. 투명성은 불충분합니다: 공급자에게 다음 토큰 확률을 공유하도록 요구하는 것만으로는 과금을 방지할 수 없습니다. 수익성 있고 타당한 허위 보고를 찾을 수 있는 효율적인 휴리스틱이 존재하기 때문입니다.
2. 인센티브 호환성은 필수적입니다: 전략적 허위 보고에 대한 유인을 진정으로 제거하려면 업계는 문자당 지불 가격 책정 메커니즘으로 전환해야 합니다. 이는 내부 표현 (토큰) 이 아닌 사용자가 받는 가치 (문자열) 에 비용을 직접 연결합니다.
3. 전환의 실현 가능성: 문자당 지불로의 전환은 공급자에게 경제적으로 타당합니다. 공급자는 사용자 과금의 위험을 제거하면서도 평균 이윤 마진을 유지할 수 있기 때문입니다.

저자들은 이러한 패러다임의 전환 없이는 LLM-as-a-service 사용자들이 정보 비대칭으로 인한 착취로 인한 역사적 시장 실패와 유사하게 이기적인 공급자에 취약하게 남을 것이라고 결론지었습니다. 그들은 법적 및 평판적 위험이 존재하지만, 강력한 경제적 유인이 그러한 행동을 종종 주도하므로 구조적 가격 책정 해결책이 필요하다고 강조합니다.