인공지능이 급격히 진화하는 세상에서, 컴퓨터가 단순히 질문에 답하는 것을 넘어 업무를 수행하도록 요청받는 조용한 혁명이 일어나고 있습니다. 인간이 프롬프트를 입력하고 단일한 답변을 기다리는 대신, 우리는 복잡한 과업을 분해하고 스스로 결정을 내리며 단계를 실행할 수 있는 소프트웨어 프로그램인 자율 에이전트의 부상을 목격하고 있습니다. 법률 사무소가 AI에게 계약서 검토를 요청하거나, 소프트웨어 팀이 버그 수정을 요청하는 상황을 상상해 보십시오. 인간은 목표를 제공하지만, 기계는 그곳에 도달하는 방법을 결정합니다. 이러한 변화는 경제학자들이 수십 년 동안 연구해 온 새로운 종류의 관계, 즉 '본인-대리인(principal-agent)' 역학을 만들어냅니다. 이 구조에서 한 당사자인 본인은 다른 당사자인 대리인을 고용하여 과업을 수행하게 합니다. 문제는 본인이 대리인이 정확히 무엇을 하고 있는지 볼 수 없을 때 발생합니다. 만약 대리인이 수행한 작업량에 따라 보수를 받는다면, 대리인은 비용을 아끼기 위해 시간을 낭비하거나 가장 저렴하고 효과가 낮은 도구를 선택하여 본인에게 좋지 못한 결과를 남길 수 있습니다. 이러한 숨겨진 행동은 '도덕적 해이(moral hazard)'로 알려져 있으며, 이는 '작업자'가 서로 다른 지능 수준 사이에서 선택하고 문제에 대해 얼마나 깊이 생각할지를 결정할 수 있는 정교한 AI일 때 특히 까다로워집 수 있습니다.

워털루 대학교의 연구진은 이러한 신흥 영역에 뛰어들어, 어떻게 하면 이 자율 에이전트들에게 공정하고 효과적으로 비용을 지불할 수 있을지 연구했습니다. 그들은 AI 에이전트가 두 가지, 즉 어떤 거대 언어 모델을 '두뇌'로 사용할 것인지와 과업에 얼마나 많은 계산적 노력을 들일 것인지를 선택해야 하는 특정 시나리오에 집중했습니다. 모델들을 서로 다른 종류의 엔진이라고 생각해 보십시오. 어떤 모델은 작고 저렴하며 빠르지만 어려운 문제에는 고전할 수 있는 반면, 어떤 모델은 거대하고 비싸며 강력하지만 운영 비용이 엄청납니다. 또한 에이전트는 '노력'을 결정하는데, AI의 세계에서 노력은 문제를 해결하기 위해 생성하는 토큰(텍스트 단위)의 수를 의미합니다. 연구진은 에이전트가 더 많은 노력을 기울일수록 답변의 품질이 향상되지만, 그것도 일정 지점까지만 그렇다는 것을 발견했습니다. 양동이에 물을 채우는 것과 마찬가지로, 처음 몇 갤런의 물은 큰 차이를 만들지만, 어느 정도 지나면 물을 더 붓는다고 해서 양동이가 더 채워지지 않고 넘쳐버릴 뿐입니다. '포화 함수(saturating function)'라고 알려진 이 패턴은 더 많은 노력에 비용을 들이는 것이 결국 한계 효용 체감으로 이어진다는 것을 의미합니다.

연구의 핵심은 본인이 모든 움직임을 감시하지 않고도 에이전트가 올바른 선택을 하도록 유도하는 지불 계획, 즉 계약을 설계하는 것이었습니다. 연구진은 간단한 선형 계약을 제안했습니다. 에이전트는 최종 결과물의 가치 중 일정 비율을 가져갑니다. 결과가 좋으면 에이전트는 더 큰 파이를 받게 됩니다. 연구팀은 이 시스템하에서 에리전트가 더 저렴하고 약한 모델에서 더 비싸고 강력한 모델로 전환하는 시점이 보상 공유 비율이 특정 임계값을 넘을 때라는 것을 수학적으로 증명했습니다. 이 선 아래에서 에이전트는 비용을 절감하기 위해 저렴한 모델을 고수합니다. 이 선 위에서는 더 나은 결과를 얻을 가능성이 모델의 비용을 지불할 가치가 있게 만듭니다. 이 전환점은 무작위가 아닙니다. 이는 가용 가능한 모델들의 비용과 역량에 의해 결정되는 정밀한 수학적 경계입니다. 또한 연구진은 본인이 생산된 작업의 품질과 보상의 비용 사이에서 균형을 맞추며 자신의 이익을 극대화할 수 있는 완벽한 비율을 계산할 수 있음을 보여주었습니다.

이 이론이 실제 세계에서도 통하는지 확인하기 위해, 연구팀은 고등 수학과 복잡한 일반 상식 질문이라는 두 가지 어려운 과제에 실제 AI 모델을 사용하여 테스트했습니다. 그들은 에이전트가 더 많은 계산적 노력을 허용함에 따라 다양한 모델이 어떻게 수행되는지에 대한 데이터를 수집하여, 실제 성능을 이론적 곡선에 맞추었습니다. 그런 다음 에이전트와 인간 본인이 수천 번의 라운드에 걸쳐 상호작용하는 시뮬레이션을 설정했습니다. 에이전트는 다양한 지불 제안에 대해 어떤 모델과 노력 수준이 가장 적합한지 알아내기 위해 학습 알고리즘을 사용했고, 본인은 어떤 보상 비율이 최선의 결과를 낳는지 학습했습니다. 결과는 놀라웠습니다. 모델의 숨겨진 역량에 대한 사전 지식이 없는 상태에서 시작한 에이전트와 본인 모두, 결국 연구진의 이론적 예측과 거의 완벽하게 일치하는 전략으로 수렴했습니다. 에이전트는 수학이 제시한 정확한 지점에서 모델을 전환하는 법을 배웠고, 본인은 수익을 극대화하는 정확한 보상 비율을 제공하는 법을 배웠습니다.

또한 연구는 모델이 유용한 답변을 내놓기 전, 일정량의 노력을 먼저 투입해야 하는 '예열(warm-up)' 기간이 필요한 경우를 탐구했습니다. 이는 AI가 솔루션을 작성하기 전 일정 시간 동안 생각해야 하는 복잡한 추론 과업에서 흔히 나타나는 현상입니다. 연구진은 이러한 초기 비용이 수학적 계산을 약간 변화시켜, 더 강력한 모델로 전환하는 것이 가치가 있다고 판단되는 지점을 더 높게 밀어올린다는 것을 발견했습니다. 이러한 추가적인 복잡성에도 불구하고, 시뮬레이션의 학습 알고리즘은 여면 최적의 경로를 찾아냈으며, 이는 단순하고 투명한 계약이 복잡한 자율 시스템을 효율적인 행동으로 유도할 수 있음을 확인시켜 주었습니다. 이 연구는 AI 에이전트가 다른 AI 에이전트를 관리하는 미래로 나아갈 때, 그들을 정직하게 유지하기 위해 복잡하고 불투명한 시스템이 필요하지 않다는 점을 시사합니다. 결과의 품질에 기반한 명확한 합의만으로도 인간과 기계의 이해관관계를 일치시켜, 적절한 도구가 사용되고 적절한 양의 노력이 투입되도록 보장할 수 있습니다.

이 연구가 인공지능 경제학의 모든 문제를 해결했다고 주장하는 것은 아닙니다. 저자들은 자신들의 모델이 본인이 최종 결과를 쉽게 검증할 수 있다고 가정하고 있으며, 이것이 현실 세계에서는 항상 사실이 아닐 수 있다고 언급합니다. 또한 향후 연구에서 과업의 가치가 에이전트에게 숨겨져 있어 더 깊은 층위의 불확실성이 발생하는 상황을 탐구할 수 있다고 지적합니다. 그러나 이번 연구 결과는 자율적 위임의 시대에 거래를 구조화하는 방법에 대한 견고한 토대를 제공합니다. 기술의 선택과 노력의 배분을 하나의 통합된 결정으로 다룸으로써, 본 연구는 AI 에이전트가 인간의 지속적인 감독 없이도 효율적으로 일할 수 있는 시장을 구축하기 위한 명확한 경로를 제시합니다. 메시지는 조심스러운 낙관론입니다. 적절한 인센티브가 있다면, 인공지능이라는 복잡한 기계 장치를 우리를 위해서가 아니라 우리와 함께 작동하도록 유도할 수 있다는 것입니다.