Commitment To Cooperation With Self-Negotiated Contracts
이 논문은 AI 에이전트가 법적 제도에서 영감을 얻은 자기 협상 계약을 활용하여 신뢰할 수 있는 약속을 이행함으로써, 표준적인 거래에 비해 우수한 협력적 결과를 달성하고 다중 에이전트 환경에서의 협력 과제를 극복할 수 있음을 입증한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
당신의 토스터, 자동차, 그리고 은행 계좌가 모두 스스로 결정을 내리고 서로 대화할 수 있는 작은 두뇌를 가진 세상을 상상해 보십시오. 이것이 인공지능의 최전선, 구체적으로는 '다중 에이전트 시스템(multi-agent systems)'에 관한 연구입니다. 이 디지털 생태계에서 AI 에이전트들은 마치 자신을 위해 일을 완수하려는 독립적인 직원이나 이웃과 같습니다. 하지만 여기에는 함정이 있습니다. 인간과 마찬가지로, 이 디지털 이웃들은 종종 '죄수의 딜레마(prisoner's dilemma)'라고 불리는 까다로운 문제에 직면한다는 것입니다. 이는 두 사람이 서로를 도움으로써 둘 다 크게 승리할 수 있음에도 불구하고, 각자가 이기적으로 행동하여 지름길을 택하려다 결국 모두를 해치게 되는 전형적인 상황을 말합니다. 연구자들이 던지는 핵심 질문은 이것입니다: 어떻게 하면 인간 상사가 옆에서 감시하지 않아도, 이 이기적인 AI 에이전트들이 실제로 서로를 신뢰하고 협력하게 만들 수 있을 것인가? 그 답은 우리가 수천 년 동안 사용해 온 무언가, 바로 '계약'에 있을지도 모릅니다.
"자기 협상 계약을 통한 협력에 대한 약속(Commitment To Cooperation With Self-Negotiated Contracts)"이라는 제목의 이 논문은 AI 에이전트들이 스스로 거래를 만들고 지킬 수 있는지 테스트하기 위해 CT-Bench라는 디지털 놀이터를 탐구합니다. CT-Bench를 4x4 격자 위에서 펼쳐지는 고도의 심리전이 가미된 보드게임이라고 생각해보십시오. '레드(Red)'와 '블루(Blue)'라는 두 플레이어는 왼쪽 상단 모서리에서 시작하여 오른쪽 하단 모서리로 달려가야 합니다. 이동하려면 자신이 착륙한 칸의 색상과 일치하는 색상의 칩을 지불해야 합니다. 반전은, 레드는 빨간색 칩 더미를 가지고 시작하지만 파란색 칩은 없고, 블루는 그 반대라는 점입니다. 승리하기 위해서 그들은 반드시 거래를 해야만 합니다. 하지만 상황은 더 복잡해집니다. 때때로 한 플레이어가 혼자서 모든 것을 얻을 수도 있는 반면, 다른 플레이어는 도움 없이는 아무것도 할 수 없는 상태가 될 수도 있습니다. 이는 강한 플레이어가 "난 네가 필요 없으니 칩을 주지 않겠다"라고 말하며 상대방을 고립시킬 수 있는 권력 불균형을 만들어냅니다.
연구자들은 챗봇의 기반이 되는 기술인 거대 언어 모델(LLM)로 구동되는 이 AI 에이전트들이 이 문제를 스스로 해결할 수 있는지 알아보고자 했습니다. 그들은 게임을 세 가지 방식으로 설정했습니다. 첫째, 게임의 규칙 외에는 아무런 규칙이 없는 경우, 둘째, 나중에 서로 돕기로 약속하는 '악수(handshake)' 형태의 합의가 있는 경우, 셋째, 디지털 법처럼 작동하는 공식적인 서면 계약이 있는 경우입니다. 그들은 규모가 크고 강력한 모델부터 작고 빠른 모델에 이르기까지 6가지의 서로 다른 AI 모델을 테스트하며 그들이 어떻게 협상하는지 관찰했습니다.
결과는 매우 흥상적이었습니다. 에이전트들이 단순히 "악수"를 하거나 모호한 약속을 하는 상태로 남겨졌을 때, 그들은 약속을 어기는 경우가 많았습니다. 이는 마치 선생님이 보고 있지 않을 때 사탕을 나누겠다고 약속해놓고 결국 혼자 다 먹어버리는 아이들과 같았습니다. 에이전트들은 서로 돕기로 동의했지만, 실제로 칩을 건네야 할 때가 되면 약속을 지키지 못하고 물러섰습니다. 그러나 연구진이 공식 계약을 도입했을 때, 즉 그들의 대화를 엄격한 컴퓨터 판독 가능 코드로 변환했을 때, 게임의 양상이 바뀌었습니다. 이러한 "프로그래밍 방식의 거래(Programmatic Trading)" 계약은 구속력 있는 규칙처럼 작동했습니다. 만약 계약서에 "내가 너에게 파란색 칩 하나를 준다"라고 명시되어 있다면, 주는 이에게 칩이 있는 한 시스템이 자동으로 이전을 실행했습니다. 만약 주는 이에게 칩이 없다면, 그 즉시 0점으로 처벌받아 약속 이행 실패에 대한 대가를 치르게 했습니다.
이 연구는 자기 협상 계약이 특히 한쪽 플레이어가 고립된 불공정한 시나리오에서 게임 체인저가 된다는 것을 발견했습니다. "계약이 없는" 버전에서는 고립된 플레이어가 목표에 도달하지 못하는 경우가 많았습니다. 하지만 공식 계약을 통해서는 에이전트들이 효과적으로 거래하는 방법을 터득했으며, 약한 플레이어가 결승선에 도달하는 빈도가 훨씬 높아졌습니다. 흥미롭게도 계약의 유형이 중요했습니다. 평범한 영어로 작성된 계약(마치 일상적인 메모처럼)은 AI가 혼란을 느끼거나 모호한 문구를 핑계 삼아 계약을 깨뜨릴 수 있기 때문에 덜 효과적이었습니다. 하지만 코드로 변환되는 계약은 매우 견고했습니다.
이 논문은 AI 에이전트들이 대화 능력은 향상되고 있지만, 여록 까다로운 '신뢰'의 문제에서는 여전히 어려움을 겪고 있다고 시사합니다. 그들은 단순히 예의 바른 "약속합니다"라는 말에 의존할 수 없습니다. 그들에게는 그 약속을 구속력 있는 규칙으로 바꾸는 시스템이 필요합니다. 저자들은 AI가 교통 관리, 자원 거래, 또는 팀워크 등 현실 세계에서 진정으로 협력하기 위해서는, 스스로 디지털 계약을 작성하고 집행할 수 있는 능력을 부여해야 할지도 모른다고 결론짓습니다. 이는 그들을 더 착하게 만드는 것이 아니라, 약속을 지키는 것이 승리하는 유일한 방법이 되도록 구조를 제공하는 것에 관한 것입니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.