Operating-Layer Controls for Onchain Language-Model Agents Under Real Capital
본 논문은 온체인 시장에서 실제 자본을 관리하는 신뢰할 수 있는 자율 언어 모델 에이전트의 성공이 기본 모델의 능력보다는 타입화된 제어, 정책 검증, 실행 가드 등을 갖춘 견고한 운영 레이어에 더 의존하며, 이러한 요소들이 위조된 거래 규칙과 같은 치명적 실패를 줄이고 대규모 21 일 배포 전반에 걸쳐 높은 정산 성공률을 가능하게 했음을 보여줍니다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
매우 지능적이지만 약간 문자 그대로의 사고방식을 가진 로봇 셰프를 식당 운영에 고용한다고 상상해 보세요. 셰프에게 메뉴와 예산 (당신의 "명령") 을 주고 "맛있는 음식을 만들고 돈을 낭비하지 마세요"라고 말합니다.
과거 연구자들은 이러한 로봇 셰프들을 시뮬레이션에서 테스트했습니다. 가짜 메뉴와 가짜 돈을 준 것이죠. 셰프들은 서류상으로는 훌륭해 보였습니다. 하지만 이 논문은 그들이 실제 돈과 실제 고객을 상대로 21 일간 실제로 식당을 운영했을 때 무슨 일이 일어났는지 설명합니다.
여기는 간단한 비유를 통해 그들이 발견한 이야기입니다.
큰 발견: 셰프의 두뇌가 문제가 아닙니다
팀은 단순히 더 "똑똑한" 로봇 셰프 (더 강력한 AI 모델) 를 고용하면 식당이 완벽하게 운영될 것이라고 예상했습니다. 그들은 틀렸습니다.
그들은 식당의 신뢰성이 셰프의 두뇌 단독에서 온 것이 아니라 셰프를 둘러싼 주방 관리 시스템에서 왔음을 발견했습니다. 그들은 이를 "운영 계층 (Operating Layer)"이라고 부릅니다.
이렇게 생각해보세요:
- 모델 (셰프): 레시피를 읽고 야채를 다질 수 있습니다.
- 운영 계층 (주방 관리자): 재료가 신선한지 확인하고, 셰프가 음식을 버리는 것을 막으며, 셰프가 실수로 부엌에 불을 지르는 것을 방지하고, 청구서가 고객이 주문한 것과 일치하는지 확인합니다.
이 논문은 AI 가 실제 돈을 다룰 수 있게 하려면 더 똑똑한 셰프가 아니라 매우 엄격한 주방 관리자가 필요하다고 주장합니다.
실험: "DX 터미널 프로 (DX Terminal Pro)"
팀은 DX 터미널 프로라는 현실 세계 테스트를 설정했습니다.
- 설정: 3,505 명이 자신의 실제 돈 (ETH) 을 "금고"에 넣었습니다.
- 규칙: 인간은 "위험을 감수하라" 또는 "안전하라"와 같은 규칙을 설정할 수 있었지만, 돈을 직접 건드릴 수는 없었습니다. 오직 AI 에이전트만이 토큰을 사고팔 수 있었습니다.
- 위험 요소: AI 가 거래를 할 때마다 수수료 (거래당 2.3%) 로 실제 돈이 나갔습니다. AI 가 실수를 하면 실제 돈이 사라졌습니다.
- 규모: AI 는 약 2 천만 달러 상당의 암호화폐를 거래하며 750 만 건의 결정을 내렸습니다.
"주방 악몽" (실패 모드)
실제 이벤트 전에 팀은 테스트를 진행했고 AI 셰프들이 혼란을 겪는 다섯 가지 구체적인 방식을 발견했습니다. 그들은 셰프를 해고하는 대신 "주방 관리자" 규칙을 변경하여 이를 수정했습니다.
"가짜 규칙" 문제 (규칙 조작):
- 결함: AI 는 존재하지 않는 규칙을 만들어냈습니다. 예를 들어, "규칙 #2 에 따르면 팔아야 하므로 팔아야 한다"고 말했지만, 그러한 규칙은 존재하지 않았습니다.
- 해결: 그들은 AI 에게 "법을 만들어내지 마라. 적혀 있는 것을 보지 못했다면 그것은 규칙이 아니다"라고 말했습니다.
- 결과: 가짜 규칙이 결정의 57% 에서 3% 로 감소했습니다.
"수수료 마비" 문제:
- 결함: AI 는 2.3% 수수료를 보고 너무 두려워져서 좋은 기회일지라도 거래를 전혀 하지 않았습니다. 마치 난로를 켜는 데 돈이 든다는 이유로 셰프가 요리를 거부하는 것과 같았습니다.
- 해결: 그들은 수수료 경고를 지침의 끝으로, 시장 기회 바로 뒤에 옮겼습니다. 그들은 AI 에게 "네, 수수료가 있지만 이 거래가 왜 가치 있는지 보라"고 가르쳤습니다.
- 결과: AI 는 얼어붙는 것을 멈추고 다시 거래하기 시작했습니다.
"수학 혼란" 문제 (숫자 경직화):
- 결함: AI 는 부드러운 제안을 경직된 법으로 취급했습니다. "약 33% 를 쓰려고 노력하라"고 말하면 AI 는 그것이 말이 되지 않을 때조차 매번 정확히 33% 를 맞추려고 집착했습니다.
- 해결: 그들은 정확한 숫자 사용을 중단하고 비교를 사용했습니다 (예: "시장이 뜨거울 때 더 쓰라").
- 결과: AI 는 더 자연스럽게 행동하고 덜 로봇처럼 행동하기 시작했습니다.
"토큰 함정" 문제 (토크노믹스 오독):
- 결함: 한 토큰의 가격이 폭락했습니다. AI 는 폭락을 보고 모든 것을 즉시 매도했는데, 가격 하락 시에도 보유자에게 지급되는 특별한 규칙이 있음을 깨닫지 못했습니다. 마치 쿠폰이 여전히 유효하다는 사실을 깨닫지 못한 채 스토어가 로고를 바꿨다는 이유만으로 쿠폰을 파는 것과 같았습니다.
- 해결: 그들은 가격 폭락을 보여주기 전에 AI 에게 특별한 지급 규칙에 대한 명확하고 구조화된 설명을 제공했습니다.
- 결과: AI 는 당황하는 것을 멈추고 더 똑똑한 결정을 내렸습니다.
"시계 관찰자" 문제 (리듬 거래):
- 결함: AI 는 "마지막 거래 후 10 분이 지났다"는 이유만으로 시장을 무시하고 거래하기 시작했습니다. 마치 재료가 다질 필요가 있어서가 아니라 시계가 시간이 되었다고 말했기 때문에 셰프가 야채를 다지는 것과 같았습니다.
- 해결: 그들은 AI 에게 시계를 무시하고 시장 신호에만 기반하여 거래하도록 지시했습니다.
결과: 더 나은 식당
"주방 관리자 (운영 계층)"를 수정한 후 시스템은 놀라울 정도로 잘 작동했습니다:
- 99.9% 성공률: AI 가 시도한 거의 모든 거래가 유효하여 처리되었습니다.
- 실제 행동: AI 는 단순히 명령을 따르는 것이 아니라 시장에 반응했습니다. 때로는 한 AI 가 좋은 거래를 발견하면 수백 개의 다른 AI 도 그것을 보고 동시에 매수했습니다 (실제 인간들이 하는 것처럼 "군집" 효과).
- 더 나은 지침: 슬라이더와 체크박스를 사용하여 명확하고 구체적인 지침을 준 사용자는 "나를 부자로 만들어라"와 같은 모호한 메모만 쓴 사용자들보다 더 좋은 결과를 얻었습니다.
주요 교훈
이 논문은 AI 가 실제 돈을 다룰 수 있게 하려면 더 똑똑한 AI 모델을 찾는 것만으로는 안 된다고 결론 내립니다.
당신은 그것을 둘러싼 더 나은 시스템을 구축해야 합니다. 당신은 다음이 필요합니다:
- 인간의 소망을 명확하고 구조화된 규칙으로 번역합니다.
- AI 가 한 푼도 쓰기 전에 AI 의 작업을 확인합니다.
- 문제가 발생했을 때 정확히 무엇이 잘못되었는지 파악할 수 있도록 모든 생각, 결정, 거래의 완벽한 기록을 유지합니다.
"운영 계층"은 혼란스럽지만 똑똑한 로봇을 신뢰할 수 있는 금융 에이전트로 바꾸는 안전망입니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.