A Taxonomy of Architecture Options for Foundation Model-based Agents: Analysis and Decision Model

지난 몇 년 동안, 단순히 질문에 답하는 것을 넘어 행동을 취하는 새로운 종류의 인공지능이 등장했습니다. 이들은 경직된 명령 목록을 따르는 단순한 프로그램이 아닙니다. 대신, 이들은 인간의 지식과 언어를 담은 거대한 도서관과 같으며 맥락을 이해하고 새로운 아이디어를 생성하도록 훈련된 거대한 '파운데이션 모델(foundation models)'을 기반으로 구축된 시스템입니다. 개발자들이 이 모델들을 웹을 탐색하거나, 코드를 작성하거나, 소프트웨어를 제어할 수 있는 도구들과 연결할 때, 그들은 '에이전트(agents)'를 만들어냅니다. 이 에이전트들은 인간 직원처럼 환경을 인지하고, 문제를 통해 추론하며, 일련의 단계를 계획하고, 목표를 달인하기 위해 행동할 수 있습니다. 복잡한 소프트웨어 프로젝트 관리에서부터 가상 세계를 탐험하는 것에 이르기까지, 이 시스템들은 우리가 일하는 방식을 혁신할 것을 약속합니다. 그러나 이 에이전트들이 점점 더 유능해짐에 따라, 이를 구축하는 엔지니어들의 방식은 여전히 혼란스러운 상태로 남아 있습니다. 공유된 언어나 명확한 선택의 지도가 없기 때문에, 설계자들은 서로 다른 부품들이 어떻게 맞물리는지, 그리고 어떤 절충안(trade-offs)을 만들어내는지에 대한 체계적인 이해보다는 추측에 근거하여 임시방편적으로 시스템을 조립하곤 합니다.

한 연구팀이 이러한 커지는 복잡성에 질서를 부여하기 위해 나섰습니다. 그들은 파운데이션 모델 기반의 에이전트들이 정확히 어떻게 구축되는지 이해하기 위해 66개의 과학적 연구를 검토하는 방대한 검토를 수행했습니다. 그들의 목표는 단순히 구성 요소를 나열하는 것이 아니라, 모든 설계 선택의 결과를 설명하는 구조화된 가이드를 만드는 것이었습니다. 그 결과물은 '분류 체계(taxonomy)'로, 이는 에이전트를 구축하는 다양한 방법들을 정리하는 상세한 분류 시스템입니다. 그들은 설계자들이 에이전트가 정보를 어떻게 받아들이는지, 과거의 사건을 어떻게 기억하는지, 행동을 어떻게 계획하는지, 그리고 다른 에이전트와 어떻게 협업하는지에 대해 근본적인 선택을 해야 한다는 것을 발견했습니다. 예를 들어, 에이전트는 혼자 작동하도록 설계될 수도 있고 팀의 일부로 작동할 수도 있으며, 보는 모든 것을 영원히 기억하거나 공간을 절약하기 위해 오래된 세부 사항을 잊도록 설계될 수도 있고, 하나의 직선 경로를 따라 목표를 향해 가거나 여러 가능한 경로를 동시에 탐색할 수도 있습니다.

연구진은 이러한 선택 중 하나하나가 비용을 수반한다는 것을 발견했습니다. 모든 면에서 뛰어난 완벽한 설계란 존재하지 않습니다. 만약 설계자가 매우 유연하고 예상치 못한 변화에 적응할 수 있는 시스템을 선택한다면, 그들은 종종 나중에 그 시스템을 쉽게 테스트하고 수정할 수 있는 능력을 희생하게 됩니다. 만약 컴퓨터가 처리하기에 빠른 메모리 시스템을 우선시한다면, 인간이 에이전트가 왜 특정 결정을 내렸는지 이해하는 것을 더 어렵게 만들 수 있습니다. 엔지니어들이 이러한 어려운 타협을 헤쳐나갈 수 있도록 돕기 위해, 연구팀은 '의사결정 모델(decision model)'을 구축했습니다. 이 모델은 지도처럼 작동하여, 하나의 건축적 옵션을 선택하는 것이 시스템의 신뢰성, 속도, 보안 및 사용 편의성에 어떻게 영향을 미치는지 정확히 보여줍니다. 이는 숨겨진 절충안을 가시화하여, 설계자가 절대 실패해서는 안 되는 시스템을 구축하든 혹은 즉석에서 배우고 적응할 수 있는 시스템을 구축하든, 자신의 구체적인 요구 사항에 부합하는 경로를 선택할 수 있게 해줍니다.

그들의 결과물이 유용하고 정확한지 확인하기 위해, 연구진은 대학과 주요 기술 기업 양쪽에서 온 12명의 전문가를 대상으로 그들의 프레임워크를 테스트했습니다. 복잡한 AI 시스템을 구축한 수년간의 경험을 가진 이 전문가들은 분류 체계와 의사결정 모델을 검토했습니다. 전문가들은 이 프레임워크가 에이전트의 필수적인 구성 요소를 성공적으로 포착했으며, 그 설계를 추론할 수 있는 명확하고 실용적인 방법을 제공한다고 동의했습니다. 그들은 이 모델이 에이전트의 자율성과 안전 및 예측 가능성 사이의 균형을 맞추는 것과 같이 이전에 혼란스러웠던 선택들을 명확히 하는 데 도움이 되었다고 평가했습니다. 이 연구는 이 분야가 무작위적인 실험에서 벗어나, 결정이 그 결과에 대한 명확한 이해를 바탕으로 내려지는 더 훈련된 공학적 접근 방식으로 이동하고 있음을 확인시켜 줍니다.

이 작업은 모든 문제를 해결했거나 에이전트를 구축하는 단 하나의 최선의 방법을 제공한다고 주장하는 것이 아닙니다. 대신, 차세대 설계를 위한 구조화된 토대를 제공합니다. 옵션의 지형을 정리하고 절충안을 명시적으로 매핑함으로써, 연구진은 설계자들에게 공통의 어휘와 엄격한 의사결정 방법을 제공했습니다. 이러한 변화는 이 분야가 고립된 실험들의 집합체에서 벗어나, 의도와 신뢰성, 그리고 한계에 대한 명확한 이해를 가지고 시스템을 설계할 수 있는 응집력 있는 학문으로 성숙해지도록 합니다. 이러한 지능형 시스템이 우리의 일상생활에 더 많이 통합됨에 따라, 그것들이 어떻게 구축되는지, 그리고 무엇을 할 수 있고 할 수 없는지에 대한 명확한 지도를 갖는 것은 강력하면서도 신뢰할 수 있는 기술을 만드는 데 필수적일 것입니다.