Introducing Grounding into the Agentic Design Loop: An Exploratory Review of an Unclaimed Problem
이 탐색적 검토는 수천 편의 논문을 스크리닝하여 LLM이 생성한 설계가 제작 전 실제 세계의 제약 조건에 부합하는지 검증할 메커니즘이 결정적으로 결여되어 있다는 미해결 문제인 "설계 접지(Design Grounding)"를 식별하고 통합하며, 이 문제가 인접 분야들에 파편화되어 존재함을 밝혀낸다.
원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
컴퓨터가 단순히 지시를 따르는 것을 넘어 새로운 것의 설계도를 그리기 시작하는 세상을 상상해 보십시오. 컴퓨터는 이메일을 분류하거나 게임을 하는 것과 같은 단순한 작업을 넘어, 컴퓨터 칩의 구조, 과학 실험의 워크플로우, 소프트웨어의 구조와 같은 복잡한 시스템을 설계하기 시작했습니다. 이러한 변화를 "에이전틱 디자인(agentic design)"이라고 부릅니다. 이 새로운 역할에서 컴퓨터는 단순히 무엇을 어떻게 만들지를 결정하는 것이 아니라, 무엇을 만들 것인지 자체를 결정하는 건축가 역할을 수행합니다. 그러나 이 과정에는 위험한 간극이 존재합니다. 인간 건축가가 집을 설계할 때는 현장을 방문하여 지면을 측정하고 지역 날씨를 확인합니다. 그들은 벽돌을 한 장 쌓기도 전에 자신의 계획이 실제 세상에 부합하는지 확인합니다. 반면 컴퓨터가 시스템을 설계할 때, 그것은 종종 진공 상태에서 작업합니다. 컴퓨터는 내부 논리상으로는 완벽해 보이는 계획을 만들어내지만, 그 시스템이 생존해야 할 현실을 단 한 번도 접해본 적이 없습니다. 만약 컴퓨터의 계획에 결함이 있다면, 그 오류는 시스템이 구축된 후에야 발견될 수 있으며, 그 시점에서는 이를 수정하는 것이 매우 비용이 많이 들거나 심지어 불가능할 수도 있습니다.
동지대학교(Tongji University)의 연구팀은 이 특정한 사각지대를 조사하기 위해 나섰습니다. 그들은 이 컴퓨터 에이전트들이 자신의 설계를 현실 세계와 대조하며 검증하고 있는지, 아니면 그저 공상 속에 성을 쌓고 있는 것인지를 알고 싶었습니다. 연구진은 이 누락된 연결 고리를 일컫는 용어를 만들었습니다: 바로 "디자인 그라운딩(design grounding)"입니다. 이는 컴퓨터의 내부 계획을 그것이 충족해야 하는 물리적 또는 운영적 현실과 연결하는 과정입니다. 연구진은 단순하지만 심오한 질문을 던졌습니다: 에이전트가 무언가를 설계할 때, 그것이 실제로 구축되기 전에 실제로 작동할 것인지 알 수 있는 방법이 있는가? 이 답을 찾기 위해 그들은 단 하나의 분야만을 살펴본 것이 아니라, 컴퓨터 과학, 공학, 로봇 공학 전반에 걸친 수천 편의 연구 논문을 훑으며 이 연결이 실제로 얼마나 자주 발생하는지 확인했습니다.
연구진은 에이전트가 시스템을 설계한 후 이를 현실 세계에서 테스트하는 논문을 찾기 위해 방대한 검색을 수행했습니다. 그들은 2020년부터 2026년 중반 사이에 발표된 거의 3,000편의 연구 논문을 조사했습니다. 그들은 이 논문들을 네 가지 그룹으로 분류했습니다: 에이전트가 테스트 없이 설계만 한 경우, 에이전트가 설계 없이 테스트만 한 경우, 둘 다 일어나지 않은 경우, 그리고 에이전트가 설계와 현실 세계에 대한 테스트를 모두 수행한 드문 경우입니다. 결과는 극명했습니다. 에이전트가 루프를 성공적으로 닫은 그룹, 즉 무언가를 설계하고 나서 그것을 현실과 대조하여 확인한 그룹은 가장 작았으며, 검토한 논문의 약 15분의 1에 불과했습니다. 더욱 말해주는 것은, 이 루프를 완성한 20편의 논문을 자세히 살펴보았을 때, 19편이 여전히 시뮬레이션을 통해 설계를 테스트하고 있었다는 점입니다. 그들은 실제 세상이 아니라 세상의 모델인 컴퓨터 시뮬레이션에 대해 자신들의 청사진을 확인하고 있었습니다. 전체 그룹 중에서 실제 측정값을 사용하여 설계를 검증한 논문은 단 한 편뿐이었습니다.
이 연구는 문제가 단순히 노력의 부족이 아니라 구조적인 문제임을 시사합니다. 에이전트가 설계하려는 대상은 아직 존재하지 않습니다. 다리는 건설되기 전에는 측정할 수 없으며, 새로운 컴퓨터 칩은 제조되기 전에는 테스트할 수 없습니다. 실제 대상이 부재하기 때문에, 에이전트는 예측, 시뮬레이션 또는 모델에 의존할 수밖에 없습니다. 이러한 도구들은 유용하지만, 현실과는 다릅니다. 연구진은 에이전트가 설계를 테스트하려고 할 때, 종종 자신이나 제작자가 테스트를 위해 특별히 만든 도구를 사용한다는 것을 발견했습니다. 이는 설계가 독립적이고 예측 불가능한 세상이 아니라, 통과하기 쉽게 만들어진 세상을 대상으로 검증되는 함정을 만듭니다. 이는 마치 학생이 직접 작성한 연습 시험을 치르는 것과 같습니다. 높은 점수를 받을 수는 있겠지만, 그것이 실제 시험을 치를 준비가 되었다는 것을 의미하지는 않습니다.
이러한 간극의 결과는 심각합니다. 공학에서 설계 단계 초기에 내려진 결정은 프로젝트의 최종 비용의 대부분을 결정합니다. 만약 시스템이 구축된 후에 결함이 발견된다면, 이를 수정하기 위해서는 이미 완료된 작업을 되돌려야 하므로 설계 단계에서 수정하는 것보다 10배 더 많은 비용이 들 수 있습니다. 물리적 칩이나 의료 기기와 같은 일부 경우에는 잘못된 설계를 수정할 수 없으며, 폐기해야 합니다. 이는 시간과 자원을 낭비하게 됩니다. 연구진은 "에이전틱 디자인" 분야가 매년 논문 수가 두 배씩 증가할 정도로 빠르게 성장하고 있지만, 이러한 설계를 현실에 접지(grounding)시키는 능력은 그 속도를 따라가지 못하고 있다는 것을 발견했습니다. 로봇 공학이나 소프트웨어 테스트와 같은 다른 분야에 존재하는 도구들이 에이전트가 설계, 테스트, 수정의 연속적인 사이클을 수행할 수 있도록 하는 단일 프로세스로 결합되지 않고 있습니다.
이 논문은 해결책이 단순히 더 나은 소프트웨어가 아니라, 우리가 이미 가지고 있는 도구들을 조립하는 새로운 방법이라고 결론짓습니다. 우리는 에이전트가 관찰하고, 독립적인 사실에 근거하여 아이디어를 검증하며, 실제 피드백을 바탕으로 계획을 수정하고, 결과를 측정할 수 있는 단일 루프 내에서 작동하는 시스템을 구축해야 합니다. 현재 이러한 요소들은 서로 다른 분야에 흩어져 있습니다. 로봇 공학에는 시뮬레이션에서 현실로 넘어가는 방법이 있고, 하드웨어 엔지니어들은 설계를 물리 법칙에 따라 검증하는 도구를 가지고 있지만, 누구도 이를 차세대 디자인 에이전트를 위한 하나의 과정으로 통합하지 못했습니다. 연구진은 이러한 연결이 이루어지지 않는 한, 에이전트가 미래를 설계할 것이라는 약속는 종이 위에서는 훌륭해 보이지만 실제 세상에서는 실패하는 것을 만들 위험에 의해 제한될 것이라고 주장합니다. 앞으로 나아갈 길은 에이전트의 디지털 정신과 그것이 형성하고자 하는 물리적 제약 사이의 다리를 놓는 것입니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.