🤖 AI

SciToolAgent-Evo: An Ontology-Aware Self-Evolving Agent for Open-World Scientific Tool Acquisition

이 논문은 대조 학습(contrastive learning)과 LinUCB 기반의 탐색-활용(exploration-exploitation) 전략을 통해 개방형 환경에서 새로운 과학 도구를 동적으로 습득하고 통합하는 온톨로지 인식 자기 진화형 에이전트인 SciToolAgent-Evo를 소개하며, 이를 새로운 OpenSciToolBench 벤치마크를 통해 검증하였다.

원저자: Yuqi Tang, Chenyi Zhou, Libin Wang, Keyan Ding, Qiang Zhang, Huajun Chen

게시일 2026-08-03

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Yuqi Tang, Chenyi Zhou, Libin Wang, Keyan Ding, Qiang Zhang, Huajun Chen

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 천재적인 탐정이라고 상상해 보세요. 범죄를 해결하는 대신 과학적 미스터리를 해결하는 탐정 말이죠. 당신에게는 '분자 무게 측정기'나 '단백질 스캐너' 같은 도구들이 가득 담긴 거대하고 마법 같은 도구 상자가 있습니다. 옛날에는 사건을 해결해야 할 때, 이미 도구 상자에 들어 있는 도구들만 사용할 수 있었습니다. 만약 완벽한 도구가 그곳에 없다면, 설령 그 도구가 무엇을 해야 하는지 정확히 알고 있더라도 꼼짝달싹할 수 없었습니다. 이것이 오늘날 과학자들의 작업을 돕는 대부분의 컴퓨터 프로그램이 처한 상황입니다. 이들은 처음에 배운 고정된 도구 목록에 갇혀 있는 '닫힌 세계(closed world)'에 머물러 있습니다.

하지만 실제 과학은 무질서하고 개방적입니다. 때로는 문제를 해결하기 위해 한 번도 본 적 없는 도구가 필요할 때가 있습니다. 여기서 '에이전트(agent)'라는 개념이 등장합니다. 에이전트는 인간의 언어를 이해하고 추론하는 데 매우 뛰어난 AI의 일종인 대규모 언어 모델(LLM)로 구동되는 초스마트 로봇 조수라고 생각하면 됩니다. 이러한 에이전트들은 알려진 목록에서 적절한 도구를 선택하는 데는 능숙합니다. 하지만 목록이 불완전할 때는 어려움을 겪습니다. 그들은 "적절한 도구가 없으니, 새로운 것을 찾아야겠다"라고 말하거나, 다음에 다시 사용하기 위해 그 도구의 사용법을 배우는 법을 알지 못합니다. 큰 질문은 이것입니다. 단순히 도구를 고르는 것이 아니라, 인간 연구자처럼 스스로 새로운 도구를 찾아내고 학습할 수 있는 로봇 과학자를 만들 수 있을까요?

이것이 바로 SciToolAgent-Evo가 다루는 문제입니다. 저자들인 절강대학교(Zhejiang University) 팀은 스스로 진화하는 과학적 탐험가처럼 행동하는 새로운 종류의 AI 에이전트를 구축했습니다. 정적인 도구 상자에 갇혀 있는 대신, 이 에이전트는 과거의 성공과 실패를 기억하는 '성장하는 뇌'를 가지고 있습니다. 현재 가진 도구로 해결할 수 없는 과학적 과제에 직면했을 때, 이 에이전트는 포기하지 않습니다. 대신 적극적으로 새로운 도구를 찾아 나서고, 그것이 어떻게 작동하는지 파악한 뒤, 자신의 영구적인 컬렉션에 추가합니다.

이 "자기 진화형" 마법이 어떻게 작동하는지 간단한 단계별로 설명하겠습니다:

1. "진화하는 메모리" (에이전트의 뇌)
에이전트에게 특별한 노트가 있다고 상상해 보세요. 그 안에는 세 가지가 들어 있습니다:

기술 라이브러리(Skill Library): 일반적인 작업들을 위한 지름길 (예: "분자의 무게를 계산하는 방법").
경험 풀(Experience Pool): 무엇이 잘못되었고 다음에 어떻게 수정해야 하는지에 대한 기록 (예: "용기 없이 기체의 무게를 재려고 하지 마시오").
도구 지도(Tool Map): 도구들이 무엇을 하는지에 따라 정리된, 자신이 알고 있는 모든 도구의 지도.
에이전트가 문제를 해결할 때마다 이 노트를 업데이트합니다. 실패하면 왜 실패했는지 배웁니다. 새로운 도구로 성공하면, 다시는 추측하지 않도록 그 도구가 어떻게 작동하는지 정확하게 기록합니다.

2. "능동적 요청" (올바른 질문 던지기)
대부분의 AI 에이전트는 당신이 무엇을 하라고 말해주기를 기다립니다. 하지만 SciToolAgent-Evo는 다릅니다. 어려운 문제를 발견하면, 단순히 도구를 찾는 것에 그치지 않고 문제를 분해하여 "지금 당장 나에게 필요한 구체적인 '역량(capability)'은 무엇인가?"라고 스스로에게 묻습니다. 이를 통해 '도구 능력 목록(shopping list)'을 만듭니다. 이는 도구의 이름이 이상하거나 원래 목록에 없더라도 적절한 도구를 찾을 수 있게 도와줍니다.

3. "밴딧 게이트(Bandit Gate)" (리스크를 감수하는 자)
이 부분이 가장 영리한 부분입니다. 에이전트는 결정해야 합니다: "이미 알고 있는 도구를 사용할 것인가(안전함), 아니면 새로운, 알려지지 않은 도구를 찾아볼 것인가(위험함)?" 이 선택을 하기 위해, 에이전트는 '밴딧 게이트(Bandit Gate)'라고 불리는 수학적 전략을 사용합니다 (작은 보상을 위해 이미 알려진 레버를 당길 것인지, 아니면 큰 보상을 위해 새로운 레버를 시도할 것인지 균형을 맞추는 슬롯머신 게임에서 이름을 따왔습니다).

알려진 도구들이 효과가 있을 것으로 보이면, 에이전트는 그것들을 사용합니다.
알려진 도구들이 약해 보이면, 게이트는 "탐색하라!"라고 명령하고 에이전트는 새로운 도구를 찾아 나섭니다.
새로운 도구를 찾으면, 에이전트는 그것을 테스트합니다. 만약 성공한다면, 그 도구는 그것이 무엇을 하는지 정확히 설명하는 'ID 카드(온톨로지)'를 부여받고 지도에 추가됩니다.

결과: 새로운 벤치마크
그들의 아이디어가 작동함을 증명하기 위해, 팀은 단순히 쉬운 질문들로 테스트하지 않았습니다. 그들은 OpenSciToolBench라는 새로운 테스트를 구축했습니다. 이것은 네 단계의 난이도를 가진 비디오 게임과 같습니다:

레벨 1: 1~2개의 도구를 사용하는 쉬운 작업 (예: 단순한 사실을 묻는 것).
레벨 2: 2~4개의 도구를 사용하는 중간 난이도 작업 (예: 두 화학 물질을 비교하는 것).
레벨 3: 3~6개의 도구를 사용하는 어려운 작업 (예: 복잡한 규칙 세트에 부합하는 분자를 찾는 것).
레벨 4: 5~10개의 도구를 사용하는 전문가 수준 작업 (예: 전체 연구 전략을 설계하는 것).

이 벤치마크는 생물학, 화학, 재료 과학 전반에 걸친 900개의 현실적인 과학적 과제를 포함하고 있습니다. 이들이 SciToolAgent-Evo를 다른 최고 수준의 AI 에이전트들과 비교 테스트했을 때, 결과는 인상적이었습니다. 가장 어려운 단계에서 이 새로운 에이전트는 훨씬 더 뛰어난 성능을 보였습니다. 예를 들어, 레벨 3 작업에서 이 에이전트는 약 **56%**의 확률로 정답을 맞혔지만, 그다음으로 우수한 에이전트는 약 **35%**에 그쳤습니다.

이것이 왜 중요한가
이 논문은 이러한 접근 방식이 '역량 격차(capability gap)'를 해결함으로써 중요한 진전을 이루었다고 제안합니다. 과거에는 과학자가 AI에게 자신이 가지고 있지 않은 도구가 필요한 일을 요청하면, AI는 실패하거나 환각(hallucination, 허구의 내용을 만들어냄) 현상을 보였습니다. 그러나 SciToolAgent-Evo는 자신이 그 도구를 모른다는 점을 인정하고, 직접 찾아 나서서, 배우고, 그 다음 그것을 사용합니다. 이는 시도 -> 실패/찾기 -> 학습 -> 메모리 업데이트 -> 다시 시도라는 학습의 폐쇄 루프를 생성합니다.

저자들은 이러한 "자기 진화" 특성이 에이전트를 훨씬 더 견고하게 만든다는 것을 발견했습니다. 처음에 필요했던 도구의 **70%**가 에이전트에게 알려지지 않은 상태였음에도 불구하고, 에이전트는 여전히 약 **59%**의 과제를 해결할 수 있었습니다. 이는 에이전트가 단순히 답을 암기하는 것이 아니라, 실제로 새로운 과학적 도구를 획득하고 사용하는 방법을 학습하고 있음을 증명합니다.

요약하자면, SciToolAgent-Evo는 결코 성장을 멈추지 않는 로봇 과학자와 같습니다. 작은 도구 상자로 시작하지만, 작업을 수행하면서 방대하고 체계적인 도구 및 기술 라이브러리를 구축하여, 예측 불가능하고 개방적인 실제 과학적 발견의 도전 과제들에 대비할 수 있게 됩니다.

기술 요약: SciToolAgent-Evo

문제 정의

대규모 언어 모델(LLM) 에이전트는 전문적인 계산 도구를 조직하고 호출하는 데 있어 과학 연구 분야에서 유망한 가능성을 보여주었습니다. 그러나 기존의 접근 방식은 대부분 정적인 의미론을 가진 사전 정의된 도구 공간에 의존하는 폐쇄형 세계(closed-world) 가정을 기반으로 합니다. 이러한 한계는 도구 요구 사항, 역량 및 경계가 동적으로 진화하는 개방형 세계(open-world) 과학 워크플로우에 대한 적용 가능성을 제한합니다. 실제 시나리오에서 에이전트는 알려진 라이브러리에 필요한 도구가 없는 '역량 격차(capability gaps)'에 직면하는 경우가 많습니다. 현재의 프레임워크는 이러한 격차를 효과적으로 인식하지 못하여, 알려진 도구를 수동적으로 과잉 활용하거나 새로운 역량이 필요할 때 실패하는 현상을 초래합니다. 또한, 기존 벤치마크는 명시적인 도구 이름 힌트가 포함된 짧은 도구 체인을 다루는 경우가 많아, 개방형 세계 도구 습득에 필요한 핵심 능력인 '역량 격차 인식', '탐색과 활용의 균형', '지식의 지속적인 통합'을 평가하는 데 실패합니다.

방법론

저자들은 개방형 세계 과학 도구 습득을 위해 설계된 온톨로지 인식 자기 진화 에이전트인 SciToolAgent-Evo를 제안합니다. 이 프레임워크는 지식 축적(Knowledge Accumulation) 단계와 온톨로지 인식 추론(Ontology-Aware Inference) 단계라는 두 가지 별개의 단계를 통해 작동하며, 계층적 벤치마크에 의해 지원됩니다.

1. 지식 축적 (Knowledge Accumulation)

학습 단계 동안 에이전트는 백본 LLM의 파라미터를 업데이트하지 않고 대조적 궤적(contrastive trajectories)으로부터 일반화 가능한 지식을 추출합니다.

대조적 롤아웃 (Contrastive Rollouts): 주어진 작업에 대해 에이전트는 결정론적인 베이스라인 궤적을 생성합니다. 만약 이것이 실패하면, 다양한 온도를 적용하여 탐색적 롤아웃을 수행합니다. 성공적인 탐색적 궤적은 실패한 베이스라인과 쌍을 이루어 대조 쌍(contrastive pairs)을 형성합니다.
지식 증류 (Knowledge Distillation): 에이전트는 이러한 쌍을 비판적으로 분석하여 결정적인 차이점과 실패 원인을 식별합니다. 그 후 두 가지 유형의 지식을 증류합니다:
- 기술 (Skills, $K$ ): 특정 작업 클래스에 대한 추상적이고 재사용 가능한 도구 체인 가이드 단위.
- 경험 (Experiences, $E$ ): 미세하고 도메인 특화적이거나 일반적인 도구 선택 가이드를 제공하는 비매개변수적 프롬프트.
진화하는 메모리: 에이전트는 기술 라이브러리, 경험 풀, 그리고 온톨로지화된 도구 그래프( $G_K$ )로 구성된 메모리를 유지합니다.

2. 온톨로지 인식 추론 (Ontology-Aware Inference)

추론 단계에서 에이전트는 알려진 도구의 사용과 미지의 도구 탐색 사이의 균형을 동적으로 조절합니다.

라우팅 (Routing): 에이전트는 먼저 메모리에서 일치하는 기술이 있는지 확인합니다. 기술이 발견되면 관련 도구 체인을 실행합니다. 직접적인 기술 매칭이 없는 복잡한 작업의 경우, 난이도를 추정하여 능동적 도구 습득 단계로 라우팅합니다.
능동적 도구 요청 (Active Tool Requests): 단순히 원시 쿼리에 매칭하는 대신, 에로지는 온톨로지 가이드 추론을 바탕으로 능동적 도구 요청( $R_q$ )을 구성합니다. 이 요청은 단순히 작업 목표를 말하는 것이 아니라 구체적인 역량 요구 사항(예: "분자량 계산")을 설명합니다.
밴딧 게이트 (Bandit Gate, LinUCB): 각 요청에 대해, 에이전트는 알려진 그래프( $G_K$ $G_{K}$ )에서 후보 도구를 검색하고 잠재적으로 미지의 집합( $T_U$ $T_{U}$ )에서도 검색합니다. LinUCB 기반의 밴딧 게이트는 4차원 컨텍스트 벡터(실행 가능성, 신뢰 구간, 온톨로지 정렬, 과거 성공 이력)를 구축하여 다음 중 하나를 결정합니다:
- 활용 (Exploitation): 순위가 가장 높은 알려진 도구를 선택.
- 탐색 (Exploration): 희소한 속성으로부터 효용을 추론하여 호환 가능한 미지의 도구를 검색.
온라인 온톨로지 완성 (Online Ontology Completion): 새로운 도구가 성공적으로 습득되어 사용되면, 상호작용 이력을 통해 해당 도구의 과학적 온톨로지를 온라인으로 완성하고 이를 알려진 도구 그래프( $G_K$ )로 이전하여 향후 작업을 위한 원활한 통합을 가능하게 합니다.

3. OpenSciToolBench

적절한 평가 표준의 부재를 해결하기 위해, 저자들은 네 가지 난이도 수준을 가진 900개의 현실적인 작업이 포함된 계층적 벤치마크인 OpenSciToolBench를 도입합니다.

Level-1: 명시적 도구 호출 (1~2개 도구).
Level-2: 검색 또는 계산을 통한 속성 분석 (2~4개 도구).
Level-3: 다차원 속성을 고려한 제약 조건 인식 추론 (3~6개 도구).
Level-4: 개방형 연구 전략 수립 (5~10개 도구).
이 데이터셋은 LLM-as-a-Judge 파이프라인과 인간 검증을 거쳐 생성되었으며 생물학, 화학, 재료 과학 분야를 포괄합니다.

주요 기여

SciToolAgent-Evo: 진화하는 메모리(기술, 경험, 도구 그래프), 능동적 도구 요청, 그리고 탐색-활용 밴딧 게이트를 통합하여 동적인 과학 환경에서 자율적 적응을 가능하게 하는 새로운 에이전트 아키텍처.
OpenSciToolBench: 개방형 세계 도구 습득 능력을 평가하기 위해 설계된, 네 가지 난이도 수준과 여러 과학 도메인을 아우르는 900개 작업의 포괄적인 벤치마크.
실증적 검증: SciToolAgent-Evo가 도구 사용 정확도와 최종 답변 정확도 모두에서 경쟁적인 베이스라인(ReAct, Reflexion, SciToolAgent 포함)을 크게 앞지르며 최첨단 성능(SOTA)을 달eric함을 입증하는 광범한 평가.

결과

실험은 GPT-5.4-mini 및 Gemini-3-flash 백본을 사용하여 OpenSciToolBench 및 SciEval에서 수행되었습니다.

성능 향상: SciToolAgent-Evo는 OpenSciToolBench에서 GPT-5.4-mini와 Gemini-3-flash 각각에 대해 두 번째로 우수한 베이스라인보다 전체 답변 정확도를 12.11 및 9.55 포인트 개선했습니다. SciEval에서는 각각 6.11 및 2.89 포인트의 이득을 보였습니다.
복잡성 처리: 에이전트는 복잡한 다중 도구 작업(Level-3 및 Level-4)에서 상당한 우위를 보였으며, 일부 경우에는 인컨텍스트 러닝 방식(CoT, ReAct, Reflexion)보다 20~30포인트 이상의 큰 차이로 앞섰습니다. 이는 개방형 도구 공간에서 국소적인 단계별 추론의 한계를 보여줍니다.
절제 연구 (Ablation Studies): 지식 축적을 제거하면 성능이 14.87포인트 하락했고, 미지 도구 이전을 비활성화했을 때 가장 큰 성능 저하(15.69포인트)가 발생하여 지속적인 학습과 이전의 필요성을 확인했습니다.
강건성: 에이전트는 초기 도구 세트의 70%가 미지 상태인 상황에서도 경쟁력 있는 성능(59.01% 정확도)을 유지하여, 도전적인 개방형 세계 설정에서의 강건성을 입증했습니다.

의의

본 논문은 SciToolAgent-Evo가 폐쇄형 세계의 도구 선택에서 개방형 세계의 과학 도구 습득으로의 전환을 나타낸다고 주장합니다. 온톨로지 인식 자기 진화 메커니즘을 활용함으로써, 에이전트는 백본 LLM을 재학습시키지 않고도 역량 격차를 인식하고 새로운 도구 지식을 통합하며 능력을 지속적으로 확장할 수 있습니다. OpenSciToolBench의 도입은 단순한 도구 호출을 넘어 연구 전략 수립 및 제약 조건 추론을 평가할 수 있는 엄격한 프레임워크를 제공합니다. 본 연구는 밴딧 게이트를 통한 탐색과 활용의 균형이 진화하는 메모리와 결합될 때, 동적인 과학 환경에서 견고한 적응을 위해 필수적임을 입증합니다.