💻 computer science

Automating Parent Selection Configuration in Genetic Programming with Agentic AI

이 논문은 거대 언어 모델과 검색 증강 생성을 활용한 에이전트형 AI 프레임워크가 유전 프로그래밍을 위한 부모 선택 알고리즘의 설계 및 구현을 효과적으로 자동화할 수 있음을 입증하며, $\epsilon$ -lexicase와 같은 기존 방식에 필적하는 기호 회귀 작업에서의 경쟁력 있는 성능을 달성함을 보여준다.

원저자: Jose Guadalupe Hernandez, Jui-Hsuan Chang, Anil Kumar Saini, Xi Li, Jason H. Moore

게시일 2026-08-19

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Jose Guadalupe Hernandez, Jui-Hsuan Chang, Anil Kumar Saini, Xi Li, Jason H. Moore

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

인공지능이라는 광활한 풍경 속에서, 진화 연산(evolutionary computing)이라 불리는 특정 분야는 자연이 생명을 진화시키는 방식을 모방합니다. 인간이 작성한 경직된 지침을 따르는 대신, 디지털 후보군을 생성하고, 그들이 문제를 얼마나 잘 해결하는지 테스트한 뒤, 가장 우수한 개체들을 교배하여 다음 세대를 만드는 컴퓨터 프로그램이 있다고 상상해 보십시오. 유전 프로그래밍(genetic programming)이라고 불리는 이 과정은 인간이 결코 구상할 수 없는 복잡한 해결책을 발견할 수 있기 때문에 매우 강력합니다. 그러나 이러한 디지털 진화가 작동하려면, 컴퓨터는 어떤 후보가 번식할 수 있을지를 결정할 방법이 필요합니다. 이 결정을 '부모 선택(parent selection)'이라고 부릅니다. 만약 컴퓨터가 잘못된 부모를 선택한다면, 전체 집단은 정체되거나 발전에 실패할 수 있습니다. 전통적으로 인간은 이러한 선택 규칙을 수동으로 설계해야 했으며, 이는 깊은 전문 지식을 요구하고 종종 많은 시행착오를 동반하는 작업이었습니다. 이제 연구자들이 던지는 질문은, 인간 전문가처럼 추론하고 정보를 찾아볼 수 있는 새로운 종류의 인공지능이 이 어려운 설계 과정을 자동화할 수 있는지 여부입니다.

연구팀은 이 아이디어를 테스트하기 위해 부모 선택 업무를 처리하도록 설계된 특화된 디지털 에이전트를 구축하며 실험에 착수했습니다. 그들은 에이전트에게 완전히 새로운 부모 선택 방식을 처음부터 발명하라고 요구한 것이 아니라, 기존의 가장 좋은 방법을 식별한 다음 그것이 작동하도록 컴퓨터 코드를 작성하도록 요청했습니다. 이를 위해 연구진은 에이전트에게 부모 선택에 관한 과학 논문 라이브러리에 접근할 수 있는 권한을 주었으며, 이를 통해 에이전트는 마치 인간 연구자처럼 관련 지식을 검색할 수 있게 했습니다. 에이전트에게 주어진 임무는 간단했습니다. 문제를 살펴보고, 어떤 선택 방법이 가장 적합할지 결정한 다음, 유전 프로그래밍 시스템에 바로 끼워 넣을 수 있는 기능적인 파이썬(Python) 프로그램을 생성하는 것이었습니다. 연구진은 이 설정을 심볼릭 회귀(symbolic regression)라는 유형의 문제를 사용하여 테스트했습니다. 심볼릭 회귀는 컴퓨터가 데이터 포인트 세트에 부합하는 수학적 공식을 찾아내야 하는 작업입니다. 이는 컴퓨터가 숫자 간의 관계를 알려주지 않아도 스스로 발견해야 하기 때문에 이러한 시스템의 흔한 테스트 베드가 됩니다.

연구진은 다양한 버전의 에이전트가 얼마나 잘 수행되는지 확인하기 위해 일련의 실험을 진행했습니다. 초기 학습 단계에서 배운 것에만 의존하는 표준 대규모 언어 모델과, 문제를 단계별로 생각할 수 있는 에이전트, 그리고 마지막으로 생각하면서 동시에 라이브러리의 논문에서 정보를 찾아볼 수 있는 에이전트를 비교했습니다. 결과는 시사하는 바가 컸습니다. 모델이 내부 지식에만 의존하도록 남겨졌을 때, 그들은 거의 항상 몇몇 후보를 무작위로 뽑아 그중 최고가 승리하는 '토너먼트 선택(tournament selection)'이라는 매우 기초적이고 흔한 방법을 선택했습니다. 이는 안전하고 익숙한 선택이었습니다. 그러나 에이전트가 라이브러리에서 정보를 찾아볼 수 있게 되자, 그들의 행동은 극적으로 변했습니다. 에이전트들은 '엡실론-렉시케이스 선택(epsilon-lexicase selection)'이라 불리는 더 정교한 방법을 식별하고 구현하기 시작했습니다. 이 방식은 더 미묘합니다. 단 하나의 종합적인 점수만을 보는 대신, 후보들이 특정 개별 데이터 포인트에서 얼마나 잘 수행하는지를 평가함으로써 더욱 다양한, 그리고 종종 더 효과적인 진화를 가능하게 합니다.

연구는 정보 검색 능력이 에이전트를 더 나은 방법으로 안내하는 데 결정적이었지만, 그것이 성공을 보장하는 것은 아니라는 점을 발견했습니다. 사용된 인공지능 모델의 구체적인 유형 또한 정보 검색 도구만큼이나 중요했습니다. 특정 모델 하나는 정보를 찾아보는 능력과 결합되었을 때, 일관되게 올바르고 정교한 선택 알고리즘을 생성해 냈으며, 고정된 인간 설계 버전만큼 혹은 그보다 더 뛰어난 성능을 보였습니다. 이 특정 설정은 선택의 엄격함을 결정하기 위한 통계적 접근 방식을 사용하여, 엡실론-렉시케이스 방법을 높은 정확도로 구현하는 코드를 작성해 냈습니다. 여섯 가지 서로 다른 실제 데이터 문제에 걸친 직접적인 헤드 투 헤드 테스트에서, 이 자동화된 에이전트는 인간이 설계한 최선의 선택 방법과 통계적으로 구별할 수 없을 정도의 결과를 냈으며, 기본적인 토너먼트 선택보다는 유의미하게 뛰어난 성과를 거두었습니다.

하지만 연구진은 이 자동화가 아직 완벽하지 않다는 점도 발견했습니다. 가장 좋은 설정은 안정적으로 작동했지만, 다른 모델과 도구의 조합은 겉보기에는 올바른 것처럼 보이지만 실행에 실패하거나, 수학적 세부 사항을 틀려 성능이 낮은 알고리즘을 생성하기도 했습니다. 연구는 단순히 지식 라이브러리에 접근할 수 있다고 해서 인공지능이 자동으로 전문가가 되는 것은 아니라는 점을 보여주었습니다. 근본적인 모델이 그 정보를 올바르게 해석하고 이를 작동하는 코드로 번역할 수 있는 능력을 갖추어야 합니다. 연구진은 에이전트형 인공지능이 이러한 진화 시스템의 설계를 자동화하는 데 큰 가능성을 보여주지만, 현재로서는 적절한 모델 및 세심한 감독과 결합될 때 가장 잘 작동하는 도구라고 결론지었습니다. 이 연구는 기계가 복잡한 도메인 지식을 실행 가능한 구성 요소로 번ano할 수 있음을 입증함으로써, 이러한 강력한 계산 도구의 도입을 오랫동안 늦춰온 수동 설계의 무거운 부담을 줄일 수 있는 중요한 진전을 보여줍니다.

기술 요약: 에이전틱 AI를 이용한 유전 프로그래밍 내 부모 선택 설정 자동화

문제 정의
유전 프로그래밍(GP)은 표현형(representation), 선택 메커니즘, 변이 연산자를 맞춤 설정할 수 있게 함으로써 심볼릭 회귀(SR)에 상당한 유연성을 제공한다. 그러나 이러한 유연성은 상호 의존적인 알고리즘 및 파라미터 선택이라는 방대한 설계 공간을 생성하며, 이를 효과적으로 구성하기 위해 상당한 전문 지식을 요구한다. 이러한 장벽은 GP의 광범위한 도입을 저해한다. 에이전틱 인공지능(Agentic AI)은 대규모 언어 모델(LLM)을 추론 및 도구 사용 능력으로 확장하여 복잡한 설계 작업을 자동화하는 메커니즘으로 제안되어 왔으나, 특정하고 효과적인 GP 구성 요소를 식별하고 구현하는 데 있어 그 타당성은 아직 충분히 탐구되지 않았다. 본 연구는 에이전틱 AI 프레임워크가 수동 개입 없이도 GP 시스템을 위한 부모 선택 알고리즘을 자율적으로 식별하고 구현할 수 있는지 조사한다.

방법론
저자들은 부모 선택 알고리즘의 선택과 구현을 자동화하기 위해 LLM과 검색 증강 생성(RAG)을 결ло합한 에이전틱 프레임워크를 제안한다. 이 프레임워크는 에이전트의 추론을 뒷받침하기 위해 선별된 부모 선택 문헌 코퍼스를 활용한다.

프레임워크 아키텍처: 시스템은 GP 전문가로서의 역할을 정의하는 프롬프트를 받는 특화된 에이전트를 채택한다. 에이전트는 두 가지 작업을 수행한다: (1) 적절한 부모 선택 알고리즘 식별, (2) 특정 시그니처(selection(fitnesses))를 가진 파이썬 함수로 이를 구현. 에이전트는 내부 지식에 의존할지 또는 벡터 데이터베이스에서 관련 문헌을 검색하기 위해 RAG 도구를 호출할지를 자율적으로 결정하는 반복적인 추론 루프 내에서 작동한다.
실험 설정: 연구에는 UCI 머신러닝 저장소의 6가지 실제 심볼릭 회귀 문제를 사용한다. 부모 선택 절차만 변하는 표준 GP 시스템(DEAP으로 구현)이 사용된다.
절제 연구 (실험 1): 저자들은 네 가지 LLM 유형(gpt-4o, gpt-4.1 mini, gpt-5 mini, gpt-oss 20b)을 세 가지 구성에 걸쳐 평가하였다:
1. LLM: 제로샷 프롬프팅을 사용하는 단독 모델.
2. ANR (Agentic No Retrieval): RAG 도구가 없는 에이전틱 워크플로우.
3. AR (Agentic Retrieval): RAG를 포함한 전체 에이전틱 프레임워크.
  평가 지표에는 실행 성공 여부, 분류 성공(보고된 알고리즘 계열과 수동 검증된 계열 간의 일치도), 코드 유사성, 그리고 다운스트림 성능(테스트 세트 평균 제곱 오차)이 포함되었다.
벤치마크 평가 (실험 2): 실험 1에서 가장 우수한 성능을 보인 구성을 토너먼트 선택(크기 3) 및 준동적(Semi-Dynamic) $\epsilon$ -lexicase 선택(MAD(Median Absolute Deviation)를 사용한 $\epsilon$ 적용)의 고정된 수작업 구현과 벤치마킹하였다.

주요 결과

RAG 및 추론의 영향: RAG 모듈과 에이전틱 추론의 포함은 생성된 알고리즘의 유형에 상당한 영향을 미쳤다. gpt-4o 및 gpt-4.1 mini와 같은 모델의 경우, 단독 LLM 및 ANR 구성은 독점적으로 토너먼트 선택을 생성했다. 반면, AR 구성은 출력을 $\epsilon$ -lexicase 쪽으로 전환시켰다. 그러나 이러한 전환이 다운스트림 성능을 균일하게 개선하지는 못했다. 예를 들어, gpt-4o의 경우 잘못된 파라미터화(예: MAD 기반 임계값 대신 고정된 $\epsilon$ 값 사용)로 인해 AR 구성이 현저히 낮은 성능을 보였다.
모델 의존성: 프레임워크의 효과는 기반이 되는 LLM에 크게 의존했다. gpt-5 mini 모델은 독특한 능력을 보였다: 이 모델은 검색 없이도 $\epsilon$ -lexicase 알고리즘을 빈번하게 생성하였으며, 이는 LLM 구성에서 생성된 알고리즘의 85.7%를 차지했다. RAG를 갖추었을 때(5 mini–AR), 이 모델은 MAD 기반 $\epsilon$ 임계값과 동적 또는 준동적 변형을 주로 사용하는 확립된 $\epsilon$ -lexicase 구현을 일관되게 생성했다.
성능: 5 mini–AR 구성은 6가지 심볼릭 회귀 문제 모두에서 고정된 준동적 MAD $\epsilon$ -lexicase 구현과 대등한 다운스트림 성능을 달성했다. 이는 일반적으로 토너먼트 선택보다 우수한 성능을 보였다. 주목할 점은, 5 mini–AR가 각 반복(replicate)에 대해 독립적인 구현을 생성했음에도 불구하고, 특정 사례(예: Housing 및 Yacht 데이터셋)에서 높은 변동성을 보이긴 했으나 고정된 참조 모델과 경쟁 가능한 수준의 성능을 유지했다는 것이다.
타당성 및 유사성: 대부분의 구성에서 실행 성공률은 높았다. 그러나 분류 성공(static vs. dynamic $\epsilon$ -lexicase와 같은 특정 변형을 정확히 식별하는 것)은 다양했다. AR 구성은 토너먼트 선택을 기본값으로 하는 모델의 경우, 검색된 정보가 더 복잡하지만 때때로 잘못 분류된 구현을 유도함으로써 분류 성공도를 낮추기도 했다.

의의 및 주장
본 논문은 에이전틱 AI가 도메인 지식을 실행 가능한 진화 시스템 구성 요소 생성으로 변환할 수 있는 잠재력을 보여준다고 주장한다. 구체적으로, 본 연구는 다음을 입증한다:

에이전틱 프레임워크는 단순한 보조를 넘어 알고리즘 구성 요소의 자율적 생성을 통해 부모 선택의 구성을 성공적으로 자동화할 수 있다.
RAG의 통합은 LLM이 제로샷 설정에서 우선순위를 두지 않을 수 있는 확립된 효과적인 알고리즘 계열(예: $\epsilon$ -lexicase)로 유도하는 데 결정적이다. 다만, 결과물 구현의 품질은 LLM의 내부 지식과 검색된 컨텍스트를 해석하는 능력에 크게 좌우된다.
5 mini–AR 구성은 에이전틱 시스템이 전문가가 정의한 고정된 구현과 경쟁할 수 있는 부모 선택 알고리즘을 생성할 수 있다는 개념 증명(proof-of-concept) 역할을 한다.

저자들은 본 프레임워크가 자동화된 GP 설계의 한 단계이지만, 현재 부모 선택만을 격리하여 다루고 있으며 다운스트림 성능에 기반하여 생성된 알고리즘을 검증하거나 수정하는 폐쇄 루프(closed loop)를 검증하지는 않는다는 점을 언급하며 신중한 입장을 유지한다. 그들은 향%후 연구가 생성된 구현의 신뢰성을 해결하고 프레임워크를 다른 GP 구성 요소로 확장해야 한다고 강조한다.

유사한 논문