💬 NLP

optimize_anything: A Universal API for Optimizing any Text Parameter

본 논문은 텍스트 기반 탐색과 다작업 전이 및 실행 가능한 부가 정보를 통합하여 에이전트 아키텍처 설계, 클라우드 비용 절감, CUDA 커널 생성을 포함한 여섯 가지 다양한 분야에서 전문 알고리즘을 능가하는 최첨단 결과를 달성하는 범용 LLM 기반 최적화 프레임워크인 "optimize_anything"을 소개합니다.

원저자: Lakshya A Agrawal, Donghyun Lee, Shangyin Tan, Wenjie Ma, Karim Elmaaroufi, Rohit Sandadi, Sanjit A. Seshia, Koushik Sen, Dan Klein, Ion Stoica, Joseph E. Gonzalez, Omar Khattab, Alexandros G. Dimakis

게시일 2026-05-20

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Lakshya A Agrawal, Donghyun Lee, Shangyin Tan, Wenjie Ma, Karim Elmaaroufi, Rohit Sandadi, Sanjit A. Seshia, Koushik Sen, Dan Klein, Ion Stoica, Joseph E. Gonzalez, Omar Khattab, Alexandros G. Dimakis, Matei Zaharia

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

마스터 셰프 (대형 언어 모델, 또는 LLM) 가 레시피 작성에는 탁월하지만 실제 요리는 어떻게 하는지 모른다고 상상해 보세요. 보통 훌륭한 요리를 얻으려면 코스마다 다른 전문가를 고용해야 합니다. 디저트에는 페이스트리 셰프, 스테이크에는 그릴 마스터, 수프에는 수 셰프가 필요한 식입니다.

이 논문은 optimize_anything이라는 새로운 시스템을 소개합니다. 이는 보편적인 '시식 및 코칭' 루프처럼 작동합니다. 이 시스템은 모든 작업마다 다른 전문가가 필요하지 않다고 주장합니다. 대신 이 단일 시스템을 사용하여 컴퓨터 프로그램, 일련의 지시사항, 로봇의 두뇌, 심지어 그림과 같은 어떤 텍스트 기반 솔루션이든 개선할 수 있습니다.

다음은 이를 단순한 개념으로 분해한 작동 원리입니다:

1. 핵심 아이디어: '텍스트 아티팩트'

저자들은 거의 모든 문제를 텍스트 조각으로 변환할 수 있음을 깨달았습니다.

코드는 단순히 텍스트입니다.
로봇의 지시사항은 단순히 텍스트입니다.
수학적 공식은 단순히 텍스트입니다.
그림(SVG 와 같은)은 단순히 텍스트 코드입니다.

유추: '텍스트 아티팩트'를 이야기의 초고라고 생각하세요. 시스템의 역할은 그 초고를 받아 읽고, 얼마나 잘 작동하는지 확인한 다음, AI 셰프에게 더 좋게 수정하도록 요청하는 것입니다.

2. 비장의 무기: '사이드 정보 (Side Information)' (코치의 메모)

과거에 AI 에게 무언가를 개선하라고 요청하면, 점수만 받았습니다 (예: "이 코드는 60% 를 받았습니다"). 왜 실패했는지는 알 수 없었습니다. 마치 시험에서 어떤 문제가 틀렸는지에 대한 피드백 없이 'C'학점만 받은 학생과 같았습니다.

optimize_anything은 규칙을 바꿉니다. 시스템은 점수만 주는 것이 아니라 **사이드 정보 (SI)**를 제공합니다.

유추: 코치가 운동선수가 달리는 것을 지켜본다고 상상해 보세요. 단순히 "10 초에 달렸다"고 말하는 대신, 코치는 "10 초에 달렸지만, 신발 끈이 느슨해서 세 번째 장애물에서 넘어졌고, 너무 왼쪽으로 기울었다"고 말합니다.
도움: AI 는 이러한 구체적인 메모 (오류 메시지, 충돌 로그, 또는 시각적 설명 등) 를 사용하여 정확한 문제를 해결합니다. 논문은 이를 통해 AI 가 단순한 점수만 있을 때보다 4 배에서 6 배 더 빠르게 학습하고 훨씬 높은 점수를 달성한다고 보여줍니다.

3. 세 가지 플레이 방식

이 시스템은 비디오 게임의 다양한 게임 모드처럼 세 가지 다른 모드를 제공합니다:

단일 작업 모드 (솔로 플레이어): 시스템에 "26 개의 원을 사각형 안에 채우기"와 같이 해결해야 할 하나의 구체적인 문제를 줍니다. AI 는 오직 그 한 가지 문제만 해결하려 합니다.
다중 작업 모드 (스터디 그룹): 시스템에 "수학을 가속화하는 30 가지 다른 컴퓨터 프로그램을 작성하기"와 같이 관련 문제 묶음을 줍니다. AI 는 이 모든 것을 함께 해결합니다.
- 마법: AI 가 문제 #1 에서 어떤 트릭 (예: "더 빠른 메모리 트릭 사용") 을 알아내면, 그 트릭을 즉시 문제 #15 에 적용할 수 있습니다. 대수학에서 수학 단축법을 배워 미적분학에서 A 를 받는 학생과 같습니다. 논문은 이 모드가 문제를 하나씩 해결하는 것보다 훨씬 더 효과적임을 발견했습니다.
일반화 모드 (마스터 클래스): AI 에게 훈련 세트와 테스트 세트를 제공합니다. 목표는 새롭고 보지 못한 문제에서도 작동하는 솔루션을 만드는 것입니다.
- 예시: AI 는 코딩 로봇을 위한 '기술 가이드'를 작성하는 법을 배웠습니다. 한 세트의 코딩 작업으로 훈련한 후, 가이드 작성에 매우 능숙해져서 로봇이 아직 본 적 없는 새로운 코딩 작업까지 해결하도록 도왔습니다.

4. 실제로 무엇을 달성했는가?

이 논문은 이 시스템을 여섯 가지 매우 다른 유형의 문제에서 테스트했습니다. 결과는 다음과 같습니다:

로봇 두뇌 (에이전트 아키텍처): 그들은 AI 에게 매우 간단한 10 줄짜리 로봇 두뇌를 주었습니다. 시스템은 이를 300 줄 이상의 복잡한 두뇌로 진화시켰습니다. 결과는? 로봇이 어려운 논리 퍼즐 (ARC-AGI) 에서의 정확도가 32.5% 에서 89.5% 로 급등했습니다.
클라우드 비용: 그들은 AI 에게 클라우드 서버를 위한 일정을 작성하도록 요청했습니다. 새로운 일정은 표준 방법보다 40% 의 비용을 절감했습니다.
컴퓨터 속도 (CUDA 커널): 그들은 AI 에게 그래픽 카드를 더 빠르게 만드는 코드를 작성하도록 요청했습니다. AI 가 작성한 코드의 **87%**가 인간이 작성한 최고 성능의 코드만큼 빠르거나 더 빨랐습니다.
수학 퍼즐: 그들은 수학 시험 지시사항을 개선하여 AI 의 점수를 46.6% 에서 60% 로 높였습니다.
원 채우기: 그들은 AI 에게 원을 가능한 한 빽빽하게 채우도록 요청했습니다. AI 는 유명한 이전 AI (AlphaEvolve) 보다 더 나은 솔루션을 찾았으며, 더 적은 컴퓨팅 파워로 이를 달성했습니다.
3D 모델: '씨앗 없는 (seedless)' 모드 (AI 가 코드 없이 처음부터 시작해야 하는 경우) 에서 성공적으로 유니콘의 3D 모델을 생성했습니다.

5. 왜 이것이 중요한가?

이전에는 로봇을 최적화하려면 로봇 전문가가 필요했고, 클라우드 서버를 최적화하려면 클라우드 전문가가 필요했습니다.

optimize_anything은 최초의 '보편적 API'라고 주장합니다. "텍스트를 주고, 점수 매기는 규칙을 주면 나머지는 내가 처리하겠다"고 말합니다. 이는 이러한 서로 다른 세계들을 하나의 간단한 인터페이스 아래 통합합니다.

주의할 점 (한계):

텍스트로 작성될 수 있는 것들에만 작동합니다.
텍스트가 얼마나 잘 수행되는지 알려줄 '스코어러 (평가자)'가 필요합니다.
결과의 품질은 AI '셰프'의 지능에 달려 있습니다.
때로는 서로 완전히 다른 문제들 (예: 서로 다른 크기의 원 채우기) 을 한 번에 너무 많이 해결하도록 요청하면 혼란을 겪습니다. 문제가 관련되어 있을 때 가장 잘 작동합니다.

요약

optimize_anything은 단일 AI 시스템이 텍스트로 작성된 거의 모든 것의 마스터 최적화자가 될 수 있게 해주는 도구입니다. AI 에게 단순한 점수가 아닌 상세한 피드백을 제공하고 여러 문제에서 동시에 학습하게 함으로써, 종종 특정 작업을 위해 인간 전문가들이 구축한 전문 도구들보다 더 나은 솔루션을 발견할 수 있습니다.

기술 요약: optimize_anything

문제 정의

현재 대규모 언어 모델 (LLM) 최적화 시스템은 대부분 아티팩트 유형과 최적화 모드에 따라 고립되어 있습니다. AlphaEvolve 및 OpenEvolve 와 같은 기존 도구들은 단일 작업 코드 진화에 특화되어 있는 반면, GEPA 및 MIPROv2 와 같은 프레임워크는 일반화 능력을 갖춘 프롬프트 최적화에만 집중합니다. 코드와 프롬프트부터 에이전트 아키텍처 및 이미지 생성 파라미터에 이르기까지 근본적으로 다른 텍스트 아티팩트를 동시에 최적화할 수 있는 단일 시스템은 아직 존재하지 않습니다. 또한, 기존 시스템들은 종종 진단 피드백 (Side Information) 을 활용하기 위한 통합 메커니즘이 부족하거나, 관련 문제 간에 통찰력이 이전되는 다중 작업 검색을 지원하지 못합니다.

본 논문은 다양한 최적화 문제들을 단일 형식으로 통합할 수 있다고 주장합니다. 즉, 점수와 선택적 진단 피드백을 반환하는 점수 함수 $f(x)$ 에 의해 평가되는 텍스트 아티팩트 $x$ 를 최적화하는 것입니다. 목표는 단일 작업 검색, 문제 간 이전을 통한 다중 작업 검색, 그리고 다양한 도메인에 걸친 미처 보지 못한 입력에 대한 일반화를 지원하는 범용 API 를 구축하는 것입니다.

방법론: optimize_anything

저자들은 범용 텍스트 최적화 루프를 구현하는 선언적 API 인 optimize_anything을 제시합니다. 이 시스템은 백엔드와 무관하지만, 임의의 텍스트 아티팩트에 맞게 조정된 GEPA 알고리즘의 확장판을 기본으로 사용합니다.

핵심 인터페이스

시스템은 세 가지 주요 입력을 요구합니다:

시드 아티팩트 (Seed Artifact): 시작 텍스트 문자열 (예: 코드, 프롬프트, 에이전트 정의) 입니다. "시드 없는 모드"에서는 시스템이 자연어 목표만으로 첫 번째 후보를 부트스트랩합니다.
평가자 (Evaluator): 아티팩트를 실행하고 점수 (높을수록 좋음) 와 **측면 정보 (Side Information, SI)**의 튜플을 반환하는 함수입니다.
데이터셋/검증 세트: 최적화 모드를 정의하기 위한 선택적 입력입니다.

세 가지 최적화 모드

시스템은 데이터셋의 유무에 따라 결정되는 세 가지 구별된 모드를 하나의 인터페이스 아래 통합합니다:

단일 작업 검색 (Single-Task Search): 특정 문제 (예: 원 채우기) 에 대해 단일 아티팩트를 최적화합니다. 평가자는 아티팩트를 직접 점수화합니다.
다중 작업 검색 (Multi-Task Search): 관련 작업들의 배치를 동시에 최적화합니다. 시스템은 작업 간 공유되는 파레토 프런티어를 유지하여, 한 작업에서 발견된 최적화 패턴 (예: CUDA 커널 최적화) 이 다른 작업으로 이전되도록 합니다.
일반화 (Generalization): 훈련 세트에서 잘 수행되도록 아티팩트를 최적화하면서 별도의 미처 보지 못한 검증 세트에서 검증합니다. 이 모드는 프롬프트를 넘어 에이전트 아키텍처 및 스케줄링 정책으로 확장됩니다.

핵심 알고리즘 메커니즘

측면 정보 (SI) 를 1 급 계약으로 활용: 스칼라 피드백에 의존하는 전통적인 경사 기반 최적화와 달리, optimize_anything 은 진단 피드백 (컴파일러 오류, 프로파일러 데이터, 실행 추적, 렌더링된 이미지) 을 주요 입력으로 취급합니다. LLM 제안자는 "반성 (reflection)" 단계에서 이 SI 를 사용하여 실패를 진단하고 표적 수정안을 제안함으로써 프로토타입을 반복하는 엔지니어를 모방합니다.
파레토 기반 검색: 다차원 점수를 단일 집계로 축소하는 대신, 시스템은 작업별 또는 지표별 점수를 추적합니다. 지배되지 않는 후보들의 파레토 프런티어를 유지합니다. 이는 상호 보완적인 강점 (예: 작업 A 에는 우수하지만 작업 B 에는 평균적인 후보) 을 보존하고 조기 수렴을 방지합니다.
후보 선택 및 반성: 후보들은 파레토 프런티어에서의 빈도에 따라 변이를 위해 선택됩니다. 제안자는 개선된 아티팩트를 생성하기 위해 미니배치 예시와 해당 SI 를 제시받습니다. "정제 (refiner)" 단계는 평가 전에 일반적인 생성 오류 (예: 구문 오류) 를 포착합니다.

주요 기여

통합된 교차 도메인 최적화: 본 논문은 단일 LLM 기반 시스템이 에이전트 아키텍처 검색, 클라우드 스케줄링, CUDA 커널 생성, 프롬프트 최적화, 원 채우기, 이미지 생성 등 근본적으로 다른 여섯 가지 도메인에서 최첨단 결과를 달성할 수 있음을 입증합니다.
LLM 진화를 위한 최초의 다중 작업 모드: 시스템은 관련 문제들의 배치를 해결함으로써 최적화 패턴의 교차 이전을 가능하게 하는 다중 작업 검색 모드를 도입하여, 독립적인 단일 작업 최적화보다 우수한 성과를 냅니다.
실행 가능한 측면 정보: 저자들은 진단 피드백을 통일된 API 계약으로 형식화했습니다. 제거 실험 (Ablation studies) 에 따르면, 실행 가능한 SI 는 점수만 있는 피드백에 비해 4~6 배 빠른 수렴과 훨씬 높은 최종 점수를 제공합니다.
오픈소스 구현: 이 시스템은 GEPA 프로젝트의 일부로 출시되어 여러 백엔드를 지원하며, 변이 프롬프트, 섬 구성, 작업별 템플릿을 추상화하는 선언적 인터페이스를 제공합니다.

실험 결과

시스템은 여섯 가지 주요 도메인에서 평가되었습니다:

에이전트 아키텍처 (ARC-AGI): 10 줄 시드에서 300 줄 이상의 시스템으로 에이전트 시스템 (코드 + 프롬프트) 을 최적화하여, ARC-AGI 테스트 세트에서 정확도를 32.5% 에서 89.5% 로 3 배 증가시켰습니다.
클라우드 스케줄링: 클라우드 데이터 이그레스 비용을 40.2% 줄인 (CloudCast) 및 스포트 인스턴스 활용도를 개선한 (Can't Be Late) 스케줄링 알고리즘을 발견하여 기존 벤치마크를 능가했습니다.
CUDA 커널: 31 개 PyTorch 연산에 대한 커널을 생성하여 87% 가 PyTorch 기준과 일치하거나 능가했습니다. 다중 작업 모드는 속도 향상 임계값에서 단일 작업 모드보다 현저히 우수했습니다.
프롬프트 최적화: AIME 2025 수학 문제에서 GPT-4.1-mini 의 정확도를 46.67% 에서 60.00% 로 개선하여 MIPROv2 를 능가했습니다.
원 채우기: 26 개의 원을 채우는 AlphaEvolve 의 보고된 솔루션을 능가하여, 더 적은 평가 횟수로 더 큰 반지름 합을 달성했습니다.
이미지 생성: SVG 및 CAD 코드를 최적화하여, 인간 평가자들이 제로샷 기준보다 결과를 선호했습니다.

제거 실험 (Ablation) 결과:

측면 정보: SI 를 제거하면 최종 성능이 크게 감소했습니다 (예: 원 채우기 점수가 최적의 94% 로 하락; 커널 속도 향상률이 1.1 배 초과 시 40% 에서 0% 로 하락).
다중 작업 vs 단일 작업: 다중 작업 검색은 관련 작업 (CUDA 커널) 에서 패턴 이전으로 인해 단일 작업 검색보다 일관되게 우수했습니다. 그러나 관련 없는 작업 (서로 다른 $N$ 을 가진 원 채우기) 에서는 다중 작업 검색이 노이즈를 유발하여 성능을 저하시켰습니다.
제안자 민감도: 더 큰 모델 (GPT-5.1) 이 더 높은 최종 품질을 달성했지만, 더 저렴한 모델 (GPT-5-nano) 도 시드 대비 상당한 개선을 제공하면서 비용의 일부만 소모했습니다.

중요성 및 주장

본 논문은 LLM 기반 검색을 통한 텍스트 최적화를 범용 문제 해결 패러다임으로 확립한다고 주장합니다. 최적화 문제를 진단 피드백이 포함된 점수 함수로 평가되는 텍스트 아티팩트의 개선으로 간주함으로써 도메인별 알고리즘의 필요성이 줄어든다고 논증합니다.

그 중요성은 다음과 같습니다:

통합: 코드 진화, 프롬프트 엔지니어링, 에이전트 설계 등 전통적으로 별도의 알고리즘이 필요했던 작업을 단일 프레임워크 아래 통합합니다.
이전의 확장성: 최적화 패턴이 관련 문제 간에 이전될 수 있음을 보여주며, 작업 수에 따라 혜택을 확장합니다.
실행 가능한 피드백: 스칼라 점수를 실행 가능한 진단 신호 (SI) 로 변환하는 것이 LLM 기반 최적화의 효율성과 효과성에 중요함을 보여줍니다.

저자들은 optimize_anything 이 사용자가 무엇을 최적화할지 (아티팩트, 평가자, 목표) 정의하면 시스템이 어떻게 할지 (검색 전략, 반성, 선택) 를 처리하는 선언적 인터페이스를 제공하여 복잡한 최적화 작업을 효과적으로 민주화한다고 결론지었습니다.