🤖 AI

Improving Coherence and Persistence in Agentic AI for System Optimization

이 논문은 장기적인 탐색과 컨텍스트 제한의 한계를 해결하기 위해 실험 결과와 통찰력을 영구적으로 저장하고 다음 에이전트가 이를 기반으로 학습하도록 설계된 새로운 에이전트 아키텍처 'Engram'을 제안하여 다양한 시스템 최적화 분야에서 뛰어난 성능을 입증합니다.

원저자: Pantea Karimi, Kimia Noorbakhsh, Mohammad Alizadeh, Hari Balakrishnan

게시일 2026-03-24

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Pantea Karimi, Kimia Noorbakhsh, Mohammad Alizadeh, Hari Balakrishnan

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

🧠 배경: 왜 기존 AI 는 고생할까요?

컴퓨터 시스템을 최적화하는 것은 마치 미스터리한 도시의 교통 체증을 해결하는 것과 같습니다. 단순히 신호등 시간을 1 초만 바꾼다고 해결되지 않고, 도로 구조 자체를 바꾸거나 새로운 우회로를 만드는 등 창의적인 사고가 필요합니다.

기존의 AI 접근법들은 여기서 두 가지 치명적인 실수를 저질렀습니다.

국소 최적화 함정 (Evolutionary Neighborhood Bias):
- 비유: 한 사람이 매일 같은 길로 출퇴근하다가, "아, 이 길에 신호등이 조금 빨라지면 좋겠다"라고 생각해서 신호등만 1 초씩 조정합니다. 하지만 전체 도로망의 구조를 바꾸는 대담한 변화 (예: 새로운 다리 건설) 는 시도하지 못합니다.
- 문제: AI 가 점수만 보고 작은 수정만 반복하다 보니, 더 좋은 해결책이 있는 '다른 세계'로 넘어가지 못하고 제자리걸음을 합니다.
일관성의 천장 (The Coherence Ceiling):
- 비유: 한 명의 천재 연구자가 100 일 동안 밤새워 연구를 합니다. 하지만 100 일 차가 되면, 1 일차에 했던 중요한 통찰을 잊어버리거나, 기억이 혼란스러워져서 엉뚱한 결론을 내립니다. (기억력 저하)
- 문제: AI 는 긴 작업을 할수록 앞선 논리가 흐려져서 ("Context Rot"), 처음부터 다시 시작하거나 엉뚱한 방향으로 가게 됩니다.

🚀 해결책: 엔그램 (Engram) 은 어떻게 작동할까요?

엔그램은 한 명의 천재가 100 일 동안 혼자 연구하는 방식을 버리고, 지혜로운 연구 팀이 교대 근무를 하며 지식을 공유하는 방식으로 바꿉니다.

1. "연구 일지 (Research Digest)"를 남기는 교대 근무제

상황: 연구원 A 가 오늘 하루 동안 실험을 하고, 실패한 이유와 성공한 힌트를 정리합니다.
엔그램의 방식: 연구원 A 가 퇴근할 때, 모든 메모와 실패 기록을 **디지털 '연구 일지 (Digest)'**에 깔끔하게 요약해서 남깁니다. 그리고 새로운 연구원 B가 그 일지를 읽고 다음 날 업무를 시작합니다.
효과: 연구원 B 는 "어제 A 가 이 길은 실패했어"라는 것을 알기 때문에, 같은 실수를 반복하지 않습니다. 또한, B 는 **새로운 머릿속 (새로운 문맥)**으로 시작하므로 기억력 저하 없이 선명하게 사고할 수 있습니다.

2. 실패를 두려워하지 않는 끈기 (Persistence)

상황: 어떤 해결책이 처음에는 점수가 떨어질 수 있습니다. (예: 새로운 도로를 뚫다가 잠시 교통 체증이 심해질 수 있음)
기존 AI: 점수가 떨어지면 즉시 "이건 안 되네"라고 포기하고 원래대로 돌아갑니다.
엔그램: "아, 지금 점수가 떨어졌지만, 이 방향이 옳다면 잠시 후 더 좋아질 수도 있어"라고 생각합니다. 연구 일지에 "임시 퇴보 (Temporary Regression) 발생, 하지만 원리는 유효함"이라고 기록하고, 다음 연구원이 이 방향을 계속 발전시켜 결국 대박을 냅니다.

🏆 실제 성과: 어떤 일을 해냈나요?

엔그램은 세 가지 다른 분야에서 인간 전문가와 기존 AI 를 모두 능가했습니다.

클라우드 데이터 전송 (Multi-Cloud Multicast):
- 문제: 전 세계 여러 클라우드 서버에 데이터를 보내는데, 비용이 너무 많이 듭니다.
- 결과: 엔그램은 인간 전문가가 만든 최선의 방법보다 비용을 더 낮추는 새로운 전송 경로를 찾아냈습니다. (약 $622 vs 인간 전문가 $626)
- 비유: 기존에는 "가장 가까운 길"만 찾다가 막혔는데, 엔그램은 "비싸지만 더 빠른 길"과 "무료지만 조금 먼 길"을 섞어서 최적의 조합을 찾아낸 것입니다.
LLM 요청 라우팅 (LLM Request Routing):
- 문제: 수많은 AI 요청을 여러 서버로 나누어 처리할 때, 대기 시간이 너무 깁니다.
- 결과: 엔그램은 서버의 메모리 상태와 요청의 복잡도를 고려한 초정밀 라우팅 전략을 개발해, 응답 시간을 획기적으로 줄였습니다.
- 비유: 택시 앱이 단순히 "가까운 차"만 보내는 게 아니라, "차량 상태, 목적지, 승객의 급함"까지 고려해 가장 효율적인 배차를 하는 것과 같습니다.
데이터베이스 최적화 (KV Cache Reuse):
- 문제: AI 가 데이터를 처리할 때, 같은 정보를 반복해서 계산하지 않도록 메모리를 효율적으로 쓰는 문제입니다.
- 결과: 기존 최고 수준의 알고리즘보다 더 빠르게, 더 정확하게 데이터를 재사용하는 방법을 찾아냈습니다.

💡 핵심 요약

**엔그램 (Engram)**은 **"한 번에 모든 것을 기억하려는 AI"**가 아니라, **"실패와 성공을 기록해 다음 사람에게 넘겨주는 AI 팀"**입니다.

기존 AI: "내가 다 기억해야 해!" → 기억이 나빠져서 망함.
엔그램: "오늘 내가 한 일을 일지에 적어두고, 내일 다른 친구가 그걸 보고 더 잘하자!" → 지식이 누적되고, 실수는 반복되지 않으며, 장기적인 목표를 향해 끈질기게 나아갑니다.

이 기술은 앞으로 AI 가 복잡한 과학 연구나 시스템 설계 분야에서 인간을 넘어설 수 있는 중요한 발걸음이 될 것입니다.

1. 문제 정의 (Problem)

컴퓨터 시스템의 고성능 휴리스틱 (heuristic) 및 알고리즘을 설계하는 것은 창의적이고 반복적인 과정으로, 전문가들이 시스템 병목 현상에 대한 가설을 세우고, 다단계 개념적 전환을 통해 이를 실행하는 과정이 필요합니다. 최근 대규모 언어 모델 (LLM) 을 이용한 자동화 연구가 진행되고 있지만, 복잡한 시스템 문제를 해결하는 데 있어 두 가지 치명적인 실패 모드를 겪고 있습니다.

진화적 이웃 편향 (Evolutionary Neighborhood Bias):
- 기존 코드 진화 시스템 (예: OpenEvolve 등) 은 스칼라 벤치마크 점수를 기반으로 코드 변이를 생성하고 선택합니다.
- 이 방식은 안정적인 템플릿의 점진적 개선에는 효과적이지만, 문제 재정의, tractable relaxation(처리 가능한 완화) 추가, 또는 다른 알고리즘 계열로의 이동 등 조정된 다단계 변화가 필요한 경우 실패합니다.
- 즉, 국소 최적점 (local optima) 에 갇히게 되어 더 나은 전역 해를 찾지 못합니다.
일관성 천장 (The Coherence Ceiling):
- Glia 와 같은 에이전트 프레임워크는 가설 형성 및 표적 실험을 가능하게 하지만, 긴 시간 (long-horizon) 에 걸친 설계에는 한계가 있습니다.
- 단일 컨텍스트 윈도우에서 장기간 실행되면 '컨텍스트 로트 (context rot)' 현상이 발생하여 주의 집중이 불균형해지고 성능이 저하됩니다.
- 반면, 독립적인 'Best-of-N' 실행 방식은 에이전트 간 지식 축적이 없어, 이전 에이전트가 발견한 통찰력을 매번 처음부터 다시 찾아야 합니다.

2. 방법론: Engram 아키텍처 (Methodology)

저자들은 Engram이라는 새로운 에이전트형 연구자 아키텍처를 제안합니다. Engram 은 단일 컨텍스트 윈도우의 제약에서 장기 탐색을 분리하여 위의 두 문제를 해결합니다.

핵심 구조:
- 시퀀스 기반 에이전트: 탐색을 설계, 테스트, 분석을 반복하는 에이전트 시퀀스로 구성합니다.
- 지속성 아카이브 (Persistent Archive): 각 에이전트 실행이 종료되면 코드 스냅샷, 실행 로그, 실험 결과를 영구적인 아카이브에 저장합니다.
- 연구 요약 (Research Digest): 가장 중요한 부분으로, 에이전트는 고수준 모델링 통찰력, 발견 사항, 실패 진단을 **압축된 구조화된 요약 (Research Digest)**으로 추출합니다.
- 손넘김 (Handoff): 다음 에이전트는 빈 컨텍스트 윈도우로 시작하지만, 이전 에이전트의 Research Digest를 읽음으로써 이전 발견을 기반으로 합니다. 이는 컨텍스트 길이의 증가 없이 지식을 누적하게 합니다.
작동 원리 (단일 에이전트 탐색):
1. 초기화: 문제 명세와 이전 연구 요약 (Digest) 을 검토합니다.
2. 가설 수립: 어떤 접근법을 시도할지 구체적인 가설을 세웁니다.
3. 구현 및 실험: 코드를 작성하고 시뮬레이션/테스트베드에서 실행합니다.
4. 분석: 결과를 분석하고 개선점 또는 한계를 식별합니다.
5. 요약 및 전달: 발견 사항을 Digest 에 기록하고 다음 에이전트에게 넘깁니다.

3. 주요 기여 (Key Contributions)

향상된 장기 일관성 (Enhanced Long-Horizon Coherence):
- 구조화된 손넘김과 아카이빙 메커니즘을 도입하여 에이전트 간 누적 발전을 가능하게 했습니다.
- Research Digest 를 통해 모델링 통찰력과 실패 진단이 개별 에이전트의 수명을 넘어 지속됩니다.
최신 기술 (SOTA) 을 능가하는 새로운 시스템 휴리스틱 발견:
- 멀티 클라우드 멀티캐스트 (Multi-cloud Multicast): 인간 전문가가 설계한 SOTA( $626) 를 능가하는$ 622 의 비용을 달성했습니다. 진화적 방법들이 Steiner-tree 기반의 국소적 개선에 머무른 반면, Engram 은 동적 프로그래밍 (DP) 및 혼합 정수 선형 계획법 (MILP) 기반의 최적화 구조를 발견했습니다.
- LLM 추론 요청 라우팅: 평균 응답 시간을 23.9 초로 줄여, 인간 전문가 설계 (25.7 초) 및 Glia 보다 우수한 성능을 보였습니다. 메모리 압력과 디코드 단계 간섭을 명시적으로 고려한 새로운 라우팅 정책을 발견했습니다.
- KV 캐시 재사용 최적화: 자연어 쿼리를 가진 데이터베이스에서 KV 캐시 재사용을 최적화하여 기존 방법들과 경쟁력 있는 성능을 보였습니다.
다양한 문제에서의 우월한 성능:
- 9 가지 시스템 최적화 문제 (ADRS 벤치마크 및 LLM 라우터 포함) 에서 Engram 은 인간 SOTA 를 9 개 중 8 개에서 능가했습니다.
- OpenEvolve 와 비교하여 9 개 중 7 개에서 더 나은 성능을 보였거나 2 개에서 동등한 성능을 기록했습니다.

4. 실험 결과 및 분석 (Results & Analysis)

성능 비교:
- 멀티 클라우드 멀티캐스트: Engram 은 평균 최적 비용이 $662.2 로, OpenEvolve($728.0), FunSearch($718.5), Glia($705.8) 등을 모두 능가했습니다. 특히, Engram 은 비용이 일시적으로 악화되는 상황 ( $772 →$ 1104) 에서도 최적화 접근법을 포기하지 않고, 실패를 진단하여 결국 $622 로 개선하는 비단조적 (non-monotonic) 개선을 보여주었습니다.
- LLM 라우팅: Engram 은 평균 응답 시간 23.9 초를 기록하여 Glia(25.7 초) 와 진화적 방법들보다 우월했습니다. 발견된 정책은 단순한 큐 길이 기반이 아니라, 메모리 활용률과 디코드 단계 경합을 고려한 정교한 전략이었습니다.
Ablation Study (성분 제거 실험):
- Single Agent: 컨텍스트가 길어지면서 성능이 가장 낮았습니다 ($902).
- Summarization: 단일 에이전트 내에서 요약을 사용해도 장기 일관성은 제한적이었습니다 ($765).
- Sequential (코드만 전달): 컨텍스트만 새로고침하고 코드를 전달하는 방식은 성능이 개선되었으나 ($700), 지식 전달이 없는 Engram 보다 낮았습니다.
- No Digest / No Archive: Digest 를 제거하면 성능이 크게 저하되어, **구조화된 통찰력 전달 (Digest)**이 Raw 정보 (Archive) 보다 더 중요함을 입증했습니다.
프롬프트 민감도:
- Engram 은 "최적화 문제로 접근하라"는 고수준 지시 (Direction prompt) 만으로도 강력한 성능을 발휘했습니다. 반면, OpenEvolve 는 프롬프트에 따라 성능이 크게 변동하거나 Steiner-tree 기반의 국소 해에 갇히는 경향이 있었습니다.

5. 의의 및 결론 (Significance)

이 논문은 LLM 기반 시스템 최적화 분야에서 **지속성 (Persistence)**과 **일관성 (Coherence)**이라는 두 가지 핵심 과제를 동시에 해결하는 새로운 패러다임을 제시합니다.

창의적 탐색의 확장: Engram 은 단순히 코드를 변형하는 것을 넘어, 실패를 학습하고 알고리즘 계열을 전환하며, 일시적인 성능 저하를 감수하고 더 나은 해를 찾는 **과학적 발견 과정 (Scientific Discovery Process)**을 자동화합니다.
시스템 설계의 자동화: 복잡한 시스템 문제 (멀티 클라우드, LLM 라우팅 등) 에서 인간 전문가의 직관과 수학적 최적화 기법을 결합한 새로운 휴리스틱을 자동으로 생성할 수 있음을 입증했습니다.
미래 지향성: 단일 에이전트의 한계를 넘어, 다중 에이전트 간의 구조화된 지식 공유를 통해 장기적인 연구 탐구를 가능하게 함으로써, AI 가 시스템 공학 및 알고리즘 설계 분야에서 진정한 '연구 파트너'로 성장할 수 있는 토대를 마련했습니다.

요약하자면, Engram은 LLM 이 복잡한 시스템 최적화 문제에서 국소 최적점에 갇히거나 컨텍스트 한계로 인해 실패하는 문제를 해결하기 위해, 지식 축적을 위한 구조화된 손넘김 메커니즘을 도입함으로써 인간 전문가 수준의 성능을 넘어선 혁신적인 알고리즘을 발견한 획기적인 연구입니다.