기술 요약: 리 알제브로이드 상의 에이전트 기술 최적화 (LASKO)

1. 문제 정의

SKILLOPT와 같은 프레임워크로 대표되는 에이전트 기술 최적화는 구조화된 아티팩트(프롬프트, 루브릭, 스키마, 도구 계약, 검증기, 트레이스)를 편집함으로써 에이전트의 성능을 개선하는 것을 목표로 한다. 이 논문에서 식별된 핵심적인 어려움은 이러한 편집의 탐색 공간이 **평탄하지 않다(not flat)**는 점이다.

• 비가환성 (Non-Commutativity): 편집의 순서가 중요하다. 예를 들어, 정규화 규칙을 적용하기 전에 스키마를 수선하는 것이 그 반대로 적용하는 것보다 다른 결과를 낳을 수 있다. 국소적으로는 합리적으로 보이는 두 편집이 결합될 때 실패할 수 있으며, 약한 편집이 특정 시퀀스 내에서만 생산적이 될 수도 있다.
• 잠재적 구조 vs 가시적 효과 (Latent Structure vs. Visible Effects): 최적화 도구에 의해 선택된 편집 정책은 문서나 롤아웃에서 관찰되는 가시적인 변화와 동일하지 않다. 제어된 개입은 1차적으로는 보이지 않지만 미래의 구성을 유의미하게 영향을 미치는 내부 구현 좌표, 잠재 상태, 라우팅 컨텍락 또는 템플릿 변수를 수반한다.
• 현재 방법론의 비효fer 효율성: 단일 편집만을 검증하는 단기 호라이즌 루프는 결정적인 상호작용 효과를 놓치며, 순서가 있는 편집 프로그램의 전수 조사는 LLM 롤아웃 및 검증 비용이 매우 높기 때문에 계산적으로 불가능하다.

본 논문은 이것이 기하학적 문제라고 주장한다. 즉, 타입이 지정된 기술 아티팩트 주변의 국소 대수는 제어된 개입과 그 가시적 효과를 구분하는 형식주의를 필요로 한다는 것이다.

2. 방법론: LASKO 프레임워크

본 논문은 기술 최적화를 단순한 접다발(tangent bundle)이 아닌, 제어된 리 알제브로이드(controlled Lie algebroid) $A \to M_d$ 상의 모델로 도입하는 LASKO(Lie Algebroid SKill Optimization) 프레임워크를 소개한다.

2.1 수학적 형식주의

• 기저 범주 ($M_d$): 기저 공간은 **타입이 지정되고 앵커링된 마크다운 객체(typed, anchored Markdown objects)**의 접 카테고리이다. 여기에는 문서, 계획, 도구 계약, 검증기 트레이스가 포함된다. 유클리드 매개변수 공간과 달리, 이들은 특정 앵커(예: 가드레일, 스키마 필드, 증거 엣지)를 가진 구조화된 아티팩트이다.
• 리 알제브로이드 ($A$): 기술 상태 $x$에서의 파이버 $A_x$는 제어된 편집 정책(섹션 $s, t \in \Gamma(A)$)을 포함한다. 이는 아직 가시적인 변화가 아니라 개입 모드(예: "가드레일 강화", "스키마 수선")를 나타낸다.
• 앵커 맵 ($\rho$): 번들 맵 $\rho: A \to TM_d$는 제어된 개입을 마크다운 아티팩트에 대한 **가시적인 미분 효과(visible infinitesimal effect)**로 매핑한다.
  • 커널 ($\ker(\rho)$): 즉각적인 가시적 효과는 없으나 미래의 구성에 영향을 미치는 잠재 구조(템플릿 변수, 라우팅 선택, 숨겨진 상태)를 나타낸다.
• 리 브래킷 ($[\cdot, \cdot]_A$): 두 편집 정책을 결합할 때의 순서 민감도를 측정한다. 만약 $[s, t]_A \neq 0$이라면, 두 편집은 가환(commute)하지 않는다. 브래킷은 개입이 관측 가능한 역학으로 투영되기 전의 "구성 결함(composition defect)"을 포착한다.

2.2 운영 메커니즘

LASKO는 순방향-역방향 프로세스를 활용한다:

1. 순방향 패스 (접 함수, Tangent Functor): 국소 편집들이 리라이트(rewrites), 롤아웃, 관찰 컨텍스트를 통해 순방향으로 밀려 나간다.
2. 역방향 패스 (공접 구조, Cotangent Structure): 검증 손실, 비판, 실패 신호가 특정 아티팩트 앵커로 역방향으로 끌어올려진다(도식적 역전파).
3. 곡률 진단 (Curvature Diagnostics): 시스템은 비폐쇄성(non-closure)과 경로 의존성을 측정하기 위해 잔차를 계산한다:
   • 가시적 프로베니우스 잔차 ($R_{vis}$): 가시적 편집이 리 브래킷 하에서 닫히는지 측정한다.
   • 앵커 결함 잔차 ($R_{anchor}$): 추정된 개입 대수와 관찰된 가시적 브래킷 사이의 간극을 측정한다.
   • 커널 잔차 ($R_{ker}$): 가시적 아티팩트는 일치하지만 트레이스는 다른 숨겨진 절차적 상호작용을 포착한다.
   • 도식적 역전파 곡률 ($Curv_D$): 신용 할당(blame)의 경로 의존성을 측정한다.

최적화 목표는 작업 성능과 이러한 곡률 잔차들을 결합한 손실을 최소화하며, 편집이 가환하거나 그 비가환성이 고려되는 **저곡률 고정점(low-curvature fixed points)**을 찾는다.

3. 주요 기여

• 기하학적 정식화: 기술 최적화를 제어된 개입(섹션)과 가시적 효과(앵커)를 구분하는 리 알제브로이드 상의 최적화로 재정의하였다.
• 리 브래킷 스크리닝 (Lie-Bracket Screening): 리 브래킷을 저렴한 스크리닝 통계량으로 사용하는 방법을 제안한다. 높은 브래킷 값을 가진 쌍은 값비싼 검증을 수행할 후보로 식별되며, 낮은 브래킷 쌍은 필터링된다. 이는 무차별적인 순서 기반 열거를 목표 지향적인 쌍 조사(pair probing)로 대체한다.
• 마크다운의 접 카테고리: 국소 편집, 의존성 및 워크플로우 모포피즘(morphism)을 엄격하게 다루기 위해 타입이 지정된 마크다운 워크플로우를 위한 공식적인 접 카테고리를 정의하였다.
• 경험적 검증: LASKO가 전수 순서 쌍 탐색의 성능을 훨씬 적은 검증 비용으로 회복할 수 있음을 보여주는 예비 벤치마크 결과를 제공한다.

4. 실험 결과

본 논문은 그리디 단일 편집(Greedy Single-Edit), 랜덤 순서 쌍(Random Ordered Pairs), 전수 순서 쌍(Exhaustive Ordered Pairs), 그리고 LASKO-우선순위(LASKO-Prioritized) 전략을 비교하여 여러 통제된 벤치마크에서의 결과를 보고한다.

• Ten-Anchor 벤치마크: 통제된 10-앵커 체인에서, LASKO는 단 10개의 검증 프로브(및 90개의 저렴한 브래킷 프로브)만을 사용하여 1.000의 점수(전수 탐색과 일치)를 달了. 반면 그리디 방식은 0.240, 랜덤 쌍 방식은 0.266(평균)을 기록했다.
• 확장성: 편집 수가 증가함에 따라(최대 160개), 전수 탐색은 프로브의 이차적 성장(예: 160개 편집에 대해 25,441개 프로브)이 필요한 반면, LASKO는 선형적인 검증 프로브만으로 1.000의 점수를 유지했다.
• 실제 워크플로우:
  • 10-K 재무 연구 (BASKET/ROCKET): LASKO는 유효한 수선 순서(예: 테이블 추출 후 수치 게이팅)를 우선순위화하여, 전수 탐색의 183개 프로브 대신 29개의 검증 프로브로 1.000 점수를 달성했다.
  • Democritus/PSR 인과 매니폴드 (Causal Manifolds): 신체 운동 및 GLP-1 약물 연구를 위한 인과 매니폴드 수선 작업에서, LASKO는 전수 탐색(111개 프로브)과 일치하는 21개의 검증 프로브로 1.000 점수를 달성했다.
  • 제품 피드백 (Lovesac): 제품 리뷰 수선 작업에서도 유사한 결과가 관찰되었으며, LASKO는 19개의 검증 프로브를 사용하여 1.000 점수를 달성했다.
• 속도 향상: 다양한 서빙 모델(DeepSeek V3.1 4-bit, Nemotron, Llama 변형 포함)을 대상으로 테스트했을 때, LASKO는 3.69배에서 14.85배에 이르는 속도 향상을 보였다. 주요 동력은 비싼 LLM 검증 호출의 감소였으며, 브래킷 스크리닝은 검증 호출당 몇 초가 걸리는 데 비해 마이크로초(예: 72개 프로브에 0.000508초)가 소요되었다.

5. 의의 및 주장

본 논문은 LASKO가 에이전트 기술 최적화의 비효율성에 대한 구조적 솔루션을 제공한다고 주장한다. 기술을 리 알제브로이드의 섹션으로 모델링함으로써, 이 프레임워크는 다음을 명시적으로 고려한다:

1. 순서 의존성: 수선의 순서가 결정적임을 인식한다.
2. 잠재 상태: 편집이 즉각적인 아티팩트 형태는 변하지 않더라도 미래의 상호작용에 영향을 미치는 숨겨진 컨텍스트(커널)를 수반함을 인정한다.
3. 검증 경제성: 탐색 공간을 필터링하기 위한 수학적으로 근거 있는 방법을 제공한다. 리 브래킷은 전체 롤아웃 검증 비용을 치르기 전에 고가치 편집 상호작용을 식별하는 "스크리닝 장치" 역할을 한다.

저자들은 이것이 예비적(preliminary) 프레임워크임을 강조한다. 결과는 특정 통제된 벤치마크에서 "차수 단위(order-of-magnitude)의 속도 향상"을 보여주며, 이는 기술 편집의 기하학적 구조를 활용하여 에이전트의 자기 개선을 확장 가능하게 만들 수 있음을 시사한다. 본 논문은 모든 에이전트 정렬이나 추론 문제를 해결한다고 주장하는 것이 아니라, 앵커링되고 타입이 지정되었으며 순서에 민감한 구조화된 기술 아티팩트의 최적화 문제를 구체적으로 다룬다.