💻 computer science

AAL: In-Band Source Annotations for Just-In-Time Context Injection in Autonomous Agentic Workflows

본 논문은 자율 에이전트를 위한 적시(Just-In-Time) 컨텍스트 주입을 가능하게 하는 새로운 인밴드(in-band) 어노테이션 시스템인 에이전틱 어노테이션 언어(Agentic Annotation Language, AAL)를 소개하며, 이는 기존의 글로벌 규칙 파일과 비교하여 도메인 특화 제약 조건에 대한 높은 준수율을 유지하면서도 토큰 소비와 컨텍스트 오염을 크게 줄여준다.

원저자: Jorge O Varona

게시일 2026-06-25

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Jorge O Varona

원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

거대한 문제: "과적된 배낭"

당신이 숙련된 요리사(AI 에이전트)이고, 거대하고 혼란스러운 주방(소프트웨어 개발 환경)에서 일하고 있다고 상상해 보세요. 양파 하나를 썰 때마다, 상사는 당신에게 양파 써는 법만 알려주는 대신, 식당 전체의 모든 레시피, 안전 매뉴얼, 재고 목록이 담긴 거대한 배낭을 건네줍니다.

이것이 논문에서 말하는 "컨텍스트 오염(Context Pollution)" 문제입니다.

기존 방식: 현재의 AI 코딩 도구들은 회사 전체를 위한 수천 개의 지침이 담긴 거대한 정적 파일(예: .cursorrules)을 불러옵니다.
결과: AI는 과부하가 걸립니다. 실제로 하는 일(배관 누수를 고치는 일)에 필요한 규칙(케이크 굽는 법)까지 읽느라 시간을 낭비합니다. 이로 인해 실제 작업을 수행하기 위한 "정신적 공간(토큰 예산)"이 부족해집니다. 이를 중요한 세부 사항이 소음 속에 파묻히는 "중간에서 길을 잃는(Lost in the Middle)" 현상이라고 합니다.

해결책: AAL (더 "포스트잇" 시스템)

저자들은 **AAL (Agentic Annotation Language)**이라는 새로운 시스템을 제안합니다. 거대한 배낭 대신, 요리사가 사용하는 특정 재료나 도구에 직접 붙여진 색깔별 포스트잇을 가지고 있다고 상상해 보세요.

작동 방식: 개발자는 전역적인 규칙 책을 만드는 대신, 편집 중인 코드 바로 옆에 작고 특별한 주석을 작성합니다.
- 예시: 비밀번호를 처리하는 코드 줄 옆에 # @!security라고 적습니다.
- 데이터 저장을 처리하는 코드 줄 옆에는 # @!storage라고 적습니다.
마법 같은 효과: AI가 해당 줄을 편집하려고 할 때, 스마트 엔진(리졸버, Resolver)이 그 포스트잇을 확인합니다. 그러면 엔진은 주방의 다른 모든 것은 무시하고, 오직 그 한 가지 작업에 필요한 지침만을 즉시 AI에게 전달합니다.

시스템이 사고하는 방식 (가계도 비유)

논문은 어떤 포스트잇이 적용되는지 판단하는 정교한 방법을 설명합니다. 코드를 하나의 **가계도(Family Tree)**라고 상상해 보세요:

뿌리(Roots): 프로젝트 폴 전체 (전역 규칙).
가지(Branches): "보안" 또는 "테스트"와 같은 특정 폴더.
잎(Leaves): 편집 중인 특정 코드 줄.

만약 당신이 "잎"을 편집하고 있다면, 시스템은 나무를 거슬러 올라가 특정 규칙이 있는 가장 가까운 "가지"를 찾습니다. 시스템은 그 규칙을 가져오고 나머지 나무는 무시합니다. 만약 가지에 특정 규칙이 없다면, 폴더 전체에 대한 기본 규칙으로 돌아갑니다. 이를 통해 서로 다른 부분에서 오는 충돌하는 지침 때문에 AI가 혼란을 겪는 일을 방지합니다.

핵심 기능 (쉬운 언어로 설명)

1. 적시 전달 (Just-In-Time Delivery)
이것은 레스토랑에서 음식을 주문하는 것과 같습니다.

기존 방식: 웨이터가 당신이 자리에 앉기도 전에 메뉴판, 와인 리스트, 디저트 카탈로그를 통째로 가져옵니다.
AAL 방식: 당신이 먹고 싶은 특정 요리를 고르면, 웨이터는 그 요리에 필요한 재료와 조리법만을 가져옵니다. 이는 시간과 종이를 엄청나게 절약해 줍니다.

2. "세 개의 포스트잇" 제한
AI가 다시 과부하 걸리는 것을 막기 위해, 시스템에는 규칙이 있습니다. 단 하나의 코드 조각에는 오직 세 개의 특정 지침만 붙일 수 있습니다. 이는 개발자가 단 하나의 코드 줄에 "소설"을 쓰는 것을 방지합니다.

3. 보안 및 감사 (타임머신 카메라)
기업들은 AI가 실수를 하거나 비밀 지침을 사용할까 봐 걱정합니다. AAL는 규칙의 "스냅샷"을 찍음으로써 이를 해결합니다.

이는 코드 변경 사항을 그 순간 사용된 규칙의 정확한 버전과 연결합니다.
6개월 후에 코드를 다시 보더라도, AI가 해당 변경을 수행할 때 어떤 "포스트잇"이 활성화되어 있었는지 정확히 확인할 수 있어 완전한 투명성을 보장합니다.

4. 안전망 (Safety Net)
만약 코드가 망가져서 컴퓨터가 "나무" 구조를 읽을 수 없다면 어떻게 될까요? 시스템에는 백업 플랜이 있습니다. 시스템은 키워드를 찾는 "검색 및 찾기" 모드(손전등으로 키워드를 비추어 찾는 것과 유사)로 전환하여, 코드가 엉망이더라도 AI가 작업을 멈추지 않도록 합니다.

결과: 숫자가 말해주는 것

연구진은 20가지의 다양한 작업(보안 수정, 데이터 관리, 테스트 작성 등)을 포함한 실제 소프트웨어 프로젝트에서 이를 테스트했습니다.

기존 방식: AI는 간단한 작업이라 할지라도 매번 4,923 단어(토큰) 분량의 지침을 읽어야 했습니다.
AAL 방식: AI는 실제로 필요한 지침만 읽었습니다.
- 테스트와 같은 간단한 작업의 경우, 1,100 단어 미만으로 떨어졌습니다.
- 보안과 같은 복잡한 작업의 경우 더 높았지만, 여전히 거대한 파일보다는 훨씬 적었습니다.
결론: 평균적으로 AAL은 AI가 읽어야 하는 양을 62.4% 줄였습니다.

요약

AAL은 거대하고 혼란스러운 백과사전을 스마트하고 문맥을 파악하는 포스트잇 세트로 교체하는 것과 같습니다. 이를 통해 AI 코딩 에이전트는 당면한 작업에만 집중할 수 있으며, 이는 시간을 절약하고, 오류를 줄이며, 모든 결정이 추적 가능하고 안전하게 유지되는 동시에 "정신적 작업 공간"을 깨끗하게 유지할 수 있게 해줍니다.

기술 요약: AAL – 적시 컨텍스트 주입을 위한 인밴드 소스 어노테이션 (In-Band Source Annotations)

1. 문제 정의

자율 소프트웨어 개발 에이전트(예: Cursor, GitHub Copilot Workspace)에 대규모 언어 모델(LLM)을 통합하면서, **컨텍스트 오염(context pollution)**이라 불리는 결정적인 성능 병목 현상이 발생했습니다. 현재의 패러다임은 모놀리식한 외부 시스템 파일(예: .cursorrules)에 의존하여, 에이전트가 매 작업마다 전체 저장소의 조직적 가이드라인을 컨텍스트 윈도우에 로드하도록 합니다. 이러한 접근 방식은 두 가지 주요 문제를 야기합니다:

토큰 예산 팽창 (Token Budget Inflation): 불필요한 가이드라인이 귀중한 입력 윈도우 제약 사항을 소비하여, 에이전트가 실제 코드를 생성하는 데 사용할 수 있는 용량을 제한합니다.
주의력 희석 (Attention Dilution): "Lost in the Middle" 현상 [1]을 인용하자면, 에이전트는 비대해진 시스템 프롬프트 내에서 관련 세부 정보를 찾는 데 어려움을 겪으며, 이는 실행 품질의 저하로 이어집니다.

2. 방법론: 에이전트 어노테이션 언어 (Agentic Annotation Language, AAL)

저자들은 정책 강제를 전역 파일로부터 분리하기 위해, 경량화된 인밴드 주석 어노테이션(예: # @!security)을 사용하여 도메인 특화 지침을 적시(Just-In-Time, JIT) 주입하는 "푸시 투 풀(push-to-pull)" 시스템인 AAL을 제안합니다.

핵심 아키텍처

시스템은 두 단계의 파싱 파이프라인을 통해 작동합니다:

호스트 추출 (Host Extraction): 호스트 IDE는 고유한 AST 파서(예: Roslyn, Tree-sitter)를 사용하여 코드에서 주석을 격리하고, 특정 AAL 구문을 이해할 필요 없이 원시 텍스트를 추출합니다.
AAL 검증 (AAL Validation): 추출된 페이로드는 정형 EBNF 문법에 따라 검증되어 도메인 키를 격리합니다 (예: Payload → AAL_Directive → [Domain1, ...]).

AST 인식 우선순위 및 스코프 해상도

AAL은 추상 구문 트리(AST)를 사용하여 스코프 해상도를 수학적으로 공식화합니다. 소스 파일은 유향 트리 $T = (V, E)$ 로 모델링됩니다. 편집이 발생하면 리졸버(resolver)는 다음을 수행합니다:

편집이 포함된 가장 깊은 매칭 구문 노드 $v^*$ 를 식출합니다.
$v^*$ 에서 모듈 루트까지의 조상 경로를 구성합니다.
이 경로에서 비어 있지 않은 어노테이션을 가진 첫 번째 노드를 선택하여 활성 도메인 집합 $D_{active}$ 를 결정합니다.
"중첩된 모놀리스(nested monolith)"의 비대화를 방-지하기 위해 노드당 3개의 도메인이라는 엄격한 상한선을 적용합니다.

하이브리드 레지스트리 및 캐싱

레지스트리 (Registry): 도메인 설정은 도메인을 로컬 경로 또는 외부 URI(소스 제어된 저장소로 제한됨)에 매핑하는 중앙 집중식 YAML 파일에 정의됩니다.
비차단 캐시 (Non-Blocking Cache): IDE 실행을 차단하는 네트워크 레이턴시를 피하기 위해, 원격 리소스는 라이프사이클 훅(예: 프리 커밋) 동안 로컬에 캐싱됩니다. 시스템은 동기적 요청을 수행하는 대신 Local_Cache_Path(URI)로부터 데이터를 읽습니다.
트윈 프로비넌스 감사 (Twin-Provenance Audit): 기업의 컴플라이언스를 보장하기 위해, 시스템은 스킬 디렉토리의 CLI 버전과 Git 커밋 SHA를 고정(pin)합니다. 이를 통해 저장소 상태가 에이전트의 결정을 지배하는 정확한 지침의 재현 가능한 아카이브 역할을 하는 불변의 감사 추적을 생성합니다.

엔지니어링 완화 조치

IDE의 응답성을 보장하기 위해 AAL은 다음을 채택합니다:

파일별 쓰기 트랜잭션 격리 (Per-File-Write Transaction Isolation): 다중 파일 모놀리식 프롬프트 저하를 피하기 위해 파일 쓰기 호출당 지침을 해결합니다.
비동기 컴파일 (Asynchronous Compilation): AST 생성 및 스캐닝은 루틴 훅(저장, 프리 커밋 등) 중에 백그라운드 스레드에서 실행되어, 키스트로크 레이턴시와 파서 실행을 격리합니다.
페일 소프트 폴백 (Fail-Soft Fallback): AST 생성에 실패할 경우(예: 구문 오류), 엔진은 이전 태그를 기준으로 라인 스캐닝 정규식 스캐너로 강등(degrade)되어 중단 없는 실행을 보장합니다.

3. 주요 기여

인밴드 컨텍스트 주입: 컨텍스트 관리를 전역 파일에서 코드가 관리하는 영역 바로 옆에 위치한 국소적 인라인 주석으로 이동시키는 새로운 프로토콜입니다.
AST 기반 우선순위 모델: 편집된 라인의 정확한 스코프를 기반으로 가장 구체적인 적용 가능한 도메인 지침을 결정하는 공식적인 메커니즘입니다.
트윈 프로비넌스 모델: 코드와 함께 스킬 및 오버라이드의 상태를 버전 관리함으로써, 에이전트의 결정이 감사 가능한 재현 가능한 지침에 의해 통제됨을 보장하는 컴플라이언스 프레임워크입니다.
하이브리드 로컬-원격 검색: 비차단 캐시를 통해 중앙 집중식 "골든 스탠다드"와 국소적 프로젝트 특수화 사이의 균형을 맞추는 시스템입니다.

4. 경험적 평가 및 결과

저자들은 보안(Security), 스토리지(Storage), 테스팅(Testing), 제네릭 헬퍼(Generic Helpers)의 4개 도메인에 걸친 20개 소스 파일 데이터셋을 사용하여 AAL을 모놀리식 베이스라인과 비교 평가했습니다. 베이스라인은 조직의 모든 지침을 포함하는 4,923-토큰의 정적 시스템 프롬프트를 사용했습니다.

정량적 결과:

토큰 감소: AAL은 에이전트의 토큰 소비량을 평균 62.4% 감소시켰습니다.
- 보안 작업: 26.3% 감소 (3,628 토큰 vs 4,923 토큰).
- 스토리지 작업: 65.6% 감소.
- 테스팅 작업: 77.7% 감소.
- 제네릭 작업: 79.9% 감소.
분포 분석: 결과는 헤비 테일(heavy-tail) 분포를 보여주었습니다. 보안 작업(고구성 밴드, High-Composition Band)은 재귀적 가이드라인 구성으로 인해 더 큰 컨텍스트를 유지한 반면, 테스팅 및 제네릭 작업(저구성 밴드, Low-Composition Band)은 가장 높은 효율성을 달성하여 약 1,000-토큰 범위로 수렴했습니다.
누적 절감량: 20개 작업 세트 전체에서 AAL은 모놀리식 베이스라인(37,042 토큰) 대비 61,400 이상의 누적 토큰을 절감했습니다 (98,460 토큰 대비).

5. 의의 및 주장

본 논문은 AAL이 에이전트에게 토큰 피로를 유발하지 않으면서도 "타겟이 풍부한(target-rich)" 컨텍스트를 전달하는 우아하고 분산된 방법을 제공한다고 주장합니다. 그 의의는 다음과 같습니다:

확장성: 에이전트가 사소한 변경을 위해 무관한 전역 컨텍스트 비용을 지불할 필요가 없으므로, 토큰 절감 효과는 국소적 편집의 수에 따라 곱절로 확장됩니다.
아키텍처 효율성: AAL은 단순히 렉시컬 밀도(lexical density)를 줄이는 것을 넘어 의미적 및 구조적 포함 관계를 타겟팅함으로써, 상위 구조적 게이트로서 기존의 프롬프트 압축 프레임워크(예: LLMLingua)를 보완합니다.
컴플라이언스: 트윈 프로비넌스 모델은 에이전트의 결정이 버전 관리되는 재현 가능한 지침에 의해 통제됨을 보장함으로써 기업의 진입 장벽을 해결합니다.

저자들은 AAL이 심오한 아키텍처 효율성을 입증했으나, 복잡한 멀티 턴 워크플로우에서 격리된 컨텍스트가 기능적 준수 여부를 저하시키지 않는지 확인하기 위해 합격/불합격 성공률을 매핑하는 후속 연구가 필요하다고 결론지었습니다.