Measure Once, Model Everywhere: Model-Based Per-Request Resource Consumption for HTTP

기술 요약: 한 번의 측정, 어디서나 모델링 (Measure Once, Model Everywhere)

문제 정의
HTTP 기반의 지속 가능성 공시에 관한 현재의 제안들은 환경 정보로 무엇을 전송해야 하는가(예: 응답 헤더를 통한 전송)에 주로 집중하고 있으나, 실제 배포 환경에서 신뢰할 수 있는 요청당 값을 어떻게 생성할 것인가라는 실질적인 문제는 미해결 상태로 남겨두고 있다. 클라우드 네이티브 환경에서 자원은 탄력적이고 온디맨드 방식으로 추상화되어, 그 기저에 깔린 물리적 및 생태적 비용을 은폐한다. 서비스 제공자는 정보를 공개하고자 할 수 있지만, 요청 실행은 여러 시스템에 걸쳐 발생하는 경우가 많으며 프로토콜 경계에서는 세밀한 전력 텔레메트리(telemetry)를 이용할 수 없는 것이 일반적이다. 결과적으로 클라이언트와 운영자는 고비용 상호작용과 저비용 상호작용을 구분할 수 없게 되며, 이는 재시도 동작, 배치(batching), 또는 프롬프트 설계와 같은 의사 결정 과정에 생태적 비용을 반영하는 것을 방해한다.

방법론
본 논문은 정밀한 운영 환경의 전력 텔레메트리를 요구하지 않고도 HTTP 요청당 자원 소비량과 $CO_2e$를 추정하기 위한 모델 기반 접근 방식을 제안한다. 이 방법은 오프라인 측정과 온라인 추정을 분리한다:

1. 오프라인 벤치마킹: 전용 머신에서 Green Metrics Tool(GMT)을 사용하여 통제된 조건 하에 엔드포인트를 특성화한다. 워크로드 파라미터(예: 페이로드 크기, 토큰 수)를 체계적으로 변화시켜 노이즈로부터 에너지 신호를 분리한다.
2. 모델 도출: 이러한 측정을 바탕으로, 작고 컴팩트하며 엔드포인트별로 특화된 에너지 모델을 도출한다. 본 접근 방식은 표현력과 해석 가능성의 균형을 맞추기 위해 세 가지 모델 패밀리를 활용한다:
   • 상수 모델 (Constant Models): 입력값에 따라 에너지가 크게 변하지 않는 엔드포인트(예: 인증)를 위한 모델.
   • 선형 모델 (Linear Models): 관찰 가능한 특징에 따라 에너지가 비례하여 증가하는 엔드포인트(예: AI 추론의 토큰 수)를 위한 모델.
   • 곡선(구간별) 모델 (Curve/Piecewise Models): 뚜렷한 스케일링 체계를 보이는 엔드포인트(예: 파일 업로드)를 위해, 선형 보간법을 적용한 측정 지점들을 활용하여 표현함.
3. 특징 선택 (Feature Selection): 모델은 HTTP 서버 경계에서 관찰 가능한 특징(예: 요청 지속 시간, 전송 바이트, HTTP 메서드, 응답 상태)이나 내부 헤더를 통해 노출된 애플리케이션 제공 메타데이터(예: 추론을 위한 토큰 수)에 의존한다.
4. 배출량 계산: 예측된 에너지는 다음을 구분하여 배출량으로 변환된다:
   • 운영 배출량 (Operational Emissions): 예측된 에너지에 그리드 탄소 집약도($I$, 정적 또는 동적일 수 있음)를 곱하여 계산한다.
   • 내재 배출량 (Embodied Emissions): 하드웨어 제조 영향을 하드웨어의 운영 수명 동안 분할 상환하고, 요청 처리 시간을 기준으로 할당하여 계산한다.
5. 런타임 구현: 이 메커니즘은 ngx_http_js_module을 사용하는 nginx 확장 기능으로 구현된다. 런타임 시, 서버는 모델과 파라미터가 담긴 JSON 레지스트리를 로드한다. 각 요청에 대해, 확장 기능은 관련 특징을 추출하고 적절한 모델을 평가한 뒤, 응답 헤더를 통해 요청당 메타데이터를 방출한다.

주요 기여

1. 격차 식별: 본 논문은 프로토콜 수준의 질문인 '무엇을' 공시할 것인가와 시스템 수준의 질문인 '어떻게' 요청 단위의 값을 생성할 것인가를 분리하여, 후자가 현재의 지속 가능성 논의에서 핵심적인 격차임을 밝힌다.
2. 측정-모델 파이프라인: 통제된 오프라인 벤치마킹으로부터 컴팩트하고 해석 가능하며 실행 가능한 에너지 모델을 도출하는 파이프라인을 제안하며, 이는 AI 추론과 같이 애플리케이션 계층의 특징이 필요한 이질적인 엔드포인트에도 적합하다.
3. 서버 측 평가: 이러한 모델들이 어떻게 HTTP 서버 경계에서 평가되고 지속 가능성 메타데이터로 노출될 수 있는지 보여주는 동시에, 하위의 가정들(예: 그리드 집약도, 할당 방식)을 명시적으로 유지하는 방법을 제시한다.
4. 타당성 평가: 일반적인 웹 서비스와 AI 추론 엔드포인트를 대상으로 접근 방식을 평가하여, 운영 타당성과 낮은 런타임 오버헤드를 입증하였다.

결과

• 모델 정확도: 피팅된 모델들은 워크로드 의존적 동작을 성공적으로 포착하였다. CRUD 엔드포인트의 경우, 인증에는 상수 모델이 적합했으며, 파일 업로드 및 데이터 검색을 위한 곡선 모델은 페이로드 의존적 스케일링을 잘 포착하였다. AI 엔드포인트의 경우, 프롬프트 및 생성된 토큰 수를 사용하는 선형 모델이 관찰된 변동의 거의 대부분을 설명하였으며, 이는 거친 프롬프트 레이블만을 사용했을 때 나타나는 비단조적(non-monotonic) 동작을 교정하였다.
• 검증: 실제 사용자 여정을 시뮬레이션한 클릭 경로(click-path) 검증 결과, 모델 기반 추정치(611.1 mWh)는 측정된 머신 레벨 에너지(597.2 mWh)와 단 2.33%의 차이만을 보이며 올바른 차수를 유지하였다.
• 오버헤드: nginx 모듈을 활성화했을 때 전체 머신 에너지의 약 0.46%의 런타임 오버헤드가 발생하였으며, 경로별 변동은 플러그인 자체보다는 실행 간의 노이즈에 의해 지배되었다.
• 공시: 프로토타입은 Request-Energy, Grid-Intensity, Request-Embodied-CO2e, Request-SCI를 위한 별도의 헤더를 성공적으로 방출하여, 다운스트림 소비자가 계산 과정을 재구성할 수 있도록 하였다.

의의 및 주장
본 논문은 이 연구를 수요를 본질적으로 줄이기 위한 해결책이 아니라, 제약 기반 설계 전통(충족성, 절제, 탈성장, 그리고 저영향 서버 설계)을 위한 필수적인 기질(substrate)로 위치시킨다. 저자들은 이러한 전략이 기능하기 위해서는 요청이 발행되는 인터페이스에서 상호작용의 한계적 환경 비용이 가독성을 가져야 한다고 주장한다.

본 연구의 의의는 환경적 함의를 결정이 내려지는 지점에서 가시화할 수 있는 재현 가능하고 검사 가능한 방법을 제공함으로써, 소프트웨어 설계에서 생태적 비용이 구조적으로 배제되는 문제를 해결하는 데 있다. 저자들은 다음과 같은 과대광고를 경계한다:

• 이 값들은 인터페이스 수준의 추상화이지, 지상 실측치(ground-truth)에 의한 물리적 귀속치가 아니다.
• 이 방법은 그린워싱을 해결하거나 책임을 비대칭적으로 전가하는 것이 아니라, 그러한 비판이 효과적으로 작동하기 위해 필요한 가시성 계층을 제공하는 것이다.
• 이 접근 방식은 캘리브레이션 환경(하드웨어, 그리드, 공동 테넌시)에 대한 의존성을 가지며 주기적인 재교정이 필요하다.

요약하자면, 본 논문은 "한 번의 측정"이라는 추상적인 목표를 "어디서나 모델링"하는 배포 가능한 시스템으로 전환하는 실질적인 구현 경로를 제시한다.