AgentDecarbonizer: Carbon-Aware Execution for AI Agents
이 논문은 실행 불확실성과 캐시 재계산 오버헤드를 고려하면서, 마감 기한의 유연성을 활용하여 탄소 집약도가 낮은 시기나 더 깨끗한 그리드에서 작업을 스케줄링함으로써 AI 에이전트의 탄소 배출량을 최대 57.9%까지 줄이는 탄소 인지형 실행 최적화 도구인 AgentDecarbonizer를 소개한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
컴퓨터가 계산을 수행할 때마다 전력망으로부터 전기를 끌어다 씁니다. 이 전기는 항상 깨끗한 것은 아닙니다. 전력이 어디에서 오는지, 그리고 언제 생성되는지에 따라 대기 중으로 배출되는 이산화탄소의 양은 달라질 수 있습니다. 최근 몇 년 사이, 복잡하고 다단계적인 사고가 가능한 디지털 비서 역할을 하는 새로운 종류의 소프트웨어가 등장했습니다. 단일 질문에 답하고 멈추는 단순한 챗봇과 달리, 이러한 자율 에이전트는 긴 여정을 계획하고, 이를 더 작은 작업들로 나누며, 정보를 수집하기 위해 도구를 사용하고, 진행 과정에서 스스로 실수를 바로잡을 수 있습니다. 이들은 인간의 지속적인 감독 없이도 코드를 작성하거나, 데이터를 분석하거나, 일정을 관리할 수 있습니다. 하지만 이러한 에이전트들은 표준적인 채팅보다 더 오랜 기간 실행되며 기초가 되는 인공지능 모델에 훨씬 더 많은 요청을 보내기 때문에, 에너지를 상당히 더 많이 소비합니다. 이러한 도구들이 보편화됨에 따라, 그 끝없는 사고가 초래하는 탄소 발자국은 심각한 환경적 우려가 되고 있습니다.
워털루 대학교와 시카고 대학교의 연구진은 이러한 디지털 비서들의 효율성을 떨어뜨리거나 성능을 낮추지 않으면서도, 이들을 더 친환경적으로 만들기 위해 설계된 새로운 시스템을 개발했습니다. 그들은 이 도구를 '에이전트 디카보나이저(AgentDecarbonizer)'라고 부릅니다. 이것이 어떻게 작동하는지 이해하려면, 먼저 이 에이전트들이 어떻게 작동하는지를 살펴보아야 합니다. 에이전트에게 작업이 주어지면, 그것은 단 한 번만 생각하는 것이 아니라 루프(loop)를 돌며 생각합니다. 질문을 던지고, 답변을 받고, 웹 검색이나 파일 편집기와 같은 도구를 사용한 뒤, 그 새로운 정보를 바탕으로 다음 질문을 던지는 과정을 거칩니다. 이 순환은 여러 번 반복됩니다. 연구진은 이 과정이 '입력(input)' 측면에서 매우 무겁다는 것을 발견했는데, 이는 에이전트가 대화 기록과 이전 단계들을 모델에 계속 알려주기 위해 방대한 양의 텍스트를 컴퓨터 모델로 보내기 때문입니다. 에이전트가 대화 기록의 일부를 자주 반복하기 때문에, 컴퓨터 시스템은 이미 처리한 내용을 기억하는 기술인 '컨텍스트 캐싱(context caching)'을 통해 에너지를 절약할 수 있습니다. 만약 에이전트가 같은 위치에 머물러 있다면, 저장된 기억을 재사용할 수 있습니다. 하지만 다른 위치로 이동하게 되면, 기존의 것을 잊고 다시 배워야 하며, 이는 에너지를 낭비하게 됩니다.
연구팀은 이러한 에이전트를 실행하는 데 드는 탄소 비용이 두 가지 요소, 즉 컴퓨터가 어디에 위치해 있는지와 작업이 언제 수행되는지에 따라 크게 달라진다는 것을 발견했습니다. 세계 각 지역의 전력망은 서로 다른 에너지원에 의존합니다. 어떤 지역은 탄소를 거의 배출하지 않는 풍력, 태양광 또는 수력 댐에서 대부분의 전력을 얻습니다. 반면, 다른 지역은 탄소를 훨씬 더 많이 배출하는 석탄이나 가스와 같은 화석 연료에 더 많이 의존합니다. 게다가 에너지의 구성은 하루 중에도 변합니다. 태양 빛이 비치는 정오에는 그리드가 매우 깨끗할 수 있지만, 태양광을 사용할 수 없는 밤이 되면 더 지저-운 상태가 될 수 있습니다. 연구진은 특정 지역에서 특정 시간에 실행되는 에이전트가 다른 지역이나 다른 시간에 실행되는 동일한 에이전트에 비해 거의 세 배에 달하는 탄소 배출량을 생성할 수 있음을 관찰했습니다.
이를 해결하기 위해 연구진은 에이전트와 함께 실행되는 스마트 스케줄러로서의 역할을 수행하는 에이전트 디카보나이저를 구축했습니다. 에이전트가 작업을 즉시 시작하도록 내버려 두는 대신, 이 시스템은 앞을 내다봅니다. 시스템은 작업이 얼마나 걸릴지 추정하고, 세계 각지의 전기 청결도 예보를 확인합니다. 만약 에이전트에게 24시간 이내에 완료해야 하는 작업처럼 유연한 마감 기한이 있다면, 시스템은 그리드가 가장 깨끗한 시간까지 기다릴 수 있습니다. 또한 시스템은 작업을 더 깨끗한 공기가 있는 지역으로 옮길 수도 있습니다. 그러나 시스템은 단순히 서류상으로 더 깨끗해 보인다고 해서 작업을 옮기지는 않습니다. 시스템은 깨끗한 전력을 사용하는 데 드는 에너지 절감량이 에이전트의 메모리를 새로운 위치로 옮기는 데 드는 노력에 의해 낭비되지는 않을지 계산합니다. 만약 옮기고 다시 배우는 비용이 너무 높다면, 설령 현지의 전력이 약간 더 지저분하더라도 시스템은 에이전트를 원래 위치에 그대로 둡니다.
연구진은 과학 논문을 분석하거나 컴퓨터 코드를 디버깅하는 등 60개의 현실적인 작업 모음집을 사용하여 이 시스템을 테스트했습니다. 그들은 다양한 에너지 구성을 가진 네 개의 서로 다른 전력망에서 이 작업들을 실행했습니다. 결과에 따르면, 작업의 시기와 장소를 신중하게 선택함으로써 탄소 배출량을 획기적으로 줄일 수 있었습니다. 작업을 완료하는 데 꼬박 하루의 시간이 주어졌을 때, 이 시스템은 탄소를 무시하는 표준적인 방식에 비해 탄소 배출량을 최대 57.9%까지 줄였습니다. 단 3시간의 마감 기한이 있는 촉박한 상황에서도, 시스템은 여전히 34% 이상의 탄소 배출량을 줄이는 데 성공했습니다. 이 시스템은 단순히 언제 어디서 작업을 수행할지에 대해 더 똑똑하게 행동하는 것만으로도, 강력한 디지털 비서들을 더 지속 가능하게 만들 수 있다는 것을 입증했으며, 이를 통해 인공지능의 미래가 지구의 기후를 희생시키지 않도록 보장했습니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.