The ultimate carbon cost of a ChatGPT query

우리가 컴퓨터에게 이야기를 써달라고 하거나, 수학 문제를 풀게 하거나, 문서를 요약해 달라고 요청할 때, 우리는 거대하고 보이지 않는 에너지와 자원의 네트워크를 활용하는 것입니다. 대규모 언어 모델(LLM)로 알려진 이 시스템들은 인간과 같은 방식으로 생각하는 것이 아니라, 수십억 번의 미세한 수학적 계산을 수행함으로써 정보를 처리합니다. 사용자가 메시지를 보낼 때마다 시스템은 종종 거대한 데이터 센터에 위치한 강력한 하드웨어를 활성화하여 이 숫자들을 계산해야 합니다. 이 과정은 전기를 소비하고 열을 발생시키며, 이는 결과적으로 대기 중으로 온실가스를 배출합니다. 질문을 입력하는 행위는 즉각적이고 무게감이 없는 것처럼 느껴지지만, 그 이면의 물리적 기계 장치는 지구에 실질적인 흔적을 남깁니다. 과학자들은 오랫동안 이 기계들이 얼마나 많은 에너지를 사용하는지 연구해 왔지만, 새로운 관점은 다른 질문을 던집니다. 바로 그 에너지의 진정한, 장기적인 비용이 인류의 미래에 어떤 대가를 치르게 할 것인가 하는 점입니다.

최근 폴 크론(Paul Kron)의 연구는 단 한 번의 컴퓨터 쿼리와 기후 변화의 궁극적인 비용 사이의 연결 고리를 찾음으로써 이 질문에 답하고자 합니다. 이 연구는 컴퓨터 칩이 사용하는 에너지 양, 이 칩들에 전력을 공급하는 전기로 인해 배출되는 탄소량, 그리고 이러한 배출로 인해 발생하는 장기적인 경제적 피해에 대한 데이터를 결합합니다. 저자는 "궁극적 탄소 비용(ultimate carbon cost)"이라는 개념을 도입했는데, 이는 단 한 번의 채팅에서 발생하는 오염을 수천 년에 걸친 미래 세대에 가해지는 해악을 반영하는 화폐 가치로 변환하려는 시도입니다. 이 접근 방식은 단순히 이산화탄소의 양을 세는 것을 넘어, 우리의 디지털 습관이 가져올 더 넓은 결과들을 이해하고자 합니다. 이 연구는 특히 인기 있는 챗봇인 ChatGPT를 사례 연구로 사용하여 인공지능의 숨겨진 환경적 발자국을 드러내는 데 집중합니다.

연구진은 먼저 이러한 모델들을 구동하는 컴퓨터를 구축하고 운영하는 데 드는 물리적 비용을 살펴보았습니다. 그들은 특수 프로세서나 서버와 같은 하드웨어를 제조하는 동안 발생하는 배출량과 이를 계속 가동하는 데 사용되는 에너지를 계산했습니다. 그들은 GPT-4와 같은 하나의 고급 모델을 훈련시키는 데 막대한 양의 컴퓨팅 파워가 필요하며, 이는 약 1만 톤의 이산화탄소 상당량을 배출하는 것으로 추정된다고 계산했습니다. 이는 수천 명의 연간 배출량과 맞먹는 엄청난 양의 오염입니다. 그러나 이 모델은 수백만 명의 사람들에 의해 수십억 개의 질문에 사용되기 때문에, 연구진은 이 거대한 총량을 질문 횟수로 나누어 개별 상호작용의 비용을 찾아냈습니다. 그들은 이 모델이 주요 운영 기간 동안 약 1.4조 번의 검색에 사용되었다고 추정했습니다. 훈련 과정에서의 배출량을 이 모든 질문에 분산시키면, 개별 쿼리당 할당되는 몫은 놀라울 정도로 작아져 탄소 1그램의 아주 작은 파편에 불과하게 됩니다.

하지만 비용의 진짜 무게는 각 특정 질문에 답하기 위해 사용되는 전기에서 발생합니다. 필요한 에너지의 양은 질문이 얼마나 복잡한지, 그리고 컴퓨터가 얼마나 많은 단어, 즉 '토큰'을 처리해야 하는지에 따라 크게 달라집니다. 단순하고 짧은 대화의 경우 에너지 사용량은 낮습니다. 하지만 코드 작성, 긴 문서 분석, 또는 다단계 문제 해결과 같은 복잡한 작업의 경우, 컴퓨터는 훨씬 더 많은 계산을 수행해야 합니다. 연구에 따르면 단순한 쿼리는 천 개의 토큰을 포함할 수 있는 반면, 복잡한 쿼리는 3만 개 이상의 토큰을 포함할 수 있습니다. 이러한 차이는 환경적 영향력을 극적으로 변화시킵니다. 연구진은 이러한 다양한 시나리오에 필요한 에너지를 계산하고 그 결과로 발생하는 탄소 배출 비용을 적용하여, 각 상호작용에 대한 구체적인 가격표를 산출했습니다.

연구는 대규모 언어 모델에 대한 단 한 번의 복잡한 쿼리의 궁극적 탄소 비용이 약 40센트라는 결론을 내립니다. 이 수치는 해당 질문에 답변하기 위해 배출된 온실가스로 인해 미래 인류가 입게 될 예상 피해를 나타냅니다. 더 단순하고 짧은 쿼리의 경우, 그 비용은 약 1센트로 떨어집니다. 40센트가 단 한 번의 상호작용 치고는 큰 금액이 아닌 것처럼 보일 수 있지만, 연구는 이러한 비용이 얼마나 빠르게 누적되는지를 강조합니다. 만약 사용자가 하루에 많은 복잡한 질문을 던지거나, 기업 전체가 시스템을 과도하게 사용한다면, 환경적 피해액은 수천 달러 또는 수백만 달러로 치솟을 수 있습니다. 또한 연구는 현재 이러한 시스템이 사용되는 방식이 종종 비효율적이라는 점을 지적합니다. 일부 내부 보고서에 따르면, 주요 기술 기업의 직원들이 훨씬 적은 양으로도 충분히 수행할 수 있었던 작업에 수십억 개의 토큰을 사용하여, 비례적인 이득 없이 불필요한 오염을 만들어냈다고 합니다.

과도한 사용과 관련된 높은 비용에도 불구하고, 연구는 평균적인 개인의 경우 챗봇 사용으로 인한 탄소 발자국이 자동차 운전이나 난방과 같은 다른 일상 활동에 비해 여전히 작다는 점에 주목합니다. 유럽의 평균적인 사람은 한 달에 약 750킬로그램의 이산화탄소 상당량을 배출합니다. 챗봇 사용만으로 동일한 수준의 오염에 도달하려면, 일반적인 인간의 사용량을 훨씬 뛰어넘는 수십억 개의 토큰을 처리해야 합니다. 그러나 연구는 이러한 기술이 우리 삶에 더 깊이 통합되고 더 복잡한 작업을 처리하게 됨에 따라, 총 사용량이 증가할 것이라고 경고합니다. 연구진은 기술 기업들의 현재 불투명성이 에너지 사용량과 토큰 수에 대한 정확한 수치를 알기 어렵게 만든다고 강조하는데, 이는 관련 데이터가 종종 숨겨져 있거나 추측에 의존하기 때문입니다.

이 논문은 궁극적으로 우리가 인공지능의 숨겨진 비용에 대해 더 인식할 필요가 있다고 주장합니다. 디지털 쿼리의 탄소 배출에 익숙한 화폐 가치를 부여함으로써, 이 연구는 기후 변화라는 추상적인 개념을 더 구체적이고 즉각적인 것으로 만들고자 합니다. 이는 기술이 큰 혜택을 제공하지만, 현재의 궤적은 지구와 미래 세대에 상당한 부담을 지우고 있다는 점을 시사합니다. 연구진은 더 나은 데이터, 더 효율적인 시스템, 그리고 우리의 디지털 선택이 환경에 미치는 영향에 대한 사고방식의 변화를 촉구합니다. 그들은 "궁극적 탄소 비용"을 이해하는 것이 개인과 정책 입안자들이 더 정보에 입각한 결정을 내릴 수 있도록 도와, 인공지능의 발전이 지구의 건강을 희생시키며 이루어지지 않도록 할 수 있다고 제안합니다. 이 연구는 문제를 해결했다고 주장하는 것이 아니라, 우리 디지털 미래의 진정한 가격에 대해 더 정직한 대화를 나누기 위한 길을 밝히는 데 목적이 있습니다.