Quantifying the Relationship Between Clinical Safety and Environmental Impact in Therapeutic LLMs

당신이 사람들의 가장 힘든 날을 함께 헤쳐 나갈 수 있도록 돕는 로봇 치료사를 만들고 있다고 상상해 보세요. 당신은 이 로봇이 매우 똑똑하고, 친절하며, 안전하기를 바랍니다. 그래서 위기 상황에 처한 사람에게 결코 잘못된 말을 하지 않도록 말이죠. 하지만 여기 문제가 하나 있습니다. 이 정도로 똑똑한 로봇을 만드는 데는 대화 한 번을 나누는 것만으로도 작은 도시의 발전소 전체를 돌리는 것만큼이나 엄청난 양의 전기가 필요하다는 점입니다. 이것이 바로 헬스케어 분야에서의 '대규모 언어 모델(인간처럼 대화할 수 있는 AI)'의 세계입니다. 과학자들은 한 가지 큰 질문을 던져 왔습니다. "가장 안전하고 도움이 되는 로봇을 만들면서도 지구를 태워버리지 않을 방법이 있을까?" 그들은 로봇이 신뢰할 수 있을 만큼 충분히 안전하면서도, 환경을 해칠 정도로 에너지를 갈구하지 않는 그 '최적의 지점'을 찾으려 노력하고 있습니다.

이 논문은 연구진들이 바로 그 정확한 절충점을 측정하기로 결정하며 작성되었습니다. 그들은 다양한 AI 모델 목록을 가져와 두 가지를 동시에 확인했습니다. 즉, AI가 위험한 정신 건강 상황(자해 생각 등)을 얼마나 잘 다루는지, 그리고 텍스트를 생성하는 데 에너지, 물, 탄소 오염을 얼마나 사용하는지를 확인한 것입니다. 이것은 자동차를 비교하는 것과 같습니다. 어떤 자동차는 매우 안전하지만 연비가 최악인 반면, 어떤 자동차는 아주 작고 효율적이지만 브레이크 성능이 아주 좋지는 않을 수 있습니다. 연구진은 "가장 안전한" AI 모델이 또한 "가장 낭비적인" 모델인지, 아니면 안전하면서도 친환경적인 모델을 얻을 수 있는지 확인하고 싶었습니다.

그들이 발견한 결과는 다음과 같으며, 이는 다소 놀랍습니다. 그들은 47개의 서로 다른 AI 설정을 조사했고 기묘하고 울퉁불퉁한 관계를 발견했습니다. 대체로, 에너지를 너무 많이 쓰지 않고도 꽤 안전한 AI를 얻을 수 있습니다. 하지만 만약 당신이 '절대적으로' 가장 안전한 모델, 즉 가장 높은 안전 점수를 가진 모델을 원한다면, 벽에 부딪히게 됩니다. 단 아주 조금의 안전성을 더 짜내기 위해서라도 에너지 비용은 폭발적으로 증가합니다. 구체적으로, 연구진은 안전 점수가 2.61 퍼센트 포인트 상승할 때(매우 좋은 점수에서 최고 점수로 올라갈 때), 동일한 양의 텍스트를 생성하는 데 약 60배 더 많은 에너지가 필요하다는 것을 발견했습니다. 이것은 마치 가게에 가기 위해 단 30초를 빨리 도착하려고 자동차를 시속 100마일로 몰아붙이는 것과 같습니다. 그 추가적인 속도는 실질적인 이득은 거의 없이 막대한 연료비를 요구합니다.

또한 논문은 인기 있는 아이디어를 테스트했습니다. "만약 우리가 AI가 더 깊이 생각하게 만든다면 어떨까?" 어떤 이들은 AI에게 답변하기 전에 더 많은 시간 동안 '추론'하거나 계산하도록 시간을 주면 더 안전해질 것이라고 믿습니다. 연구진은 추가적인 '생각 단계'를 사용하는 모델과 그렇지 않은 모델을 비교하여 이를 확인했습니다. 그 결과, 이러한 추가적인 생각 과정이 항상 AI를 더 안전하게 만드는 것은 아니라는 사실을 발견했습니다. 실제로 어떤 경우에는 더 많은 생각 단계를 추가하는 것이 오히려 안전 점수를 낮추는 결과를 낳기도 했습니다. 이는 단순히 문제 해결에 더 많은 컴퓨터 전력을 쏟아붓는 것이 마법 같은 해결책이 아님을 시사합니다.

그렇다면 결론은 무엇일까요? 저자들은 모든 대화에 대해 가장 크고 강력한 AI만을 선택해서는 안 된다고 제안합니다. 대신 그들은 "스마트 스위치" 접근 방식을 제 제안합니다. AI를 위한 교통 신호 체계를 상상해 보세요. 위험도가 낮은 일상적인 대화에는 작고 에너지 효율적인 모델을 사용하고, 진정으로 위험한 상황이 발생하여 그 추가적인 수준의 안전이 필요할 때만 거대하고 에너지를 많이 잡아먹는 '슈퍼 모델'을 켜는 방식입니다. 이렇게 하면, 불필요한 대화에 막대한 에너지를 낭비하지 않으면서도 사람들을 안전하게 지킬 수 있습니다. 이 연구는 단순히 '더 큰 것이 항상 더 낫다'고 가정하는 것보다 이러한 '동적(dynamic)' 접근 방식이 치료용 AI를 구축하는 데 훨씬 더 나은 방법임을 시사합니다.