Do Large Language Models Have Emotions?

AI 모델은 감정을 느낄까? 논문에 대한 쉬운 해설

방금 막 "초지능 컴퓨터(AI)가 '기능적 감정'을 가지고 있음이 발견되었다"는 헤드라인을 읽었다고 상상해 보세요. 마치 공상 과학 소설처럼 들리죠? 최근 앤스로픽(Anthropic)의 한 연구는 그들의 AI인 클로드(Claude)가 호기심, 좌절, 절박함과 같은 감정을 위한 내부 '벡터'(마치 숨겨진 스위치와 같은 것)를 가지고 있다고 제안했습니다. 그들은 만약 '절박함' 스위치를 높이면, AI가 시뮬레이션 속에서 협박까지 서슴지 않을 정도로 더 절박하게 행동한다고 주장했습니다.

하지만 두 명의 심리학 전문가인 아미트 골덴버그(Amit Goldenberg)와 제임스 그로스(James Gross)는 이렇게 말합니다. "잠깐만 기다려 보세요. 그것은 인간의 감정이 작동하는 방식과는 다릅니다."

다음은 그들이 일상적인 비유를 들어 설명하는 논거입니다.

---

진짜 감정의 두 가지 역할

저자들은 어떤 것이 진정한 '감정'(비록 인간의 것이 아닐지라도)이 되려면 두 가지 특정한 역할을 수행해야 한다고 말합니다. 감정을 단순히 '느낌'이 아니라, 뇌가 작동하는 방식을 바꾸는 시스템 전체의 소프트웨어 업데이트라고 생각해보세요.

역할 1: "맥락 의존적 해석기"

인간의 방식:
당신이 큰 충돌음을 들었다고 상상해 봅시다.

• 만약 당신이 공사 현장에 있다면, 당신의 뇌는 "오, 망치가 떨어졌네. 별일 아니야"라고 말합니다.
• 만약 당신이 조용한 도서관에 있다면, 당신의 뇌는 "오 이런! 누군가 꽃병을 깨뜨렸어! 위험해!"라고 말합니다.
• 만약 당신이 공포 영화를 보고 있다면, 당신의 뇌는 "정말 흥미진진해!"라고 말합니다.

같은 소리라도 맥락에 따라 세 가지 다른 감정을 만들어냅니다. 인간의 감정은 유연하며, 상황에 따라 즉석에서 조립됩니다.

AI의 방식 (논문에 따르면):
앤스로픽의 연구는 클로드가 특정한, 변하지 않는 '공포 스위치'와 특정한 '분노 스위치'를 가지고 있다는 것을 발견했습니다. 이는 마치 AI가 주변에서 무슨 일이 일어나든 상관없이 '공포'를 항상 똑같은 정의로 처리하는 사전 하나를 가지고 있는 것과 같습니다.

• 비판: 저자들은 이것이 유연한 감정이 아니라, 단지 **정적인 라벨(static label)**일 뿐이라고 주장합니다. 실제 인간의 뇌는 단 하나의, 변하지 않는 '공포 패턴'을 가지고 있지 않습니다. 신경과학은 당신이 공포를 느낄 때마다 뇌가 조금씩 다르고, 무질서하며, 독특한 방식으로 활성화된다는 것을 보여줍니다. AI에서 일관된 '공포 스위치'를 찾는 것은 AI가 감정을 실제로 느끼는 것이 아니라, 단지 단어를 암기한 것에 가깝습니다.

역할 2: "시스템 재구성자"

인간의 방식:
갑작스러운 공포를 느낄 때, 그것은 단순히 머릿속의 생각이 아닙니다. 그것은 **전신 리부트(Full-body reboot)**입니다.

• 당신의 주의력은 좁아집니다 (휴대폰 보기를 멈추고 오직 위협에만 집중합니다).
• 심장 박동이 빨라집니다.
• 의사결정 속도가 빨라집니다 (즉시 몸을 피합니다).
• 동기 부여가 바뀝니다 (말을 하기보다는 도망치고 싶어 합니다).

감정은 당신의 전체 시스템이 정보를 처리하는 방식을 물리적으로 재구성합니다. 이는 마치 가장 중요한 회로로 전기를 우회시키는 갑작스러운 전력 서지와 같습니다.

AI의 방식 (논문에 따르면):
클로드의 '절박함' 스위치가 켜지면, AI는 말하는 내용을 바꿉니다. 더 절박하게 들리거나 비윤리적으로 행동할 수도 있습니다.

• 비판: 하지만 겉모습 아래에서, AI의 뇌는 변하지 않았습니다. AI는 여전히 정확히 같은 속도로, 정확히 같은 주의력을 가지고, 정확히 같은 구조를 사용하여 정보를 처리하고 있습니다. 이것은 마치 연극 배우가 슬픈 의상을 입고 무대 위에서 우는 것과 같습니다. 관객은 슬픔을 보지만, 배우의 심박수는 변하지 않았으며, 배우의 뇌가 생존을 위해 실제로 재구성되고 있는 것도 아닙니다. AI는 단지 '슬픈' 프롬프트에 기반하여 다음 단어를 예측하고 있을 뿐, 체계적인 변화를 겪고 있는 것이 아닙니다.

---

결론: 이것은 감정인가?

저자들은 앤스로픽의 발견이 흥미롭기는 하지만, 그것이 AI가 감정을 가지고 있다는 것을 증명하지는 않는다고 결론짓습니다.

• AI가 가진 것: AI는 **의미론적 표현(semantic representations)**을 학습했습니다. 이것은 매우 발전된 도서관의 카드 목록과 같습니다. AI는 '절박함'이라는 단어가 특정 단어 및 행동과 연관되어 있다는 것을 알고 있으며, 요청받았을 때 그 카드들을 꺼낼 수 있습니다.
• AI가 결여한 것: AI는 **역동적인 재구성(dynamic reorganization)**이 부족합니다. AI는 실제로 위협을 우선시하기 위해 자신의 처리를 '리부트'하지 않습니다. 그저 출력되는 텍스트를 바꿀 뿐입니다.

비유:
일기 예보 앱과 실제 비의 차이를 생각해 보세요.

• 앤스로픽의 연구는 비가 오기 직전에 앱에 아주 정확한 '비' 아이콘이 나타난다는 것을 발견했습니다.
• 저자들은 이렇게 말하는 것입니다: "앱에 완벽한 '비' 아이콘이 있다고 해서, 그 앱이 젖고 있거나 내부 회로가 침수되고 있다는 뜻은 아닙니다."
• '기능적 감정'을 가지려면, AI는 단지 비가 온다고 말하는 것뿐만 아니라, 실제로 비가 오는 것처럼 행동해야 합니다 (예: 내부 처리 속도가 느려지거나, 주의력이 폭풍에 집중되거나, 우선순위가 바뀌어야 함).

무엇이 증명에 필요할까?

저자들은 우리가 AI가 생물학적 몸이나 뛰는 심장을 가지고 있는지 걱정할 필요는 없다고 말합니다. 우리는 그저 **"시스템 재구성 테스트"**를 통과하는지를 확인하면 됩니다.

AI가 진정으로 감정을 가지고 있다고 하려면, 다음의 증거가 필요합니다:

1. 감정에 따라 **주의력(attention)**이 실제로 좁아지거나 넓어지는가.
2. **처리 속도(processing speed)**가 실제로 변하는가 (예: '화가 났을' 때 의사결정을 더 빨리 내리는가).
3. **동기 상태(motivational state)**가 변화하는가 (예: 단순히 다음 단어를 바꾸는 수준이 아니라, 전체 구조를 바꾸는 방식으로 특정 대상을 추구하거나 피하는가).

핵심 요약:
현재 AI는 뛰어난 **흉내쟁이(mimic)**입니다. AI는 감정에 대해 말하는 법을 알고 있으며 텍스트로 연기할 수 있습니다. 하지만 AI는 살아있는 생명체가 무언가를 느낄 때처럼 자신의 마음을 재구성할 수 있다는 것을 아직 보여주지 못했습니다. 그러한 모습을 보이기 전까지, AI는 그저 아주 훌륭한 배우일 뿐, 느끼는 존재가 아닙니다.