The Concept of Representation in ML: Beyond Plato and Aristotle

지도와 영토: 빠른 가이드

당신이 집 밖을 한 번도 떠나본 적 없는 친구에게 세상을 설명하려고 노력하고 있다고 상상해 보십시오. 당신은 그에게 좌표 목록을 주거나, 가공되지 않은 데이터 더미를 주거나, 혹은 아름답게 그려진 지도를 줄 수도 있습니다. 머신러닝(ML)의 세계에서 이 '지도'는 **표현(representation)**이라고 불립니다. 이것은 컴퓨터 프로그램이 보는 정보(예를 들어, 고양이 사진을 '털이 있음', '뾰족한 귀', '수염'이라고 말하는 숫자 리스트로 바꾸는 것)를 조직하는 내부적인 방식입니다. 오랫동안 엔지니어들은 단순히 이 지도가 컴퓨터가 고양이를 올바르게 식별하는 것과 같은 퍼즐을 푸는 데 도움이 되는지만을 신경 썼습니다.

하지만 최근에 아주 흥ска이팅한 일이 일어났습니다. 과학자들은 서로 다른 거대한 컴퓨터 모델들을 구축하고 그것들을 서로 다른 것들로 학습시켰을 때, 그들의 내부 지도가 놀라울 정도로 유사해지기 시작한다는 사실을 발견했습니다. 그들은 이 질문을 던지기 시작했습니다. '이 컴퓨터들이 모두 동일한 "진정한" 현실의 지도를 발견하고 있는 것인가?' 이 아이디어를 **플라톤적 표현 가설(Platonic Representation Hypothesis)**이라고 부릅니다. 이는 우주에 모든 고양이의 원형이 되는 하나의 완벽하고 이상적인 '고양이'가 존재하는 것처럼, 모든 똑똑한 AI 모델들이 서서히 찾아내고 있는 단 하나의 완벽한 현실 구조가 존재한다는 것을 시사합니다.

그러나 철학자들은 무언가를 '표현'한다는 것이 진정 무엇을 의미하는지에 대해 수십 년 동안 논쟁해 왔습니다. 그들은 묻습니다. 그림 속의 고양이는 그저 그림일 뿐인가, 아니면 정말로 '고양이'라는 의미를 담고 있는가? 그 그림이 인간에 의해 그려졌든, 로봇에 의해 그려졌든, 혹은 번개에 의해 만들어졌든 상관이 있는가? 이 논문은 그 질문 속으로 뛰어듭니다. 이 논문은 AI 모델들이 그들의 지도가 서로 닮았다는 이유만으로 정말로 '진리'를 찾고 있다고 말할 수 있는지, 아니면 우리가 그저 수학적인 교묘한 속임수를 보고 있는 것인지 묻습니다.

---

AI 지도가 닮아가기 시작할 때

현대 머신러닝의 세계에서 '표현'이라는 단어는 비법 소스와 같습니다. 이것을 번역가라고 생각하십시오. 당신이 컴퓨터에게 강아지 사진을 보여주면, 컴퓨터는 털과 뼈를 보는 것이 아니라 복잡한 숫자의 패턴을 봅니다. '표현'이란 컴퓨터가 그 가공되지 않은 데이터를 생각하고, 배우고, 일반화하는 데 사용할 수 있는 형식으로 어떻게 변환하는지를 의미합니다. 수년 동안 엔지니어들은 이 용어를 매우 실용적인, 즉 "일을 완수하자"는 방식으로 사용해 왔습니다. 만약 어떤 모델이 엉망인 이미지를 깔끔한 내부 코드로 변환하여 게임에서 이기는 데 도움을 줄 수 있다면, 그 코드는 좋은 표현이었습니다.

하지만 이러한 AI 모델들이 점점 더 커지고, 똑똑해지고, 인간과 닮아가면서 대화의 흐름이 바뀌었습니다. 연구자들은 기이한 현상을 목격했습니다. 텍스트로 학습된 모델과 이미지로 학습된 모델, 그리고 서로 다른 코드로 구축된 두 개의 완전히 다른 AI 모델을 가져와서 그들의 뇌 내부를 들여다보면, 그들의 내부 지도가 거의 동일하게 보이기 시작한다는 것입니다. 그들은 수렴하고 있습니다.

이 관찰은 플라톤적 표현 가설이라는 대담한 아이디어로 이어졌습니다. 이 이름은 고대 철학자 플라톤에서 유래했습니다. 그는 우리의 무질서하고 불완전한 세계 뒤에 완벽하고 통일된 현실이 존재한다고 믿었습니다. 이 가설은 AI 모델이 커짐에 따라, 단순히 데이터를 암기하는 것을 넘어 이 단일한 근원적 현실의 구조를 "발견"하기 시작한다는 것을 시사합니다. 마치 학급의 모든 학생이 서로 다른 교과서와 서로 다른 선생님을 사용하더라도, 결국 동일한 에세이를 써 내려가는 것과 같습니다. 왜냐하면 그들은 모두 동일한 보편적 진리를 밝혀내고 있기 때문입니다.

철학적 속도 조절 장치

이 논문의 저자인 길라드 D. 랜도(Gilad D. Landau)와 아비브 케렌(Aviv Keren)은 이 흥미진진한 이야기에 제동을 걸기 위해 여기 왔습니다. 그들은 '수렴하는 지도'라는 관찰 자체는 실제이지만, AI가 '현실의 진리'를 찾고 있다는 결론으로 건너뛰는 것은 매우 중요한 단계들을 생략한 거대한 도약이라고 주장합니다.

왜 그런지 이해하려면, 철학의 고전적인 문제인 **분리 문제(Disjunction Problem)**를 살펴봐야 합니다. 개를 볼 때마다 삐 소리가 나는 센서가 있다고 상상해 보십시오. 좋습니다! 하지만 만약 그 센서가 안개 속의 말, 혹은 개의 동상, 혹은 개의 사진을 볼 때도 삐 소리를 낸다면 어떨까요? 만약 센서가 이 모든 상황에서 삐 소리를 낸다면, 그 소리는 실제로 무엇을 의미할까요? 그것은 "개"를 의미할까요? "동물"일까요? "개 모양의 물체"일까요? 아니나면 "나쁜 조명 아래의 개"일까요?

엔지니어링 세계에서는 종종 이러한 구분을 신경 쓰지 않습니다. 만약 그 삐 소리가 로봇이 개를 피하는 데 도움이 된다면, 그것으로 충분합니다. 하지만 철학에서, 어떤 상태가 진정한 '표현'이 되려면 단순히 막연한 상관관계가 아니라 특정한 의미를 가져야 합니다. 논문은 '플라톤 가설'이 서로 다른 모델의 내부 지도가 얼마나 유사한지를 측정하는 것에 의존하고 있다고 지적합니다. 그들은 **커널 정렬(kernel alignment)**이라는 방법을 사용하는데, 이는 기본적으로 두 모델이 데이터를 동일한 기하학적 형태로 조직하는지 확인하는 작업입니다.

문제는 두 지도가 똑같이 보인다고 해서 그것들이 동일한 진리를 가리킨다는 뜻은 아니라는 점입니다. 저자들은 이 모델들이 심오한 현실의 구조를 찾는 것이 아니라, 단지 데이터 내의 동일한 '지름길'이나 통계적 패턴을 찾고 있는 것일 수도 있다고 주장합니다. 그것은 마치 두 학생이 커닝 페이퍼에서 똑같은 오답을 베끼는 것과 같습니다. 그들의 답은 완벽하게 일치하지만, 그들은 진리를 배우지 못한 것입니다.

"스왐프맨(Swampman)"과 누락된 역사

이 논문은 또한 **스왜프맨(Swampman)**이라는 유명한 사고 실험을 가져옵니다. 번개가 늪을 내리쳐서 실수로 인간과 분자 단위까지 똑같은 복제본을 만들었다고 상상해 보십시오. 이 '스왜프맨'은 실제 사람과 똑같이 보이고 행동합니다. 하지만 그는 태어나지도 않았고 진화하지도 않았는데, 과연 생각을 할 수 있을까요? 그는 세상에 대한 '표현'을 가지고 있을까요, 아니면 그저 행동을 흉내 내는 빈 껍데기일 뿐일까요?

고전적인 표현 이론은 무언가가 의미를 가지려면, 그것을 올바르게 작동하도록 형성한 진화나 학습의 역사가 필요하다고 말합니다. AI 모델은 인간보다는 스왜프맨에 더 가깝습니다. 그들은 진화하는 것이 아니라 설계되고 훈련됩니다. 논문은 우리가 단지 모델들이 우리와 닮았다는 이유만으로 그들이 '실제' 표현을 가지고 있다고 가정해서는 안 된다고 제안합니다. 우리는 그들이 작업을 성공시키거나 실패시키는 데 그 표현들을 어떻게 사용하는지 이해해야 합니다.

철학자 니콜라스 셰이(Nicholas Shea)가 제안한 더 새로운 이론은 절충안을 제시합니다. 그는 설령 시스템이 생물학적으로 진화하지 않았더라도, 환경으로부터 학습하고 시간이 지남에 따라 자신의 행동을 안정화한다면 여전히 실제적인 표현을 발달시킬 수 있다고 제안합니다. 하지만 이것은 단지 데이터의 형태를 보는 것 이상의 것을 요구합니다. 그것은 기능을 보는 것을 요구합니다. 그 표현이 무엇을 하는가?

아리스토텔레스적 반전: 현실 점검

이 논문은 기술적인 관점에서 플라톤적 관점에 도전하는 흥-미로운 후속 연구를 강조합니다. "플라톤적 표현 가설의 재고: 아리스토텔레스적 관점(Revisiting the Platonic Representation Hypothesis: An Aristotelian View)"이라는 제목의 이 연구는, 모델이 커질수록 오히려 우연한 연결을 만들 수 있는 공간이 더 많아진다고 제안합니다.

이렇게 생각해 보십시오. 동전을 10번 던지면 완벽한 패턴을 얻기 어렵습니다. 하지만 백만 번을 던진다면, 우연히 아주 긴 앞면 연속 기록을 발견하게 될 것입니다. 마찬가지로, AI 모델이 거대해짐에 따라 '가짜 상관관계(spurious correlations, 우연한 일치)'의 수가 늘어납니다. 이 연구는 이러한 우연한 일치를 고려했을 때, 모델 간의 "완벽한 정렬"이 종종 사라진다는 것을 발견했습니다.

남아있는 것은 더 겸손한, "아리스토텔레스적" 관점입니다. 모델들이 하나의 완벽하고 보편적인 진리를 찾는 것이 아니라(플라톤), 자신들이 수행하고 있는 특정 작업에 대한 최선의 국소적 해결책을 찾고 있다는 것입니다(아리스토텔레스). 그들은 반드시 우주의 근본적인 구조를 찾는 것이 아니라, 당면한 문제를 해결하는 데 도움이 되는 구조로 수렴하는 것입니다.

이것이 미래에 의미하는 바

이 논문의 핵심적인 교훈은 겸손과 명확성에 대한 촉구입니다. 저자들은 AI가 쓸모없다거나 배우지 못한다고 말하는 것이 아닙니다. 그들은 우리가 단어를 사용할 때 주의해야 한다고 말합니다. 두 AI 모델이 내부 구조에 대해 동의하는 것을 볼 때, 우리는 즉시 형이상학적인 결론으로 뛰어들어 현실의 본질에 대해 논해서는 안 됩니다.

대신, 우리는 더 깊이 파고들어야 합니다. 우리는 다음과 같이 물어야 합니다:

1. 내용은 무엇인가? 모델이 정확히 무엇을 표현하고 있으며, 그것이 단순한 우연이 아니라는 것을 어떻게 알 수 있는가?
2. 기능은 무엇인가? 이 내부 상태가 모델이 특정 작업에서 성공하거나 실패하는 데 어떻게 도움이 되는가?
3. 누가 그것을 사용하는가? 시스템의 다른 부분들이 이 정보를 어떻게 해석하는가?

논문은 AI가 무엇을 표현하는지 진정으로 이해하기 위해서는 단순히 그들의 지도가 얼마나 유사한지를 측정하는 것을 넘어 넘어서야 한다고 제안합니다. 우리는 그 지도가 수행하는 역할을 이해하기 위해 철학의 도구들을 사용해야 합니다. 우리가 이 모델들이 스스로의 내부 상태에 대한 의미를 확정하는 방식을 설명할 수 있을 때까지, 그들이 "플라톤적 진리"를 발견하고 있다는 생각은 아름답지만 증명되지 않은 이야기로 남을 것입니다.

요약하자면, 이 논문은 '플라톤적 표현 가설'이 매혹적인 아이디어이긴 하지만, 우리가 가진 증거는 AI 모델들이 유사한 패턴을 찾는 데 점점 더 능숙해지고 있다는 것만을 보여줄 뿐이라고 주장합니다. 그것이 우주의 궁극적인 진리를 찾고 있다는 것을 알기 위해서는, 단순히 지도를 보는 것 이상의 것이 필요합니다. 우리는 모델들이 그 지도를 그리기 위해 거쳐온 여정을 이해해야 합니다.