사고의 형태: AI는 어떻게 자신만의 세계를 구축하는가

당신이 거대한 디지털 두뇌가 고양이를 인식하는 법을 배우는 과정을 이해하려고 노력하고 있다고 상상해 보십시오. 오랫동안 과학자들은 여러분이 즐겨 사용하는 챗봇이나 이미지 생성기 뒤에 있는 강력한 AI 모델인 이 '트랜스포머(Transformers)'를 신비로운 블랙박스로 취급해 왔습니다. 우리는 그것들이 놀라울 정도로 잘 작동한다는 것은 알았지만, 실제로 어떻게 학습하는지는 잘 알지 못했습니다. 그 내부를 들여다보기 위해, 연구자들은 AI가 만들어내는 '표현(representations)'을 관찰하기 시작했습니다. 이 표현들을 고차원 공간 속에 떠 있는 빛나는 점들의 구름이라고 생각해 보십시오. 각 점은 이미지의 한 조각(예: 털 뭉치나 귀의 일부)이며, 점들이 배치된 방식이 AI에게 무엇을 보고 있는지 알려줍니다.

이전에는 과학자들이 이 구름의 '스펙트럼'(점들이 얼마나 퍼져 있는지)이나 '기하학적 구조'(점들이 어떻게 군집을 이루는지)를 측정함으로써 이 구름을 연구했습니다. 그들은 AI가 학습함에 따라 구름이 확장되고 의미 있는 형태를 갖추며 조직화된다는 것을 발견했습니다. 하지만 퍼즐의 빠진 조각이 하나 있었습니다. 바로 '위상(topology)'입니다. 간단히 말해, 위상은 늘어나거나 구부러지는 것에 상관하지 않지만, 구멍과 연결에는 신경을 쓰는 형태를 연구하는 학문입니다. 이 구름은 하나의 커다란 단단한 덩어리일까요? 가운데에 구멍이 있는 고리 형태일까요? 아니면 서로 떨어져 있는 여러 개의 섬들일까요? 이 구름의 '형태'를 이해하는 것은 AI가 세상의 구조를 진정으로 이해하고 있는지, 아니면 단순히 패턴을 암기하고 있는지를 파악하는 데 도움을 줍니다. 이것이 바로 새로운 연구인 TGO-IV가 답하고자 하는 질문입니다.

---

논문: TGO-IV, 위상학적 탐정

**TGO-IV: 발전적 위상 관측소(Developmental Topology Observatory)**라는 제목의 이 새로운 연구에서, 인도 SVNIT의 카우스투브 카필(Kaustubh Kapil)과 키쇼르 P. 울라(Kishor P. Upla) 연구진은 비전 트랜스포머(이미지를 보는 유형의 AI)가 학습하는 '형태'를 돋보기로 들여다봅니다. 이들은 뉴로모픽 인텔리전스 리서치 컬렉티브(Neuromorphic Intelligence Research Collective)라는 더 큰 팀의 일원이며, 이번 연구는 그들의 '트랜스포머 기하 관측소(Transformer Geometry Observatory)' 시리즈의 네 번째 편입니다. 이전 편들이 AI의 확산과 의미론적 의미에 관한 수학을 다루었다면, TGO-IV는 더 깊은 질문을 던집니다. AI의 사고가 학습함에 따라 그 전역적인 형태가 변하는가, 아니면 그대로 유지되는가?

이를 위해 연구진은 단순히 점들을 관찰하는 데 그치지 않고, 그 주변에 디지털 '비계(scaffolding)'를 세웠습니다. 197개의 빛나는 점(이미지의 부분들을 나타냄)이 384차원의 공간에 떠 있는 구름을 상상해 보십시오. 점들을 보는 것만으로는 그 형태를 알 수 없습니다. 그래서 연구진은 **비에토리스-립스 심플리셜 복합체(Vietoris–Rips simplicial complex)**라는 수학적 기법을 사용했습니다. 이것은 '점 잇기' 게임과 같습니다. 먼저 매우 가까이 있는 두 점 사이에 선을 긋는 것으로 시작합니다. 그다음, '연결 반지름(connection radius)'을 천천히 키워 나갑니다. 반지름이 커짐에 따라 더 많은 점이 선으로 연결되고, 세 개의 연결된 점 사이에는 삼각형이 형성되며, 결국 3D 형태(예: 사면체)가 나타납니다. 이는 데이터 구름의 형태를 근사하는 메쉬(mesh)를 생성합니다.

반지름이 커짐에 따라 이 메쉬가 어떻게 변하는지 관찰함으로써, 그들은 '지속성 호몰로지(persistent homology)'를 추적할 수 있습니다. 이것은 구멍과 연결의 생애를 세는 데 사용하는 멋진 용어입니다.

• 탄생(Birth): 새로운 연결이 형성되거나 루프(고리)가 나타납니다.
• 죽음(Death): 연결이 너무 커져서 구멍이 채워지거나 루프가 닫힙니다.

연구진은 AI가 1,000개의 ImageNet-100 데이터셋 이미지를 12개 층(layer)을 통해 처리하는 동안 이러한 '탄생'과 '죽음'을 추적했으며, 이를 100일간의 훈련 과정 동안 수행했습니다. 그들은 이미지를 16x16 패치로 나누어 처리하여 이미지당 197개의 토큰(점)을 생성하는 특정 모델인 ViT-Small/16을 사용했습니다.

발견한 내용: 거대한 통합

이 연구는 AI의 내부 세계가 어떻게 안정화되는지에 대한 매혹적인 이야기를 보여주었습니다. '위상 관측소'가 목격한 내용은 다음과 같습니다.

1. 섬들이 대륙으로 합쳐지다
훈련의 아주 초기 단계(Epoch 1)에서 AI의 표현 구름은 흩어진 군도와 같았습니다. 점들은 멀리 떨어져 있었고, 많은 고립된 섬들을 형성했습니다. 훈련이 진행됨에 따라 연구진은 베티 곡선(Betti curves)(연결된 조각의 수를 세는 그래프)에서 거대한 변화를 목격했습니다. 별개의 섬의 수를 세는 '제0 베티 수($\beta_0$)'가 급격히 감소했습니다. 점들은 프로세스 훨씬 이른 단계에서부터 더 적고 더 큰 그룹으로 합쳐지기 시작했습니다. 훈련이 끝날 때쯤(Epoch 100), 구름은 하나의 응집력 있는 대륙이 되었습니다. AI는 단순히 부분들을 보고 있는 것이 아니라, 전체 그림을 하나의 연결된 단위로 보고 있었습니다.

2. 고리는 남고, 구멍은 사라지다
연구진은 또한 '루프'(점들의 고리)와 '보이드(voids)'(3D 거품)를 조사했습니다. 그들은 AI가 일부 루프($\beta_1$)를 생성하지만, 이는 항상 적고 드물다는 것을 발견했습니다. 더욱 흥미롭게도, 3D 거품($\beta_2$)은 거의 존재하지 않았습니다. 이는 AI의 사고가 복잡하고 다층적인 정보 거품을 형성하지 않는다는 것을 시사합니다. 대신, AI는 점들을 연결하여 단단하고 평평한(ish) 구조를 만드는 데 집중합니다.

3. 층(Layer)들이 서로 닮아간다
가장 놀라운 발견 중 중 하나는 층 사이의 거리에 관한 것이었습니다. 연구진은 데이터의 형태가 다음 층과 얼마나 다른지를 측정하기 위해 **보틀넥 거리(Bottleneck Distance)**와 **바서슈타인 거리(Wasserstein Distance)**라는 두 가지 도구를 사용했습니다.

• 초기 훈련: 각 층은 서로 매우 달랐습니다. 데이터의 형태는 첫 번째 층에서 두 번째 층으로, 다시 세 번째 층으로 이동함에 따라 격렬하게 변했습니다.
• 후기 훈련: AI가 학습함에 따라 층들은 점점 더 서로 비슷해졌습니다. 연속된 층들의 형태 사이의 '거리'가 줄어들었습니다. 마치 AI가 매 단계마다 바퀴를 새로 발명하는 것을 멈추고, 동일하고 안정적인 구조를 정교화하기 시작한 것과 같습니다.

그러나 연구진은 특히 3, 10, 12번 층 주변에서 형태가 크게 변하는 몇몇 '피크(peaks)'를 발견했습니다. AI가 '학습'한 후에도, 이 특정 층들은 데이터를 유의미한 방식으로 재구성하며 여전히 핵심적인 역할을 수행하고 있었습니다.

핵심 아이디어: 점진적 위상 안정화

이러한 관찰을 바탕으로 저자들은 **점진적 위상 안정화 가설(Progressive Topological Stabilization Hypothesis)**이라는 새로운 개념을 제안합니다.

그들은 학습이 AI의 내부 세계가 지루하고 특징 없는 덩어리로 붕괴하는 과정이 아니라고 제안합니다. 대신, 그것은 **정교화(refinement)**의 과정입니다.

• 비유: 콘서트장의 혼란스러운 군중을 상상해 보십시오. 처음에는 모두가 흩어져서 소리를 지르고 서로 단절되어 있습니다(높은 $\beta_0$, 많은 섬). 음악이 시작되고 노래가 고조됨에 따라, 사람들은 팔짱을 끼기 시작하고 작은 그룹을 형성하며, 결국 군중 전체가 하나의 거대하고 응집력 있는 파도로 움직입니다. 군중의 '형태'는 안정적이고 연결되지만, 사라지지는 않습니다.
• 발견: AI의 표현은 '비사소한 기하학적 조직화(non-trivial geometric organization)'(구조가 흥미롭고 유용하게 유지됨)를 유지하면서도 '점점 더 조밀해집니다'(점들이 가까워짐). AI는 단순히 암기하는 것이 아니라, 세상에 대한 안정적이고 연결된 지도를 구축합니다.

의미 (그리고 한계)

저자들은 자신들이 AI의 뇌의 정확한 형태를 보고 있다고 주장하는 것이 아님을 분명히 합니다. 거대한 384차원 공간에서 단 197개의 점만을 다루었기 때문에, 그들이 만든 '메쉬'는 완벽한 재구성이 아닌 근사치입니다. 그들은 점의 수가 너무 적기 때문에 그들이 보는 '형태'가 내재적 진실이 아닌 위상학적 근사치임을 인정합니다. 그러나 그들이 관찰한 추세는 일관적이며 의미가 있습니다.

그들은 AI가 단순히 사소하고 쓸모없는 점으로 붕괴한다는 아이디어를 명시적으로 배제했습니다. 일부 루프($\beta_1$)가 전체 훈련 과정 동안 살아남았다는 사실은 구조가 복잡성을 유지했음을 증명합니다. 또한 AI가 단 한 번의 갑작스러운 도약으로 학습한다는 생각도 배제했습니다. 대신, 훈련이 성숙해짐에 따라 층들이 서로 더 유사해지는 연속적인 변화가 일어납니다.

향후 과제

이 논문은 긴 여정의 네 번째 정거지에 불과합니다. 연구진은 미래 계획을 가지고 있습니다:

• TGO-V (계산 기하학): AI의 수학(내적과 어텐션 메커니즘)이 실제로 어떻게 이러한 형태를 만들어내는지 알고 싶어 합니다.
• TGO-VI (최적화 역학): 학습 알고리즘의 '물리학'—즉, 수학적 과정(그래디언트와 손실 지형)이 어떻게 AI를 이러한 안정적인 형태에 안착하게 만드는지 이해하고자 합니다.

요약하자면, TGO-IV는 우리에게 새로운 안경을 제공합니다. AI의 데이터를 단순히 숫자의 구름으로 보는 대신, 이제 우리는 그것을 흩어진 군도에서 시작하여 안정적이고 연결된 대륙으로 성장하는, 살아 숨 쉬는 형태로서 볼 수 있습니다. 이는 트랜스포머가 학습할 때 단순히 암기하는 것이 아니라, 자신의 지식을 담을 안정적이고 위상학적인 집을 짓고 있음을 시사합니다.