Stochastic gradient descent with discontinuity across a manifold

완벽한 정답을 향한 울퉁불퉁한 길

당신이 광활하고 안개가 자욱한 풍경 속에서 가장 낮은 지점을 찾으려 노력하고 있다고 상상해 보십시오. 이것은 고양이를 인식하거나, 언어를 번역하거나, 자동차를 운전하는 법을 배우는 컴퓨터의 일상적인 작업입니다. 컴퓨터는 **확률적 경사 하강법(Stochastic Gradient Descent, SGD)**이라는 전략을 사용합니다. SGD를 안개 낀 지형 전체를 볼 수는 없지만 발밑의 경사는 느낄 수 있는 등산가라고 생각해보십시오. 그들은 결국 가장 깊은 골짜기(문제에 대한 완벽한 해결책을 의미함)에 도달하기를 바라며, 작고 무작위적인 발걸음을 아래로 내디딥니다. 보통의 지형은 완만한 언덕처럼 매끄러워서, 등산가는 어느 방향으로 가야 할지 정확히 알 수 있습니다.

하지만 만약 지형이 매끄럽지 않다면 어떻게 될까요? 갑작스러운 절벽, 들쭉날쭉한 모서리, 혹은 지면의 방향이 갑자기 변하는 보이지 않는 벽이 있다면 어떨까요? 인공지능의 실제 세계에서 이러한 "울퉁불퉁함"은 자주 발생합니다. 이는 컴퓨터의 두뇌(신경망)의 일부가 급격하게 켜지거나 꺼질 때, 혹은 상황에 따라 성공을 위한 규칙이 변할 때 발생합니다. 이것은 "불연속성(discontinuity)"을 만들어내는데, 즉 일반적인 하강 법칙이 무너지는 지점입니다. 만약 등산가가 이 절벽에 대처하는 방법을 모른다면, 길을 잃거나, 격렬하게 튀어 오르거나, 지도 밖으로 떨어져 버릴 수도 있습니다. 이러한 거친 구간을 항해하는 법을 이해하는 것은 매우 중요합니다. 왜냐하면 이것이 우리 AI가 복잡한 현실 세계의 과업을 수행할 수 있을지, 아니면 그저 혼란에 빠져 포기해버릴지를 결정하기 때문입니다.

논문의 여정: 절벽의 가장자리를 항해하기

Vivek S. Borkar가 작성한 이 논문은 우리의 AI 등산가가 단순히 하나의 선이 아니라, 풍경을 가로지르는 전체 표면(이를 **매니폴드(manifold)**라고 부름)인 "절벽"을 마주했을 때 어떤 일이 발생하는지를 구체적으로 다룹니다. 공중에 떠 있는 얇고 투명한 유리판을 상상해 보십시오. 한쪽 면에서는 지면이 한 방향으로 기울어져 있고, 다른 쪽 면에서는 다른 방향으로 기울어져 있습니다. 이 논문은 질문합니다. 만약 컴퓨터의 학습 알고리즘이 이 유리판에 부딪힌다면, 그것은 충돌할까요, 튕겨 나갈까요, 아니면 그 표면을 따라 미끄러져 내려갈까요?

저자는 컴퓨터가 매우 느리게 움직일 때(아주 작은 보폭을 사용할 때) 취하는 "평균적인" 경로를 살펴봄으로써 이를 분석합니다. 그는 컴퓨터가 이 불연속적인 표면에 부딪혔을 때, 단순히 멈추거나 무작위로 튀어 오르는 것이 아니라는 것을 발견했습니다. 대신, 컴퓨터는 교묘하게 그 표면을 따라 미끄러져 내려가는 방법을 찾아냅니다.

여기에 그들이 발견한 마법 같은 기술이 있습니다. 컴퓨터는 마치 유리판 양쪽의 경사를 동시에 느끼는 것처럼 작동합니다. 컴퓨터는 두 경사의 가중 평균인 새로운 혼합된 방향을 계산합니다. 이 가중치는 각 측면의 경사가 얼마나 가파른지에 따라 달라집니다. 만약 왼쪽 지면은 급격히 떨어지는데 오른쪽은 완만하다면, 컴퓨터는 왼쪽으로 더 많이 "기울어지는" 시간을 보내겠지만, 수학적 원리는 컴퓨터가 유리판을 뚫고 지나가는 대신 유리판에 딱 붙어 미끄러지도록 보장합니다. 이는 마치 서퍼가 파도에서 떨어지는 대신, 두 파도가 만나는 가장자리를 타며 두 파도의 힘을 이용해 균형을 잡는 것과 같습니다.

이 논문은 이러한 미끄러지는 움직임이 매니폴드의 즉각적인 근방에서 예측 가능하며 특정 규칙을 따른다는 것을 증명합니다. 컴퓨터는 목적 없이 방황하는 것이 아니라, 수학적으로 유일한 "매끄럽게 다듬어진" 경로를 따릅니다. 저자는 또한 컴퓨터가 가장 최선의 해결책(전역 최솟값, global minimum)에 매우 가까워졌을 때 어떤 일이 일어나는지도 살펴보았습니다. 그는 컴퓨터가 점점 더 작은 보폭을 가져감에 따라 결국 최선의 해결책들에 안착한다는 것을 발견했습니다. 이 결론은 알고리즘이 전역 최솟값에 집중된다는 것을 보여주는 기존 연구[19]의 확립된 결과들을 인용하여 도출되었습니다. 만약 여러 개의 "최선"인 지점이 있다면, 컴퓨터는 그 지점들이 얼마나 "깊고" "날카로운지"에 따라 시간을 배분합니다.

하지만 이 논문은 이 분석이 컴퓨터가 매우 작은 보폭을 취한다는 점과 "절벽"이 잘 제어된 상태라는 점에 의존하고 있음을 주의 깊게 명시합니다. 저자는 컴퓨터가 불안정한 지점(예: 꼭대기에 균형을 잡고 있는 공)에 갇히지 않는다고 가정하는데, 이는 시스템의 무작위 노이즈가 보통 이러한 위태로운 위치로부터 컴퓨터를 밀어내기 때문입니다. 또한 저자는 수학적 계산이 특정 순간에는 완벽하게 작동하지만, 컴퓨터가 학습함에 따라 지형 자체가 시간에 따라 변할 수 있다는 점도 지적합니다. 만약 "최선의" 지점들이 병합되거나 분리된다면, 컴퓨터의 경로는 서로 다른 패턴 사이를 뛰어넘을 수도 있습니다. 저자는 이러한 도약이 이론적으로는 가능하지만, 현실 세계에서는 매우 드물거나 짧게 일어나기 때문에 컴퓨터가 여전히 골짜기 바닥을 찾아낼 수 있을 것이라고 제안합니다.

요약하자면, 이 논문은 AI 학습의 "절벽 가장자리"에 대한 지도를 제공합니다. 이는 규칙이 갑작스럽게 변할 때조차 학습 알고리즘이 세상의 끝으로 떨어지는 대신, 가장자리를 따라 미끄러지며 계속 앞으로 나아갈 수 있는 내장된 메커니즘을 가지고 있음을 보여줍니다. 이는 AI가 이론적인 매끄럽고 완벽한 풍경뿐만 아니라, 거칠고 울퉁불퉁한 현실 세계의 실체도 처리할 수 있다는 확신을 줍니다.