🧬 biology

Self-orthogonalizing attractor neural networks emerging from the free energy principle

본 논문은 자유 에너지 원리가 무작위 동역학 시스템에 적용될 때 자기-직교화 인자 신경망이 자연스럽게 도출되어 명시적으로 부과된 학습 규칙 없이도 예측 정확도와 모델 복잡도를 최적화하는 생물학적으로 타당한 다수준 베이지안 능동 추론 역학을 산출함을 보여준다.

원저자: Tamas Spisak, Karl Friston

게시일 2026-05-22

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Tamas Spisak, Karl Friston

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ⚕️ 이것은 동료 심사를 거치지 않은 프리프린트의 AI 생성 설명입니다. 의학적 조언이 아닙니다. 이 내용을 바탕으로 건강 관련 결정을 내리지 마세요. 전체 면책 조항 읽기

당신의 뇌 (또는 스마트한 컴퓨터) 를 광활하고 분주한 도시로 상상해 보세요. 이 도시에는 끊임없이 서로 대화하는 수백만 명의 작은 일꾼들 (뉴런) 이 있습니다. 보통 우리는 이 일꾼들이 무엇을 해야 할지 지시하는 상사나 어떻게 배울지 가르치는 교사가 필요하다고 생각합니다. 하지만 이 논문은 도시가 스스로 조직한다는 전혀 다른 주장을 펼칩니다.

타마스 스피자크 (Tamas Spisak) 와 칼 프리스턴 (Karl Friston) 이라는 저자들은 **자유 에너지 원리 (Free Energy Principle)**라는 거대한 개념을 사용하여 이러한 자기 조직화가 어떻게 일어나는지 설명합니다. 여기서 '자유 에너지'를 배터리로 생각하지 말고 **놀라움 (surprise)**의 척도로 생각하세요. 만약 도시가 외부에서 일어나는 일 (갑작스러운 폭풍이나 새로운 건물 등) 에 대해 끊임없이 놀란다면, 이는 높은 '자유 에너지' 상태에 있는 것입니다. 생존하고 안정을 유지하기 위해 도시는 이 놀라움을 최소화하려 합니다.

이 논문이 설명하는 자기 조직화 도시의 마법을 간단한 개념으로 나누어 보겠습니다:

1. "자기 조직화" 도시

새떼를 상상해 보세요. 다른 새들에게 어디로 날아갈지 지시하는 리더는 없습니다. 대신 각 새는 이웃과 가까이 지내고 충돌하지 않는다는 간단한 지역 규칙만 따릅니다. 그럼에도 불구하고 전체 떼는 하나의 아름답고 조율된 단위로 움직입니다.

이 논문은 뇌도 마찬가지라고 말합니다. 학습 규칙을 설정할 중앙 프로그래머가 필요하지 않습니다. 대신 네트워크의 모든 작은 부분이 이웃이 무엇을 하는지 예측함으로써 자신의 '놀라움'을 줄이려 합니다. 모두가 이렇게 지역적으로 행동할 때 전역적 패턴이 나타납니다. 이러한 패턴을 **어트랙터 (Attractors)**라고 부릅니다.

유추: 어트랙터를 언덕진 풍경의 골짜기로 생각하세요. 공 (생각이나 기억) 을 언덕 어딘가에 굴리면 자연스럽게 가장 가까운 골짜기로 굴러가 그곳에 머무릅니다. 뇌는 얼굴이나 단어처럼 인식하는 것들을 위해 이러한 '골짜기'를 만듭니다.

2. 마법 같은 트릭: "자기 직교화 (Self-Orthogonalizing)"

이 논문에서 가장 흥미로운 발견은 이러한 '골짜기' (어트랙터) 들이 어떻게 서로 배열되는지입니다.

보통 컴퓨터에게 'O'와 'Q'처럼 비슷한 두 가지를 인식하도록 가르치면, 패턴이 너무 비슷해서 혼란을 겪을 수 있습니다. 하지만 이 논문은 뇌의 자기 조직화 시스템이 이러한 패턴들을 **직교 (orthogonal)**될 때까지 자연스럽게 밀어낸다고 보여줍니다.

유추: 어두운 방에 손전등 세트를 가지고 있다고 상상해 보세요.

나쁜 조직: 모든 손전등을 같은 지점을 향해 비춥니다. 빛이 겹쳐서 어느 빛이 어느 것인지 구분하기 어렵습니다.
직교 조직: 이 논문은 뇌가 손전등을 완전히 다른 방향 (X, Y, Z 축처럼) 을 향하도록 자동으로 각도를 조정한다고 말합니다. 빛이 겹치지 않습니다.

이렇게 함으로써 뇌는 세상을 위한 '깨끗한' 지도를 만듭니다. 기억들이 서로를 흐리게 하지 않도록 저장하는 법을 배웁니다. 이는 일반화 (generalizing) 능력을 극적으로 향상시킵니다. 약간 흐릿한 'O'를 보더라도 뇌는 'O' 골짜기가 'Q' 골짜기와 완벽하게 구별되므로 정확히 어느 골짜기로 굴러가야 할지 압니다.

3. 교사 없는 학습

도시는 이러한 패턴을 어떻게 배울까요? 논문은 자동으로 일어나는 간단하고 지역적인 규칙을 설명합니다:

헤비안 학습 (Hebbian Learning, "예" 규칙): 두 일꾼이 자주 대화하면 서로 더 가까워집니다.
반-헤비안 학습 (Anti-Hebbian Learning, "아니오" 규칙): 일꾼들이 이미 일어나는 일을 설명하고 있다면 중복을 피하기 위해 서로를 강화하는 것을 멈춥니다.

유추: 친구들이 영화를 설명하려고 모인 상황을 상상해 보세요.

두 친구가 같은 말을 하면 에너지를 아끼기 위해 반복을 멈춥니다.
한 친구가 다른 친구들이 예측하지 못한 새로운 말을 하면 그들은 그 말에 주의를 기울입니다.
시간이 지나면 이 그룹은 영화에 대한 완벽하고 중복 없는 요약을 만들어냅니다. 여기서 각 친구는 퍼즐의 고유한 조각을 기여합니다. 이것이 네트워크가 효율적으로 학습하고 '파괴적 망각 (새로운 것을 배울 때 옛것을 잊는 현상)'을 피하는 방법입니다. 왜냐하면 '골짜기'들이 서로 충돌하지 않도록 잘 조직되어 있기 때문입니다.

4. 꿈과 시퀀스

이 논문은 데이터가 특정 순서 (이야기나 숫자 시퀀스 등) 로 들어올 때 어떤 일이 일어나는지도 보여줍니다.

무작위 데이터: 네트워크는 안정적이고 정적인 '골짜기' (예: 얼굴 인식) 를 만듭니다.
순차적 데이터: 네트워크는 골짜기 사이의 경로를 만듭니다.

유추: 네트워크에 "1, 2, 3"이라는 시퀀스를 가르친다면, 네트워크는 단순히 세 개의 분리된 골짜기를 저장하는 것이 아닙니다. "1" 골짜기에서 "2" 골짜기로, 그리고 "3" 골짜기로 자연스럽게 흘러가는 미끄럼틀을 만듭니다. 불을 끄더라도 (입력을 제거해도) 네트워크는 스스로 이 시퀀스를 "꿈꾸거나" 재생할 수 있으며, 1 에서 2 로, 그리고 3 으로 자동으로 굴러갑니다. 이것이 뇌가 순서대로 걷는 법, 말하는 법, 또는 이야기를 기억하는 법을 배울 수 있는 방식일 것입니다.

5. AI 와 뇌에 대한 중요성

이 논문은 이것이 단순히 멋진 수학 트릭이 아니라 자연이 작동하는 근본적인 방식이라고 주장합니다.

뇌에 대해: 뇌가 어떻게 그렇게 견고할 수 있는지 설명합니다. 흐릿하고 노이즈가 많은 입력 (예: 안개 속의 얼굴 보기) 이 있더라도 뇌의 '골짜기'들이 잘 조직되어 있어 올바른 답을 추측할 수 있습니다. 또한 새로운 것을 배울 때 옛 기억을 잊지 않는 이유도 설명합니다. '골짜기'들이 완벽하게 간격을 두고 있기 때문입니다.
AI 에 대해: 현재의 AI 는 학습을 위해 방대한 양의 데이터와 구체적인 지시가 필요한 경우가 많습니다. 이 논문은 만약 이러한 자기 조직화 규칙을 따르는 AI 를 구축한다면, 인간이 지속적으로 재학습시킬 필요 없이 더 효율적으로 학습하고, 노이즈를 더 잘 처리하며, 더 오래 기억할 수 있다고 제안합니다.

요약

간단히 말해, 이 논문은 뇌나 스마트한 AI 에 복잡한 규칙을 프로그래밍할 필요가 없다고 주장합니다. 단순히 놀라움을 최소화한다는 목표를 주면, 그것은 자연스럽게 매우 효율적인 시스템으로 스스로 조직화될 것입니다. 그것은 겹치지 않는 명확한 기억들 (직교 어트랙터) 을 만들고, 이야기처럼 시퀀스를 학습하며, 스스로 학습한 것을 강화하기 위해 심지어 "꿈"까지 꾸게 됩니다.

기술적 요약: 자유 에너지 원리에서 비롯된 자기-직교화 인자 신경망

문제 제기
인자 역학은 뇌를 포함한 복잡계에서 기억, 의사결정, 운동 제어의 메커니즘으로 기능하며 근본적입니다. 그러나 명시적으로 부과된 학습 또는 추론 규칙 없이 이러한 자기 조직화 인자 네트워크가 어떻게 첫 번째 원리에서 비롯되는지 이해하는 데에는 근본적인 간극이 존재합니다. 전통적인 모델들은 종종 생물학적 시스템을 지배하는 열역학적 또는 추론적 제약으로부터 통일된 유도가 결여된 ad hoc 학습 규칙 (예: 헤비안 학습, 대비 발산) 에 의존합니다. 본 논문은 네트워크가 단순히 인자 시스템으로 작동할 뿐만 아니라 지역적 상호작용을 통해 스스로를 "구축"하는 적응적 자기 조직화를 자유 에너지 원리 (FEP) 로부터 유도해야 할 필요성을 다룹니다.

방법론
저자들은 "보편적 분할 (universal partitioning)"에 자유 에너지 원리를 적용하여 인자 네트워크의 출현을 공식화하며, 구체적으로 심층 특정 분할 (deep particular partitions) 개념을 활용합니다.

이론적 프레임워크:
- 심층 특정 분할: 시스템은 내부 상태 ( $\sigma_i$ ), 감각 상태 ( $s_{ij}$ ), 활성 상태 ( $a_{ij}$ ) 를 각각 갖는 "하위 입자 (subparticles)" (미시 규모 단위) 의 계층 구조로 분해됩니다. 이러한 하위 입자들은 마르코프 담요 (Markov blanket) 에 의해 외부 상태와 분리되어 조건부 독립성 ( $\sigma_i \perp \sigma_j | s_{ij}, a_{ij}$ ) 을 보장합니다.
- 생성 모델: 내부 상태는 사전 편향을 가진 연속 베르누이 변수 (절단된 지수 분포) 로 모델링됩니다. 하위 입자 간의 결합은 가중치 행렬 $J$ 로 정의됩니다.
- 변분 자유 에너지 (VFE) 최소화: 핵심 유도는 시스템이 지속되기 위해서는 변분 자유 에너지를 최소화해야 한다는 가정에 기반합니다. 이 최소화는 각 노드 (하위 입자) 에서 내부 상태와 결합에 대해 국소적으로 수행됩니다.
역학 유도:
- 추론: 내부 상태에 대해 VFE 를 최소화하면 확률적 업데이트 규칙이 도출됩니다. 상태의 기대값은 사전 편향과 이웃으로부터의 가중 입력의 합에 의해 구동되는 랑주뱅 함수 (시그모이드 활성화) 를 따릅니다. 이는 연속 상태 확률적 홉필드 네트워크 행동을 초래합니다.
- 학습: 결합 (가중치) 에 대해 VFE 를 최소화하면 지역적 학습 규칙이 도출됩니다. 이 규칙은 대비 업데이트 형태를 취합니다: $\Delta J_{ij} \propto \sigma_i \sigma_j - \hat{\sigma}_i \sigma_j$ . 첫 번째 항은 헤비안 (상관 기반 강화) 이고, 두 번째 항은 반-헤비안 (예측 오차 기반 억제) 입니다. 중요한 점은 이 규칙이 대비 발산과 달리 별도의 "클램프 (clamped)" 및 "자유 실행 (free-running)" 단계를 요구하지 않고 즉각적인 상관을 사용한다는 것입니다.
시뮬레이션 프로토콜:
- 저자들은 유도된 규칙을 Python 과 JAX 로 구현했습니다.
- 시뮬레이션 1–2: 정밀도 (역온도) 와 증거 강도가 변하는 조건에서 직교화와 일반화를 테스트하기 위해 상관된 패턴 (손글씨 숫자 이미지) 으로 훈련되었습니다.
- 시뮬레이션 3: 비대칭 결합과 시퀀스 역학의 출현을 테스트하기 위해 순차 데이터로 훈련되었습니다.
- 시뮬레이션 4: "자유 실행" (영 편향) 자발적 활동을 통해 파국적 망각에 대한 저항성을 테스트했습니다.
- 시뮬레이션 5: 최대 50,000 개 노드까지의 확장성과 기억 용량을 평가했습니다.
- 시뮬레이션 6: 자연스럽고 고차원적인 데이터에 대한 성능을 테스트하기 위해 올리베티 얼굴 데이터셋 (4096 개 노드) 에 적용되었습니다.

주요 기여

자기 조직화 규칙의 유도: 본 논문은 학습 및 추론 역학을 포함한 인자 네트워크가 심층 특정 분할에 적용된 FEP 로부터 자연스럽게 출현하며, 외부에서 부과된 학습 규칙의 필요성을 불필요하게 만든다는 것을 보여줍니다.
출현적 자기-직교화: 핵심 발견은 유도된 학습 규칙이 본질적으로 네트워크를 대략적으로 직교하는 인자 표현으로 이끈다는 것입니다. 예측 정확도와 함께 모델 복잡성 (중복성) 을 최소화함으로써 네트워크는 중첩된 인자들을 처벌합니다. 그 결과 입력 부분 공간을 효율적으로 span 하는 인자 집합이 생성되는데, 이는 최대 기억 용량을 제공하는 "프로젝터 신경망 (Kanter-Sompolinsky)"과 유사합니다.
통합된 추론과 학습: 이 프레임워크는 추론과 학습을 VFE 최소화의 두 가지 측면으로 통합합니다. 추론은 증거에 부합하도록 상태를 업데이트하고, 학습은 미래의 놀라움을 최소화하기 위해 결합을 업데이트하며, 이는 모두 연속 학습 환경에서 동시에 발생합니다.
볼츠만 기계의 일반화: 유도된 네트워크는 기존 볼츠만 기계를 일반화합니다.
- 무작위 데이터와 함께 대칭 결합 (볼츠만과 유사) 으로 수렴합니다.
- 순차 데이터와 함께 반대칭 결합을 발달시켜, 등 에너지 등고선을 따라 확률 흐름을 구동하는 비평형 정상 상태 (NESS) 역학을 생성합니다. 이는 네트워크가 기본 에너지 풍경의 정상 분포를 변경하지 않고도 시간적 시퀀스 (이종 이형 주기) 를 학습하고 회상할 수 있게 합니다.
파국적 망각에 대한 강건성: 역학의 확률적 특성으로 인해 네트워크는 자유 실행 단계 동안 인자들을 자발적으로 "재생 (replay)"할 수 있습니다. 이 활동은 기존 인자를 강화하여 새로운 데이터가 도입될 때 학습된 표현의 손실을 방지함으로써 파국적 망각을 효과적으로 완화합니다.

결과

직교 기저 형성: 시뮬레이션은 상관된 입력으로 훈련될 때 네트워크의 인자들이 대략적으로 직교화됨을 확인했습니다 (예: 상관 계수 $r=0.77$ 에서 $r=-0.19$ 로 감소). 이 직교화는 중간 정밀도의 "균형 상태"에서 가장 효과적이었습니다.
일반화: 직교화된 인자는 노이즈가 있는 입력으로부터의 재구성 작업에서 표준 홉필드 네트워크를 능가하며, 준-직교 기저 상태를 결합하여 보지 못한 데이터 (원샷 학습) 로 일반화할 수 있게 했습니다.
시퀀스 학습: 순차 데이터가 제시될 때 결합 행렬은 상당한 반대칭 성분을 발달시켰습니다. 이는 외부 입력이 없는 상태에서 확률 흐름에 의해 구동되어 학습된 시퀀스 (1→2→3→...) 를 자발적으로 생성할 수 있게 했습니다.
확장성과 용량: 네트워크는 고전적 홉필드 한계 ( $\sim 0.14N$ ) 를 훨씬 초과하는 기억 용량을 보여주었으며, 출현적 직교화 덕분에 프로젝터 네트워크 한계 ( $K \approx N$ ) 에 근접했습니다. 런타임 확장성은 분석적 복잡성과 일치하는 $O(N^2)$ 임이 확인되었습니다.
얼굴 인식: 올리베티 얼굴 데이터셋에서 네트워크는 학습된 인자 기반 사전 지식과 노이즈가 있는 감각 증거를 통합하여 심하게 손상된 입력에서 신원을 성공적으로 재구성함으로써 강력한 베이지안 추론을 입증했습니다.

의의 및 주장

본 논문은 신경과학과 인공지능을 연결하는 자기 조직화 인자 네트워크에 대한 통일 이론을 제공한다고 주장합니다.

신경과학을 위해: 이 발견은 생물학적 신경 네트워크가 왜 헤비안/반-헤비안 가소성, 자발적 활동, 그리고 직교 표현을 나타낼 수 있는지에 대한 규범적 설명을 제공합니다. 명시적 프로그래밍 없이 능동적 추론을 수행하고 안정적인 기억을 유지하는 뇌의 능력은 자유 에너지를 최소화하려는 근본적 필수성에서 비롯된다는 것을 시사합니다. 직교 인자의 출현은 FEP 주도 시스템의 특징으로 제안되며, 대규모 뇌 데이터 (예: 휴식 상태 네트워크) 에서 탐지 가능할 수 있습니다.
인공지능을 위해: 이 프레임워크는 역전파와 대비 발산에 대한 원칙적인 대안을 제공합니다. 자발적 역학을 통해 지속적 학습과 파국적 망각에 대한 저항성을 가능하게 합니다. 유도된 학습 규칙은 계산적으로 효율적 (자유 실행 단계 불필요) 이며, 시퀀스 학습과 일반화를 자연스럽게 지원합니다.
이론적 함의: 이 연구는 결합 행렬을 대칭 (지각/에너지 최소화) 과 반대칭 (행동/계획/용해성 흐름) 구성 요소로 분리하는 것이 FEP 의 이중 목표와 더 깊은 형식적 대응을 반영할 수 있다고 가정합니다.

저자들은 한계에 대해 겸손한 입장을 견지하며, $O(N^2)$ 의 메모리 풋프린트가 희소 근사 없이는 매우 큰 네트워크에 대해 금지적일 수 있으며, 현재 시뮬레이션은 단일 계층 아키텍처로 제한된다는 점을 인정합니다. 그들은 향후 연구가 계층적 심층 분할을 탐구하고, 업데이트의 지역적, 확률적 특성을 활용하기 위해 열역학 또는 멤리스터 하드웨어에서의 구현을 모색해야 한다고 제안합니다.