A Caveat Regarding the Unfolding Argument: Implications of Plasticity

⚕️

이것은 동료 심사를 거치지 않은 프리프린트의 AI 생성 설명입니다. 의학적 조언이 아닙니다. 이 내용을 바탕으로 건강 관련 결정을 내리지 마세요. 전체 면책 조항 읽기

Each language version is independently generated for its own context, not a direct translation.

1. 문제의 시작: " unfolding(펼치기) 논쟁"이란 무엇일까요?

과거의 어떤 과학자들은 "의식은 뇌의 구조 (회로가 어떻게 연결되어 있는지) 에 달려 있다"고 주장했습니다. 하지만 다른 과학자들은 이렇게 반박했습니다.

"아니요, 중요한 건 구조가 아니라 결과입니다. 만약 우리가 뇌의 복잡한 회로 (재귀 신경망, RNN) 를 모두 펼쳐서, 입력을 넣고 출력을 내보내는 순서대로만 연결된 단순한 기계 (순방향 신경망, FNN) 로 만들 수 있다면, 그 두 기계는 완전히 똑같은 행동을 할 것입니다. 그렇다면 뇌의 복잡한 구조가 의식을 만든다는 주장은 과학적으로 증명할 수 없습니다."

이것을 **'펼치기 논쟁 (Unfolding Argument)'**이라고 합니다. 마치 복잡한 시계 안의 톱니바퀴들을 다 풀어서 평평한 선으로 그려도, 바늘이 똑같이 움직인다면 시계 내부의 복잡한 구조는 아무 의미가 없다는 주장과 비슷합니다.

이 논쟁 때문에 "뇌의 구조가 의식을 만든다"는 이론들은 "그럼 그걸로 증명해 봐, 우리는 똑같은 행동을 하는 단순 기계도 의식이 있다고 말할 수 있다"는 도전에 직면하게 되었습니다.

2. 이 논문의 핵심 발견: "뇌는 멈추지 않는 영화다"

이 논문은 위 논쟁에 대해 **"잠깐만요, 그건 뇌가 어떻게 변하는지 (가소성, Plasticity) 를 무시한 것입니다"**라고 말합니다.

저자들은 다음과 같은 비유를 사용합니다.

펼쳐진 기계 (FNN): 마치 고정된 사진이나 한 번 찍힌 영화입니다. 입력을 받으면 정해진 대로만 반응합니다. 시간이 지나도 그 기계의 '성격'이나 '연결 방식'은 절대 변하지 않습니다.
뇌 (RNN with Plasticity): 마치 살아 움직이는 영화입니다. 매 순간 새로운 경험을 하고, 배우들이 대사를 바꾸고, 카메라 앵글이 변합니다. 뇌는 경험을 통해 연결고리 (시냅스) 를 끊임없이 바꿉니다.

핵심 메시지:
"펼치기 논쟁"은 고정된 상태의 뇌를 가정합니다. 하지만 실제 뇌는 학습하고 변하는 (가소성) 존재입니다.

오늘 뇌가 A 를 보고 B 를 했다면, 내일은 그 경험을 통해 A 를 보고 C 를 할 수도 있습니다.
하지만 '펼쳐진 기계'는 오늘 A 를 보고 B 를 했다면, 내일도 무조건 A 를 보고 B 를 할 수밖에 없습니다.

결론적으로, 변화하는 뇌는 어떤 고정된 기계로도 완벽하게 복제할 수 없습니다. 따라서 "뇌의 구조가 의식을 만든다"는 이론은 여전히 과학적으로 검증할 수 있습니다.

3. 구체적인 비유 3 가지

이 논문의 주장을 더 쉽게 이해하기 위해 세 가지 비유를 들어보겠습니다.

① "기억의 차이": 창문 vs. 도서관

펼쳐진 기계 (FNN): 창문 너머로 보이는 풍경만 기억합니다. 창문이 닫히면 (시간이 지나면) 과거의 풍경은 완전히 사라집니다.
변화하는 뇌 (RNN): 도서관입니다. 과거에 읽은 책들이 새로운 책과 연결되어 지식을 쌓아갑니다.
결과: 과거의 경험이 현재의 판단에 영향을 미치는 '학습'이 일어나는 뇌는, 과거를 잊어버리는 단순 기계와 구별할 수 있습니다.

② "흔적의 차이": 돌을 던진 연못 vs. 물웅덩이

펼쳐진 기계: 물웅덩이에 돌을 던지면 물결이 일었다가 곧바로 멈춥니다. 돌이 어디에 떨어졌는지는 기억하지 못합니다.
변화하는 뇌: 연못에 돌을 던지면 물결이 퍼지고, 그 물결이 다른 물결과 만나 새로운 패턴을 만듭니다. 돌이 던져진 흔적이 오랫동안 남고, 시스템 전체의 모양이 바뀝니다.
결과: 외부에서 충격을 주었을 때 (실험), 뇌는 그 흔적을 오랫동안 기억하며 반응하지만, 단순 기계는 금방 원래대로 돌아옵니다. 이 차이를 통해 우리는 뇌가 단순 기계가 아님을 알 수 있습니다.

③ "성장하는 능력": 고정된 도구상자 vs. 스스로 진화하는 공방

펼쳐진 기계: 고정된 도구상자입니다. 망치와 드라이버만 있습니다. 새로운 일이 생기면 못합니다.
변화하는 뇌: 스스로 도구를 만들고, 망치를 망치로만 쓰지 않고 새로운 용도로 개조하는 공방입니다.
결과: 시간이 지날수록 뇌는 더 복잡한 일을 해낼 수 있지만, 고정된 기계는 처음부터 정해진 능력 밖으로는 할 수 없습니다.

4. 이 논문의 결론: 왜 중요한가요?

이 논문의 결론은 매우 중요합니다.

과학적 검증의 부활: "뇌의 구조가 의식을 만든다"는 이론들이 "과학적으로 증명할 수 없다"는 비난에서 벗어날 수 있습니다. 뇌는 변하기 때문에, 단순 기계와 구별되는 행동적 특징을 보이기 때문입니다.
의식의 조건: 의식이 있으려면 단순히 복잡한 계산만 하는 게 아니라, 시간의 흐름에 따라 스스로 변하고 학습하는 능력이 필수적일 수 있습니다.
미래의 길: 이제 과학자들은 "뇌가 어떻게 변하는지 (학습, 기억, 적응)"를 연구함으로써 의식의 정체를 더 명확하게 찾아낼 수 있게 되었습니다.

요약

"우리의 뇌는 고정된 사진이 아니라, 끊임없이 변하는 영화입니다. 그래서 아무리 똑똑한 기계라도 뇌의 '변화'를 완벽하게 흉내 낼 수 없습니다. 이 '변화'의 차이가 바로 우리가 의식을 가진 존재임을 증명할 수 있는 열쇠입니다."

이 논문은 의식 연구에 대한 막힌 길을 다시 열어주었으며, 이제 우리는 뇌가 어떻게 배우고 변하는지 관찰함으로써 의식의 비밀을 풀 수 있다는 희망을 제시합니다.

Each language version is independently generated for its own context, not a direct translation.

논문 요약: 가소성 (Plasticity) 을 고려한 펼침 논증 (Unfolding Argument) 의 한계

1. 연구 배경 및 문제 제기 (Problem)

펼침 논증 (Unfolding Argument, UA): Doerig 등 (2019) 이 제안한 이 논증은 의식 이론 (특히 통합 정보 이론 IIT 나 재귀 처리 이론 RPT 와 같은 인과 구조 이론) 에 대한 심각한 도전입니다.
- 핵심 명제: 모든 재귀 신경망 (RNN) 은 기능적으로 동등한 피드포워드 신경망 (FNN) 으로 '펼쳐질 (unfolded)' 수 있습니다. 즉, 동일한 입력 - 출력 행동을 보이는 한, 내부의 인과 구조 (재귀성) 가 의식에 필수적이라는 주장은 검증 불가능하거나 과학적이지 않다는 결론에 도달합니다.
- 논증의 전제:
  1. 과학적 조사는 물리적 측정 (주관적 보고) 에 의존해야 한다.
  2. 모든 RNN 은 기능적으로 동등한 FNN 으로 변환 가능하다.
  3. 입력 - 출력 함수가 동일한 시스템은 내부 작동 (뇌 활동) 을 측정하지 않는 한 구별할 수 없다.
  4. 뇌 활동 측정은 의식의 선험적 지표로 사용할 수 없다.
연구의 필요성: 기존 UA 는 신경망의 가중치가 고정된 (static) 상태만을 가정합니다. 그러나 생물학적 신경망은 시냅스 가소성 (Plasticity) 으로 인해 연결 강도가 시간에 따라 변화합니다. 본 논문은 이러한 **가소성 (Plasticity)**이 UA 의 전제, 특히 "기능적 동등성"을 무효화하는지 수학적으로 규명하는 것을 목표로 합니다.

2. 방법론 (Methodology)

수학적 형식화: 생물학적 시스템을 이산 시간 (discrete time) 시스템으로 모델링하여 엄밀한 수학적 증명을 수행했습니다.
시스템 정의:
- RNN ( $R_t$ ): 가소성을 가진 재귀 신경망. 시간 $t$ 에 따라 가중치가 변화하며 입력 - 출력 매핑 함수 자체가 진화합니다.
- FNN ( $F$ ): 고정된 가중치를 가진 피드포워드 신경망. 펼쳐진 시점 ( $t_0$ ) 에서 RNN 과 동일한 함수를 구현하지만, 그 이후에는 함수가 고정됩니다.
분석 도구:
- 동역학 시스템 이론 (Dynamical Systems): 함수 공간 (Function Space) 과 상태 공간 (State Space) 의 궤적을 분석.
- 정보 이론 (Information Theory): 상호 정보량 (Mutual Information) 과 예측 능력을 비교.
- 섭동 이론 (Perturbation Theory): 시스템에 외부 자극을 가했을 때의 반응 안정성과 지속성을 분석.
- 복잡도 및 자원 제약: 학습에 따른 함수 근사 능력의 성장과 자원 소모를 분석.

3. 주요 기여 및 결과 (Key Contributions & Results)

가. 가소성에 의한 기능적 동등성의 붕괴 (Functional Divergence)

결과: 가소성이 있는 RNN 은 시간 $t > t_0$ 에서 FNN 과 기능적으로 더 이상 동등하지 않습니다.
이유: RNN 은 학습을 통해 입력 - 출력 함수 ( $\phi$ ) 자체를 변경합니다 (예: 얼굴 인식 $\rightarrow$ 얼굴 + 이름 인식). 반면 FNN 은 고정된 함수만 수행합니다. 이는 **상태 공간 (State Space)**의 궤적 차이 (Usher, 2021 의 주장) 를 넘어, 함수 공간 (Function Space) 자체에서의 분리를 의미합니다.

나. 정보 이론적 우위 (Information-Theoretic Advantage)

결과: 고정된 창 (Window) 을 가진 FNN 은 장기 기억 (Long-term memory) 이 불가능하여 예측 능력이 제한적입니다. 반면, RNN 은 내부 상태를 통해 과거의 모든历史信息을 통합하여 더 높은 예측 정확도를 보입니다.
증거: 상호 정보량의 단조성 (Monotonicity) 을 이용해, RNN 이 가진 정보량이 FNN 의 정보량보다 엄격하게 크다는 것을 증명했습니다.

다. 섭동에 대한 반응 차이 (Perturbation Response)

결과: 입력에 대한 섭동 (Perturbation) 이 가해졌을 때, FNN 은 고정된 창 크기만큼만 영향을 받다가 잊어버립니다. 반면, 가소성 RNN 은 섭동이 가중치 변화를 유발하여 시스템 전체의 함수를 영구적으로 변경시키므로, 섭동의 흔적이 영구적으로 남습니다.
의미: 이는 내부 구조를 보지 않고도 (입력 - 출력 행동만 관찰하여) 두 시스템을 구별할 수 있음을 의미하며, UA 의 전제 3(P3) 을 무효화합니다.

라. 복잡도 성장과 자원 제약 (Complexity Growth)

결과: 가소성 RNN 은 고정된 자원 (뉴런 수, 연결 수) 으로도 시간이 지남에 따라 임의의 함수 집합을 근사할 수 있는 능력을 갖춥니다. 반면, 이를 대체하기 위해 필요한 FNN 의 라이브러리는 무한히 커져야 하거나, 매 순간 새로운 FNN 으로 교체되어야 합니다.
결론: 유한한 FNN 집합으로는 가소성 RNN 의 진화하는 기능을 재현할 수 없습니다.

마. 튜링 완전성 (Turing Completeness) 일반화에 대한 반박

Herzog 등 (2022) 이 제안한 "모든 과정은 다양한 인과 구조로 구현 가능하다"는 주장을 반박합니다.
논거: 계산 가능성 (Computability) 과 과정의 동등성 (Process-equivalence) 은 다릅니다. 다른 인과 구조를 가진 시스템이 특정 시점의 입력 - 출력을 맞출 수는 있어도, 섭동에 대한 반응이나 학습에 따른 함수 진화라는 동적 특성을 동등하게 재현할 수 없습니다. 환경과 상호작용하는 시스템 (Interactive Turing Machine) 의 맥락에서 이는 결정적입니다.

바. 클라인어 - 호엘 (Kleiner-Hoel) 딜레마의 해결

배경: 행동 보고와 내부 관측치가 독립적이면 이론은 반증 가능하지 않고, 의존적이면 검증 불가능하다는 딜레마.
해결: 가소성 시스템은 **'관대함 (Lenient Dependency)'**을 보여줍니다. 즉, 행동이 내부 구조를 완전히 결정하지는 않지만, 장기적인 관찰과 섭동 실험을 통해 정적 (Static) 인 대체 모델을 배제할 수 있습니다. 이로써 의식 이론의 경험적 검증 가능성이 복원됩니다.

4. 의의 및 시사점 (Significance)

이론적 경계 설정: 펼침 논증 (UA) 은 고정된 인과 구조를 가진 정적 이론 (Static theories) 에만 유효하며, **가소성을 포함한 동적 시스템 (Dynamic systems)**에는 적용되지 않는다는 경계 조건을 명확히 했습니다.
의식 이론에 대한 함의:
- IIT (통합 정보 이론): 가소성을 통합하지 않는 한 여전히 UA 의 도전에 직면하지만, 가소성을 포함하면 검증 가능성이 생깁니다.
- GNWT (글로벌 뉴런 워크스페이스) 및 RPT (재귀 처리 이론): 정적 구현은 취약하지만, 학습과 적응을 포함하는 동적 워크스페이스는 검증 가능한 이론이 될 수 있습니다.
- 상태 공간 이론 (SST): 본 논문의 결과는 SST 와 같은 가소성 기반 이론의 수학적 정당성을 강화합니다.
과학적 방법론의 복원: 가소성을 고려한 의식 이론은 더 이상 "검증 불가능한 형이상학"이 아니라, 섭동 실험 (Perturbation experiments) 과 장기 관찰을 통해 검증 가능한 과학적 대상이 됩니다.
다중 실현 가능성 (Multiple Realizability) 재해석: 구조적 차이가 기능적 결과 (특히 미래 행동과 섭동 반응) 에 영향을 미친다면, 그 구조적 차이는 의식과 무관하지 않습니다.

5. 결론

본 논문은 가소성 (Plasticity) 이 생물학적 신경망의 핵심 속성임을 강조하며, 이를 고려할 때 재귀 신경망 (RNN) 은 정적 피드포워드 네트워크 (FNN) 로 완전히 대체될 수 없음을 수학적으로 증명했습니다. 이는 의식이 재귀성이나 인과 구조에 의존한다는 가설이 UA 에 의해 기각되지 않으며, 오히려 가소성을 포함한 동적 과정이 의식 연구의 핵심 검증 대상이 되어야 함을 시사합니다.