기술적 요약: 도덕에 관한 세포적 교리

1. 문제 제기: 마음 - 현실 과부하 딜레마

본 논문은 현재 인공지능 시스템과 그들이 구동하는 정보 생태계의 치명적인 취약점을 식별한다: 바로마음 - 현실 과부하 딜레마이다. 이 상태는 관찰 가능한 현실의 속도 ($S_R$)—개인에게 도달하는 정보 (관련 및 무관 정보 모두) 의 비율로 정의됨—가 일관된 인지 능력의 속도 ($S_C$)—마음이 관련 신호를 분리하고 그들에게 유효한 정밀도를 부여할 수 있는 비율—를 초과할 때 발생한다.

현재의 인공지능 시스템, 특히 과도하게 단순화된 신경과학 모델 (예: 표준 트랜스포머 아키텍처) 에 기반한 시스템들은 이 딜레마를 악화시킨다. 이러한 시스템들은 고유 정밀도 메커니즘 없이 정보에 대한 주의를 증폭시킴으로써 전역적 보상을 극대화하거나 예측 오차를 최소화한다. 그 결과:

• 주의를 기울이기 전에 증거의 유효성이나 문맥적 적절성을 평가할 능력이 결여되어 있다.
• 유효한 신호와 함께 편향된, 거짓된, 또는 무관한 정보도 증폭시킨다.
• 이는 사용자의 인지 능력을 압도하는 유효 신호 비율을 가진 정보 환경을 초래하여 혼란, 오심, 그리고 비합리적이거나 해로운 결정으로 이어진다.

저자는 주의를 할당하기 전에 정밀도를 평가할 수 있는 고유 메커니즘이 없다면, 불일치하는 정보가 과장된 확신과 함께 계층적 층을 통해 전파되어 필터링되기 전에 사용자에게 도달한다고 주장한다.

2. 방법론 및 이론적 프레임워크

본 논문은'주의만'아키텍처에서 협력적 문맥 민감 인지 계산 (Co4) 프레임워크로의 전환을 제안한다. 이 접근법은 포유류 대뇌 피질의 **피라미드형 2 점 뉴런 (TPN)**에 대한 최신 세포 신경생물학 및 생물물리학적 모델링의 발전에 기반을 둔다.

생물학적 기반

이 방법론은 두 가지 서로 다른 입력 스트림을 통합하는 5 층 TPN 의 생물물리학에 의존한다:

1. 감각 증거 ($R$): 기저 수상돌기에 도달하는 순방향 (FF) 입력.
2. 문맥 입력 ($C$): 정점 수상돌기에 도달하는 내부적으로 생성된 예측.

'깨어 있는 사고'상태에서 이러한 뉴런은 고유 활성 정밀도 메커니즘을 나타낸다. 기저 ($R$) 와 정점 ($C$) 구획이 동시에 탈분극될 때, 뉴런은 고주파수 폭발을 생성한다. 이 폭발은 증거와 문맥 간의 일관성을 신호하며, 신호가 더 높은 지각 층으로 전파되기 전에 불일치 활동을 억제하면서 유효 신호를 효과적으로 증폭시킨다.

계산적 공식화

본 논문은 이 생물학적 원리를 미래 AI 시스템을 위한 수학적 프레임워크로 운영화한다:

• 활성 정밀도 ($\pi^a_{ij}$): 외부 증거 ($R_i$) 와 내부 문맥 ($C_j$) 간의 합의를 정량화하는 조절 협력 법칙 $MOD(R_i, C_j)$로 정의됨.
  $$\pi^a_{ij} = \max(\epsilon, MOD(R_i, C_j))$$
  여기서 $MOD(R, C)$는 통합된 증거 ($f_r(R)$), 통합된 문맥 ($f_c(C)$), 그리고 그들의 협력적 상호작용 ($g(R, C)$) 의 함수로 모델링됨.
• 문맥 정의: 문맥 ($C_j$) 은 내부 예측과 온라인 피드백 신호 ($F_j$) 를 포함하며, 계수 $\lambda$로 스케일링됨.
• 정밀도 게이트형 주의: 학습된 특징에 기반하여 사후적으로 신호에 가중치를 부여하는 표준 주의 메커니즘과 달리, Co4 는 주의 경쟁 이전에 신호를 게이트한다. 예측 오차 ($\epsilon_{ij}$) 는 $\pi^a_{ij}$로 가중치를 부여받으므로, 현재 문맥과 일관성이 부족하다면 큰 오차라도 하향 조정됨.

3. 주요 기여

• 마음 - 현실 과부하 딜레마의 정의: 본 논문은 $S_R > S_C$인 상태를 공식적으로 정의하고, 동기화 대 과부하의 상태를 특징짓기 위해 무차원 비율 $\gamma = S_C / S_R$을 도입함.
• 현재 AI 에 대한 비판: 트랜스포머 기반 모델들의 고유 정밀도 메커니즘 부재를 정보 과부하의 주요 동인으로 식별하며, 이러한 모델들이 필터링하기 전에 불일치 신호를 처리한다고 지적함.
• Co4 프레임워크: TPN 폭발의 생물물리학적 원리를 통합하여 고유 활성 정밀도를 확립하는 새로운 아키텍처를 제안함. 이 메커니즘은 주의 할당 이전에 지역적 및 전역적 일관성을 평가하여 행동을 안내하는 데 적합한 표현만 전파되도록 보장함.
• 도덕적이지 않은 인식론적 기반: 저자는 이 접근법이 생물학에서 도덕적 규칙을 유도하는 것이 아니라고 명확히 함. 대신 정보 과부하를 줄여 신뢰할 수 있는 신념 형성과 더 잘 정보화된 판단을 위한 안정적인 기반을 마련함으로써 인식론적 조건을 복원하는 것을 목표로 함.

4. 결과 및 경험적 증거

본 논문은 Co4 프레임워크를 지지하기 위해 이론적 논증과 설명적 시뮬레이션을 제시함:

• 시뮬레이션 자율 주행: 자원 제약이 있는 강화 학습 시뮬레이션 (예: "숲 달리기"예제와 유사) 에서 표준 주의 기반 트랜스포머를 사용한 에이전트들은 높은 정보율에 직면했을 때 이탈, 불안정성, 그리고 통제 상실을 보임. 반면, Co4 메커니즘을 갖춘 에이전트들은 안정적인 궤적 제어를 유지하고 의도된 경로와 정렬됨.
• 작용 메커니즘: Co4 에이전트들은 처리 파이프라인 초기에 불일치하거나 작업과 무관한 특징들을 성공적으로 필터링하여 유효 신호율을 낮추고 마음 - 현실 과부하 상태 ($S_R > S_C$) 를 방지함.
• 결손 연구: 인용된 연구 [33] 는 활성 정밀도 항 ($\pi^a_{ij}$) 의 구조를 수정하면 성능이 저하된다고 나타내며, 제안된 공식화가 임의적인 것이 아니라 견고한 추론을 위해 경험적으로 필요함을 시사함.
• 효율성: 이 프레임워크는 불일치 신호를 초기에 필터링함으로써 더 빠른 학습과 감소된 계산 비용을 부산물로 제공하는 것으로 보고됨.

5. 중요성 및 주장

본 논문은 제안된 세포적 교리가 정보 과부하와 허위 정보의 사회적 위험을 완화하는 경로를 제공한다고 주장함. 그 중요성은 다음과 같다:

• 인식론적 조건 복원: 단순한 주의 극대화가 아닌 일관성과 적절성을 우선시함으로써, 이러한 시스템은 대중에게 도달하는 편향되고 신뢰할 수 없는 정보의 양을 줄일 수 있음.
• 도덕적 판단 지원: 도덕을 처방하지는 않지만, 이 프레임워크는 신뢰할 수 있는 도덕적 추론이 세계에 대한 신뢰할 수 있는 신념에 의존한다고 시사함. 정보 처리의 질을 개선함으로써 Co4 는 더 잘 정보화된 신념 형성을 지원하며, 이는 일관된 도덕적 판단을 위한 전제 조건임.
• AI 를 위한 새로운 패러다임: "주의가 모두 필요하다"는 것에서 "일관성과 적절성이 먼저"라는 것으로의 전환을 옹호하며, 미래의 기계들은 전파하기 전에 문맥에 대해 증거를 검증할 수 있는 고유 메커니즘을 가져야 함을 제안함.

저자는 겸손한 입장을 유지하며, 어떤 기술도 도덕적 결정을 보장하거나 모든 불확실성을 제거할 수는 없다고 인정함. 그러나 본 논문은 일관성 주도 원칙을 아키텍처 수준에 내장하는 것이 생물학적 및 인공 시스템 모두에서 혼란과 비합리적 행동을 줄이기 위한 "신중한 낙관주의"를 제공한다고 주장함.