Artificial Aphasias in Lesioned Language Models

기술적 요약: 병변 언어 모델의 인공 실어증

문제 및 동기
신경심리학자들은 오랫동안 자연적으로 발생하는 뇌 손상 (실어증) 을 활용하여 인간 언어의 기능적 조직을 매핑해 왔으며, 특정 뇌 영역을 독특한 증상 프로필과 연결해 왔습니다. 동시에 기계적 해석 가능성 (mechanistic interpretability) 연구자들은 언어 모델 (LM) 에 개입하여 (종종 가중치나 활성화를 무음 처리함으로써) 등장하는 구조 - 기능 대응 관계를 연구합니다. 그러나 이 두 커뮤니티는 주로 독립적으로 운영되어 왔습니다. 최근 연구들은 병변을 통해 LM 에 인간 실어증 하위 유형 (예: 브로카 실어증, 베르니케 실어증) 을 유도하려 시도했지만, 이러한 연구들은 종종 증상 패턴의 상당한 이질성을 흐릴 수 있는 거친 범주적 레이블에 의존합니다.

본 논문은 LM 의 등장적 기능적 조직을 더 세밀하게 특징짓기 위해 실어증에서 영감을 받은 기법을 소개합니다. 저자들은 LM 을 광범위한 임상 범주에 매핑하기보다는, 구체적인 모델 구성 요소가 언어 처리 실패에 어떻게 기여하는지 이해하기 위해 상세한 증상 분포를 프로파일링해야 한다고 주장합니다. 이 연구는 병변을 입은 LM 이 인간과 유사한 기능적 조직을 보이는지, 아니면 실패 양상이 구별되는지 확인하여 인간 실어증 증상이 왜 특정 방식으로 패턴화되는지에 대한 가설을 제약하는 것을 목표로 합니다.

방법론
저자들은 디코더 전용 트랜스포머 아키텍처에서 특정 파라미터 행렬을 '병변' (영으로 설정) 시킴으로써 '인공 실어증'을 유도합니다. 실험 설정은 다음과 같습니다:

• 모델: Llama 3.2, Gemma 3, OLMo 2 의 세 가지 계열에 걸쳐 있는 약 10 억 파라미터 모델 5 가지 변형.
• 병변 대상: 레이어 전반에 걸쳐 7 가지 특정 구성 요소를 대상으로 합니다: 어텐션 메커니즘의 쿼리 (Q), 키 (K), 밸류 (V), 출력 (O) 행렬과 피드포워드 네트워크 (FFN) 의 게이트, 업, 다운 행렬.
• 심각도: 병변은 5 가지 심각도 수준 ($s \in \{0, 0.25, 0.50, 0.75, 1.0\}$) 으로 적용되며, 여기서 $s$는 영으로 설정된 가중치의 기대 비율을 나타냅니다.
• 평가: 출력은 텍스트 전용 LM 을 위해 특별히 설계된 벤치마크인 **텍스트 실어증 배터리 (TAB)**를 사용하여 점수화됩니다. TAB 는 5 가지 카테고리 (의미론적, 통사론적, 유창성, 음운론적, 기타) 에 걸쳐 21 가지 이진 증상을 할당합니다 (반복 루프, 고정 관념, 주제 이탈 응답 포함).
• 비교: 이 연구는 병변을 입은 LM 으로부터 산출된 112,426 개의 점수화된 출력을 다양한 인간 실어증 하위 유형 및 대조군을 포함하는 AphasiaBank 코퍼스 의 6,000 개 산출물과 비교합니다.
• 통계 분석: 저자들은 구성 요소 간 및 인간 기준선 대비 증상 프로필의 차이를 평가하기 위해 조건 수준 부트스트래핑, 짝지어진 부호 반전 검정, 그리고 순열 검정을 포함한 비모수적 방법을 사용합니다.

주요 결과

1. 어텐션 대 FFN 의 고유한 기능적 프로필: 어텐션 메커니즘과 피드포워드 네트워크에 대한 병변은 체계적으로 다른 증상 프로필을 생성합니다.

   • FFN 병변: 모호한 내용 ("의미 불명"), 짧거나 공식적인 문자열, 주제 이탈 응답, 그리고 반복 루프를 향해 출력을 이동시킵니다. 이는 의미론적 및 '기타' 카테고리에서 증상을 불균형적으로 증가시킵니다.
   • 어텐션 병변: 음운론적 및 유창성 측면 (예: 음운성 파라파시아, 멈춤이 있는 말하기) 을 불균형적으로 손상시킵니다.
   • 하위 구조: 어텐션 내에서 Q/K 와 V/O 는 유사한 효과를 가진 별개의 코호트를 형성합니다. FFN 내에서는 다운 병변이 가장 높은 증상 부담을 초래하는 반면, 게이트 병변은 종종 출력을 문장 부호만 또는 반복된 기능어로 축소시킵니다.

2. 심도에 따른 증상 국소화: 병변이 발생하는 레이어는 증상 프로필을 크게 형성합니다.

   • 초기 레이어: 초기 레이어의 병변은 의미론적 및 통사론적 결핍을 불균형적으로 유발합니다.
   • 후기 - 중기 레이어: 후기 레이어의 병변은 음운론적 및 유창성 결핍의 더 높은 비율을 산출합니다.
   • 필요성 대 내용: 이는 종종 중간에서 후기 레이어에서 정렬을 발견하는 뇌 디코딩 연구와 대조됩니다. 여기서는 초기 레이어가 핵심 기능에 대해 인과적으로 더 필요해 보이는 반면, 후기 레이어는 더 세밀한 정제를 처리합니다.

3. 인간 실어증과의 이질성: 일부 LM 병변은 다른 것들보다 특정 인간 실어증 하위 유형에 기술적으로 더 가까운 증상 프로필을 생성하지만, 근본적인 질적 차이가 존재합니다:

   • 증상 구성: 인간은 의미론적 및 통사론적 증상의 더 높은 비율을 보이는 반면, 병변을 입은 LM 은 '기타' 카테고리 증상 (반복 루프, 주제 이탈 텍스트) 을 과다 생산합니다.
   • 증상 부담: 인간은 일반적으로 병변을 입은 LM 보다 더 높은 전체 증상 부담을 가집니다.
   • 공발생: 인간 실어증은 밀집된 증상 공발생 패턴 (예: 특정 증후군) 을 보이는 반면, LM 은 덜 명확한 공발생 구조를 보입니다.
   • 결론: 이 논문은 일부 공유된 구조가 있기는 하지만, 트랜스포머 LM 의 등장적 기능적 조직은 인간 뇌와 질적으로 구별된다고 결론지었습니다. 실어증 증상은 언어 처리 교란의 도메인 불변 결과라기보다 인간 뇌의 특정 학습 및 처리 세부 사항에 의존하는 속성으로 보입니다.

의의 및 주장
이 논문은 네 가지 주요 기여를 합니다:

1. 개념 증명: TAB 를 사용하여 상세한 실패 양상을 프로파일링하고 거친 진단 레이블에 의존하지 않는 LM 을 위한 '신경심리학'을 확립합니다.
2. 기능적 차별화: 여러 모델 아키텍처 전반에 걸쳐 어텐션과 FFN 메커니즘 간의 신뢰할 수 있는 기능적 차이를 식별합니다.
3. 심도 효과: 의미론적 및 통사론적 결핍이 초기 레이어에 신뢰할 수 있게 국소화되는 반면, 음운론적 및 유창성 결핍은 후기 레이어에서 등장함을 밝힙니다.
4. 수렴에 대한 뉘앙스: LM 과 인간 실어증 간의 수렴에 대한 이전 주장을 정교화합니다. 일부 표면적 유사성이 존재하지만, 이 논문은 상세한 증상 패턴이 인간 실어증 증후군이 언어 구조 자체에 내재된 것이 아니라 언어 처리의 생물학적 구현에 특정된 것임을 시사한다고 주장합니다.

저자들은 LM 이 임상적 실어증을 소유한다고 주장하지 않는다고 명시적으로 밝힙니다. 대신 그들은 등장적 기능을 연구하기 위한 좌표계로서 임상적 프레임워크를 사용합니다. 결과는 LM 병변이 임상적으로 읽을 수 있는 실패를 생성할 수 있지만, 근본적인 조직은 인간 뇌와 크게 다르므로 트랜스포머 구성 요소를 인간 뇌 영역과 직접 동일시하는 것에 경계해야 함을 시사합니다.