Autonomous Collaborative Learning Among an Ensemble of Tsetlin Machines with Consensus-Based Inference

기술 요약: 합의 기반 추론을 통한 쳇슬린 머신 앙상블 간의 자율적 협력 학습

문제 정의
쳇슬린 머신(Tsetlin Machine, TM)은 명제 논리와 쳇슬린 오토마타(Tsetlin Automata, TA)에 기반한 규칙 기반 머신 러닝 알고리즘으로, 자원이 제한된 엣지 디바이스에 적합한 계산적 단순성과 에너지 효율성을 제공한다. 최근 연구들이 쳇슬린 머신을 활용한 연합 학습(Federated Learning, FL)을 탐구해 왔으나, 기존 문헌은 주로 중앙 집중식 서버 아키텍처(수평적 또는 수직적 FL)나 동질적인 에이전트 역량을 가정하는 데 치중되어 있다. 특히, 에이전트들이 동일한 데이터 인스턴스의 서로 다른 피처 부분 집합을 보유하는 수직적 피처 분할(vertical feature-partitioning) 환경에서의 탈중앙화된, 분산된 TM 학습에 대한 탐구에는 상당한 공백이 존재한다. 표준적인 연합 학습 방식은 모델 업데이트나 그래디언트를 교환해야 하며, 이는 계산 비용이 많이 들거나 프라이버시 침해의 위험이 있을 수 있다. 따라서 이 과제는 이질적인 에이전트들이 원시 데이터를 교환하거나 내부 모델 파라미터를 드러내지 않으면서도, 센서 네트워크의 전형적인 특성인 엄격한 에너지 및 통신 제약 조건 하에서 어떻게 협력적으로 학습하고 글로벌 합의에 도달할 수 있는가에 관한 것이다.

방법론
저자들은 **가십 기반 통신 프로토콜(gossip-based communication protocol)**과 결합된 2계층 계층적 TM 아키텍처를 활용하는 탈중앙화된 협력 학습 패러다임을 제안한다.

1. 아키텍처:

   • 입력 계층(Input Layer): 각 에이전트는 자신의 사적인 로컬 불리언 피처 부분 집합만을 대상으로 작동하는 로컬 TM을 유지한다. 이 계층은 에이전트의 로컬 데이터 분할에 특화된 패턴을 학습한다.
   • 이웃 집계 계층(Neighborhood Aggregation Layer): 각 에이전트에는 두 번째 TM 계층이 존재한다. 이 계층의 입력은 에이전트 자신의 입력 계층 TM에서 나온 절(clause) 출력과 인접한 이웃으로부터 받은 절 출력을 결합한 것이다. 이 계층는 에이전트 클러스터에서 발생하는 더 높은 수준의 글로벌 패턴을 감지하도록 학습된다.
   • 프라이버시 보존: 이웃 간에는 오직 이진 절 출력(단일 비트)만이 교환된다. 절의 내부 구조, 오토마타 상태, 그리고 원시 데이터는 엄격하게 로컬에 머물며 비공개로 유지된다.

2. 통신 프로토콜:

   • 시스템은 비동기 가십 기반 프로토콜을 채택한다. 에이전트들은 중앙 코디네이터 없이 즉각적인 이웃에게 자신의 절 출력을 브로드캐스트한다.
   • 추론을 위해, **다중 소스, 전방위 확산 프로토콜(multi-source, all-to-all dissemination protocol)**이 사용되어 네트워크 전체에 클래스 투표 합계를 전파하며, 이를 통해 모든 에이전트가 앙상블의 집계된 투표를 바탕으로 최종적으로 일관된 글로벌 결정(합의)을 내릴 수 있게 한다.

3. 학습 워크플로우:

   • 학습은 반복당 두 단계로 수행된다. 첫째, 입력 계층 TM이 로컬 데이터에 대해 학습된다. 둘째, 이웃으로부터 받은 절 출력과 로컬 입력 계층의 절 출력을 사용하여 이웃 집계 계층 TM을 학습시킨다.
   • 다중 클래스 시나리오의 경우, 에이전트는 각 클래스에 대해 쌍을 이루는 TM(양성 및 음성 절)을 유지하며, 실제 레이블(ground-truth labels)과 대안 클래스 레이블을 기반으로 순차적으로 업데이트한다.

주요 기여

• 탈중앙화된 수직적 FL 프레임워크: 본 논문은 중앙 서버 없이 정렬된 샘플을 가진 수직적 피처 분할 하에서 탈중앙화된 학습을 위해 설계된 최초의 계층적 TM 프레임워크를 소개한다.
• 이질성 지원: 이 패러다임은 데이터 획득 방식, 로컬 데이터 분포, 계산 자원이 서로 다른 이질적인 에이전트를 수용하여 멀티모달 센싱 환경에서의 통합을 용이하게 한다.
• 효율적인 통신: 가십 프로토콜을 통해 이진 절 출력만을 교환함으로써 통신 오버헤드를 크게 줄이고 모델 파라미터와 로컬 데이터의 기밀성을 보존한다.
• 합의 기반 추론: 시스템은 로컬 피어 투 피어 교환을 통해 글로벌 합의를 달취하며, 이를 통해 앙상블은 고립된 로컬 모델이 포착할 수 없는 복잡한 패턴을 인식할 수 있다.

실험 결과
저자들은 세 가지 벤치마크에서 소프트웨어 구현을 통해 프레임워크를 평가하였다.

1. MNIST 및 Fashion-MNIST:

   • 실험은 28x28 이미지를 에이전트에 할당된 타일로 분할하는 방식(예: 4x4 타일을 가진 49명의 에이전트, 또는 7x7 타일을 가진 16명의 에이전트가 포함된 2D 그리드)으로 진행되었다.
   • 결과: 2계층 계층적 아키텍처가 단일 계층 방식보다 일관되게 우수한 성능을 보였다. MNIST의 경우, 앙상블은 최대 94.65%(16명 에이전트, 7x7 타일)의 정확도를 달성하여 클래식한 중앙 집중식 TM(96.73%)에 근접했다. Fashion-MNIST에서는 **83.99%**에 도달하여 중앙 집중식 베이스라인과 유사한 성능을 보였다.
   • 결과는 집계 계층이 클러스터 내 절의 활동 패턴을 효과적으로 학습하여, 단순한 투표 합계 집계보다 뛰어난 변별력을 제공함을 입증했다.

2. 합성 이질적 센서 네트워크:

   • 이질적인 센서 데이터(다양한 스케일, 오프셋, 노이즈 레벨 및 센서 수)를 가진 25명의 에이전트로 구성된 네트워크를 시뮬레이션했다.
   • 베이스라인 비교: 통합된 데이터로 학습된 중앙 집중식 인공 신경망(ANN)은 **93%**의 정확도를 달성한 반면, 로컬 데이터로 학습된 개별 에이전트는 데이터 중첩과 노이즈로 인해 43~57.5%의 정확도만을 기록했다.
   • TM 성능: 탈중앙화된 TM 앙상블은 **93%**의 정확도를 달성하여 중앙 집중식 ANN과 일치하는 성능을 보였다.
   • 확장성: 참여하는 에이전트의 수가 증가함에 따라 정확도가 중앙 집중식 베이스라인에 수렴함을 보여주었다.
   • 토폴로지 강건성: 프레임워크는 이웃 수가 서로 다른 9명의 에이전트로 구성된 일반 연결 그래프 토폴로지(비 그리드)에서도 테스트되었다. 시스템은 중앙 집중식 ANN 및 그리드 기반 구성(9명 에이전트)과 유사한 **76%**의 정확도를 달성했다.

의의 및 주장
본 논문은 이 연구가 엣지 및 센서 네트워크 환경에서 탈중앙화되고 프라이버시를 보호하는 머신 러닝의 실행 가능한 패러다임을 구축한다고 주장한다. 쳇슬린 머신의 논리 기반, 저전력 특성과 합의 기반 추론 메커니즘을 활용함으로써, 제안된 프레임워크는 다음과 같은 기능을 제공한다:

• 협력적 지능: 에이전트들은 원시 데이터를 공유하지 않고도 개별 로컬 모델의 능력을 넘어서는 복잡한 분류 작업을 공동으로 해결할 수 있다.
• 자원 효율성: 이 접근 방식은 전통적인 딥러닝 기반 연합 학습의 무거운 산술 연산 및 통신 비용을 피하도록 설계되어 저전력 컴퓨팅 환경에 최적화되어 있다.
• 확장성 및 유연성: 시스템은 다양한 네트워크 토폴로지(그리드 및 일반 그래프)에서 효과적으로 작동하며 이질적인 에이전트를 지원하므로, 실제 멀티모달 센싱 시나리오에 적합하다.

저자들은 현재의 평가가 이상적이고 오류가 없는 통신 채널을 가정하고 있음을 언급하며, 향후 연구에서는 패킷 손실 및 지연과 같은 현실적인 네트워크 장애 요인을 다룰 것이라고 밝혔다.