기술 요약: GuidaPA – 연합 학습을 통한 공공 행정용 프라이버시 보존형 챗봇

1. 문제 정의

공공 행정(PA) 분야 내 대규모 언어 모델(LLM) 챗봇의 배포는 조직적 사일로(silos), 규제 제약, 그리고 프라이버시 요구 사항으로 인해 상당한 장벽에 직면해 있습니다. 기존의 중앙 집중식 학습은 민감한 기관 데이터(예: 내부 매뉴얼, 지원 티켓, 데이터베이스 추출물)가 데이터 주권이나 거버넌스 정책을 위반하지 않고 단일 저장소로 통합될 수 없기 때문에 실행 불가능한 경우가 많습니다. 반대로, 완전히 로컬화된 솔루션은 비용이 많이 들고 서로 다른 행정 사무소 간의 일관되지 않은 동작을 초래할 수 있습니다.

핵심 과제는 다음과 같은 대화형 AI 시스템을 개발하는 것입니다:

1. 데이터 지역성 보존: 민감한 문서를 개별 공공 행정 사무소 내에 유지합니다.
2. 도메인 적응 보장: 범용 LLM을 특정 공공 행정 용어 및 절차적 워크플로우(예: 승인 요청, 회계 접근)에 적응시킵니다.
3. 액세스 제어 강제: 사용자가 자신의 제도적 역할(예: 시민 vs 공무원)에 적합한 정보에만 접근할 수 있도록 보장합니다.
4. Non-IID 데이터 처리: 서로 관련은 있지만 뚜렷하게 구분되는 데이터셋을 보유한 서로 다른 사무소들의 특성(비독립 동일 분포, non-IID)을 관리합니다.

2. 방법론

저자들은 연합 학습(FL)을 역할 기반 액세스 제어(RBAC) 및 보안 클라이언트 측 프로세싱과 결래한 GuidaPA 시스템 아키텍처를 제안합니다.

시스템 아키텍처

GuidaPA는 네 가지 주요 구성 요소로 이루어져 있습니다:

• 대화 관리자(Conversation Manager): 사용자 상호작용의 진입점입니다. 사용자 자격 증명을 검증하고 모델의 컨텍스트를 허가된 데이터 소스로 제한함으로써 RBAC를 강제합니다. 이는 사용자의 역할에 따라 제한된 콘텐츠에 대한 접근을 명시적으로 차단하여 프롬프트 인젝션 공격을 방지합니다(예: SIGESON 공무원은 SIDFORS 데이터에 접근할 수 없음).
• 연합 학습(FL) 모듈: 원시 데이터를 공유하지 않고 협력적 학습을 조율합니다. 클라이언트(공공 행정 사무소)는 자체 프라이빗 데이터셋에서 로컬 모델을 학습시키고 모델 업데이트(가중치)만을 중앙 서버로 전송합니다. 서버는 FedAvg(데이터 크기에 따른 가중치 적용)를 사용하여 이러한 업데이트를 집계하여 글로벌 모델을 생성하며, 이 모델은 다시 클라이언트에 재배포됩니다.
• 클라이언트 데이터 파이프라인: 보안 로컬 전처리를 처리합니다. 원시 문서(PDF/HTML)를 추출, 정제하고 로컬에서 지시어 튜닝(instruction-tuning) 형식으로 변환합니다. 원시 데이터는 클라이언트 환경을 벗어나지 않습니다.
• 성능 모듈: 글로벌 및 로컬 모델의 품질을 모니터링하고, Jensen–Shannon Divergence(JSD) 및 Hellinger Distance(HD)와 같은 통계적 척도를 사용하여 데이터 이질성(non-IID 효과)을 정량화합니다.

실험 설정

• 데이터 소스: 본 연구는 이탈리아 기업 및 제조국(MIMIT)에서 관리하는 두 개의 이탈리아 공공 행정 플랫폼의 공개 문서를 활용합니다:
  • SIGESON: 라디오 방송 관리 (8페이지의 매뉴얼 + FAQ).
  • SIDFORS: 전자 통신 네트워크 승인 (31페이지의 매뉴얼 + FAQ).
  • 참고: 이 공개 문서들은 제한된 내부 소스를 위한 "안전한 대리물(proxy)" 역할을 합니다.
• 모델: 본 연구는 이탈리아 중심 모델(예: cerbero-7b, zefiro-7b)과 다국어 베이스라인(예: Llama-3.1-8B, Mistral-7B)을 포함한 8개의 LLM을 평가합니다.
• 학습 프로토콜:
  • 미세 조정(Fine-tuning): QLoRA(4비트 양자화)를 사용한 매개변수 효율적 미세 조정(PEFT), LoRA rank $r=32$.
  • 연합 라운드: 15회의 서버 라운드와 라운드당 1회의 로컬 에포크(epoch).
  • 분할: 클라이언트당 80/20 학습-테스트 분할.
  • 하드웨어: 단일 GPU 워크스테이션 (RTX A6000).

3. 주요 기여

1. 이탈리아 공공 행정 분야의 첫 번째 FL 적용: 본 연구는 기관 데이터 사일로라는 고유한 제약 조건을 해결하며, 특히 이탈리아 공공 행정 맥락 내에서 LLM 기반 챗봇에 연합 학습을 적용한 최초의 연구입니다.
2. 통합 배포 프레임워크: 모델 학습에만 집중했던 이전의 FL 연구와 달리, Guida, PA는 공공 행정에 필수적인 애플리케이션 수준의 메커니즘을 통합합니다:
   • 대화 수준에서 강제되는 역할 기반 액세스 제어(RBAC).
   • 보안 클라이언트 측 전처리 파이프라인.
   • non-IID 데이터 효과에 대한 명시적 모니터링.
3. 근사 중앙 집중식 품질의 경험적 검증: 본 연구는 연합 미세 조정이 데이터를 로컬에 유지하면서도 프라이빗 중앙 집중식 학습과 대등한 성능을 달낼 수 있다는 증거를 제공합니다.
4. 기관적 Non-IID의 정량화: 저자들은 공공 행정 데이터셋이 (구별되는 절차적 수직 계열로 인해) non-IID임에도 불구하고, 복잡한 개인화 메커니즘 없이도 안정적인 글로벌 집계가 가능할 만큼 그 편차가 완만하다는 것을 입증했습니다.

4. 결과

평가는 연합 학습(FL) 모델을 프라이빗 중앙 집중식 베이스라인(모든 데이터가 통합된 경우) 및 범용 베이스라인(미세 조정이 없는 사전 학습 모델)과 비교합니다.

• 도메인 적응: 미세 조정은 범용 모델보다 성능이 현저히 뛰어납니다. 최적의 모델(cerbero-7b-openchat)의 경우, ROUGE-1은 41.45에서 62.18로, BLEU-4는 26.97에서 50.90으로 향상되었습니다.
• 연합 vs. 중앙 집중식: 최적의 연합 모델(cerbero-7b-openchat)은 중앙 집중식 베이스라인과 매우 유사한 점수를 달성했습니다:
  • ROUGE-1: 61.10 (FL) vs. 62.18 (중앙 집중식).
  • BLEU-4: 45.02 (FL) vs. 50.90 (중앙 집중식).
  • METEOR: 63.94 (FL) vs. 64.17 (중앙 집중식).
• 로컬 성능: 성능은 클라이언트마다 달랐습니다. cerbero-7b 모델은 SIGESON 데이터셋에서 가장 좋은 성능을 보였고, cerbero-7b-openchat은 SIDFORS 데이터셋에서 탁월한 성능을 보였으며, 이는 데이터 이질성의 영향을 보여줍니다.
• Non-IID 분석: 어휘적 발산(HD 및 JSD로 측정)은 공유된 규제 언어와 구별되는 도메인 용어 덕분에 중간 수준인 것으로 나타났으며, 이는 안정적인 연합 집계를 뒷받침합니다.

5. 의의 및 주장

본 논문은 GuidaPA가 데이터의 중앙 집중식 풀링 없이도 공공 서비스를 위한 프라이버시 보존형 대화형 AI의 실현 가능성을 입증한다고 주장합니다.

• 실질적 생존 가능성: 결과는 공공 행정 기관들이 엄격한 데이터 주권 및 거버넌스 제약을 준수하면서도 고품질의 어시스턴트를 구축하기 위해 협력할 수 있음을 시사합니다.
• 균형 잡힌 트레이드오프: 시스템은 확장성, 데이터 보호, 사용성을 성공적으로 균형 있게 조절합니다. 이는 종종 느리고 비용이 많이 들거나 법적으로 제한되는 중앙 집중식 데이터 저장소를 구축하는 것에 대한 실질적인 대안을 제공합니다.
• 거버넌스 지원: RBAC와 non-IID 모니터링을 통합함으로써, 이 프레임워크는 변화하는 로컬 데이터와 엄격한 액세스 정책이 있는 환경에 적합한 거버넌스 워크플로우를 지원합니다.

저자들은 본 연구가 공개 문서를 대리물로 사용하였고 데이터셋 크기가 작다는 점을 언급하며 겸허한 태도를 유지합니다. 그들은 이 결과를 더 큰 규모의, 노이즈가 많고, 더 이질적인 기관 코퍼스에 추가적인 최적화 없이 그대로 확장될 것이라는 보장이 아닌, 실현 가능성에 대한 증거로 규정합니다. 향후 연구로는 더 강력한 non-IID 설정 대응, 차분 프라이버시(differential privacy) 도입, 그리고 인간 평가를 포함하는 것이 제안되었습니다.