[기술 요약] 사람 중심 AI 거버넌스를 위한 참여형 원장(Participation Ledger)

1. 문제 정의 (Problem Statement)

현재 AI 거버넌스에서 '참여(Participation)'는 중요하게 언급되지만, 실제로는 다음과 같은 세 가지 핵심적인 한계로 인해 **상징적 행위(Symbolic participation)**에 그치는 경우가 많습니다.

• 추적 불가능성 (Lack of Traceability): 커뮤니티의 기여(데이터 주석, 프롬프트, 의견 등)가 실제 AI 시스템의 업데이트(데이터셋 변경, 모델 미세 조정, 정책 변경 등)와 기술적으로 어떻게 연결되었는지 증명하기 어렵습니다.
• 집행 불가능성 (Lack of Enforceability): 시민들의 의견이 권고 수준에 머물 뿐, 시스템의 특정 기능을 일시 중지하거나, 특정 테스트를 통과해야만 배포하도록 강제하는 등의 실질적인 통제권을 행사하기 어렵습니다.
• 보상 체계의 부재 (Lack of Compensability): 참여를 일회성 이벤트로 취급하며, 참여자가 기여한 테스트나 데이터가 시스템 유지보수 과정에서 지속적으로 가치를 창출할 때 이에 대한 지속적인 인정이나 보상이 이루어지지 않습니다.

2. 연구 방법론 (Methodology)

본 논문은 위 문제를 해결하기 위해 **'참여형 원장(Participation Ledger)'**이라는 새로운 프레임워크를 제안하며, 이를 검증하기 위해 다음과 같은 방법론을 사용합니다.

• 교차 사례 분석 (Cross-case Synthesis): 도시 계획 및 공공 공간 거버넌스 분야의 4가지 실제 참여형 AI 프로젝트(AIAI, EVADIA+, AI-EDI-Space, WeDesign+)를 대상으로 문서 기반 분석을 수행하여, 현재의 참여 기록 방식에서 발생하는 증거 공백(Evidence gaps)을 식별했습니다.
• 영향력 그래프 모델링 (Influence Graph Modeling): 참여를 단순한 기록이 아닌, '기여 $\rightarrow$ 변화 $\rightarrow$ 테스트 $\rightarrow$ 평가'로 이어지는 기계 판독 가능한(Machine-readable) 영향력의 흐름으로 정의했습니다.
• 스키마 설계 및 검증: JSON-LD 기반의 표준 스키마를 설계하여 데이터의 상호운용성과 감사 가능성(Auditability)을 확보했습니다.

3. 핵심 기여 (Key Contributions)

① 참여 증거 표준 (Participation Evidence Standard)

참여의 투명성을 위해 다음 항목을 포함하는 표준화된 기록 형식을 정의합니다.

• 모집 경로, 참여자의 역할(중재자 포함), 동의 및 개인정보 보호 범위, 보상 조건, 재사용 및 보유 한계 등.

② 참여형 원장 스키마 (The Participation Ledger Schema)

참여를 기술적 변화와 연결하는 영향력 그래프(Influence Graph) 구조를 제안합니다.

• Contribution (기여): 프롬프트, 주석, 토론 근거 등.
• Change (변화): 데이터셋 업데이트, 모델 어댑터, 가드레일 정책 변경 등.
• Test of Change (변화 테스트): 커뮤니티의 우려 사항을 재현 가능한 테스트(Regression Test)로 변환하여, 시스템 업데이트 시 동일한 문제가 재발하는지 검증.
• Evaluation Run (평가 실행): 특정 버전의 아티팩트에 대해 테스트를 수행한 결과.

③ 거버넌스 프리미티브 (Governance Primitives)

원장 내에서 실행 가능한 두 가지 핵심 메커니즘을 도입합니다.

• 역량 바우처 (Capability Vouchers): 권한을 가진 커뮤니티 관리자가 특정 AI 기능의 활성화를 조건부로 제한하거나 일시 중지할 수 있는 권리.
• 참여 크레딧 (Participation Credits): 기여한 테스트가 시스템 유지보수(예: 회귀 오류 탐지)에 지속적인 가치를 제공할 때, 이를 추적하여 보상할 수 있는 근거.

4. 결과 및 분석 (Results)

• 증거 공백 확인: 4가지 사례 분석 결과, 모집 경로와 역할은 비교적 잘 기록되지만, 동의 범위, 보상 조건, 그리고 기여와 시스템 변화 사이의 명시적인 연결 고리는 대부분 누락되거나 서술형(Narrative)으로만 존재함을 확인했습니다.
• 기술적 타당성: 제안된 JSON-LD 스키마를 통해 참여 데이터와 시스템 변경 사항 간의 복잡한 관계를 기계적으로 검증하고 추적할 수 있음을 입증했습니다.

5. 연구의 의의 (Significance)

• 실질적 권한 부여: 참여를 단순한 '의견 수렴'에서 '기술적 통제권(Enforceable authority)'으로 격상시켰습니다.
• 책임 있는 AI 거버넌스 구현: 공급업체가 모델을 변경하더라도 커뮤니티와의 약속(테스트 통과 등)을 기술적으로 준수하도록 강제할 수 있는 인프라를 제공합니다.
• 지속 가능한 참여 모델: 참여를 노동(Labor)으로 인정하고, 시스템의 생애주기 전반에 걸쳐 기여도를 측정할 수 있는 경제적/윤리적 토대를 마련했습니다.

---

요약 키워드: 참여형 AI(Participatory AI), AI 거버넌스, 추적 가능성(Traceability), 집행 가능성(Enforceability), 보상(Compensation), 영향력 그래프(Influence Graph).