Bureaucratic Silences: What the Canadian AI Register Reveals, Omits, and Obscures

1. 연구 배경 및 문제 제기 (Problem)

2025 년 11 월, 캐나다 정부는 투명성 약속의 일환으로 최초의 연방 AI 등록부 (Federal AI Register) 를 공개했습니다. 이 등록부는 40 개 이상의 연방 기관에서 사용되는 409 개의 AI 시스템을 공개하여 공공 서비스의 효율성을 높이고 중복을 줄이는 것을 목표로 합니다.

그러나 저자들은 이러한 등록부가 정부 활동의 중립적인 거울이 아니라, **책임의 범위를 구성하는 능동적인 존재론적 설계 도구 (instrument of ontological design)**라고 주장합니다. 주요 문제는 다음과 같습니다:

• 담론과 현실의 괴리: "주권적 AI (Sovereign AI)"라는 수사학은 내면화되었으나, 실제 관료적 관행은 AI 를 "신뢰할 수 있는 도구"로만 묘사하고, 이를 운영하기 위해 필요한 인간의 재량, 훈련, 불확실성 관리 등을 체계적으로 은폐합니다.
• 책임의 형식화: 등록부가 기술적 설명을 사회적 - 기술적 맥락보다 우선시함으로써, AI 를 "논쟁 가능한 의사결정"이 아닌 "신뢰할 수 있는 도구"로 재구성합니다. 이는 투명성을 제공하면서도 실질적인 검증 가능성 (contestability) 을 결여시킨 채, 책임을 수행하는 형식적 준수 (performative compliance) 로 전락시킬 위험이 있습니다.

2. 연구 방법론 (Methodology)

저자들은 캐나다 연방 AI 등록부의 전체 데이터셋 (409 개 시스템) 을 분석하기 위해 ADMAPS (Algorithmic Decision-Making Adapted for the Public Sector) 프레임워크를 활용했습니다.

• 혼합 방법론 (Mixed-Methods):
  • 양적 매핑: 등록부 내의 명목 변수 (주 사용자, 개발 상태, 벤더 정보 등) 의 분포를 분석하고, 기술적 능력 설명에 대한 경량 텍스트 분석 (워드 클라우드 생성 등) 을 수행했습니다.
  • 연역적 정성적 코딩: ADMAPS 프레임워크의 세 가지 차원 (알고리즘적 의사결정, 관료적 절차, 인간의 재량) 을 기반으로 텍스트를 코딩했습니다.
• 분석 단위: 개별 AI 시스템이 아닌, **등록부 자체를 사회적 - 기술적 거버넌스 인공물 (governance artifact)**로 간주하고, 무엇을 강조하고 무엇을 침묵 (silence) 시키는지에 초점을 맞췄습니다.
• ADMAPS 프레임워크 적용:
  1. 알고리즘적 의사결정: 데이터 유형, 의사결정 지원 형태, 불확실성의 정도.
  2. 관료적 절차: 자원과 제약, 행정 및 훈련, 법률 및 정책.
  3. 인간의 재량: 전문성, 가치 판단, 휴리스틱 의사결정.

3. 주요 결과 (Key Results)

3.1 알고리즘적 의사결정의 재현 (Algorithmic Decision-Making)

• 데이터: 시스템의 21.4% 만 개인 정보를 사용하며, 24.4% 는 데이터 관행을 명시하지 않았습니다. 데이터는 행정 기록, 공개 웹 데이터, 상용 데이터, 사용자 생성 콘텐츠로 분류되지만, 많은 경우 데이터의 출처와 거버넌스가 불명확합니다.
• 의사결정 지원 유형: 정보 제공 (검색, 요약), 예측 (리스크 점수화), 처방 (행동 권고), 운영 자동화 (작업 자동화) 로 구분됩니다. 많은 시스템이 인간의 재량을 "검증" 단계로 축소시키거나, 알고리즘이 flagged 한 사례를 우선시하도록 유도하여 알고리즘 의존성을 증가시킵니다.
• 불확실성 (Uncertainty): 일부 시스템은 "파일럿", "실험"이라는 단어로 불확실성을 명시하지만, 많은 운영 중인 시스템은 "정확성", "안정성"을 강조하며 불확실성을 은폐합니다. 이는 불확실성을 알고리즘이 아닌 인간 담당자에게 전가하는 결과를 낳습니다.

3.2 관료적 절차의 생략 (Bureaucratic Processes)

• 자원과 제약: 409 개 시스템 중 42 개 기관만 등록되어 있으며, 소수 기관 (ISED, Statistics Canada 등) 이 대다수를 차지합니다. 시스템의 43.3% 는 내부 개발, 38.1% 는 외부 벤더 (특히 Microsoft) 에 의존하고 있어, 캐나다의 "주권적 AI" 전략과 기술적 의존도 사이의 모순을 드러냅니다.
• 행정 및 훈련: AI 가 내부 워크플로우 최적화 도구로 묘사되지만, 작업자 훈련, 프로토콜 변경, 인력 역량 강화에 대한 구체적인 내용은 거의 언급되지 않습니다. 이는 AI 도입을 기술적 개입으로만 치부하고 조직적 변혁으로 보지 않는 관점을 반영합니다.
• 법률과 정책: 주 (Province) 및 지역 (Territory) 에 대한 언급이 드물며, 연방 권한이 기본값으로 자연화됩니다. 이는 연방 - 주 간 법적 복잡성이나 원주민 거버넌스 구조와의 상호작용을 생략합니다.

3.3 인간의 재량과 휴리스틱 (Human Discretion)

• 전문성: 86.3% 의 시스템이 GC 직원용이며, AI 는 전문가의 판단을 보조하는 도구로 묘사됩니다. 하지만 시스템이 tacit knowledge(암묵지) 를 표준화된 규칙으로 변환함으로써, 전문가의 재량이 축소되고 업무가 단순화되는 경향이 있습니다.
• 가치 판단: 효율성, 정확성, 형평성, 안전 등 다양한 가치가 내재되어 있으나, 효율성과 속도가 종종 정확성이나 공정성보다 우선시됩니다.
• 휴리스틱: AI 는 사례 선별 (triage) 및 우선순위 설정을 통해 인간의 휴리스틱을 외부화합니다. 그러나 시스템이 "어떤 사례에 주의를 기울여야 하는지"를 결정할 때, 실제 의사결정 과정에서의 재량과 검토 방식에 대한 기록은 부재합니다.

4. 주요 기여 (Key Contributions)

1. 실증적 분석: 캐나다 연방 AI 등록부의 409 개 시스템을 체계적으로 분석하여, 기술적 능력과 관료적 현실 사이의 간극을 실증적으로 규명했습니다.
2. 개념적 기여 (관료적 침묵, Bureaucratic Silences): AI 등록부가 공개하는 정보 (기술적 능력, 효율성) 와 공개하지 않는 정보 (인간적 요소, 불확실성, 인프라 의존성) 를 구분하는 '관료적 침묵' 개념을 도입했습니다. 이는 투명성 체제의 구조적 속성임을 시사합니다.
3. 존재론적 설계 (Ontological Design) 관점: AI 등록부가 단순히 정보를 전달하는 것이 아니라, 어떤 AI 가 '거버넌스 가능'한 것으로 정의되고, 책임이 어떻게 배분되는지를 구성하는 도구임을 주장했습니다. 이는 투명성 인공물이 민주적 감시를 지원하기 위해서는 설계 관점의 전환이 필요함을 시사합니다.

5. 의의 및 시사점 (Significance)

• 거버넌스 정책: 캐나다의 AI 거버넌스 전략 (주권적 AI, 공공 부문 투명성) 이 실제 인프라 (외부 벤더 의존) 와 모순될 수 있음을 지적하며, 단순한 공개가 아닌 실질적인 책임 소재의 명확화가 필요함을 강조합니다.
• FAccT 연구: 알고리즘 책임성 (Accountability) 이 단순히 기술적 투명성 (Transparency) 이나 문서화를 의미하는 것이 아니라, 사회적 - 기술적 맥락에서의 관계와 권력 구조를 어떻게 구성하는지에 대한 비판적 접근의 필요성을 제기합니다.
• 공공 신뢰: 부분적이거나 선택적인 공개는 책임성의 외관만 제공할 뿐, 시민이 알고리즘적 결정을 이해하고 이의를 제기할 수 있는 실질적인 수단을 제공하지 못해 장기적으로 공공 신뢰를 훼손할 수 있음을 경고합니다.

결론적으로, 이 논문은 캐나다 AI 등록부가 투명성을 위한 도구라기보다는, 불확실성과 재량을 은폐하고 효율성을 강조함으로써 관료적 책임을 재구성하는 정치적 인공물임을 비판적으로 분석했습니다. 향후 투명성 장치는 단순한 정보 공개를 넘어, 인간과 알고리즘의 상호작용, 불확실성 관리, 그리고 조직적 맥락을 포괄하는 방향으로 재설계되어야 함을 주장합니다.