Are Algorithm Registers Transparent? Perspectives from Germany

기술 요약: 알고리즘 레지스터는 투명한가? 독일의 관점

문제 제기
알고리즘 레지스터는 공공 기관에서 사용하는 알고리즘 시스템을 기록하기 위한 공개 데이터베이스이지만, 이것이 유의미한 투명성을 제공할 수 있는지에 대해서는 논란이 지속되고 있다. 독일의 경우 상황이 매우 파편화되어 있다. 연방 차원의 레지스터는 존재하지 않으며, MaKI와 Lernende Systeme를 포함하여 최소 5개의 주 및 연방 차원의 이니셔티브가 서로 다른 범위, 목적, 표준을 가지고 운영되고 있다. 최근 Lorenz(2025)가 제안한 국가적 AI 투명성 레지스터를 위한 기술적 및 거버넌스 요구사항에 관한 개념적 제안이 있으나, 이는 아직 실행되지 않은 상태이다. 결과적으로, 기존의 독일 플랫폼들이 진정한 공적 책무성을 위한 투로의 투명성 목표를 달iles 수 있는지에 대한 실증적 평가가 부족한 실정이다. 기존 문헌에 따르면, 레지스터는 외부 감시보다는 내부 거버넌스 도구로서 더 잘 기능하는 경며, 흔히 "범위 문제"(무엇을 등록할 것인가), "정보 문제"(무엇을 공개할 것인가), 그리고 "효과성 문제"(설정된 목표를 달성하는가)를 겪는다.

방법론
저자들은 미래의 국가적 레지스터 개발 가이드로 설계되었던 Lorenz(2025)의 개념적 제안을 감사 도구로 재구성하였다. 방법론은 다음 5단계로 진행된다:

1. 검토: 독일의 컨셉 페이퍼를 번역 및 분석하여 구조화된 투명성 목표 및 하위 목표 세트를 추출한다.
2. 체크리스트 생성: 이러한 목표들을 정보 스키마, 아키텍처, 거버넌스, 홍보를 다루는 구조화된 체크리스트(영어로 번역되어 논문의 부록에 제공됨)로 구체화한다.
3. 플랫폼 평가: 이 체크리스트를 독일의 두 주요 이니셔티브인 MaKI(Marktplatz der KI-Möglichkeiten)와 Lernende Systeme(Learning Systems)에 적용한다. 평가는 공개적으로 접근 가능한 데이터만을 기반으로 하며, 각 체크리스트 항목을 예(Yes), 아니오(No), 부분적(Partially), 또는 접근 불가(No Access)(내부 아키텍처 지식이 필요한 항목의 경우)로 분류한다.
4. 평가: 항목별 발견 사항을 Lorenz(2025)가 정의한 일차 및 이차 목표에 따라 집계하여 달성도를 시각화한다.
5. 실행 과제: 식별된 격차를 해결하기 위해 플랫폼별 특정 권고 사항을 도출한다.

주요 기여

1. 문헌 합성: 본 논문은 유럽의 알고리드 레지스터 문헌을 범위, 정보 깊이, 효과성이라는 세 가지 차원의 관심사에 따라 정리한다.
2. 감사 프레임워크: Lorenz(2025)를 기반으로 한 구조화된 감사 체크리스트를 개발 및 번역하여, 실무자들이 기존 레지스터를 감사하거나 새로운 레지스터를 설계할 때 사용할 수 있도록 제공한다.
3. 실증적 감사: MaKI와 Lernende Systeme에 대한 외부 감사를 수행하여, 이들이 제안된 투명성 목표를 어느 정도 충족하는지 평가한다.
4. 시각화 및 실행 가능성: 레지스터 투명성 수준에 대한 시각화를 제안하고, 기존 독일 플랫폼을 개선하기 위한 구체적인 플랫폼별 실행 과제를 도출한다.

결과
감사 결과 여러 차원에서 상당한 격차가 발견되었으며, 이는 현재의 플랫폼들이 유의미한 투명성 레지스터의 기능을 부분적으로만 수행하고 있음을 나타낸다:

• 배치된 시스템의 투명성 (목표 1): 기본적인 정보(목적, 기능)는 비교적 잘 공개되어 있으나, 중요도, 위험 분류 및 위험 평가에 관한 정보는 미비하거나 부재한다. MaKI는 상세한 방법론이나 결과 없이 최소한의 위험 분류만을 제공하며, Lernende Systeme는 위험 정보를 전혀 공개하지 않는다.
• 신뢰 및 감독 (목표 2 & 3): 두 플랫폼 모두 강력한 피드백 메커니즘, 시민 포럼 또는 구조화된 대화 채널이 부족하다. 외부 감사인이 볼 수 있는 독립적인 검증이나 데이터 품질 보증 프로세스의 증거가 없다.
• 중앙 집중화 및 상호 운용성 (목표 4 & 5): 기술적 인프라는 존재하지만, 데이터베이스 아키텍처, 동기화 인터페이스 또는 버전 관리(이중 시간적 이력 관리, bitemporal historization)에 대한 공개 정보가 불충분하다. 두 플랫폼 모두 현재 EU AI 법(EU AI Act)에 의해 의무화된 미래의 EU 고위험 AI 데이터베이스와의 명확한 상호 운용성을 보여주지 못하고 있다.
• 범위 및 권한: 참여가 자발적이어서 불완전한 범위를 갖는다(예: 법 집행 시스템의 부재). MaKI는 연방 행정에 국한되어 있고, Lernende Systeme는 연구 및 산업에 초점을 맞추고 있어, 공공 AI 사용의 전체 스펙트럼을 포괄하지 못한다.
• 데이터 품질: 용어의 불일치(예: 모호한 "AI 방법론" 분류)와 훈련 데이터(훈련 데이터와 운영 입력을 구분하는 것)에 대한 상세한 문서화 부족은 해석 가능성을 저해한다.

의의
본 논문은 단순히 특정 플랫폼을 "투명성 레지스터"라고 명명하는 것만으로는 투명성이 창출되지 않는다고 주장한다. 핵심적인 발견은 현재의 독일 이니셔티브들이 의미 있는 공적 책무성보다는 내부 행정 문서화나 혁신 촉진에 치중되어 있다는 점이다. 저자들은 독일이 중앙 집중화되고 일관된 국가적 AI 투명성 레지스터를 결여하고 있다고 결론짓는다. 이들은 향후의 노력이 추가적인 분절된 이니셔티브를 만드는 것이 아니라, 기존의 것들(특히 MaKI와 Lernende Systeme)을 통합하고 강화하는 방향으로 나아가야 한다고 제언한다. 이 플랫폼들의 가장 강력한 요소들을 통합함으로써, 독일은 EU AI 법의 의무적인 고위험 범위를 넘어 공공, 연구자 및 시민 사회에 진정으로 유익한 신뢰할 수 있는 AI 거버넌스의 국가적 모델을 구축할 기회를 가질 수 있다.