The urban right to AI: Pluralistic co-design and governance of public space

기술 요약: 도시의 AI 권리: 공공 공간의 다원적 공동 설계 및 거버넌스

문제 제기
현대 도시 계획은 점차 "이중 인프라", 즉 물리적 도시(도로, 건물)와 행정 프로세스에 의해 공공 공간을 가독성 있게 만드는 인식론적·알고리즘적 층위(데이터, 모델, 인터페이스)에 점점 더 의존하고 있다. AI 시스템이 계획 수립을 위한 중립적인 도구로 취급될 때, 알고리즘 층위는 시장의 유인 구조나 기술적 기본값에 의해 통제되며, 이 과정에서 이질적인 시민적 가치들이 단일한 보편적 지표로 붕괴되곤 한다. 본 논문은 이러한 집합화가 구조화된 이견(disagreement)을 삭제하고 정치적 갈등을 기술적 오류로 재분류한다고 주장한다. 핵심 문제는 포용성, 안전, 접근성과 같은 상충하는 가치들을 최소화해야 할 '노이즈'가 아니라, 협상과 절차적 처리가 필요한 정당한 조건으로 간주하며, 알고리즘 층위를 다원성을 존중하는 시민 인프라로서 어떻게 거버넌스를 구축할 것인가 하는 점이다.

연구 방법론
본 연구는 규범 이론, 참여적 공동 생산, 혼합 방법론적 실증 분석, 그리고 머신러닝을 통합하는 프로그램적 다중 방법론 설계를 채택한다. 연구는 30개 이상의 커뮤니티 단체와 파트너십을 맺고 몬트리올에서 수행된 실증 연구를 기반으로 한다.

1. 규범적 및 절차적 프레임워크: 본 논문은 "다원적 정렬 도시주의(Pluralistic-Alignment Urbanism, PAU)"를 통해 운영되는 공공 공간을 위한 "AI에 대한 권리"를 개발한다. 이 프레임워크는 AI 시스템을 민주적 승인, 투명성, 구제 절차가 필요한 거버넌스 객체로 취급한다. 또한 참여가 초기 협의에만 국한되지 않고 모든 단계에 분산되는 "확장된 AI 라이프사이클"(공동 프레이밍, 공동 설계, 공동 구현, 공동 배포, 공동 유지관리)을 제안한다.
2. 스트리트 리뷰 (평가 시스템):
   • 데이터 도출: 거주자(N=28)를 대상으로 한 반구조화된 인터뷰와 포커스 그룹을 통해 거리 경관의 질에 대한 기술어(descriptors)를 도출하였다. 이는 평가 기준(예: 포용성, 접근성, 미학)으로 통합되었다.
   • 측정: 참가자들은 20개의 거리(60개의 관점)를 개별적으로 또는 소그룹으로 평가하였다. 본 연구는 합의, 이견, 그리고 구조화된 숙의의 효과를 측정하였다.
   • 스케일링: 로컬하게 공동 생산된 레이블을 학습시킨 지도형 다중 출력 회귀 파이프라인을 적용하여, 거리 뷰 이미지(~45,000장)로부터 하위 그룹별 점수를 예측함으로써 하위 그룹의 구분을 유지하면서도 도시 전역의 히트맵을 생성하였다.
3. LIVS (생성 시스템):
   • 데이터셋 구축: "로컬 교차적 시각 공간(Local Intersectional Visual Spaces, LIVS)"은 2년간 30개 커뮤니티 단체와 함께 개발한 다원적 정렬 데이터셋이다. 이는 634개의 커뮤니티 정의 개념에서 도출된 6가지 기준을 중심으로 구성된 13,462개의 텍스트-이미지 생성 장면 간 37,710개의 쌍체 비교 데이터를 포함한다.
   • 정렬: LIVS 선호 데이터를 사용하여 Stable Diffusion XL 모델을 미세 조정(fine-tuning)하기 위해 직접 선호 최적화(Direct Preference Optimization, DPO)를 적용하였다.
   • 평가: 튜닝된 모델을 베이스라인 모델 및 새로운 거주자 주석(N=2,100)과 비교 평가하여 선호도 정렬 및 중립적 판단의 지속성을 평가하였다.

주요 결과

• 구조화된 다원성: 실증 분석 결과, 동일한 거리 경관에 대한 평가는 사회적 위치에 따라 체계적으로 차이가 있음을 확인하였다. "포용성"은 미학처럼 시각적으로 명확한 기준보다 유의미하게 낮은 평가자 간 일치도를 보였다.
• 숙의 효과: 구조화된 소그룹 토론은 선택된 기준에 대한 수렴을 높이지만, 사회적으로 논쟁적인 차원에 대한 이견을 완전히 제거하지는 못한다. 잔여 이견은 단순한 주석 오류가 아닌 정보 가치가 있는 거버넌스 신호로 취급된다.
• 한계가 있는 스케일링: 공동 생산된 데이터로 학습된 모델은 하위 그룹 인지적 점수를 예측하고 도시 전역의 지도를 생성할 수 있다. 그러나 본 연구는 이미지 기반 입력이 공공 공간의 비시각적, 역사적, 혹은 상호작용적 측면을 포착할 수 없음을 기록하며, 이는 시각에 의해서만 거버넌스가 가능한 범위에 대한 표현적 한계를 설정한다.
• 신호로서의 중립성: LIVS 생성 실험에서, 선호도 튜닝 후에도 상당 부분의 판단이 중립적이거나 불확정적인 상태로 남았다(튜닝된 모델 선호 700, 베이스라인 선호 300, 중립 1,100). 본 논문은 이러한 중립성을 최적화의 실패가 아니라, 강제적 집합화 대신 숙의가 필요한 가치 갈등을 나타내는 거버넌스 신호로 해석한다.
• 공동 생산의 타당성: 본 연구는 로컬하게 공동 생산된 기술어들이 기준으로서 통합되고, 머신러닝을 통해 스케일링되며, 생성 모델을 가이드하는 데 사용될 수 있음을 입증한다. 단, 이는 표현적 한계와 잔여 이견이 명시적으로 문서화되어야 한다는 전제하에 가능하다.

의의 및 주장
본 논문은 AI 층위를 "AI에 대한 권리"의 대상인 시민 인프라로 간주하는 도시 AI 거버넌스 아키텍처를 구축한다고 주장한다. 그 의의는 다음과 같다:

1. AI를 인프라로 재정의: AI를 단순한 도구로 보는 관점을 넘어, 시정 의사결정에서 무엇이 가시적이고, 거버넌스의 대상이 되며, 정당화될 수 있는지를 결정하는 인식론적 층위로 인식한다.
2. 다원성의 실행: 단일한 목적 함수으로 붕괴시키지 않고 이질적인 가치를 도출, 표현, 협상하기 위한 구체적인 방법론(PAU)을 제공한다. 공공 공간에서의 정당성은 이견을 보존하고 해석할 수 있는 능력을 갖춘 기관에 달려 있다고 주장한다.
3. 구현 아키텍처: 다음을 포함하는 시정 거버넌스 프레임워크로 연구 결과를 종합한다:
   • 권리 기반 의무: 공개, 권력으로서의 참여, 이의 제기, 그리고 구제.
   • 라이프사이클 거버넌스: 공동 프레이밍부터 공동 유지관리까지의 체크포인트와 숙의 셀(deliberative cells)을 위한 "일시 중단 권한".
   • 조달 규칙: 시스템이 진화하는 시민 규범에 책임을 질 수 있도록 감사 가능성, 데이터 관리, 재위탁을 위한 계약 조항.
   • 감독 설계: 논쟁적인 차원을 검토하고 가치 레지스터를 업데이트하기 위한 반복적인 "숙의 셀"의 활용.

본 논문은 제안된 프레임워크가 이론적으로 견고하고 경계가 설정된 연구를 통해 실증적으로 뒷받침되지만, 그 완전한 제도적 타당성은 종단적인 시정 차원의 실행에 달려 있다고 겸허히 서술한다. 또한, 이견과 불확정성을 기술적 결함이 아닌 거버넌스의 1차적 특징으로 취급하는 것이 AI 매개 도시 계획의 민주적 정당성을 위해 필수적이라고 상정한다.