Pluralistic-Alignment Urbanism: Operationalizing a Right to AI for Inclusive Public Space

기술 요약: 다원적 정렬 도시주의 (Pluralistic-Alignment Urbanism, PAU)

문제 제기

지자체 기관들은 공공 공간을 인벤토리화하고, 가로 경관(streetscapes)을 점수화하며, 도시 계획을 위한 합성 이미지를 생성하기 위해 머신러닝 시스템을 점점 더 많이 도입하고 있다. 이러한 시스템은 이질적인 인간의 경험을 비교 가능한 산물(점수, 지도, 이미지)로 변환하는 "인식론적 및 알고리즘적 층위"로 기능한다. 그러나 공공 공간은 포용성, 안전, 소속감에 관한 지속적인 의견 불일치를 특징으로 한다. 현재의 거버넌스 프레임워크는 이러한 시스템을 단일 평가 목표에 의존하여 보편적 합의를 가정하는 중립적인 의사결정 지원 도구로 취급하는 경우가 많다. 이러한 접근 방식은 논쟁적인 가치를 은폐하고, 다수 평균화를 통해 하위 집단의 차이를 지우며, 다원적인 공공 생활의 본질을 반영하지 못하는 결정을 정당화할 위험이 있다. 본 논문은 의견 불일치를 제거해야 할 "노이즈"로 취급하는 것은 거버넌스의 실패라고 주장한다. 대신, 의견 불일치와 불확정성(indeterminacy)은 의사결정에 유의미한 증거로서 다루어져야 한다.

방법론

본 논문은 캐나다 몬트리올의 지역사회 조직들과 협력하여 수행된 두 가지 참여형 사례 연구를 통해 운영되는 절차적 거버넌스 프레임워크인 **다원적 정렬 도시주의 (PAU)**를 제안한다. 방법론은 참여를 사후적 검증이 아니라 평가 기준, 데이터, 그리고 거버넌스 산물의 공동 생산(co-production)으로 간주한다.

1. 스트리트 리뷰 (재현 시스템):

   • 목표: 거주자의 기준에 따라 가로 경관을 평가하고, 이러한 판단을 도시 전역으로 확장한다.
   • 과정:
     • 도출(Elicitation): 28명의 거주자를 대상으로 한 반구조화된 인터뷰를 통해 600개 이상의 기술어(descriptors)를 생성하였으며, 이를 *접근성(Accessibility), 미학(Aesthetics), 실용성(Practicality), 포용성(Inclusivity)*의 네 가지 기준으로 통합하였다.
     • 평가: 12명의 참가자가 60개의 거리 뷰 이미지를 개별적으로 평가한 후, 촉진된 그룹 토론을 통해 집단적 판단을 도출하였다.
     • 확장(Scaling): 120개의 평가된 이미지(데이터 누수를 방지하기 위해 거리 수준의 데이터 포인트별로 그룹화됨)를 학습시켜 45,000개의 거리 이미지에 대한 점수를 예측하는 지도형 다중 출력 회귀 모델을 훈련시켰다. 이 모델은 28개의 점수(4가지 기준 × 6개의 자기 식별 하위 집단 + 4개의 집계값)를 예측한다.
   • 지표: 예측 성능은 홀드아웃 테스트 세트에 대한 $R^2$를 통해 측정되었다.

2. LIVS (지역 교차적 시각 공간, Local Intersectional Visual Spaces) (생성 시스템):

   • 목표: 텍스트-이미지 모델을 공공 공간 설계에 대한 다원적 선호도에 정렬시킨다.
   • 과정:
     • 데이터 구축: 커뮤니티 파트너와의 워크숍을 통해 634개의 개념을 도출하였으며, 이를 6가지 기준(접근성, 안전, 편안함, 매력도, 포용성, 다양성)으로 통합하였다. 440개의 참가자 작성 프롬프트를 사용하여 Stable Diffusion XL을 통해 16,693개의 이미지를 생성하였다.
     • 선호도 수집: 18명의 참가자가 웹 기반 플랫폼을 통해 37,710개의 이미지 쌍 비교를 주석 처리하였다. 결정적으로, 인터페이스에는 무관심 또는 불확정성을 나타내는 명시적인 중립 옵션이 포함되었다.
     • 정렬(Alignment): 35,510개의 비중립적 비교를 바탕으로 직접 선호 최적화(Direct Preference Optimization, DPO) 미세 조정을 수행하였다.
     • 평가: 25명의 거주자로 구성된 별도의 워크숍에서 2,100개의 새로운 비교 데이터를 제공하여, 튜닝된 모델을 베이스라인 모델과 비교 평가하였으며, 특히 중립적 선택 비율을 추적하였다.

주요 기여

1. 다원적 정렬 도시주의 (PAU): 공공 공간 AI 시스템을 집합적 조건을 형성하는 시민 인프라로서, **AI에 대한 권리(Right to AI)**를 요구하는 절차적 거버넌스 프레임워크로 보는 관점이다. 이 권리는 일반적인 접근 권리가 아니라, 시스템이 형성하는 집합적 조건을 위한 최소한의 절차(권리, 의무, 산물, 구제책)를 의미한다.
2. 증거적 대상 (The Evidentiary Object): 결합된 산물(자극, 기준, 프로토콜, 집계, 재현)을 거버넌스의 단위로 보는 개념적 전환이다. 의견 불일치와 중립성은 이 대상의 속성이지 오류가 아니다.
3. 거버넌스 아키텍처: 다음과 같은 구체적인 구현 모델을 특징으로 한다:
   • 분리 보고 (Disaggregated Reporting): 기본 다수 평균화를 피하고, 하위 집단별 증거를 보고한다.
   • 버전 관리된 가치 레지스터 (Versioned Value Register): 벤치마킹 가능한 차원과 논쟁적인 차원을 구분하는 시의 기록.
   • 상설 심의 셀 (Standing Deliberative Cells): 가치 레지스터를 업데이트하고 일시 중단 또는 롤백을 권고할 수 있는 권한을 가진 참여형 기구.
   • 일시 중단 및 롤백 권한: 입증된 피해, 표류(drift), 또는 불확정성에 근거하여 시스템을 중단시키는 명시적 트리거.

결과

실증 연구는 기술적 제약과 거버넌스 함의를 연결하는 네 가지 명제를 도출하였다:

• P1: 다원성은 노이즈가 아니라 구조화된 것이다.
  • 기준들은 서로 호환 가능하지 않다(commensurable). 기준 간의 상관관계는 완만하고 불균등했다 (예: 실용성과 미학은 상관관계가 없었음($r = -0.05$); 포용성은 접근성 및 미학과 중간 정도의 상관관계를 보임).
  • 동일한 자극에 대한 하위 집단의 평가는 유의미하게 달랐으며, 이는 집계 방식이 결과에 영향을 미치며 책임 소재와 관련된 차이를 지울 수 있음을 나타낸다.
• P2: 심의는 증거적 대상을 변화시킨다.
  • 그룹의 판단은 개인 평점의 단순 평균이 아니었다. 토론은 기준에 대한 재해석과 점수 부여에 대한 새로운 이유를 이끌어냈다.
  • 심의 후에도 남은 의견 불일치는 강제로 합의에 도달하는 대신, 허용 가능한 모델 사용을 제한하는 증거로서 기록되었다.
• P3: 공동 생산된 확장은 가능하지만 한계가 있다.
  • 스트리트 리뷰 모델은 $R^2 = 0.91$(검증) 및 $R^2 = 0.89$(홀드아웃 테스트)를 달성했다.
  • 그러나 양식(거리 뷰 이미지)의 특성상 가시적인 단서만을 표현할 수 있어, 괴롭힘이나 상징적 소속감과 같은 경험적 요인을 포착하지 못한다. 따라서 결과물인 지도는 '그라운드 트루스(ground truth)'가 아닌 감사 산물(audit artifact)이다.
• P4: 선호도 정렬에서의 중립성은 거버넌스 신호이다.
  • LIVS 홀드아웃 평가(2,100개 비교)에서 **52.4%**가 중립적 선택이었다 (95% CI [50.2, 54.5]).
  • DPO 튜닝된 출력은 33.3%의 경우에만 선호되었다.
  • 높은 중립성 비율은 많은 비교가 주어진 기준 하에서 결정적인 순위를 지원하지 못함을 나타내며, 이는 최적화를 매끄럽게 처리해야 할 라벨이 아니라 최적화를 제한하라는 신호로 작용한다.

의의 및 주장

본 논문은 공공 공간 AI 시스템의 정당성이 단지 예측 성능뿐만 아니라, 기관이 지속적인 수정, 논쟁, 그리고 범위 통제를 유지할 수 있는지 여부에 달려 있다고 주장한다.

• AI에 대한 권리의 실행: 본 논문은 추상적인 권리를 분리 보고 및 중단 권한을 의무화하는 조달 조항을 포함한 구체적인 시의 절차로 번역한다.
• 불확정성의 재구성: 중립성과 의견 불일치를 모델의 실패가 아닌 거버넌스의 입력값으로 취급함으로써, PAU는 시스템이 무엇을 정당하게 재현할 수 있고 없는지를 정당화할 수 있는 메커니즘을 제공한다.
• 제도적 견고성: 제안된 아키텍처(심의 셀, 가치 레지스터)는 지배적인 규범에 의한 "거버넌스 포획(governance capture)"을 방지하고, AI 매개 증거가 계속해서 논쟁 가능하도록 하는 것을 목표로 한다.

저자들은 공공 공간에 대한 의견 불일치를 해결하는 것이 목적이 아니라, 그러한 의견 불일치를 가시적이고, 논쟁 가능하며, 결과에 영향을 미치도록 거버넌스하는 것이 목표라고 명시한다. 이 프레임워크는 특정 기준과 가치 레지스터가 국지적으로 재위탁되어야 하며 고정된 템플릿으로 전이될 수 없음을 인정하는, 의사결정을 위한 절차적 최저선(procedural floor)으로 제시된다.