Collective Recourse for Generative Urban Visualizations

ラシッド・ムシュカーニによる論文「Generative Urban Visualizations に対する集団的救済（Collective Recourse for Generative Urban Visualizations）」の詳細な技術的サマリーを以下に示す。

1. 問題定義

テキストから画像への拡散モデル（Stable Diffusion XL など）は、都市計画において街並み、インフィルの選択肢、設計ガイドラインを可視化するために、ますます利用されるようになっている。しかし、これらのモデルには、人口統計学的なステレオタイプ、職業における性差、特定のコミュニティの欠落など、体系的な社会的バイアスが内在している。

• ギャップ: 現在のアルゴリズム的救済（algorithmic recourse）フレームワークは、個別的な反事実的説明（単一のユーザーが結果をどのように変更できるか）に焦点を当てている。これは、危害が通常集団的、反復的、構造的である生成都市イメージには不十分である。
• 課題: コミュニティが視覚的バグを集団的に報告し、特定のモデル修正を触发し、それらの修正が都市計画ワークフロー（設計ガイド、調達など）に浸透することを保証するための確立されたメカニズムは存在しない。

2. 手法

著者らは、コミュニティの入力を構造化された「視覚的バグ報告」として扱い、正式な緩和パイプラインを触发する**集団的救済（Collective Recourse）**というフレームワークを提案する。

A. 集団的救済パイプライン

このシステムは、5 つの段階からなるワークフローを通じて動作する。

1. 報告: コミュニティは、プロンプト、生成された画像、文脈、危害の種類、深刻度、証拠を含む構造化された報告書を提出する。
2. トリアージ: 受入チームは、危害の種類と文脈によって報告書をクラスタリングする。修正が必要かどうかを判断するために、**マンドートスコア（Mandate Score）**を計算する。
3. 修正の選択: トリアージに基づき、4 つの**救済プリミティブ（Recourse Primitives）**のいずれかが選択される。
   • カウンタープロンプト: 保護的で文脈を認識する言語を追加する。
   • ネガティブプロンプト: 望ましくないモチーフを除外する。
   • データセット編集: 網羅性のギャップを修正するために、トレーニングデータをキュレーションまたは拡張する。
   • リワードモデルの微調整: 生成を誘導するために、好意モデル（RLHF に類似）を更新する。
4. 検証: 修正は、**サブグループ視覚評価セット（SVES）**に対してテストされる。これは都市認識の手がかりを種として埋め込んだテンプレート化されたプロンプトのセットであり、反復発生を測定する。
5. 終了とガバナンス: 検証済みの修正は、公開ダッシュボードに記録され、モデルカード/データシートを更新し、計画アーティファクト（設計ガイド、RFQ など）とリンクされる。ローテーションする市民陪審が終了を審査し、代表性を確保し、紛争を裁定する。

B. マンドートスコア（$M$）

報告書が強制修正を触发するかどうかを決定するために、著者らは深刻度、量、代表性、証拠の質を組み合わせたスコアを定義する。
$$M(b) = s \cdot (1 - e^{-n/\tau_n}) \cdot r \cdot q$$
ここで：

• $s$: 深刻度（0-1）
• $n$: 固有の報告者の数（量の飽和）
• $r$: 代表性指数（人口の境界値との整合性）
• $q$: 証拠の質
• $\tau_n$: 飽和パラメータ

緩和が義務付けられるのは、$M(b) \geq \tau_M$（精度と再現率のトレードオフに合わせて調整された閾値）のときである。

C. 評価戦略

著者らは、6 つのサブグループ（女性、高齢者、LGBTQ+、新移民、アフリカ系ディアスポラ、地域組織）にわたる240 の報告書の合成プログラムを用いたシミュレーション研究を実施した。以下の項目を追跡した。

• 緩和の遅延: 受入から検証済みの合格までの時間。
• 反復発生: 30 日以内に危害が再発する確率。
• 政策採用: 計画担当者が公式文書で修正を採用したかどうか。

3. 主な貢献

1. 集団的救済の形式化: 個別的な救済から集団レベルの救済へと移行する新しいフレームワークであり、モデルライフサイクル管理と都市ガバナンスを結びつける。
2. 救済プリミティブの類型論: 4 つの修正タイプ（カウンタープロンプト、ネガティブプロンプト、データセット編集、リワード微調整）の分類。これらはそれぞれ異なる速度と耐久性のプロファイルを持つ。
3. マンドート閾値: 集団的シグナルに基づいて制度的アクションを触发するための数学的定義。緊急性（再現率）と厳密さ（精度）のバランスを取る。
4. 統合パイプライン: 技術的修正を市民陪審や公開ダッシュボードを含む参加型計画ワークフローに接続する実用的な設計。

4. 主な結果（シミュレーション）

シミュレーションは、4 つの救済プリミティブを比較し、異なるマンドート閾値をテストした。

• 速度対耐久性のトレードオフ:
  • プロンプトレベルの修正（カウンター/ネガティブプロンプト）: 最速（中央値2.1–3.4 日）だが、耐久性が最も低く、反復発生率が高い（21–38%）。
  • 構造的修正（データセット編集/リワード微調整）: 遅い（中央値13.5–21.9 日）が、はるかに耐久性が高く、反復発生率が低い（12–18%）、政策採用率が高い（30–36%）。
• 閾値の感度:
  • 閾値$\tau_M = 0.12$は、93% の精度と75% の再現率をもたらした。
  • ローテーション陪審を通じて**代表性（$r$）を高めることは、精度の損失を無視できる程度に抑えつつ再現率を81%**まで向上させ、手続的イノベーションが精度を犠牲にすることなく公平性を改善できることを示唆している。
• サブグループの分散: 遅延はサブグループによって異なり（2.8 日から 4.7 日）、高齢者は最も低い反復発生率（13.9%）を示し、女性はわずかに高い遅延（4.7 日）を経験した。これは、層別化されたサービスレベルの必要性を浮き彫りにしている。

5. 意義と含意

• 技術的領域と市民的領域の架橋: この論文は、「透明性を最終目標とする」（例：モデルカード）ことから、「透明性を行動のメカニズムとする」ことへと移行する。モデル修正を RFQ（資格要求）や設計ガイドラインなどの計画アーティファクトに直接リンクさせることで、説明責任を実践化する。
• 集団的危害の緩和: 個別的な反事実ではなく集団的シグナルに焦点を当てることで、都市可視化においてコミュニティ全体に影響を与える体系的バイアスに対処する。
• ガバナンスの革新: ローテーションする市民陪審とマンドート閾値の使用は、公共部門における AI の監査のためのスケーラブルで民主的な方法を提供し、「声の大きいグループへの過剰適合」を防ぎつつ、周縁化された声を聞くことを保証する。
• 実用的なロードマップ: この研究は、都市のための具体的な「労働分担」を提供する。即時的な一時的な救済にはプロンプトレベルの修正を使用するが、長期的な構造的修正にはデータセットとリワードモデルの変更を優先する。

結論として、この論文は、生成 AI が都市計画において安全かつ公平であるためには、コミュニティの苦情を強制可能で監査可能かつ耐久性のある技術的および政策的変化へと変換する集団的救済インフラが必要であると主張している。