論文「Memory Undone: Between Knowing and Not Knowing in Data Systems」の技術的サマリー

この論文は、機械学習システムにおける「忘却（Forgetting）」と「学習の忘却（Machine Unlearning）」を、単なる技術的な課題や法的なコンプライアンス要件としてではなく、**社会技術的実践（Sociotechnical Practice）**として再定義することを提案しています。著者らは、データシステムが「記憶」を蓄積するように設計されている一方で、「忘却」の能力がどのように機能し、権力、権利、認識的正義（Epistemic Justice）にどのような影響を与えるかを論じています。

以下に、問題定義、方法論、主要な貢献、結果、および意義について詳細を記述します。

1. 問題定義 (Problem)

現代のデータシステムと機械学習モデルは、個人、政治、文化的な生活の痕跡を含む大規模なデータセットを収集・学習する「記憶のインフラ」として機能しています。しかし、以下の深刻な乖離と課題が存在します。

• 法的枠組みと技術的能力の不一致: EU の一般データ保護規則（GDPR）は「忘れられる権利（Right to be Forgotten）」を認めていますが、大規模システムから個人データを完全に削除することは技術的に極めて困難です。データはコピー、キャッシュ、派生データ製品に散在しており、削除の伝播が追跡できません。
• モデルへの痕跡の残留: 深層学習システムにおいて、一度ニューラルネットワークの重み（パラメータ）に統合された情報は、数十億のパラメータに絡み合っています。データベースからレコードを削除しても、学習済みモデルへの影響は消えません。
• 「忘却」の多義性と曖昧さ: 現在の文脈では、「削除（Erasure）」、「学習の忘却（Unlearning）」、「除外（Exclusion）」、「忘却（Forgetting）」が混同されがちです。これらはそれぞれ異なるメカニズムとガバナンス上の課題を持ちますが、区別されて議論されていません。
• 認識的不正義のリスク: 偏ったデータや有害な情報の「忘却」は害を減らす一方で、過小評価された視点やマイノリティのデータを「忘却」することは、認識的不正義（Epistemic Injustice）を再生産し、システムを歪める可能性があります。

2. 方法論と概念枠組み (Methodology & Conceptual Framework)

この論文は、技術的な実装のレビューだけでなく、哲学、記憶研究、批判的メディア理論、HCI（人間とコンピュータの相互作用）からの洞察を統合した概念分析と社会技術的アプローチを採用しています。

• 用語の厳密な定義と区別:
  • Erasure（消去）: データアーティファクト（行、ファイル、インデックスなど）へのアクセスを物理的に削除または無効化する運用上の行為。
  • Unlearning（学習の忘却）: 特定のデータが学習済みパラメータや下流の出力に与える影響を除去（または制限）することを意図した技術的介入。
  • Exclusion（除外）: データセットの収集・ラベリング段階で、特定の人物やカテゴリを含めないという上流の意思決定（「欠落による忘却」）。
  • Forgetting（忘却）: 上記を含む包括的な用語。意図的か偶発的か、一時的か永続的か、可逆的か不可逆か、個人レベルか集団レベルかによって変化する社会技術的プロセス。
• 認識論的視点の転換:
  • データは中立的ではなく、社会的・政治的・経済的な優先順位によって「データ」へと変換されるという前提に立ちます。
  • 「知らないこと（Not Knowing）」を単なる失敗ではなく、生産的な認識論的ツールとして捉え直します。
  • 量子計算における「ノ・ディリーティング定理（未知の量子状態はコピーに対して削除できない）」をアナロジーとして用い、機械学習における「削除」は完全な除去ではなく、影響の再分配や減衰であると論じます。

3. 主要な貢献 (Key Contributions)

1. 「忘却」の社会技術的再定義:
   忘却を単なる技術的な制約やコンプライアンスの手段ではなく、権力構造、権利、ガバナンス、認識的正義に深く関与する意図的な社会技術的実践として位置づけました。
2. 概念の明確化:
   消去、学習の忘却、除外、忘却という 4 つの概念を明確に区別し、それぞれが異なるメカニズムとガバナンス上の問いを提起することを示しました。
3. 「忘却マシン（Forgetting Machines）」の提唱:
   単に記憶するだけでなく、設計上（by design）責任を持って忘却できる計算システムの開発を提案しました。これは、忘却をシステムの限界ではなく、健全な知識インフラの原則として捉えることを意味します。
4. 認識論的インフラの批判的検討:
   現代のインフラが知識を中央集権化し、支配的なイデオロギーを強化する傾向にあることに対し、認識の分散化（Epistemic Decentralization）を通じて、歴史的に排除された視点を取り戻す可能性を指摘しました。

4. 結果と議論 (Results & Discussion)

論文は、既存の技術的進歩（推薦システムにおける正確な忘却、勾配なしのクラス忘却、大規模言語モデルにおける選択的忘却など）を認めつつも、以下の根本的な問いを提起しています。

• 完全な忘却の不可能性: 意味的依存関係（あるレコードが他のレコードに影響を与える）が存在する限り、完全な消去は保証されません。
• 忘却の二面性: 忘却はプライバシー保護や有害な影響の除去に寄与する一方で、沈黙化（Silencing）や偏見の固定化を招くリスクも併せ持っています。
• 技術と政治の交差点: 忘却は技術的なセキュリティ対策であると同時に、政治的な実践です。例えば、ロシアの偽情報ネットワークの例では、学習コーパスに支配的なプロパガンダを「忘却」させることが、AI システムの認識的汚染（Epistemic Poisoning）を防ぐための政治的抵抗となり得ます。
• データベースの神話の解体: データベースを「記憶を保護する要塞」として捉える従来の考え方を否定し、記憶は本質的に選択的であり、忘却こそが知識の条件であると論じました。

5. 意義と今後の展望 (Significance & Future Outlook)

この研究は、機械学習のライフサイクルにおいて「学習の忘却（Unlearning）」を単なる後付けの修正ではなく、パイプラインの基礎的なステップとして再構築することを促します。

• 責任ある AI 設計への寄与: 忘却を「失敗」ではなく「設計された実践」として扱うことで、プライバシー、救済（Redress）、ナラティブの増幅/抑制、マイノリティ視点の保護など、データシステムを超えた社会的影響を考慮した AI 設計が可能になります。
• 学際的対話の促進: コンピュータサイエンス、哲学、倫理学、記憶研究、HCI の分野を横断し、新しい学術ネットワークを構築する基盤を提供します。
• ガバナンスの転換: 忘却が権利を保護するだけでなく、時に権利を脅かす可能性を認識し、より透明性があり、説明責任のある忘却メカニズムの開発を求めます。

結論として、著者らは「知る（Knowing）」ことは常に「知らない（Not Knowing）」という立場から始まるものであり、データシステムにおいて「忘却」を意図的かつ責任ある能力として統合することが、より公正で社会的に応答性の高い AI 未来への鍵であると主張しています。