論文「Neural Prime Sieves: Density-Driven Generalisation and Empirical Evidence for Hardy–Littlewood Asymptotics」の技術的サマリー

本論文は、機械学習（深層学習）を用いて素数の特殊なファミリー（双子素数、ソフィー・ジェルマン素数など）の所属を確率的にフィルタリングする新しいアプローチ「PRIMEFAMILYNET」を提案し、その学習された表現が訓練範囲を遥かに超えるスケール（$10^7$〜$10^9$から$10^{16}$まで）で、数論的な漸近挙動（ハーディ・リトルウッド予想）を自動的に再現することを示した画期的な研究です。

以下に、問題設定、手法、主要な貢献、結果、および意義について詳細をまとめます。

---

1. 問題設定と背景

背景

• 従来の限界: 古典的な篩（ふるい）法は合成数を排除しますが、互いに素な候補に確率的重み付けを行うことはできません。また、従来の機械学習アプローチは、素数インジケータ系列のアルゴリズム的ランダム性（コルモゴロフ複雑性に基づく情報理論的限界）に直面しており、大規模なスケールでの真陽性率はほぼゼロに近づき、スケールとともに低下する傾向がありました。
• 研究の動機: 任意の整数の素性判定は困難ですが、「既知の素数 $p$」に対して、特定の算術的関係（隣接する数が素数かどうか）が成り立つかどうかは、モジュロ演算による構造的な制約を持つ問題です。この構造的な性質を、因果的な特徴量（前方の隣接情報を持たない）のみから学習し、訓練データが存在しない極めて大きな数（$10^{16}$）まで一般化できるかが問われました。

目的

• 7 つの異なる素数ファミリー（双子、ソフィー・ジェルマン、セーフ、カウジン、セクシー、チェン、孤立素数）のメンバーシップを、前方の隣接情報（forward gap）を一切使用しない因果的な特徴量のみから予測する確率的フィルタの構築。
• 訓練範囲（$10^7$〜$10^9$）から 9 オーダーも離れた評価範囲（$10^{16}$）において、モデルがハーディ・リトルウッド予想に基づく素数密度の漸近的なトレンドを自動的に学習・再現できるかの実証。

---

2. 手法 (Methodology)

提案モデル：PRIMEFAMILYNET

• アーキテクチャ: 125 万パラメータを持つマルチヘッド・リジューアル・ニューラルネットワーク（Multi-head Residual Network）。
• 出力: 7 つの独立したシグモイド出力ヘッドを備え、各素数ファミリーへの所属確率を同時に予測します。
• 入力特徴量（厳密な因果制約）:
  • 既知の素数 $p$ とその後方の素数 $p-$ のみに基づいて構成されます（前方の素数 $p+$ は使用しません）。
  • 25 次元の特徴ベクトル:
    1. Primorial 剰余 (Group A): $p \pmod{30, 210, 2310}$ などの正規化された剰余。これらは素数族の構造を決定づける篩の情報をエンコードします。
    2. 小素数剰余 (Group B): 最初の 12 個の素数に対する剰余。
    3. 後方ギャップ (Group C): $p - p-$ を 100 で割った値。
    4. スケール・桁数特徴 (Group D, E): $\log p$ や桁数など。
    5. 拡張モジュラ (Group F): 追加の剰余情報。
  • 対照実験: 前方ギャップ $g_+ = p_+ - p$ を含む「非因果モデル」を構築し、予測の上限（Upper Bound）および因果制約のコストを定量化しました。

学習プロトコル

• データ: $10^7$〜$10^9$ の範囲から均一に抽出された 20 万個のラベル付き素数。
• 損失関数の比較:
  • 頻度重み付きバイナリクロスエントロピー (wBCE)
  • Focal Loss
  • 非対称損失 (Asymmetric Loss, ASL)
• 評価: 訓練範囲外の 5 つのスケール（$5\times10^8, 10^{10}, 10^{12}, 10^{14}, 10^{16}$）で Out-of-Distribution (OOD) 一般化性能を評価。

---

3. 主要な結果と発見

3.1 孤立素数（Isolated Primes）の単調な一般化（最大の発見）

• 現象: 7 つのファミリーの中で、孤立素数（双子素数ではない素数）のリコール（Recall）のみがスケールとともに単調に増加しました。
  • $5\times10^8$ で 0.809 → $10^{16}$ で 0.984（17.5 ポイントの改善）。
• 理由: ハーディ・リトルウッド予想によると、双子素数の密度は $1/(\log N)^2$ で減少し、総素数密度は $1/\log N$ で減少するため、相対的に孤立素数の割合は増加します。
• 重要性: リコールはクラスバランスに依存しない指標です。したがって、この改善は単に孤立素数の割合が増えたためではなく、モデルが因果的な特徴量（特に Primorial 剰余）を通じて、双子素数候補との境界をスケールに応じて自動的に鋭敏化（Sharpening）させたことを示しています。
• 意義: モデルは密度ラベルや漸近式を与えられなかったにもかかわらず、ハーディ・リトルウッドの密度予測をデータ駆動で再現しました。

3.2 チェン素数（Chen Primes）における因果モデルの優位性

• チェン素数（$p+2$ が素数または半素数）において、因果モデルが非因果モデル（前方ギャップを含む）を上回りました。
• 理由: 前方ギャップ $g_+=2$ は「$p+2$ が素数」の場合のみを符号化しますが、「$p+2$ が半素数」の場合の情報は含まれません。一方、Primorial 剰余は両方のケースをモジュラ制約を通じて捉えており、より一般化可能な表現を提供しました。
• 改善幅は $5\times10^8$ で +0.050 から $10^{16}$ で +0.245 へと拡大しました。

3.3 損失関数の比較と OOD 一般化

• Focal Loss: 疎な代数ファミリー（ソフィー・ジェルマン、セーフ素数）において、すべてのスケールでリコールが 0.000 に崩壊しました。
• Asymmetric Loss (ASL): 訓練分布内（In-distribution）では wBCE よりも高いリコールを示しましたが、OOD（スケール外）では急激に劣化しました。
• Frequency-weighted BCE (wBCE): 訓練分布内では ASL よりも劣る場合がありましたが、OOD 一般化において最もロバストでした。
• 結論: 分布シフト（密度変化）を伴うタスクでは、訓練分布内でのリコールのみをモデル選択の基準にすることは誤りであり、wBCE が推奨されます。

3.4 特徴量アブレーション

• **Primorial 剰余（Group A）**が最も重要な特徴量でした。これを除去すると、ソフィー・ジェルマンやセーフ素数のリコールが完全に崩壊し、これらがモジュラ制約によってほぼ決定されていることを示しました。
• **後方ギャップ（Group C）**は孤立素数の予測に最も寄与しました。

---

4. 意義と貢献

1. 数論的構造の機械学習による再現:
   深層学習モデルが、厳密な因果的な算術特徴量のみから「素数篩の理論」を近似し、訓練範囲を超えて漸近的な密度トレンドを学習できることを実証しました。これは、数論的な法則がデータ駆動モデルによって「発見」されうることを示す最初の体系的な証拠の一つです。

2. 密度駆動型一般化（Density-Driven Generalisation）の発見:
   孤立素数のリコールがスケールとともに向上するという現象は、クラスバランスの変化ではなく、学習された決定境界の真の鋭敏化によるものであり、ハーディ・リトルウッド予想の計算機による検証を機械学習の観点から補強するものです。

3. 損失関数設計への示唆:
   稀なクラス（Rare-class）や分布シフトが存在するタスクにおいて、勾配を強く調整する損失関数（Focal Loss や ASL）が OOD 一般化を損なう可能性を示しました。頻度重み付き BCE が、密度が変化する問題に対してより堅牢であることを実証しました。

4. 因果推論の重要性:
   前方の情報を遮断した（因果的な）モデルが、特定の条件（チェン素数など）において、前方情報を含むモデルよりも優れた性能を発揮することを示し、算術的構造の学習が単なる相関の学習ではないことを証明しました。

結論

本論文は、深層学習が単なる統計的学習を超え、数論的な構造的な法則（素数分布の漸近挙動）を因果的な特徴量から学習し、未知の巨大なスケールへ一般化できることを実証しました。特に、孤立素数のリコールがスケールとともに向上するという発見は、モデルが数論的な密度変化を内部表現として捉えている強力な証拠であり、計算数論と機械学習の融合における重要なマイルストーンです。