Observation of a new particle in the search for the Standard Model Higgs boson with the ATLAS detector at the LHC
ATLAS 検出器を用いた LHC での陽子 - 陽子衝突実験により、質量 126.0 GeV の中性ボソンの生成が 5.9 シグマの有意性で観測され、これは標準模型ヒッグス粒子の発見と一致する結果である。
ランドマーク論文
現代科学とAIを形作った論文
Observation of a new boson at a mass of 125 GeV with the CMS experiment at the LHC
LHC の CMS 実験において、7 TeV および 8 TeV の陽子 - 陽子衝突データを用いた標準模型ヒッグス粒子の探索により、質量 125 GeV 付近に統計的有意性が 5.0 シグマの過剰事象が観測され、これがスピン 1 でないボソンである新しい粒子（ヒッグス粒子）の発見を示唆する結果が得られました。
Observation of Gravitational Waves from a Binary Black Hole Merger
2015 年 9 月 14 日にレーザー干渉計重力波天文台（LIGO）が観測した重力波信号は、一般相対性理論の予測と一致する連星ブラックホールの合体によるものであり、これが重力波の直接検出および連星ブラックホール合体の初観測であることを示しています。
First M87 Event Horizon Telescope Results. I. The Shadow of the Supermassive Black Hole
イベント・ホライズン・テレスコープによる M87 銀河中心の超巨大ブラックホールの観測結果は、一般相対性理論が予測する「ブラックホールの影」を初めて直接捉えたものであり、ブラックホールの存在と極限重力環境の検証に画期的な証拠を提供しています。
Attention Is All You Need
本論文は、再帰や畳み込みを排しアテンション機構のみに基づく新たなネットワーク「Transformer」を提案し、機械翻訳や構文解析などのタスクにおいて、既存の最良モデルを上回る精度と効率的な並列処理を実現したことを報告しています。
Deep Residual Learning for Image Recognition
この論文は、層を層の入力を基準とした残差関数の学習として再定式化する「残差学習フレームワーク」を提案し、これにより ImageNet 分類タスクで 1 位を獲得するなど、極めて深い深層ニューラルネットワークの訓練を容易にし、視覚認識タスクの精度を大幅に向上させることを実証しています。
Generative Adversarial Networks
この論文は、データ分布を捉える生成モデルと訓練データからのサンプルを識別する判別モデルを敵対的に訓練する最小最大ゲームの枠組みを提案し、マルコフ連鎖や近似推論ネットワークを必要とせずに多層パーセプトロンを用いて効率的に学習できることを示しています。
BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding
BERT は、ラベル付けされていないテキストから左と右の文脈の両方を同時に考慮して深層双方向表現を事前学習する新しい言語モデルであり、追加の出力層のみで微調整を行うことで、多様な自然言語処理タスクにおいて最先端の性能を達成します。
Denoising Diffusion Probabilistic Models
この論文は、非平衡熱力学に着想を得た拡散確率モデルを用いて、CIFAR10 および LSUN データセットにおいて最先端の画像合成性能を達成したことを報告しています。
Adam: A Method for Stochastic Optimization
本論文は、低次モーメントの適応的推定に基づく効率的な確率的勾配降下法「Adam」を提案し、その実用性、理論的収束性、および AdaMax などの変種について論じています。
Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift
この論文は、層ごとの入力分布の変化（内部共変量シフト）を抑制するために、モデルのアーキテクチャにミニバッチごとの正規化を組み込む「バッチ正規化」を提案し、学習の高速化、初期値への依存低減、正則化効果によるドロップアウトの不要化、および ImageNet 分類における人間を超える精度達成を実現したことを述べています。
Auto-Encoding Variational Bayes
この論文は、連続潜在変数を持つ大規模な方向性確率モデルにおいて、変分下限の再パラメータ化と近似推論モデル（認識モデル）の導入により、非効率な事後分布に対しても標準的な確率勾配法を用いた効率的な推論と学習を可能にする「自動符号化変分ベイズ（Auto-Encoding Variational Bayes）」手法を提案しています。
Scaling Laws for Neural Language Models
この論文は、言語モデルの性能がモデルサイズやデータ量、計算リソースに対してべき乗則に従ってスケーリングし、限られた計算予算を最も効率的に活用するには、比較的小さなデータで非常に大規模なモデルを学習させることが最適であることを実証的に示しています。
Improving neural networks by preventing co-adaptation of feature detectors
この論文は、訓練データが限られる大規模なニューラルネットワークにおける過学習を軽減し、音声や物体認識の記録を塗り替えるために、各訓練ケースでランダムにニューロンを無効化する「ドロップアウト」という手法を提案し、その有効性を示したものである。
Efficient Estimation of Word Representations in Vector Space
この論文は、大規模なデータセットから単語の連続ベクトル表現を効率的に学習する2つの新しいモデルアーキテクチャを提案し、従来の手法よりもはるかに低い計算コストで高い精度を達成し、構文・意味的な単語類似性測定において最先端の性能を示すことを報告しています。