Forgetting is Everywhere
本論文は、忘却を予測分布における自己整合性の欠如として定義する、アルゴリズムおよびタスクに依存しない理論を提案し、多様な学習設定にわたる包括的な実験を通じて、この現象がディープラーニングにおいて普遍的であり、情報の保持を改善するために精密に測定および分析可能であることを実証する。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
あなたの脳を、常に更新され続ける超スマートなノートだと想像してみてください。新しいビデオゲームの戦略や、恐竜に関する新しい事実など、何か新しいことを学ぶたびに、あなたはそれをノートに書き込みます。しかし、ここからが厄介なところです。もしあなたのノートのスペースに限りがあったら、新しいページを書くことで、誤って古いページを汚したり消してしまったりするかもしれません。これは人間だけの問題ではありません。コンピュータプログラムでも起こることです。人工知能の世界では、これを「忘却（forgetting）」と呼びます。これは、コンピュータが新しい技を学んだ途端、以前できていた技を完璧にこなせなくなる瞬間のことです。科学者たちは何十年もの間、主にロボットが歩き方を学び、次に走り方を学び、次にジャンプを学ぶといった、絶え間なく続く新しいタスクを学習しなければならない状況において、この現象を研究してきました。しかし、これまでは、「忘却とは一体何なのか」という単一で明確なルールを持つ人は誰もいませんでした。それは単に特定の事実を失うことなのでしょうか？ それとも、コンピュータの「精神」がどのように変化するかという、もっと深いことなのでしょうか？ 私たちが真にスマートな、生涯学習が可能なマシンを構築したいのであれば、彼らがどのように、そしてなぜ記憶を失うのかを正確に知る必要があります。
「忘却は至る所に存在する（Forgetting is Everywhere）」と題されたこの論文は、その謎を深く掘り下げています。著者たちは、特定のタスクやコンピュータプログラムの種類に左右されない、忘却に対する新しい視点を提案しています。彼らは、ロボットが以前のゲームが下手になったかどうかを確認するのではなく、より単純で根本的な問いを投げかけます。「コンピュータの未来に対する予測は、それ自体と一貫性を保っているか？」と考えてみてください。明日の雨を予報する気象予報士を想像してください。もし彼らが今日、新しい事実を学んだとしたら、彼らの明日の予報は、その新しい事実が本当に重要である場合にのみ変わるはずです。もし、理由もなく予報を変えたり、すでに知っていたことと矛盾するような形で変えてしまったりするなら、それは「忘却」の兆候です。著者たちは、忘却をこのような「自己不整合性（self-inconsistency）」、つまり学習者の内部論理が乱れ、保持すべき情報を落とし始めてしまう状態として定義しています。
この論文はいくつかの大きな発見をもたらしました。第一に、彼らは「完全なベイズ学習者（exact Bayesian learner）」と呼ばれる完璧なタイプのコンピュータ学習者は、決して忘れないことを数学的に証明しました。それは、どれほど新しい事実を学んでも、古いノートのページを一枚も消すことなく新しい情報を吸収できる学生のようなものです。しかし、この論文は、私たちが実際に使用しているコンピュータ（お気に入りのアプリを動かしているようなもの）は完璧ではないことも示しています。それらは忘却します。しかも、すでに知っていることと非常に似ていることを学んでいる時でさえ、忘却は起こります。著者たちは、単純な数学の問題から複雑なビデオゲームのプレイに至るまで、ディープラーニングの至る所で忘却が起きていることを示す実験を行いました。
興味深いことに、この論文は、忘却が常に悪いことではないことも明らかにしています。実際、私たちが現在構築しているコンピュータにとって、少しの忘却は役に立つことがあります。それは庭師が低木を剪定するようなものです。もし古い枝を切り落とさなければ、植物は混み合いすぎて、新しい枝を効率的に伸ばすことができなくなります。著者たちは、コンピュータが新しいことを素早く学ぶためにちょうど良い程度に忘れ、かつ古いスキルを失わない程度の「スイートスポット」が存在することを発見しました。もし忘れすぎれば、停滞してしまいます。もし忘れなければ、不安定になってしまいます。
また、この論文は、AIモデルが自分自身が作成したデータ（例えば、描画プログラムが自分自身の描いた絵から学ぼうとする場合）で訓練されると、性能が悪化するという奇妙な現象についても説明しています。著者たちはこれを簡単に説明しています。モデルが自分自身の出力に基づいて訓練する場合、それはすでに少し「忘却」されていたり、歪んでいたりする現実のバージョンに対して練習していることになります。そこから学ぼうとする頃には、単に忘却が加速し続け、品質の急速な低下を招いているのです。
要約すると、この研究は、忘却を測定するための新しい普遍的な物差しを与えてくれます。忘却は、特に私たちが今日使用している不完全なマシンにおいて、学習の仕組みの一部として自然に起こるものであることを示しています。それは修正すべきバグではなく、管理されるべき機能なのです。忘却が本質的に「自己不整合性」の喪失であることを理解することで、科学者たちは、いつ古い記憶を保持し、いつ新しいものを作るためにそれを手放すべきかを正確に判断できる、より優れたアルゴリズムを設計できるようになるのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。