Deep Generalised Mixed Models: a Novel Neural Network Structure for Analysing Hierarchical Data
本論文は、GrowIt!思春期感情データセットのような高次元縦断的研究における、ランダムに欠損したデータによる選択バイアスに対処するために、混合効果をディープラーニングに統合する新しい深層一般化混合モデルアーキテクチャを提案しているが、その手法は現在、モデルの不安定性という課題に直面している。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
あなたは、ある友人グループが毎日どのように感じているのかを理解しようとしていると想像してみてください。あなたは、彼らに数週間にわたって、一日に何度も自分の気分やストレスレベル、退屈さをチェックしてもらうよう頼みます。これは「経験サンプリング（Experience Sampling）」と呼ばれ、一年の終わりに撮る一枚の大きな写真ではなく、人の生活の千もの小さなスナップショットを撮るようなものです。問題は、人生には予期せぬ出来事がつきものであるということです。時には、友人がチェックインするのを忘れたり、本当にひどい一日を過ごしているために、チェックイン自体をやめてしまったりすることがあります。データサイエンスの世界では、これを「欠損データ（missing data）」と呼びます。
長い間、統計学者はこれに対処するために「混合モデル（Mixed Models）」というツールを使用してきました。これらのモデルを、一般的なルール（ほとんどの人がどのように感じるか）を知っている一方で、各プレイヤーの独特な癖を覚えるための特別なノートも持っている賢いコーチだと考えてみてください。しかし、これらのお決まりのコーチたちは、データがあまりに巨大になったり複雑になったりすると、処理しきれなくなってしまいます。一方で、現代の「機械学習（Machine Learning）」のコーチたちは非常に高速で大量のデータを扱うことができますが、騙されやすいという弱点があります。もしプレイヤーが悲しみによってプレーをやめた場合、標準的な機械学習のコーチは、その事実を無視してプレイヤーは元気であると推測してしまうことがあり、それが誤った予測につながります。科学者たちが問いかけている大きな疑問は、「膨大なデータを扱えるほど速く、かつ、人々が脱落した理由を理解できるほど賢い——つまり、間違った答えを出さないような——コーチを構築できるだろうか？」ということです。
この論文は、**深層一般化混合モデル（Deep Generalised Mixed Model: DGMM）**という、新しい実験的なコーチを紹介しています。著者であるオランダの研究チームは、これら古い統計的コーチと新しい機械学習コーチの最も優れた部分を組み合わせた、一つのスーパー構造を作りたいと考えました。彼らは、この新しいモデルを「ニューラルネットワーク」と呼ばれる人工知能を用いて構築しました。これは、接続されたノードの層からなるデジタル脳のようなものです。具体的には、「変分オートエンコーダー（Variational Auto-Encoder）」という巧妙なトリックを使用しました。これは二部構成のマシンだと考えることができます。一方の部分（エンコーダー）は、人の乱雑で不完全な日記を、彼らの「隠れた気分状態」というシンプルな要約へと圧縮しようとし、もう一方の部分（デコーダー）はその要約を拡張して、将来の数日間がどのようになるかを予測しようとします。
研究者たちは、この新しいモデルを、パンデミック中にティーンエイジャーが感情を記録するために使用された「GrowIt!」というアプリからの実際のデータでテストしました。また、モデルがどのように振る舞うかを、データの欠落（特に人々が特にネガティブな感情を抱いている時に発生する欠落を含む）を含むさまざまな条件下で確認するために、何百回ものコンピュータ・シミュレーションを行いました。
結果は、期待と現実の突きつけが混在したものとなりました。データが完璧で完全な場合でも、新しいDGMMは標準的な機械学習モデルの予測性能には及びませんでした。実際、標準的な「リカレントニューラルネットワーク（RNN）」よりもわずかに精度が低いことが示されました。しかし、データが乱雑で欠損している場合（これは現実の世界で実際に起こることです）、状況はより複雑になりました。ティーンエイジャーのデータを用いた実世界のテストにおいて、DGMMはRNNと比較して全体的な適合性が低いという結果になりました。しかし、RNNは「非常に不安定」であり、予測が激しく変動してしまうこともありました。対照的に、一部の個人については、DGماDGMMの方がRNNよりも真の傾向をうまく捉えていました。RNNは、時として大きく不正確な気分の低下を予測してしまうことがあったからです。
著者らは、この不安定さはモデルの設定方法に対して非常に敏感であることや、ティーンエイジャーのデータの欠落の仕方に苦戦したことが原因である可能性を示唆しています。しかし、コンピュータ・シミュレーションにおいては、モデルが正しく機能した場合、標準的なモデルと比較して、脱落した人々についての予測においてより優れた性能を発揮しました。標準的なモデルがその手がかりを見逃してしまう一方で、DGMMは、チェックインをやめた人々はより困難な状況にある可能性が高いという事実を考慮することができたのです。
最終的に、この論文は、深層一般化混合モデルは、複雑な人間の行動を理解するための強力なツールになり得る魅力的な新しいアイデアではあるものの、まだ既存のツールに取って代わる準備はできていないと結論づけています。それは、素晴らしいエンジンを備えているものの、ハンドルがぐらついている試作車のようです。研究者たちは、現時点では、医師や心理学者は「何が起こったかもしれないか」の予測に頼るのではなく、実際に手元にあるデータを注視すべきであると考えています。しかし、調整と安定性を高めるトリックを加えることで、この新しいアーキテクチャが、いつの日か私たちがどのように感じ、考え、そして時間の経過とともにどのように変化していくかを分析するためのゴールドスタンダード（標準）になり得ると彼らは主張しています。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。