Brain-Inspired Perspective on Configurations: Unsupervised Similarity and Early Cognition

ラベルのない偉大なる謎

想像してみてください。あなたは、車、恐竜、人形、ブロックといったあらゆるアイテムが、一つの巨大な山の中に混ざり合って散乱している、巨大で混沌としたおもちゃ屋に足を踏み入れました。次に、赤ん坊がそこに入ってきたところを想像してください。赤ん坊は、「車」とは何かを教えられたり、ラベルを見せられたりすることなく、本能的に物を仕分け始めます。彼らはまず、動くものすべてをグループ化し（上位レベル）、次に動物と乗り物を分け（基本レベル）、最後に、ある車は赤色で、ある車は青色であることに気づくかもしれません。教師なしで隠れたパターンを見つけ出し、カテゴリーを作り出すこの能力は、人間の脳がいかに驚異的であるかを示すものの一つです。これは「教師なし学習（unsupervised learning）」と呼ばれ、私たちが新しい世界に即座に適応することを可能にする秘密のソースなのです。

何十年もの間、コンピュータ科学者たちは、機械に同じことを教えようと試みてきました。しかし、現代のAIの多くは、答えが書かれたフラッシュカードを先生から手渡されない限り、学習することを拒む学生のようなものです。これらのシステムは、猫が猫であることを学ぶために、膨大な量のラベル付きデータ（正解ラベル）を必要とします。世界が変化したり、新しい奇妙な物体が現れたりすると、これらの硬直したシステムはしば pol 混乱したり、機能不全に陥ったりすることがよくあります。人工知能の世界における大きな問いは、「赤ん坊のように学ぶ機械を作れるか？」ということです。指示されることなく、自ら構造を発見し、何かが新しく奇妙であることに気づき、理解を即座に再構成できる機械を作れるのでしょうか？ これこそが、ある研究チームが解決しようとしたパズルです。

脳に着想を得たソリューション

この論文において、研究者たちはコンピュータがどのように物事をグループ化するかについての新しい考え方、「コンフィギュレーション（構成）」を導入しています。彼らは、赤ん坊の脳が世界を整理する方法からインスピレーションを得て、「引き寄せ（attraction）」と「反発（repulsion）」というシンプルかつ強力なアイデアを用いています。

データポイント（例えば動物の写真など）を、小さな磁石だと考えてみてください。似ているアイテム（例えば、異なる二枚の犬の写真）は、互いに引き寄せる強い「引き寄せ」を持っています。似ていないアイテム（例えば、犬とトースター）は、互いに押し返す「反発」を持っています。研究者たちは、$\gamma$ と呼ばれる「解像度パラメータ」という単一の「つまみ」によって、これらの力の強さを制御するシステムを作り上げました。

• つまみを下げる（低い $\gamma$）: 引き寄せが強く、反発が弱くなります。少しでも似ているものがあれば、すべてが一つの大きくて心地よいグループへと引き寄せられます。これは、赤ん坊が「動物」を一つの大きなカテゴリーとして捉えている状態に似ています。
• つまみを上げる（高い $\gamma$）: 反発が強くなります。大きなグループが割れ始め、システムはより小さく、より具体的なグループへと分離していきます。今や、「動物」のグループは「猫」「犬」「鳥」へと分かれます。

このシステムの魔法は、いくつのグループを作るべきかを教えられる必要がないことです。システムは自然に、グループが安定する「スイートスポット」を見つけ出します。つまみを少し動かしても、グループは変化せず、その場に留まります。これらの安定した地点は「プラトー（高原）」と呼ばれ、脳のように、容易に揺らぐことのない強固なカテゴリーを形成する能力を表しています。

「新しいもの」を見つける

このシステムの最も素晴らしい点の一つは、それが「新奇性（novelty）」をどのように扱うかという点です。現実の世界では、赤ん坊は新しいものに魅了されます。赤ん坊が犬を見れば、落ち着いています。もし犬が帽子を被っていたら、好奇心を抱くかもしれません。もし完全に未知の生物を見たら、非常に警戒します。

研究者たちは、彼らの「コンフィギュレーション」システムも同様の動きをすることを発見しました。彼らはグループの「エネルギー」を測定します。新しい奇妙なアイテムがグループに無理やり押し込まれると、大きな緊張が生じます。それは引き寄せや反発とうまく適合しません。これにより、エネルギーレベルが急上昇します。システムは実質的に、「おい！ ここで何かがおかしいぞ！」と叫んでいるのです。これにより、システムは高い精度で新奇性を検知することができます。テストにおいて、このシステムは、乳児が奇妙な刺激に反応する様子を模倣するように、高い成功率（AUCで測定）で未知のアイテムを特定できました。

「モザイク」問題とその解決策

研究者が乗り越えなければならなかった大きな障害がありました。それは、「あなたが期待しているものとは異なる方法で物事を分類しているコンピュータの成果を、どのように採点するか？」という問題です。

あなたが学生の宿題を採点している場面を想像してください。もし学生が「猫」と「犬」を一緒にグループ化した場合、あなたがそれらを分けたいと考えていたなら、あなたは低い点数をつけるかもしれません。しかし、もし学生が「猫」「犬」「ウサギ」を一つの大きな「毛深い動物」グループとしてまとめたとしたら、それは間違いなのでしょうか？ それとも、単に異なるレベルの組織化なのでしょうか？ 従来のコンピュータの採点ツールは、特定の唯一の答えしか受け入れない厳しい教師のようなものです。グループの数が変わったり、グループが分裂したり結合したりすると混乱してしまいます。そして、これこそがこの脳に着想を得たシステムで起こることなのです。

これを解決するために、チームは mheatmap と呼ばれる新しいツールを考案しました。退屈な表の代わりに、彼らは「モザイク・ヒートマップ」を作成しました。各ピースのサイズが、コンピュータのグループと現実世界のグループとの間の重なり具合を表すパズルを想像してください。もしコンピュータが一つの大きなグループを二つの小さなグループに分割した場合、モザイクはそれを「間違い」としてマークするのではなく、分割されたピースとして明確に示します。また、彼らは「逆マージ／スプリット（Reverse Merge/Split: RMS）」アルゴリズムも構築しました。これは、名前が異なっていても、コンピュータの論理が実際に成立しているかどうかを確認するために、ラベルを再配置するスマートなエディターのようなものです。これにより、彼らは単にラベルを判定するのではなく、学習の「構造」を判定することができるのです。

彼らが発見したこと

研究者たちは、日常的な物体の写真（CIFAR-10やImageNetなど）や、乳児が世界をどのように見るかを模倣するように設計されたデータを含む、いくつかのデータセットを用いて「コンフィギュレーション」システムをテストしました。

• 優れた分類: このシステムは、標準的なコンピュータの分類手法（k-meansやDBSCANなど）を大幅に上回る性能を示しました。Salinasというデータセットにおいて、システムは0.92（ARI）および0.94（NMI）のスコアを達成し、次点のメソッドを大きく引き離しました。
• 赤ん坊のような振る舞い: 「乳児刺激（infant stimuli）」を用いたテストにおいて、システムは人間の乳児と全く同じパターンを示しました。部分的な手がかり（目だけ、あるいは形だけなど）しか与えられない場合は分類に苦戦しましたが、全体像が与えられると、非常に優れた能力を発揮しました。これは、システムが単に暗記しているのではなく、赤ん坊と同じように、全体像を見ることを学んでいることを示唆しています。
• 安定性: データ内のカテゴリーが変化したり進化したりする場合、「コンフィギュレーション」システムは他の手法よりも35%高い安定性を示しました。システムはパニックに陥ることなく、スムーズにグループを調整しました。

なぜこれが重要なのか

この論文は、より賢いAIを作るために、複雑で硬直したルールを構築する必要はないことを示唆しています。代わりに、「引き寄せ」と「反発」というシンプルなフレームワークを使用することで、階層を発見し、新しいものを察知し、変化に適応できる自然なシステムを作ることができます。これは、単に数字を処理するだけでなく、生きている思考する脳のように、世界の構造を「理解」するAIへの一歩です。スケールアップさせたり、実際の神経生物学と結びつけたりするにはまだ課題がありますが、この研究は、教師なしで、ただ探索し、周囲の世界を整理しながら学ぶという、私たちの学習方法に近い機械を構築するための有望な新しい道筋を提示しています。