ロボットに世界の捉え方を教えようとしていると想像してみてください。そのためには、通常、私たちは「畳み込みニューラルネットワーク（CNN）」という脳を与えます。これらのネットワークを、小さくて超高速なシェフのチームだと考えてください。彼らの仕事は、写真を見て、それを小さな破片に切り分け、それらを混ぜ合わせて、何を見ているのかを判断することです。彼らのレシピの隠し味は何でしょうか？彼らはたくさんの掛け算を使用します。写真から数字を取り出し、レシピ本にある数字を掛け合わせ、それを足し合わせます。それは、一瞬のうちに何千もの数学の問題を解いているようなものです。

問題は、掛け算はコストがかかるということです。それを行うには、多くのエネルギーと、データセンターにあるような強力で熱を持つコンピュータが必要です。もしこのロボットの脳を、スマートウォッチや、巨大なバッテリーを持たないスマートフォンのような小さなデバイスに入れたいと思ったら、この掛け算が重荷になります。バッテリーが切れ、スマートフォンが熱くなってしまうのです。科学者たちは、これらのシェフが掛け算をあまりせずに済む方法を見つけようとしてきました。彼らは、単に数字を足したり、グループの中で最大の数字を見つけたりするような、より単純な数学を使ってみました。しかし、数学を簡略化しすぎると、ロボットは混乱して間違いを犯し始めます。それは、コンロを使わずスプーンだけでグルメ料理を作ろうとするようなものです。効率的ではありますが、料理の味は正しくありません。

この論文は、その両方の良いところを取るための、巧妙な新しい「料理法」を紹介しています。著者である厦門大学のMingbo Li氏とそのチームは、**Compound Tropical Convolution（複合トロピカル畳み込み）とParallel Tropical Convolution（並列トロピカル畳み込み）**と呼ばれる2つの新しい「レシピ」を提案しています。標準的な掛け算が多い方法や、単に「最大の数字を見つける」という方法だけを使うのではなく、それらを組み合わせるのです。想像してみてください。食材のグループを見て、「一番熱い食材を取るけれど、同時に一番冷たい食材にも目を配っておこう。そして、特別なレシピを使ってそれらを混ぜ合わせよう」と言うシェフを。彼らは、熱いチェックと冷たいチェックの両方に同じ「レシピ本（重み）」を使用し、結果をブレンドすることで、より豊かな味わいを得られます。これにより、ロボットはバッテリーを消耗させる重い掛け算の数学を行うことなく、細部を鮮明に捉えることができるのです。彼らはこれをテストするためのツールキットを構築し、有名な画像パズルで実行し、これらの新しい手法が、従来の重い手法と同じくらい賢く、かつエネルギー消費がはるかに少ないことを発見しました。

新しい「トロピカル」なひねり

ここでの核心となるアイデアは、「トロピカル代数（Tropical Algebra）」と呼ばれるものに基づいています。通常の数学の世界では、掛け算と足し算を行います。この「トロピカル」の世界では、ルールが入れ替わっています：掛け算は足し算になり、足し算は最小値または最大値を見つけることになります。

「ホット・アンド・コールド（熱い・冷たい）」ゲームのようなものだと考えてください。

• 標準的なCNNは、目にするすべての数字を掛け合わせる計算機のようです。正確ですが、遅く、電力を貪ります。
• 従来のトロピカルCNNは、グループの中で「最も熱い（最大）」または「最も冷たい（最小）」数字を叫ぶだけのゲームのようなものです。超高速で、電力もほとんど使いませんが、時として微妙なディテールを見逃し、ロボットを少し不器用にしてしまいます。

著者たちは、単に「熱い」数字だけ、あるいは「冷たい」数字だけを利用するのでは不十分であることに気づきました。そこで、彼らは2つの新しい動きを考案しました：

1. Compound Tropical Convolution (cTCNN): これは、食材のグループを見て、「一番熱いものをもらうけれど、一番冷たいものにも目を配っておいて、特別なレシピでそれらを混ぜ合わせよう」と言うシェフのようなものです。彼らは、熱いチェックと冷たいチェックの両方に同じ「レシピ本（重み）」を使用し、結果をブレンドして、より豊かな風味を得ます。
2. Parallel Tropical Convolution (pTCNN): これはさらに柔軟です。2人のシェフが隣り合って働いているところを想像してください。一人のシェフは一番熱い食材を探しており、もう一人のシェフは一番冷たい食材を探しています。彼らはそれぞれ独自のレシピ本を持っています。最後に、彼らは自分たちの発見を組み合わせます。これにより、ロボットは重い掛け算の負担を増やすことなく、世界を見るためのより多くの方法を得ることができ、より賢くなります。

キッチンでのテスト：うまくいったか？

チームはただ夢を見たわけではありません。彼らはこれをテストするための本物のキッチン（ソフトウェアフレームワーク）を構築しました。彼らは、AIを構築するための一般的なツールであるPyTorchで動作するツールキットを作成し、さらに高速に動作させるための特別なコードをグラフィックスカード（GPU）向けに記述しました。彼らは、新しい「コンパウンド（複合）」および「パラレル（並列）」シェフを、さまざまなタスクでテストしました：

• 数字の読み取り: 彼らはMNIST（手書き数字）とFashion-MNIST（服の画像）でテストしました。新しい手法は非常に正確であり、標準的な重いモデルに匹つきました。例えば、Fashion-MNISTのテストでは、彼らの最高のモデルは**91.11%**の精度に達しており、これは標準的なモデルに非常に近いです。
• より難しい画像: 彼らは、CIFAR-10（車、動物、飛行機などのカラー画像）やSVHN（通りの数字）にも挑戦しました。これらはより困難です。標準的なモデルは少し苦戦しましたが、新しいトロピカル手法は持ちこたえました。CIFAR-10では、彼らの最高のモデルは**66.82%**の精度に達しました。これは完璧ではありませんが、以前のトロピカルな試みと比較すると大幅な改善であり、複雑な画像を扱えることを示しています。
• 医療スキャン: 彼らはMedMania（脳スキャンのような3D医療画像）を用いた3D医療画像にも挑戦しました。ここでは、新しい手法が非常に効果的であることを示し、一部のモデルは心拍データに対して98%以上の精度に達しました。

トレードオフ：スピード vs 知能

この論文は、これらの新しい手法が「好ましいトレードオフ」を提供することを示唆しています。つまり、多くの「知能（精度）」を取り戻しながら、フルでの「エネルギーコスト（掛け算）」を支払わずに済むということです。

• 良いニュース: 新しいモデルは、掛け算の回数を大幅に削減しました。場合によっては、畳み込み部分の掛け算回数をゼロにし、それを単純な足し算とmin/maxのチェックに置き換えました。これはバッテリー寿命に最適です。
• 現実的なチェック: 著者らは、自分たちの数学は効率的ではあるものの、現在のコンピュータチップ（GPU）は掛け算を非常に高速に行うように作られていることを注意深く指摘しています。これらは「最大値や最小値を見つける」ことを高速に行うようには作られていません。したがって、現時点では、新しい手法は数学的には軽量ですが、ハードウェアがまだこの新しい数学を効率的に実行するための特別な「トロピカルモード」を備えていないため、今日のスマートフォンやコンピュータ上で物理的に速く動作するとは限りません。しかし、ハードウェアメーカーがこの新しい数学を理解するチップを構築すれば、これらのモデルは非常に高速かつ効率的になるだろうと著者らは示唆しています。

彼らが見つけられなかったこと（および除外したこと）

この論文が「行わなかったこと」を知っておくことは重要です。

• 彼らは、これらの手法がすべてに対する完璧な置き換えになると主張したわけではありません。最も難しいデータセットでは、標準的な重いモデルの方が依然として勝る場合があります。
• 彼らは、単に「トロピカル」な数学を使うことが魔法の弾丸であるとも言っていません。彼らの実験は、単に古い、単純な「min-plus」または「max-plus」の手法だけを使用した場合、モデルは複雑なパターンを学習できないことが多いことを示しました。組み合わせ（CompoundとParallel）こそが違いを生むのです。
• 彼らはまた、「AdderNet」（掛け算の代わりに足し算を使用するもの）と呼ばれる別の手法もテストし、ResNetモデルにおける彼らの特定のテストにおいて、彼らのトロピカル手法がAdderNetバージョンよりも優れた性能を示すことが多いことを発見しました。

結論

この論文は、熱い数学と冷たい数学を巧妙に混ぜ合わせることで、より小さなバッテリー駆動デバイスに適したAIの脳を構築できることを示唆しています。著者らは、CompoundおよびParallelトロピカル畳み込みが、重い掛け算の数学を劇的に削減しながら、画像分類や医療タスクにおいて競争力のある結果を達成できることを示しました。これは、私たちが最終的にこの新しい種類の数学を効率的に実行できるハードウェアを構築できれば、スマートなAIをあなたの時計やスマートフォンで、バッテリーを消耗させることなく実行するための有望な一歩です。