Polarization-coupled complete operators in sliding ferroelectric semiconductors for native in-memory attention computing
本論文は、リアルタイムの生成AI向けに、極めて低いレイテンシとエネルギーでネイティブなSoftmaxを含むTransformerのアテンション・プリミティブを完遂するために、分極を介して線形および非線形演算を本質的に結合させた、スライディング強誘電半導体ベースのインメモリコンピューティング・ハードウェアを提案するものである。
原論文は CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
現代の人工知能、特に物語を書き、言語を翻訳し、画像を生成するシステムは、「アテンション（注意）」と呼ばれる数学的プロセスに依存しています。このプロセスにより、マシンは文章や画像の中のどの部分に、どの時点で最も注目すべきかを判断することができます。これらの決定を下すために、コンピュータは2つの異なる種類の計算を同時に実行しなければなりません。一つは単純な足し算と掛け算であり、これらは明快なものです。もう一つは、結果を正規化するためのフィルターとして機能する、複雑で曲線的な数学関数です。現在、コンピュータチップは単純な数学を扱うことは非常に得意ですが、この複雑なフィルタリングには苦戦しています。コンピュータは、情報を保存するメモリと、複雑な数学を処理する別のプロセッサの間で、データを絶えず行き来させなければなりません。この絶え間ないデータのシャッフルがシステムの速度を低下させ、膨大なエネルギーを消費し、これらの知的なシステムがいかに速く効率的になれるかを制限するボトルネックを生み出しています。
南京大学などの研究チームは、データを保存しているまさにその場所で、単純な計算と複雑な計算の両方を行うことで、この問題を解決する新しいタイプのコンピュータチップを開発しました。彼らは、層状の半導体であるReS2という特殊な材料で作られた、スライドさせることで電気的特性を変えられる微小なデバイスを作成しました。この単一のデバイスの中に、彼らは電気が流れるための2つの異なる経路を統合しました。一つの経路は材料を垂直方向に通り、もう一つの経路は表面に沿って横方向に移動します。両方の経路は、フェロ電気分極として知られる同じ内部スイッチによって制御されています。これは、小さな電気パルスによって前後に切り替えることができる、永続的なメモリ設定のようなものです。
研究者が電圧を印加してこの内部スイッチを切り替えると、両方の経路を通じて電気がどれほど流れやすくなるかが同時に変化します。垂直方向の経路は直線的で予測可能な形で反応し、単純な足し算や掛け算のタスクに最適です。しかし、横方向の経路は曲線的で指数関数的な反応を示し、通常は別のプロセッサを必要とする複雑なフィルタリングの数学を自然に実行します。両方の経路が同じ内部スイッチによって支配されているため、デバイスはデータを移動させることなく、アテンション・プロセス全体を単一のステップで実行できます。研究者たちは、これらのデバイスを特定のパターンで配置した小さなグリッドを構築し、それが現代の言語モデルのコアとなるロジックを正常に実行できることを実証しました。このシステムは驚異的な速度で動作し、操作を600ピコ秒（10億分の1秒未満）で完了させ、1操作あたりわずか320アトジュールの極めて少ないエネルギーを使用しました。
チームはデバイスを構築しただけではありません。それが学習し適応できることも証明しました。デバイス内の経路の物理的なサイズを調整することで、複雑な数学への感度をチューニングでき、それによって異なる種類のタスクに合わせてチップを設計することが可能になります。彼らは、チップがテキスト入力を受け取り、リアルタイムで応答を生成するクローズドループのセットアップを用いてテストを行いました。「I am hungry（お腹が空いた）」というフレーズに対して、ハードウェアは即座に必要なアテンションの重みを計算し、「need pizza now（今すぐピザが必要だ）」という継続語を生成しました。これは、デバイスが外部の助けなしに、理解と言語生成の全サイクルを処理できることを示しました。さらに、研究者たちは、彼らの微小なデバイスから測定されたパフォーマンスを使用して、より大規模なシステムをシミュレートしました。これらのシミュレーションにおいて、チップはマウスの脳（恐怖や興奮といった異なる感情状態を表す）からの電気信号を、書き言葉へと正常に翻訳しました。このシミュレーションは、このアプローチが感覚データや言語生成を伴う複雑で現実世界のタスクを扱うためにスケールアップできることを示しました。
この研究は、人工知能のためのコンピュータハードウェアの設計における根本的な転換を意味しています。研究者たちは、既存のリニアな数学をより速くしようとするのではなく、欠落していた複雑な数学をメモリ材料自体に直接組み込みました。そうすることで、従来の世代のチップを悩ませてきたエネルギー集約的なデータのシャッフルを排除したのです。このデバイスは、電力がなくても1年以上にわたって設定を保持し、数百万回書き換えることが可能であり、実用的な使用に十分な安定性があることを証明しています。この実験の成功は、効率的な人工知能の未来が、より優れたソフトウェアやより高速なプロセッサからではなく、思考に必要な完全な範囲の数学的演算を、単一の微小なメモリユニット内でネイティブに行うことができる材料から来る可能性があることを示唆しています。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。