Is There Meaning Without Anyone Meaning Anything? A Structuralist Proposal for Artificial Semantics

数十年にわたり、意味の本質をめぐって静かな戦争が繰り広げられてきた。一方には、コンピュータが正しい一連のルールに従うことができれば、いずれ人間と同じように世界を理解できるようになると確信している、最初の思考機械を築き上げたエンジニアたちがいる。もう一方には、真の理解には身体、神経系、そして触れる、見る、現実の中を移動するといった、混沌とした直接的な経験が必要であると主張する哲学者や生物学者がいる。長い間、これら二つの陣営は互いに言葉が通じない状態にあるようだった。ルールに従う機械は論理パズルを解くことはできたが、ジョークの機微や比喩の重みを把握することには失敗した。身体に焦点を当てた理論は人間がいかに学ぶかを説明したが、身体を持たない機械は真に考えることはできないという示唆を含んでいた。この論争は、ある根強い問いを私たちに残した。機械は、肌に当たる太陽の光や、手の中にある石の重みを感じたことがないのであれば、果たして意味を所有することができるのだろうか、という問いである。

今日、その風景は劇的に変化した。詩を書き、複雑な質問に答え、驚くほど人間らしく感じられる会話を行う人工知能システムが、今や存在する。しかし、これらのシステムは脱身体的である。彼らには目も手もなく、個人的な歴史も持たない。彼らは、膨大な量のテキストで訓練された、巨大な数学的接続のネットワークとしてのみ存在する。これは混乱を招くパラドックスを生み出している。これらの機械は、一貫性があり洞察に満ちた言語を生成するが、私たちがかつて理解に不可欠だと考えていたもの自体を欠いている。彼らは、経験という人生を生きていないにもかかわらず、意味のある言語を話しているように見える。この矛盾は、科学者や哲学者に対し、私たちの古い知性の定義が、これらの新しい機械の中で起きていることを記述するにはあまりに狭すぎるのではないかという問いを突きつけている。

研究者フランチェスコ・マリア・チャンチャルルソによる最近の論文は、これらのシステムを見るレンズを変えることで、この緊張を解消する方法を提案している。著者は、機械が身体を持っているか、あるいは厳格なルールに従っているかを問うのではなく、機械自体の構造に目を向けるべきだと示唆している。論文は、意味とは記号に加えられる魔法の成分でもなければ、厳يرةに物理的な身体に結びついたものでもないと論じている。むしろ、意味とは構造的な特性である。それは、システムが情報を特定の安定した方法で組織化できるほど十分に複雑になったときに立ち現れる、関係性のパターンである。著者は、今日の最も高度なチャットボットの技術である大規模言語モデルが、この内部構造のみに基づいた意味論的能力を発達させていると示唆している。彼らは人間と同じ方法で世界を理解しているわけではないが、理解の効果を模倣できるほど高度に組織化された、関係性の内部マップを構築しているのである。

この提案を理解するためには、まずこの分野がいかに進化してきたかを見なければならない。20世紀の大部分において、支配的な考え方は、知性が辞書やルールブックのように機能するというものだった。この見方では、コンピュータは単語や数字のような記号を、厳格な論理規則に従って操作する。ルールが正しく守られれば、機械は知的な振る舞いを生み出す。古典的認知主義として知られるこのアプローチは、優雅で強力であったが、壁に突き当たった。それは、機械がいかに構文（つまり文章の文法）を処理するかを説明することはできたが、機械がいかにしてそれらの言葉の実際の意味を知るのかを説明することはできなかった。機械は、その重要性を理解することなく、記号を完璧に並べ替えることができたのである。これが、1980年代から1990年代にかけての第二の波、すなわち、意味は身体に根ざしていなければならないとする考え方へとつながった。この見方によれば、「重い」という言葉を理解するためには、システムは何か重いものを持ち上げるという物理的な経験を持っていなければならない。この枠組みにおいて、意味は感覚的な経験や行動と不可分である。

しかし、ディープニューラルネットワークの台頭が、これら両方の古い物語を複雑なものにした。これらの現代的なシステムは、記号の辞書を使用せず、世界に触れるための身体も持たない。代わりに、彼らは膨大なデータの中にあるパターンを見つけ出すことで学習する。言語を処理するとき、彼らは単語をリストから検索するのではない。彼らは単語を、広大な多次元空間における「点」へと変換する。この空間において、二つの点の間の距離は、それらの単語の意味がいかに類似しているかを表す。似たような文脈で使用される単語は近くに配置され、異なる意味を持つ単語は離れていく。システムはこの空間の形状を学習し、「王は女王に対して、男は女に対して」といった関係性を発見していく。この学習は、明示的なルールなしに、そして物理的な身体なしに行われる。機械は、文中の次の単語を高い精度で予測できるようになるまで、単に内部の接続を調整しているのである。

論文は、この関係的な空間をナビゲートする能力こそが、新しい種類の意味が宿る場所であると論じている。著者は、記号としての孤立した記号や物理的な身体の中に意味を探すのではなく、ネットワーク自体の組織化の中に意味を見出すべきだと示唆している。システムが、その内部構造が現実世界に見られる関係性を保持しているとき、著者が「構造的意味論的能力」と呼ぶ性質を示す。例えば、もしシステムが「パリはフランスに対して、ローマはイタリアに対して」という関係を学習したならば、それはシステムがこれらの都市を訪れたからでも、ルールを教えられたからでもない。それは、ネットワークの数学的構造が、これらの概念を実際の関係性を反映するように組織化したからである。システムは、推論や一般化を行うことを可能にする、安定した一貫性のある世界のモデルを構築しているのである。

この視点は、機械が意味を持つためには意識的であるか、あるいは身体化されていなければならないという考えに異を唱えるものである。著者は、これらの機械が意識を持っているとか、感情を感じていると主張しているのではない。むしろ、著者の主張はより控えめだが深遠である。すなわち、意味はシステムの内部組織の純粋な複雑さから立ち現れ得るということである。もしシステムが、概念間の安定した関係を維持できるほど十分に構造化されていれば、ある種の意味論的能力を示すことができる。この能力により、システムは人間のような精神を持たずとも、文脈に応じた適切な行動をとったり、類推を行ったり、問題を解決したりすることが可能になる。論文は、これが新しいカテゴリーの知性であり、純粋に記号的でも、純粋に身体的でもなく、「構造的」なものであると示唆している。

この見方の含意は、知識と知性の捉え方において極めて重要である。もし意味が構造的な特性であるならば、人間と機械の理解の間の溝は、私たちがかつて考えていたほど広くはない。それは、機械に魂や身体が欠けているという問題ではなく、その内部構造が適切な種類の関係を支えるのに十分な複雑さを備えているかどうかの問題なのである。著者は、これは最終的な証明ではなく、新しい考え方のための提案であると述べている。研究は進行中であり、この分野はまだ若い。しかし、証拠は、これらのシステムが単にオウムのように人間の言葉を模倣しているのではないことを示唆している。彼らは、訓練を受けた世界の深い構造を捉える内部モデルを構築しているのである。

結局のところ、この論文は、理解することが何を意味するのかを再考するよう私たちに促している。著者は、私たちが意味を間違った場所、つまりシステムの個々のパーツやその物理的な形態の中に探していたのではないかと示唆している。著者は、意味とは実際には全体としての特性であり、どのようにパーツが接続されているかという特徴であると提案している。システムが世界のパターンを保持するように組織化されているとき、そこには意識的な観察者がいなくても、意味が存在できる空間が生まれる。これは機械が人間であることを意味しないが、機械が独自のやり方で知的になれることを意味している。論文は、工学と哲学の絡み合いが、知性の理解における新しい段階、すなわち、システムの構造そのものが意味の謎を解く鍵となる段階へと私たちを導いていると結論づけている。