The Reverse Big Push: Generative AI and Self-Fulfilling Automation

現代の経済において、企業がどのように利益を上げるかは、運営コストと顧客から流入する収入との間の繊細なバランスに依存することがよくあります。企業が労働者を雇うとき、企業は賃金を支払います。その後、それらの労働者は給与を他の地元の企業で消費し、それが経済を動かし続ける需要のサイクルを生み出します。このサイクルは、ローカル市場が機能するための根本的な部分です。何十年もの間、経済学者は新しい技術がこのバランスをどのように変えるかを研究してきました。時には、新しい機械の購入費用があまりに高価であるため、ごく少数の企業しかそれを購入できず、それらの企業は機械の代金を支払うための十分な顧客を見つけるために懸命に働かなければならないことがあります。これは「ビッグ・プッシュ（大きな押し上げ）」という古典的な概念であり、高いコストが、生き残るために一連の企業を共に成長させることを強いるものです。

しかし、生成AIの台頭はこの脚本を逆転させました。今日、高度なAIを使用する際の最も高価な部分、つまりコンピュータ・システムのトレーニングにかかるコストは、そのシステムを使用する企業ではなく、それを構築した企業によって支払われます。法律事務所やデザインスタジオは、新しい仕事が入るたびに、AIのパワーを時間単位で単にレンタルすることができます。これにより、自動化は重い先行投資ではなく、柔軟な運営費用のように見えるようになります。しかし、そこには落とし穴があります。もし企業がこのAIを使用して人間のチームを置き換える決定をした場合、その企業は賃金の支払いを停止します。もし多くの企業が同時にこれを行った場合、仕事を失った労働者は地元の経済で支出を停止します。これは他のすべての企業にとっての市場を縮小させ、残された企業が生き残ることをより困難にします。研究者が問いかけているのは、企業が自らの利益のために行動することで、結果として自分たちが依存している市場そのものを誤って破壊してしまうという罠が生じるのではないか、ということです。

中国の経済学者チームは、この特定のダイナミクスを探求するために、人間とAIが共存するサービス経済に焦点を当てたモデルを構築しました。彼らは、企業が「人間を助け手とするAI」を使うか、「人間を置き換えるためのAI」を使うかの選択がどのように展開するかを調査しました。彼らの研究によれば、経済は、企業が次に何が起こると予想するかによって、大きく異なる2つの状態に陥る可能性があります。一つの状態では、企業は人間のチームを維持し、賃金は高く保たれ、地域経済は活気に満ちています。もう一つの状態では、企業はコスト削減のためにチームを削減し、賃金は低下し、地域経済は縮小し、企業はさらに小さな市場を生き抜くためにさらなる人員削減を行います。研究者たちはこれを「リバース・ビッグ・プッシュ（逆の大きな押し上げ）」と呼んでいます。高いコストが成長を強いた古いモデルとは異なり、ここではコストを簡単に削減できる能力が、自己実現的な崩壊を引き起こす可能性があるのです。

彼らの発見の核心は、自動化の決定は単にテクノロジーがうまく機能するかどうかではなく、「他のどれだけの企業が同じことをしているか」ということにある点です。もしある企業が、ほとんどの他の企業が人間のチームを維持すると信じているなら、地元の経済がより高い賃金を支えるのに十分な強さを持つため、その企業もチームを維持することが合理的になります。しかし、もしある企業が、他の誰もが人員を解雇してAIに切り替えると信じているなら、地元の経済がフルチームを支えるには弱すぎるため、労働者を解雇することが最も賢明な動きとなります。これは、企業が自らの利益のために行動した結果、意図せずして、自分たちが頼りにしている市場そのものを破壊してしまうという、低需要の均衡状態に陥る状況を生み出します。

研究者たちは、この問題は賃金が下落することを許容したとしても解消されないことを示しています。通常の市場では、需要が落ちれば賃金も下がり、それによって再び人を雇うことが安価になります。モデルは、賃金の低下が雇用を安くすることは確かであるものの、それは同時に労働者の支出能力も低下させることを裏付けています。研究によれば、支出能力の損失が賃金低下による節約額を上回る場合、衰退のサイクルは続きます。経済は、安価な労働力だけでは解決できないほど深刻な需要の減少により、低賃金・低雇用の状態に固執することになります。つまり、単に市場に賃金を調整させるだけでは、企業が将来への自信を失った場合の崩壊を防ぐことはできないのです。

このプロセスがどのように展開するかを理解するために、著者らは企業が異なるタイミングで戦略を変更できるシナリオを想定しました。もしある企業が悲観的であり、他者が自動化すると予想する場合、その企業は先に自動化を行い、それが次の企業の悲観論を正当化し、レイオフの連鎖を生み出します。逆に、もしある企業が楽観的であり、他者がチームを維持すると予想する場合、その企業もチームを維持し、それが他の企業にも維持を促します。研究者たちは、両方の結果が可能となる特定の条件範囲が存在することを発見しました。この範囲においては、経済はテクノロジーそのものによって決まるのではなく、ビジネス界の集団的な心理によって決定されるのです。

また、研究では、経済全体の健康状態の急激な変化のような「公的なショック」が何をもたらすかも調査されました。経済がその不確実な中間領域にある場合、両方の支配領域に到達しうる公的な要因が、独自の経路を選択させることがわかりました。もし経済がすでに自動化へと傾いている場合、負のショックはそれを完全な崩壊へと押し下げます。逆に、人間とAIの協力関係に傾いている場合、正のショックはその経路を確固たるものにします。研究者たちは、未来が不確実なときにどちらの状態が選ばれやすいかを予測するために、「リスク・ドミナンス（リスク優位性）」という概念を用いました。彼らは、人間とAIの協力のための静的なティッピング・ポイント（転換点）が1/2を下回っていれば、経済は協力的な経路を選ぶ可能性が高いことを見出しました。しかし、転換点が1/2を上回っている場合、たとえ協力的な経路の方が社会全体にとってより良いとしても、経済は自動化の経路を選択する可能性が高くなります。

著者らは、これが政策に何を意味するかについても検討しました。彼らは、多くの専門サービス部門において、このような「調整の失敗」が起こる条件が現実的であることを算出しました。米国のデータを用いた推定によると、特定の種類の高度な自律性を伴うAIタスクにおいて、経済は容易に「悪い均衡」に陥る可能性があります。彼らは、「良い」状態と「悪い」状態の差はそれほど大きくはないものの、無視できないほど広いことを明らかにしました。シミュレーションでは、人間が助けなしにどれだけの業務を遂行できるかという割合の変化によって、人間と機械が共に働く安定した状態から、市場が縮小しすぎてチームを維持できなくなる状態へと、経済が移行してしまう可能性があることが示されました。

研究者たちは、解決策はAIを禁止したり、企業に労働者を維持することを強制したりすることではないと主張しています。代わりに、彼らは一時的な政府の介入が、経済がその溝を越える助けになると示唆しています。もし経済が低需要の状態に陥っているなら、純粋な自動化に対する小さな一時的な補助金や税が、架け橋として機能する可能性があります。この架け橋は、経済が自立してチームを支えられるほど十分に成長するまで、企業が人間のチームを維持する自信を与えることができます。経済がある一定の規模に達した後は、補助金を取り上げることができ、人間とAIのモデルが自然で自立した選択肢となります。重要なのは、この支援が一時的かつ標的を絞ったものであることです。それはすべての仕事を永遠に守ることではなく、全員がより悪い状況になるような悪い状態に陥るのを防ぐためのものです。

論文はまた、この問題が特定の種類の仕事に特有のものであることも明確にしています。これは、市場が縮小することを恐れてコストを削減するためにAIを使用する「防御的」な自動化において最も強く現れます。「攻めの」自動化、つまりAIが新しい製品を生み出し市場を拡大させる場合には、この問題は起こりにくいものです。防御的なケースでは、市場が縮小するという恐怖がコスト削減の決定を促し、それがさらに市場を縮小させます。研究者たちは、もしある企業が市場の縮小を予想してコストを削減しているなら、その企業の賃金が市場を維持する助けとなるため、その企業が労働者を維持しておくことが社会全体にとってより良い場合が多いことを示しています。

最終的な分析において、著者らは現実世界の数値を用いて、このシステムがいかに敏感であるかを示しました。彼らは専門サービスにおける売上高と給与の比率を調べ、多くのケースで経済がまさにこの調整領域の境界線上に位置していることを発見しました。AIのコストやAIができるタスクの能力のわずかな変化が、バランスを崩す可能性があります。彼らは、賃金の調整は範囲を圧縮するものの、この調整の失敗が起こりうる領域を排除するまでには至らないことを明らかにしました。研究は、生成AI時代の仕事の未来は、テクノロジーの生のパワーよりも、それを使用するビジネス界の集団的な信頼に依存していると結論づけています。もし企業が連携して人間のチームを維持することができれば、経済は繁栄できます。もしできなければ、自分たちを助けるはずのツールが、自分たちが仕える市場を傷つけるという、自己実現的な崩壊のリスクを負うことになるのです。

この研究は、AI主導の経済への移行が自動的に進むわけではないという明確な警告を提供しています。それは、期待と現実が互いに補強し合う狭い道をナビゲートすることを要求します。研究者たちは、悲観論のサイクルを断ち切るメカニズムがなければ、経済は安定してはいるが非効率的な状態、つまり全員が本来よりも貧しくなる状態に落ち着いてしまうことを示しています。解決策は、技術の選択が単なる技術的な決定ではなく、地域経済全体の健全性に依存する社会的決定であることを理解することにあります。これを認識することで、政策立案者は経済がより良い結果を見出すための介入を設計することができ、AIの恩恵が衰退のサイクルの中で失われるのではなく、共有されるようにすることができるのです。