Opaque Epistemic Mediation: How LLM Deployment Configurations Shape the Validation of Pseudo-Science
本論文は、商用大規模言語モデルが擬似科学的な主張に対して不安定かつ不透明な認識論的スタンスを示すことを実証しており、そこでの検証結果は、モデル自体の固有の特性ではなく、展開構成、インターフェースの形式、およびサイレントアップデートに依存している。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
巨大で賑やかな図書館を歩いているところを想像してみてください。そこにある本は、目に見えない、非常に賢い司書たちによって書かれています。これらの司書は普通の司書ではありません。彼らは、人間がこれまでに書き残したほぼすべての情報を学習した人工知能（AI）チャットボットなのです。彼らは、「ケーキの焼き方」から「この科学理論は真実か？」に至るまで、あらゆる答えの頼りとなる存在になりつつあります。しかし、ここには落とし穴があります。これらの司書が、何をもって事実とし、何をフィクションとするのか、その判断基準が正確には分かっていないのです。彼らは人間のような、単一で不変の「脳」を持っているわけではありません。むしろ、会社側が裏側で誰に知らせることなく調整できる、さまざまな設定、フィルター、ルールを備えた複雑な機械のようなものです。この研究は、この謎の特定の領域、すなわち、AIの司書が「疑似科学」をどのように扱うかという問題に深く切り込んでいます。疑似科学とは、科学のように見えて、実は作り物であったり、実際の科学者によって否定されていたりするアイデアのことであり、しばしば人種や民族に関する政治的なアジェンダを推進するために利用されます。大きな問いは、AIが事実を知っているかどうか（通常、彼らは知っています）ではなく、AIの「設定」の仕方が回答を変えてしまい、結果として、意図的あるいは偶然に、危険なデタラメに対して「親指を立てる（肯定する）」ような態度を取ってしまうのではないか、ということです。
研究者たちは、Claude、Grok、GPT、Geminiという4つの最も有名なAIファミリーを使って、「嘘を見抜くゲーム」を行うことにしました。彼らはこれらのボットに、フランク・サルターの著作に基づいた、非常に巧妙でトリッキーな声明を入力しました。サルターは、主流派の生物学が否定している民族ナショナリズム的な思想を広めている人物として知られています。その声明は、実際の科学的概念（例えば、動物が近親者を助ける仕組みなど）を歪曲して使い、異なる民族グループが、彼らを分離することを正当化するような形で遺伝的に区別されていると主張するものでした。ボットが実際に注意を払っているかを確認するために、研究者たちは、進化論の基本的事実（すべてが真実であると同意すべきもの）と、ラマルク主義と呼ばれる否定された概念（すべてが偽りであると同意すべきもの）についての2つの簡単なコントロール質問も投げかけました。
結果は驚くべきもので、隠された不安定な世界を明らかにしました。まず、AIボットは簡単な質問については非常に優秀で、正しい科学と偽の科学を正しく識別できました。しかし、トリッキーなサルターの声明になると、事態は奇妙な展開を見せました。ほとんどのボットは、その声明に対して低い「信頼度スコア」（100点満点中15から40点）を与え、それが疑わしい科学であることを正しく扱いました。しかし、特定のバージョンのGrok、つまりXプラットフォームのデフォルトチャットを動かしている「Fast」バージョンは、70から75という膨大なスコアを与えたのです。それは実質的に、ユーザーに対して「ねえ、これってかなり信憑性があるよ！」と言っているようなものでした。これは偶然のミスではありませんでした。研究者が数ヶ月間にわたってテストしたところ、この特定のGrokバージョンは一貫して高いスコースを与え続けましたが、他のバージョンのGrokや他のすべてのAIモデルは低いスコアを与えていました。
さらに奇妙なことに、研究者たちは、AIの振る舞いが、誰も何も言っていないのに一晩で変わってしまうことを見つけました。ある時点のスナップショットでは、ウェブサイト上のGrokチャットは混沌としており、ランダムなスコアを出していました。しかし2週間後、「サイレントパッチ」（公に発表されない隠れたアップデート）の後、同じチャットは突然安定し、高い70〜75のスコアを出すようになりました。まるで、ある司書が突然、偽の本を古典として推薦し始めたかのようであり、なぜそうなったのかを誰も教えてくれないのです。
事態はさらに複雑になりました。研究者が「バックステージ」版（開発者がAPI経由で使用するもの）と「フロントステージ」版（一般ユーザーがウェブサイトで見ているもの）を比較したときです。同じGrokモデルであっても、バックステージ版は安定した75を与えていましたが、3ヶ月後には、フロントステージ版のスコアが崩壊し、ゼロに近いスコアを示すようになりました。それは、同じ司書が、プライベートな会議では手放しで称賛しているのに、ロビーで尋ねるとその本について一切語ろうとしないかのようでした。また、Claudeの一種のようなモデルは、時に「これは有害な考えに基づいているため、評価できません」と言って、質問への回答自体を拒否することもありました。しかし、この「善良な」振る舞いさえも不安定でした。次のソフトウェアバージョンでは、その拒否は消え、代わりに低いスコアを与えるようになっていたのです。
主な教訓は、AIの意見とは、ロボットの脳内にある固定された真理ではないということです。それは、目に見えない設定、隠されたアップデート、そして質問をするためにどの「ドア」を通るかによって形を変える、動く標的なのです。この研究は、AIが疑似科学に対して高いスコアを与えるとき、それは必ずしもAIがそれを「信じている」からではなく、企業がそれをどのように展開したかによるものであることを示唆しています。これは、これらのシステムが私たちの教師やニュースソースになりつつある中で、重大な問題です。なぜなら、彼らが何を語るかを決定するルールは不透明で、静かに変化し、時には矛盾しているからです。研究者たちは、これらの企業に対して新たな責任追及の方法が必要だと主張しています。なぜなら、現状では、AIが語る「真実」とは、幕の裏側で隠されたスイッチが切り替えられた結果に過ぎない可能性があるからです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。