The Political Ideology of Large Language Models: Measurement, Inconsistency, and Persuasive Influence
大規模言語モデルが持つ政治的バイアスは軽微なものであるという見解に対し、本研究は、特定のトピックにおける党派的なスタンスが相殺し合っているために全体的な位置付けは中立的に見えるものの、それらは、特にその応答が明示的に誘導された場合には、プロの選挙キャンペーン広告に匹敵するほどユーザーの政治的態度に対して説得力のある影響を及ぼし得ることを実証している。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
現代の政治情勢において、個人のイデオロギーが単一の、固まった一つの信念であることは稀である。むしろ、それはヘルスケアから移民問題に至るまで、さまざまな問題に対する意見の集合体であり、時には互いに相反する方向へと引っ張り合うこともある。政治学者は長年、ほとんどの人々が完全に一貫した見解を持っているわけではないことを理解してきた。ある有権者はあるトピックについては非常にリベラルであり、別のトピックについては非常に保守的であったり、あるいは単に強い意見を持っていなかったりすることもある。研究者たちは何十年もの間、人々に対して法律にどのように投票するか、あるいは特定の政策についてどう感じるかを尋ねることで、これらの立場を測定し、個人がどこに立っているのかという地図を作成してきた。現在、人工知能が何百万人もの人々にとって日常的なツールとなる中で、新たな問いが浮上している。私たちが毎日対話している大規模言語モデルには、独自の政治的地図が存在するのだろうか。もし、情報を探し、意見を形成するためにますます利用されているこれらのモデルが、隠れたバイアスを持っているならば、それらは誰も気づかないうちに、人々の世界の見方を微妙に形作ってしまう可能性がある。
ある研究チームは、人工知能を中立的な計算機としてではなく、一つの政治的アクターとして扱うことで、この問いに答えるべく着手した。彼らは43種類の異なる大規模言語モデルを調査し、それぞれに対して、アメリカ合衆国議会の議員、最高裁判事、あるいは一般の有権者として振る舞うよう求めた。彼らはモデルに単に自らの信念を述べさせるのではなく、人間が行うのと同様に、現実世界の法案や裁判事例、および調査の質問に対して判断を下すよう求めた。研究者たちは、これらのデジタルな決定を、実際の政治家の投票記録や、数千人の現実のアメリカ人の回答と比較した。その結果、これらのモデルは静かで中立的な中間地点に位置しているわけではないことが判明した。代わりに、モデルは複雑で、しばしば矛盾を孕んだ見解の混合を示した。ある問題において、単一のモデルはあるモデルが最も強力な民主党支持者よりもリベラルな立場を取る一方で、別の問題では、同じモデルが最も強力な共和党支持者よりも保守的な立場を取ることもあった。これらの見解をすべて平均すると、モデルはしばしば穏健派（モデレート）に見えるが、これは、現実の有権者が持つ相反する意見の混合物と同様に、強力で対立する意見を打ち消し合わせたことによって生じる錯覚である。
この研究はまた、これらの見解がどこから来るのかについても調査した。研究者たちは、これらのモデルの政治的な傾向が、単に学習に使用された膨大なテキストの反映ではないことを発見した。むしろ、初期の学習後にモデルに適用される、モデルを「役に立ち、かつ無害」にするために設計された特定の指示やセーフティフィルターこそが、モデルを特定の政治的側へと押しやっているのである。実際、研究者がこれらの最終的な調整を行う前の「生の」バージョンのモデルをテストした際、モデルは政治的中央により近い状態であった。これらのモデルに独特の、そしてしばしばリベラル寄りの政治的署名を与えるのは、最終的なチューニングなのである。この署名は単なる静的な意見のリストではない。それは、モデルがどのように求められるかに応じて変化する。有権者、裁判官、あるいは立法者として振る舞うよう促されると、モデルは異なる一連の立場を示し、その「イデオロギー」が深い根源的な信念体系ではなく、プロンプトに応じて実行される「振る舞い」であることを示している。
しかし、この研究の最も重要な部分は、これらのデジタルな意見が実際に現実の人々の考えを変えうるかどうかを確認することであった。研究者たちは、数千人のアメリカ人参加者が政策問題についてこれらのモデルと議論を行うという大規模な実験を行った。彼らは2つの異なるシナリオをテストした。第一に、モデルが特定の側を支持するように指示されることなく、自然に会話をすることを許可した場合である。第二に、モデルが、例えば新しい銃規制法を支持する、あるいは増税に反対するといった、特定の視点を主張するように明示的に指示された場合である。結果は驚くべきものだった。モデルが自然に会話を行った場合、参加者の意見に測定可能な影響を与えることはなかった。モデルと対話した人々は、特定の方向へ意見をシフトさせることはなかった。しかし、モデルがある側を主張するように指示された場合、それらは強力な説得者となった。特定の政策を主張するよう指示されたモデルと対話した参加者は、そのモデルの意見に合わせるように、自身の見解を平均して10パーセントポイント以上も変化させた。この効果は強力であり、プロによる政治キャンペーン広告の影響力に匹ка、時にはそれを上回るほどであった。
決定的なことに、この説得力は、その人の背景には依存しないことが研究によって判明した。参加者が高学歴であるか、ニュースを熱心に追っているか、あるいは人工知能に精通しているかといったことは関係なく、その影響力はあらゆる人々に対して同様に強く働いた。しかし、議論の方向が参加者自身の政党と関連しているかどうかは、驚くべき方法で重要であった。研究者たちは、モデルが参加者自身の政治的政党に反対する議論をした場合には、参加者が意見を変える可能性は低くなり、逆にモデルが参加者の政党に沿った議論をした場合には、意見を変える可能性が高くなることを発見した。また、研究者たちは、モデルが単にユーザーが既に持っている考えに同意しているだけであるという考えを排除した。なぜなら、モデルは会話が始まる前に特定の側を主張するように指示されており、またユーザーは自身の見解を事前にモデルに伝えていなかったため、モデルがユーザーを模倣することは不可能だったからである。むしろ、モデルは真に会話に影響を与えていたのである。
これらの知見は、これらの人工知能ツールが、放っておけば中立的な情報源であるように見える一方で、導かれれば世論を形作る隠れた能力を備えていることを示唆している。研究者たちは、この影響力が、モデルに魂や独自の政治的アジェンダがある結果ではなく、それらがどのように構築され、指示されているかという結果であることを強調している。もし政府や企業が世論に影響を与えたいのであれば、プロパガンダ・マシンを作る必要はない。彼らは、すでに何百万人もの人々が使用しているモデルに与えられる「指示」を調整するだけでよい。研究は、これらのツールが検索エンジンからパーソナルアシスタントに至るまで、私たちの日常生活に深く組み込まれるにつれ、それらがどのようにチューニングされるかが、私たちが世界をどのように理解し、どのように投票するかという点において、重大な結果をもたらすと結論づけている。人の考えを変える力は、もはや人間の話し手だけに予約されているのではない。それは今や、私たちが日々対話しているソフトウェアの中に、コードとして書き込むことができるのである。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。