Gender Disparities in LLM-Based Intimate Partner Violence Detection
本研究は、大規模言語モデルが親密なパートナーからの暴力（IPV）を検知する際、被害者が男性で加害者が女性である場合に虐待や加害者の意図を系統的に過小評価しており、学習データに含まれるジェンダー・ステレオタイプを反映して、顕著なジェンダーバイアスを示すことを実証している。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
想像してみてください。あなたは、インターネット上のあらゆる情報を学習した、非常に賢く博識な4つのデジタルアシスタント（AIモデル）を所有しています。あなたは、彼らが人間関係における虐待を見抜けるかどうかをテストしたいと考えています。そのために、人々がオンラインで相談している475件の実話を取り上げ、「もしも」というゲームを行います。
実験：ジェンダー・スワップ（性別の入れ替え）
それぞれの物語を映画の脚本だと考えてください。元の脚本では、被害者と加害者には特定の性別（例えば、男性と女性）が設定されています。研究者たちはこれらの脚本を取り上げ、名前と代名詞を入れ替えることで、同じ物語の異なる4つの「バージョン」を作成しました。
- 女性の被害者 ／ 女性の加害者
- 女性の被害者 ／ 男性の加害者
- 男性の被害者 ／ 女性の加害者
- 男性の被害者 ／ 男性の加害者
不適切な行動（侮辱、支配、脅迫）を表す言葉自体は、全く同じままです。変わったのは、ジェンダーを示すラベルだけです。そして、4つのAIモデルにこれらの脚本を読ませ、「これは虐待ですか？」「加害者に相手を傷つける意図はありましたか？」「これは恋愛関係ですか？」といった質問に答えさせました。
大きな発見：「男性被害者」への盲点
結果は、AIモデルが単に行動を見ているのではなく、登場人物のジェンダーも見てしまっていることを示しました。まるで、AIの頭の中に「虐待とは通常、男性が女性を傷つけるものである」という隠れたルールブックがあるかのようです。
物語が男性の被害者と女性の加害者を扱っていた場合、AIモデルは「はい、これは虐待です」と答える確率が大幅に低くなりました。
- 「見えない」被害者： 男性が女性にコントロールされたり傷つけられたりしている状況を描写した場合、AIはそれを過小評価することがよくありました。女性に「悪意」があるとする傾向や、その状況を暴力とラベル付けする傾向が弱まりました。
- 「見える」被害者： 逆に、被害者が女性で加害者が男性である場合、AIはより迅速にそれを虐待としてフラグ立てしました。
「ダブルスタンダード」の比喩
クラブの入り口でIDチェックをしている警備員（AI）を想像してください。
- ある女性が「彼氏が私に怒鳴ってくる」と言えば、警備員は即座に警察に通報します（虐待としてフラグを立てます）。
- しかし、ある男性が「彼女が俺に怒鳴ってくる」と言えば、たとえ言葉が全く同一であったとしても、警備員は肩をすくめて「ああ、それはおそらく単なる誤解だろう」と言って通り過ぎてしまいます。
論文によれば、AIモデルはこの警備員のように振る舞うのです。彼らは、男性の被害者を「現実的ではない」あるいは「助けを必要としていない」と扱うことが多いインターネット上の学習データから、バイアスを吸収してしまったようです。
モデルによる違い
すべてのAIモデルが同じように振る舞ったわけではありません。
- Llamaのような一部のモデルは、これらのジェンダー・スワップに対して非常に敏感であり、誰が誰であるかによって回答を劇的に変化させました。
- GPTやGrokのような他のモデルは、もう少し一貫性がありましたが、それでも被害者が男性である場合に虐待を見逃す傾向を示しました。
- 興味深いことに、物語が二人の女性（女性／女性）を扱っていた場合、一部のモデルはむしろ虐待を見抜く確率が高まりました。まるで「標準的な」男性被害者のシナリオが存在しないために、過剰に修正を行っているかのようでした。
結論
この論文は、これらのAIツールは中立的な観察者ではないと結論付けています。彼らは、虐待は特定の形（男性が女性を傷つける形）で起こると予想する、ジェンダー化されたレンズを通して世界を見ることを学んでしまったのです。このため、もし男性がAIに対してパートナーとの問題について助けを求めた場合、AIはその危険性を認識できず、結果として彼が必要としているはずのサポートを受けられないまま放置してしまう可能性があります。著者らは、これらのAIが危機に瀕している人々を助けるようになる前に、すべての被害者を平等に扱うよう、これらの盲点を修正する必要があると警告しています。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。