Generative AI systems conflate two distinct pregnancy-dating algorithms
この研究は、生成AIシステムがしばしば2つの異なる妊娠週数計算アルゴリズムを混同しており、それが重大な計算ミスや誤ラベル化を招いていることを明らかにしており、医療用AIがその計算経路を透明に開示することの極めて高い必要性を強調している。
原論文は CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
あなたは、膨らむまでに正確に280日かかるケーキを焼こうとしていると想像してください。あなたには、そのケーキがいつ完成するかを算出するための2つの異なるレシピがあります。長い間、誰もがこれら2つのレシピは「一卵性の双子」であると考えてきました。
レシピA（「カレンダーの近道」）： これは古くからある方法で、「ネーゲレの法則」として知られています。これは暗算のテクニックのようなものです。「カレンダー上で3ヶ月戻り、そこに7日を足す」。素早く、簡単に頭の中で計算でき、200年以上も使われてきました。
レシピB（「正確なカウント」）： これは「280日カウント」です。これは砂時計の中にある砂粒を一つひとつ数えるようなものです。通過する月に何日あるかに関わらず、単純に開始日に280日を加算します。
問題：双子は同一ではなかった
この論文の著者たちは、これら2つのレシピは実は「双子」ではなく「いとこ」であることを発見しました。私たちのカレンダーは特殊（月によって30日だったり31日だったりし、2月には29日があることもある）であるため、「カレンダーの近道」は必ずしも「正確なカウント」と同じ日にたどり着くわけではありません。
彼らは1812年から2025年までのあらゆる日に対して、このテストを行いました。その結果、56%のケースにおいて、これら2つのレシピは異なる予定日を算出することが分かりました。「近道」は通常、「正確なカウント」よりも1日、2日、あるいは3日ほど遅い日付を出していました。近道が早い日付を出すことは一度もなく、ただ後ろにずれていくだけでした。
最大のトラブルは、妊娠期間中にうるう日（2月29日）をまたぐ場合に発生します。この場合、2つのレシピが一致することは決してありません。「正確なカウント」はその余分な1日を含みますが、「カレンダーの近道」はその日を通り越してしまいます。
AIのミス：「混乱したシェフ」
研究者たちは、5つの人気のあるAIシステム（ChatGPTやClaude、Geminiなど）に、計算を行う「職人（ベイカー）」としての役割を与えました。彼らは、AIがこれら2つのレシピの違いを理解しているかどうかを確認しようとしました。
結果は以下の通りでした：
- 優秀な職人： 2つのAIシステムは、レシピが異なることに気づきました。彼らは正しい答えを出し、「もし近道を使うならX日になりますが、正確に280日を数えるならY日になります」と説明しました。
- 混乱した職人： 残りの3つのAIシステムは間違えました。彼らは「3ヶ月を引いて7日を足しました」といった具合に、あたかも「カレンダーの近道」を使っているかのように振る舞いましたが、実際には密かに「正確なカウント」の計算を用いて異なる答えを出していました。あるいは、これら2つの手法が明らかに異なるものであるにもかかわらず、同じものであると主張しました。
それはまるで、シェフが「私は近道のレシピに従っています」と言いながら、裏では計量器を使って別の結果を出しているようなものです。彼らは、自分が説明した「手法」と、実際に使用した「手法」を**混同（コンフレート）**していたのです。
なぜこれが重要なのか？
著者らは、単一の妊娠において、1日から3日の差は医学的な災難ではないと指摘しています。赤ちゃんは自然に幅広い日程で生まれるからです。
しかし、この研究は、AIのより大きな問題を浮き彫りにするためのテストケースとして、妊娠の日付計算を使用しています。AIは「思考」したり論理を展開したりしているのではなく、教科書で見たパターンに基づいて推測しているに過ぎません。古い教科書の中でこれら2つのレシピが混同されていたため、AIもまたそれらを混同することを学んでしまったのです。
この論文は、もしAIツールが医学的な計算を行うのであれば、その答えを導き出した「方法」について誠実である必要があると結論付けています。単に数字を提示するだけでなく、「私は正確な280日カウントを使用しました」あるいは「私はカレンダーの近道を使用しました」と述べるべきであり、そうすることで、ユーザーが何を受け取っているのかを正確に把握できるようにすべきなのです。もしAIが、妊娠に関するこのような単純な数学的ルールを区別できないのであれば、将来的に、より危険な計算において同様のミスを犯す可能性があるのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。