When Many Answers Are Valid, Voting Fails: Symbolic Verification for Best-of-K Causal Reasoning in LLMs
本論文は、複数の正解が存在する場合でも有効な回答を特定するために、パール（Pearl）の因果基準に照らして構造化された推論の痕跡をスコアリングすることにより、因果推論において従来の投票法や報酬ベースの手法を凌駕する、学習不要の記号的検証器であるCALVERを導入するものである。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
あなたは、まるで部屋の植物がなぜ枯れているのかを突き止めるような、ミステリーを解こうとしているところだと想像してみてください。あなたは、超スマートなAI探偵に手がかりを見てくれるよう頼むかもしれません。そのAIは単に一つの答えを出すのではなく、まるで探偵が10通りの仮説を試すように、問題を10回異なる方法で考え抜こうとします。通常、もしそのAIが賢ければ、それら10回の思考のうち、ほとんどは同じ結論になります。そして、最も多く現れたものがおそらく正解です。これは「投票」または「自己一貫性（self-consistency）」と呼ばれ、数学の問題や、唯一の正解がある単純な論理パズルにおいて非常にうまく機能します。
しかし、もしそのミステリーに「多くの正解」がある場合はどうなるでしょうか？例えば、植物が枯れている原因が、「日光が多すぎる」「水が足りない」「虫がいる」という3つの異なる可能性にあるとします。これら3つはすべて妥当な理由です。もしあなたがAIに10回考えるよう頼んだとしたら、AIは「日光」と3回、「水」と3回、「虫」と3回答えるかもしれません。票が割れてしまうのです！その一方で、AIが誤って「植物がお腹を空かせている」と4回答えてしまったらどうでしょう。たとえ「お腹を空かせている」という答えが的外れで間違ったものであったとしても、それが最も人気のある（数の多い）推測であったために、勝利してしまうのです。これが、この論文が取り組んでいるトリッキーな問題です。つまり、正しい答えが複数存在する場合、通常の「多数決」方式は、実は間違った答えを選んでしまう可能性があるのです。
人工知能と因果推論（これは単に「原因と結果を突き止めること」を意味する、少し凝った言い方です）の分野で研究を行っているチームは、この「票の割れ」問題がAIにとって大きな悩みの種であることを発見しました。彼らは、AIがある問題を解決するための「いかなる有効な方法」でも見つけ出すよう求められたとき、正しい答えは多くの異なる選択肢に分散してしまい、一方で、たった一つの間違った答えが偶然にも最も人気のあるものになってしまうことがある、ということを突き止めたのです。
この問題を解決するために、チームはCALVER（Causal Axiom-Level VERification：因果公理レベル検証）と呼ばれる新しいツールを考案しました。CALVERを、人気投票ではなく、厳格にルールに従う「審判」だと考えてみてください。答えが何回現れたかを数える代わりに、CALVERはすべての推測を、因果関係に関する「破ることのできないルール」に照らし合わせてチェックします。それは、「この答えは物理法則や論理に従って、本当に理にかなっているか？」と問いかけます。もし答えがルールに従っていれば、たとえそれが唯一の回答であっても、高いスコアを与えます。もし答えがルールを破っていれば、たとえそれが最も人気のある推測であったとしても、ゼロを与えます。
論文によれば、この「審判」によるアプローチは、単に票を数えるよりもはるかに優れた成果を上げることが示されています。彼らのテストでは、CALVERは正解を約**42.1%の割合で見つけ出せたのに対し、従来の「最も人気のあるものに投票する」方法は、正解を見つける割合が約30%**にとどまりました。AIに試行回数を増やさせた場合（最大32回まで）、この差はさらに拡大し、CALVERは圧倒的な差をつけてリードしました。彼らはまた、ルールが明確に与えられている場合だけでなく、AIがルールを理解するために乱雑な物語を読み解かなければならない場合でも、この手法が機能することを証明しました。
著者たちは、これが魔法ではないことを非常に慎重に述べています。これは特定の目的のための、特定の修正策なのです。彼らは、正しい答えが複数ある場合には投票が失敗することが多いことを数学的に証明し、ルールをチェックすることが有効であることを実験を通じて示しました。彼らはまた、植物や原因とは全く関係のない論理パズルに対してもテストを行い、同じ「ルールをチェックする」というアイデアが依然として機能することを示しました。しかし、もし問題が単純で、唯一の正解しかない場合は、従来の投票法でも問題ないことも指摘しています。しかし、多くの正しい解決策が存在するようなトリッキーな状況においては、CALVERこそが、AIが「人気」によって騙されるのを防ぐための新しいチャンピオンなのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。