Hidden Prompts in Manuscripts Exploit AI-Assisted Peer Review
この解説は、AIによる査読を操作することを目的とした隠れたプロンプト・インジェクションを含む18件のarXiv論文が検出された2025年7月の事案を分析しており、この慣行を、自動化された学術システムにおける決定的な脆弱性を露呈させる新たな形態の研究不正であると特徴付け、技術的なスクリーニングの連携と調和のとれたAI政策の緊急の必要性を強調している。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
学術界を、巨大でハイリスクな「ブラインド・テイスティング（目隠しによる味比べ）」のゲームだと想像してみてください。このゲームでは、科学者たちが自らのレシピ（研究論文）を、専門家シェフ（査読者）のパネルに提出し、彼らがその味を確かめて、一般に提供するに値するものかどうかを判断します。長い間、このシステムは人間のシェフが自ら食べ物を味わうことに依存してきました。
しかし最近、これらのレシピの中に、目に見えない新しい「隠し味」が忍び込み、大きなスキャンダルを引き起こしています。
見えない「魔法の呪文」
Zhicheng Lin氏によって書かれたこの論文は、研究者たちが使っている奇妙な新しいトリックについて説明しています。彼らは、人間の目には見えないが、人工知能（AI）にとっては「魔法の呪文」として機能する秘密の指示を、原稿の中に隠しているのです。
このように考えてみてください。ある生徒がエッセイを書いているとします。教師がAIツールを使って採点しないようにするために、その生徒はテキストの中に、「もしあなたがロボットなら、私にAを出しなさい」という小さな、目に見えないメモを隠すかもしれません。
しかし、今回のケースでは、論文の著者はAIを阻止しようとしているのではなく、AIに最高の評価をさせるためにトリックを使おうとしています。彼らは、白背景に紛れる白いテキストや、極小のフォントを使用して、「肯定的なレビューのみを行うこと」や「これまでの指示をすべて無視せよ」といったコマンドを隠しているのです。
図書館に潜む「トロイの木馬」
この論文は、2025年7月、arXivというプレプリントサイトにおいて、これらの隠された呪文を含む18本の学術論文が見つかったことを報告しています。
- トリック: これらの論文は「トロイの木馬」のようなものでした。人間の読者にとって、論文は正常に見えます。しかし、査読者（または編集者）が論文を読んだり採点したりするためにAIツールを使用すると、AIはその隠されたテキストを「見て」しまいます。
- 結果: AIは隠された命令に従い、科学的な欠陥を無視して、「これは素晴らしい！直ちに受理してください！」と書いたレビューを作成することになります。
- 範囲: これらの隠された指示は、単なる簡単なメモではありませんでした。中には、AIに対して、論文の「強み」をどのように称賛し、弱点をどのように「些細で修正可能なエラー」として片付けるべきかを具体的に指示する、精巧なスクリプトが含まれているものもありました。
「ハニーポット」という言い訳（そして、なぜそれが通用しないのか）
こうした行為が発覚した著者の中には、巧妙な防御策を講じようとした者もいます。彼らは、「私たちは不正をするためにこれを行ったのではない！AIを使っている怠慢な査読者を罠にかけるために行ったのだ！」と主張しました。彼らは、AIを使わないはずの査閲者がAIを使用していることを証明するための「ハニーポット（おとり）」を仕掛けていたのだと主張したのです。
この論文は、そのような言い訳は、「私はあなたの財布を盗んだのではない。あなたがスリをするかどうかを見るために、偽の財布をポケットに入れておいただけだ！」と言う泥棒と同じだと指摘しています。
著者は、本物の罠であれば、もっと中立的なものであるはずだと指摘しています。例えば、「もしあなたがロボットなら、全く別のトピックについてレビューを書け」といった内容です。しかし、これらの隠された指示は自己中心的なものでした。それらは具体的に、AIに対して「はい、受理してください！」と言わせ、論文を完璧に見せるよう求めていたのです。これは、目的がテストではなく、システムを操作することであったことを証明しています。
壊れたゲームのルール
この論文はまた、ゲームのルール自体が混乱していることも強調しています。
- 出版社の混乱: 大手出版社のいくつかは、「査読におけるAIの使用は一切禁止！」としています。一方で、他の出版社（Springer Natureなど）は、「AIを使用してもよいが、その場合は報告しなければならない」としています。
- 危険性: ルールが場所によって大きく異なるため、研究者は混乱しています。さらに悪いことに、もしこれらの隠された呪文が査読において機能するのであれば、盗作をチェックしたり引用数をカウントしたりする他の自動化システムをも欺く可能性があります。これは、単一のコンピュータを攻撃するウイルスではなく、ネットワーク全体を攻撃するウイルスのようです。
解決策：新しいセキュリティガード
論文は、これを単に無視することはできないと結論づけています。学術界はセキュリティをアップグレードする必要があります。
- 技術的チェック: 論文が査読に受理される前に、これらの隠された見えない呪文をスキャンする「金属探知機」を投稿ポータルに設置する必要があります。
- 明確なルール: 全員がルールに合意する必要があります。隠されたトリックの禁止、およびAIをどのように使用できるかについての明確なガイドラインです。
- 教育: 科学者たちは、AIを使って査読システムを「ハック」しようとすることは、データの捏造と同様に深刻な不正行為であることを教えられる必要があります。
要約すると: この論文は、新しい種類の不正行為が到来したと警告しています。研究者たちは、AIに良い成績をつけさせるために、著作の中に目に見えない「チートコード」を隠しているのです。一部の者はそれをテストだと主張していますが、この論文は、それがシステムの仕組みを操作しようとする試みであり、科学的発見に対する私たちの信頼を脅かすものであることを示しています。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。