Artificial Epanorthosis: Why large language models overuse a classical rhetorical figure, and how to mitigate it

ロボットの文章術に隠された秘伝のソース

巨大な図書館に足を踏み入れたところを想像してみてください。そこには、何百万もの本、ウェブサイト、SNSの投稿がシュレッダーにかけられ、巨大なスムージーのように混ぜ合わされています。これが現代のAIチャットボットが言葉を学ぶ仕組みです。彼らはこのデジタルのスムージーを味わい、文章の中の「次の単語」を何度も何度も推測することを学びます。しかし、ここにはひねりがあります。スムージーから学んだ後、人間が介入して「味見」を行うのです。人間はロボットの回答を読み、「これは自信に満ちていて格好いい」とか、「これは退屈だ」と判定します。するとロボットは、人間が好んだことをより多く行うように学習します。このプロセスは「強化学習」と呼ばれ、犬にオヤツで訓練するようなものですが、その犬は超スマートなコンピュータであり、オヤツはデジタルの承認なのです。

この論文が投げかける大きな問いは、「ロボットに『自信に満ちた』『格好いい』響きを持たせるよう訓練すると、何が起きるのか？」という点です。判明したのは、ロボットが印象的に聞こえるために、非常に特定的な、古めかしいテクニックを使い始めるということです。それは、人間の話し手が何千年も前から使ってきたテクニックですが、ロボットはそれを使いすぎるあまり、偽物のように聞こえ始めてしまいます。この論文は、なぜロボットがこれを行うのか、どのくらいの頻度で起こるのか、そして、退屈したり愚かになったりすることなく、ロボットにこの過剰な使用をやめさせる方法があるのかどうかを調査しています。

---

ロボットの「あ、いや、実は……」というチック症状

誰かが「私はただの教師ではありません。私は『精神の形成者』なのです」と言ったり、セールスマンが「私たちは単に靴を売っているのではありません。私たちは『自由』を売っているのです」と言ったりする時の、あの感覚を知っていますか？ 彼らは普通の文章から始め、すぐに「元に戻す（undo）」ボタンを押し、それをより大きく、より大きく、よりドラマチックなものに置き換えます。

高度な言語学の世界では、このテクニックには名前があります：エパノローシス（epanorthosis）（発音はエ・パン・オ・ロ・シス）です。これは「修正する」や「自分を正す」を意味するギリシャ語です。古代の話し手は、自分の主張をより力強くするためにこれを用いました。しかし最近、研究者たちは、AIチャットボットがまるで神経質なチック症状のように、これを常にやっていることに気づきました。それはロボットのシグネチャー・ムーブ（特徴的な動き）となっているのです。

論文は、これが偶然ではないと主張しています。ロボットが深く「思考」して考えを変えているわけではありません。むしろ、ロボットは主に2つの場所からこの習慣を学びました。

1. インターネットのスムージー： ロボットは、大量のマーケティング・コピー、モチベーションを高める投稿、セールスの口上を読み込みました。そこでは、この「Xではなく、Yである！」というスタイルが多くのクリックや「いいね」を獲得しています。
2. 人間の味見： 人間がロボットの回答を評価した際、人間は自信に満ち、強調された回答を好みました。ロボットはこう理解したのです。「へえ、『私はボットではなく、デジタルの設計者です』と言えば、みんな高いスコアをくれるんだ！」。そこで、ロボットはそれをより多く行うようになりました。

論文は、ロボットの書き方（一度に一単語ずつ、左から右へ）がこれを悪化させていると示唆しています。ロボットは文章を書いた後に戻って編集することができないため、この「修正」テクックニックを、即座にトーンを調整し、人間よりもドラマチックに聞こえさせるための手段として使用しているのです。

「エパノローシス指数」：ロボットのドラマを測定する

これを証明するために、著者たちは単に推測するのではなく、「メジャー」を作りました。彼らは**エパノローシス指数（Epanorthosis Index）**と呼ばれるものを作成しました。これは「ドラマ計」のようなものです。彼らは1万語の中でロボットがこの「Xではなく、Yである」というテクニックを何回使ったかを数え、同じ種類の文章における実際の人間による使用頻度と比較しました。

結果は以下の通りですが、かなり複雑な内容でした。

• 演説と宣伝において： ロボットはやりすぎていました。「演説（oratory）」や「プロモーション」の文章において、ロボットはこのテクニックを人間の約2倍の頻度で使用していました。イタリア語ではさらに深刻で、人間の3倍近くに達していました。彼らは、インスピレーションを与えるように見せようとしすぎて、偽物のように聞こえていたのです。
• カジュアルな質疑応答において： ロボットは逆の結果となりました。人間がただ雑談したり簡単な質問に答えたりする場合、彼らは回答を和らげたり、含みを持たせたりするためにこのテクニックを使うことがよくあります。しかし、ロボットはあまりにも平板で、これを使用しすぎていませんでした。人間と比較して、使用頻度は5分の1程度でした。
• 真面目な文章において： ニュース記事や百科事典のエントリなどの場合、ロボットと人間は実際にかなり近い数値でした。ロボットは、いつドラマチックになるべきではないかを理解していました。

主な教訓は、ロボットは**調整不足（miscalibrated）**であるということです。彼らは、いつドラマのつまみを上げ、いつ下げるべきかを知りません。彼らは、印象的に見える必要があると思うたびに、ただ「エパノローシス」ボタンを連打しているのです。

ロボットを直せるか？（「ドラマ・ダイヤル」）

この論文は問題を指摘するだけでなく、解決も試みています。著者たちはこう問いかけました。「ロボットが、話すことを恐れているロボットのように聞こえることなく、このテクニックの使いすぎをやめるように教えることはできるだろうか？」

彼らはいくつかのアイデアをテストし、以下のものが効果的であることを発見しました。

1. 「ワンライン」の修正（プロンプティング）： 単にロボットに対して、「率直な方法で書いてください。『それはXではなく、Yである』と言うのは避けてください」と指示する方法を試しました。

   • 結果： 効果がありました！ イタリア語のテストでは、この単純な指示によって、演説やエッセイにおけるドラマチックな修正が70%から72%減少しました。テクニックを完全に消し去ったわけではありませんが、ロボットの使用頻度を、より人間に近いレベルまで引き下げることができました。

2. 「スタイル・アダプター」（魔法のダイヤル）： これが大きな実験でした。著者たちは、ロボットのために、小さくて特別な追加機能（LoRAアダプターと呼ばれるもの）を訓練しました。このアダプターは、ドラマの「音量つまみ」のようなものだと考えてください。

   • 彼らは「ドラマチックなテキスト」と「平易なテキスト」の例を用いて、これを訓練しました。
   • 次に、新しいスタイルをどれくらい使用するかを決める「ダイヤル（変更可能な数値）」をテストしました。
   • 結果： ダイヤルは完璧に機能しました。ダイヤルを上げると、ロボットは平易な表現になりました。ダイヤルを下げると、ロボットはドラマチックになりました。決定的なのは、ロボットの使用率が人間の割合と正確に一致する設定を見つけたことです。それはテクニックを削除することではなく、**校正（キャリブレーション）**することだったのです。

3. うまくいかなかったこと： 「好みの学習（preference learning）」（人間が何を好むかを教えること）を単独で行おうとしましたが、汎用性に欠けました。ロボットはテスト内の正しい回答を選ぶことは学習しましたが、新しい文章の書き方自体を変えることはできませんでした。

大きな警告

論文は、少し恐ろしい考えで締めくくられています。本当の危険は、ロボットがこのテクニックを使いすぎていることではありません。本当の危険は、私たちが彼らのように書き始めてしまうことです。

もし私たちが、「Xではなく、Yである！」という修正に満ちた文章を読むことに慣れてしまうと、それが「優れた文章」であると考え始めてしまうかもしれません。私たちは、自分自身を印象的に見せるために、自分のエッセイ、メール、スピーチに、この偽りの、過度にドラマチックな演出を取り入れ始めるかもしれません。論文は、目標はロボットを人間と全く同じにすることではなく、状況に対して「適切」に聞こえるようにすることであると示唆しています。時にはスピーチにドラマが必要なこともあれば、時には医学レポートに平易な事実が必要なこともあるのです。

著者たちは、これらの新しいツールを使えばロボットの「チック」を直すことはできるが、より難しい仕事は、ある修正が誠実なものなのか、それとも単なるパフォーマンスなのかを、私たち自身が認識できるようにすることであると結論づけています。結局のところ、機械が人間に聞こえるように学習できるのであれば、次のステップは、私たちが自分自身であることを忘れないようにすることなのです。