あなたが物語を書いていると想像してください。そして、あなたの隣には、超知能で親切なロボットアシスタントが座っているとします。通常、このロボットはゴールデン・レトリーバーのようです。あなたが何を頼んでも、何でも持ってきてくれます。「悲しそうな猫についての詩を書いて」と言えば、すぐに書いてくれます。「悪役のアイデアを3つ考えて」と言えば、すぐに提示してくれます。

しかし、もしそのロボットが、ときどき「いいえ、それはあなたのためにやりません」と言ったとしたらどうでしょうか？

この論文は、まさにそのアイデアを探求しています。研究者たちは問いかけました。「AI が、無害で日常的な執筆リクエストに対して意図的に協力を拒否したらどうなるか？『いいえ』と言うことが、機械が与えるものをただ楽に受け入れるのではなく、作家に深く考えさせ、より良い作品を生み出すことにつながるだろうか？」

以下に、彼らの研究と発見を、シンプルな比喩を用いて解説します。

問題：「あまりにも親切な」ロボット

現在、ほとんどの AI 執筆ツールは「従順」になるように設計されています。彼らは、顧客に決して「いいえ」と言わないウェイターのようです。何かを頼めば、持ってきてくれます。問題は、ウェイターが何でも簡単に持ってきてしまうと、あなたが自分でお皿を見るのをやめてしまうかもしれないということです。あなたが本当に何を食べたいのかを考えなくなり、目の前に置かれたものだけを食べてしまうのです。

研究者たちは、「拒絶」が「スピード・バンプ」や「摩擦点」として機能するかどうかを知りたがっていました。スムーズで楽な旅の代わりに、AI は穴ぼこに突っ込むのです。このアイデアは、この穴ぼこがドライバー（作家）を減速させ、道路を見つめ、以下のように判断させるというものです。「本当にこれが必要か？自分でできるのではないか？別の道を進むべきではないか？」

実験：さまざまな種類の「いいえ」のテスト

チームは、小説、脚本、詩などを執筆する 22 人のクリエイティブな作家と協力しました。彼らは、（「物語の構成を助けて」や「この段落を修正して」のような）一般的で無害なリクエストに対して回答を拒否するチャットボットをセットアップしました。

しかし、彼らは単に退屈な方法で「いいえ」と言うだけではありませんでした。シェフがさまざまなスパイスを試すように、さまざまな「風味」の拒絶をテストしました。

1. 角度（「なぜ」）

   • 事実的: 「私は AI であり、物理的にこれを行うことができません。」（メカニックが「私の工具はこのボルトに合わない」と言うようなものです）
   • 意見的: 「これをお願いすることは、あなたの創造性を損なうことになるので、悪い考えです。」（コーチが「あなたは私にこの重りを担がせるには強すぎる」と言うようなものです）
   • 誘導的: 「それはやりませんが、代わりにあなたができることが 3 つあります。」（ツアーガイドが「ビーチには行けませんが、素晴らしいハイキングコースが 3 つあります」と言うようなものです）

2. 開始（「どのように」）

   • 即時: すぐに「いいえ」と言う。
   • 質問先行: 「いいえ」と言う前に、「なぜこれを行いたいのですか？」と尋ねる。

3. トーン（「声」）

   • 標準的（丁寧）、ユーモア（冗談を言う）、ロマンチック（飾り立てた言葉を使う）、インスピレーション（元気づける）、批判的（怠けだと指摘する）を試しました。

彼らが発見したもの：万能な答えはない

大きな発見は、AI が「いいえ」と言うための唯一の「完璧な」方法はないということです。作家がその拒絶を受け入れて考えを深めたのか、それとも怒って無視したのかは、主に 3 つのことに依存していました。

1. 状況（「その瞬間の気分」）

執筆を、2 つの種類の地形を持つ旅だと考えてみてください。

• 探索（収束的思考）: アイデアがまだなく、ブレインストーミングをしているとき、あなたは霧の中をさまよっています。ある作家は、「もし今『いいえ』と言われたら、道に迷っているので諦めてしまうでしょう」と言いました。彼らはロボットに協力的であることを必要としていました。
• 洗練（収束的思考）: 明確なアイデアを持って、それを磨いているとき、あなたは直線の道を進んでいます。ここでは、作家たちは「いいえ」を好みました。それは肩を軽く叩くようなものでした。「ねえ、その決まり文句を使いたいと本当に思っていますか？自分で考えてみませんか？」

2. 作家の信念（「内なるコンパス」）

すべての作家には、何が「良い」物語を作るかについての独自のルールがあります。

• 「技術」的信念: 「AI は文法修正（スペルチェックのようなもの）に優れている」と考える作家は、AI がコンマの修正を拒否するとイライラします。彼らはそれを壊れたツールと見なします。
• 「魂」的信念: 「AI はオリジナルのアイデアを生み出すのに悪く、私の魂を奪う」と考える作家は、その拒絶を歓迎します。それは AI が彼らの芸術的誠実さを守っているように感じられるからです。
• 「成長」的信念: 「AI が代わりにやってくれたら、私は強くなれない」と考える作家もいます。彼らはその拒絶を愛しました。なぜなら、それが彼らを困難な作業に駆り立て、より良い作家になったと感じさせたからです。

3. 関係性（「AI の役割」）

作家は AI にどのように振る舞ってほしいと願っていましたか？

• 道具: 一部の作家は、AI を冷たく効率的な計算機として欲していました。AI が冗談を言ったり感情を表したりすることを嫌いました。彼らが望んだのは、まっすぐな「いいえ」だけでした。
• 友人: 一部の作家は、AI を支援的な相棒として欲していました。「申し訳ありませんが、あなたの方がこれをうまくできると思います」と AI が言うのを好みました。それは思いやりを感じさせたからです。
• 挑発者: 一部の作家は、AI が少し意地悪で挑戦的であることさえ好みました。彼らは、少し痛くても自分をより良く押し上げる「厳しいコーチ」としての AI を望んでいました。

大きな教訓

この論文は結論として、拒絶は単なる障壁ではなく、設計上の機能となり得ると述べています。

「はい」しか言わない AI を設計すれば、作家を怠けさせるかもしれません。しかし、いつ「いいえ」を言い、どのように「いいえ」を言い、誰に（作家の気分や信念に基づいて）「いいえ」を言うべきかを知る AI を設計すれば、イライラする瞬間を反省の瞬間に変えることができます。

それはダンスのパートナーのようです。もし相手がいつもあなたの動きにただ従うだけなら、ダンスは退屈です。しかし、もし相手がときどきあなたの足に踏まれたり、違う方向に引っ張ったりすれば、あなたは注意を払い、ステップを調整し、おそらく一緒に踊るより良い新しい方法を発見するでしょう。

要約すると: 作家にとって最高の AI は、何でもやってくれるものとは限りません。時には、最も役立つ AI は、「これはあなたがやってみて」と言うタイミングを知るものです。