PinEqualizer: Full Funnel Content Exploration and Debiasing System at Pinterest
本論文は、Pinterestに導入されたフルファネルのコンテンツ探索およびデバイアス・システムであるPinEqualizerを紹介するものであり、これは検索およびレコメンデーションのサーフェス全体において、新鮮なコンテンツの発見とユーザーエンゲージメントのバランスを取りつつ、短期および長期的な影響の両方を検証するためのスケーラブルなフレームワークを活用することで、コールドスタート問題に対処するものである。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
想像してみてください。あなたは、新しい本が絶えず棚に補充され続ける、巨大で終わりのない図書館に足を踏み入れました。この図書館では、司書たち（実は非常に賢いコンピュータプログラムです）の仕事はただ一つ、今まさにあなたに最適な一冊を渡すことです。しかし、ここには落とし穴があります。司書たちは、すでに百万回も目にしたことのある本を愛してしまう癖があるのです。彼らはそれらの古いお気に入りがどれほど人気であるかを正確に知っているため、それらをあなたの手に押し付け続けてしまいます。一方で、まだ誰も読んでいない新しい本は、埃をかぶったまま奥の方に取り残されています。これは「コールドスタート」と呼ばれる問題です。もし新しい本が読まれるチャンスを得られなければ、司書たちはそれが本当に良いものかどうかを学ぶことができず、結果として決して推薦することはありません。こうして図書館は、同じ古い物語ばかりが繰り返される退屈なループに陥ってしまい、刺激的な新しい声が輝く機会を永遠に失ってしまうのです。
この論文は、まさにこの問題を解決しようと決意したPinterestのエンジニアチームについて書かれたものです。彼らは、コンピュータの司書たちが「有名な」古いコンテンツに対して抱いている偏見を捨て、新鮮で新しいものに対して公平なチャンスを与えられるよう、「PinEqualizer」と呼ばれる新しいシステムを構築しました。彼らはプロセスの一部を微調整しただけではありません。どの新しい本に注目するかを選ぶことから、それらを見つけ出し、そしてどれをあなたに見せるかを決定するに至るまで、パイプライン全体を刷新しました。彼らの目標は、新しいコンテンツが自らの価値を証明するための公平なチャンスを確実に得られるようにすることであり、その結果、読者はより満足し、より健康的で多様な図書館全体が実現できることを彼らは発見しました。
問題点： 「富める者がさらに富む」図書館
Pinterestは、何千億ものユニークなアイテム（「ピン」と呼ばれます）を持つ、巨大なビジュアル発見エンジンです。毎日、数百万の新しいピンがアップロードされます。システムの仕事は、これらのピンを、それを愛してくれるユーザーとマッチングさせることです。しかし、そこには巧妙な罠があります。システムは過去の履歴から学習してしまうのです。もしあるピンが過去に何度もクリックされていれば、システムは「これは素晴らしい！」と考え、より多くの人々にそれを見せます。逆に、新しいピンには履歴がないため、システムはそれが良いものかどうか確信が持てず、表示させることを恐れてしまいます。
これが「富める者がさらに富む（rich-get-richer）」効果を生み出します。人気のある古いコンテンツはさらに人気が高まり、一方で新しく新鮮なコンテンツは埋もれてしまいます。時間が経つにつれ、これはエコシステム全体に悪影響を及ぼします。新しいクリエイターは成長できず、ユーザーは刺激的な新しいものを見ることができなくなります。エンジニアたちは、単に「探索（新しいものをランダムに見せること）」を行うだけでは不十分であることに気づきました。コンピュータが長い履歴を持たなくても、新しいコンテンツがどれほど優れているかを予測できるように、システム内部の深いところにあるバイアスを修正する必要があったのです。
解決策： PinEqualizer
チームは、コンテンツがユーザーに届くまでの「ファンネル（漏斗）」全体で機能する、PinEqualizerと呼ばれる新しいシステムを構築しました。このファンネルを、ピンが滑り台を滑っていく様子だと考えてください。ピンがユーザーの画面に到達するには、いくつかのステージを通過する必要があります。
- コーパス選択（Corpus Selection）：どの新しいピンをプールに残すべきかを決定する。
- リトリーバル（Retrieval/検索）：特定のユーザーに適したピンを見つけ出す。
- ランキング（Ranking/順位付け）：どの順番で表示するかを決定する。
PinEqualizerは、新しいコンテンツが底の方で止まってしまわないように、この滑り台のあらゆるステージに特別なツールを追加しています。
1. 最良の新人を選ぶ（コーパス選択）
すべての新しいピンをチェックするには膨大な数になるため、システムは「トンプソン・サンプリング」というスマートな推測ゲームを使用します。中身の予想がつく箱が入った袋を想像してください。ある箱にはおもちゃが入っている確率が高く、別の箱には低いかもしれません。すべての箱を開ける代わりに、システムはクリエイターに関する知識と少しの運を組み合わせて、「最高のものかもしれない」と思われるものを選び出します。また、新鮮なコンテンツ専用の「探索用ライブラリ」も構築しました。これにより、システムは最初から古い有名なピンと競い合う必要がなくなります。
2. 適切なマッチングを見つける（リトリーバル）
システムが良質な新しいピンのプールを手に入れたら、次はあなたにぴったりのものを見つける必要があります。通常、システムはピン同士がいかに繋がっているか（友人のネットワークのようなもの）を見ています。しかし、新しいピンにはまだ多くの「友達」がいません。そこで、エンジニアたちはシステムに「コンテンツベース」の手がかりを使うよう教えました。彼らは、誰が保存したかという履歴だけでなく、高度なAIを用いて、画像が「実際にどのような見た目か」を理解させるようにしました（視覚言語モデルなどを使用）。また、新しいピンがまだ人気を持っていなくても、一定の流れが確実に滑り台を下ってくるように、専用の「専用チャンネル」も作成しました。
3. 最終決定（ランキング）
これが最も重要な部分です。システムが最終的な表示リストを選ぶとき、通常は過去のデータに大きく依存します。ピンに過去のデータがない場合、システムはしばしば低いスコアを与えてしまいます。PinEqualizerは、以下の方法でこれを修正します。
- AIに過去を無視させることを教える：彼らは「ドロップアウト」と呼ばれるテクニックを用いました。これは、トレーニング中に「人気度」の数値をランダムに隠す手法です。これにより、AIは単なる知名度ではなく、実際のコンテンツ（画像や説明文）に基づいてピンを判断することを強制的に学習します。
- 自信のブーストを与える：新しいアイテムに対して「ボーナス」スコアを追加しました。これは、「これが良いものかはまだ分からないが、まずは見られるチャンスを与えよう」という考え方です。これは、あまり見られていないアイテムに少しの興奮を加える「UCB（Upper Confidence Bound）」という手法を用いて行われます。
- スコアの較正（キャリブレーション）：システムが、新しいという理由だけで新しいコンテンツを不当に低く評価しないようにしました。数学的な調整を行い、潜在能力の高い新しいピンが、古い有名なピンと同じチャンスを得られるようにしました。
成功の測定方法
「これが本当に機能しているとどうやってわかるのか？」と思うかもしれません。単に新しいものを見せると、ユーザーはその新しいものをまだ知らないため、最初はクリック率が下がる可能性があります。これは「長期的な利益のための短期的な痛み」という問題です。
これを解決するために、チームは特別な測定フレームワークを構築しました。
- 「ホールドアウト（Holdout）」テスト：長期的な実験を実施しました。一方のグループには「古いコンテンツのみ」を見せ、もう一方のグループには「新しい探索的コンテンツ」を見せました。その結果、新しいものを見ているグループの方が、長期的なエンゲージメントが大幅に高いことが分かりました。これは、新しいコンテンツが、発見されるまでに少し時間はかかるものの、実際に価値があるものであることを証明しています。
- 「卒業」メトリック：彼らは「卒業」という定義を作りました。新しいピンが一定日数以内に十分なポジティブなインタラクション（いいね、保存など）を獲得した場合、それは「未知のもの」から「既知の存在」へと「卒業」したとみなされます。彼らは、どれだけのピンが正常に卒業しているかを追跡しました。
- 「未探索」メトリック：まだあまり見られていないコンテンツから、どれだけのエンゲージメントが得られているかを測定しました。これにより、変更が新しいコンテンツの注目に実際に役立っているかどうかを確認できました。
結果
結果は驚くべきものでした。PinEqualizerの導入後、Pinterestでは新鮮なコンテンツのインプレッション数が350%増加しました。これは、ユーザーが以前よりもはるかに多くの新しいピンを見ていることを意味します。
- ユーザーエンゲージメント：このシステムにより、北米でのセッション成功率は24%増加し、国際的には49%増加しました。
- ショッピング：ショッピングへの影響も甚大でした。北米でのショッピングセッションが63%増加しており、これは新しい製品がついに相応の注目を得られるようになったことを示唆しています。
- クリエイターの健全性：システムはより多くのクリエイターの成功を助けました。「成功したコンテンツ提供者（コンテンツが一定の注目を集めたクリエイター）」の数は、前年比で99%増加しました。
なぜ重要なのか
この論文は、ユーザーが「今愛しているもの」を見せることと、「将来愛するかもしれないもの」を見せることは、二者択一ではないことを示しています。システムの「脳」にあるバイアスを修正することで、その両方を実現できるのです。エンジニアたちは、候補をより良く選び、それらをより良く見つけ、そして公平にランク付けするという、プロセスのあらゆるステップにおいて小さくスマートな変更を加えることで、「富める者がさらに富む」というサイクルを打破できることを見出しました。
また、彼らは、システムの一部分だけを直しても不十分であることを学びました。もしリトリーバルの段階で依然としてバイアスがあれば、新しいコンテンツはランキングの段階にすら到達できないからです。それは、素晴らしい新刊があるのに、誰も見つけることができない部屋に閉じ込められているようなものです。PinEqualizerは、図書館全体を解錠しました。
結局のところ、このシステムは単にPinterestがより多くの新しいピンを見せるのを助けただけではありません。新しいクリエイターが成長でき、ユーザーがより広く刺激的な世界を発見できる、より健全なエコシステムを作ることに貢献したのです。この論文は、このような「フルファンネル（全工程）」のアプローチが、大規模な推奨システムにおけるコールドスタート問題を解決するための強力な方法であることを示しており、公平性と正確性が共存できることを証明しています。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。