💻 computer science

CARE: Class-Adaptive Expert Consensus for Reliable Learning with Long-Tailed Noisy Labels

本論文は、長尾分布とノイズのあるラベルという複合的な課題に対処するため、尾部クラスに対してはより厳格な合意を、ヘッダクラスに対してはより寛容な合意を適用することで、視覚言語モデルの信号を活用するクラス適応型エキスパート合意メカニズムを利用したパラメータ効率性の高いフレームワークであるCAREを提案する。

原著者： Mengke Li, Haiquan Ling, Lihao Chen, Yang Lu, Yiqun Zhang, Hui Huang

公開日 2026-05-25

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Mengke Li, Haiquan Ling, Lihao Chen, Yang Lu, Yiqun Zhang, Hui Huang

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

新しい生徒（AI モデル）に、巨大な写真アルバムから動物を識別する方法を教えることを想像してください。しかし、このアルバムには 2 つの大きな問題があります。

「ロングテール」問題: アルバムには犬や猫（「ヘッド」クラス）の写真が溢れていますが、オカピやセンザンコウのような希少動物（「テール」クラス）の写真は数枚しかなく、しかもぼやけています。
「ノイズのあるラベル」問題: 写真に名前を書いた人が間違いを犯しました。犬を猫とラベル付けしたり、希少なセンザンコウを一般的なリスとラベル付けしたりしています。

これまでの大半の手法は、これらの問題を個別に解決しようとしました。写真の数を揃えようとしたり、誤った名前を見つけ修正しようとしたりしました。しかし、この論文は、このような「万能」アプローチでは失敗すると主張しています。それは、犬についてすべてを知っている生徒と、初めてセンザンコウを見る生徒に対して、同じ厳格なルールブックを使うようなものです。厳格なルールは初心者を混乱させ、緩いルールは専門家が無防備な間違いを犯すことを許してしまいます。

解決策：CARE（Class-Adaptive Rectification with Experts）

著者たちは、CAREと呼ばれる新しい手法を提案しています。CARE を単一の教師ではなく、各写真に含まれるものを投票で決定する3 人の専門家からなる審判団として考えてください。

以下が、この 3 人の「専門家」の働き方です。

テキスト専門家: この審判は動物に関するすべての本を読み漁っています。写真を見て、「『センザンコウ』の説明に基づけば、これはセンザンコウに見える」と言います。言語知識を用いてラベルを推測します。
画像専門家: この審判は数千枚の写真の研究を積んだ視覚芸術家です。形や色を見て、「視覚的にはこれはセンザンコウと一致する」と言います。
元のラベル専門家: これは写真に書かれた、元々 flawed（欠陥のある）ラベルです。頻繁に間違っているとはいえ、特に犬のような一般的な動物については、まだ何らかの有用な手がかりを含んでいます。

秘密の武器：「クラス適応的コンセンサス」

CARE の魔法は、単に 3 人の審判がいることではなく、彼らがどのように投票するかにあります。

一般的な動物（「ヘッド」）の場合: 犬の写真は数千枚あります。審判たちは少し緩くても構いません。テキスト専門家と画像専門家が「これは犬だ」と合意すれば、元のラベルが「猫」と言っていたとしても受け入れます。彼らは 100% 確信する必要はありません。なぜなら、彼らを裏付ける膨大なデータがあるからです。
希少な動物（「テール」）の場合: センザンコウの写真は数枚しかありません。これらは厄介です。元のラベルが「リス」と言っている場合、テキスト専門家と画像専門家は、そのラベルを覆すために極めて確信を持ち、互いに合意している必要があります。少しでも疑念があれば、CARE は元のラベルを維持するか、慎重に扱います。

比喩:
新しい通りの名前を決めるための町内会を想像してください。

ヘッドクラス（一般的）: 100 人が「メインストリート」と言い、1 人が「オークストリート」と言ったら、100 人を信頼します。超厳格な投票数が必要ではありません。
テールクラス（希少）: 部屋にいるのが 3 人だけで、2 人が「オークストリート」と言っても、3 人目（元のラベル）が「メインストリート」と言っている場合、単に多数決で決めることはできません。非常に慎重になる必要があります。もしかしたら 3 人目が正しいのかもしれませんし、2 人が正しいのかもしれません。CARE はこう言います。「2 人の専門家が叫ぶほど合意している場合だけ名前を変更しよう。ささやき程度なら、元のままにするか、もっと証拠を集めるまで待とう」。

なぜこれがよりうまく機能するか

従来の手法は、すべての誤ったラベルを均等に修正しようとしました。これにより、AI がノイズに混乱し、希少な動物について完全に学習を停止してしまうため、稀な動物にとって状況が悪化することがよくありました。

CARE は以下の方法でこれを修正します。

ノイズのフィルタリング: テキスト専門家と画像専門家が強く異議を唱えているため、センザンコウの写真にある「リス」というラベルを無視します。
希少性の保護: 証拠が圧倒的でない限り、数少ない希少な写真のラベルを積極的に変更しません。これにより、AI が「過剰修正」して、わずかに持っていた真実を失うのを防ぎます。

結果

この論文では、合成データ（作られたノイズのあるデータセット）と、インターネット上の写真のような現実世界の厄介なデータでテストを行いました。

結果: CARE は、既存の最良の手法を一貫して凌駕しました。
改善: 精度が最大**3.0%**向上しました。AI の世界において、これは大きな飛躍です。
証明: 「ノイズ率」（残っている誤ったラベルの数）を確認したところ、CARE は他の手法よりもはるかに優れた方法で希少クラスを整理しました。他の手法は通常、誤りに満ちた希少クラスを残してしまいます。

まとめ

CARE は、いつ厳格になり、いつ柔軟になるべきかを知る賢明なシステムです。テキスト、画像、元のラベルの知恵を組み合わせ、厄介なデータを整理します。重要なのは、希少なアイテムを特別に慎重に扱い、AI がノイズに混乱することなく「ロングテール」の希少なものを認識することを学習させることです。これは「プラグアンドプレイ」型のツールであり、不完全な現実世界のデータから学習する際の AI の信頼性を高めます。

技術概要：CARE：長尾ノイズラベルにおける信頼性のある学習のためのクラス適応型エキスパートコンセンサス

1. 問題定義

現実世界の機械学習アプリケーションは、頻繁に複合的な課題に直面します。「長尾クラス分布」（「テール」クラスはサンプル数が少なく、「ヘッド」クラスは多数存在する）と「ノイズのある注釈」（ラベル誤り）が同時に発生することです。既存のアプローチは通常、これらの問題を個別に扱います。長尾学習の手法は多くの場合、クリーンなラベルを前提としており、希少なテールクラスにおける誤ラベルを増幅させる可能性があります。逆に、ノイズラベル学習の手法は多くの場合、バランスの取れたクラスを前提としており、貴重なテールサンプルの破棄や、ヘッドクラスの過剰な正則化を招きます。

著者たちが行った重要な観察は、「クラス非依存のラベル補正」では不十分であるという点です。標準的な手法は、すべてのクラスに対して均一なノイズ率や補正戦略を適用することが多いです。これは、データ不足や注釈の難しさにより、テールクラスがより高いノイズレベルを示すという現実を考慮していません。均一な補正を適用すると、以下の結果を招きます：

テールクラスに対する不十分な補正：高いノイズ率と低い性能のまま残る。
ヘッドクラスに対する過剰な正則化：貴重な情報が破棄されるか、過剰に補正される。
全体的な性能の低下：実験により示されるように、グローバルノイズ率を低下させても、特にテールクラスにおいて精度向上にはつながらない。

2. 手法：CARE フレームワーク

著者たちは、補正メカニズム自体に追加の学習可能なパラメータを導入することなく、長尾ノイズデータから堅牢に学習するためのパラメータ効率の良いフレームワークである**クラス適応型修正とエキスパート（CARE）**を提案します。CARE は、CLIP に代表されるビジョン・ランゲージモデル（VLM）から導き出された 3 つの相補的な監督源を活用します：

2.1. 3 つのエキスパートソース

テキストエキスパート（TE）：凍結された CLIP テキストエンコーダを用いて、セマンティックな事前情報を生成します。クラスラベルを共有の視覚セマンティック空間に埋め込み、微調整なしでテキストと画像の整合性に基づいた信頼スコアを提供します。
画像エキスパート（IE）：特定のダウンストリームタスク向けにAdaptFormer（パラメータ効率の良い手法）を通じて微調整された CLIP 画像エンコーダを使用します。これにより、対象ドメインに特化した視覚セマンティック信頼スコアが提供されます。
ベースエキスパート（BE）：元の観測された（ノイズのある）ラベルに依存します。これらは信頼性が低い可能性がありますが、特にデータが豊富なヘッドクラスにおいて、クラスを示す貴重な情報を保持しています。

2.2. クラス適応型エキスパートコンセンサス

CARE の中核的な革新は、クラス頻度（ $n_c$ ）に基づいて補正戦略を動的に調整するクラス認識型コンセンサスメカニズムです。

適応型トップ-K 投票：グローバルな閾値の代わりに、CARE は各クラス $c$ $c$ に対してテキストおよび画像エキスパートからのトップ- $K_c$ $K_{c}$ 予測を選択します。 $K_c$ $K_{c}$ の値はクラス頻度に比例します（ $K_c \propto n_c$ $K_{c} \propto n_{c}$ ）。
- ヘッドクラス（高頻度）：より大きな $K$ が割り当てられます。これにより、より許容度の高い合意が可能となり、高信頼ラベルを保持し、過剰なフィルタリングを回避します。
- テールクラス（低頻度）：より小さな $K$ が割り当てられます。これにより厳格なコンセンサスが強制され、ラベルを検証するためにエキスパート間のより強い合意が必要となり、データ不足のカテゴリにおけるノイズ誘発性の干渉を抑制します。
頻度集約：フレームワークは、3 つのエキスパート（TE、IE、BE）からの信頼スコアを累積頻度分布 $F_c$ $F_{c}$ に集約します。
- 観測ラベルがエキスパートのトップ- $K$ リストに含まれる場合、そのエキスパートの信頼度がラベルを強化します。
- 観測ラベルがトップ- $K$ に含まれない場合、そのエキスパートはトップ- $K$ 予測のみを寄与し、潜在的にノイズのあるラベルの強化を防ぎます。
ラベル修正：サンプルの修正ラベルは、最も高い累積頻度を持つクラスによって決定されます。このプロセスはラベル分布を反復的に洗練し、ノイズ率を低下させ、本質的なクリーン分布に近似させます。

2.3. 長尾較正との統合

ラベルが修正されると、CARE は修正されたラベルから導き出された新たに推定されたクラス事前分布を用いて、**Logit 調整（LA）**などの標準的な長尾学習手法と統合されます。これにより、モデルは修正され、より正確な分布に較正されます。

3. 主要な貢献

重要なギャップの特定：著者たちは、クラス非依存の手法によるグローバルノイズ率の低下だけでは、長尾分布下での性能向上につながらないことを実証しています。彼らは、テールクラスが性能低下を回避するために、特定のより厳格な補正戦略を必要としていることを強調しています。
パラメータ効率の良いフレームワーク：CARE は、補正モジュールに学習可能なパラメータを追加することなく、ノイズラベル補正と長尾較正を統合します。事前学習済み VLM と軽量な微調整戦略（AdaptFormer）を活用します。
クラス認識型コンセンサスメカニズム：クラス頻度に適応する動的なトップ- $K$ コンセンサスの提案。これは理論的に、テールクラスにおける厳格なノイズ抑制の必要性と、ヘッドクラスにおける信号保持の必要性とのバランスを取ります。
実証的検証：合成ベンチマーク（CIFAR-100-LTN）および現実世界のベンチマーク（WebVision-50、Food101N、ImageNet-LTNr）における広範な実験により、最先端の手法を一貫して上回る性能が示されました。

4. 実験結果

論文は、さまざまなノイズタイプ（対称、非対称、結合）および不均衡係数（IF = 10, 50, 100）において、顕著な性能向上を報告しています。

合成ベンチマーク（CIFAR-100-LTN）：
- IF=100、NR=50% の結合ノイズ下では、CARE は**76.7%**の精度を達成し、CLIP+LA を 1.4%、CLIP+RLA を 10.0% 上回りました。
- 対称ノイズ下（IF=10、NR=60%）では、CARE は**79.2%**に達し、CLIP+LA を 3.2% 上回りました。
現実世界のベンチマーク：
- WebVision-50：CARE は**85.3%**のトップ 1 精度を達成し、比較対象の手法の中で最高でした。
- Food101N：CARE は CLIP+RLA を大幅に上回り（例：IF=100 で +6.9%）、CLIP+LA を最大 0.4% 改善しました。
- ImageNet-LTNr：CARE は、中程度および重度の不均衡の両方において、CE および LA ベースラインに対して一貫して性能を向上させました。
アブレーション研究：
- 単一のエキスパート（TE または IE）を除去すると改善が見られず、協調的コンセンサスが重要であることを確認しました。
- この手法は、特にテールクラスにおいて、すべてのクラス分割でノイズ率を効果的に低下させました（ある実験では、テールノイズを 72.8% から 53.3% に低下）。
- フレームワークは、異なるバックボーン（ResNet、MLP-Mixer）および VLM（BLIP）間で汎用化しており、その堅牢性は特定のバックボーンアーキテクチャではなく、コンセンサスメカニズムによって駆動されていることを示しています。

5. 意義と主張

この論文は、CARE が現在の学習パラダイムの根本的な限界に対処していると主張しています。それは、ノイズが均一である、あるいは補正戦略がクラス非依存であるべきだという仮定です。クラス適応型エキスパートコンセンサスを導入することで、CARE はデータ不足に起因する本質的な不確実性を注釈ノイズから効果的に分離します。

著者たちは、彼らのアプローチが以下の点を強調しています：

信頼性の向上：特に現実世界のアプリケーションにおけるボトルネックとなることが多い過小評価されたテールクラスに対して、より信頼性の高いラベル分布を生成します。
汎化性の向上：ヘッドクラスの過剰な正則化とテールクラスの不十分な補正を防ぐことで、CARE はよりバランスの取れた監督をもたらし、モデル全体の汎化性を向上させます。
実用的な適用性：この手法は「プラグアンドプレイ」であり、さまざまなバックボーンおよび既存の長尾学習損失と互換性があるため、高品質なキュレーションが不可能な不完全な現実世界のデータからの学習に対する実用的な解決策となります。

この研究は、長尾ノイズデータからの効果的な学習には、単なるノイズ削減だけでなく、各カテゴリの特定の統計的性質を尊重するクラス認識型修正が必要であると結論付けています。