テクニカルサマリー：Yuvion VL – 敵対的コンテンツおよびAI安全性に関するマルチモーダル基盤モデル

1. 問題提起

汎用的なマルチモーダル大規模言語モデル（MLLM）は、現実世界のマルチモーダルなリスクを確実に特定し、理解することに苦慮しています。この限界は、コンテンツとAI安全性が本質的に敵対的かつマルチモーダルな性質を持っていることに起因します。標準的なコンピュータビジョンのタスクは安定したデータ分布を持ちますが、安全性のタスクは、以下のような回避戦略を用いる悪意のあるアクターによる継続的な「軍拡競争」を伴います：

• セマンティックレベルの偽装： 禁止されたテキストを小さなウォーターマークとして埋め込む、難読化された記号を使用する、あるいは「教育的」や「ニュース」という文脈の中に違反を枠組み化する。
• きめ細かな識別： 本質的に安全性の意味合いが異なる、視覚的に類似した画像同士を区別する（例：正当なブランドロゴと偽造バリエーションの区別、あるいは無害な製品と中に禁止品が隠されている製品の区別）。
• 知識の集約性： 判断を正当化するために、法律、文化的文脈、組織のシンボル、および進化するプラットフォームのポリシーに対する深い理解を必要とする。

既存のモデルは、これらのリスクを推論するための専門知識が不足していることが多く、また敵対的な摂動に対して脆弱です。さらに、一般的なモデルにおける安全性へのアライメントは、機密性の高い知識への関与を抑制してしまうことがあり、モデルが検出すべきリスクそのものを正確に特定できなくなるというパラドックスを生み出します。

2. 手法

著者らは、敵対的コンテンツおよびAI安全性に特化したマルチモーダル基盤モデル（8Bおよび32Bパラメータ）のファミリーであるYuvion VLを提示しています。開発パイプラインは、データ構築、トレーニングアーキテクチャ、および評価という3つのコアピラーを通じて、敵対的堅牢性を中心に設計されています。

2.1 敵対的認識データシステム

データシステムは能力指向であり、安全性の能力を支える特定の次元をサポートするように分類されています：

• 一般マルチモーダルデータ： ドメイン適応中の壊滅的な忘却を防ぐため、広範な視覚言語能力を維持します。
• ドメイン知識データ： 視覚的知覚タスク（機密性の高い顔認識、旗やシンボルの検出）と、知識のアライメント（シンボルと地政学的文脈や規制上の感度とのペアリング）を含みます。
• ドメイン安全性データ： 主要なリスクカテゴリ（政治的感度、ポルノグラフィ、暴力、詐欺）をカバーし、階層的なラベル、エビデンスの帰属、およびポリシー参照を備えています。
• 敵対的データ： 小さなテキスト/ウォーターマークによる回避、ロゴの変形、遮蔽、AI生成による敵対的コンテンツ、および文脈的なセマンティックな偽装を含む、現実的な回避戦術を明示的にモデル化しています。このサブセットは、本番環境からの失敗事例をマイニングするデータフライホイールを通じて継続的に拡張されます。
• 思考の連鎖（CoT）構築： 自動化されたパイプラインが、ビジネスデータから推論の痕跡を生成します。これは3段階の検証プロセスを採用しています：(1) 推論ステップを逆導出するためのプロンプトエンジニアリング、(2) 推論の一貫性検証（CoTが正しい答えに導いているかの確認）、(3) 品質検査（効率性、フォーマット、および事実の正確性）。

2.2 3段階のトレーニングパイプライン

モデルのトレーニングは、構造化された進行に従います：

1. 継続的事前学習（リスク概念のクロスモーダル・アライメント）： モデルは視覚的なリスク信号をセマンティックな概念（例：旗を規制カテゴリにマッピングする）とアライメントさせます。ビジョンエンコーダは凍結されたまま、コネクタとLLMが更新されます。
2. 指示後学習（Instruct Post-Training）：
   • 教師あり微調整（SFT）： 本番グレードのタスク（二値分類、リスクラベル付け、構造化されたJSON出力）のためにドメイン安全性データで学習します。
   • Confuse-then-Contrast Fine-Tuning (C2FT)： きめ細かな識別に対処する新しいフレームワークです。
     • Confuseフェーズ： モデルが現在誤分類している、あるいはセマンティックに混乱しているサンプルを特定することで、モデル固有の「困難な」ケースを動的にマイニングします。これを用いて、視覚的に類似しているがセマンティックには異なるサンプル（例：アンカー vs ハードネガティブ）との対照グループを構築します。
     • Contrastフェーズ： 複数の画像を共同で監視し、明示的なクロスイメージ識別を強制することで、視覚的に類似しているが安全性の観点で異なるサンプルの表現を互いに引き離します。
3. 推論後学習（Reasoning Post-Training）：
   • 推論SFT： 忘却を防ぐための知識リプレイを組み込み、複雑な構造化出力と詳細なCoTに焦点を当てます。
   • 推論強化学習（RL）： リジェクションサンプリングを使用して、「高価値な標準サンプル」（報酬の不一致が高い境界事例）を厳選し、カリキュラム学習（易しいものから難しいものへの進行）を用います。マルチオブジェクティブ報酬システムは、フォーマットの妥当性、決定の正確性、グラウンディングのIoU、およびCoTと結論の一貫性を評価します。

2.3 評価フレームワーク：Yuvion VL RiskEval (YVRE)

3段階の漸進的な評価システムが導入されています：

• レベル1（一般マルチモーダル）： 安全性の専門化によって、一般的なVLM能力（VQA、OCR、推論）が低下していないことを確認します。
• レベル2（オープン安全性ベンチマーク）： 公開データセット（例：Hateful Memes、MM-SafetyBench）および独自に構築したeコマースガバナンスベンチマーク（ロゴ、ブランド、製品カテゴリ、価格認識）での性能を評価します。
• レベル3（インハウスおよびビジネス）： ドメイン知識、敵対的堅牢性（メタファー、カモフラージュ）、AI生成画像の検出、およびエンドツーエンドのモデレーションタスクを含む、現実世界の運用シナリオでモデルをストレステストします。

3. 主な貢献

1. Yuvion VL モデルファミリー： 現実世界の敵対的安全性に特化して設計された、8Bおよび32Bのデンス・バリアント（Instruct版およびReasoning版）をオープンソース化。
2. C2FT フレームワーク： モデル固有の混乱をマイニングし、きめ細かな視覚的・セマンティックな識別を強制する、新しい対照学習メソッド。これにより、敵対的例に対する性能が大幅に向上しました。
3. 敵対的データパイプライン： データフライホイールを通じて、現実世界の回避戦略（例：小さなテキストによる回避、AI生成コンテンツ）を捉える、高品質かつ大規模なマルチモーダル学習データを生成するための体系的なアプローチ。
4. Yuvion VL RiskEval (YVRE)： オープンソース、安全性特化型、および産業展開シナリオをカバーする、包括的な58のベンチマーク・スイート。

4. 実験結果

実験により、Yuvion VLが一般的な能力を維持しながら、最先端の安全性性能を達成していることが示されました：

• 安全性性能： Yuvion VL-32Bは、同規模のオープンソースモデルを平均で9.9ポイント上回り、主要なクローズドソースの商用モデル（GPT-5.4、Qwen3.5-Plus）を安全性関連タスクにおいて平均で6.7ポイント上回りました。
• 効率性： Yuvion VL-8Bは、いくつかの安全性タスクにおいて、より大きなパラメータ数を持つ多くの最先端のベースライン（GPT-5.4やQwen3.5-Plusを含む）を上回る性能を発揮しながら、それらの2%未満のパラメータしか使用していません。
• 具体的な利得：
  • HOD（有害物体検出）において、Yuvion VL-32B-Instructはベースモデルから52ポイント改善し、最高の超大規模モデルを42ポイント上回りました。
  • AI生成画像検出において、Yuvion VL-32Bは74.1のMacro F1を達成し、GPT-5.4（75.1）に迫り、Qwen3.5-Plus（69.6）を上回りました。
  • 一般的能力： ベースモデルと比較して、一般的なマルチモーダルベンチマークにおける低下はわずか（2〜3パーセントポイント）であり、安全性の専門化が一般的な有用性を深刻に損なわないことを裏付けています。
• アブレーション研究： C2FTの構成要素（Confuse-then-Contrast MiningおよびProgressive Anti-Shortcut Training）が、きめ細かな知覚において極めて重要であることを確認しました。RLトレーニングにおけるリジェクションサンプリングとカリキュラム学習の組み合わせは、わずか6%のデータで同等の結果を達成し、効率を向上させました。

5. 重要性と主張

論文は、Yuvion VLが、汎用目的のMLLMとコンテンツ安全性の敵対的なダイナミクスとの間の「根本的な不一致」に対処するための重要な一歩であると主張しています。安全性を本質的に敵対的な問題として扱い、データ合成から対照的微調整に至るまでのパイプライン全体を敵対的堅牢性を中心に設計することで、専門化されたモデルが巨大な汎用モデルを特定の安全性領域で凌駕できることを著者らは証明しています。

その重要性は以下の点にあります：

• 実用的な展開： これらのモデルはプロダクショングレードの安全性タスク向けに設計されており、解釈可能性（CoTによる）と回避に対する堅牢性を提供します。
• スケーラビリティ： 小規模で専門化されたモデル（8B）が、特定の安全性タスクにおいて、より大規模なプロプライエタリなモデルに匹敵、あるいは凌駕できることを証明しています。
• 方法論的革新： C2FTの導入は、単一サンプルの教師あり学習を超え、対照的かつマルチイメージな推論へと移行することで、安全性コンテキストにおけるきめ細かな視覚的識別を扱うための新しいパラダイムを提供します。
• 包括的な評価： YVREフレームワークは、単純な正確性を超えて、敵対的堅牢性、AI生成コンテンツの検出、および現実世界のビジネス適用可能性を評価するという、安全性モデルの新しい基準を設定します。

著者らは、Yuvion VLには固有の感受性とリスクが伴うことを認めた上で、厳格な法的およびコンプライアンス・レビューに従って、選択されたチェックポイントとベンチマークを公開することを計画しています。