AgilePruner: An Empirical Study of Attention and Diversity for Adaptive Visual Token Pruning in Large Vision-Language Models
本論文は、大規模視覚言語モデルにおける視覚トークン剪定手法の分析を通じて、アテンションと多様性の特性を解明し、画像の複雑さに応じて適応的に調整する「AgilePruner」を提案することで、性能と幻覚抑制の両立を実現したものです。
7524 件の論文
本論文は、大規模視覚言語モデルにおける視覚トークン剪定手法の分析を通じて、アテンションと多様性の特性を解明し、画像の複雑さに応じて適応的に調整する「AgilePruner」を提案することで、性能と幻覚抑制の両立を実現したものです。
MAMA-MIA チャレンジは、米国と欧州の多施設データを用いて乳房 MRI 画像の腫瘍セグメンテーションと治療反応予測のモデルを評価し、汎用性と公平性の向上を促進する大規模なベンチマークを提供するものである。
この論文は、拡散モデルを再学習させることなく、X 線 CT などの補助モダリティを活用して中性子 CT のスパースデータからの高品質な再構成を可能にするクロスモーダルガイダンス手法を提案し、その有効性を検証したものである。
この論文は、シャール緩和とブーア・モンテフィオ因子分解がファクターグラフの構造を保持するという洞察に基づき、既存の成熟したライブラリを用いて安全なロボット状態推定における大規模な凸緩和問題を効率的に解くための統一的なフレームワークを提案しています。
本論文は、自律走行における軌道予測の課題を解決するため、周波数領域と時間領域を統合し、長距離依存関係とマルチモーダル不確実性を線形時間計算量で効率的にモデル化する新しいフレームワーク「FoSS」を提案し、Argoverse ベンチマークにおいて最先端の精度を達成しながら計算コストとパラメータ数を大幅に削減することを示しています。
本論文は、従来のマルチタスク学習が抱えるタスク間の干渉や硬直的な調整の課題を解決するため、セグメンテーションと分類タスク間の双方向通信を多レベルで実現し、不確実性に基づいて適応的にタスクバランスを制御する新しい乳腺超音波画像解析フレームワークを提案し、複数の公開データセットで高い性能を実証しています。
この論文は、医療用 VLM における強化学習(RL)の効果を、視覚能力、教師あり微調整(SFT)、RL の各要素に分解して分析し、RL が SFT によって獲得された一定の正解候補の存在下で出力分布を鋭くし精度を向上させることを明らかにするとともに、その知見に基づいた効率的な学習レシピを提案し、複数の医療 VQA ベンチマークで高い性能を達成したことを示しています。
本論文は、抽象的な異常概念を明確な視覚的実体に変換し、高レベルのセマンティクスとピクセルレベルの空間特徴を精密に整合させるために、3 つの学習可能なアンカートークンと新たな大規模指令データセットを導入することで、ゼロショット視覚異常セグメンテーションにおいて最先端の性能を達成する AG-VAS フレームワークを提案しています。
この論文は、災害後の視覚的状況理解において、大規模事前学習に基づくオープンボキャブラリーモデルと従来の教師あり学習を比較評価し、ラベル空間が固定され注釈データが利用可能な場合には、特に小物体や複雑な背景における境界の精密な特定において教師あり学習が依然として最も信頼性の高い手法であることを明らかにしています。
本論文は、低解像度の顔画像から直接高品質で整合性の高い新規視点画像を生成する単一段階の手法「NVB-Face」を提案し、従来の「復元→合成」という 2 段階アプローチの欠点を克服したことを示しています。
本論文は、アライメントなしのマルチスペクトル画像から高解像度の分光画像を復元する新しいフレームワーク「PEFD」を提案し、カメラの投影幾何学を利用した空空間情報の回復と事前学習済み基盤モデルの効率的な微調整により、教師なしで既存手法を凌駕し、教師あり学習に迫る性能を達成することを示しています。
本論文は、CNN、Transformer、Mamba の各利点を統合した「TransMixer」や方向誘導エッジゲート畳み込みなどの新機構を導入し、複雑なひび割れパターンを高精度かつ極めて軽量(2.05 GFLOPs、2.54M パラメータ)に検出する新しいセグメンテーションアーキテクチャ「MixerCSeg」を提案するものです。
本論文は、事前学習済み画像から 3D モデル生成モデルが持つ空間的事前知識を最大限に活用し、追加学習なしで複数の 3D オブジェクトを高精度に配置・分離する「TIMI」という新しいフレームワークを提案するものである。
本論文は、局所的および大域的な文脈を最適輸送を用いて効率的に集約し、トレーニング不要で冗長な視覚トークンを削減しながら動画の時間的・視覚的忠実度を維持する新たな手法「AOT」を提案し、動画大規模言語モデルの効率性と性能を両立させています。
本論文は、音声と動画の潜在トークン間の微細な時間的対応関係を共有自己注意機構を通じて明示的にモデル化するマルチモーダル・トランスフォーマー・ブロックを中核に据え、事前学習済み動画生成モデルの強力な事前知識を活用して高忠実度かつリップシンク精度の高い話者肖像を生成し、さらに短い音声リファレンスから目標スタイルの声をクローンする機能も備えた、オープンソースの最先端アプローチを超えるユニファイド・エンドツーエンド拡散フレームワーク「UniTalking」を提案するものである。
この論文は、連続する動画ストリームにおけるリアルタイムな音声・映像インスタンスセグメンテーションを実現するため、因果的クロスアテンション融合モジュールと音声ガイド対照学習戦略を採用した初のオンラインフレームワーク「SeaVIS」を提案し、既存のオフライン手法や外観のみに基づく従来手法の限界を克服して AVISeg データセットで最先端の性能を達成したことを報告しています。
本論文は、言語と動作トークンを共有離散コードブックに統合し、動作理解タスクを補助的に導入するとともに、効率的な粗密二段階生成手法 C2F を採用することで、言語と動作の整合性を高め推論時間を大幅に削減する、自律運転のための新しい VLA モデル「LinkVLA」を提案しています。
本論文は、MRI 復元タスクにおける物理的制約や劣化構造に応じて、グローバルなトークン混合の有用性が加速再構成や超解像では限定的である一方、空間的に不均一なノイズを含むデノイジングでは顕著に有効であることを示し、その適用はタスク依存であることを明らかにしている。
本論文は、事前学習された CLIP モデルのパラメータを変更せずに、グローバルな不整合と局所的な偽造の手がかりをそれぞれ検出する 2 つのストリームを統合し、進化し続けるディープフェイク脅威に対して高い汎化性能を示す「Deepfake Forensics Adapter(DFA)」という新しい双ストリーム検出フレームワークを提案するものである。
本論文は、既存の画像中心の手法では防御できないビデオ大規模言語モデル(Video-LLM)の脆弱性を突く初の汎用エネルギー遅延攻撃フレームワーク「VidDoS」を提案し、マスク付き教師強制などの手法を用いて推論遅延を 15 倍以上、トークン数を 205 倍以上に増大させ、自動運転などの安全クリティカルなシナリオにおいて重大な安全違反を引き起こすことを実証している。