Mitigating Multimodal Hallucinations via Gradient-based Self-Reflection
本論文は、テキストと視覚情報のバイアスを第一-order 勾配を用いて推定し、追加モデルや微調整なしで既存のマルチモーダル大規模言語モデルの幻覚を抑制し視覚的根拠を強化する推論ベースの手法「GACD」を提案するものである。
9809 件の論文
本論文は、テキストと視覚情報のバイアスを第一-order 勾配を用いて推定し、追加モデルや微調整なしで既存のマルチモーダル大規模言語モデルの幻覚を抑制し視覚的根拠を強化する推論ベースの手法「GACD」を提案するものである。
本論文は、fMRI 画像の領域ごとのテキスト生成とマルチモーダル特徴融合を統合し、脳機能画像の低信号対雑音比や被験者間変動といった課題を克服して脳障害診断の精度を向上させる「RTGMFF」という新しいフレームワークを提案し、ADHD-200 および ABIDE ベンチマークで既存手法を上回る性能を実証したものである。
既存の評価基準の限界を克服するため、構成と推論の両方の能力を包括的かつ複雑に評価する新しいベンチマーク「T2I-CoReBench」を提案し、その実験により現在のテキストから画像生成モデルは高密度な構成や暗黙の推論において依然として大きな課題を抱えていることを明らかにしました。
本論文は、単一画像からの新規視点合成における曖昧性を解消し、類似物体の参照画像をマルチモーダル大規模言語モデルで選択・統合するユニークなアーキテクチャ「UniView」を提案し、既存の最先端手法を上回る性能を実現したものである。
本論文は、参照ベースの注意共有メカニズムと深度マップの活用によるビュー一貫性の向上、およびセグメンテーションマスクに基づく多領域スタイル転送を可能にする新しい損失関数の導入を通じて、テキスト駆動型の 3D シーンスタイライゼーションの品質と一貫性を大幅に改善する手法を提案しています。
LADB は、部分的な対データを用いて事前学習済み拡散モデルと潜在空間の整合性を保つことで、データ不足や完全な対データが不要な状況でも高品質なドメイン変換を可能にする半教師ありフレームワークです。
本論文は、多様な撮影条件下で収集された包括的なデータセット「TrueSkin」を提案し、既存の大規模マルチモーダルモデルや生成モデルにおける肌色認識・生成のバイアスを解明するとともに、本データセットを用いた学習により認識精度と生成忠実度を大幅に向上させることを示しています。
この論文では、拡散トランスフォーマー(DiT)の推論遅延を削減し、中間ステップにおける特徴量の高い類似性を利用したブロック単位キャッシング(BWCache)を提案することで、視覚品質を維持したまま最大 6 倍の高速化を実現するトレーニング不要な手法を提示しています。
脳機能ネットワークの階層的な構造を歪みなく表現するために双曲幾何学に基づく「Brain-HGCN」を提案し、精神疾患の分類タスクにおいて既存のユークリッド空間ベースの手法を大幅に上回る性能を達成したことを示した。
この論文は、3D 手のポーズ解析と新規な記述子 IHSE を活用した多段階フレームワーク「I2S」を提案し、AR 環境におけるリアルタイムかつ軽量なユーザー認証を可能にする高精度な人間 - 物体相互作用認識を実現したものである。
この論文は、深層特徴の内在的な幾何学構造を拡散マップと微分可能なニュートロム補間を用いてモデル化し、可視的かつ解釈可能な細粒度認識においてユークリッド距離に基づくプロトタイプ手法を大幅に上回る性能を達成する「GeoProto」という新たな手法を提案するものである。
既存のテキスト生成画像モデルが持つ物理的・解像度の事前知識を、学習不要のフレームワーク「SHINE」を用いて活用し、複雑な照明や反射を考慮した高品質な画像合成を実現するとともに、その評価基準となる新しいベンチマーク「ComplexCompo」を提案する論文です。
本論文は、既存の三角形メッシュ変換方式の課題を克服し、混合トポロジーのトークン化と tDPO と呼ばれる強化学習微細化手法を採用することで、四角形メッシュを直接生成する初の自己回帰型フレームワーク「QuadGPT」を提案し、幾何学的精度とトポロジー品質の両面で大幅な改善を実現したことを示しています。
本論文は、有限速度の確率流と減衰波動方程式に基づく Kac 表現を導入し、終点のみでの蒸留と速度空間におけるクラスラフリーガイダンスを組み合わせることで、極めて少ない関数評価回数で高品質な画像を生成しつつ数値的安定性を維持する「DistillKac」と呼ばれる高速画像生成モデルを提案しています。
本論文は、既存の評価手法の限界を克服し、自動化パイプラインを用いた「感情ステートメント判定」タスクを提案することで、マルチモーダル大規模言語モデルの視覚的感情認識能力をオープンボキャブラリーかつ多角的に評価する新たな枠組みを構築し、現状のモデルと人間の間に依然として大きなギャップがあることを明らかにしています。
この論文は、医療画像セグメンテーションから導出されるメトリック(例:臓器の大きさ)の不確実性を効率的に保証するために、深層学習モデルの中間特徴量空間を利用した新しい共形予測フレームワーク「COMPASS」を提案し、従来の手法よりも狭い信頼区間を実現しつつ、共変量シフト下でも目標カバレッジを維持できることを示しています。
本論文は、視覚的認識から記号的推論に至るまでエンジニアリング設計の階層的プロセスを評価する新たなベンチマーク「CircuitSense」を提案し、既存のマルチモーダル大規模言語モデルが視覚情報の数式化において重大な限界を抱えていることを明らかにした。
この論文は、中間特徴空間を介さずに脳活動から直接画像を生成するフレームワーク「NeuroAdapter」と、拡散モデルの生成過程における脳領域の寄与を可視化する解釈性フレームワーク「IBBI」を提案し、脳信号に基づく視覚復元の透明性と解釈可能性を向上させたことを示しています。
本論文は、文字レベルの生成に依存する既存手法の課題を解決し、OCR 損失とスタイル分類損失による二重正則化を備えた InkVAE と、潜在拡散トランスフォーマーである InkDiT を組み合わせた「DiffInk」を提案することで、テキストから高品質かつ効率的な全行のオンライン手書き生成を実現するものです。
本論文は、教師あり学習と強化学習を反復的に組み合わせる「SMART-R1」という新しい微調整手法を提案し、Waymo Open Sim Agents Challenge でリアルタイムシミュレーションの性能を大幅に向上させ、首位を獲得したことを報告しています。