Stabilizing Reinforcement Learning for Diffusion Language Models
この論文は、拡散言語モデルへの GRPO の直接適用で発生する報酬崩壊を、確率比推定に伴うノイズによる不安定性を解消する「StableDRL」という新しい手法と階段型アテンション機構によって解決し、拡散モデルの安定した強化学習を可能にすることを提案しています。
8713 件の論文
この論文は、拡散言語モデルへの GRPO の直接適用で発生する報酬崩壊を、確率比推定に伴うノイズによる不安定性を解消する「StableDRL」という新しい手法と階段型アテンション機構によって解決し、拡散モデルの安定した強化学習を可能にすることを提案しています。
この論文は、過剰な誘導による品質低下を防ぐために、妥当性に基づく復号ループと軽量な層分析を用いて動的に誘導強度を調整する新しい手法「DIRECTER」を提案し、追加データなしでLLMの指示追従能力を大幅に向上させることを示しています。
本論文は、エッジデバイス向けにビジョントランスフォーマーの専門家(エキスパート)を独立した重み行列ではなく共有基底からの幾何学的な再配向として表現する「ButterflyViT」を提案し、64 個の専門家において精度をほぼ損なうことなくメモリ使用量を 354 倍削減することに成功したことを報告しています。
本論文は、設計可能性を損なうことなく溶解性や熱安定性などの多様な開発特性を同時に満たすよう事前学習済み逆フォールディングモデルを微調整する多目的選好アライメントフレームワーク「ProtAlign」を提案し、その実用性を示すものである。
本論文は、産業用ロボットの制御における基盤モデルの現状を包括的に調査し、149 の具体的な基準からなる評価フレームワークを用いて 324 件のモデルを評価した結果、産業応用への成熟度は限定的であり、安全性やリアルタイム性、システム統合などの要素を体系的に組み込むことが不可欠であると結論付けています。
本論文は、可視画像と植生指数を融合し、自己注意機構と Grad-CAM++ などの説明可能性手法を組み合わせた軽量 CNN「XMACNet」を提案し、合成データ拡張により構築した新たな唐辛子病害データセット上で、既存モデルを上回る高精度かつ解釈可能な病害分類を実現したことを報告しています。
この論文は、不均衡なデータにおける概念ドリフト検出時に生じる「マスキング効果」を回避し、小規模な概念のドリフトを解釈可能かつロバストに検出するための、偏りのないクラスター記述子に基づく新しい手法「ICD3」を提案するものである。
この論文は、アルツハイマー病の診断・予後モデルにおけるSHAP説明の堅牢性と一貫性を検証する多段階フレームワークを提案し、認知・機能マーカーが説明の主要因であり、診断と予後の間でSHAP説明が安定して転用可能であることを示した。
本論文は、空力形状と運動計画を個別に最適化する従来の手法の限界を克服し、ニューラルネットワークによる空力近似と勾配法に基づくネスト型共設計フレームワークを提案することで、固定翼グライダーの着地や着座といった複雑なタスクにおいて、進化アルゴリズムよりも短時間で高性能な設計を実現することを示しています。
本論文は、物理情報ニューラルネットワーク(PINN)の訓練効率と精度を向上させるため、残差に基づく重要性と多様性を同時に考慮し、スパースな QUBO 最適化とハイブリッドなコアセット構築を用いて適応的な配置点選択を行う新たな手法を提案し、粘性ブルガース方程式のシミュレーションにおいてその有効性を検証したものである。
この論文は、安全性が極めて重要な化学プロセス分野において、説明性と解釈性を備えつつ、実世界の故障データが不足している状況でもシミュレータデータを用いてランダムフォレストや多層パーセプトロンを上回る性能を発揮する記号機械学習による故障検知手法の可行性を、エチレン酸化プロセスの事例研究を通じて検証したものである。
本論文は、ジョブショップスケジューリング問題を異種グラフとしてモデル化し、エッジの種類の違いを考慮した異種グラフトランスフォーマーを用いた強化学習フレームワーク「HGT-Scheduler」を提案し、その有効性をベンチマークインスタンスで実証したものである。
SpatialMAGIC は、グラフ拡散とトランスフォーマーに基づく空間自己注意力を統合したハイブリッド枠組みにより、空間トランスクリプトミクスデータの欠損値を高精度に補完し、細胞クラスタリングの精度向上や生物学的解釈性の維持を実現する手法として提案されています。
この論文は、時系列データにおける予測根拠の特定手法(アトリビューション手法)の評価を容易にするため、合成データ生成から評価指標の計算までを統一的に提供するオープンソースの Python パッケージ「xaitimesynth」を紹介しています。
この論文は、データ不足が課題である急速に激化する熱帯低気圧の検出のために、物理的整合性を保ちながら極端な気象事象の合成データを生成する物理情報拡散モデルを提案し、クラス不均衡を解消して気象検出アルゴリズムの性能向上を実現したことを報告しています。
本論文は、早期収縮を防ぎ探索を維持するために、歴史的に成功した軌跡を動的に保存・活用する軽量な「楽観的方則正則化(OPR)」を提案し、PPO と組み合わせたことで Atari 環境やサイバー防御タスクにおいて、既存手法よりも少ないステップ数で高い性能を達成することを示しています。
本論文は、報酬分布の尾部の特性(軽いか重いか)に応じて楽観的・悲観的アプローチを動的に調整する適応型推論時アライメント手法「Best-of-Tails」を提案し、既存の固定戦略よりも優れた性能を実現することを示しています。
本論文は、マルチエージェント議論における「マルティンゲール呪い」を、真実を把握するエージェントが誤った多数派の認識を予測できるという非対称な認知ポテンシャルエネルギーを利用した AceMAD 枠組みによって打破し、真実への収束を可能にする手法を提案しています。
本論文は、VGG19、Efficient-Net、ResNet50 の 3 つの CNN モデルと Bi-LSTM を組み合わせたハイブリッド機械学習モデルを提案し、脳 MRI 画像を用いて新生児の脳性麻痺を 98.83% の精度で早期検出可能であることを示しています。
この論文は、AI 導入の意思決定を支援し、組織が実際に管理する文脈における AI システムの持続可能な価値を評価可能にするために、「文脈仕様(context specification)」というプロセスを導入・記述するものである。