Faster, Cheaper, More Accurate: Specialised Knowledge Tracing Models Outperform LLMs
本論文は、学習者の回答予測という特定の教育タスクにおいて、大規模言語モデル(LLM)よりも専門的な知識追跡モデルの方が、精度、推論速度、コストの面で優れていることを示しています。
1939 件の論文
本論文は、学習者の回答予測という特定の教育タスクにおいて、大規模言語モデル(LLM)よりも専門的な知識追跡モデルの方が、精度、推論速度、コストの面で優れていることを示しています。
本論文は、音素頻度分布がマクロ的には対称ディリクレ分布の順序統計量として、ミクロ的には発音・音韻・語彙の制約を組み合わせた最大エントロピーモデルとして説明可能であることを示し、これにより音素頻度構造の統合的な情報理論的記述を提供している。
大規模視覚言語モデル(LVLM)は、ノードや構造的特徴は視覚エンコーダ内で早期に線形に表現される一方で、エッジ情報は言語モデルのテキストトークン段階まで遅れて現れるため、関係性の理解に課題を抱えていることを、合成図データセットを用いた内部表現の探査により明らかにしました。
本論文は、LLM によるペルソナシミュレーションの人間らしさを評価する新たなフレームワーク「Eval4Sim」を提案し、ペルソナ背景の暗黙的反映、一貫性、自然さの 3 つの次元で人間対話コーパスを基準とした多面的な評価を実現するものである。
本論文は、各タスクの入力共分散を微調整済みモデルのパラメータ差分から推定する理論的洞察に基づき、データなしでタスク間干渉を低減し、従来の手法を大幅に上回る性能を達成する新しいモデル統合フレームワーク「ACE-Merging」を提案するものである。
本論文は、LLM エージェントのプライバシー侵害を静的な防御ではなく、強化学習によって最適化された文脈認識型の「文脈化防御指示(CDI)」という新しいパラダイムで能動的に防ぎ、プライバシー保護と有用性のバランスを大幅に改善する手法を提案しています。
Transformer のグローバル依存性モデリング能力と Mamba の線形時間効率性を組み合わせたハイブリッドエンコーダ「MaBERT」を提案し、パディングによる状態汚染を防止する新たな手法により、長文脈の効率的な学習と推論を実現する。
本論文は、精神医療分野における大規模言語モデルの信頼性を包括的に評価するための新たなベンチマーク「TrustMH-Bench」を提案し、既存のモデルがその信頼性の多面的な要件において著しく不十分であることを実証しています。
本論文は、高品質で大規模な DaTikZ-V4 データセットと逆グラフィックスに基づく強化学習を活用し、小規模なオープンソースモデル「TikZilla」を開発することで、テキストから高品質な TikZ 図を生成する性能を大幅に向上させ、GPT-5 に匹敵する結果を達成したことを報告しています。
本論文は、拒絶応答の抑制と疑似有害出力の回避を目的とした二段階の損失関数、および勾配方向を優先するトークン最適化戦略を導入することで、既存手法を上回る高い攻撃成功率を達成する新しい最適化ベースのジャイルブレイク手法「TAO-Attack」を提案するものである。
この論文は、指示調整済み大規模言語モデル(LLM)を用いたコンパクトなプロンプト生成アプローチを提案し、従来のセグメンテーションや分類の分離手法ではなく、文章から直接議論的構成要素を検出する生成タスクとして再定義することで、標準ベンチマークにおいて最先端の性能を達成したことを示しています。
本論文は、自己教師あり学習による音声モデル(WavLM)の表現において、PCA によって抽出された個々の主成分次元がピッチや性別、強度、ノイズレベルなどの話者特性に対応しており、これら次元を操作することで音声合成における話者特性を制御可能であることを示しています。
本論文は、マルチターン LLM システムにおけるモデル切り替えが文脈の不一致を引き起こし、統計的に有意なパフォーマンスの漂移を生じさせることを実証し、そのリスクを定量化・分解するベンチマークと分析手法を提案するものである。
本論文は、欧州の ESCO タキソノミーと大学のカリキュラムを対応付ける大規模なデータセット「UniSkill」を公開し、BERT モデルを用いて講義とスキル間のマッチング精度 87% を達成したことを報告するものである。
この論文は、LLM を活用して査読基準に基づき論文を自動修正するシステム「APRES」を提案し、引用数の予測精度向上と専門家による評価の改善を実証するとともに、科学の核心内容を変更せず人間の査読を補完するツールとしての可能性を示しています。
本論文は、大規模言語モデルによる自然言語からソルバ実行可能な産業最適化モデルへの自動変換において、構造化された知識グラフに基づくタイプ認識型検索拡張生成と最小依存閉包の導入により、既存手法では解決できなかった構造的誤りやコンパイル失敗を克服し、実用的な産業ケースで高い実行可能性と一般化性能を実証したことを示しています。
本論文は、オムニマルチモーダル大規模言語モデルにおけるクロスモーダルの幻覚を軽減するため、無関係なモダリティのノイズへの不変性と関連モダリティの変化への感応性を強制し、テキスト依存を抑制する「モダリティ分離型直接選好最適化(MoD-DPO)」を提案し、複数のベンチマークで既存手法を上回る性能を実証したものである。
既存のコードエージェント評価が単一リポジトリのバグ修正に偏っている現状を踏まえ、本論文はより現実的な課題を網羅する新しいベンチマーク「BeyondSWE」と検索機能統合フレームワーク「SearchSWE」を提案し、最先端モデルでさえ複雑なタスクにおいて性能が頭打ちになることや、検索による性能向上が一貫しないという課題を明らかにしている。
本論文は、自律走行、ロボティクス、ドローンなど多様な物理的実体における汎用性を可能にする共通基盤として「空間知能」に着目し、共有基盤の構築、専門化、そしてモデル統合を行う SSR パラダイムと GRPO を採用した汎用型基盤脳「ACE-Brain-0」を提案し、24 のベンチマークで最先端の性能を達成したことを報告しています。
本論文は、マルチステップのツール使用における安全な意思決定を可能にするため、明示的な安全性推論と拒否を第一級の行動として組み込み、ペアワイズな軌道比較に基づく強化学習を用いてエージェントを安全に整列させる新しいポストトレーニングフレームワーク「MOSAIC」を提案し、その有効性を複数のモデルと多様なベンチマークで実証したものである。