scDynOmics: An Optimized Transformer Model for Representation Learning from Single-Cell Multiomics
本論文は、遺伝子制御ネットワークに着想を得た Linformer 型アテンション機構と低ランク適応モジュールを採用し、マルチオミクス単細胞データから細胞状態や発現動態を効率的に学習・表現するスケーラブルかつ解釈可能なトランスフォーマーモデル「scDynOmics」を提案し、細胞分類や発生軌道の解明において最先端の性能を示すことを報告しています。