Transformers Discover Molecular Structure Without Graph Priors
Este artigo demonstra que modelos Transformer de propósito geral, quando treinados sem priors físicos explícitos baseados em grafos, podem descobrir autonomamente estruturas moleculares e padrões de interação fundamentais apenas a partir de dados, alcançando uma precisão competitiva com arquiteturas informadas pela física e sugerindo que tais vieses indutivos podem ser aprendíveis em vez de estritamente necessários.