Bi-semantic Chemical Embedder for Joint Representation Learning of SMILES and Natural Language
تقدم الورقة البحثية CheMatE، وهو نموذج تضمين ثنائي الدلالة مبني على ModernBERT، والذي يستخدم عملية تدريب من مرحلتين تتضمن نمذجة لغوية مقنعة مستمرة على متن علمي ضخم مشفّر بترميزات SMILES، تليها عملية تعلم تبايني لتمثيل البنى الجزيئية واللغة الطبيعية بشكل مشترك، محققاً أداءً قوياً عبر كل من مهام التنبؤ بالخصائص الكيميائية وفهم اللغة العامة.