💬 NLP
Human-like fleeting memory improves language learning but impairs reading time prediction in transformer language models
यह अध्ययन प्रदर्शित करता है कि ट्रांसफॉर्मर लैंग्वेज मॉडल्स में मानव-समान क्षणिक स्मृति (fleeting memory) को शामिल करने से उनकी भाषा सीखने की क्षमताओं में वृद्धि होती है, लेकिन अप्रत्याशित रूप से यह मानव पठन समय (reading times) की भविष्यवाणी करने की उनकी क्षमता को बाधित करता है, जो यह सुझाव देता है कि स्मृति सीमाएं भाषाई अधिग्रहण के लिए न्यूरल नेटवर्क के लाभ के लिए उपयोगी हैं बिना अनिवार्य रूप से व्यवहार संबंधी भविष्यवाणी में सुधार किए।