FEAT: A Linear-Complexity Foundation Model for Extremely Large Structured Data
Het paper introduceert FEAT, een foundation model met lineaire complexiteit dat door middel van een hybride dual-as architectuur de beperkingen van bestaande modellen voor zeer grote gestructureerde data overwint en aanzienlijk snellere inferentie biedt zonder in te leveren op prestaties.