Higher-Order Token Interactions via Quantum Attention
Questo articolo introduce la Quantum Higher-Order Attention (QHA), un meccanismo di attenzione quantistica superficiale che sintetizza efficientemente le interazioni tra token di ordine superiore con vantaggi di espressività dimostrabili rispetto alla self-attention standard e garanzie di addestrabilità per le istanze locali, dimostrando capacità di generalizzazione e di rilevamento superiori in compiti che richiedono correlazioni di ordine superiore nei domini genetico, crittografico e dei grafi.