Attention by Synchronization in Coupled Oscillator Networks
Dieses Paper schlägt „Fixed-Query Oscillator Attention“ vor, eine hardwareeffiziente Alternative zu Softmax, die die Kuramoto-Synchronisationsdynamik in gekoppelten Oszillatorknetwerkenen nutzt, um Aufmerksamkeit durch physikalische Äquilibrierung zu implementieren, wobei es eine wettbewerbsfähige Leistung auf energiebeschränkten Substraten demonstriert und gleichzeitig einen mathematisch fundierten Entwurf für physikalische KI bietet.