Feature Representation Transferring to Lightweight Models via Perception Coherence
Este artículo propone un método de transferencia de representaciones de características a modelos ligeros mediante una nueva noción de "coherencia de percepción" que, al minimizar un nuevo tipo de pérdida basada en el ranking de disimilitudes, permite que el modelo estudiantil imite la percepción del modelo docente preservando la coherencia global sin necesidad de replicar su geometría absoluta.