ICA Lens: Interpreting Language Models Without Training Another Dictionary
Dit artikel introduceert ICALens, een praktische en efficiënte workflow die gebruikmaakt van geoptimaliseerde Independent Component Analysis (ICA) om direct menselijk interpreteerbare richtingen te extraheren uit de activaties van taalmodellen zonder de noodzaak om sparse autoencoders te trainen, waarmee wordt aangetoond dat ICA dient als een concurrerende en complementaire eerste lens voor modelinterpreteerbaarheid.