SAE의 특징은 행동을 설명할 수 있는가, 상호작용 잔차를 측정하는 연구

연구팀은 Sparse Autoencoder(SAE)의 개별 특징과 저차 상호작용으로는 설명되지 않는 행동상의 변동을 측정하는 SAE Additivity Residuals(SAR)를 제안했다. 18개의 모델과 행동 설정에서, 학습된 SAE의 좌표는 무작위 회전보다 행동적으로 가법적이지만 중요한 상호작용은 남아 있는 것으로 나타났다. 쌍별 상호작용을 모델링하자 보류 데이터에서의 coalition rank fidelity는 0.9782에서 0.9959로, steering 실험에서는 0.5874에서 0.7790으로 향상됐다.