SimpleLoRIF로 그래디언트를 추적해 LLM의 안전성을 떨어뜨리는 학습 데이터를 찾아내

SimpleLoRIF는 LLM의 안전성을 조용히 훼손하는 지시 데이터를 그래디언트 정합성으로 걸러내는 기법이다. Tulu 3에서 안전하지 않은 응답과 그래디언트상 가장 정합하는 20%의 예시를 제외해 SafeTulu를 구축했으며, Qwen, Llama, Olmo 모델에서 GCG 공격의 성공률을 최대 22% 줄였다. 그 과정에서 능력은 대체로 유지되거나 향상되었다. 마지막 4개 Transformer 블록에만 역전파를 제한함으로써 약 100만 건 규모 데이터셋의 임베딩을 가능하게 했다.