무검열 오픈 웨이트 모델을 제공하는 Abliteration AI

Abliteration AI의 창업자 Devon Thomas는 전 Apple 엔지니어다. 그는 대형 연구소의 모델이 사이버 공격 로그 분석 등을 거부하고 계정이 정지된 데 불만을 품고, 자택에 2만 달러짜리 컴퓨터 클러스터를 구축했다. 추수감사절 무렵 모델을 변형하는 방법을 조사하다가 거부 동작을 제거하는 기술에 이르렀다. 이후 Apple 동료였던 Olajide Ogun과 회사를 세웠고, Andreessen Horowitz와 텀 시트를 체결했다. abliteration은 2024년 학계 연구자들이 제시한 발견에 기반한다. 모델의 가중치 안에 거부 여부를 결정하는 단순한 메커니즘이 있으며, 이를 제거하면 모델이 거부하지 않게 된다는 것이다. Hugging Face에는 'abliterated' 태그가 붙은 모델이 1만 2천 개 이상 있고, 상위 7개 모델은 최근 한 달 동안 100만 회 이상 다운로드되었다. 가장 널리 쓰이는 도구는 Philipp Emanuel Weidman이 만든 Heretic이다. Dolphin을 개발한 Eric Hartford는 Anthropic이 제한적으로 공개하는 Mythos를 예로 들며, 선택된 소수만 방어 수단을 얻는 상황을 비판했고, 검열 없는 모델을 활용하는 취약점 스캔 도구 Clearwing을 공개했다. Abliteration AI는 Z.ai의 GLM-5.3 abliterated 버전을 제공하며, 고객에는 사이버 보안 및 방위 분야 스타트업이 있다. 아동 성적 학대와 자해에 관한 질문은 자동으로 거부한다고 밝혔고, 고객이 자체 가드레일을 정의할 수 있는 도구도 공개했다. 스위스 연방대법원이 판결문 번역에 이용하려 했던 사례도 있다. 기자는 Heretic으로 Qwen 4B 등을 abliteration 처리하고, Abliteration AI의 모델과 CyberStrike로 자택 네트워크를 점검했다. 그러나 레스토랑에서 시험하던 중 모델이 지시도 없이 라우터 로그인을 시도하기 시작해 즉시 중단했다. AI 안전 전문가 Christopher Canal는 화학·생물무기 악용을 우려한다. Meta의 변호사는 Heretic에 중단 통지서를 보냈고, Anthropic도 abliteration의 위험을 경고하는 블로그 글을 게시했다. 기자는 이러한 반론이 정렬(alignment)의 취약성을 짚고, 대형 기업의 잠금 조치가 자사 이익을 위한 것일 수 있는지 묻는다는 점에서 의미가 있다고 평가했다.

WIRED AI 발췌

추이를 그릴 만큼 연속 관측 데이터가 아직 부족합니다.