오픈 모델의 이점은 위험을 능가하는가? MIT Technology Review가 쟁점을 정리하다
Open models have real benefits. Do they outweigh the risks?
MIT Technology Review는 전문가들의 견해와 함께 오픈 웨이트 모델의 이점과 위험을 정리한 해설 기사를 공개했다. 연구와 기업 활용, 권력 집중 억제 등의 이점이 있는 반면, 재학습으로 안전 대책을 쉽게 해제할 수 있다는 점이 과제로 꼽힌다. 단계적 공개 등 중간적인 대응책도 논의하고 있다.
이 기사는 Anthropic이 지난달 Z.ai가 8월에 공개한 GLM-5.3에 사이버 공격 위험이 있다는 보고서를 낸 것을 계기로 시작한다. 오픈 모델은 모델 가중치를 누구나 다운로드해 수정할 수 있다는 점이 특징이며, 폐쇄형 모델은 웹사이트, 앱, API를 통해서만 사용할 수 있다. 현재 Artificial Analysis의 LLM 리더보드 상위 8개 모델은 모두 폐쇄형이며, 오픈 모델은 몇 개월 뒤처진 것으로 알려져 있다.
이점으로는 연구자가 내부 구조와 사고의 연쇄(chain of thought)를 관찰하고, 모델을 결합, 압축, 파인튜닝할 수 있다는 점이 꼽힌다. 기업에게는 Mozilla의 보고에 따르면 비용이 비교적 낮고 기밀 데이터를 로컬에서 처리할 수 있다. 또한 Tony Blair Institute의 Elizabeth Seger는 AI 기반을 장악하는 권력 집중을 막는 것이 가장 큰 논거라고 말한다. 반면 Ghana NLP의 Paul Azunre는 커뮤니티의 개선을 기업이 흡수하는 착취적 구조가 될 수 있다고 지적한다.
위험 측면에서는 폐쇄형 모델에서도 Anthropic 보고서에 나온 것처럼 Claude를 이용한 대규모 해킹이 발생했으므로 안전하다고 단정할 수는 없다. 다만 오픈 모델에는 필터링 감시나 계정 정지 같은 수단이 없고, 안전을 위한 학습도 재학습으로 제거할 수 있다는 연구 결과가 있다. 한편 Linux처럼 많은 사람이 취약점을 검증할 수 있고 사이버 방어에 폭넓게 쓸 수 있다는 점을 안전상의 이점으로 드는 전문가도 있다. Hugging Face는 OpenAI 에이전트의 해킹 분석에 오픈 모델을 사용했다고 밝혔다.
대응책으로는 유해한 지식을 학습시키지 않는 기법과, 재학습을 견디는 변조 방지 모델에 관한 연구가 진행되고 있다. 다만 최근 프리프린트에 따르면 현재로서는 모든 변조 공격을 막을 수 있는 방법은 없다. 또한 가중치 공개만으로는 부족하며 학습 데이터 공개와 컴퓨팅 자원 접근도 필요하다는 의견도 있다. 많은 전문가는 처음에는 비공개로 두고 안전성이 확인되면 공개 범위를 점차 넓히는 단계적 공개를 지지하고 있다.
출처: MIT Technology Review AI · technologyreview.com