Nathan Lambert, 향후 6개월 내 오픈 모델이 금지되거나 출시가 지연될 수 있다고 주장

오픈소스 AI의 존속 가능성에 대한 가장 심각한 시험이 지금 닥쳤다고 필자는 본다. 여러 정보원이 새로운 대통령령으로 오픈 모델을 어떻게 다룰지를 둘러싼 백악관의 논의를 전하고 있으나 공식 정보는 없다. 영향은 중국발 모델과 정부 이용으로 한정될 가능성이 높다고 하면서도, 거기서부터 도미노가 쓰러지기 시작할 것이라며 경계한다. 오픈 모델에는 규제의 불이익을 대변할 중심적인 경제 주체가 없다는 점도 지적한다.

가장 가능성이 높은 조치는 GPT 5.5, Claude Opus 4.8, GLM-5.2 수준을 크게 웃도는 오픈 웨이트 모델의 금지 또는 무기한 연기라고 한다. 능력 격차가 계속된다는 전제에서 시기는 향후 6개월 이내로 본다. 규제의 동기로는 Claude Mythos에 필적하는 오픈 웨이트 모델이 머지않아 등장한다는 점을 든다. 정부 심사 대상이 되는 능력의 임계값은 시간이 지나면서 움직이지만, 클로즈드 모델보다 뒤처져 나아가기 쉽다고 말한다. 클로즈드 모델은 방어하기 쉽고 로비 활동도 강하기 때문이다.

증류에 대해서는 현재의 논의가 규제의 울타리 치기에 가깝다고 비판한다. Anthropic이 중국 기업의 이용을 감지해 API를 중단하고 정책 제언을 발신하고 있지만, 기술적 증거는 적다는 것이다. 제안된 해결책은 Anthropic에 큰 이익을 가져다주며, 사실상 중국 오픈 웨이트 모델의 미국 내 전면 금지를 요구하는 것이라고 필자는 본다. 그렇게 되면 추론 사업자나 파인튜닝 기업 등 미국에서 자라는 오픈 모델 경제가 타격을 입는다고 주장한다. 또한 API는 본질적으로 안전하다고 할 수 없으며, Mythos의 제한된 베타 중에도 부정 접근이 있었다고 지적한다. 정말 위험한 능력이 있다면 API로 직접 호출할 수 있는 형태로 제공하지 않는 것이 맞다고 한다.

프런티어급 오픈 모델에 대한 대응은 별개의 난제이며, 일률적인 금지는 답이 아니라고 필자는 말한다. 중국 등 다른 나라에서 금지되지 않으면 악의적인 주체는 계속 사용할 수 있고, 미국만 수입을 금지해도 세계의 오픈소스 커뮤니티는 계속되기 때문이다. 단기적인 타개책으로는 Microsoft나 Meta처럼 보완재의 커모디티화라는 사업상 이유를 가진 기업이 같은 수준의 오픈 모델을 조기에 공개하는 것을 든다. Reflection AI도 프런티어급이 아니더라도 보유한 모델을 공개할 필요가 있을지도 모른다고 한다. 나아가 프런티어 랩 이외의 관계자들이 연합을 꾸려 오픈 웨이트 모델의 안전한 전개를 위해 움직이기 시작해야 한다고 호소하고 있다.