Hugging Face, AnyLanguageModel 1.0과 swift-huggingface 1.0, swift-xet 1.0 공개
AnyLanguageModel 1.0: One Year of Local Models on Apple Platforms
Hugging Face가 Apple Foundation Models 프레임워크를 대체할 수 있는 AnyLanguageModel 1.0을 공개했다. swift-huggingface 1.0과 swift-xet 1.0도 함께 릴리스했다. import를 `import AnyLanguageModel`로 바꾸기만 하면 시스템 모델, llama.cpp, MLX, Core ML, 각종 호스팅형 제공업체를 같은 코드로 다룰 수 있다.
AnyLanguageModel은 작년 11월 이 블로그에서 소개된 라이브러리로, Foundation Models API 그대로 앱이 사용할 모델과 제공업체를 고를 수 있다. 로컬 모델에는 관심이 있지만 시작하는 방법을 모르겠다, 여러 추론 제공업체를 지원하는 복잡함을 피하고 싶다는 개발자들의 목소리에서 시작됐다고 한다. 지난 1년간 수십 차례 릴리스를 거쳐 이번에 1.0에 도달했다.
지난 1년간 추가된 주요 기능은 모든 제공업체에서 동작하는 도구 호출과 가이드 생성이다. 가이드 생성은 중첩된 `@Generable` 타입과 그 배열도 지원한다. 이미지 지원은 Foundation Models 27의 표기법으로 프롬프트에 이미지를 첨부할 수 있으며, iOS, macOS, visionOS 27의 시스템 모델에서도 사용할 수 있다. OS 27에서는 Foundation Models의 LanguageModel 프로토콜을 준수하는 임의의 모델도 지원하며, Core AI 모델도 포함된다.
호스팅형으로는 OpenAI의 Chat Completions와 Responses API, Open Responses, Anthropic의 Messages API, Google Gemini API, Ollama, OS 27의 Private Cloud Compute, Hugging Face Inference Providers와 OpenRouter 등 OpenAI 호환 엔드포인트를 지원한다. Inference Providers를 사용하면 단말에서 돌릴 수 없는 대형 오픈 웨이트 모델도 같은 세션 코드로 호출할 수 있다. 호스팅형에서도 가이드 생성, 스트리밍 도구 호출, 토큰 사용량 조회를 쓸 수 있다. 추론 블록은 트랜스크립트에 포함되며, 재전송할 수 없는 제공업체로 전환하면 자동으로 제외된다. API 키는 문자열 대신 클로저로 전달하므로 자체 서버에서 단기 토큰을 가져올 수 있다. Linux에서도 동작한다.
로컬에서 사용할 수 있는 모델로는 Gemma 4 E2B(GGUF, Q4_0 기준 약 3.4 GB), LFM2.5 2.6B(GGUF, Q4_K_M 기준 약 1.7 GB), Qwen3.8 27B의 MLX 버전(4비트 기준 약 16 GB)이 소개됐다. 앞의 두 모델은 iPhone에 들어가며, Qwen3.8 27B는 메모리 32 GB 이상의 Mac에서 동작한다. 향후에는 판단을 수행하는 모델과 음성을 인식하는 모델도 지원할 예정이라고 밝혔다.
출처: Hugging Face Blog · huggingface.co