스마트폰과 PC, 엣지 기기에서 돌아가는 AI. 소형 모델, 로컬 추론, 기기용 칩.
Hugging Face의 PyTorch 팀은 PyTorch 2.15의 MPS 백엔드에서 FP8을 지원하고, LLM 디코딩을 가속하며, Metal 커널로의 전환을 진행했다고 발표했다. M3 Ultra에서는 Qwen3.6-35B-A3B가 2.14의 9.4토큰/초에서 61.3토큰/초로 향상됐다. Wan2.2의 비디오 VAE 디코딩에서는 드라이버 메모리 피크가 270 GiB에서 8 GiB로 떨어졌다.
선정 이유: MPS 백엔드의 변경 사항을 MoE 모델의 토큰/초, 메모리 사용량, 필요 환경 수치로 구체적으로 확인할 수 있어 Mac에서의 활용 여부를 판단하는 데 도움이 된다.
NVIDIA는 120B 파라미터의 오픈 모델 Nemotron 3.5 Super VL과 엣지용 Nemotron 3.5 Bolt 74B-A9B 24GB, Bolt E4B 4GB를 발표했다. Super VL과 Bolt 74B-A9B는 현재 제공 중이며, Bolt E4B는 Oct. 23에 제공될 예정이다. NVIDIA는 Super VL이 같은 급의 차점 모델보다 최대 5배의 처리량을 보였다고 밝혔으며, 가중치와 데이터셋도 공개했다.
선정 이유: 서버용과 엣지용 3개 모델을 메모리 용량 및 배포 대상과 함께 정리하고 있어, 자사 환경에 맞는 규모를 비교해 고르기 쉽다.
Hugging Face는 transformers에 GGUF 모델을 `from_pretrained`로 불러와 실행하는 기능을 추가했다. ggml 커널을 kernels 라이브러리를 통해 재사용하며, 우선 Apple Silicon의 Qwen3.5 아키텍처를 대상으로 한다. 현재는 main 브랜치에서 이용할 수 있으며, 패킹된 추론 경로는 MPS만 지원한다.
선정 이유: GGUF를 transformers API로 불러오는 절차와 llama.cpp와의 역할 분담, Apple Silicon에서의 현재 지원 범위가 구체적으로 정리되어 있다.
Google DeepMind는 50개 이상의 수어를 학습한 수어-텍스트 번역 모델 SL2T를 발표했다. Pixel 11의 Gboard와 Live Transcribe에서 ASL에서 영어로의 수어-텍스트 입력을 지원한다. FLEURS-ASL(sd-test)에서 제로샷 70 BLEURT를 기록했으며, 기존 보고치를 크게 웃돈다고 설명하고 있다.
선정 이유: 수어를 포즈 좌표만으로 번역하는 설계와 10만 시간이 넘는 학습 데이터, 알려진 오류 사례까지 구체적으로 제시되어 있어 수어 AI의 현황을 파악하기 좋다.
Meta가 Muse에서 30B 파라미터로 증류한 멀티모달 모델 Muse Glimmer를 Apache 2.0 라이선스로 공개했다. 로컬 환경의 에이전트 용도를 염두에 둔 모델이며, transformers, llama.cpp, vLLM, Inference Endpoints가 day-0부터 지원한다. Hugging Face Hub에서 내려받을 수 있다.
선정 이유: 30B 로컬 모델에 대해 아키텍처, 각 추론 기반에서의 사용법, 파인튜닝 요건이 한꺼번에 정리되어 있다.
Google DeepMind가 로봇용 Gemini Robotics 2를 발표했다. VLA인 Gemini Robotics 2, 추론 모델인 Gemini Robotics ER 2, 온디바이스용 Gemini Robotics On-Device 2 등 3개 모델로 구성되며, 휴머노이드의 전신 제어와 여러 로봇의 협업을 가능하게 한다. ER 2는 Google AI Studio에서 이용할 수 있고, VLA와 On-Device 모델은 조기 액세스 파트너를 대상으로 제공된다.
선정 이유: 전신 제어, 섬세한 손 조작, 여러 로봇의 협업을 3개 모델의 역할 분담으로 정리해 제공 범위와 적응에 필요한 데이터 양을 확인하기 쉽다.
Google DeepMind가 노트북용 멀티모달 모델 Gemma 4 12B를 발표했다. 이미지와 음성 입력을 인코더 없이 LLM 본체에 직접 전달하는 구조이며, 16GB VRAM 또는 통합 메모리에서 동작한다. Apache 2.0 라이선스로 공개되었으며, Hugging Face와 Kaggle에서 가중치를 내려받을 수 있다.
선정 이유: 이미지와 음성을 인코더 없이 LLM 본체에 직접 입력하는 구조와 16GB에서 동작하는 메모리 요건이 제시되어 있어, 로컬 운용을 판단하는 데 참고가 된다.