본문 바로가기

#온디바이스

오늘 0건
11월 4일수
  1. Search: AI launches40

    인도, 은행·사이버보안·오프라인 활용을 위한 자국산 AI 모델 3종 발표

    인도 IndiaAI Mission의 지원을 받은 자국산 AI 모델 3종이 2026년 11월 3일 뉴델리에서 발표되었다. Soket Labs의 'EKA-1'은 26.3B 파라미터, 약 7.5조 토큰으로 학습되었으며, 인도 헌법 제8부칙의 22개 언어와 영어를 지원한다. ZenteiQ의 'Dhīr 2B'와 'Dhīr 5B'는 영어와 10개 인도 언어를 지원하며, 로컬 단말이나 온프레미스 환경에서의 구동을 상정한 오픈소스로 설명되고 있다. 다만 은행에서의 도입 실적이나 독립된 제3자의 벤치마크 결과는 제시되지 않았다.

10월 28일수
  1. Hugging Face Blog47

    LFM3로 전문 특화형 멀티모달 모델 구축하기

    LFM3는 텍스트, 비전, 음성, 옴니, 의사결정의 6개 모델을 2B급 파라미터의 공통 백본으로 통일한 차세대 Liquid Foundation Models이다. LFM3-1.7B는 파라미터 수가 35% 적음에도 불구하고 이전 세대인 LFM2.5-2.6B를 능가한다. 텍스트 모델은 4비트 정밀도에서 약 1GB이며 256K 컨텍스트 윈도우를 갖추고 있고, 각 모델은 단일 GPU에서 파인튜닝할 수 있다.

10월 25일일
10월 23일금
  1. The Decoder38

    Canva, 첫 자체 개발 이미지 모델 'Craft' 발표

    Canva가 첫 자체 개발 이미지 생성 모델 'Craft'를 공개했다. 최대 2K 해상도와 30개 이상의 화면 비율을 지원하며, 55개 언어의 텍스트 렌더링과 Magic Layers를 통한 편집 가능한 레이어 분할을 지원한다. 모든 사용자가 Dream Lab과 공개 API에서 이용할 수 있으며, ChatGPT 및 Gemini와의 MCP 연동은 향후 예정되어 있다.

  2. The Decoder59

    Recursive, AI 주도 연구 프로세스로 개발한 첫 모델 Flint 공개

    AI 스타트업 Recursive가 실험의 제안, 실행, 평가를 수행하는 AI 시스템 'Eureka Machine'을 개발의 거의 전 과정에 활용해 첫 언어 모델 Flint를 공개했다. Flint는 MoE 모델로, 총 파라미터 40B, 토큰당 활성 파라미터는 2.5B다. 가중치는 Apache 2.0 라이선스로 Hugging Face에 공개됐으며, 벤치마크 결과는 아직 독립 검증을 거치지 않았다.

10월 22일목
  1. TechCrunch AI62

    Recursive, 노트북에서 구동되는 무료 코딩 모델 Flint 공개… 개발 대부분을 AI가 담당했다고 설명

    AI 스타트업 Recursive가 첫 모델인 코딩 모델 Flint를 공개했다. Apache 2.0 라이선스로 Hugging Face에서 무료로 내려받을 수 있으며, 노트북에서도 동작한다. 회사의 자동 연구 시스템 Eureka Machine이 개발 거의 전 과정을 지원했고, 소규모 팀이 4개월 미만에 완성했다고 한다.

10월 20일화
10월 19일월
10월 16일금
  1. NVIDIA Blog60

    NVIDIA, 오픈 모델 Nemotron 3.5 Super VL과 Bolt 2종 발표

    NVIDIA는 120B 파라미터의 오픈 모델 Nemotron 3.5 Super VL과 엣지용 Nemotron 3.5 Bolt 74B-A9B 24GB, Bolt E4B 4GB를 발표했다. Super VL과 Bolt 74B-A9B는 현재 제공 중이며, Bolt E4B는 Oct. 23에 제공될 예정이다. NVIDIA는 Super VL이 같은 급의 차점 모델보다 최대 5배의 처리량을 보였다고 밝혔으며, 가중치와 데이터셋도 공개했다.

    선정 이유: 서버용과 엣지용 3개 모델을 메모리 용량 및 배포 대상과 함께 정리하고 있어, 자사 환경에 맞는 규모를 비교해 고르기 쉽다.

10월 14일수
  1. Hugging Face Blog39

    LiquidAI, 온디바이스용 에이전트 모델 「LFM2.5-24B-A2B」 공개

    LiquidAI는 총 파라미터 24B, 활성 파라미터 2B 규모의 추론 모델 「LFM2.5-24B-A2B」를 공개했다. 도구 호출과 다단계 작업을 지원하며, 로컬 하드웨어에서 에이전트를 지속적으로 실행할 수 있다고 한다. 에이전트 벤치마크 LiveClaw에서는 48.09점을 기록해 Qwen3.6-35B-A3B의 38.19점을 웃돌았다. 추론 속도는 Apple M5 Max에서 184 tok/s, 단일 NVIDIA B300 GPU에서 최대 21K output tok/s를 나타냈다.

10월 8일목
  1. Microsoft AI (MAI) News54

    Microsoft AI, MAI-Code-1.1-Flash 발표… 이전 모델의 4분의 1 비용으로 성능 향상

    Microsoft AI가 코딩 모델 MAI-Code-1.1-Flash를 발표했다. 6월 Microsoft Build에서 공개한 모델과 비교해 코드 품질이 향상되었고, 토큰 효율은 25% 높아졌으며, 비용은 4분의 1이다. GitHub Copilot에서 실제 운영 중이며, 로컬 실행을 위한 다운로드도 가능하다. GitHub Copilot에서의 실험적 제공은 월말까지 시작된다.

10월 7일수
  1. Google DeepMind Blog55

    Google DeepMind, 온디바이스용 멀티모달 임베딩 모델 EmbeddingGemma 2 공개

    Google DeepMind가 텍스트, 이미지, 오디오, 비디오, 코드를 공통 임베딩 공간에 매핑하는 오픈 임베딩 모델 EmbeddingGemma 2를 공개했다. Gemma 4 아키텍처를 기반으로 한 740M 파라미터 모델이며 Apache 2.0 라이선스로 제공된다. MTEB Code 점수는 68.76에서 78.68로 올랐고, 컨텍스트 윈도우는 8K 토큰으로 확대됐다.

8월 21일금
  1. Hugging Face Blog52

    Liquid AI, LFM2.5용 DSpark 드래프트 모델 공개… 추론 최대 3.2배 빨라져

    Liquid AI가 LFM2.5-1.2B-Instruct, LFM2.5-2.6B, LFM2.5-8B-A1B 3개 모델용 DSpark 드래프트 모델을 공개했다. 투기적 디코딩을 통해 출력 품질을 바꾸지 않고 GPU에서 최대 3.18배, 온디바이스에서 최대 2.87배의 처리량 향상을 보였다. llama.cpp와 SGLang에서 출시 첫날부터 사용할 수 있으며, LFM2.5-2.6B의 함수 호출 지연 시간은 평균 57% 줄었다.

8월 10일월
  1. Hugging Face Blog72

    Meta, 로컬 에이전트 지원 멀티모달 모델 Muse Glimmer 공개… Apache 2.0으로 제공

    Meta가 Muse에서 30B 파라미터로 증류한 멀티모달 모델 Muse Glimmer를 Apache 2.0 라이선스로 공개했다. 로컬 환경의 에이전트 용도를 염두에 둔 모델이며, transformers, llama.cpp, vLLM, Inference Endpoints가 day-0부터 지원한다. Hugging Face Hub에서 내려받을 수 있다.

    선정 이유: 30B 로컬 모델에 대해 아키텍처, 각 추론 기반에서의 사용법, 파인튜닝 요건이 한꺼번에 정리되어 있다.

7월 28일화
  1. Google DeepMind Blog60

    Google DeepMind, Gemini Robotics 2 발표… 휴머노이드 전신 제어 지원

    Google DeepMind가 로봇용 Gemini Robotics 2를 발표했다. VLA인 Gemini Robotics 2, 추론 모델인 Gemini Robotics ER 2, 온디바이스용 Gemini Robotics On-Device 2 등 3개 모델로 구성되며, 휴머노이드의 전신 제어와 여러 로봇의 협업을 가능하게 한다. ER 2는 Google AI Studio에서 이용할 수 있고, VLA와 On-Device 모델은 조기 액세스 파트너를 대상으로 제공된다.

    선정 이유: 전신 제어, 섬세한 손 조작, 여러 로봇의 협업을 3개 모델의 역할 분담으로 정리해 제공 범위와 적응에 필요한 데이터 양을 확인하기 쉽다.

6월 9일화
  1. Google DeepMind Blog60

    Google DeepMind, 인코더 없는 멀티모달 모델 Gemma 4 12B 발표

    Google DeepMind가 노트북용 멀티모달 모델 Gemma 4 12B를 발표했다. 이미지와 음성 입력을 인코더 없이 LLM 본체에 직접 전달하는 구조이며, 16GB VRAM 또는 통합 메모리에서 동작한다. Apache 2.0 라이선스로 공개되었으며, Hugging Face와 Kaggle에서 가중치를 내려받을 수 있다.

    선정 이유: 이미지와 음성을 인코더 없이 LLM 본체에 직접 입력하는 구조와 16GB에서 동작하는 메모리 요건이 제시되어 있어, 로컬 운용을 판단하는 데 참고가 된다.

3월 17일월
  1. Mistral AI News57

    Mistral, Mistral Small 3.1 발표… Apache 2.0으로 공개, 컨텍스트는 최대 128k

    Mistral AI가 텍스트 성능과 멀티모달 이해력을 개선하고 컨텍스트 윈도우를 최대 128k 토큰으로 확장한 Mistral Small 3.1을 발표했다. Apache 2.0 라이선스로 공개되었으며, Gemma 3과 GPT-4o Mini를 능가하고 추론 속도는 150 토큰/초라고 밝혔다. Hugging Face에서 베이스 모델과 인스트럭트 모델을 내려받을 수 있다.