본문 바로가기

#오픈소스 생태계

오늘 1건
오늘11월 5일목
  1. Latent Space62

    AINews: Weight-Space Programming의 재현과 비판, 모델 공개·평가·정책 동향 한눈에 보기

    Latent Space의 AINews가 프런티어 LLM이 신경망의 가중치를 직접 읽고 쓰는 'Weight-Space Programming'의 재현 사례와 회의적인 시각을 정리했다. GPT-6 Astra로 Qwen3.5-0.8B의 MATH-500 점수를 7.9%에서 48.1%로 끌어올렸으나, 주된 원인은 루프 실패의 수정인 것으로 알려졌다. 이 밖에도 신규 모델, 평가 감사, 추론 인프라, 정책 및 인사 관련 소식을 함께 다뤘다.

11월 4일수
  1. Search: AI launches32

    Sarvam Prism: Sarvam 105B 기반 의사결정 모델

    Sarvam이 Sarvam 105B를 기반으로 한 의사결정 모델 「Sarvam Prism」을 오픈 웨이트로 공개했다. 3개 지표의 평균 점수는 71.8점이며, B200에서의 응답 중앙값은 44ms로 테스트한 25개 모델 가운데 100ms 미만에서 최고 점수를 기록했다. 오답은 신뢰도 범위 안에 머물고, 선택지 제시 순서의 영향도 받지 않는다고 밝혔다.

  2. Hugging Face Blog39

    Palette, 20B 오픈 웨이트 모델이 IBM Design Language에 맞는 슬라이드를 만들도록 하다

    Palette는 20B 오픈 웨이트 모델을 IBM Design Language에 맞춘 합성 데이터로 파인튜닝해 슬라이드 덱을 생성하는 시도다. 디자이너 역할이 JSON 설계서를 만들고 코더 역할이 각 슬라이드의 pptxgenjs 코드를 작성하는 2단계 구조이며, 단일 LoRA 어댑터로 구현되었다. PresentBench의 세 가지 평가 영역 중 두 곳에서 1위를 차지했고, 코딩 단계는 약 6~7배 빨라졌다고 한다.

10월 30일금
  1. Latent Space42

    AI Engineer, 코딩 에이전트 컨퍼런스 'AIE CODE' 기획 뒷이야기 해설

    AI Engineer는 올해 마지막 플래그십 컨퍼런스 'AIE CODE'의 기획 뒷이야기를 소개했다. 단일 트랙으로 진행되며, 전 세계 상위 1000명의 에이전틱 엔지니어를 초청제로 모은다는 형식이다. 주요 주제는 'Scaling without Slop', 'System One models', 'Increasing Ambition' 3가지이며, Jarred Sumner가 Bun의 Rust 재작성과 Bun AOT에 대해 강연할 예정이다.

  2. Search: AI launches36

    Apex Intelligence、자동화 AI 연구로 개발한 범용 모델 「Apex-35B-V1.0」 공개

    Apex Intelligence는 AI가 개발 과정에 자율적으로 참여해 만든 35B 범용 모델 「Apex-35B-V1.0」을 공개했다. 기반은 Qwen3.6-35B-A3B이며, 중간 학습과 사후 학습을 추가해 개발했다. 회사의 평가에서는 21개 벤치마크 중 20개에서 Qwen3.6-35B-A3B를, 18개에서 Recursive Flint(40B)를 앞섰고, 1개에서는 동점이었다. 가중치는 Hugging Face에서 공개되었으며, 코드와 배포 가이드는 GitHub에서 제공된다.

10월 29일목
  1. Hugging Face Blog81

    Hugging Face, Mistral Large 4(Le Chonk) 소개… 약 1T 규모의 MoE 멀티모달 모델

    Mistral Large 4(애칭 Le Chonk)가 Hugging Face에서 공개됐다. 텍스트와 이미지를 입력할 수 있는 다국어 MoE 모델로, 총 파라미터는 약 1T, 활성 파라미터는 49B, 컨텍스트 윈도우는 1M 토큰이다. Mistral Ecosystem Open-Weight License로 배포되며, transformers, vLLM, llama.cpp가 day-0부터 지원한다.

    선정 이유: 아키텍처, 벤치마크, 각 추론 환경에서의 실행 절차와 실측값이 한 편의 기사에 정리되어 있어 도입 시 비교 자료로 활용하기 좋다.

  2. Mistral AI48

    Mistral은 개량판 'Le Chonk'의 가중치를 공개하고, 에이전트형 코딩과 사이버 보안용으로 제공한다고 밝혔다. Cognition의 FrontierCode에서는 오픈 모델 중 1위를 차지했고, Artificial Analysis에서는 새로운 Pareto 효율 벤치마크를 달성했다고 한다. 사이버 방어 분야에서도 CrowdStrike 등 대형 기업의 검증을 통해 최첨단 수준이라고 주장했으며, Hugging Face에서 가중치를 내려받을 수 있다.

10월 28일수
  1. AWS Machine Learning Blog38

    평가 편향을 수정하고 Amazon Bedrock에서 더 나은 모델을 선정

    Property Finder는 평가 라벨의 96.8%가 기존 모델의 예측에서 이어받은 것이었으며, 평가가 현행 모델 쪽으로 치우쳐 있었다고 밝혔다. 전문가가 독립적인 정답 데이터를 새로 만들고 진화적 프롬프트 최적화를 수행한 결과, Amazon Bedrock에서 정확도를 높이면서 비용을 86% 줄이는 모델을 선정했다. 평가에는 356장의 이미지를 사용했으며, 주요 지표로 Micro F1을 채택했다.

10월 25일일
  1. Search: AI launches56

    Moonshot AI、Kimi K3.1 Pro 공개… 1M 컨텍스트의 3T급 오픈 웨이트 모델

    Moonshot AI는 10월 23일 K3.1 시리즈 1탄인 Kimi K3.1 Pro를 공개했다. 1M 토큰 컨텍스트 윈도우를 갖춘 3T급 오픈 웨이트 모델이다. The Decoder에 따르면 Artificial Analysis Intelligence Index에서 55점을 기록해 4위에 올랐으며, K3 대비 11점 상승했다. 2~3배 빠른 Kimi K3.1 Pro Highspeed도 같은 날 제공이 시작됐다.

10월 24일토
  1. Search: AI launches59

    Kimi K3.1 Pro의 사양, 벤치마크, 가격을 공개 자료 기준으로 정리

    Moonshot AI가 2026년 10월 23일 공개한 Kimi K3.1 Pro를 공개 자료와 제3자 평가를 토대로 사양, 벤치마크, 가격을 정리한 해설이다. Artificial Analysis의 Intelligence Index는 55점으로, 전세대 Kimi K3의 44점에서 상승했다. 필자는 독자적인 모델 테스트를 하지 않았다고 명시했으며, 가중치 공개는 11월 4일까지 예정되어 있으나 현재는 공개되지 않은 상태다.

  2. The Verge AI43

    Block, 사람의 대화만으로 학습한 음성 AI 모델 “Dessa” 발표

    Block은 사람의 대화만으로 “처음부터” 학습시킨 음성 AI 모델 “Dessa”를 발표했다. 회사는 Dessa가 “true speech-to-speech model”이며 MacBook Pro M4 Max “이상” 사양에서 로컬 실행이 가능하다고 설명했다. 회사는 소수의 AI 안전성 연구자에게 조기 접근 권한을 제공할 방침을 밝혔다.

  3. The Decoder69

    Moonshot AI, 추론 모델 Kimi K3.1 Pro 공개… Artificial Analysis 지수 4위

    Moonshot AI가 사후 학습을 강화한 추론 모델 Kimi K3.1 Pro를 공개했다. Artificial Analysis Intelligence Index에서 55점을 기록해 K3보다 11점 올랐으며, Claude Opus 5.5(58), Claude Sonnet 5.5(56), Muse Wonder Full(56)에 이어 4위에 올랐다. 입력은 100만 토큰당 $2.00, 출력은 $10.00으로 K3보다 약 33% 저렴하다. 2026년 11월 4일까지 오픈 웨이트를 공개할 예정이다.

10월 23일금
  1. Search: AI launches47

    Microsoft, 판정 특화 모델 「Microsoft-Decision-1」 발표

    Microsoft는 Alibaba의 Qwen3.5-9B를 기반으로 후학습한 모델 「Microsoft-Decision-1」을 발표했다. 문장을 생성하지 않고 주어진 선택지마다 확률 점수를 반환하는 판정 특화형 모델이며, Microsoft Foundry에서 당일 제공되고 OpenRouter에도 순차 제공될 예정이다. 36개 벤치마크, 약 15만 문항에서 최고 정확도를 주장하고 있으며, 입력은 100만 토큰당 0.042달러, 출력은 무료라고 한다.

10월 22일목
  1. Search: AI launches41

    Inception、확산 기반 LLM 「Mercury 3」 발표… 초당 1,068토큰 주장

    Inception이 확산 기반 대규모 언어 모델(LLM) 「Mercury 3」를 발표했다. NVIDIA GPU에서 초당 1,068토큰을 생성하는 것으로 알려졌으며, 컨텍스트 윈도우는 100만 토큰이다. 표준 가격은 입력 100만 토큰당 0.20달러, 출력 100만 토큰당 0.70달러이며, 도입 할인 50%가 적용된다. API 외에 OpenRouter, Baseten, Vercel을 통해 이용할 수 있다. 회사 측은 동급 속도 중시 모델보다 4~8배 빠르다고 주장하지만, 모두 회사가 공표한 데이터에 근거한 것이다.

  2. Hugging Face Blog62

    NVIDIA, 사전 학습된 관계형 기반 모델 Kumo Relational 공개

    NVIDIA는 기업 데이터베이스에서 추가 학습 없이 예측할 수 있는 사전 학습된 관계형 기반 모델 Kumo Relational을 공개했다. 최대 10,000건의 과거 사례를 컨텍스트로 읽어 들여, 한 번의 포워드 패스로 이탈, 수요, 부정 거래 등을 예측한다. 15개 데이터베이스에 걸친 41개 과제에서 지도 학습 모델과 전문가가 설계한 그래디언트 부스팅 트리 파이프라인을 능가했다고 밝혔다.

    선정 이유: 관계형 데이터를 위한 기반 모델의 구조, 벤치마크 결과, 한계, 활용 방법이 한 흐름으로 정리되어 있어 기존 예측 파이프라인과 비교하는 자료로 쓸 만하다.

  3. Hugging Face Blog43

    IBM, Granite Speech 5.0 발표… 다국어 ASR과 화자 식별 강화

    IBM은 Granite Speech의 신모델 "granite-speech-5.0-2b"와 업데이트 버전인 "granite-speech-5.0-470m-turboctc", "granite-speech-4.1-2b-plus"를 공개했다. granite-speech-5.0-2b는 영어 단문의 평균 WER이 5.06%로 오픈 웨이트 ASR 모델 중 2위에 올랐으며, Apache 2.0 라이선스로 제공된다. Turbo CTC는 다국어를 지원하게 됐고, RTFx는 약 12,600에서 19,870으로 향상됐다.

10월 21일수
  1. 카카오 보도자료42

    카카오, 비전 인코더 ‘Kanana-2-vision-encoder’ 오픈소스 공개

    카카오가 자체 개발한 비전 인코더 ‘Kanana-2-vision-encoder’ 2종을 허깅페이스에 오픈소스로 공개했다. 4억 2,600만 파라미터의 ‘medium’과 9,800만 파라미터의 ‘tiny’로, 9개 평가 영역 총 42개 벤치마크에서 SigLIP 2, Perception Encoder, AIMv2, Qwen3.5-ViT 등 글로벌 비전 인코더를 상회하는 성능을 기록했다고 밝혔다. 두 모델은 상업적 활용이 가능한 ‘카나나 오픈 라이선스’로 제공된다.

10월 19일월
  1. xAI News44

    Grok 4.6, Gemini Enterprise Agent Platform에서 이용 가능

    xAI의 Grok 4.6이 Gemini Enterprise Agent Platform의 Model Garden에서 이용할 수 있게 됐다. Grok 4.6은 장시간 실행되는 에이전트와 대화형·시각적 작업을 위한 플래그십 모델로, 500k 컨텍스트 윈도우를 갖추고 있으며 추론 수준을 low, medium, high, xhigh 중에서 설정할 수 있다. 요금은 입력이 100만 토큰당 2달러, 캐시 입력이 같은 기준 0.50달러, 출력이 같은 기준 6달러다.

10월 17일토
  1. Interconnects (Nathan Lambert)72

    Meta, Muse Spark Open으로 미국 오픈웨이트 수준을 끌어올리다... 프론티어 판도를 논하다

    Nathan Lambert는 Meta가 공개한 Muse Spark Open을 미국산 오픈 모델 중 압도적으로 가장 강하다고 평가했다. 성능은 GLM 5.2보다 위이고 DeepSeek V4.1 Flash 부근이며, GLM 5.3이나 Kimi K3에는 미치지 못한다고 보았다. 또한 독자적인 라이선스의 제약이 보급의 걸림돌이 될 수 있다고 지적했다.

  2. Latent Space75

    Latent Space「AINews」, Muse Spark, Open 및 Gemini 4 Argon 등 10월 15~16일 AI 동향 총정리

    Latent Space는 10월 15~16일자 AINews를 정리했다. Meta의 816B/42B active MoE 모델 「Muse Spark Open」과 Reflection Beam 1.0 등 오픈 웨이트 공개를 중심으로 다뤘다. 또한 새 프로그램 「High Taste Testers」의 시험 방송도 알렸다. Gemini 4 Argon, Claude, GPT-6 Astra Pro 업데이트, 추론 하드웨어 비교, 안전성, 정책 이슈도 함께 다뤘다.

10월 16일금
  1. AI at Meta29

    Meta의 Omnilingual ASR이 TIME의 'Best Inventions of 2026' 중 하나로 선정되었다. 1,600개 이상의 언어를 지원하는 ASR 모델 제품군으로, 기존 어떤 ASR 시스템도 지원하지 못했던 저커버리지 언어 500개를 포함한다. 대부분의 ASR은 온라인에 자료가 많은 일부 언어에 집중되어 있었으며, 이번 공개는 보편적인 전사 시스템을 향한 큰 진전으로 평가된다.

  2. Microsoft AI (MAI) News50

    Microsoft AI, MAI-Base-2 사전학습 해설

    Microsoft AI가 활성 파라미터 80B, 총 2.8T 파라미터 규모의 MoE 기반 모델 MAI-Base-2의 사전학습을 완료했다. 보류 평가에서는 테스트한 모든 오픈 웨이트 모델을 웃돌았으며, DeepSeek-V4-Pro-Base 대비 사전학습 FLOPs 효율은 4~12배다. 16k GB200 GPU로 38일간 학습했으며, 현재 사후학습 중이다. 가중치는 Foundry를 통해 신뢰할 수 있는 파트너에게 라이선스 제공할 방침이다.

  3. NVIDIA Blog60

    NVIDIA, 오픈 모델 Nemotron 3.5 Super VL과 Bolt 2종 발표

    NVIDIA는 120B 파라미터의 오픈 모델 Nemotron 3.5 Super VL과 엣지용 Nemotron 3.5 Bolt 74B-A9B 24GB, Bolt E4B 4GB를 발표했다. Super VL과 Bolt 74B-A9B는 현재 제공 중이며, Bolt E4B는 Oct. 23에 제공될 예정이다. NVIDIA는 Super VL이 같은 급의 차점 모델보다 최대 5배의 처리량을 보였다고 밝혔으며, 가중치와 데이터셋도 공개했다.

    선정 이유: 서버용과 엣지용 3개 모델을 메모리 용량 및 배포 대상과 함께 정리하고 있어, 자사 환경에 맞는 규모를 비교해 고르기 쉽다.

10월 15일목
  1. Mistral AI News47

    Mistral AI, 시계열 기반 모델 'Timestral' 공개

    Mistral AI가 시계열 기반 모델 패밀리 「Timestral」을 공개했다. 가장 큰 209M 파라미터 모델은 GIFT-Eval, TIME, fev-bench 등 3대 주요 벤치마크에서 1위를 차지했으며, 기존 최첨단 모델보다 파라미터 수를 3분의 2 적게 쓰고도 성능에서 앞섰다. 5M부터 209M까지 4가지 크기로 제공되며, 추론에 GPU는 필요하지 않다. 표준 서버 CPU(8스레드) 기준으로 하루 뒤 예측에 5M 모델은 10ms, 209M 모델은 140ms가 소요되는 것으로 알려졌다.

  2. Hugging Face Blog41

    Apertus 1.5, 이미지·음성 이해와 사고 모드 추가

    Apertus 1.5는 Apertus 1.0의 8B 및 70B 모델을 확장한 최신 버전으로, 이미지와 음성 이해, 선택적으로 사용할 수 있는 사고 모드, 4배인 262,144토큰의 컨텍스트 윈도우를 갖췄다. 8B와 70B의 가중치는 2026년 7월 24일 Hugging Face에서 Apache 2.0 라이선스로 공개되었다. 학습 데이터는 8B 모델에 4조 토큰, 70B 모델에 2조 토큰의 지속 사전학습을 추가했으며, 합계는 각각 19T와 17T이다.

  3. Hugging Face Blog60

    Black Forest Labs, FLUX.3 Image Klein 공개… Diffusers에서 출시 첫날부터 사용 가능

    Black Forest Labs의 FLUX.3 Image Klein이 공개되었으며, Diffusers에서 출시 첫날부터 작동한다. 하나의 모델로 text-to-image, 여러 참조 이미지를 이용한 image-to-image, 바운딩 박스를 통한 레이아웃 제어를 지원한다. 증류 버전은 16스텝, CFG 없이 H100에서 1024 × 1024 이미지를 약 2초 만에 생성한다. NVFP4와 FP8 가중치, LoRA 학습 스크립트, Modular Diffusers 파이프라인도 함께 제공된다.

    선정 이유: 프롬프트에 bbox를 적어 배치와 이동을 지정하는 방법과 H100에서의 속도 및 메모리 실측치가 함께 제시되어 있어, 도입 부담을 가늠하기 쉽다.

10월 14일수
  1. Qwen38

    @lightseekorg의 TokenSpeed가 거둔 뛰어난 성과를 축하합니다! 🚀 Qwen3.8-Flash-Next가 Nvidia GPU에서 사용자당 685 output tokens/s에 도달해 기쁩니다. 커뮤니티가 Qwen의 추론 성능을 더욱 끌어내 주시길 기대합니다!

    인용LightSeek Foundation@lightseekorg

    685 output tokens/s per user on @Alibaba_Qwen Qwen3.8-Flash-Next. Running TokenSpeed on 4× NVIDIA GB300 with NVFP4. A look at the kernel and serving optimizations behind the results: 👉 https://lightseek.org/blog/tokenspeed-qwen3-8-flash-next.html ⭐ https://github.com/lightseekorg/tokenspeed

  2. Hugging Face Blog39

    LiquidAI, 온디바이스용 에이전트 모델 「LFM2.5-24B-A2B」 공개

    LiquidAI는 총 파라미터 24B, 활성 파라미터 2B 규모의 추론 모델 「LFM2.5-24B-A2B」를 공개했다. 도구 호출과 다단계 작업을 지원하며, 로컬 하드웨어에서 에이전트를 지속적으로 실행할 수 있다고 한다. 에이전트 벤치마크 LiveClaw에서는 48.09점을 기록해 Qwen3.6-35B-A3B의 38.19점을 웃돌았다. 추론 속도는 Apple M5 Max에서 184 tok/s, 단일 NVIDIA B300 GPU에서 최대 21K output tok/s를 나타냈다.

10월 9일금
  1. Qwen56

    Qwen이 Qwen-Image-2.1-Turbo의 오픈 웨이트를 공개했다. Qwen-Image-2.1과 같은 7B 아키텍처를 기반으로 한 고속화 체크포인트로, 8회의 denoising step만으로 이미지를 생성하고 편집할 수 있다. Qwen-Image-2.1 Pro와 Turbo의 API도 정식으로 제공되고 있다.

    인용Qwen@Alibaba_Qwen

    Meet Qwen-Image-2.1, the most balanced and cost-effective image generation model in the Qwen-Image series! Now open weights! 🎨 A unified model for both generation and editing, delivering top-tier quality in a lightweight package. Highlights: 👀 - Compact & exceptionally fast: A lightweight 7B architecture that outperforms most closed-source models, with drastically accelerated inference for multi-image inputs. - Native transparency: Natively generates and edits RGBA layers, enabling seamless compositing and text editing within transparent images. - Versatile, high-fidelity editing: Supports up to 10 reference images and precise local control while preserving strict fidelity for portraits and products. - Broad coverage & stunning aesthetics: Excels at panoramas, infographics, and virtual try-ons, delivering realistic textures and elegant typography. Start to create your next masterpiece with Qwen-Image-2.1! 🖼️ - Blog: https://qwen.ai/blog?id=qwen-image-2.1 - GitHub: https://github.com/QwenLM/Qwen-Image-2.1 - Model Scope: https://www.modelscope.cn/models/Qwen/Qwen-Image-2.1 - Hugging Face: https://huggingface.co/Qwen/Qwen-Image-2.1

10월 6일화
10월 3일토
  1. Latent Space60

    AINews, 10월 1일~2일 AI 동향 정리: GPT-6.1 Sol과 Sonnet 5.5의 가격 대비 성능 등

    Latent Space의 AINews가 2026년 1월 10일~2일 X, Reddit 등 각종 커뮤니티의 화제를 정리했다. OpenAI의 GPT-6.1 Sol은 입력·출력 100만 토큰당 $2/$10이며, Agent Arena에서는 Sol [Max]가 5위, Sonnet 5.5 [Max]가 3위에 올랐다고 소개했다. 에이전트 인프라, 연구, 추론 하드웨어, 정책 관련 화제도 함께 실렸다.

9월 22일화
9월 8일화
  1. Interconnects (Nathan Lambert)34

    최신 오픈 아티팩트(#24): Motif-3, GLM-5.3, Hy4-preview 및 오픈 모델 라이선스 동향

    지푸(Zhipu)의 GLM-5.3은 GLM-5.2 이전의 MIT 라이선스에서 독자 라이선스로 변경되었다. Model as a Service를 운영하며 계열사를 포함한 연속 12개월 매출이 100억 달러를 넘으면, 상업적 이용 전에 Z.AI의 보안 심사가 필요하다. '계열사(affiliates)'의 정의가 없어 도입의 장벽이 된다는 지적이 나온다. Kimi K3와 MiniMax M3도 제한적인 조건을 두고 있다. Motif의 Motif-3은 MIT 라이선스로 공개되어 있다.

8월 26일수
  1. Hugging Face Blog50

    IBM, Granite 4.2 LLM 구축 방법 해설

    IBM의 Granite 4.2는 3B, 8B, 30B 세 가지 크기로 제공되는 추론 특화형 디코더 전용 dense형 LLM 패밀리다. Granite-4.1 베이스 모델을 사후 학습하여 만들었으며, 모두 Apache 2.0 라이선스로 공개된다. 8B와 30B는 샌드박스 환경에서 도구를 조작하는 에이전트 RL을 거쳤으며, 전 모델이 사고/비사고 모드 전환과 네이티브 도구 호출을 지원한다.

8월 21일금
  1. Hugging Face Blog52

    Liquid AI, LFM2.5용 DSpark 드래프트 모델 공개… 추론 최대 3.2배 빨라져

    Liquid AI가 LFM2.5-1.2B-Instruct, LFM2.5-2.6B, LFM2.5-8B-A1B 3개 모델용 DSpark 드래프트 모델을 공개했다. 투기적 디코딩을 통해 출력 품질을 바꾸지 않고 GPU에서 최대 3.18배, 온디바이스에서 최대 2.87배의 처리량 향상을 보였다. llama.cpp와 SGLang에서 출시 첫날부터 사용할 수 있으며, LFM2.5-2.6B의 함수 호출 지연 시간은 평균 57% 줄었다.

8월 11일화
  1. Hugging Face Blog47

    NVIDIA Magpie TTS, 저지연 다국어 음성 에이전트 구축

    NVIDIA의 오픈 웨이트 음성 합성 모델 「Magpie TTS Multilingual」은 파라미터 364M으로 12개 언어를 지원하며, 이번에 현대 표준 아랍어, 한국어, 브라질 포르투갈어가 새로 추가됐다. NIM을 이용한 온프레미스 측정에서 B200의 단일 스트림 TTFA는 32ms, 64스트림에서는 239ms이고, RTFX는 319.81배다. 자체 인프라에 배포하거나 미세 조정할 수 있으며, Hugging Face에서는 오픈 체크포인트가 제공된다.

8월 10일월
  1. Hugging Face Blog72

    Meta, 로컬 에이전트 지원 멀티모달 모델 Muse Glimmer 공개… Apache 2.0으로 제공

    Meta가 Muse에서 30B 파라미터로 증류한 멀티모달 모델 Muse Glimmer를 Apache 2.0 라이선스로 공개했다. 로컬 환경의 에이전트 용도를 염두에 둔 모델이며, transformers, llama.cpp, vLLM, Inference Endpoints가 day-0부터 지원한다. Hugging Face Hub에서 내려받을 수 있다.

    선정 이유: 30B 로컬 모델에 대해 아키텍처, 각 추론 기반에서의 사용법, 파인튜닝 요건이 한꺼번에 정리되어 있다.

8월 4일화
  1. Mistral AI News46

    Mistral AI, 오픈 웨이트 안전성 분류 모델 「Shieldstral」 발표

    Mistral AI는 텍스트와 이미지의 안전성을 평가하는 3B 규모의 오픈 웨이트 멀티모달 안전성 분류 모델 「Shieldstral」을 Apache 2.0 라이선스로 공개했다. 정책은 추론 시 평이한 언어로 지정할 수 있어, 재학습 없이 용도에 맞춰 조정할 수 있다. 텍스트 안전성 평가에서는 크기가 최대 7배 큰 오픈 가드 모델에 필적하며, 단일 16GB NVIDIA GPU에서 동작한다.

8월 2일일
  1. Interconnects (Nathan Lambert)48

    오픈 모델 최신 동향을 정리한 「Artifacts #23」, Laguna S2.1·Inkling·Kimi K3 등

    오픈 모델 최신 동향을 정리한 「Artifacts #23」에서는 Thinking Machines의 Inkling(975B-A41B MoE)과 Kimi K3 등을 다룬다. Tencent는 Hy3(295B-A21B MoE)의 라이선스를 Apache 2로 변경했다. Kimi K3는 비상업용 라이선스이며, 추론·파인튜닝 사업자에게는 상업 계약이 요구된다.

7월 2일목
  1. Mistral AI News42

    Mistral AI, Lean 4용 형식 검증 모델 「Leanstral 1.5」 공개

    Mistral AI는 Lean 4에서의 형식 검증을 지원하는 Apache-2.0 라이선스 모델 「Leanstral 1.5」를 공개했다. 총 파라미터 119B, 활성 파라미터 6B 규모이며, miniF2F를 포화시키고 PutnamBench에서는 672문제 중 587문제를 풀었다. FATE-H에서 87%, FATE-X에서 34%를 기록해 새로운 state-of-the-art를 달성했으며, Hugging Face와 무료 API를 통해 이용할 수 있다.