Hugging Face, tokenizers v1 릴리스 후보 공개… v0.23 대비 3~30배 빨라져

Hugging Face가 tokenizers v1 릴리스 후보를 crates.io에 공개했다. Apple M4 Max 단일 스레드에서 v0.23보다 3~30배 빠르게 인코딩하며, 워커 8개에서는 선형 대비 76%의 효율로 확장된다. 토큰 ID는 v0.23과 동일하고 API도 바뀌지 않았다.

MilleMiglia, 중거리 물류용 실감형 인스턴스 생성 도구 공개

Google Research가 중거리 물류(middle-mile logistics) 문제를 위한 현실적인 벤치마크를 만드는 C++ 기반 인스턴스 생성 도구 「MilleMiglia」를 발표했다. 물류 기업들이 네트워크 구성과 수요량을 기밀로 취급해 왔기 때문에 공개 데이터가 부족했으나, 이 도구는 프라이버시를 고려한 데이터를 생성할 수 있다. 소스 코드와 문서는 GitHub에서 공개되어 있다.

Z.ai@Zai_orgAI 점수4444

Zhipu GLM은 GLM-5.3이 GLM-5.3-Flash를 제공하는 추론 인프라의 구축과 최적화에 기여했다고 밝혔다. 첫 실행 성공부터 프로덕션 투입이 가능한 상태까지 2주도 안 되어 도달했으며, 엔드투엔드 처리량은 초기 베이스라인 대비 3배가 되었다. 핵심은 로컬 정확성 테스트, 실행 트레이스, 마이크로 벤치마크, 엔드투엔드 측정이라는 촘촘한 피드백이었고, 집계 지표에만 의존하지 않고 가설을 좁혀 검증할 수 있었다고 한다.

Google, AI로 과학을 가속하고 사람들의 생활 개선을 목표로 하다

Google은 AI를 과학의 가속과 생활 개선에 활용하는 노력을 이어가고 있으며, 최근 몇 주 사이 AlphaGenome Atlas, WeatherNext 3 등의 성과를 잇따라 발표했다. AlphaGenome Atlas는 인간 게놈에서 90억 가지 단일 염기 변화가 미치는 예측 영향을 지도로 만들어 연구자들에게 공개했다. WeatherNext 3는 하루 이상 앞선 강수 예보의 정확도를 50% 향상시켰으며, 이미 회사의 제품에 사용되고 있다.

Claude API, Messages API에 온디맨드 대화 압축 기능 베타 제공

Claude API의 Messages API에서 대화를 온디맨드로 압축할 수 있게 됐다. 베타 헤더 compact-2026-09-04를 붙이고 최상위 compaction 파라미터를 보내면, 전송된 메시지를 요약한 서명된 compaction 블록이 반환된다. thinking-binding-controls-2026-08-01에서는 input_transformations에 thinking_mismatch_allowed라는 새 항목 유형도 추가됐다.

Kinaxis, Azure에서 AI로 공급망 불확실성 대응하는 Maestro 제공

캐나다 Kinaxis는 예측 AI, 시나리오 모델링, 에이전트형 AI를 갖춘 공급망 계획 플랫폼 Maestro를 제공하고 있다. Strait of Hormuz 분쟁 이후 고객의 시나리오 모델링 이용은 분쟁 이전 수준에 비해 120% 넘게 늘었다고 한다. Maestro는 Azure에서 동작하며 Azure OpenAI, AKS 등을 활용하고, Microsoft Copilot과의 연동도 개발 중이다.

Cloudera, Mistral과 기업 데이터 특화 소버린 AI에서 제휴

Cloudera와 Mistral이 제휴해 Mistral의 모델을 Cloudera의 하이브리드 데이터 플랫폼에 통합한다고 밝혔다. 기업은 온프레미스, 프라이빗·퍼블릭 클라우드, 완전한 에어갭 환경에 AI 모델을 배포하면서도 관리 권한을 유지할 수 있다. 관리된 환경 안에서 자사 고유 데이터로 커스텀 모델을 학습시킬 수도 있으며, 데이터와 학습 결과의 소유권은 기업 측에 남는다고 밝혔다.

HF Jobs에서 LoRA 기반 Async GRPO를 실행하는 구성, Storage Bucket과 프록시로 NCCL 없이 동기화

TRL v1.14의 AsyncGRPOTrainer는 LoRA 어댑터만 학습해 vLLM에 동기화할 수 있게 되었으며, 학습과 추론을 서로 다른 Hugging Face Jobs로 나누어 실행하는 구성을 보여준다. 랭크 1 어댑터는 크기가 수 MB에 불과해 1.5B 모델 전체(약 3GB)보다 훨씬 작으므로, Storage Bucket을 공유 파일 시스템으로 사용하면 NCCL 없이 동기화할 수 있다. 5회 실행 결과, 동일한 레시피로 500스텝을 학습하는 시간이 3시간 27분에서 53분으로 줄었다.

Mistral, 시리즈D에서 30억 유로 조달…기업가치 210억 유로 돌파

Mistral AI가 시리즈D 자금 30억 유로 조달을 발표했다. 조달 후 기업가치는 210억 유로를 넘어, 유럽 기술기업의 지분 조달 사상 최대 규모가 된다. Samsung Electronics가 주도했으며, EQT 산하 Scaleup Europe Fund와 기존 투자자 PSG Equity가 공동 주도했다. 자금은 프론티어 연구와 컴퓨트 확장, 인프라 및 상업화 가속에 투입된다.

Microsoft, Foundry에서 MAI-Image-2.6 제공 시작… 고속 버전 MAI-Image-2.6-Flash도 추가

Microsoft가 이미지 모델 MAI-Image-2.6을 Microsoft Foundry 개발자용으로 제공하고, 저지연용 MAI-Image-2.6-Flash를 추가했다. MAI-Image-2.6은 Arena에서 text to image와 이미지 편집 모두 No. 2, Artificial Analysis에서는 text-to-image가 No. 2, 이미지 편집이 No. 1이다. Flash는 GPT-Image-2-Medium보다 2.8배 빠르고 효율은 72% 높다고 밝혔다.

Claude Platform, ant CLI 1.30.0에 ant apply 추가

Anthropic이 ant CLI v1.30.0에 ant apply를 추가했다. 저장소 안의 파일에 정의한 agents, environments, skills, memory stores, deployments를 생성·갱신할 수 있으며, 실행 시 표시되는 계획을 승인한 뒤에 적용하는 방식이다.

Hugging Face, 브라우저 추론용 WebGPU 커널 207개와 @huggingface/kernels 공개

Hugging Face가 WebGPU 커널 207개와, Hub에서 커널을 불러와 실행하는 JavaScript 라이브러리 @huggingface/kernels를 공개했다. 각 커널은 webgpu-kernels 조직 아래 개별 리포지토리로 배포되며, 라이선스는 Apache-2.0이다. 아울러 브라우저에서 커널의 성능과 정확성을 측정하는 벤치마크 도구 Fleet도 함께 공개했으며, 사용자의 동의를 얻은 뒤 실제 기기에서 얻은 결과를 수집해 개선에 활용할 계획이다.

Anthropic, Claude Fable 5.1과 Claude Mythos 5.1 공개... 캐시 읽기 요금 인하

Anthropic은 장시간 에이전트형 코딩, 지식 업무, 연구용으로 Claude Fable 5.1(claude-fable-5-1)을 공개했다. Project Glasswing 참여자에게는 Claude Mythos 5.1(claude-mythos-5-1)도 제공한다. 두 모델은 1M 토큰 컨텍스트 윈도우, 최대 128k 출력 토큰, 상시 켜진 적응형 사고를 지원하며, 가격은 Claude Fable 5와 같은 $10 / $50 per MTok이다. 캐시 읽기는 $0.25 per MTok으로 낮아졌다.

Multiverse Computing, 4비트 압축 모델 회복 기법 QAH 제안… bfloat16 버전을 9개 중 7개 벤치마크에서 상회

Multiverse Computing은 압축과 양자화를 거친 모델을 회복하는 Quantization-Aware Healing(QAH)을 제안했다. GPT-OSS 120B를 60B로 압축해 MXFP4로 만든 모델이 자체 bfloat16 버전을 9개 벤치마크 중 7개에서 상회했다. 압축 전 원본 모델을 교사로 삼아 KL 발산으로 증류한다는 점이 특징이다.

Gradio의 gr.Workflow로 AI 파이프라인을 그래프로 구축하고 드래그 앤 드롭으로 실행·배포

Gradio의 새 기능 gr.Workflow는 타입이 지정된 노드의 그래프로 AI 파이프라인을 정의하며, 드래그 앤 드롭으로 실행할 수 있는 캔버스로 제공된다. 같은 그래프는 REST API로도 공개되며, 명령어 한 줄로 Hugging Face Spaces에 배포할 수 있다. 이미지 편집, 이미지 생성에서 이어지는 배경 제거와 음성 합성, ZeroGPU를 이용한 GPU 모델 실행 등의 데모가 Hugging Face Spaces에서 공개되어 있다.

Hugging Face Inference Endpoints, Jobs, Buckets로 Papers with Code 검색을 뒷받침하는 방법

Papers with Code 검색은 PostgreSQL 전문 검색과 pgvector 벡터 검색을 RRF로 통합한 하이브리드 검색으로 구축되었다. 논문 임베딩은 Hugging Face Jobs의 L4 GPU에서 오프라인으로 생성하며, arXiv와 Daily Papers의 11만 건이 넘는 현행 논문을 대상으로 한다. 온라인에서는 쿼리 임베딩만 Inference Endpoints에서 처리하고, 엔드포인트가 중지되거나 혼잡할 경우 전문 검색으로 전환한다.

Liquid AI, LFM2.5용 DSpark 드래프트 모델 공개… 추론 최대 3.2배 빨라져

Liquid AI가 LFM2.5-1.2B-Instruct, LFM2.5-2.6B, LFM2.5-8B-A1B 3개 모델용 DSpark 드래프트 모델을 공개했다. 투기적 디코딩을 통해 출력 품질을 바꾸지 않고 GPU에서 최대 3.18배, 온디바이스에서 최대 2.87배의 처리량 향상을 보였다. llama.cpp와 SGLang에서 출시 첫날부터 사용할 수 있으며, LFM2.5-2.6B의 함수 호출 지연 시간은 평균 57% 줄었다.

Anthropic, Python SDK v1.0 공개

Anthropic이 Python SDK v1.0을 공개했다. HTTP 계층은 httpx에서 API 호환 포크인 httpx2로 옮겨갔으며, Python 3.10 이상이 필요하다. 레거시 Text Completions API와 Messages 메서드의 temperature, top_p, top_k 파라미터 등을 삭제했다.

Strands Agents, LeRobot, Hugging Face Storage Buckets로 로봇 데이터 수집부터 학습, 배포까지 한곳에서 운영하기

Strands Robots의 에이전트 루프로 로봇 데모 기록, Hub에서 직접 스트리밍하는 학습, 정책의 하드웨어 재배포를 하나의 데이터 루프로 실행하는 방법을 설명한다. 데이터는 LeRobot 형식 그대로 Storage Bucket에 동기화되며, 동기화할 때마다 변경된 바이트만 업로드된다. 학습 시에는 `stream_dataset(repo_type="bucket")`으로 다운로드하지 않고 읽어 들이며, 배포는 `mode="real"` 인자를 바꾸는 방식으로 이루어진다.

Mistral, Regional Endpoints 정식 제공 및 Priority Tier 공개 프리뷰 시작, GLM-5.2 지원도 개시

Mistral은 추론을 유럽 또는 미국에서 실행할 수 있는 Mistral Regional Endpoints를 일반 제공으로 전환하고, 가동률 SLA가 적용되는 Mistral Priority Tier를 공개 프리뷰로 시작했다고 밝혔다. 아울러 Z.ai의 GLM-5.2를 시작으로 서드파티 오픈 모델을 지원하며, 유럽 컴퓨팅 자원을 장기간 확보하기 위한 기업 연합 구상도 내놓았다. 2030년까지 최대 1 GW의 용량 구축을 계획하고 있다.

Claude Platform 릴리스 노트 (2026년 8월 11일)

Anthropic은 Compliance API를 통해 사용자 기기에서 실행되는 Cowork 및 Claude Code 세션의 트랜스크립트를 조회할 수 있도록 했다(Claude Enterprise 조직 대상 베타). 세션 목록, 메타데이터, 트랜스크립트를 가져오는 GET 엔드포인트가 추가되었다. Claude API에는 wrkspc_로 시작하는 워크스페이스 ID를 반환하는 anthropic-workspace-id 응답 헤더도 새로 생겼다.

Claude Platform 릴리스 노트: Claude Opus 5.5, Sonnet 5.5, Haiku 5.5 추가 및 Managed Agents 기능 확충

Anthropic의 Claude Platform 릴리스 노트는 Claude API, 클라이언트 SDK, Claude Console의 변경 사항을 최신순으로 정리했다. Claude Opus 5.5, Claude Sonnet 5.5, Claude Haiku 5.5의 제공 시작과 함께 Claude Managed Agents의 기능 추가 및 Compliance API 확대가 기재되어 있다.

Claude Managed Agents, 세션 예산·어드바이저 등 기능 4종 추가

Claude Managed Agents 세션에 지출 상한을 정하는 예산 설정이 추가됐다. 이와 함께 어드바이저 기능, 추론 지역을 지정하는 inference_geo, GitHub 리포지토리에서 스킬을 불러오는 기능도 지원하게 됐다.

Baseten, Hugging Face Inference Providers 지원

Baseten이 Hugging Face Hub의 Inference Provider로 이용 가능해졌다. 대화 및 텍스트 생성 작업에서 Kimi K3, DeepSeek V4 Flash, GLM-5.2 등 오픈 웨이트 LLM을 서버리스 추론으로 사용할 수 있다. HF를 경유한 라우팅에서는 프로바이더의 표준 API 요금만 청구되며, HF가 추가로 붙이는 요금은 없다. 그 밖의 작업은 순차적으로 지원될 예정이다.

Claude Platform 릴리스 노트, Claude Opus 5.5·Sonnet 5.5·Haiku 5.5 등 API 업데이트 게재

Anthropic의 Claude Platform 릴리스 노트는 Claude Opus 5.5, Claude Sonnet 5.5, Claude Haiku 5.5의 제공 시작과 Claude Managed Agents의 기능 추가를 게재했다. Opus 5.5는 1M 토큰 컨텍스트 윈도우와 128k 최대 출력을 갖추며, 요금은 $4 / $20 per MTok이다. Sonnet 5.5의 캐시 읽기 요금은 $0.10 per million tokens로 인하되었다.

GPU 관리: 유휴 GPU가 새로운 ‘지상 대기 항공기’가 되는 이유

기업용 AI의 다음 제약은 모델 성능보다 GPU 가동률이 되어가고 있다. GPU는 가동 여부와 상관없이 시간 단위로 비용이 발생하기 때문에, 유용하게 쓰이지 않는 시간이 수익성을 크게 좌우한다. API 비용은 이용량에 비례해 늘어나는 반면, 자체 GPU 비용은 거의 고정되어 있어 일정량을 넘으면 자체 보유가 유리해진다. 다만 인프라는 피크 수요에 맞춰 설계되므로, 상시 가동 중이더라도 클러스터 전체의 능력은 낭비되기 쉽다.

NVIDIA, 수술 로봇용 실시간 생성 시뮬레이터 Cosmos-H-Dreams 발표

NVIDIA는 수술 로봇용 실시간 생성 시뮬레이터 「Cosmos-H-Dreams」를 발표했다. Cosmos-H-Surgical-Simulator를 인과적 소수 단계(few-step) 학생 모델로 증류하고, 스트리밍 추론 라이브러리 FlashDreams로 제공한다. 단일 NVIDIA RTX PRO 6000 GPU에서 동작하며, 사람 또는 학습된 정책이 폐루프(closed-loop)로 조작할 수 있다.

Anthropic, Claude Opus 5(claude-opus-5) 공개… 1M 토큰 컨텍스트 윈도우 지원

Anthropic이 Claude Opus 5(claude-opus-5)를 공개했다. Claude Opus 4.8 대비 대폭 개선됐다고 밝혔으며, 1M 토큰 컨텍스트 윈도우와 최대 128k 출력 토큰을 지원하고 사고(thinking)가 기본으로 켜진다. 가격은 $5 / $25 per MTok로 Claude Opus 4.8과 동일하다.

Hugging Face, Diffusers 본체에서 Nunchaku Lite 4비트 확산 모델 추론 지원

Hugging Face가 Diffusers에서 Nunchaku의 SVDQuant(W4A4) 체크포인트를 `from_pretrained()`로 직접 불러올 수 있도록 했다. 로컬에서 CUDA를 컴파일할 필요는 없으며, kernels 패키지를 통해 커널을 가져온다. RTX PRO 6000에서의 측정 결과, BF16 대비 최대 피크 VRAM을 50% 줄였고 지연 시간은 약 30% 개선됐다.

Claude Platform 릴리스 노트(2026년 7월 22일)

Anthropic은 Claude Managed Agents의 설정, Webhook, 세션, 스레드 스트림을 업데이트했다. 모델 설정에서 effort level을 지정할 수 있게 되었고, environment와 memory_store의 라이프사이클 변경을 Webhook으로 수신할 수 있게 되었다. 세션 생성 시 initial_events에 user.message와 user.define_outcome을 최대 50건까지 전달하면, 별도의 이벤트 전송 없이도 에이전트 루프가 시작된다.

Microsoft, AMD와 협력해 Azure의 AI·HPC 인프라 확충

Microsoft는 AMD의 Helios AI 플랫폼과 차세대 EPYC 프로세서를 Azure에 도입해 HDv2 VM, HXv2 VM, ND MI455X v7 VM 등 3종을 제공할 예정이라고 발표했다. HDv2는 6세대 AMD EPYC의 물리 코어 약 500개와 4테라바이트 RAM을 갖춰 데이터 처리용으로 쓰인다. HXv2는 176코어에 5GHz 이상으로 동작하며 EDA와 HPC용이다. ND MI455X v7은 AI 추론용이다.

Thinking Machines Lab, 이미지·음성·텍스트 지원 오픈 모델 Inkling과 Inkling-Small 공개

Thinking Machines Lab이 이미지, 텍스트, 음성을 입력할 수 있는 약 1T 파라미터 오픈 모델 Inkling을 Hugging Face에 공개했다. 총 파라미터 975B, 활성 파라미터 41B의 MoE 구조이며 1M 컨텍스트를 지원한다. 총 276B, 활성 12B인 Inkling-Small도 추가되었으며, Inference Endpoints에서 원클릭으로 배포할 수 있다.

Claude Platform 릴리스 노트, Claude Haiku 5.5·Opus 5.5 등 다양한 업데이트 게재

Anthropic의 Claude Platform 릴리스 노트는 Claude API, 클라이언트 SDK, Claude Console의 업데이트를 최신순으로 게재하고 있다. Claude Opus 5.5, Claude Sonnet 5.5, Claude Haiku 5.5(claude-haiku-5-5)의 제공 개시 외에도 프롬프트 캐시 읽기 요금 인하, Claude Managed Agents 기능 추가, Compliance API 확장 등이 기재되어 있다.

Claude Platform 릴리스 노트(2026년 7월 8일)

Claude Console에서 API 키 및 Admin API 키를 생성할 때 만료 기한을 설정할 수 있게 됐다. 프리셋, 임의의 기간, 또는 「Never」 중에서 선택할 수 있다. 유효 기간이 7일 이상인 키는 만료 전에 Anthropic이 생성자에게 이메일로 알린다. 기존 키는 영향을 받지 않으며, Admin API는 각 키의 만료 시점을 expires_at 필드로 반환한다.

vLLM의 transformers 모델링 백엔드, 네이티브 수준의 속도 달성

vLLM의 transformers 모델링 백엔드는 여러 LLM 아키텍처에서 전용 vLLM 구현과 동등하거나 그 이상의 속도를 달성했다. --model-impl transformers 플래그만 추가하면 사용할 수 있으며, Qwen3-4B, Qwen3-32B, Qwen3-235B-A22B-FP8 3개 모델을 비교한 결과 모두 네이티브 구현과 동등 이상의 처리량을 보였다. 실행 시 torch.fx로 계산 그래프를 분석하고 융합 연산을 적용해 속도를 높였다.

Claude Platform, Opus 5.5·Haiku 5.5 등을 추가한 릴리스 노트 업데이트

Anthropic은 공식 Claude Platform 릴리스 노트를 업데이트하고, Claude Opus 5.5, Claude Sonnet 5.5, Claude Haiku 5.5 등의 제공 개시와 Claude Managed Agents의 새 기능 및 API 변경 사항을 게재했다. Claude Opus 5.5는 1M 토큰 컨텍스트 윈도우를 갖추며, 요금은 백만 토큰당 $4 / $20 USD다. 구형 모델에서 마이그레이션할 때 400 오류가 발생할 수 있는 변경 사항도 여러 건 기재되어 있다.

Anthropic、Claude Sonnet 5（claude-sonnet-5）제공 시작… 도입 가격 $2 / $10 per MTok

Anthropic이 Sonnet 제품군의 차세대 모델 Claude Sonnet 5（claude-sonnet-5）를 공개했다. 도입 가격은 입력 $2, 출력 $10 per MTok이며, 2026년 8월 10일에 표준 가격으로 전환된다. 1M 토큰 컨텍스트 윈도우와 128k 최대 출력 토큰을 지원하며, Priority Tier는 이용할 수 없다. 아울러 Claude Managed Agents에도 이벤트 델타 등의 기능이 추가됐다.

Pixel의 Gemini Nano를 고정 MTP로 가속화, Pixel 9·10 시리즈에 적용

Google은 동결한 Gemini Nano v3 모델에 Multi-Token Prediction(MTP) 헤드를 사후에 붙이는 새로운 아키텍처를 발표하고, Pixel 9·10 시리즈에 적용을 시작했다고 밝혔다. MTP 헤드는 메인 모델의 KV 캐시를 직접 참조하므로 드래프트용 KV 캐시를 따로 둘 필요가 없으며, 표준 드래프트 모델과 비교해 Pixel 9에서 50% 이상의 속도 향상을 얻었다고 설명했다. 백엔드를 동결하기 때문에 기반 모델의 성능과 안전성은 떨어지지 않으며, 출력은 메인 모델과 비트 단위로 일치한다.

Google Research, 선형 탄성 캐시로 클라우드 TCO 절감

Google Research는 페이지 축출을 ski rental 문제로 보고, 경량 머신러닝으로 캐시 크기를 동적으로 조정하는 「linear elastic caching」을 발표했다. Spanner 프로덕션 환경에서 수개월간 운영한 결과, 고정 크기 캐시와 비교해 메모리 사용량은 15.5% 감소했고, 캐시 미스는 5.5% 증가에 그쳤으며, TCO는 약 5% 절감됐다. TTL 예측에는 몇 줄의 C++ 코드로 변환할 수 있는 얕은 결정 트리를 사용한다.

Claude Platform, 릴리스 노트 업데이트… Claude Haiku 5.5·Opus 5.5 등 게재

Claude Platform 릴리스 노트에 Claude Opus 5.5, Claude Sonnet 5.5, Claude Haiku 5.5의 제공 시작과 Claude Managed Agents, Compliance API의 기능 추가가 기재되었다. Sonnet 5.5의 캐시 읽기 요금은 100만 토큰당 $0.20에서 $0.10으로 인하되었다. Claude Sonnet 4.5는 2026년 11월 30일에 Claude API 제공이 종료될 예정이다.