본문 바로가기

#배포·인프라

오늘 3건
10월 5일월
  1. Claude Platform release notes62

    Claude Platform 릴리스 노트, Claude Haiku 5.5 추가와 OpenTelemetry 출력 베타 등 게시

    Anthropic의 Claude Platform 릴리스 노트가 갱신되어 10월 7일 Claude Haiku 5.5(claude-haiku-5-5)가 공개됐다. 100만 토큰 컨텍스트 윈도우와 128k 최대 출력 토큰을 갖췄다. 10월 14일에는 OpenTelemetry 출력이 베타로 추가됐으며, Claude Sonnet 5.5의 캐시 읽기 가격은 100만 토큰당 $0.10으로 내려갔다.

    선정 이유: 모델 추가, 가격 개정, 호환성 깨지는 변경, Managed Agents의 새 기능이 날짜순으로 정리되어 있어 마이그레이션 시 확인해야 할 변경 사항을 쉽게 따라갈 수 있다.

10월 2일금
  1. NVIDIA Blog40

    NVIDIA, DGX Spark 64GB 구성 제공 시작… 로컬 AI 구축과 확장 지원

    NVIDIA의 DGX Spark 64GB 구성이 Acer, ASUS, Dell, Gigabyte, HP, MSI를 통해 10월 23일 출시되며, 가격은 4,999달러부터다. 128GB 모델과 동일한 GB10 Grace Blackwell Superchip을 탑재해 최대 1,000억 개 파라미터 모델을 기기에서 직접 실행할 수 있다. 두 대를 클러스터로 연결하면 메모리가 128GB로 확장되어 최대 2,000억 개 파라미터까지 지원한다.

9월 30일수
  1. Qwen38

    Qwen3.8-27B가 @nebiustf를 통해 이용 가능해졌다. 에이전트 구축이든 딥 리서치든, 이 27B dense 모델은 다단계 워크플로에 대응할 수 있다. 🥳

    인용Nebius Token Factory@nebiustf

    Qwen3.8-27B is now live on Nebius Token Factory. A compact 27B dense model for coding, research, and agent workflows, with a focus on planning and completing tasks across multiple steps. Start building: https://tokenfactory.nebius.com/endpoints?modals=endpoint-details&model-id=Qwen/Qwen3.8-27B

  2. Claude Platform release notes62

    Claude Platform 릴리스 노트, Claude Haiku 5.5·Sonnet 5.5·Opus 5.5 등 업데이트 게재

    Anthropic의 Claude Platform 릴리스 노트는 Claude API, 클라이언트 SDK, Claude Console의 변경 사항을 최신순으로 정리하고 있다. Claude Opus 5.5, Sonnet 5.5, Haiku 5.5의 제공 시작을 비롯해 요금, Managed Agents, Compliance API 관련 업데이트도 포함된다.

    선정 이유: 모델 추가, 요금 개정, 호환성을 깨는 변경, 지원 종료 예정 항목이 날짜순으로 정리되어 있어 API 이전 시 확인해야 할 사항을 한눈에 파악하기 좋다.

9월 28일월
9월 24일목
  1. GitHub Blog: AI & ML42

    GitHub Copilot 앱에서 거대한 풀 리퀘스트를 렌더링하는 방식

    GitHub Copilot 앱의 풀 리퀘스트 화면을 새로 만들어, 2,200개 파일, 100만 줄 이상의 변경, 400개 이상의 인라인 리뷰 댓글을 가진 거대한 풀 리퀘스트도 빠르게 렌더링할 수 있도록 했다. 댓글은 렌더링하기 전까지 높이를 알 수 없으므로, 코드 줄의 높이를 확정하는 방식과 댓글 등 동적 블록의 높이를 따로 다루는 방식의 두 가지 레이아웃 구성을 채택했다.

  2. Google DeepMind Blog38

    Google, Private AI Compute에 기기 간 유지되는 서버 측 메모리 추가

    Google은 Private AI Compute 플랫폼에 기기를 넘나들며 유지되는 서버 측 비공개 메모리를 추가한다고 발표했다. 메모리는 암호화된 전용 스토리지에 저장되며, 복호화 키는 사용자의 기기만 보관하기 때문에 Google을 포함한 제3자도 데이터에 접근할 수 없다고 밝혔다. 또한 서버 소프트웨어의 변조 방지 공개 기록과 제3자 사이버보안 기업의 감사 결과도 공개할 예정이다.

  3. Google DeepMind Blog57

    Google DeepMind、Gemini 3.8 Flash TTS와 Flash-Lite TTS 발표

    Google DeepMind는 음성 생성 모델 Gemini 3.8 Flash TTS와 Gemini 3.8 Flash-Lite TTS를 발표했다. Flash TTS는 자연어 프롬프트로 목소리를 새로 만들고 줄 단위 연기 지시를 지원하며, Flash-Lite TTS는 대량 처리와 비용 효율에 특화되어 있다. 두 모델은 오늘부터 Gemini API와 Google AI Studio에서 제공되고 있다.

9월 21일월
9월 19일토
  1. Google Research Blog21

    MilleMiglia, 중거리 물류용 실감형 인스턴스 생성 도구 공개

    Google Research가 중거리 물류(middle-mile logistics) 문제를 위한 현실적인 벤치마크를 만드는 C++ 기반 인스턴스 생성 도구 「MilleMiglia」를 발표했다. 물류 기업들이 네트워크 구성과 수요량을 기밀로 취급해 왔기 때문에 공개 데이터가 부족했으나, 이 도구는 프라이버시를 고려한 데이터를 생성할 수 있다. 소스 코드와 문서는 GitHub에서 공개되어 있다.

9월 17일목
  1. Z.ai44

    Zhipu GLM은 GLM-5.3이 GLM-5.3-Flash를 제공하는 추론 인프라의 구축과 최적화에 기여했다고 밝혔다. 첫 실행 성공부터 프로덕션 투입이 가능한 상태까지 2주도 안 되어 도달했으며, 엔드투엔드 처리량은 초기 베이스라인 대비 3배가 되었다. 핵심은 로컬 정확성 테스트, 실행 트레이스, 마이크로 벤치마크, 엔드투엔드 측정이라는 촘촘한 피드백이었고, 집계 지표에만 의존하지 않고 가설을 좁혀 검증할 수 있었다고 한다.

9월 16일수
  1. Google AI Blog32

    Google, AI로 과학을 가속하고 사람들의 생활 개선을 목표로 하다

    Google은 AI를 과학의 가속과 생활 개선에 활용하는 노력을 이어가고 있으며, 최근 몇 주 사이 AlphaGenome Atlas, WeatherNext 3 등의 성과를 잇따라 발표했다. AlphaGenome Atlas는 인간 게놈에서 90억 가지 단일 염기 변화가 미치는 예측 영향을 지도로 만들어 연구자들에게 공개했다. WeatherNext 3는 하루 이상 앞선 강수 예보의 정확도를 50% 향상시켰으며, 이미 회사의 제품에 사용되고 있다.

9월 14일월
  1. Claude Platform release notes55

    Claude API, Messages API에 온디맨드 대화 압축 기능 베타 제공

    Claude API의 Messages API에서 대화를 온디맨드로 압축할 수 있게 됐다. 베타 헤더 compact-2026-09-04를 붙이고 최상위 compaction 파라미터를 보내면, 전송된 메시지를 요약한 서명된 compaction 블록이 반환된다. thinking-binding-controls-2026-08-01에서는 input_transformations에 thinking_mismatch_allowed라는 새 항목 유형도 추가됐다.

9월 10일목
  1. Microsoft Source: AI20

    Kinaxis, Azure에서 AI로 공급망 불확실성 대응하는 Maestro 제공

    캐나다 Kinaxis는 예측 AI, 시나리오 모델링, 에이전트형 AI를 갖춘 공급망 계획 플랫폼 Maestro를 제공하고 있다. Strait of Hormuz 분쟁 이후 고객의 시나리오 모델링 이용은 분쟁 이전 수준에 비해 120% 넘게 늘었다고 한다. Maestro는 Azure에서 동작하며 Azure OpenAI, AKS 등을 활용하고, Microsoft Copilot과의 연동도 개발 중이다.

  2. Mistral AI News36

    Cloudera, Mistral과 기업 데이터 특화 소버린 AI에서 제휴

    Cloudera와 Mistral이 제휴해 Mistral의 모델을 Cloudera의 하이브리드 데이터 플랫폼에 통합한다고 밝혔다. 기업은 온프레미스, 프라이빗·퍼블릭 클라우드, 완전한 에어갭 환경에 AI 모델을 배포하면서도 관리 권한을 유지할 수 있다. 관리된 환경 안에서 자사 고유 데이터로 커스텀 모델을 학습시킬 수도 있으며, 데이터와 학습 결과의 소유권은 기업 측에 남는다고 밝혔다.

  3. Hugging Face Blog36

    HF Jobs에서 LoRA 기반 Async GRPO를 실행하는 구성, Storage Bucket과 프록시로 NCCL 없이 동기화

    TRL v1.14의 AsyncGRPOTrainer는 LoRA 어댑터만 학습해 vLLM에 동기화할 수 있게 되었으며, 학습과 추론을 서로 다른 Hugging Face Jobs로 나누어 실행하는 구성을 보여준다. 랭크 1 어댑터는 크기가 수 MB에 불과해 1.5B 모델 전체(약 3GB)보다 훨씬 작으므로, Storage Bucket을 공유 파일 시스템으로 사용하면 NCCL 없이 동기화할 수 있다. 5회 실행 결과, 동일한 레시피로 500스텝을 학습하는 시간이 3시간 27분에서 53분으로 줄었다.

9월 8일화
  1. Mistral AI News41

    Mistral, 시리즈D에서 30억 유로 조달…기업가치 210억 유로 돌파

    Mistral AI가 시리즈D 자금 30억 유로 조달을 발표했다. 조달 후 기업가치는 210억 유로를 넘어, 유럽 기술기업의 지분 조달 사상 최대 규모가 된다. Samsung Electronics가 주도했으며, EQT 산하 Scaleup Europe Fund와 기존 투자자 PSG Equity가 공동 주도했다. 자금은 프론티어 연구와 컴퓨트 확장, 인프라 및 상업화 가속에 투입된다.

9월 5일토
  1. Microsoft AI (MAI) News50

    Microsoft, Foundry에서 MAI-Image-2.6 제공 시작… 고속 버전 MAI-Image-2.6-Flash도 추가

    Microsoft가 이미지 모델 MAI-Image-2.6을 Microsoft Foundry 개발자용으로 제공하고, 저지연용 MAI-Image-2.6-Flash를 추가했다. MAI-Image-2.6은 Arena에서 text to image와 이미지 편집 모두 No. 2, Artificial Analysis에서는 text-to-image가 No. 2, 이미지 편집이 No. 1이다. Flash는 GPT-Image-2-Medium보다 2.8배 빠르고 효율은 72% 높다고 밝혔다.

9월 3일목
9월 1일화
  1. Hugging Face Blog50

    Hugging Face, 브라우저 추론용 WebGPU 커널 207개와 @huggingface/kernels 공개

    Hugging Face가 WebGPU 커널 207개와, Hub에서 커널을 불러와 실행하는 JavaScript 라이브러리 @huggingface/kernels를 공개했다. 각 커널은 webgpu-kernels 조직 아래 개별 리포지토리로 배포되며, 라이선스는 Apache-2.0이다. 아울러 브라우저에서 커널의 성능과 정확성을 측정하는 벤치마크 도구 Fleet도 함께 공개했으며, 사용자의 동의를 얻은 뒤 실제 기기에서 얻은 결과를 수집해 개선에 활용할 계획이다.

  2. Claude Platform release notes57

    Anthropic, Claude Fable 5.1·Claude Mythos 5.1 공개…캐시 읽기 요금 인하

    Anthropic은 장시간 실행되는 에이전트형 코딩, 지식 업무, 연구용 Claude Fable 5.1(claude-fable-5-1)을 공개했다. Project Glasswing 참여자에게는 Claude Mythos 5.1(claude-mythos-5-1)도 제공한다. 두 모델은 1M 토큰 컨텍스트 윈도우, 최대 128k 출력 토큰, 상시 켜진 적응형 사고를 지원한다. 요금은 Claude Fable 5와 같은 $10 / $50 per MTok이며, 캐시 읽기는 $0.25 per MTok으로 내려갔다.

8월 25일화
  1. Hugging Face Blog55

    Multiverse Computing, 4비트 압축 모델 회복 기법 QAH 제안… bfloat16 버전을 9개 중 7개 벤치마크에서 상회

    Multiverse Computing은 압축과 양자화를 거친 모델을 회복하는 Quantization-Aware Healing(QAH)을 제안했다. GPT-OSS 120B를 60B로 압축해 MXFP4로 만든 모델이 자체 bfloat16 버전을 9개 벤치마크 중 7개에서 상회했다. 압축 전 원본 모델을 교사로 삼아 KL 발산으로 증류한다는 점이 특징이다.

  2. Hugging Face Blog38

    Gradio의 gr.Workflow로 AI 파이프라인을 그래프로 구축하고 드래그 앤 드롭으로 실행·배포

    Gradio의 새 기능 gr.Workflow는 타입이 지정된 노드의 그래프로 AI 파이프라인을 정의하며, 드래그 앤 드롭으로 실행할 수 있는 캔버스로 제공된다. 같은 그래프는 REST API로도 공개되며, 명령어 한 줄로 Hugging Face Spaces에 배포할 수 있다. 이미지 편집, 이미지 생성에서 이어지는 배경 제거와 음성 합성, ZeroGPU를 이용한 GPU 모델 실행 등의 데모가 Hugging Face Spaces에서 공개되어 있다.

8월 21일금
  1. Hugging Face Blog42

    Hugging Face Inference Endpoints, Jobs, Buckets로 Papers with Code 검색을 뒷받침하는 방법

    Papers with Code 검색은 PostgreSQL 전문 검색과 pgvector 벡터 검색을 RRF로 통합한 하이브리드 검색으로 구축되었다. 논문 임베딩은 Hugging Face Jobs의 L4 GPU에서 오프라인으로 생성하며, arXiv와 Daily Papers의 11만 건이 넘는 현행 논문을 대상으로 한다. 온라인에서는 쿼리 임베딩만 Inference Endpoints에서 처리하고, 엔드포인트가 중지되거나 혼잡할 경우 전문 검색으로 전환한다.

  2. Hugging Face Blog52

    Liquid AI, LFM2.5용 DSpark 드래프트 모델 공개… 추론 최대 3.2배 빨라져

    Liquid AI가 LFM2.5-1.2B-Instruct, LFM2.5-2.6B, LFM2.5-8B-A1B 3개 모델용 DSpark 드래프트 모델을 공개했다. 투기적 디코딩을 통해 출력 품질을 바꾸지 않고 GPU에서 최대 3.18배, 온디바이스에서 최대 2.87배의 처리량 향상을 보였다. llama.cpp와 SGLang에서 출시 첫날부터 사용할 수 있으며, LFM2.5-2.6B의 함수 호출 지연 시간은 평균 57% 줄었다.

8월 20일목
8월 14일금
  1. Hugging Face Blog42

    Strands Agents, LeRobot, Hugging Face Storage Buckets로 로봇 데이터 수집부터 학습, 배포까지 한곳에서 운영하기

    Strands Robots의 에이전트 루프로 로봇 데모 기록, Hub에서 직접 스트리밍하는 학습, 정책의 하드웨어 재배포를 하나의 데이터 루프로 실행하는 방법을 설명한다. 데이터는 LeRobot 형식 그대로 Storage Bucket에 동기화되며, 동기화할 때마다 변경된 바이트만 업로드된다. 학습 시에는 `stream_dataset(repo_type="bucket")`으로 다운로드하지 않고 읽어 들이며, 배포는 `mode="real"` 인자를 바꾸는 방식으로 이루어진다.

8월 11일화
  1. Mistral AI News53

    Mistral, Regional Endpoints 정식 제공 및 Priority Tier 공개 프리뷰 시작, GLM-5.2 지원도 개시

    Mistral은 추론을 유럽 또는 미국에서 실행할 수 있는 Mistral Regional Endpoints를 일반 제공으로 전환하고, 가동률 SLA가 적용되는 Mistral Priority Tier를 공개 프리뷰로 시작했다고 밝혔다. 아울러 Z.ai의 GLM-5.2를 시작으로 서드파티 오픈 모델을 지원하며, 유럽 컴퓨팅 자원을 장기간 확보하기 위한 기업 연합 구상도 내놓았다. 2030년까지 최대 1 GW의 용량 구축을 계획하고 있다.

  2. Claude Platform release notes33

    Claude Platform 릴리스 노트 (2026년 8월 11일)

    Anthropic은 Compliance API를 통해 사용자 기기에서 실행되는 Cowork 및 Claude Code 세션의 트랜스크립트를 조회할 수 있도록 했다(Claude Enterprise 조직 대상 베타). 세션 목록, 메타데이터, 트랜스크립트를 가져오는 GET 엔드포인트가 추가되었다. Claude API에는 wrkspc_로 시작하는 워크스페이스 ID를 반환하는 anthropic-workspace-id 응답 헤더도 새로 생겼다.

8월 10일월
  1. Claude Platform release notes78

    Claude Platform 릴리스 노트: Claude Opus 5.5, Sonnet 5.5, Haiku 5.5 추가 및 Managed Agents 기능 확충

    Anthropic의 Claude Platform 릴리스 노트는 Claude API, 클라이언트 SDK, Claude Console의 변경 사항을 최신순으로 정리했다. Claude Opus 5.5, Claude Sonnet 5.5, Claude Haiku 5.5의 제공 시작과 함께 Claude Managed Agents의 기능 추가 및 Compliance API 확대가 기재되어 있다.

    선정 이유: 모델 추가, 요금 변경, 호환성 문제를 일으키는 변경, Managed Agents 기능이 날짜순으로 정리되어 있어 API 이전 시 확인해야 할 변경 사항을 파악하기 쉽다.

8월 7일금
  1. Claude Platform release notes51

    Claude Managed Agents, 세션 예산 및 어드바이저, inference_geo 지정 등 추가

    Anthropic은 Claude Managed Agents 세션에 예산 상한을 설정할 수 있는 기능을 추가했다. 예산에 도달한 세션은 budget_reached로 일시 중지되며, 예산을 변경하거나 삭제하면 재개된다. 이와 함께 어드바이저 설정, 추론 지역 지정, GitHub 저장소에서 스킬을 불러오는 기능도 지원하게 됐다.

8월 6일목
  1. Hugging Face Blog33

    Baseten, Hugging Face Inference Providers 지원

    Baseten이 Hugging Face Hub의 Inference Provider로 이용 가능해졌다. 대화 및 텍스트 생성 작업에서 Kimi K3, DeepSeek V4 Flash, GLM-5.2 등 오픈 웨이트 LLM을 서버리스 추론으로 사용할 수 있다. HF를 경유한 라우팅에서는 프로바이더의 표준 API 요금만 청구되며, HF가 추가로 붙이는 요금은 없다. 그 밖의 작업은 순차적으로 지원될 예정이다.

8월 1일토
  1. Claude Platform release notes65

    Claude Platform 릴리스 노트, Claude Opus 5.5·Sonnet 5.5·Haiku 5.5 등 API 업데이트 게재

    Anthropic의 Claude Platform 릴리스 노트는 Claude Opus 5.5, Claude Sonnet 5.5, Claude Haiku 5.5의 제공 시작과 Claude Managed Agents의 기능 추가를 게재했다. Opus 5.5는 1M 토큰 컨텍스트 윈도우와 128k 최대 출력을 갖추며, 요금은 $4 / $20 per MTok이다. Sonnet 5.5의 캐시 읽기 요금은 $0.10 per million tokens로 인하되었다.

    선정 이유: 모델 추가, 요금 개정, 지원 종료 예정, Managed Agents 기능 추가가 날짜순으로 정리되어 있어 API 이전 시 호환성이 깨지는 변경 사항도 쉽게 확인할 수 있다.

7월 31일금
  1. Hugging Face Blog28

    GPU 관리: 유휴 GPU가 새로운 ‘지상 대기 항공기’가 되는 이유

    기업용 AI의 다음 제약은 모델 성능보다 GPU 가동률이 되어가고 있다. GPU는 가동 여부와 상관없이 시간 단위로 비용이 발생하기 때문에, 유용하게 쓰이지 않는 시간이 수익성을 크게 좌우한다. API 비용은 이용량에 비례해 늘어나는 반면, 자체 GPU 비용은 거의 고정되어 있어 일정량을 넘으면 자체 보유가 유리해진다. 다만 인프라는 피크 수요에 맞춰 설계되므로, 상시 가동 중이더라도 클러스터 전체의 능력은 낭비되기 쉽다.

7월 27일월
  1. Hugging Face Blog46

    NVIDIA, 수술 로봇용 실시간 생성 시뮬레이터 Cosmos-H-Dreams 발표

    NVIDIA는 수술 로봇용 실시간 생성 시뮬레이터 「Cosmos-H-Dreams」를 발표했다. Cosmos-H-Surgical-Simulator를 인과적 소수 단계(few-step) 학생 모델로 증류하고, 스트리밍 추론 라이브러리 FlashDreams로 제공한다. 단일 NVIDIA RTX PRO 6000 GPU에서 동작하며, 사람 또는 학습된 정책이 폐루프(closed-loop)로 조작할 수 있다.

7월 24일금
  1. Claude Platform release notes76

    Anthropic、Claude Opus 5(claude-opus-5)공개

    Anthropic은 Claude Opus 4.8보다 크게 개선됐다고 밝힌 Claude Opus 5(claude-opus-5)를 공개했다. 1M 토큰 컨텍스트 윈도우와 128k 최대 출력 토큰을 지원하며, 가격은 100만 토큰당 $5 / $25로 Claude Opus 4.8과 같다. Claude API 외에 Amazon Bedrock, Google Cloud, Microsoft Foundry 등에서 이용할 수 있다.

    선정 이유: 가격을 그대로 유지한 채 사양이 정리되어 있고, thinking 비활성화 시 400 오류 등 호환성을 깨는 변경 사항도 정리되어 있어 마이그레이션 시 확인할 점을 쉽게 파악할 수 있다.

7월 23일목
  1. Hugging Face Blog60

    Hugging Face, Diffusers 본체에서 Nunchaku Lite 4비트 확산 모델 추론 지원

    Hugging Face가 Diffusers에서 Nunchaku의 SVDQuant(W4A4) 체크포인트를 `from_pretrained()`로 직접 불러올 수 있도록 했다. 로컬에서 CUDA를 컴파일할 필요는 없으며, kernels 패키지를 통해 커널을 가져온다. RTX PRO 6000에서의 측정 결과, BF16 대비 최대 피크 VRAM을 50% 줄였고 지연 시간은 약 30% 개선됐다.

    선정 이유: W4A4 양자화가 weight-only와 무엇이 다른지 설명하고 속도와 VRAM의 실측치도 함께 제시하고 있어, 보유한 GPU에서 도입할지 판단하기 쉽다.

7월 22일수
  1. Claude Platform release notes38

    Claude Platform 릴리스 노트(2026년 7월 22일)

    Anthropic은 Claude Managed Agents의 설정, Webhook, 세션, 스레드 스트림을 업데이트했다. 모델 설정에서 effort level을 지정할 수 있게 되었고, environment와 memory_store의 라이프사이클 변경을 Webhook으로 수신할 수 있게 되었다. 세션 생성 시 initial_events에 user.message와 user.define_outcome을 최대 50건까지 전달하면, 별도의 이벤트 전송 없이도 에이전트 루프가 시작된다.

7월 21일화
  1. Microsoft Source: AI40

    Microsoft, AMD와 협력해 Azure의 AI·HPC 인프라 확충

    Microsoft는 AMD의 Helios AI 플랫폼과 차세대 EPYC 프로세서를 Azure에 도입해 HDv2 VM, HXv2 VM, ND MI455X v7 VM 등 3종을 제공할 예정이라고 발표했다. HDv2는 6세대 AMD EPYC의 물리 코어 약 500개와 4테라바이트 RAM을 갖춰 데이터 처리용으로 쓰인다. HXv2는 176코어에 5GHz 이상으로 동작하며 EDA와 HPC용이다. ND MI455X v7은 AI 추론용이다.