본문 바로가기

#배포·인프라

오늘 0건
10월 25일일
  1. Search: AI launches52

    Microsoft, 의사결정 특화 모델 'Microsoft-Decision-1'을 Microsoft Foundry에서 제공 시작

    Microsoft가 Microsoft Foundry에서 선택지 중에서 구조화된 판단을 반환하는 의사결정 특화 모델 Microsoft-Decision-1을 발표했다. Qwen3.5-9B를 기반으로 추가 학습한 모델로, 회사의 비교에 따르면 응답 시간 중앙값이 GPT-6 Sol보다 약 35배 빠르다. 입력은 토큰 100만 개당 $0.042이며, 출력 토큰은 무료다.

10월 24일토
  1. Search: AI launches56

    Kimi K3.1 Pro 공개, 코딩과 장기 작업 능력 강화… Highspeed 버전과 API 요금도 정리

    Moonshot은 Kimi K3.1 Pro를 2026년 10월 23일 Kimi.ai, 모바일 앱, Kimi Work, Kimi Code, API를 통해 제공을 시작했다고 밝혔다. Terminal-Bench 4.0에서 65.7%를 기록했다고 보고했으며, Artificial Analysis의 Intelligence Index는 55이다. 다운로드 가능한 가중치는 11월 4일까지 공개될 예정이라고 한다.

10월 22일목
  1. Search: AI launches41

    Inception、확산 기반 LLM 「Mercury 3」 발표… 초당 1,068토큰 주장

    Inception이 확산 기반 대규모 언어 모델(LLM) 「Mercury 3」를 발표했다. NVIDIA GPU에서 초당 1,068토큰을 생성하는 것으로 알려졌으며, 컨텍스트 윈도우는 100만 토큰이다. 표준 가격은 입력 100만 토큰당 0.20달러, 출력 100만 토큰당 0.70달러이며, 도입 할인 50%가 적용된다. API 외에 OpenRouter, Baseten, Vercel을 통해 이용할 수 있다. 회사 측은 동급 속도 중시 모델보다 4~8배 빠르다고 주장하지만, 모두 회사가 공표한 데이터에 근거한 것이다.

  2. Hugging Face Blog62

    NVIDIA, 사전 학습된 관계형 기반 모델 Kumo Relational 공개

    NVIDIA는 기업 데이터베이스에서 추가 학습 없이 예측할 수 있는 사전 학습된 관계형 기반 모델 Kumo Relational을 공개했다. 최대 10,000건의 과거 사례를 컨텍스트로 읽어 들여, 한 번의 포워드 패스로 이탈, 수요, 부정 거래 등을 예측한다. 15개 데이터베이스에 걸친 41개 과제에서 지도 학습 모델과 전문가가 설계한 그래디언트 부스팅 트리 파이프라인을 능가했다고 밝혔다.

    선정 이유: 관계형 데이터를 위한 기반 모델의 구조, 벤치마크 결과, 한계, 활용 방법이 한 흐름으로 정리되어 있어 기존 예측 파이프라인과 비교하는 자료로 쓸 만하다.

10월 21일수
  1. Search: AI launches52

    Inception, 확산형 LLM 'Mercury 3' 발표… NVIDIA GPU에서 초당 1,068토큰

    Inception은 확산형 대규모 언어 모델(LLM) Mercury 3를 발표했다. 회사에 따르면 NVIDIA GPU에서 최대 초당 1,068토큰을 생성하며, 컨텍스트 윈도우는 1 million tokens이다. 표준 가격은 입력 $0.20, 출력 $0.70(모두 100만 토큰당)이며, 현재 출시 기념 50% 할인이 적용된다. OpenAI API와 호환되며, 회사는 여러 벤치마크에서 GPT-6 Luna와 Claude Haiku 5.5에 필적하거나 이를 능가한다고 주장하고 있다.

10월 20일화
  1. AI at Meta40

    Meta는 오하이오주 New Albany의 기가와트급 슈퍼클러스터 「Prometheus」에서 Muse Wonder를 포함한 Muse 기반 모델을 학습했다고 밝혔다. Muse Wonder 학습에서 사전 학습의 goodput은 85% 이상, 강화 학습은 90% 이상이며, 평균 중단 간격은 약 47K GPU 시간이다. 수십만 개 규모의 GPU에서는 일부 호스트의 성능 저하가 전체 학습을 지연시키므로, 대규모에서의 내결함성을 중시하여 설계했다고 한다.

  2. TechCrunch AI45

    Nvidia, 에이전트용 오픈 웨이트 모델 「Nemotron 3.5」 발표

    Nvidia는 상시 가동 에이전트와 엣지 컴퓨팅을 위한 오픈 웨이트 모델을 발표했다. 기업용 「Nemotron 3.5 Super VL」은 120B 파라미터로, 지시 따르기와 도구 활용 작업에서 Nemotron 3 Ultra에 가까운 정확도를 보인다고 한다. PC용으로는 경량 모델 「Nemotron 3.5 Bolt 74B-A9B 24GB」와 「Bolt E4B」를 내놓았다. Super VL과 Bolt 74B-A9B는 이미 제공을 시작했으며, Bolt E4B는 이번 달 후반에 제공될 예정이다.

10월 19일월
  1. xAI News58

    xAI, 장시간 에이전트용 Grok 4.6 공개… Cursor와 Grok Build에서 이용 가능

    xAI는 Grok 4.5를 기반으로, 장시간 동작하는 에이전트와 대화형·시각적 작업에 중점을 둔 Grok 4.6을 공개했다. Artificial Analysis Intelligence Index에서는 GPT-5.6 Sol과 같은 61점이다. Cursor와 Grok Build에서 이용할 수 있으며, API 요금은 입력 100만 토큰당 $2, 출력 100만 토큰당 $6부터다.

10월 17일토
  1. AWS Machine Learning Blog49

    Reflection Beam 출시, AWS에서 제공되는 에이전트형 코딩용 오픈 웨이트 모델

    Reflection AI가 에이전트형 코딩과 장기 작업을 위한 오픈 웨이트 모델 Beam을 공개했다. 총 파라미터 501B, 활성 파라미터 23B의 희소 MoE(Mixture of Experts) 구조이며, 회사 측은 실효 컨텍스트 길이가 1M 토큰이라고 밝혔다. 가중치는 Apache 2.0 라이선스로 Hugging Face에서 제공되며, 발표 시점에는 Amazon SageMaker JumpStart의 미국 동부(버지니아 북부, 오하이오) 리전에서 이용할 수 있다.

10월 14일수
  1. AWS Machine Learning Blog38

    Amazon Bedrock에서 Grok 4.7로 장기 작업형 에이전트 구축

    AWS는 Amazon Bedrock의 Grok 4.7로 도구 호출 에이전트를 구축하고, 추론 노력 수준별로 검색형 작업에서 평가했다고 밝혔다. 세 가지 작업, 총 72회 실행에서 67회 정답을 맞혔으며, xhigh는 18회 모두 정답, low는 18회 중 15회 정답이었고 출력 토큰은 약 8분의 1이었다. Grok 4.7은 크로스 리전 추론 프로파일을 통해 이용할 수 있으며, SpaceXAI가 공개한 컨텍스트 윈도우는 500K 토큰이다.

10월 8일목
  1. Simon Willison61

    Claude Haiku 5.5, GPT-6 Luna와 같은 가격으로 등장…토크나이저 변경으로 실질 인상도

    Anthropic이 고속·저가 모델 Claude Haiku 5.5를 공개했다. 가격은 100,000토큰까지 입력 $0.10, 출력 $0.50으로, GPT-6 Luna와 같은 금액이다. 100,000토큰을 넘으면 $0.50, $2.50으로 오른다. Simon Willison은 새 토크나이저에서는 같은 장문 프롬프트의 토큰 수가 약 1.25배가 된다고 보고했다.

10월 6일화
9월 30일수
  1. Qwen38

    Qwen3.8-27B가 @nebiustf를 통해 이용 가능해졌다. 에이전트 구축이든 딥 리서치든, 이 27B dense 모델은 다단계 워크플로에 대응할 수 있다. 🥳

    인용Nebius Token Factory@nebiustf

    Qwen3.8-27B is now live on Nebius Token Factory. A compact 27B dense model for coding, research, and agent workflows, with a focus on planning and completing tasks across multiple steps. Start building: https://tokenfactory.nebius.com/endpoints?modals=endpoint-details&model-id=Qwen/Qwen3.8-27B

9월 28일월
  1. Claude Platform release notes62

    Anthropic, Claude Sonnet 5.5(claude-sonnet-5-5) 공개

    Anthropic이 Claude Sonnet 5.5(claude-sonnet-5-5)를 공개했다. Claude API, Amazon Bedrock, Google Cloud, Microsoft Foundry 등에서 이용할 수 있으며, Claude Sonnet 5용 코드는 5개 지점에서 작동하지 않을 가능성이 있다.

    선정 이유: Claude Sonnet 5에서 이전할 때 깨질 수 있는 5개 지점이 구체적으로 나열되어 있어, 기존 코드의 영향 범위를 확인하는 실마리가 된다.

9월 24일목
  1. Google DeepMind Blog57

    Google DeepMind、Gemini 3.8 Flash TTS와 Flash-Lite TTS 발표

    Google DeepMind는 음성 생성 모델 Gemini 3.8 Flash TTS와 Gemini 3.8 Flash-Lite TTS를 발표했다. Flash TTS는 자연어 프롬프트로 목소리를 새로 만들고 줄 단위 연기 지시를 지원하며, Flash-Lite TTS는 대량 처리와 비용 효율에 특화되어 있다. 두 모델은 오늘부터 Gemini API와 Google AI Studio에서 제공되고 있다.

9월 5일토
  1. Microsoft AI (MAI) News50

    Microsoft, Foundry에서 MAI-Image-2.6 제공 시작… 고속 버전 MAI-Image-2.6-Flash도 추가

    Microsoft가 이미지 모델 MAI-Image-2.6을 Microsoft Foundry 개발자용으로 제공하고, 저지연용 MAI-Image-2.6-Flash를 추가했다. MAI-Image-2.6은 Arena에서 text to image와 이미지 편집 모두 No. 2, Artificial Analysis에서는 text-to-image가 No. 2, 이미지 편집이 No. 1이다. Flash는 GPT-Image-2-Medium보다 2.8배 빠르고 효율은 72% 높다고 밝혔다.

9월 1일화
  1. Claude Platform release notes63

    Anthropic, Claude Fable 5.1과 Claude Mythos 5.1 공개... 캐시 읽기 요금 인하

    Anthropic은 장시간 에이전트형 코딩, 지식 업무, 연구용으로 Claude Fable 5.1(claude-fable-5-1)을 공개했다. Project Glasswing 참여자에게는 Claude Mythos 5.1(claude-mythos-5-1)도 제공한다. 두 모델은 1M 토큰 컨텍스트 윈도우, 최대 128k 출력 토큰, 상시 켜진 적응형 사고를 지원하며, 가격은 Claude Fable 5와 같은 $10 / $50 per MTok이다. 캐시 읽기는 $0.25 per MTok으로 낮아졌다.

    선정 이유: 가격을 그대로 두고 캐시 읽기를 $0.25/MTok으로 낮춘 점과, tool_choice 미지원 등 이전 시 달라지는 점을 한데 정리했다.

8월 21일금
  1. Hugging Face Blog52

    Liquid AI, LFM2.5용 DSpark 드래프트 모델 공개… 추론 최대 3.2배 빨라져

    Liquid AI가 LFM2.5-1.2B-Instruct, LFM2.5-2.6B, LFM2.5-8B-A1B 3개 모델용 DSpark 드래프트 모델을 공개했다. 투기적 디코딩을 통해 출력 품질을 바꾸지 않고 GPU에서 최대 3.18배, 온디바이스에서 최대 2.87배의 처리량 향상을 보였다. llama.cpp와 SGLang에서 출시 첫날부터 사용할 수 있으며, LFM2.5-2.6B의 함수 호출 지연 시간은 평균 57% 줄었다.

7월 27일월
  1. Hugging Face Blog46

    NVIDIA, 수술 로봇용 실시간 생성 시뮬레이터 Cosmos-H-Dreams 발표

    NVIDIA는 수술 로봇용 실시간 생성 시뮬레이터 「Cosmos-H-Dreams」를 발표했다. Cosmos-H-Surgical-Simulator를 인과적 소수 단계(few-step) 학생 모델로 증류하고, 스트리밍 추론 라이브러리 FlashDreams로 제공한다. 단일 NVIDIA RTX PRO 6000 GPU에서 동작하며, 사람 또는 학습된 정책이 폐루프(closed-loop)로 조작할 수 있다.

7월 24일금
  1. Claude Platform release notes73

    Anthropic, Claude Opus 5(claude-opus-5) 공개… 1M 토큰 컨텍스트 윈도우 지원

    Anthropic이 Claude Opus 5(claude-opus-5)를 공개했다. Claude Opus 4.8 대비 대폭 개선됐다고 밝혔으며, 1M 토큰 컨텍스트 윈도우와 최대 128k 출력 토큰을 지원하고 사고(thinking)가 기본으로 켜진다. 가격은 $5 / $25 per MTok로 Claude Opus 4.8과 동일하다.

    선정 이유: Claude Opus 5의 사양과 가격에 더해 사고 비활성화 동작 변경과 이전 모델의 fast mode 종료도 함께 정리되어 있어, 이전 시 확인해야 할 사항을 파악하기 쉽다.

7월 15일수
  1. Hugging Face Blog72

    Thinking Machines Lab, 이미지·음성·텍스트 지원 오픈 모델 Inkling과 Inkling-Small 공개

    Thinking Machines Lab이 이미지, 텍스트, 음성을 입력할 수 있는 약 1T 파라미터 오픈 모델 Inkling을 Hugging Face에 공개했다. 총 파라미터 975B, 활성 파라미터 41B의 MoE 구조이며 1M 컨텍스트를 지원한다. 총 276B, 활성 12B인 Inkling-Small도 추가되었으며, Inference Endpoints에서 원클릭으로 배포할 수 있다.

    선정 이유: 아키텍처 세부 사항, 필요 VRAM, 각 추론 엔진별 실행 절차, 벤치마크 표가 한데 정리되어 있어 도입 여부를 판단하는 자료로 활용할 수 있다.

6월 11일목
  1. Google DeepMind Blog60

    Google DeepMind, 실험적 텍스트 확산 오픈 모델 DiffusionGemma 공개

    Google DeepMind가 텍스트 확산(diffusion) 방식을 채택한 26B MoE 오픈 모델 DiffusionGemma를 Apache 2.0 라이선스로 공개했다. 전용 GPU에서 최대 4배 빠른 추론을 구현하며, 단일 NVIDIA H100에서 초당 1000개 이상의 토큰, NVIDIA GeForce RTX 5090에서 초당 700개 이상의 토큰을 출력한다. 다만 출력 품질은 표준 Gemma 4보다 낮아, 높은 품질이 필요한 용도에는 Gemma 4를 권장하고 있다.

    선정 이유: 자기회귀 모델과의 속도 차이가 발생하는 원리, 로컬 추론에 적합한 조건, 클라우드 배포에서는 장점이 줄어드는 지점이 정리되어 있어 용도를 가늠하기에 유용하다.

6월 9일화
  1. Claude Platform release notes67

    Anthropic, Claude Fable 5 및 Claude Mythos 5 발표… Claude Platform 릴리스 노트

    Anthropic은 전체 고객 대상의 최고 성능 모델 Claude Fable 5(claude-fable-5)와 Project Glasswing 참여자 대상의 Claude Mythos 5(claude-mythos-5)를 공개했다. 두 모델 모두 컨텍스트 윈도우는 기본 1M 토큰, 최대 출력은 128k 토큰이며, 적응형 사고가 상시 활성화되어 있다. Claude Opus 4.7 이전 모델과 비교하면 같은 텍스트에서 토큰 수가 약 30% 늘어난다.

    선정 이유: 모델 사양과 함께, 토크나이저 변경에 따른 약 30% 토큰 증가 및 사고 모드 제약 등 마이그레이션 시 확인해야 할 조건이 정리되어 있다.

6월 2일화
  1. Microsoft AI (MAI) News58

    Microsoft AI, MAI 모델 7종 공개… Frontier Tuning 및 Mayo Clinic과의 제휴도 발표

    Microsoft AI가 새로운 MAI 모델 7종을 공개했으며, OpenRouter, Fireworks, Baseten, Foundry를 통해 제공한다고 밝혔다. 개발자가 모델 가중치를 직접 튜닝할 수 있게 된 것은 이번이 처음이라고 한다. 강화학습으로 자사 워크플로에 AI를 맞추는 Microsoft Frontier Tuning도 발표했으며, Excel용 MAI 튜닝 모델은 GPT 5.4와 대등하면서 최대 10배 효율적이라고 밝혔다.

12월 3일수
  1. Mistral AI News71

    Mistral AI, Mistral 3 발표… Mistral Large 3·Ministral 3를 Apache 2.0으로 공개

    Mistral AI가 차세대 모델 Mistral 3를 발표했다. 14B·8B·3B의 소형 dense 모델과, 활성 파라미터 41B·총 675B 규모의 MoE인 Mistral Large 3로 구성되며, 전 모델을 Apache 2.0 라이선스로 공개한다. Mistral Large 3는 LMArena에서 OSS 비추론 모델 부문 2위를 기록했고, Ministral 3 14B의 추론 버전은 AIME '25에서 85%를 달성했다.

    선정 이유: 3B·8B·14B 소형 모델과 675B 규모 MoE를 동일한 Apache 2.0으로 공개해, 용도별 선택지와 배포처를 비교하기 쉽다.

5월 7일수