본문 바로가기

#배포·인프라

오늘 12건
10월 28일수
  1. Latent Space62

    Anthropic은 어떻게 거의 모든 제품을 Claude로 출시하는가, 두뇌와 손을 나누는 설계를 담당자가 말하다

    Latent Space가 Anthropic의 엔지니어링 책임자 Katelyn Lesse와 프로덕트 책임자 Angela Jiang을 만나 Opus 5.5 공개의 뒷이야기와 Claude Platform의 설계를 들었다. 증류 대책으로서의 thinking block 보존, Managed Agents에서 두뇌(하네스)와 손(샌드박스)의 분리가 주요 화제다. 모델 능력이 향상되면서 공개 시의 접근 관리와 안전 대책이 작업의 대부분을 차지하게 되었다고 한다.

  2. Claude Blog40

    Google Cloud에서 Claude Code 비용을 관리하고 ROI를 입증하는 방법

    Anthropic은 Google Cloud의 Claude Code 비용을 '관리(control)', '추적(track)', '효과 입증(prove)'의 세 단계로 정리하는 방법을 설명했다. Claude apps gateway에서는 사용자, IdP 그룹, 조직 단위별로 일·주·월 단위 사용 한도를 설정할 수 있으며, 한도의 75%와 95%를 넘으면 개발자에게 경고가 표시된다. 한도에 도달하면 gateway는 429 응답을 반환한다. 또한 비용을 평가할 때 가장 중요한 지표는 작업당 비용이라고 밝혔다.

  3. AWS Machine Learning Blog31

    Exowatt, SageMaker 서버리스 모델 커스터마이징으로 정확도에서 프런티어 모델 능가

    Exowatt는 Amazon SageMaker AI의 서버리스 모델 커스터마이징을 활용해, 엣지용 알람 트리아지를 위한 Qwen3-1.7B와 클라우드용 에너지 시장 분석을 위한 Qwen3-14B를 파인튜닝했다. 그 결과 프런티어 모델보다 높은 정확도를 최대 49배 낮은 비용으로 구현했다고 밝혔다.

  4. AWS Machine Learning Blog40

    Amazon SageMaker AI, SOCI 인덱스 지원 이미지로 작업 시작 속도 향상

    Amazon SageMaker AI의 학습 및 처리 작업에서 SOCI(Seekable OCI) 인덱스를 활용한 컨테이너 이미지 지연 로딩을 지원하기 시작했다. 벤치마크에서는 1.8GB 이미지의 다운로드 시간이 48초에서 3~11초로 줄었다. 작업 정의를 변경할 필요가 없으며, 인덱스가 없는 경우에는 일반 다운로드 방식으로 되돌아가 실행된다.

10월 27일화
  1. TechCrunch AI35

    General Compute, 시리즈 A에서 1억 달러 조달…‘네오클라우드 부진론’에 대응

    General Compute는 Blackbird Ventures와 Abstract Ventures가 주도한 시리즈 A에서 1억 달러를 조달했다고 밝혔다. 사후 평가액은 8억 달러로, 5월 시드 라운드 후 평가액 6,000만 달러에서 상승했다. 추론 전용 칩을 중심에 두고, SambaNova와의 4억 달러 규모 칩 구매 계약과 Positron, Cerebras의 추가 등을 통해 공급처를 넓히고 있다. 2027년에는 75MW 규모의 컴퓨팅 능력을 전개할 계획이다.

  2. MIT Technology Review AI25

    제조업의 다음 성장 기회는 '산업 인텔리전스'

    제조업의 다음 성장 기회는 현장 경험과 생산 데이터 등을 포함한 '산업 인텔리전스'를 의사결정의 장에 전달하고, 이를 물리 세계의 제조 프로세스와 연결하는 데 있다. Toyota Industries는 도장 공정에서 분리되어 있던 데이터를 연결해 분석 주기를 5일에서 4시간 미만으로 단축했다. 파일럿에서는 관련 도장 결함을 약 25% 줄였다고 회사는 보고했다.

  3. TechCrunch AI29

    Nvidia, 인도 신생기업 Simplismart에 출자… 적은 GPU로 AI 모델을 구동하는 소프트웨어 지원

    Nvidia는 AI 추론 최적화 소프트웨어를 개발하는 인도의 Simplismart가 주도한 1,400만 달러 규모의 Series B 자금 조달에 참여했다. 조달 금액은 1,400만 달러이며, 기업 가치는 약 1억 달러로 알려졌다. 이 회사의 소프트웨어는 기존 GPU 환경에서 모델의 응답 속도와 처리량, 연산 자원 소비를 최적화하며, InVideo에서는 GPU 서빙 비용을 56% 절감했다고 설명하고 있다.

  4. Latent Space72

    Anthropic, S-1 공개하고 나스닥 'ANT'로 상장 추진… 2026년 상반기 매출 162억 달러, 2분기 영업흑자

    Anthropic가 S-1을 공개하고 Nasdaq에 'ANT' 티커로 상장할 계획을 밝혔다. 매출은 2023년 4,100만 달러에서 2026년 상반기 163억 달러로 늘었으며, 2분기 영업이익은 9억 7,400만 달러였다. 클라우드를 통한 매출 비중은 48%이고, 막대한 컴퓨팅 자원 약정 내역도 공개됐다.

  5. 삼성전자 뉴스룸22

    삼성전자, '삼성 AI 구독' 개편…배송·설치·AS까지 맞춤형 케어 확대

    삼성전자가 가전 구독 서비스를 '삼성 AI 구독'으로 개편하며 고객 생애주기와 관리 방식에 따라 옵션을 세분화했다. 신혼부부를 위한 '신혼 패스'와 시니어를 위한 '이지케어 패스'를 새로 선보였고, 관리 옵션에 '방문케어 라이트'를 더해 총 4가지로 늘렸다. 기업 고객을 위한 'B2B AI 구독'도 신설해 최대 6년간 무상 AS를 제공한다.

  6. Search: AI launches41

    오픈소스 경쟁 속 DeepSeek 등 AI 기업들의 공개 전략 분석

    DeepSeek는 10월 20일 사내 추론 프레임워크 DeepInfer를 Apache 2.0 라이선스로, 토큰 변환 컴포넌트 deepseek-recipe를 MIT 라이선스로 GitHub에 공개했다. 기사에 따르면 DeepInfer로 운영되는 클러스터 하나는 하루 약 155조 토큰의 요청을 처리하고 있다. 기사는 또한 Microsoft가 2018년 GitHub를 75억 달러에 인수하고 Azure를 중심으로 오픈소스 쪽으로 방향을 튼 사례를 들며, 오픈소스화가 경쟁 우위를 잃을 경우 후퇴가 빨라질 수 있다는 점을 검증하고 있다.

  7. The Verge AI48

    Anthropic, S-1에서 데이터센터의 천연가스 의존 공개

    Anthropic은 미국 증권거래위원회(SEC)에 제출한 S-1에서 데이터센터가 천연가스 의존도를 높이고 있다고 인정하며, 연료 가격 상승과 공급망 제약이 사업 리스크가 될 수 있다고 밝혔다. 일부 계획에서는 현장 가스터빈 발전을 활용하고 있으며, 천연가스 확보나 파이프라인 수송 능력이 부족하면 데이터센터 계획이 연기되거나 철회될 수도 있다고 설명했다. 아울러 하이퍼스케일러와의 전력 및 가스 확보 경쟁이 천연가스 가격을 끌어올릴 가능성도 언급했다.

  8. WIRED AI69

    Anthropic, IPO 투자설명서에서 최근 분기 실적과 임대 조건 등 주요 수치를 공란으로 처리

    Anthropic이 제출한 IPO 증권신고서(S-1)에서는 직전 분기의 재무 수치와 컴퓨팅 투자에 관련된 리스 계약 금액 등이 공란으로 처리돼 있다. 반면 각주에는 인프라 관련 향후 최소 지급 의무가 합계 약 808억 달러 규모인 것으로 나타나 있다. 전문가들은 S-1에서 일부를 가리는 것 자체는 드문 일이 아니라면서도, 투자자에 대한 정보 공개 측면에서 면밀한 검토가 필요하다고 지적한다.

  9. TechCrunch AI53

    PHP 취약점 소동, 인터넷 기반의 취약성 드러내나… TechCrunch Equity에서 논의

    TechCrunch의 Equity 팟캐스트는 PHP에서 발견된 취약점에 대한 긴급 패치 요청을 다루며, AI 시대 인터넷 기반의 위험을 논의했다. 사이트 운영자에게는 즉시 패치 적용을 요구했으며, 불가능하면 사이트를 중단하도록 권고했다. 이번 취약점을 찾아낸 것은 AI 모델이 아닌 사람인 연구자였으며, 악용에는 AI가 사용됐다고 한다.

  10. AWS Machine Learning Blog35

    SageMaker SDK v3 기반 엣지 플릿 전체의 컴퓨터 비전 모델 라이프사이클

    AWS는 SageMaker Python SDK v3를 활용해 엣지 환경에서 카메라별 외관 검사 모델을 학습, 평가, 등록하는 샘플을 공개했다. 카메라마다 이상 탐지 모델과 결함 분류 모델을 학습하며, 품질 게이트를 통과한 모델만 SageMaker Neo로 컴파일해 등록한다. 합성 데이터로 파이프라인을 한 번 실행하는 데 드는 계산 비용은 약 $0.07이다.

  11. The Verge AI76

    Anthropic, SEC에 S-1 투자설명서 제출… 임원 보수·컴퓨팅 자원 계약·의결권 구조 드러나

    Anthropic이 SEC에 S-1 등록신고서를 제출했다. 300페이지가 넘는 서류에는 임원 보수, 컴퓨팅 자원에 대한 대규모 약정, 창업자에 의한 의결권 집중 등 지금까지 보도되지 않았던 내용이 포함돼 있다. The Verge는 처음 읽었을 때 눈에 띈 다섯 가지 사항을 정리했다.

    선정 이유: S-1 신고서의 300페이지 넘는 공시 자료에서 임원 보수, 컴퓨팅 자원 계약 금액, 의결권 구조 등의 수치를 한꺼번에 파악할 수 있다.

  12. AWS Machine Learning Blog42

    AWS CDK로 Managed Amazon Bedrock Knowledge Base 위에 에이전트형 검색 구축하기

    AWS CDK(Python)로 Managed Amazon Bedrock Knowledge Base 위에 에이전트형 검색을 구축하는 방법을 해설한다. 에이전트는 두 개의 Knowledge Base를 용도에 따라 구분해 사용하며, AgentCore Gateway를 거쳐 검색하고 출처를 포함한 답변을 반환하는 구성이다. 명령어 한 번으로 배포할 수 있으며, CloudWatch 대시보드 2종(7개 계층의 텔레메트리)과 온디맨드·연속 방식의 평가 2종도 같은 배포에 포함된다.

  13. TechCrunch AI66

    SpaceX、Apollo와 약 400억 달러 규모 GPU 파이낸싱에 구속력 있는 약정

    SpaceX는 AI 칩 및 관련 데이터센터 장비 조달을 위한 약 400억 달러 규모 파이낸싱에 대해 구속력 있는 약정에 이르렀다고 월요일 규제 당국에 제출한 서류에서 밝혔다. Apollo Global Management가 운용하는 사업체가 장비를 구매해 SpaceX에 임대하며, 임대 기간은 약 5년에서 5년 3개월이다. 거래 종결은 연말까지로 예상되며, 임대 개시는 2027년 상반기로 제시됐다.

10월 26일월
  1. The Decoder63

    Meta, AI 인프라 확대 자금으로 최대 950억 달러 규모 주식 매각 계획

    Meta는 AI 인프라 확대 자금을 조달하기 위해 최대 950억 달러 규모의 주식을 매각할 계획이다. 세부적으로는 Class A 보통주 225억 달러, 예탁주식 125억 달러, 의결권이 없는 신규 Class C 주식의 시장 매각 600억 달러로 구성된다. NVIDIA, AMD, Broadcom은 최대 50억 달러 규모의 매입에 대해 구속력 없는 관심을 표명했다.

  2. The Decoder39

    월가 초고속 거래 회사, AI 경쟁 선점을 위해 데이터센터 구축과 칩 스타트업 지원 나서

    월가의 고빈도 거래 회사 Jane Street와 Hudson River Trading이 AI용 컴퓨팅 자원 확보 경쟁을 강화하고 있다. Jane Street는 텍사스주 데이터센터에서 4,000기 넘는 Nvidia GPU를 가동 중이며, CoreWeave에 10억 달러를 직접 출자하고 컴퓨팅 서비스에 60억 달러를 약속했다.

  3. Hugging Face Daily Papers29

    OSWAM: 1단계 행동 생성을 갖춘 World Action Model

    OSWAM은 자율주행과 신체성(embodied) 제어에서 확산 과정의 디노이징을 1단계로 수행해 행동을 생성하는 World Action Model이다. imagination tokens로 확산 과정을 초기화하고, 미래 조건부 특권 정보 증류(privileged information distillation)를 통해 행동 생성을 단일 디노이징 단계로 집약한다. 수십 단계가 필요한 direct-policy WAM 및 Joint-WAM과 동등 이상의 결과를 보였으며, direct-policy WAM 베이스라인보다 약 3배 빠르고, NVIDIA RTX 5090 GPU에서 최소 40ms 지연 시간으로 동작한다고 보고됐다.

10월 25일일
  1. WIRED AI40

    미국의 데이터센터 반대 운동은 해외 사례에서 무엇을 배울 수 있는가

    Paris Marx의 신간 『Hyperscale』은 테크 업계의 권력 확대와 이에 대한 저항을 베트남 전쟁기의 반전 운동에서 아일랜드, 칠레, 뉴질랜드까지 폭넓게 좇는다. 저자는 아일랜드에서 송전망의 제약을 받은 데이터센터 사업자가 전용 가스 화력발전소 건설로 방향을 옮긴 경위를 예로 든다. 미국에서도 이와 같은 움직임이 빠르게 확산되고 있다고 지적한다.

  2. Search: AI launches37

    AI 인프라 투자 4,000억 달러 돌파, 닷컴 시대의 재현인가

    기사는 AI 인프라 투자가 닷컴 버블이나 통신 광섬유 투자 버블과 비슷한 국면인지 검증하는 분석이다. 다만 제목의 4,000억 달러 초과라는 수치를 뒷받침할 신뢰할 만한 자료는 확인되지 않았다고 명시하고 있다. 확인된 사실은 Business Insider의 Dakin Campbell이 "we have seen this movie before"라고 발언한 것과, 구조화 신용이 AI 인프라 자금 조달에 쓰이기 시작했다는 점이다.

  3. Search: AI launches52

    Microsoft, 의사결정 특화 모델 'Microsoft-Decision-1'을 Microsoft Foundry에서 제공 시작

    Microsoft가 Microsoft Foundry에서 선택지 중에서 구조화된 판단을 반환하는 의사결정 특화 모델 Microsoft-Decision-1을 발표했다. Qwen3.5-9B를 기반으로 추가 학습한 모델로, 회사의 비교에 따르면 응답 시간 중앙값이 GPT-6 Sol보다 약 35배 빠르다. 입력은 토큰 100만 개당 $0.042이며, 출력 토큰은 무료다.

10월 24일토
  1. Search: AI launches50

    Canva, 첫 이미지 생성 모델 'Craft' 공개…DesignArena 4위

    Canva는 10월 22일 자사 연구 조직인 Canva Research가 처음부터 학습시킨 최초의 기반 모델이자 이미지 생성 모델인 Craft를 공개했다. 최대 2K 해상도와 최대 30개의 종횡비를 지원하며, Canva는 DesignArena에서 4위로 데뷔했다고 발표했다. 이용 경로는 Dream Lab과 Canva API이며, 요금과 이용 한도는 확인되지 않은 상태다.

  2. Search: AI launches56

    Kimi K3.1 Pro 공개, 코딩과 장기 작업 능력 강화… Highspeed 버전과 API 요금도 정리

    Moonshot은 Kimi K3.1 Pro를 2026년 10월 23일 Kimi.ai, 모바일 앱, Kimi Work, Kimi Code, API를 통해 제공을 시작했다고 밝혔다. Terminal-Bench 4.0에서 65.7%를 기록했다고 보고했으며, Artificial Analysis의 Intelligence Index는 55이다. 다운로드 가능한 가중치는 11월 4일까지 공개될 예정이라고 한다.

  3. OpenAI News75

    OpenAI, 프런티어 모델 훈련 환경 격리 강화 및 AI 에이전트 기반 레드티밍 실시

    OpenAI는 사내 프런티어 모델의 훈련·평가 환경 격리를 강화하고, 최상위 모델의 에이전트 팀으로 레드티밍을 실시했다. 훈련은 인터넷에 연결하지 않는 방침으로 진행하며, 9월 20일 인시던트로 중단했던 RL 훈련과 사내 추론을 10월 1일에 재개했다.

    선정 이유: 최첨단 모델의 훈련 환경을 어떻게 격리하고, 레드티밍에서 어떤 돌파 경로가 발견됐는지 구체적 사례와 함께 정리돼 있어 방어 설계를 비교하는 자료로 활용할 수 있다.

  4. AWS Machine Learning Blog41

    Amazon SageMaker AI에서의 멀티턴 강화학습 실전 가이드

    AWS가 Amazon SageMaker AI의 멀티턴 강화학습(MTRL)을 활용해 gpt-oss-20b를 Wordle로 훈련하는 절차를 설명했다. 보류한 단어에서의 정답률은 기본 추론 강도에서 61%에서 84%로, 훈련에 사용한 낮은 추론 강도에서 15%에서 69%로 향상됐다. 학습에 사용된 토큰 비용은 약 339달러였으며, 에이전트는 Amazon Bedrock AgentCore에서 호스팅된다.

  5. AWS Machine Learning Blog38

    AWS CDK로 SageMaker AI 엔드포인트의 오토스케일링을 자동 연동하는 방법

    엔드포인트 구성을 변경할 때 CloudFormation이나 AWS CDK 배포가 실패하는 문제를 재사용 가능한 CDK 컨스트럭트로 해결하는 방법을 소개한다. CDK 컨스트럭트는 AWS CloudFormation 커스텀 리소스를 이용해 엔드포인트 업데이트 전후에 오토스케일링 등록 해제와 재등록을 자동으로 수행한다. 이를 통해 인스턴스 타입이나 인스턴스 수 등의 변경과 오토스케일링 파라미터 변경을 수작업 없이 한 번의 배포로 실행할 수 있다.

  6. OpenAI News38

    10억 명 이상의 ChatGPT 사용자를 지원하기 위한 온라인 스토리지의 급속한 확장 (2부)

    OpenAI는 스토리지 기반 Habitat의 토대인 Azure Cosmos DB를 어떻게 확장했는지를 연재 2회차에서 설명했다. Habitat은 40개 지역에 걸쳐 10억 명 이상의 사용자에게 밀리초 단위로 응답해야 한다. 이 회사는 멀티테넌트 컨테이너에서 싱글테넌트로 옮겨간 뒤, 기본값을 다시 멀티테넌트로 되돌렸다.

10월 23일금
  1. Hugging Face Blog41

    AWS Trainium에서 Hub 모델 동작 여부를 확인할 수 있는 Space 공개

    Hugging Face가 Hub의 인기 모델이 AWS Trainium에서 수정 없이 그대로 동작하는지 확인할 수 있는 Space 「torch-neuronx model support」를 공개했다. 각 모델은 trn2 인스턴스에서 32개 토큰을 생성하는 방식으로 검증되며, 결과와 실행용 run.py 스크립트가 함께 제시된다.

  2. Codex releases (GitHub)40

    Codex 0.164.0 출시, /presets 및 Bedrock 설정 마법사 기본 활성화 등

    OpenAI의 Codex가 0.164.0 버전을 출시했다. 번호가 매겨진 10개 슬롯에 재사용 가능한 프롬프트와 슬래시 명령어를 저장할 수 있는 /presets가 추가됐으며, /model과 /permissions는 인라인 인수로 모델, 추론 부하, 속도, 권한 프로필을 직접 설정할 수 있게 됐다. Amazon Bedrock 설정 마법사는 기본적으로 활성화되며, 인증 정보가 감지되면 API 키 입력란이 AWS 로그인 방식과 나란히 표시된다.

  3. NVIDIA Blog35

    카자흐스탄, AI 컴퓨팅 기반 확대

    Firebird가 카자흐스탄에서 NVIDIA Grace Blackwell GPU 45,000기에 대한 미국 수출 라이선스를 취득하고 AI 인프라를 확대한다고 밝혔다. 1단계는 Kazakhtelecom 및 Data Center Valley와 함께 건설 중이며, 상업 가동은 2027년 3분기를 목표로 하고 있다. 2단계가 실현되면 카자흐스탄 내 Firebird의 AI 인프라 총용량은 약 500메가와트가 된다.

  4. MIT Technology Review AI20

    오래 쓸 수 있는 AI 서빙 하네스 설계

    기업 AI의 경쟁력은 모델 선정보다 아키텍처, 메모리 관리, 스케줄링, 최적화 등 모델 주변의 서빙 하네스 설계에서 결정된다고 주장한다. 추론 시에는 모델 가중치가 고정되어 있어도 KV 캐시가 활성 요청 수와 컨텍스트 길이에 따라 커지므로, 연산 자원에 여유가 있어도 GPU 메모리가 부족해질 수 있다. 이에 따라 먼저 측정해 병목을 찾고, 대응과 재측정을 반복하는 접근이 제안되고 있다.

  5. Search: AI launches23

    Cognizant, AI의 비용·품질·성과를 통제하는 'Cognizant AI Nexus' 발표

    Cognizant는 AI 지출 측정, AI 품질 관리, 성과 기록을 전 팀에서 수행하는 모듈형 운영 레이어 'Cognizant AI Nexus'를 발표했다. Engage, Orchestrate, Reveal, Coach, Route의 5개 기능을 개별적으로도, 조합해서도 도입할 수 있다. 같은 회사의 조사에 따르면 지난 12개월 동안 72%의 조직이 AI 예산을 초과했고, 16%는 25% 넘게 초과했다.

  6. The Verge AI38

    SpaceX와 Tesla의 합병 협의, 양사가 특별위원회 설치

    SpaceX와 Tesla가 각각 합병을 협의할 특별위원회를 설치했다. SpaceX의 3분기 실적에서 AI 부문 매출은 75.6억 달러였으며, 이 가운데 "SI solutions & infrastructure revenues"는 약 70억 달러로 전 분기의 3배 넘게 늘었다. 한편 Tesla는 2분기 연속 감익을 기록했으며, Musk는 Terafab의 양산 개시 시기를 2028년 하반기로 밝혔다.

  7. OpenAI News51

    OpenAI, Decisions API 일반 제공 시작… GPT-6 Luna로 빠른 판단 구현

    OpenAI가 GPT-6 Luna 기반 Decisions API의 일반 제공을 시작했다. 경계가 있는 응답에 특화되어 있으며, Responses API를 통해 GPT-6 Luna로 텍스트, 이미지, 구조화된 입력에서 판단을 최대 10x 더 빠르게 수행한다. 요금은 입력 100만 토큰당 $0.10이며 출력 토큰에는 과금하지 않는다.