본문 바로가기

전체 뉴스

오늘 2건
오늘11월 5일목
  1. AWS Machine Learning Blog38

    Amazon Bedrock AgentCore Evaluations에서 결정 모델을 사용하는 방법

    Amazon Bedrock AgentCore Evaluations의 코드 기반 evaluator에 TypeSafe의 호스팅 결정 모델 Jev와, 직접 구동하는 오픈소스 결정 모델 Strands Decider 2B를 연결하는 방법을 소개한다. 결정 모델은 고정된 선택지에 대해 보정된 확률을 반환하는 소형 특화 모델로, 예/아니요 질문, 최대 255개 선택지 중 고르기, 2~10단계 점수 매기기의 세 가지 유형을 지원한다. 내장 evaluator 앞단에서 합격 여부를 걸러내는 스크리닝 용도로 활용할 수 있다.

  2. AWS Machine Learning Blog44

    Deep Insight로 살펴보는 프로덕션 AI 에이전트의 컨텍스트 엔지니어링 4계층 구현

    AWS Machine Learning Blog는 프로덕션 AI 에이전트를 위한 컨텍스트 엔지니어링 4계층을 오픈소스 멀티 에이전트 데이터 분석 솔루션 'Deep Insight'의 구현 코드와 함께 해설했다(Part 2). 단일 쓰기·실행 도구로 스크립트가 컨텍스트에 추가하는 토큰을 약 95% 줄였고, 스킬을 필요할 때만 읽어 들이도록 하여 시스템 프롬프트를 약 97% 축소했다. Deep Insight는 Strands Agents SDK와 Amazon Bedrock AgentCore 위에 구축되어 있다.

11월 4일수
  1. Google DeepMind Blog40

    Google Antigravity를 활용한 에이전트형 케모인포매틱스

    Google Antigravity에 새로운 Cheminformatics Skills를 도입하면 에이전트가 폐암 치료제의 실제 사례를 바탕으로 수천 개의 화합물을 검색하고, 매치드 분자 쌍 분석을 수행해 합성 경로가 포함된 새로운 강직화 매크로사이클을 약 1시간 만에 제안할 수 있다고 한다. 분자 계산은 RDKit 등 결정론적 도구가 담당하며, 언어 모델은 워크플로 전체를 총괄하고 ChEMBL, PubChem 등 데이터베이스 탐색을 맡는다. 매크로사이클인 lorlatinib은 회전 가능한 결합이 적고 효력이 높은 경향이 있는 것으로 나타났다고 밝혔다.

  2. AWS Machine Learning Blog40

    EDB Postgres AI와 Amazon Bedrock AgentCore로 에이전트 AI용 시맨틱 레이어 구축

    EDB Postgres AI는 Postgres 내부의 AIDB 확장으로 시맨틱 레이어(SemKB)를 구현하며, 업무 정의는 COMMENT 문으로, 조인 관계는 외래 키로, 접근 제어는 GRANT와 행 수준 보안(RLS)으로 관리한다. 이 글에서는 Amazon Bedrock AgentCore 위에서 동작하는 Strands Agents 에이전트가 이 레이어를 거쳐 고객 360(C360) 질문에 답하는 구성을 보여준다. MCP 엔드포인트는 Application Load Balancer를 통해 AgentCore Gateway에 등록된다.

  3. AWS Machine Learning Blog26

    Gen Digital, Amazon Bedrock AgentCore Web Search로 Norton Revamp의 AI 큐레이션 뉴스 엔진 구축

    Gen Digital은 전문직 대상 평판 관리 플랫폼 「Norton Revamp」의 AI 큐레이션 뉴스 엔진을 Amazon Bedrock AgentCore Web Search를 사용해 구축했다고 밝혔다. AgentCore Web Search는 완전 관리형 서비스이며 AWS 환경 안에서 완결되고, 인용 원본 URL과 공개일을 반환하므로 콘텐츠 제안을 최신 출처가 명시된 정보에 기반하게 할 수 있다. 뉴스 엔진에서는 Amazon Nova Lite가 순위가 매겨진 검색 결과를 바탕으로 게시물 초안을 생성한다.

  4. AWS Machine Learning Blog38

    Bedrock AgentCore Gateway에서 ServiceNow로의 on-behalf-of 토큰 교환 구성

    Amazon Bedrock AgentCore Gateway는 Microsoft Entra ID와의 on-behalf-of(OBO) 토큰 교환을 통해 AI 에이전트가 사용자의 신원을 유지한 채 ServiceNow REST API를 호출할 수 있게 한다. 토큰 교환은 게이트웨이의 타겟에 설정되며, AgentCore Gateway가 각 요청마다 실행한다. 같은 패턴은 OAuth로 보호되는 다른 REST API에도 적용할 수 있다.

  5. AWS Machine Learning Blog25

    Amazon Quick, 정형 데이터와 비정형 데이터를 통합 처리하는 솔루션 해설

    Amazon Quick에서 Amazon S3에 있는 문서(비정형 데이터)를 지식 베이스로 삼고, 강화(enrich)된 데이터셋(정형 데이터)과 함께 하나의 Space에 모아 단일 AI 에이전트가 두 데이터를 가로질러 질문에 답할 수 있도록 하는 구성을 해설한다. 구성은 데이터 계층, 워크스페이스 계층(Space), 에이전트 계층의 3계층으로 이루어진다. Enterprise 구독 등 사전 요건도 함께 제시된다.

  6. Google Developers Blog45

    저렴한 분류기로 Gemini 모델과 사고 수준을 배분해 작업 단위 비용을 낮춘다

    저렴한 분류기로 작업마다 가장 적합한 Gemini 모델과 사고 수준을 배분해 작업 단위 비용을 낮추는 방법을 검증했다. 50문제 테스트에서 TypeSafe의 Jev 분류기는 48문제(96.0%)를 올바르게 배분했다. maxOutputTokens를 300으로 제한해도 간단한 작업의 사고 토큰은 줄지 않았고, 어려운 작업 25문제 중 7문제에서는 정답을 내지 못했다.

11월 3일화
  1. AWS Machine Learning Blog40

    Crawl4AI로 웹 콘텐츠를 전처리해 Amazon Bedrock Knowledge Bases에 적재하는 방법

    Crawl4AI로 수집한 웹 페이지를 Markdown 본문과 메타데이터 사이드카 파일로 준비한 뒤, Amazon S3 데이터 소스를 거쳐 Amazon Bedrock Knowledge Bases에 적재하는 절차를 설명한다. 표준 Amazon Bedrock Web Crawler로는 처리하기 어려운 불필요한 영역 제거, CSS 셀렉터를 이용한 영역 추출, 사용자 정의 메타데이터 부여가 필요한 경우에 쓰는 경로다. 샘플 구현은 aws-samples 리포지토리에서 제공된다.

  2. AWS Machine Learning Blog42

    Amazon Nova Multimodal Embeddings와 Amazon Bedrock AgentCore를 활용한 에이전트형 엔지니어링 지원

    AWS는 Amazon Bedrock AgentCore와 Amazon Nova Multimodal Embeddings를 사용해 항공우주 부품의 대체 평가를 지원하는 멀티 에이전트형 어시스턴트를 구축하는 방법을 소개했다. 계획 담당이 세 개의 전문 에이전트에 작업을 분배하고, 결정론적 허용오차 규칙으로 후보 부품을 채점한다. 대체 승인은 하지 않으며, 최종 판단은 엔지니어가 맡는다.

  3. AWS Machine Learning Blog42

    Amazon SageMaker AI에서 지식 증류로 효율적인 에이전트를 구축하는 방법

    Amazon SageMaker AI에서 프런티어 모델을 교사로 삼아 시퀀스 수준 지식 증류(SeqKD)로 쇼핑 에이전트를 소형 학생 모델에 파인튜닝하는 방법을 해설한다. 에이전트는 검색과 검증을 반복하므로 한 과제에서 여러 번 호출이 발생하지만, 소형 모델로 대체하면 비용과 응답 속도를 줄일 수 있다. SeqKD는 교사 모델의 텍스트 출력만 사용하기 때문에 API로만 이용할 수 있는 모델에도 적용할 수 있으며, 과제를 해결한 궤적만 학습 데이터로 남긴다.

11월 2일월
  1. WIRED AI25

    AI로 웹 검색을 써야 할 때와 피해야 할 때

    일반적이고 정보가 풍부한 질문에는 AI 검색이 편리하지만, 정확한 인용이나 통계, 제품 사양이 필요한 검색, 속보 뉴스, 건강·법률·금융처럼 오류가 허용되지 않는 검색에는 기존 Google 검색이 더 적합하다. AI는 정확한 정보원을 찾으면 내용을 올바르게 추출할 수 있지만, 적절한 정보원이 없어도 확신에 찬 답변을 내놓는 경우가 있다. 또한 권위보다 관련성으로 정보원을 고르는 경우가 있으므로, 답변에 제시된 출처는 반드시 확인해야 한다.

11월 1일일
  1. The Verge AI22

    Claude Code로 만든 Meta Muse Gadget용 AI 다마고치

    The Verge의 Sean Hollister가 50달러짜리 Waveshare ESP32-S3 1.75C 펜던트를 이용해 Claude Code로 Meta Muse Gadget용 AI 다마고치를 직접 만들었다. Meta가 공개한 오픈소스 코드와 토큰으로 Muse 클라우드에 연결했고, Claude는 대화 기록 페이지, ElevenLabs 음성 낭독, 블루투스를 통한 카메라 미리보기, 배고픔·지루함·더러움의 4단계를 갖춘 미니게임 등을 추가했다. 필자는 코딩 경험이 없으며 코드의 품질은 알 수 없다고 밝혔다.

10월 31일토
  1. AWS Machine Learning Blog42

    Amazon Bedrock 비용을 처음부터 끝까지 관리하는 가이드: FinOps 및 플랫폼 팀 대상

    Amazon Bedrock의 비용을 귀속, 가시성, 예산 기반 통제, 플랫폼 기본값 최적화, 정기 검토의 다섯 단계로 관리하는 운영 모델을 제시했다. 추론 비용은 IAM 프린시펄 단위로 CUR 2.0의 line_item_iam_principal 열에 귀속되며, 태그를 활성화하면 24~48시간 이내에 Cost Explorer에서 확인할 수 있다. 공유 역할을 사용하는 게이트웨이에서도 사용자마다 AssumeRole로 세션을 발급하고 자격 증명을 최대 1시간 캐시하면 사용자별 귀속을 유지할 수 있다고 밝혔다.

  2. Hugging Face Blog32

    NVIDIA Nemotron으로 구축한 할로윈용 대화형 유령의 집 「MonsterHouse」

    NVIDIA Nemotron Voice Agent를 활용해 할로윈용 대화형 캐릭터 「MonsterHouse」를 단일 워크스테이션에서 구동했다. 응답 생성에는 LoRA 어댑터를 탑재한 Nemotron 3.5 Bolt E4B 4GB를 사용했으며, 어댑터 학습에는 5000건 이상의 다중 턴 대화 데이터셋을 활용했다. 음성은 Magpie TTS Zeroshot, 입 모양은 Audio2Face-3D로 생성하고, Unreal Engine 5에서 렌더링했다.

10월 30일금
  1. AWS Machine Learning Blog26

    영국 Amazon Quick User Group의 2026년 활동 돌아보기

    영국의 Amazon Quick User Group은 2026년에 분기별 밋업을 3회 개최했으며, 150명 이상이 참가했다. 워크숍에서는 코딩 없이 맞춤형 채팅 에이전트를 만들어 보고, Amazon Quick Desktop과 Amazon Quick Apps를 직접 사용해 보았다. Arriva UK Trains는 역할별 대시보드를 구축해, 이동 중인 현장 관리자가 인시던트와 실적을 파악할 수 있도록 했다.

  2. AWS Machine Learning Blog37

    Kiro로 PHP에서 Java로의 재현 가능한 마이그레이션 엔진 구축

    AWS Machine Learning Blog는 AI IDE인 Kiro를 활용해 PHP 애플리케이션을 Java로 마이그레이션하는 재현 가능한 엔진을 구축하는 방법을 소개했다. 이 엔진은 공유 방법론, 기계적 탐지 스캐너, 8단계 워크플로로 구성되며, PHP 애플리케이션을 사양으로 취급하고 패리티 하네스로 검증되기 전까지는 Java 마이그레이션이 올바르다고 판정하지 않는다. Kiro뿐 아니라 대규모 마이그레이션용 AWS Transform에서도 동일한 스킬 파일을 사용해 실행할 수 있다.

  3. AWS Machine Learning Blog35

    Epsilon, Amazon Nova Act로 구축한 UI 테스트 관리형 서비스

    Epsilon의 플랫폼 팀은 Amazon Nova Act와 Amazon Bedrock AgentCore Browser Tool을 결합해, 각 제품 팀을 위한 intent-driven UI 테스트를 멀티테넌트 서비스로 제공하고 있다. 기존 Playwright 기반 회귀 테스트 스위트는 그대로 유지하고, 그 위에 자연어로 작성한 테스트 단계를 추가하는 구조다. 테스트 단계는 평이한 영어 지시문으로 Nova Act가 실행하며, 이를 통해 셀렉터 의존도를 줄이고 있다.

  4. Simon Willison62

    Fable 탑재 에이전트 군이 개발하는 멀티플레이어 게임 Spawn의 운영을 Simon Willison이 소개

    Simon Willison이 Jacob Sansbury가 쓴 Spawn의 개발 방식을 소개했다. Spawn은 프롬프트로 게임 세계를 바꿀 수 있는 대규모 멀티플레이어 환경으로, Fable을 탑재한 에이전트 무리가 자율적으로 개발하며 토큰 비용은 월 300만 달러가 넘는 것으로 알려졌다. Willison도 스마트폰으로 직접 시험해 성과 드래곤을 불러내 올라탈 수 있었다고 밝혔다.

  5. Google Blog: Gemini31

    Gemini로 이력서를 업데이트하는 방법

    Gemini에 과거 경력을 자유롭게 말해 주고, 그 메모를 바탕으로 이력서용 글머리 기호를 만드는 절차를 소개한다. 구체적으로는 “professional resume writer”로 행동하게 하고, 직무에 맞춘 네 가지 핵심 사항을 강한 동사로 시작하는 프롬프트를 사용한다. 이후에는 대화를 통해 세부 내용과 어조를 조정하고, 완성된 내용을 이력서에 붙여 넣는다.

  6. AWS Machine Learning Blog41

    NVIDIA Nemotron 모델을 Amazon EKS 및 SageMaker HyperPod EKS에서 구동해 에이전트형 AI를 가속

    NVIDIA Nemotron 3.5 Super VL을 Amazon EKS, EKS Auto Mode, SageMaker HyperPod EKS에 배포하는 방법을 설명한다. 총 파라미터 120B, 토큰당 12B가 활성화되는 MoE 모델로, 최대 1M 토큰의 컨텍스트를 지원하며 텍스트, 이미지, 문서, 동영상을 입력할 수 있다.

10월 29일목
  1. AWS Machine Learning Blog31

    Ray Train DLC와 EFA로 EKS에서 분산 학습하는 방법

    Ray Train DLC는 PyTorch, CUDA, NCCL, EFA 네트워크 스택, Ray를 하나로 묶어 검증된 컨테이너 이미지로, 빌드 없이 여러 노드에 걸친 분산 학습에 사용할 수 있다. 본 샘플에서는 이 공개 이미지를 그대로 사용해, g6.12xlarge 인스턴스 2대의 NVIDIA L4 GPU 8기로 Qwen2.5-1.5B를 PyTorch FSDP로 파인튜닝한다. 클러스터 구성은 RayCluster 매니페스트와 변수 파일만으로 정의되며, EFA는 Pod가 요청하면 노드 간 통신에 사용된다.

10월 28일수
  1. Simon Willison58

    Simon Willison, 2026년 10월을 바이브 코딩 게임 개발의 전환점으로 평가

    Simon Willison은 Claude Opus 5.5가 게임 디자인까지 포함해 재미있는 게임을 만들 수 있게 됐다며, 2026년 10월을 바이브 코딩에 의한 게임 개발의 전환점으로 규정했다. 몇 주 만에 브라우저 게임 4편을 만들었고, 모두 코드를 보지 않고도 실제로 즐길 수 있는 수준에 이르렀다고 한다. GPT-6 Astra는 재미의 감각에서 Opus 5.5에 미치지 못한다고 보고 있다.

  2. Simon Willison28

    GitHub Universe 컨퍼런스 배지에서 Game Boy Color 에뮬레이터 구동

    GitHub Universe 컨퍼런스 배지 위에서 Steve Francia 씨가 Game Boy와 Game Boy Color 에뮬레이터를 구동했다. Gemini를 활용해 NES 에뮬레이터를 먼저 구동한 뒤 두 기종으로 확장했다. ROM을 구하면 배지에서 『The Legend of Zelda: Link's Awakening』도 즐길 수 있으며, 배지를 뒤집으면 본체에 내장된 터치 버튼으로 게임 컨트롤러 조작이 가능하다.

  3. Claude Blog40

    Google Cloud에서 Claude Code 비용을 관리하고 ROI를 입증하는 방법

    Anthropic은 Google Cloud의 Claude Code 비용을 '관리(control)', '추적(track)', '효과 입증(prove)'의 세 단계로 정리하는 방법을 설명했다. Claude apps gateway에서는 사용자, IdP 그룹, 조직 단위별로 일·주·월 단위 사용 한도를 설정할 수 있으며, 한도의 75%와 95%를 넘으면 개발자에게 경고가 표시된다. 한도에 도달하면 gateway는 429 응답을 반환한다. 또한 비용을 평가할 때 가장 중요한 지표는 작업당 비용이라고 밝혔다.

  4. Google Developers Blog36

    GCP 기반 멀티 에이전트 스웜을 활용한 대화형 커머스: 작동하는 프로토타입 구축

    Google Developers Blog는 LangGraph, Gemini, FastAPI, Google Cloud를 활용해 대화형 커머스 프로토타입 「HappyDelivery」를 구축하고, 멀티 에이전트 스웜 기반 주문 처리 구조를 코드와 함께 공개했다. 인제스트 계층은 서명을 검증한 뒤 이벤트를 Cloud Pub/Sub에 적재했으며, Run 2~5에서는 약 295~302밀리초 만에 HTTP 200을 반환했다. Cloud Run 내에서 Pub/Sub으로 발행하는 데 걸리는 오버헤드는 약 95밀리초로 알려져 있다.

  5. Latent Space42

    OpenCode와 Qwen3.5 9B로 오프라인 AI 코딩 에이전트 써보기

    저자는 노트북에서 Ollama로 Qwen3.5 9B를 실행하고, OpenCode에 로컬로 연결해 네트워크를 끊은 상태에서 코딩 작업을 수행하는 절차를 소개한다. Qwen3.5 9B의 모델 카드에 실린 수치는 LiveCodeBench v6 65.6, BFCL-V4 66.1이며, 다운로드 크기는 6.6~7.6GB다. 저자는 이 다운로드 크기가 RAM 요구 사양이 아니라는 점, 그리고 64k 토큰 구성에서는 메모리에 더 여유가 필요할 수 있다는 점을 주의하라고 덧붙인다.

10월 27일화
  1. WIRED AI56

    WIRED, 주요 AI 에이전트 6종 하루 실측 비교…종합 1위는 OpenAI의 Dots

    WIRED 기자 Reece Rogers는 상시 가동형 AI 에이전트 6종을 24시간 동안 5개 과제에 투입해 채점했으며, 종합 최우수로 OpenAI의 Dots를 선정했다. Meta의 Muse는 무료이며 가장 도입하기 쉬웠고, Anthropic의 Claude Duet은 인터페이스가 가장 우수하다는 평가를 받았다. 다만 기자는 어느 것도 추천하지는 않는다며, 프라이버시와 보안에 대한 우려가 남아 있다고 밝혔다.

  2. 삼성전자 뉴스룸25

    갤럭시 버즈 온 체험기, 귀를 막지 않는 클립형 이어폰 하루 사용기

    삼성전자가 갤럭시 최초의 클립형 이어폰 ‘갤럭시 버즈 온’을 출시했다. 뉴스룸은 귀를 막지 않는 디자인으로 운동, 업무, 출퇴근길을 하루 동안 체험하며 음성 명령으로 ‘제미나이 라이브’를 실행하고 음악과 음량을 제어하는 기능, 3개의 마이크를 활용한 ‘인텔리전트 클리어 콜’의 통화 품질을 소개했다. 다만 재생 음량과 주변 환경에 따라 소리가 밖으로 새어 나올 수 있다고 밝혔다.

  3. Simon Willison28

    webframe을 스크레이퍼 및 샌드박스로 평가

    webframe을 평가한 결과, 빠르고 가벼운 브라우저 JavaScript 실행 도구로서 스크레이핑에서 shot-scraper에 필적하는 성능을 보였다. 다만 CSP 위반으로 인한 실패, 0×0 뷰포트, 로딩이 멈추는 문제, HTTP 메타데이터 누락, 브라우저 제어의 제약 등 거친 부분이 남아 있다. webframe은 Go로 작성되었으며, glaze 라이브러리를 통해 시스템 브라우저(macOS는 WKWebView, Linux는 WebKitGTK, Windows는 WebView2)를 사용한다.

  4. AWS Machine Learning Blog42

    AWS CDK로 Managed Amazon Bedrock Knowledge Base 위에 에이전트형 검색 구축하기

    AWS CDK(Python)로 Managed Amazon Bedrock Knowledge Base 위에 에이전트형 검색을 구축하는 방법을 해설한다. 에이전트는 두 개의 Knowledge Base를 용도에 따라 구분해 사용하며, AgentCore Gateway를 거쳐 검색하고 출처를 포함한 답변을 반환하는 구성이다. 명령어 한 번으로 배포할 수 있으며, CloudWatch 대시보드 2종(7개 계층의 텔레메트리)과 온디맨드·연속 방식의 평가 2종도 같은 배포에 포함된다.

  5. Google Blog: Gemini22

    대학생 15명이 꼽은 Gemini 활용법: 학습, 노트 정리, 이미지 생성까지

    Google Student Ambassadors 15명이 저마다 좋아하는 Gemini의 기능과 활용법을 소개했다. 소개된 기능은 Study notebooks, Gemini Live, Guided Learning, Study guides, Quizzes, Unlimited uploads, Audio Overviews, Nano Banana(이미지 생성), Gemini in Chrome 등이다. Guided Learning에서는 정답을 바로 알려주는 대신 학생에게 질문을 던져 스스로 생각하며 이해하도록 돕는 사용법이 소개되었다.

10월 26일월
10월 24일토
  1. Simon Willison36

    Claude Opus 5.5 High, 사진을 붓 터치로 다시 그리는 “Quick Study” 제작

    Simon Willison은 Claude Opus 5.5 High에 대한 프롬프트로, 사진을 열면 몇 초 만에 canvas 요소와 모의 붓으로 그 사진을 다시 그리는 아티팩트 “Quick Study”를 만들었다. 이미지의 가장자리 검출에는 Sobel 기법을 사용했으며, 외부 라이브러리는 Google Fonts만 사용했다. 이전에는 Claude Fable에게 P5.js로 수채화풍 일러스트를 모방하게 하는 실험도 진행한 바 있다.

  2. AWS Machine Learning Blog41

    Amazon SageMaker AI에서의 멀티턴 강화학습 실전 가이드

    AWS가 Amazon SageMaker AI의 멀티턴 강화학습(MTRL)을 활용해 gpt-oss-20b를 Wordle로 훈련하는 절차를 설명했다. 보류한 단어에서의 정답률은 기본 추론 강도에서 61%에서 84%로, 훈련에 사용한 낮은 추론 강도에서 15%에서 69%로 향상됐다. 학습에 사용된 토큰 비용은 약 339달러였으며, 에이전트는 Amazon Bedrock AgentCore에서 호스팅된다.

  3. AWS Machine Learning Blog38

    AWS CDK로 SageMaker AI 엔드포인트의 오토스케일링을 자동 연동하는 방법

    엔드포인트 구성을 변경할 때 CloudFormation이나 AWS CDK 배포가 실패하는 문제를 재사용 가능한 CDK 컨스트럭트로 해결하는 방법을 소개한다. CDK 컨스트럭트는 AWS CloudFormation 커스텀 리소스를 이용해 엔드포인트 업데이트 전후에 오토스케일링 등록 해제와 재등록을 자동으로 수행한다. 이를 통해 인스턴스 타입이나 인스턴스 수 등의 변경과 오토스케일링 파라미터 변경을 수작업 없이 한 번의 배포로 실행할 수 있다.

  4. OpenAI News38

    10억 명 이상의 ChatGPT 사용자를 지원하기 위한 온라인 스토리지의 급속한 확장 (2부)

    OpenAI는 스토리지 기반 Habitat의 토대인 Azure Cosmos DB를 어떻게 확장했는지를 연재 2회차에서 설명했다. Habitat은 40개 지역에 걸쳐 10억 명 이상의 사용자에게 밀리초 단위로 응답해야 한다. 이 회사는 멀티테넌트 컨테이너에서 싱글테넌트로 옮겨간 뒤, 기본값을 다시 멀티테넌트로 되돌렸다.

10월 23일금
  1. AWS Machine Learning Blog38

    Amazon SageMaker AI의 Kokoro TTS로 AI 에이전트 음성을 저지연 스트리밍

    AWS Machine Learning Blog는 AI 에이전트가 문장을 생성할 때마다 그 문장을 Kokoro-82M TTS 모델로 보내, 전체 텍스트 생성을 기다리지 않고 음성 합성을 시작하는 방법을 소개했다. Kokoro-82M(8,200만 파라미터)은 SageMaker AI 실시간 엔드포인트에서 ml.g5.xlarge GPU 인스턴스로 동작하며, 컨테이너는 POST /invocations와 WS /invocations-bidirectional-stream 두 가지 라우트를 제공한다.