AWS Machine Learning Blog· Urvish Saraiya·· 16일 전AI 점수38
Octave, Amazon Bedrock 기반 보안 멀티테넌트 AI 플랫폼 구축 방법
How Octave built a secure multi-tenant AI foundation on Amazon Bedrock
AI 요약
Octave Reliance는 Amazon Bedrock 위에 테넌트별로 데이터를 분리하는 AI 플랫폼을 3계층으로 구축했다고 밝혔다. 데이터 준비 단계에서는 Cohere Embed v4로 문서를 임베딩하고, 테넌트 단위의 Amazon OpenSearch Service 벡터 스토어에 저장한다. 여기에 AgentCore Gateway를 통한 인증 및 정책 적용과 Amazon Bedrock Guardrails를 이용한 입출력 필터링을 결합했으며, 이를 통해 유스케이스별 배포 시간을 50% 단축했다고 한다.
출처: AWS Machine Learning Blog · aws.amazon.com