AWS Machine Learning Blog· Deniz Yilmaz·· 23일 전AI 점수38
Orca Security, Amazon Bedrock 기반 자연어 보안 쿼리 플랫폼 「Discovery AI」 구축
Natural language security queries at Orca Security using Amazon Bedrock
AI 요약
Orca Security는 Amazon Bedrock에서 자연어 질문을 Sonar 쿼리로 변환하는 「Discovery AI」를 구축했다고 밝혔다. 초기 구성과 비교해 쿼리 비용은 90%, 입력 토큰은 93%, 지연 시간은 75% 줄였다. RAG와 스키마를 고려한 쿼리 구성을 결합한 9단계 파이프라인으로, Amazon Titan Text Embeddings로 유사 사례를 검색하고 Cohere Rerank 3.5로 재순위를 매긴다. 운영 환경에서는 하루 수천 건의 쿼리를 약 15초의 응답 시간으로 처리한다.
출처: AWS Machine Learning Blog · aws.amazon.com