Latent Space· Richard MacManus·· 21일 전AI 점수38
OpenAI와 Anthropic, 금융 에이전트의 자율성과 안전성에 어떻게 대응하나
Crossing the Threshold: How OpenAI and Anthropic Approach Autonomy and Safety in Financial Agents
AI 요약
AI Engineer New York에서 OpenAI와 Anthropic은 금융 분야 에이전트에서 자율성과 안전성을 함께 확보하는 방안을 제시했다. 두 회사가 강조한 것은 제한의 수보다 통제와 인간의 판단을 어디에 둘지가 안전한 자율성을 좌우한다는 점이다. 헤지펀드 Two Sigma는 자동 모드 분류기로 정형적인 판단을 처리하고, 중요한 요청만 사람에게 넘기는 구조를 도입했다고 설명했다.
출처: Latent Space · latent.space