The Decoder· Manuel Uth·· 5일 전AI 점수44
OpenAI, 통제가 어렵다는 지적을 받은 AI 모델의 새로운 행동 지침 마련
OpenAI sets new behavioral guidelines for AI models that have already proven hard to control
AI 요약
OpenAI, 'Model Spec' 개정… 5대 핵심 가치 중심으로 재구성 OpenAI는 AI 모델의 공개 행동 지침인 'Model Spec'을 개정하고, '인간 의도에 대한 충실성', '해악 최소화', '성실성과 투명성', '인간의 자율성 존중', '배려'라는 5가지 핵심 가치를 중심으로 재구성했다고 밝혔다. 개정판에서는 GPT 모델이 기억과 과거 대화를 참조해 요구를 파악하되, 사용자의 발언과 추측을 구분하고 전제를 공개해 수정할 수 있도록 해야 한다고 명시했다. 에이전트에 대해서는 감시·수정·중단을 방해하지 않을 것과 자기 보존 등 독자적인 목적을 추구하지 않을 것을 요구했다.
출처: The Decoder · the-decoder.com