Anthropic, 사망자 50명 이상 또는 미국 내 재산 피해 10억 달러 초과가 예상되는 AI 모델의 배포 중단을 가능하게 하는 안전 법안 제안

Anthropic이 사망자 50명 이상 또는 10억 달러 초과의 재산 피해로 이어질 수 있는 "임박한 중대 위험"이 있는 경우 AI 모델의 배포를 중단할 수 있도록 하는 법안 초안을 연방의회에 제시했다. 평가자는 상무부에 등록된 "독립 평가자"이며, 보수는 AI 기업이 지급할 수 있으나 결과에 영향을 받지 않아야 한다는 조건이 붙는다. 평가자가 중대 위험을 인정하면 72시간 이내에 상무부에 통지하고, 상무부가 D.C. 판사에게 중단을 요구하는 구조이며, 연방기관이 단독으로 중단하는 것은 금지된다.