호주 정부, 프런티어 AI 기업에 독립 감사를 의무화하는 안전법안 발표

Australia's proposed AI safety bill would force frontier model makers to open up to independent testing

AI 요약

호주의 앨버니지 총리가 이끄는 정부는 국내에서 사업을 하는 프런티어 AI 기업에 처음으로 의무적인 안전 규칙을 부과하는 법안을 발표했다. 독립 감사 수용, 지속적인 안전 점검, 안전 프레임워크 공개, 보안 사고의 즉시 보고가 요구된다. 협의가 끝난 뒤 세부 내용이 제시될 예정이다.

자세히

대상은 가장 고도화되고 위험성이 높은 모델이다. 정부의 「AI in Australia's Interests」 방침에 따른 것으로, Australian AI Safety Institute와 함께 준수 여부를 감독하는 새로운 감독 기관이 설치된다. 위반 시에는 엄격한 처벌을 부과하는 구조로 되어 있다.

개발 기업에는 모델을 독립 감사에 공개할 것, 지속적인 안전 점검을 수행할 것, 안전 프레임워크를 공개할 것, 보안 사고를 정부에 즉시 보고할 것이 요구된다. 즉시 보고는 폭주하는 AI 에이전트의 초기 징후를 포착하려는 목적도 일부 있다고 한다.

출처: The Decoder · the-decoder.com