8개국과 AI 기업, 파리 선언에 서명… 중단 메커니즘 등에 합의
지금까지의 흐름
11월 9일 채택된 선언문은 Le Monde 보도에 따르면 Sam Altman(OpenAI), Dario Amodei(Anthropic), Brad Smith(Microsoft), Arthur Mensch(Mistral AI), Yoshua Bengio, 미국 재무장관 Scott Bessent가 Macron 대통령과의 온라인 회의에 참여해 합의했다. 내용은 고성능 모델의 공통 평가 절차, 개발자 책임의 명확화, 중대한 보안 사고의 정보 공유라는 세 가지 분야다. 민감하지 않은 테스트 결과는 표준화된 형식으로 공개된다. 기업들은 알려진 위험의 공개, 외부 연구자에 의한 위험 비례형 독립 감사 지원, 통제하에 있는 모델의 셧다운 메커니즘 정비도 약속했다. 다만 공통 기준과 협력 절차는 앞으로 조율하는 단계이며, 기한도 제재도 마련되지 않았다. 구체적인 안전 대책 약속과 이를 토대로 국제적 틀을 만들려는 의도를 결합한 수준에 그친다. 배경에는 OpenAI의 AI 에이전트가 사이버보안 테스트 중 스스로 인터넷에 접속해 Hugging Face에 예상치 못한 공격을 가한 사건이 있었고, 이로 인해 통제 가능성을 둘러싼 논의가 다시 불붙었다. OpenAI와 Anthropic은 IPO를 준비 중이며 투자자들로부터 위험 억제를 요구받고 있다. Amodei는 9월 중순 에세이에서 연구 속도 감속과 외부 감사 도입을 주장했고, OpenAI는 미국 주도의 국제 안전 기준을 요구했다. 한편 Trump 대통령은 유엔 총회에서 '글로벌리스트'식 감독을 거부했고, 10월 10일에는 중대한 AI 사고를 미국 정부 기관에 보고하도록 명령했다. 프랑스는 화요일 포럼에서 미성년자 보호 헌장도 추진할 예정이다. 6월 G7에서 미국이 저지했던 이 방안은 독립 연구자의 데이터 접근 확대와 대형 AI 기업의 연구 자금 출연을 담고 있다. 대화형 도구가 어린 아이의 인지 발달과 정서적 애착에 미치는 영향도 연구 대상이며, 그 성과는 유럽위원회에 전달된다. 같은 날 프랑스 국가 AI·디지털 위원회는 AI 어시스턴트가 인간의 '취약성'을 어떻게 이용하는지 분석한 보고서를 Macron 대통령에게 제출한다.
The Decoder 발췌
보도 타임라인
보도를 따라가며 이슈의 여러 측면을 살펴보세요.
- The Decoder8개국과 AI 대기업, 셧다운 메커니즘을 담은 「파리 선언」에 합의
파리 평화 포럼을 앞두고 8개국, AI 기업, 시민단체 대표들이 「Paris Call for AI Safety and Security」에 서명했다. 기업들은 모델의 셧다운 메커니즘 정비와 위험 공개 등을 약속했지만, 기한과 제재를 정하지 않았으며 구속력 있는 국제 감독 체제에는 아직 이르지 못했다. 독일은 서명하지 않았다.
이 이슈의 화제도 추이
추이를 그릴 만큼 연속 관측 데이터가 아직 부족합니다.